智東西（公眾號：zhidxcom）

文 | 心緣

智東西7月26日消息，谷歌於美國當地時間周三發布了用於邊緣計算的新版AI芯片——微型AI加速器Edge TPU，可實現物聯網設備上的機器學習模型運算。

兩年前，谷歌推出可以輕鬆完成AI任務的張量處理單元TPU（Tensor Processing Units）。隨著連接設備的爆炸性增長，以及對隱私、機密性、低延遲和帶寬限制的需求，谷歌正將AI模型從雲端轉移到終端。Edge TPU作為Cloud TPU處理器的簡化版本，將谷歌雲的AI功能移植到物聯網上，使傳感器等設備能更快更便捷地處理數據。

一、把AI帶到邊緣：Edge TPU

Edge TPU是谷歌專門設計的ASIC芯片，用於在邊緣設備上運行TensorFlow Lite ML模型進行推理。它在較小的物理和功耗範圍內提供高性能，並在邊緣部署高精度AI，能夠使用戶以高效率的方式在高分辨率影片上以每秒30幀的速度同時執行多幀最先進的AI模型。Cloud IoT產品管理部門負責人Antony Passemard表示，Edge TPU的大小比1美分還要小許多。

目前，在為顯示面板生產玻璃的過程中，該檢測設備每秒可處理200多張玻璃影像。

▲Edge TPU和Cloud TPU對比

作為Cloud TPU互補的產品，Edge TPU向用戶提供端到端和雲端到端的硬體+軟體AI基礎架構，以便於部署基於AI的解決方案。不同於Cloud TPU，它隻用於機器學習推理，不用於相關模型訓練，因此可以以超低功率的方式進行計算，適合物聯網設備採用。Edge TPU使用的軟體和服務是Cloud IoT Edge和物聯網作業系統Android Things。它可以使用TensorFlow Lite和NN API兩種機器學習框架，以及Edge TPU、GPU和CPU三種硬體加速器。憑借其高性能、小尺寸和低功耗的特點，Edge TPU能在邊緣設備上實現本地實時進行高品質的AI運算。

這款芯片不僅僅是一個硬體解決方案。它結合了定製硬體、開放軟體和最先進的AI算法，為邊緣提供高品質、易於部署的AI解決方案。

Edge TPU具有較高的每瓦性能和較小的佔地面積，可實現廣泛的工業用例，例如預測性維護，異常檢測，機器視覺，機器人，語音識別等等。它可以被應用在製造、醫療保健、零售、智能太空、運輸等。

二、Edge TPU的配套軟體：Cloud IoT Edge

谷歌還推出了Cloud IoT Edge軟體平台，可將訓練好的機器學習模型移植到邊緣計算基礎設施的設備上運行。該平台有兩個關鍵組件。

其一是Edge IoT Core。這是Azure IoT Edge設備管理器和協定網關，可將邊緣設備安全地連接到雲、啟用軟體和韌體更新，以及使用Cloud IoT Core管理數據交換。

其二是Edge ML。它是TensorFlow Lite ML工具的精簡版，在本地運行預先訓練好的TensorFlow Lite ML模型，可以顯著提高邊緣設備的處理能力和多功能性。這使得下一波機器學習應用程式和用例成為可能。

此外，該平台還利用了谷歌專用的硬體加速器ASIC芯片Edge TPU TM。

▲Cloud IoT Edge的工作原理

Cloud IoT Edge將谷歌雲強大的數據處理和機器學習擴展到數十億邊緣設備，如機器人手臂、風力渦輪機和石油鑽井平台等，因此他們可以實時處理來自傳感器的數據並在本地預測結果。Cloud IoT Edge可在Android Things或基於Linux的作業系統上運行。

結語：打通Edge TPU的生態

為了實現Edge TPU的快速開發和測試，谷歌為開發者提供了開發套件Edge TPU development kit。該套件包括一個模塊化系統（SOM），結合 Edge TPU、NXP CPU、Wi-Fi 和 Microchip 等安全組件。該套件將在今年10月對開發者開放，也可以注冊申請提前訪問（申請鏈接：http://t.cn/ReLmOSK）。

此外，谷歌還推出了兩款AIY設備，即AIY Edge TPU開發板和AIY Edge TPU加速器。AIY Edge TPU開發板內置Edge TPU、NXP CPU處理器、集成GPU、8GB eMMC閃存、Wi-Fi功能和加密芯片。其長約3-4個10美元硬幣，寬約2-3個10元硬幣。

AIY Edge TPU加速器是一個帶了type-C接口的USB設備，內置Edge TPU處理器，可連接到Linux和Android Things系統，並支持在TensorFlow Lite框架下運行。

這兩款AIY設備暫無提前申請管道，將在今年秋天上市。