【谷歌推出首款終端AI芯片EdgeTPU，發力IoT市場】7月26日消息，谷歌于美國當地時間周三發布了用于邊緣計算的新版AI芯片——微型AI加速器EdgeTPU，可實現物聯網設備上的機器學習模型運算。

兩年前，谷歌推出可以輕松完成AI任務的張量處理單元TPU(TensorProcessingUnits)。隨著連接設備的爆炸性增長，以及對隱私、機密性、低延遲和帶寬限制的需求，谷歌正將AI模型從云端轉移到終端。EdgeTPU作為CloudTPU處理器的簡化版本，將谷歌云的AI功能移植到物聯網上，使傳感器等設備能更快更便捷地處理數據。

一、把AI帶到邊緣：EdgeTPU

EdgeTPU是谷歌專門設計的ASIC芯片，用于在邊緣設備上運行TensorFlowLiteML模型進行推理。它在較小的物理和功耗范圍內提供高性能，并在邊緣部署高精度AI，能夠使用戶以高效率的方式在高分辨率視頻上以每秒30幀的速度同時執行多幀最先進的AI模型。CloudIoT產品管理部門負責人AntonyPassemard表示，EdgeTPU的大小比1美分還要小許多。

目前，在為顯示面板生產玻璃的過程中，該檢測設備每秒可處理200多張玻璃圖像。

▲EdgeTPU和CloudTPU對比

作為CloudTPU互補的產品，EdgeTPU向用戶提供端到端和云端到端的硬件+軟件AI基礎架構，以便于部署基于AI的解決方案。不同于CloudTPU，它只用于機器學習推理，不用于相關模型訓練，因此可以以超低功率的方式進行計算，適合物聯網設備采用。EdgeTPU使用的軟件和服務是CloudIoTEdge和物聯網操作系統AndroidThings。它可以使用TensorFlowLite和NNAPI兩種機器學習框架，以及EdgeTPU、GPU和CPU三種硬件加速器。憑借其高性能、小尺寸和低功耗的特點，EdgeTPU能在邊緣設備上實現本地實時進行高質量的AI運算。

這款芯片不僅僅是一個硬件解決方案。它結合了定制硬件、開放軟件和最先進的AI算法，為邊緣提供高質量、易于部署的AI解決方案。

EdgeTPU具有較高的每瓦性能和較小的占地面積，可實現廣泛的工業用例，例如預測性維護，異常檢測，機器視覺，機器人，語音識別等等。它可以被應用在制造、醫療保健、零售、智能空間、運輸等。

二、EdgeTPU的配套軟件：CloudIoTEdge

谷歌還推出了CloudIoTEdge軟件平臺，可將訓練好的機器學習模型移植到邊緣計算基礎設施的設備上運行。該平臺有兩個關鍵組件。

其一是EdgeIoTCore。這是AzureIoTEdge設備管理器和協議網關，可將邊緣設備安全地連接到云、啟用軟件和固件更新，以及使用CloudIoTCore管理數據交換。

其二是EdgeML。它是TensorFlowLiteML工具的精簡版，在本地運行預先訓練好的TensorFlowLiteML模型，可以顯著提高邊緣設備的處理能力和多功能性。這使得下一波機器學習應用程序和用例成為可能。

此外，該平臺還利用了谷歌專用的硬件加速器ASIC芯片EdgeTPUTM。

▲CloudIoTEdge的工作原理

CloudIoTEdge將谷歌云強大的數據處理和機器學習擴展到數十億邊緣設備，如機器人手臂、風力渦輪機和石油鉆井平臺等，因此他們可以實時處理來自傳感器的數據并在本地預測結果。CloudIoTEdge可在AndroidThings或基于Linux的操作系統上運行。

結語：打通EdgeTPU的生態

為了實現EdgeTPU的快速開發和測試，谷歌為開發者提供了開發套件EdgeTPUdevelopmentkit。該套件包括一個模塊化系統(SOM)，結合EdgeTPU、NXPCPU、Wi-Fi和Microchip等安全組件。該套件將在今年10月對開發者開放，也可以注冊申請提前訪問(申請鏈接：http://t.cn/ReLmOSK)。

此外，谷歌還推出了兩款AIY設備，即AIYEdgeTPU開發板和AIYEdgeTPU加速器。AIYEdgeTPU開發板內置EdgeTPU、NXPCPU處理器、集成GPU、8GBeMMC閃存、Wi-Fi功能和加密芯片。其長約3-4個10美元硬幣，寬約2-3個10元硬幣。

谷歌推出首款終端AI芯片EdgeTPU，發力IoT市場

AIYEdgeTPU加速器是一個帶了type-C接口的USB設備，內置EdgeTPU處理器，可連接到Linux和AndroidThings系統，并支持在TensorFlowLite框架下運行。

谷歌推出首款終端AI芯片EdgeTPU，發力IoT市場

這兩款AIY設備暫無提前申請渠道，將在今年秋天上市。