Google蓄力的Edge TPU終于正式對外公布了,不僅如此,此次Google還帶來了基于Edge TPU的AIY Edge TPU開發(fā)板以及AIY Edge TPU加速器,全面幫助工程師將機器學習部署到AI產品開發(fā)中去。軟文外鏈
谷歌的Edge TPU并不是他們發(fā)布的第一款硬件芯片,幾個月前,用于運行基于TensorFlow框架開發(fā)的機器學習工作負載的Cloud TPU已經推出了測試版?,F(xiàn)在,谷歌在Edge TPU方面更進一步,這是一款由谷歌設計的專用ASIC芯片,可以在邊緣運行TensorFlow Lite ML模型。
目前來看,Edge TPU的尺寸約為1美分硬幣的1/8大小,它可以在較小的物理尺寸以及功耗范圍內提供不錯的性能(目前具體性能指標不清楚,官方稱可以在高清分辨率的視頻上以每秒30幀的速度,在每幀上同時執(zhí)行多個最先進的AI模型),支持PCIe以及USB接口。
AIY Edge TPU Accelerator.
Edge TPU優(yōu)勢在于可以加速設備上的機器學習推理,或者也可以與Google Cloud配對以創(chuàng)建完整的云端到邊緣機器學習堆棧。在任一配置中,Edge TPU通過直接在設備本地處理數(shù)據(jù),這樣不僅保護隱私,而且消除對持久網(wǎng)絡連接的需要,減少延遲,允許使用更少的功率和性能。
AYI Edge TPU開發(fā)板(PK 樹莓派)
AIY Edge TPU開發(fā)板是一款搭載了Edge TPU的單板計算機,功能非常豐富。開發(fā)板分為底板跟核心板,底板包括一些常用的外設接口,而核心板是基于Google Edge TPU的模塊化系統(tǒng)子板(核心板與底板可以分離),也就是SOM(system-on-module )。
AIY Edge TPU Dev Board
目前官方沒有揭露更多細節(jié),可以確定的有二點:
采用 int8/int16 計算方式, 因此無法將 TensorFlow 在沒特別處理過的 model 直接在 Edge TPU 上運算. 在 Training 時就必須考慮或是使用前可能必須透過 Quantization 處理.,
連接介面采用 PCIe 與 USB.這代表除了 Embedded/IoT 開發(fā)應用外, 然而有著 PCIe 高速介面或許有可能多顆協(xié)同運作模式, 有著對較為強大的平臺的使用彈性
發(fā)布的同一時間, Google 也發(fā)表了兩款基于 Edge TPU 的 AIY Edge TPU Boards —AIY Edge TPU Dev Board 與 AIY Edge TPU Accelerator.
谷歌還將在今年10月晚些時候提供開發(fā)套件,讓開發(fā)人員開始開發(fā)和測試Edge TPU。該套件包括一個“模塊化系統(tǒng)”(SOM),包含了谷歌的Edge TPU、恩智浦CPU、Wi-Fi和Microchip的安全元件。此外,谷歌將與他們的物聯(lián)網(wǎng)(IoT)生態(tài)系統(tǒng)合作伙伴合作開發(fā)智能設備,并在這些設備上使用谷歌云IoT的創(chuàng)新技術。
Edge TPU與Cloud IoT Edge相結合,可以讓用戶通過Edge TPU硬件加速器運行在谷歌云平臺(GCP)上訓練出來的模型。此外,Cloud IoT Edge本身也包含兩個組件:Edge IoT Core和Edge ML,并且它也使用了Edge TPU或者基于GPU和CPU的加速器。
客戶可以在Android Things或基于Linux OS的設備上運行Cloud IoT Edge。此外,Cloud IoT Edge可以安全地將邊緣設備連接到云,實現(xiàn)軟件和固件更新,還可以使用Cloud IoT Core來管理和交換數(shù)據(jù)。IoT Core中的Edge ML將在客戶端運行預先訓練的TensorFlow Lite模型,并進行ML推斷,從而顯著提高邊緣設備的處理能力和多功能性。
隨著Cloud IoT Edge和Edge TPU的發(fā)布,谷歌在其Cloud IoT核心服務之外的市場擴展了他們的產品,為客戶提供了更多的物聯(lián)網(wǎng)可能性。
什么是谷歌AIY Projects項目?
在2017 年上半年,谷歌宣布了一個新的開源計劃--AIY Projects(AIY計劃),其目標是讓每個Maker(創(chuàng)客)都能DIY自己的 AI 人工智能產品,讓更多人能學習、探索并體驗人工智能。AIY 全稱是 Artificial Intelligence Yourself,顧名思義就是利用 AI 來進行的 DIY 功能套件。借助 AIY 項目,創(chuàng)客可以利用人工智能來實現(xiàn)更像人與人交流的人機交互。谷歌目前為 AIY Projects 推出了兩款硬件產品--AIY Voice Kit 和 AIY Vision Kit。
聯(lián)系客服