巨頭們的AI芯片戰(zhàn)火已經從云端蔓延至了邊緣,這是一個喜憂參半的消息。
文 | 包永剛
AI的熱潮還在持續(xù),AI的戰(zhàn)火自然也在升級。英偉達作為這一波AI浪潮中最受關注的公司之一,在很大程度上影響著AI的戰(zhàn)局。上周在美國舉行的GTC 2019上,黃仁勛大篇幅介紹了英偉達在AI軟件和計算力方面的提升,但售價僅為99美元(約664元人民幣)的Jetson Nano人工智能計算機卻成了最受關注的焦點。本月早些時候的TensorFlow開發(fā)者峰會上,谷歌也發(fā)布售價149.99美元(約1009元人民幣)的Edge TPU開發(fā)板。
這意味著,巨頭們的AI芯片戰(zhàn)火已經從云端蔓延至了邊緣,但這為什么是一個喜憂參半的消息?
雖然是最受關注的AI芯片公司,但2018年的英偉達算不上順利,先是因為礦難導致GPU庫存高企,后又因中國市場的需求和服務器市場需求低于預期股價受拖累。整個2018年,英偉達的市值縮水了近一半。因此,在AMD已經搶先發(fā)布7nm GPU的背景下,外界更加期待英偉達能在GTC 2019上發(fā)布最新7nm GPU。
不過,黃仁勛并未發(fā)布最新的7nm GPU,而是花了大量的時間介紹RTX和CUDA-X AI。
CUDA-X AI把所有英偉達的庫整合。根據黃仁勛的說法,CUDA-X AI解鎖了Tensor Core GPU的靈活性,能夠將機器學習和數據科學工作負載加速多達50倍。另外,CUDA-X AI還可以加速典型AI工作流程的每一步,包括用深度學習訓練語音和圖像識別系統(tǒng)。
英偉達也宣布已經有七家世界級的廠商將推出基于 NVIDIA T4 GPU 和 NVIDIA CUDA-X AI 加速庫的服務器,這些服務器都已經針對 CUDA-X AI 進行了特殊優(yōu)化。亞馬遜 AWS副總裁 Matt Garman還宣布最新的 EC2 G4 服務器采用了英偉達 T4 Tencor Core GPU,該服務器將在未來幾周內可用。
雖然英偉達沒有推出性能更強的GPU,但正在通過CUDA-X AI提升其GPU在云端的性能和吸引力。即便如此,英偉達的重要客戶谷歌還是推出了自主研發(fā)的云端AI芯片TPU。
自2015年起,谷歌開始在內部使用TPU芯,2016年谷歌首次公開承認TPU的存在,2017年發(fā)布了第二代TPU,TPU 3.0在2018年發(fā)布。這意味著,谷歌在云端AI芯片市場與英偉達的關系從此前的合作變?yōu)榱撕献鞲偁幍年P系。
雷鋒網了解到,黃仁勛在談到谷歌TPU時曾強硬的表示對TPU的威脅不以為然。谷歌與英偉達在云端AI芯片市場的競爭短期內難見結論。但卻可以明確他們的芯片競爭已經蔓延到了邊緣端。
作為老牌芯片巨頭,英偉達很早就已經入局邊緣計算市場,Jetson系列的包括用于完全自主機器的Jetson AGX Xavier和用于邊緣人工智能的Jetson TX2已經推出,只是幾百甚至上千美元的價格阻擋了不少用戶。GTC 2019推出的同系列Jetson Nano之所以關注度很高,關鍵的原因就是價格。
縱觀不同行業(yè)發(fā)展的歷程,產業(yè)的爆發(fā)除了有技術成熟的因素,產品價格下降到市場可接受的程度也非常關鍵。GTC 2019上推出的Jetson Nano計算機,價格讓然驚喜,外觀小巧但性能不低。據悉,Jetson Nano的性能可達472 GFLOPS(每秒十億次浮點運算),耗電量僅為5瓦。同時,Jetson Nano支持高分辨率傳感器,可以并行處理多個傳感器,并且可在每個傳感器流上運行多個現代神經網絡。
針對不同的需求,英偉達還推出了兩個版本的Jetson Nano,一個是售價99美元的開發(fā)者套件,專為開發(fā)人員、創(chuàng)客和技術愛好者提供,另一個是售價129美元的生產就緒型模塊,面向大眾市場創(chuàng)建邊緣系統(tǒng)的企業(yè)。
Nvidia Jetson Nano
與英偉達的Jetson Nano類似,谷歌本月初發(fā)布的搭載Edge TPU的開發(fā)板Coral售價150美元。Coral開發(fā)板擁有1GB的LPDDR4內存和8GB的eMMC存儲,安裝Mendel版Linux或者Android,可以進行本地的離線運算,性能最高可達 4 萬億次操作。
除了Coral開發(fā)板,谷歌還發(fā)布了一款售價75美元的Coral USB加速器,同樣包含一顆Edge TPU,可以在任何64位ARM或x86平臺的Debian Linux上運行。
Google Edge TPU開發(fā)板
黃仁勛不認為谷歌的TPU是一個威脅,但在邊緣端低價產品進展方面兩大巨頭顯得頗有默契。先是谷歌推出搭載Edge TPU售價75美元和150美元的開發(fā)板以及加速器。不久后英偉達就推出售價99和129美元的Jetson Nano。
不僅售價相互競爭,面向的邊緣計算市場也會重疊。英偉達表示,Jetson Nano可以創(chuàng)建數百萬個智能系統(tǒng),模塊面向網絡錄像機、家用機器人和具有完整分析功能的智能網關等嵌入式應用。英偉達希望能為復雜、穩(wěn)健、節(jié)能的人工智能系統(tǒng)的硬件設計、測試和驗證節(jié)約時間,縮短總體開發(fā)時間讓產品更快將推向市場。
Coral開發(fā)板也強調面向嵌入式設備的隱私、低延遲、高效和離線部署。具體的應用方面,谷歌展示了基于Coral的一個有趣的圖像分類應用。谷歌表示其提供了簡單的API,可在Edge TPU設備上執(zhí)行圖像分類,對象檢測。這意味著,Edge TPU看好和圖像相關的邊緣端應用。
因此,無論是從定位、性能、應用還是售價看,谷歌和英偉達在邊緣端又一次正面競爭。
谷歌和英偉達的競爭能夠在一定程度上促進AI的發(fā)展,特別是在邊緣端。Jetson Nano和Coral開發(fā)板的方式能在很大程度上降低AI產品開發(fā)的難度并加速產品的上市時間,為現有做AI應用的公司增加了選擇,當然也會想要借助AI進行更多創(chuàng)新的公司和個人提供了更加便攜的選擇,這對AI在邊緣端的普及具有積極意義。
然而,對于眾多AI芯片初創(chuàng)公司而言可能是個壞消息。雷鋒網2018年曾統(tǒng)計過,創(chuàng)立于國內的13家AI芯片初創(chuàng)公司有11家都布局了自動駕駛和安防領域,并且都是面向邊緣端的AI芯片。AI芯片初創(chuàng)公司們之所以大部分都選擇AI邊緣計算市場,是因為在云端,英特爾和英偉達占據絕對的優(yōu)勢地位,初創(chuàng)公司想要在這一領域獲得成功難度非常大。
雖然邊緣端AI給初創(chuàng)公司更大的市場和機遇,但從目前的情況看英偉達在自動駕駛領域也有不錯的市場表現。如今,英偉達和谷歌都推出更加簡單易用,且價格更易于接受的開發(fā)板,AI芯片初創(chuàng)公司又多了兩個競爭對手,并且是實力強大的競爭對手。
更會讓AI芯片初創(chuàng)公司感到不安的是,由于兩大巨頭都有云端AI芯片,與邊緣端的AI芯片配合能夠實現更強的競爭力。并且,軟件在AI芯片中的重要作用正被越來越多的人看到,不巧的是英偉達和谷歌都有強大的軟件。
文章開篇已經提到,英偉達發(fā)布CUDA-X AI將提升GPU的AI性能,但與此同時Jetson Nano也是可運行所有人工智能模型的NVIDIA CUDA-X人工智能計算機。
谷歌方面,與Coral開發(fā)板同時發(fā)布的還有為移動和嵌入式設備提供的跨平臺解決方案TensorFlow Lite,這個輕量級(Lite)的框架有助于機器學習模型部署在移動和IoT設備上的。谷歌表示,經過TensorFlow Lite的優(yōu)化后,CPU的性能達到原來的1.9倍,在Edge TPU上的性能最高提升62倍。
雷鋒網認為,巨頭們擁有從云端到終端的AI芯片,并且有強大的軟件幫助芯片提升硬件的性能,同時還有長期建立的品牌、渠道、市場等方面的優(yōu)勢,這在推動AI在邊緣端普及的同時,還將與眾多的AI芯片初創(chuàng)公司產生競爭。
只是,未來仍有諸多不確定性,英偉達、谷歌到底會在多大程度上影響AI芯片初創(chuàng)公司?
聯系客服