在美國圣何塞附近的研究室里，IBM用48塊TrueNorth試驗芯片構(gòu)建了一個電子的嚙齒動物大腦，每一塊芯片都可以模擬大腦的一個基本構(gòu)件。
IBM蘇黎世研究中心宣布，制造出世界首個人造納米級隨機相變神經(jīng)元芯片，可實現(xiàn)人工智能的高速無監(jiān)督學習。外媒對此高度重視并評論道：“這一突破標志著人類在認知計算應(yīng)用中超密度集成神經(jīng)形態(tài)技術(shù)，以及高效節(jié)能技術(shù)上的發(fā)展又向前邁進重要的一步?！?/p>
人工智能的火熱，被今年3月份AlphaGo與李世石的圍棋大戰(zhàn)推向高潮，本次IBM人工智能芯片的“生物神經(jīng)元”、“人腦工作方式”等“高大上”屬性更是引起了業(yè)界的廣泛關(guān)注。關(guān)于類腦計算誰將主導未來趨勢呢？
神經(jīng)元芯片不屬于生物神經(jīng)網(wǎng)絡(luò)范疇
英特爾中國研究院前院長吳甘沙告訴記者，關(guān)于類腦計算，現(xiàn)在也沒有一個廣為接受的定義，但現(xiàn)在基本可以看到兩個方向，人工神經(jīng)網(wǎng)絡(luò)從功能層面模仿大腦的能力，而神經(jīng)擬態(tài)計算（neuromorphic computing）則是從結(jié)構(gòu)層面去逼近大腦，其結(jié)構(gòu)也有兩個層次，一是神經(jīng)網(wǎng)絡(luò)層面，與之相應(yīng)的是神經(jīng)擬態(tài)架構(gòu)和處理器，二是神經(jīng)元層面，與之相應(yīng)的是元器件。
大家還可以看到其他的一些名詞，比如腦啟發(fā)計算（brain inspired computing），基本都是在上述層次里游移。IBM剛剛宣布的人工神經(jīng)元即是在神經(jīng)擬態(tài)計算方向，在神經(jīng)元結(jié)構(gòu)層面做出的努力。
“我們稱IBM關(guān)注的這類模型為‘脈沖神經(jīng)網(wǎng)絡(luò)’。”北京中科寒武紀科技有限公司創(chuàng)始人兼CEO陳天石在接受記者采訪時指出，“IBM在人造神經(jīng)元方面的工作，是以新器件的方式直接模仿脈沖神經(jīng)元的行為，與其前期推出的TrueNorth是一脈相承的。我們不認為它是生物神經(jīng)網(wǎng)絡(luò)，而只是理論神經(jīng)科學家的一種數(shù)學模型。但生物的神經(jīng)網(wǎng)絡(luò)究竟是什么樣，神經(jīng)科學家都還是一知半解，IBM現(xiàn)在就開始模仿，可能為時過早?！?/p>
寒武紀科技的兩個創(chuàng)始人均是中國科學院腦科學與智能技術(shù)卓越創(chuàng)新中心的成員，該中心是由世界頂尖神經(jīng)科學家，美國科學院院士、中國科學院外籍院士蒲慕明教授組建的，挑選了中國科學院最優(yōu)秀的腦科學和智能技術(shù)專家組建，一直密切關(guān)注著神經(jīng)科學的前沿動態(tài)。
“從新聞報道的內(nèi)容來看，IBM推出的人造神經(jīng)元是屬于脈沖型神經(jīng)網(wǎng)絡(luò)的一款芯片?！弊鳛槌晒α慨a(chǎn)中國首款嵌入式神經(jīng)網(wǎng)絡(luò)處理器芯片的企業(yè)，中星微電子集團首席技術(shù)官張韻東的看法與陳天石相同。
作為人工神經(jīng)網(wǎng)絡(luò)的一種，卷積神經(jīng)網(wǎng)絡(luò)CNN 是當前人工智能機器視覺領(lǐng)域的研究熱點。
張韻東進一步指出，IBM人工神經(jīng)元與卷積神經(jīng)網(wǎng)絡(luò)處理器芯片（如中星微的“星光智能一號”）相比，共同之處是，都是屬于受到生物人腦機理的啟發(fā)而通過半導體電路與器件去實現(xiàn)的，都是采用CMOS半導體工藝來生產(chǎn)的。而不同之處在于，所采用的架構(gòu)和實現(xiàn)方式不同，前者采用脈沖型架構(gòu)，用數(shù)?；旌想娐穪韺崿F(xiàn);后者采用卷積型架構(gòu)，用數(shù)據(jù)驅(qū)動的并行數(shù)字電路來實現(xiàn)。
人工神經(jīng)網(wǎng)絡(luò)技術(shù)更被看好？
由此看來，不管是叫神經(jīng)擬態(tài)計算，還是叫脈沖神經(jīng)網(wǎng)絡(luò)，IBM的這種技術(shù)路線是和人工神經(jīng)網(wǎng)絡(luò)并行的一種技術(shù)路線。那么，兩種路線孰優(yōu)孰劣？
張韻東更看好人工神經(jīng)網(wǎng)絡(luò)。他認為，卷積神經(jīng)網(wǎng)絡(luò)與軟件開發(fā)環(huán)境的結(jié)合更加緊密，更加易于編程，易于商用化。
陳天石也認為，目前為止，脈沖神經(jīng)網(wǎng)絡(luò)與人工神經(jīng)網(wǎng)絡(luò)相比，尚有很大差距。
他舉例道，脈沖神經(jīng)網(wǎng)絡(luò)無法做大尺度的圖像識別，即使是做簡單的手寫數(shù)字識別，其識別精度也還沒有上世紀80年代流行的多層感知機（經(jīng)典的人工神經(jīng)網(wǎng)絡(luò)）做得好。
我們知道，寒武紀科技和中星微電子都是國內(nèi)致力于人工神經(jīng)網(wǎng)絡(luò)技術(shù)路線的企業(yè)，他們對IBM人造神經(jīng)元的看法是否會偏頗？
IEEE“神經(jīng)網(wǎng)絡(luò)先鋒獎”獲得者、Facebook人工智能實驗室負責人、人工智能深度學習權(quán)威Yann LeCun此前的評論我們可以參考。
對TrueNorth以及IBM一直關(guān)注的脈沖神經(jīng)網(wǎng)絡(luò)，Yann LeCun說：“這類網(wǎng)絡(luò)沒有在任何有意思的問題上表現(xiàn)出與當前最好技術(shù)（指人工神經(jīng)網(wǎng)絡(luò)深度學習技術(shù)）接近的結(jié)果”。
回答得有點迂回，但表達的意思基本清楚。
脈沖神經(jīng)網(wǎng)絡(luò)芯片商業(yè)化還需要好幾年
條條大路通羅馬。不同技術(shù)路線的存在，也自有其生存的土壤。
人工神經(jīng)網(wǎng)絡(luò)是從算法向硬件發(fā)展的。吳甘沙告訴記者，傳統(tǒng)的算法在通用芯片（CPU和GPU）上效率不高，于是出現(xiàn)了特定的算法加速器，來加速包括卷積神經(jīng)網(wǎng)絡(luò)、遞歸神經(jīng)網(wǎng)絡(luò)在內(nèi)的各種神經(jīng)網(wǎng)絡(luò)算法。比如Teradeep，它來源于Yann LeCun（上文提到的深度學習大神）的工作NeuFlow，已經(jīng)實現(xiàn)了商業(yè)化。
中國科學院計算技術(shù)研究所寒武紀系列芯片在知識產(chǎn)權(quán)布局上非常獨到，也開始了商業(yè)化的探索。谷歌的TPU（Tensor Processing Unit）也是一種專用的加速器芯片，跟其深度學習軟件Tensor Flow匹配。就中短期而言，這類芯片有很好的商業(yè)化前景。
對于神經(jīng)擬態(tài)芯片，常常見諸媒體的是架構(gòu)和處理器層面的進展。吳甘沙提出，IBM的TrueNorth芯片和高通的Zeroth芯片，兩者都基于脈沖神經(jīng)網(wǎng)絡(luò)。TrueNorth發(fā)源于DARPA的SyNAPSE，展示了在100mW功耗下模擬復雜的遞歸神經(jīng)網(wǎng)絡(luò)的能力，體現(xiàn)了這一架構(gòu)的獨特之處（但也有人指出功耗優(yōu)勢來自較低的主頻）。Zeroth的商業(yè)試用并不成功，目前已轉(zhuǎn)向人工神經(jīng)網(wǎng)絡(luò)加速器。
英特爾也在做脈沖神經(jīng)網(wǎng)絡(luò)的芯片，估計商業(yè)化還需要好幾年。即便如此，各家公司還是投入重兵，因為它所代表的新型處理范式——計算與記憶的一體化、復雜互聯(lián)、遞歸、時空編碼、異步、低精度、隨機性、高容錯等特征，有很高的研究價值。例如，生物神經(jīng)元有很多突觸連接，這在硅芯片上很難實現(xiàn)。另外，傳統(tǒng)的CPU和GPU都是同步的，實現(xiàn)神經(jīng)擬態(tài)需要異步電路。
“所以說，另一種思路是在器件方面得到突破，比如DARPA UPSIDE基于模擬芯片，有些類腦芯片基于憶阻器（memristor），以及IBM剛剛宣布的人工神經(jīng)元，所有這些都比傳統(tǒng)的晶體管更容易實現(xiàn)類腦計算?！眳歉噬硰娬{(diào)。
“IBM的神經(jīng)元新器件對脈沖神經(jīng)網(wǎng)絡(luò)的硬件實現(xiàn)有很大幫助，但這類模型在算法方面尚有很長的路要走。”陳天石表示，“未來也許會有突破，但近年不樂觀。”
實際上，對于人工神經(jīng)元芯片的問世，IBM自身也是非常清醒的。他們在指出“這些相變神經(jīng)元是我們到目前為止所創(chuàng)造出的行為最接近生物神經(jīng)元的人工器件”的同時，也強調(diào)將面臨“更難的部分——編寫一些能夠真正利用該芯片的神經(jīng)形態(tài)的軟件”。
但正如IBM所說：“我們沒有任何理由止步于此?！?/p>
AI 硬件大戰(zhàn)拉開！
根據(jù)市場調(diào)研公司 Tractica 的統(tǒng)計數(shù)據(jù)，深度學習硬件市場將會從不到 10 億美元增長為 2024 年 24億美元。
現(xiàn)在市場的領(lǐng)頭羊是英偉達，靠的是 GPU。從研究人員發(fā)現(xiàn) GPU 適合深度學習應(yīng)用以來，英偉達就一直專注改善提升芯片性能，使其更適合用于加速深度學習應(yīng)用，而這也使得近來英偉達市場表現(xiàn)極其勇猛。
不過，相比之下，專為深度學習設(shè)計的芯片應(yīng)該比GPU 效果更好。
前不久，英特爾宣布旗下的 Xeon Phi 處理器適合某些深度學習任務(wù)。但是，要開發(fā)專門針對深度學習的芯片，時間上還要花好幾年。英特爾等不了那么久，收購就成了一種十分合理的選擇。
Rao 表示 Nervana 將在不久后推出其設(shè)計的深度學習專用芯片 Nervana Engine，并在 2017 年初通過云服務(wù)讓顧客享受到這一服務(wù)。屆時，考慮到英特爾雄厚的市場預算，英偉達應(yīng)該得到一定壓力降低價格。
這里還有一些Rao 和老東家高通的小故事，據(jù)說當初Rao研發(fā)了為企業(yè)提供深度學習系統(tǒng)的軟件平臺 Zeroth AI，但是高通拒絕將 Rao 的研究投入實用，于是他和另外兩個高通工程師一起離職，創(chuàng)建了 Nervana。
除了Intel / Nervana 和 NVIDIA ，還有那些公司在做？
Google：朋友圈刷屏的TPU芯片
在今年的Google I/O大會上，谷歌表示他們正在打造屬于自己的集成電路芯片，這款定制化芯片被稱為張量處理單元（TPU），它是專門為機器學習打造的。該芯片還在體積上下了大功夫，它只有硬盤大小，放在谷歌數(shù)據(jù)中心里非常不起眼。
由于機器學習技術(shù)對計算精度的要求較低，因此谷歌能從芯片中榨取更多性能。眼下，普通芯片都為32或64位，而張量處理單元則為8位。谷歌稱，張量處理單元的出現(xiàn)將大大提高科技的進化速度，預計它將讓科技史加速進步七年之多。
其實普通用戶從TPU中能獲得許多好處，去年谷歌就在街景和Google Now等服務(wù)和應(yīng)用中使用了該技術(shù)。此外，擊敗韓國傳奇棋手李世石的AlphaGo也是借了TPU的力。其實TPU的研發(fā)幾年前就開始了，未來，谷歌希望開發(fā)者能利用機器學習技術(shù)為安卓等平臺打造更加好用的應(yīng)用。
中星微：中國首款嵌入式神經(jīng)網(wǎng)絡(luò)處理器（NPU）芯片
6月20日，中星微“數(shù)字多媒體芯片技術(shù)”國家重點實驗室在北京宣布，中國首款嵌入式神經(jīng)網(wǎng)絡(luò)處理器（NPU）芯片誕生。這款NPU芯片已經(jīng)于今年3月6日實現(xiàn)量產(chǎn)。NPU采用了“數(shù)據(jù)驅(qū)動并行計算”架構(gòu)，這種數(shù)據(jù)流（Dataflow）類型的處理器，極大地提升了計算能力與功耗的比例，特別擅長處理視頻、圖像類的海量多媒體數(shù)據(jù)，使得人工智能在嵌入式機器視覺應(yīng)用中可以大顯身手。
這款芯片目前已經(jīng)成功在視頻監(jiān)控領(lǐng)域?qū)崿F(xiàn)產(chǎn)業(yè)化。中星微展示了型號為VC0758的國內(nèi)首款NPU芯片產(chǎn)品，VC0758內(nèi)部集成四個NPU內(nèi)核。據(jù)稱，這是全球首顆具備深度學習人工智能的嵌入式視頻采集壓縮編碼系統(tǒng)級芯片。VC0758也是率先支持國家自主標準（SVAC標準）的芯片產(chǎn)品。
IBM：最新仿人腦芯片TrueNorth
IBM公布的最新仿人腦芯片：TrueNorth。郵票大小、重量只有幾克，但卻集成了54億個硅晶體管，內(nèi)置了4096個內(nèi)核，100萬個“神經(jīng)元”、2.56億個“突觸”，能力相當于一臺超級計算機，功耗卻只有65毫瓦。
去年有消息稱IBM正在開發(fā)一個名叫Neuromorphic的芯片，這個芯片是專門針對人工智能任務(wù)所開發(fā)的。據(jù)測試過這個芯片的人表示，這個芯片非常適合移動設(shè)備。
Movidius：USB版深度學習芯片
2016年4月，硅谷的芯片制造商Movidius于發(fā)布了Fathom Neural Compute Stick芯片。這個芯片看上去像是一個U盤， 但是里面和鑲嵌了高端的視覺處理單元， 可以處理高級圖形認知。
該公司的另一款芯片是Myriad 2， DJI最新的無人機正是采用了這個芯片。而Fathom基本上就是即插即用的Myriad 2版芯片。Movidius希望工程師們可以利用這個芯片來為他們的產(chǎn)品制造深度學習功能， 如labeling算法和先進的視頻分析功能。
高通：Zeroth SDK（高通Snapdragon神經(jīng)處理引擎）
5月消息，高通發(fā)布了驍龍神經(jīng)處理引擎軟件開發(fā)工具包（Snapdragon Neural Processing Engine software development kit）。目前該開發(fā)工具僅適用于驍龍820，這就意味者三星S7/Edge、LG G5、HTC 10國際版、樂Max Pro、索尼Xperia Performance、小米5和Vivo Xplay5等手機將來有望增加深度學習的相關(guān)功能。
驍龍820內(nèi)置的Zeroth神經(jīng)處理引擎，能夠自動根據(jù)用戶拍攝的照片進行分類，比如識別出實物和汽車的圖像，分別存儲在兩個不同的文件夾，方便用戶更好地管理拍攝的照片、，而SDK工具包就基于該引擎。
早在2013年，高通就展示了一款內(nèi)置Zeroth芯片的機器人，它能夠在接受外界信息之后學會選擇正確的路線行進。高通的SDK可以應(yīng)用于安全領(lǐng)域，監(jiān)控攝像頭將識別并追蹤正在進行的犯罪行為，也可用于自動駕駛汽車、無人機和機器人等領(lǐng)域。
另外還有最近和特斯拉鬧掰的Mobileye....
聯(lián)系客服
