“
類腦（模擬大腦、腦啟發(fā)）計算是一種基于神經(jīng)網(wǎng)絡(luò)的全新數(shù)據(jù)存儲和計算技術(shù)，通過模擬大腦的工作機理，可以突破傳統(tǒng)計算機處理大型問題時遇到的馮·諾依曼瓶頸，在顯著提高信息處理速度的同時大幅降低功耗，并且具有自我學習和自適應(yīng)能力。
在可預見的未來，目前的信息存儲技術(shù)將在尺寸上達到物理極限值，因此需要從原理上研究全新的數(shù)據(jù)存儲方法與技術(shù)。目前，一個可能的方向是從生物中獲取靈感，因為生物神經(jīng)系統(tǒng)具備大容量、低能耗、并行處理、自我學習的特點，例如我們所了解的最先進的生物數(shù)據(jù)處理器——人類的大腦，由大量的神經(jīng)元和突觸組成，有超過1000億的神經(jīng)元和100萬億個神經(jīng)突觸。
自2008年以來，美國國防部高級研究計劃局（以下簡稱：DARPA）推出自適應(yīng)可塑可伸縮電子神經(jīng)系統(tǒng)項目（全稱是Systems of Neuromorphic Adaptive Plastic Scalable Electronics，以下簡稱SyNAPSE），而SyNAPSE本身正好含有突觸的意思。TrueNorth芯片是IBM參與DARPA的SyNAPSE項目成果。
1
TrueNorth芯片
1.1 簡介
2008年，IBM開始和他們的大學合作伙伴們尋求構(gòu)建一個類腦的機器，這個在當時不可能的任務(wù)，于2011年有了第一次突破性成果：IBM的第一代神經(jīng)突觸計算機芯片。
研究人員制造出兩個這樣的芯片模型，這兩個芯片模型均包含256個數(shù)字神經(jīng)元，其中一個包含262,144個可編程突觸，另一個則包含65,536個可學習突觸，并通過測試展示其可執(zhí)行導航、機器視覺、模式識別、關(guān)聯(lián)記憶和分類等簡單功能。
用這種芯片造出來的系統(tǒng)被稱為“認知計算機”，它們無法像傳統(tǒng)計算機一樣進行編程，但可以通過積累經(jīng)驗進行學習，發(fā)現(xiàn)事物之間的相互聯(lián)系，模擬大腦結(jié)構(gòu)和突觸的可塑性。
到2014年，團隊在《科學》雜志發(fā)表了一篇文章，向全世界展示了他們劃時代的技術(shù)進展：一個符合DARPA SyNAPSE項目指標的、擁有100萬神經(jīng)元的類腦處理器。
這就是TrueNorth，該芯片只需消耗70毫瓦，并能夠進行每瓦每秒460億次突觸操作，是一個實實在在的掌中突觸超級處理器。
傳統(tǒng)計算機將存儲器與處理器分離，需要通過總線連續(xù)地在存儲器和CPU之間進行刷新。這意味著功率必須隨著通信速率（時鐘頻率）的增加而增加——這就是馮·諾依曼架構(gòu)。相比之下，大腦操作則具有低“時鐘”頻率和低功率密度。
TrueNorth的類腦架構(gòu)包括神經(jīng)突觸核網(wǎng)絡(luò)，其偏離了傳統(tǒng)的馮·諾依曼架構(gòu)，將內(nèi)存、計算和通信集成在一起，突破了固有的限制系統(tǒng)性能的瓶頸，進行并行分布式操作。
同一芯片上的核通過在芯片上的通信彼此聯(lián)絡(luò)，像腦神經(jīng)一樣，不依托單個核的計算能力，而是靠整體構(gòu)架發(fā)揮作用。而芯片則可以通過芯片間結(jié)構(gòu)進行通信，從而實現(xiàn)無縫可擴展性，就像大腦皮層那樣，最終實現(xiàn)可擴展的神經(jīng)形態(tài)系統(tǒng)的創(chuàng)建。
▲由獼猴腦皮質(zhì)中內(nèi)部區(qū)域的連接定義的長距離通信（左）和神經(jīng)突觸系統(tǒng)對其的模擬（右）； 神經(jīng)突觸系統(tǒng)由在NS16e板上實例化的密集連接的神經(jīng)區(qū)組成，可通過標準網(wǎng)絡(luò)基礎(chǔ)設(shè)施互連
▲基于TrueNorth芯片的三種神經(jīng)突觸硬件系統(tǒng)：NS1e (a), NS1e-16 (b), NS16e (c)
同時，TrueNorth芯片的類神經(jīng)操作使其以事件驅(qū)動的方式運行，只在需要時才工作，這就帶來了更冷的操作環(huán)境和更低的能量使用。
▲該芯片是專為低功耗設(shè)計的，可以清楚地看到，這個熱圖像顯示較冷的TrueNorth芯片以及向TrueNorth饋送數(shù)據(jù)的熱FPGA芯片
IBM的長期目標是建立一個具有一百億神經(jīng)元和一百萬億突觸的神經(jīng)突觸芯片系統(tǒng)，所有這些系統(tǒng)只消耗一千瓦的功率并占據(jù)小于兩公升的體積。該技術(shù)將用于研究和行業(yè)的許多領(lǐng)域，包括但不限于公共安全、盲人視力輔助、家庭健康監(jiān)測和運輸?shù)取?/span>
1.2 發(fā)展歷程和研發(fā)進展
IBM一直以來都希望開發(fā)一臺可以像人一樣擁有智力的類腦計算機，其重點研究認知計算、人工智能和計算科學的印度裔科學家Dharmendra S. Modha（中文音譯：哈門德拉·莫得哈，以下簡稱：莫得哈）領(lǐng)導的研發(fā)團隊開發(fā)出的TrueNorth芯片，使IBM距離其目標更近了一步。
1.3 未來規(guī)劃
目前，IBM莫得哈團隊正處于基于TrueNorth芯片的算法搭載和應(yīng)用開發(fā)階段。
算法搭載上，莫得哈團隊正在開發(fā)更加大型化的神經(jīng)突觸系統(tǒng)。莫得哈團隊將48顆TrueNorth芯片組建成具有4800萬個神經(jīng)元的網(wǎng)絡(luò)，其計算能力基本僅等同于老鼠大腦，這遠遠低于人類的大腦包含超過1000億的神經(jīng)元和100萬億個突觸的規(guī)模。
未來，莫得哈團隊計劃通過集成 NS16e和標準網(wǎng)絡(luò)解決方案構(gòu)建更加大型化的神經(jīng)突觸系統(tǒng)，預期將擴展到包含數(shù)百個NS16e、數(shù)十億的神經(jīng)元和數(shù)萬億的突觸，可運行復雜、集成的大規(guī)模神經(jīng)應(yīng)用程序，具有前所未有的能源效率和吞吐量。IBM設(shè)想未來的類腦計算系統(tǒng)將成為科學界的創(chuàng)新驅(qū)動。
應(yīng)用開發(fā)上，由于DARPA的SyNAPES項目已經(jīng)結(jié)束，TrueNorth芯片的未來應(yīng)用領(lǐng)域也不僅僅局限于軍事應(yīng)用，民用潛力也將逐步被挖掘。在IBM推出的生態(tài)系統(tǒng)合作伙伴計劃中，將分別繼續(xù)在各自的實驗室進行TrueNorth的應(yīng)用開發(fā)測試（具體參見2.2）。
2
TrueNorth芯片在深度學習中的應(yīng)用
2.1 關(guān)于深度學習
深度學習（Deep Learning），是一種讓擁有多個處理層的計算模型來學習具有多層次抽象數(shù)據(jù)表示的算法，是近期機器學習領(lǐng)域的一個熱門方向。相關(guān)的算法概念在20世紀80年代末出現(xiàn)，稱為反向傳播算法（Back Propagation，BP算法）。
作為對人腦神經(jīng)網(wǎng)絡(luò)的模擬，深度學習的過程所涉及的龐大運算量對計算機硬件的承載能力帶來了極大的考驗。人工智能方面的領(lǐng)軍公司如谷歌、微軟（2014年推出深度學習系統(tǒng)Adam），都將計算依托于網(wǎng)絡(luò)，利用大量傳統(tǒng)計算機集群處理海量的數(shù)據(jù)。
這樣的方法存在相應(yīng)的弊端：首先所有的計算都依托于“線上”，也就是所謂的“線上學習”，在沒有“云計算”的條件時（比如在谷歌服務(wù)器無法覆蓋的區(qū)域），系統(tǒng)就無法提供服務(wù)；其次是能耗問題，龐大的計算機集群無疑是高能耗的，這就限制了系統(tǒng)的應(yīng)用范圍，也不符合科技趨于便利的發(fā)展規(guī)律。
IBM的TrueNorth團隊則以集成的方式，將運算所需的硬件濃縮到一片小小的芯片上。TrueNorth自2011年原型芯片公布以來，備受人工智能領(lǐng)域的關(guān)注。這項劃時代的概念性成果使得低能耗的“線下學習”、“片上學習”成為可能。到目前為止，相關(guān)的算法搭載和應(yīng)用開發(fā)仍然處于測試研究階段。
2.2 TrueNorth芯片的相關(guān)應(yīng)用
TrueNorth作為人工智能領(lǐng)域的新概念研究成果，其潛在應(yīng)用領(lǐng)域幾乎包含深度學習的所有方面......
IBM的TrueNorth團隊在2014年發(fā)布最新的芯片成果之后，其下一步工作就是相關(guān)算法的搭載、訓練和測試研究。2016年，團隊在芯片的應(yīng)用方面有了階段性成果，IBM聯(lián)合美國空軍研究實驗室、美國陸軍研究實驗室，以及勞倫斯利弗莫爾國家實驗室在當年的IEEE超級計算會議上發(fā)表了關(guān)于TrueNorth硬件和軟件應(yīng)用生態(tài)系統(tǒng)的報告，其中就芯片在深度學習領(lǐng)域的應(yīng)用發(fā)展進行了介紹......
如需詳細內(nèi)容，請私信材料俠~
3
SyNAPSE項目
3.1 SyNAPSE項目背景
SyNAPSE，即“具備自適應(yīng)可塑可伸縮特點的電子神經(jīng)系統(tǒng)”，是由美國國防部下屬的DARPA推進。該項目的目標是打破速度提高和能量損耗之間的發(fā)展瓶頸，突破現(xiàn)有的技術(shù)體系。
如需詳細內(nèi)容，請私信材料俠~
3.2 SyNAPSE項目認知計算開發(fā)組進展階段
如需詳細內(nèi)容，請私信材料俠~
4
總結(jié)
類腦計算是可能改變未來人類生活方式的重要研究課題，IBM 成功研制 TrueNorth芯片，是類腦計算研究中的一個重要里程碑。目前，美國和歐盟已經(jīng)先行一步，投入巨資開展腦科學研究計劃。
其中，歐洲的“人腦項目”( Human Brain Project) 在2013年被歐盟選定為未來新興技術(shù)旗艦項目之一，計劃運行10年耗資10億歐元，為基于信息通訊技術(shù)的新型腦研究模式奠定技術(shù)基礎(chǔ)，并極大地加速腦科學研究成果轉(zhuǎn)化。
我國在此領(lǐng)域也開始有所布局，多個研究單位開展了類腦計算的前期探索與研究工作，國家也開始在“十三五”規(guī)劃中推出了相關(guān)腦科學類戰(zhàn)略研究計劃。預計在未來，類腦計算領(lǐng)域有可能迎來重大突破，由此可能產(chǎn)生全新的存儲與計算體系、記憶材料、納米制造工藝，這將為信息產(chǎn)業(yè)提供革命性的發(fā)展機遇。
縱觀莫得哈團隊開發(fā)TrueNorth芯片的成功，離不開美國政府的政策和資金支持、高?？蒲薪绾献骰锇榈姆e極協(xié)助、產(chǎn)業(yè)界合作伙伴的積極配合，以及IBM自身的強大研發(fā)能力和技術(shù)支持。在項目研發(fā)的不同階段，所涉及的研發(fā)人員不盡相同，整體來說，IBM加州圣何塞的阿爾馬登研究中心莫得哈團隊是最核心的力量。
目前，IBM莫得哈團隊尚處于基于TrueNorth芯片的算法搭載和應(yīng)用開發(fā)階段。就未來前景而言，IBM公司在推進基于TrueNorth芯片的類腦計算系統(tǒng)發(fā)展上，可能仍需要一段時間的基礎(chǔ)研發(fā)和調(diào)試。而部分專業(yè)人士（其中包含IBM的競爭對手）認為，這種芯片的實際能力尚有待證實。盡管存在爭議，IBM及其合作伙伴的探索并未止步。
聯(lián)系客服
