號外
《精準(zhǔn)醫(yī)學(xué)前沿》組建了10余個生物醫(yī)學(xué)高水平博士和專業(yè)微信交流群，包括醫(yī)學(xué)人工智能，腫瘤，基因編輯，干細(xì)胞醫(yī)學(xué)，單細(xì)胞，ncRNA，宏基因組，基因解讀與遺傳咨詢，表觀修飾，單基因病，病原微生物，醫(yī)學(xué)神經(jīng)，心腦血管等。長按以下二維碼加微信（Precision_medcine），并備注想加入的群，再邀入群。博士和在讀博士可申請加入高水平博士群。
粉絲福利
關(guān)注精準(zhǔn)醫(yī)學(xué)前沿公眾號后，在后臺回復(fù)“指南”，可以獲取2018年中文版NCCN指南和2019 DNA甲基化與癌癥早篩專題報告以及2019癌癥免疫治療專題報告！！
精準(zhǔn)醫(yī)學(xué)資訊
2019年2月15日，國際計算科學(xué)鄰域著名科學(xué)家，以色列雷霍沃特科學(xué)研究所魏茨曼計算機(jī)科學(xué)系教授Shimon Ullman在國際頂級期刊Science刊發(fā)題為“Using neuroscience to develop artificial intelligence”（利用神經(jīng)科學(xué)發(fā)展人工智能）的前瞻性評述論文，該文詳細(xì)闡述了深度神經(jīng)網(wǎng)絡(luò)與人工智能的前世今生，并認(rèn)為將深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)與人類腦性先天結(jié)構(gòu)相結(jié)合，可以引導(dǎo)網(wǎng)絡(luò)模型向人類學(xué)習(xí)的方向發(fā)展。
當(dāng)數(shù)學(xué)家艾倫·圖靈在他1950年的開創(chuàng)性論文的第一行提出“機(jī)器能思考嗎？”，開啟了對人工智能(AI)的探索(1)，唯一已知的進(jìn)行復(fù)雜計算的系統(tǒng)是生物神經(jīng)系統(tǒng)。因此，在剛剛起步的人工智能領(lǐng)域，科學(xué)家們將大腦回路作為引導(dǎo)的源泉，這并不令人驚訝。自早期嘗試通過類大腦回路執(zhí)行智能計算以來所采取的一條路徑，最近產(chǎn)生顯著的成功，可以被描述為一種對皮層電路建模的高度簡化的方法。在被稱為“深層網(wǎng)絡(luò)”(或深層網(wǎng)絡(luò))結(jié)構(gòu)的基本電流形式中，這個受大腦啟發(fā)的模型是由連續(xù)層的神經(jīng)元樣元素組成的，通過可調(diào)整的權(quán)重連接，稱為“突觸”，以它們的生物對應(yīng)部分命名(3)。深層網(wǎng)絡(luò)及其相關(guān)方法在人工智能系統(tǒng)中的應(yīng)用具有重大的變革意義。事實(shí)證明，在人工智能研究的中心領(lǐng)域，包括計算機(jī)視覺、語音識別和制作以及玩復(fù)雜游戲方面，它們都比以前已知的方法更優(yōu)越。在計算機(jī)視覺、語音和文本翻譯等領(lǐng)域，實(shí)際應(yīng)用已經(jīng)得到廣泛應(yīng)用，許多其他領(lǐng)域也在進(jìn)行大規(guī)模的努力。在這里，討論的是大腦回路的其他方面如何提供線索，指導(dǎo)網(wǎng)絡(luò)模型向更廣泛的認(rèn)知和一般人工智能方面發(fā)展。
深層網(wǎng)絡(luò)的關(guān)鍵問題是學(xué)習(xí)，這就是調(diào)整突觸，使其產(chǎn)生所需的輸出以適應(yīng)它們的輸入模式。所述調(diào)整是基于一組訓(xùn)練示例自動執(zhí)行的，所述訓(xùn)練示例由輸入模式與其期望的輸出相結(jié)合來提供。然后，學(xué)習(xí)過程根據(jù)訓(xùn)練輸入模式調(diào)整權(quán)值以產(chǎn)生所需的輸出。成功的學(xué)習(xí)將使網(wǎng)絡(luò)超越記憶訓(xùn)練的例子，并能夠概括，提供正確的輸出，以新的輸入模式，這是在學(xué)習(xí)過程中沒有遇到的。
將深層網(wǎng)絡(luò)模型與經(jīng)驗(yàn)生理、功能磁共振成像和行為數(shù)據(jù)進(jìn)行比較，顯示了大腦和新模型之間的一些有趣的相似之處(4)，以及不同之處(5)(見圖)。在與靈長類視覺系統(tǒng)的比較中，生理反應(yīng)和模型反應(yīng)的相似性在神經(jīng)反應(yīng)的早期和后期更接近，這表明深層網(wǎng)絡(luò)模型在早期處理階段可能比后期更好地捕捉到更多的認(rèn)知階段。
關(guān)于腦回路和學(xué)習(xí)，一個主要的未決問題是，與大腦皮層電路相比，當(dāng)前網(wǎng)絡(luò)模型的高度簡化的結(jié)構(gòu)是否足以捕捉到像人類一樣的學(xué)習(xí)和認(rèn)知的全部范圍。
除了深層網(wǎng)絡(luò)之外，人工智能模型最近還納入了類似大腦的計算的另一個主要方面：使用強(qiáng)化學(xué)習(xí)(RL)，在這種學(xué)習(xí)中，大腦中的獎勵信號被用來修改行為。這種形式的學(xué)習(xí)所涉及的大腦機(jī)制已經(jīng)得到了廣泛的研究(6)，計算模型(7)已經(jīng)被用于人工智能領(lǐng)域，特別是在機(jī)器人技術(shù)應(yīng)用中。RL用于代理(人、動物或機(jī)器人)在世界上的行為，并作為回報接收獎勵信號。目標(biāo)是學(xué)習(xí)一種最優(yōu)的“政策”，即從狀態(tài)到行動的映射，以便最大限度地全面衡量隨著時間的推移所獲得的回報。RL方法在最近的人工智能算法中與深度網(wǎng)絡(luò)方法相結(jié)合，特別適用于游戲，從流行的視頻游戲到高度復(fù)雜的游戲，如國際象棋、圍棋和將軍。將深層網(wǎng)絡(luò)與RL結(jié)合在一起可以在游戲中產(chǎn)生驚人的效果，包括令人信服地?fù)魯∈澜珥敿墖暹\(yùn)動員，或者在～4小時的訓(xùn)練后達(dá)到世界冠軍水平，開始僅僅是游戲規(guī)則的學(xué)習(xí)，以及從內(nèi)部對抗自身的游戲中學(xué)習(xí)(8)。
從使用神經(jīng)科學(xué)來指導(dǎo)人工智能的角度來看，這一成功是令人驚訝的，因?yàn)榕c皮質(zhì)電路相比，網(wǎng)絡(luò)模型的形式非常簡化。其他一些受大腦啟發(fā)的方面，例如，跨神經(jīng)元群的標(biāo)準(zhǔn)化，或利用空間注意，已經(jīng)被納入到深度網(wǎng)絡(luò)模型中，但總的來說，我們所知道的關(guān)于神經(jīng)元的幾乎所有東西-它們的結(jié)構(gòu)、類型、互連性等等-都以目前的形式被排除在深度網(wǎng)絡(luò)模型之外。目前還不清楚生物電路的哪些方面在計算上是必要的，并且對于基于網(wǎng)絡(luò)的人工智能系統(tǒng)也是有用的，但結(jié)構(gòu)上的差異是顯著的。例如，生物神經(jīng)元在其形態(tài)、生理和神經(jīng)化學(xué)方面是非常復(fù)雜和多樣的。典型的興奮性錐體神經(jīng)元的輸入分布在復(fù)雜的、高分支的基樹和頂端樹上。抑制性皮層神經(jīng)元有多種不同的形態(tài)，它們可能執(zhí)行不同的功能。這種異質(zhì)性和其他復(fù)雜性都不包含在典型的深網(wǎng)絡(luò)模型中，而是使用一組高度簡化的同質(zhì)人工神經(jīng)元的有限集合。就網(wǎng)絡(luò)中單元之間的連通性而言，大腦中的皮層電路比目前的深層網(wǎng)絡(luò)模型更為復(fù)雜，包括同層神經(jīng)元之間通過局部和遠(yuǎn)程連接的豐富的橫向連接，以及從高到低的皮質(zhì)區(qū)域?qū)哟蔚淖陨隙碌倪B接，并可能組織成典型的局部“典型電路”。
深度網(wǎng)絡(luò)學(xué)習(xí)方法的顯著成功，主要是在與現(xiàn)實(shí)世界的感知數(shù)據(jù)有關(guān)的問題，如視覺和語音，最近越來越多的努力，以應(yīng)對更多的認(rèn)知性質(zhì)的問題。例如，在視覺領(lǐng)域，最初建立網(wǎng)絡(luò)模型是為了處理對象分類和分割等感知問題。類似的方法，加上一些擴(kuò)展，現(xiàn)在被應(yīng)用于更高層次的問題，例如圖像字幕，其任務(wù)是生成圖像的簡短口頭描述，或者應(yīng)用到視覺問答領(lǐng)域，其中的任務(wù)是對以自然語言(即人類交流)提出的有關(guān)圖像內(nèi)容的查詢產(chǎn)生足夠的答案。其他的，非視覺的任務(wù)包括判斷幽默，發(fā)現(xiàn)諷刺，或捕捉直觀的物理或社會理解的方面。類似的方法也正在開發(fā)，以應(yīng)對具有挑戰(zhàn)性的實(shí)際應(yīng)用，如在線翻譯、靈活的個人助理、醫(yī)療診斷、先進(jìn)的機(jī)器人技術(shù)或自動駕駛。
有了這些巨大的研究努力，以及在未來人工智能應(yīng)用上投入的巨額資金，一個主要的未決問題是，當(dāng)前的方法在多大程度上將能夠產(chǎn)生“真實(shí)的”和類似人的理解，或者是否需要更多(也許是根本不同)的方向來處理認(rèn)知和人工一般智能(AGI)的廣泛方面(9，10)。這個問題的答案是未知的，而且無論是在科學(xué)上還是在商業(yè)上，風(fēng)險都很高。
如果目前的深層網(wǎng)絡(luò)模型在產(chǎn)生類似人類的認(rèn)知能力方面的成功被證明是有限的，那么尋找指導(dǎo)的自然場所又是神經(jīng)科學(xué)。到目前為止在人工智能模型中被忽視的大腦回路的某些方面能為AGI提供一個關(guān)鍵嗎？大腦的哪些方面可能特別重要？目前還沒有明顯的答案，因?yàn)槲覀儗ζ与娐返睦斫馊匀挥邢?，但我將簡要地討論一個普遍的方面，即大腦和深層網(wǎng)絡(luò)模型似乎有根本的不同，這很可能在尋找類似人類的AGI中發(fā)揮重要的功能作用。這種差異集中在一個由來已久的問題上，即經(jīng)驗(yàn)主義與本體主義在認(rèn)知上的平衡，即先天認(rèn)知結(jié)構(gòu)與一般學(xué)習(xí)機(jī)制的相對作用。當(dāng)前的人工智能建模嚴(yán)重傾向于經(jīng)驗(yàn)主義的一面，使用相對簡單和統(tǒng)一的網(wǎng)絡(luò)結(jié)構(gòu)，并主要依靠擴(kuò)展學(xué)習(xí)，使用大量的訓(xùn)練數(shù)據(jù)。相比之下，生物系統(tǒng)通常只需有限的訓(xùn)練就能完成復(fù)雜的行為任務(wù)，建立在學(xué)習(xí)之前已經(jīng)編碼在電路中的特定的網(wǎng)絡(luò)結(jié)構(gòu)上。例如，不同的動物物種，包括昆蟲、魚類和鳥類，可以執(zhí)行復(fù)雜的導(dǎo)航任務(wù)，部分依賴于一組復(fù)雜的具有復(fù)雜計算能力的固有領(lǐng)域特定機(jī)制。在人類中，嬰兒在生命的最初幾個月就開始發(fā)展復(fù)雜的知覺和認(rèn)知技能，很少或根本沒有明確的訓(xùn)練。例如，他們自發(fā)地識別復(fù)雜的物體，如人的手，跟隨其他人的凝視方向，并在視覺上區(qū)分動畫人物是在幫助還是阻礙他人，以及其他各種任務(wù)，這些任務(wù)顯示出對物理和社會互動的初步理解。大量的發(fā)展研究表明，這種快速的、無監(jiān)督的學(xué)習(xí)是可能的，因?yàn)槿祟惖恼J(rèn)知系統(tǒng)通過進(jìn)化具備了促進(jìn)獲得有意義的概念和認(rèn)知技能的基本先天結(jié)構(gòu)(11、12)。
與現(xiàn)有的深層網(wǎng)絡(luò)模型相比，人類認(rèn)知學(xué)習(xí)和理解的優(yōu)勢在很大程度上可能是由于人類認(rèn)知系統(tǒng)中包含了更為豐富和復(fù)雜的先天結(jié)構(gòu)。嬰兒時期視覺學(xué)習(xí)的最新模型(13)顯示了學(xué)習(xí)和先天機(jī)制的有用結(jié)合，其中有意義的復(fù)雜概念既不是天生的，也不是單獨(dú)學(xué)習(xí)的。這一中間觀點(diǎn)的固有組成部分不是發(fā)展起來的概念，而是更簡單的“原始概念”，這些概念提供內(nèi)部教學(xué)信號，引導(dǎo)學(xué)習(xí)系統(tǒng)沿著一條道路前進(jìn)，從而導(dǎo)致復(fù)雜概念的逐步獲取和組織，很少或根本沒有明確的培訓(xùn)。例如，演示了圖像運(yùn)動的特定模式如何為手部識別提供可靠的內(nèi)部教學(xué)信號。手的檢測及其參與物體操作，反過來可以引導(dǎo)學(xué)習(xí)系統(tǒng)檢測凝視的方向，并且已知檢測凝視目標(biāo)在學(xué)習(xí)推斷人的目標(biāo)方面起到作用(14)。這種先天結(jié)構(gòu)可以通過具有特定初始連接性的局部皮層區(qū)域的排列來實(shí)現(xiàn)，為特定的目標(biāo)提供輸入和錯誤信號。
在人工網(wǎng)絡(luò)模型中也可以采用有用的預(yù)先存在的結(jié)構(gòu)，使它們的學(xué)習(xí)和理解更像人類。發(fā)現(xiàn)有用的先前存在的結(jié)構(gòu)的挑戰(zhàn)可以通過理解和模仿相關(guān)的大腦機(jī)制來解決，也可以通過開發(fā)“從頭開始”的計算學(xué)習(xí)方法來解決，并發(fā)現(xiàn)支持代理的結(jié)構(gòu)，無論是人的還是人工的，這些代理學(xué)習(xí)以有效和靈活的方式理解它的環(huán)境。已經(jīng)在這個方向上做了一些嘗試(15)，但總的來說，“學(xué)習(xí)先天結(jié)構(gòu)”的計算問題不同于目前的學(xué)習(xí)過程，而且對它的理解也很少。將經(jīng)驗(yàn)方法和計算方法結(jié)合起來解決這一問題，從長遠(yuǎn)來看，很可能對神經(jīng)科學(xué)和AGI都有好處，并最終可能成為智能處理理論的一個組成部分，這一理論將同時適用于這兩個領(lǐng)域。
致謝：得到歐洲聯(lián)盟“2020年地平線框架785907”(HBPSGA2)的支持。美國感謝麻省理工學(xué)院思維、大腦和機(jī)器中心的同事們進(jìn)行了有益的討論。
參考文獻(xiàn)：
A. M. Turing, Mind 59, 433 (1950).
F. Rosenblatt, Psychol. Rev. 65, 386 (1958).
Y. LeCun et al., Nature 521, 436 (2015).
N. J. Majaj et al., J. Neurosci. 35, 13402 (2015).
R. Rajalingham et al., J. Neurosci. 38, 7255 (2018).
D. Lee et al., Annu. Rev. Neurosci. 35, 287 (2012).
R. S. Sutton et al., Reinforcement Learning: An Introduction (MIT Press, 1998).
D. Silver et al., Nature 550, 354 (2017).
D. Hassabis et al., Neuron 95, 245 (2017).
B. M. Lake et al., Behav. Brain Sci. 40, e253 (2017).
E. S. Spelke, K. D. Kinzler, Dev. Sci. 10, 89 (2007).
S. Carey, The Origin of Concepts (Oxford Univ. Press, New York, 2009).
S. Ullman et al., Proc. Natl. Acad. Sci. U.S.A. 109, 18215 (2012).Abstract/FREE Full Text
A. T. Phillips et al., Cognition 85, 53 (2002).
E. Real et al., Proc. 34th Int. Conf. Machine Learning, PMLR 70, 2902 (2017).
聯(lián)系客服
