神經(jīng)網(wǎng)絡模型是提高我們對復雜大腦功能理解的潛在工具。為了實現(xiàn)這一目標，這些模型需要具有神經(jīng)生物學上的現(xiàn)實性。然而，盡管神經(jīng)網(wǎng)絡近年來取得了巨大的進步，甚至在復雜的感知和認知任務中實現(xiàn)了類似人類的表現(xiàn)，但它們與大腦解剖學和生理學方面的相似性并不完美。在本文中討論了不同類型的神經(jīng)模型，包括局部、自聯(lián)想、異聯(lián)想、深層和全腦網(wǎng)絡，并確定了在哪些方面可以改善它們的生物學合理性。這些方面包括從模型神經(jīng)元的選擇、突觸可塑性和學習機制到抑制和控制的實現(xiàn)，以及神經(jīng)解剖學特性，包括區(qū)域結(jié)構(gòu)和局部和遠程連接。本文強調(diào)了在發(fā)展以生物學為基礎(chǔ)的認知理論和以這些大腦受限的神經(jīng)模型為基礎(chǔ)的機械性解釋方面的最新進展，這些迄今為止尚未解決的關(guān)于高級大腦功能的性質(zhì)、定位和個體發(fā)生和系統(tǒng)發(fā)育的問題。最后，指出了未來可能的臨床應用的大腦約束模型。本文發(fā)表在Nature Reviews Neuroscience雜志。許多研究都認為認知需要機械性的解釋。人類和高等哺乳動物的卓越和特定的認知能力可能取決于其大腦的特定結(jié)構(gòu)和功能特征。如果是這樣的話，這些神經(jīng)生物學特征必定在解釋認知能力方面發(fā)揮決定性作用。盡管當前的科學研究在大體上理解大腦功能方面取得了重大進展，但解釋神經(jīng)組織的結(jié)構(gòu)和功能特征如何帶來認知、語言和思維仍然是一個挑戰(zhàn)。本文指出，只有當用于建模認知的神經(jīng)網(wǎng)絡包含廣泛的特征，使它們在不同層次上與真實的神經(jīng)生物網(wǎng)絡相似時，才能實現(xiàn)這樣的解釋。在這個觀點中，本文討論了最近朝著這一目標進展的嘗試，并突出強調(diào)了7個大腦模型的約束，它們可能有助于使神經(jīng)網(wǎng)絡更神經(jīng)化(圖1)。 本文主要討論了當前已建立的認知神經(jīng)模型類型(圖2)，并給出神經(jīng)模擬的例子，以新的方式整合幾個大腦模型。這些網(wǎng)絡提供了在多個大腦區(qū)域建立神經(jīng)認知機制模型的視角，使用大量的真實神經(jīng)元，通過短期和長期的神經(jīng)解剖學連接，它們的局部和全局交互，從而為更好地理解認知機制提供了機會，包括知覺、分類、注意、記憶、語言和語義-概念加工。 （注：作者這里提到的局部網(wǎng)絡更合理地說不是網(wǎng)絡的局部也不是某一個局部的網(wǎng)絡成分，而是主要指特定模塊化或者以往對局部功能特異性的關(guān)注，更在意將一些腦區(qū)或者一些神經(jīng)元與特定的認知加工聯(lián)系在一起，比如說基于腦損傷的語言障礙模型類似的研究）呈現(xiàn)認知理論的標準方法是以抽象的方框和箭頭圖的形式，每個“方框”表示一個專門用于一個認知子過程(例如，聲音處理)的模塊，箭頭表示模塊之間的信息傳輸。這些模型通?；谏婕敖】祬⑴c者的行為實驗——例如，在調(diào)查語音和其他聲音差異的任務中，這為語音和非語言聲學刺激的不同模塊假設提供了動機。雖然這些模型中的一些是根據(jù)對神經(jīng)損傷個體的研究而改進的，但它們通常是在沒有明確參考神經(jīng)元網(wǎng)絡的情況下制定的。所謂的認知和語言的局部模型向解決神經(jīng)基礎(chǔ)邁出了重要的一步，它用單個人工“神經(jīng)元”填充了模塊化模型的基本組成單元，這些神經(jīng)元被認為局部地代表了認知元素，如感知特征和知覺、音素、單詞形式、意義特征(圖1a)。類似人工神經(jīng)元的計算算法實現(xiàn)了與認知理論假設的實體之間的1:1關(guān)系，使兩種類型的模型很容易聯(lián)系起來。然而，單個神經(jīng)元各自承擔主要認知功能的概念在今天是有爭議的，很難與神經(jīng)科學研究的證據(jù)相一致。這并沒有對某些神經(jīng)元反應的巨大特異性提出異議，而是強調(diào)了目前主流的觀點，即：即使是這些非常特殊的細胞“也不是孤立地行動，而是代表概念、物體或其他實體的細胞集合的一部分”。局部模型的進一步限制是，它們沒有系統(tǒng)地解決表征及其聯(lián)系形成的機制。圖1 使神經(jīng)網(wǎng)絡模型在生物學上更可信的七個限制條件（注：自聯(lián)想神經(jīng)網(wǎng)絡(Auto-Associative Neural Network , 縮寫為AANN)是1987年Ballard提出的，其網(wǎng)絡原型是一種具有對稱拓撲結(jié)構(gòu)的五層前饋傳遞網(wǎng)絡，AANN 應用到數(shù)據(jù)檢驗問題時具有比較明顯的物理意義。是BP神經(jīng)網(wǎng)絡的一種特殊情形。其特點是有對稱拓撲結(jié)構(gòu)，即輸出量等于輸入量。）神經(jīng)解剖學觀察表明，大腦皮層的特點是神經(jīng)元之間有豐富的內(nèi)在和周期性連接，因此，它可以被視為一種自聯(lián)想記憶。這種特征啟發(fā)了一組人工神經(jīng)網(wǎng)絡，稱為“自聯(lián)想網(wǎng)絡”或“吸引網(wǎng)絡”。自聯(lián)想網(wǎng)絡模型實現(xiàn)了神經(jīng)元之間的連接，因此每個神經(jīng)元都與集合中包含的其他幾個甚至所有神經(jīng)元相連。這與后面討論的異聯(lián)想網(wǎng)絡形成對比，異聯(lián)想網(wǎng)絡中，網(wǎng)絡神經(jīng)元的亞群之間存在連接，而每個神經(jīng)元集合內(nèi)部沒有任何連接。為了模擬自聯(lián)想網(wǎng)絡中的學習效果，我們引入了所謂的學習規(guī)則，即根據(jù)神經(jīng)元之前的活動來改變神經(jīng)元之間的連接權(quán)值。例如，生物學上建立的無監(jiān)督Hebbian學習，加強共同激活的神經(jīng)元之間的連接，并導致在弱連接的自聯(lián)想神經(jīng)元集合中形成強連接的細胞集合(圖2 b)。這些細胞集合可以作為分布式網(wǎng)絡相關(guān)物或感知、認知或“混合”上下文相關(guān)的感知-認知狀態(tài)的表征。因此，觀察到皮層神經(jīng)元在群體中一起工作，以及表征分布在這些群體中，可以被這種人工網(wǎng)絡類型和學習機制所適應，從而克服了局部網(wǎng)絡的主要缺點。圖2：(a)一個局部網(wǎng)絡模型包括代表認知實體的節(jié)點，例如，詞形(中間層)、音素(底層)和語義特征(頂層)。(b)自聯(lián)想網(wǎng)絡包括神經(jīng)元之間的連接，因此反射活動是可能的;他們的靈感來自于相鄰的皮質(zhì)錐體細胞之間的局部連接。這部分給出了五個人工神經(jīng)元之間的連接矩陣，α到ε。數(shù)字表示存在(1)或不存在(0)從矩陣左側(cè)所列神經(jīng)元到頂部所示神經(jīng)元的連接。(c)在異質(zhì)聯(lián)想網(wǎng)絡中，按“層”排列的神經(jīng)元群按序列相互投射，類似于某些神經(jīng)結(jié)構(gòu)中的連通性。(d)深度神經(jīng)網(wǎng)絡包括幾個隱藏層。每一層的神經(jīng)元數(shù)量可以有很大的不同。(e)全腦模型實現(xiàn)了區(qū)域間的全局連接。圖中，右半球區(qū)域之間的連接顯示了單個個體(左上)和一組個體的解剖學拓撲結(jié)構(gòu)(左下)和矩陣形式(右下)。 自聯(lián)想網(wǎng)絡的其他認知相關(guān)特征包括細胞集合在部分刺激后完全激活的能力——這可能是gestalt 完型測試的機制（注：這里提到的gestalt完型測試其實是格式塔心理學（gestalt psychology）提出的腦的機制假設，又叫完形心理學，是西方現(xiàn)代心理學的主要學派之一，該學派強調(diào)經(jīng)驗和行為的整體性，反對美國構(gòu)造主義學說和行為主義“刺激--反應”公式，認為整體不等于部分之和，意識不等于感覺元素的集合，行為不等于反射弧的循環(huán)。格式塔理論提出：眼腦作用是一個不斷組織、簡化、統(tǒng)一的過程，正是通過這一過程，才產(chǎn)生出易于理解、協(xié)調(diào)的整體）;也就是說，只給予部分輸入(尾巴和爪子)就能識別物體(比如貓)。其機制如圖2b所示，刺激神經(jīng)元α和β足以激活由神經(jīng)元α、β和γ組成的細胞集合。此外，自聯(lián)想網(wǎng)絡整合了已建立的觀察結(jié)果，即皮層神經(jīng)編碼可能是稀疏的(即，只有一小部分可用的神經(jīng)元對給定的(復雜的)刺激作出反應，而一些(其他的)神經(jīng)元對幾種刺激的基本的和經(jīng)常發(fā)生的特征作出反應(因此表現(xiàn)得不那么稀疏)。原因在于細胞集合重疊;也就是說，兩個或多個這樣的回路可以共享神經(jīng)元，同時保持功能上的分離。這在圖2b中由神經(jīng)元α、β、γ和神經(jīng)元γ、δ和ε形成的細胞集合的“重疊神經(jīng)元γ”說明。異聯(lián)想或前饋網(wǎng)絡包括兩個或多個神經(jīng)元集合或“層”之間的連接，層與層之間沒有連接，并為分布式表示和學習提供了不同的途徑。這些模型由按順序連接的不同神經(jīng)元集合組成，這種連接方案受到神經(jīng)生物學結(jié)構(gòu)的啟發(fā)（注：作為對生物神經(jīng)系統(tǒng)的模擬，人工神經(jīng)元網(wǎng)絡是由大量神經(jīng)元相互連接而成的動力學系統(tǒng)，具有大規(guī)模并行處理、容錯性強以及具有學習能力的特點。異聯(lián)想記憶神經(jīng)元網(wǎng)絡是一個兩層非線性神經(jīng)元模型，具有信息存儲和信息聯(lián)想特點，其性能由學習算法決定。學習算法根據(jù)某種規(guī)則將訓練模式集轉(zhuǎn)化為神經(jīng)元間的連接權(quán)值，形成神經(jīng)元網(wǎng)絡的內(nèi)部表達方式。作為內(nèi)容可訪問存儲器，異聯(lián)想記憶模型具有從噪聲輸人模式反映出某個訓練模式的能力）。一種常用的模型叫做“多層感知器”，經(jīng)常用于并行分布處理，包括三個神經(jīng)元層，其中一層接收輸入，一層產(chǎn)生輸出，還有一個“隱藏”層位于(圖2c)之間。在這種網(wǎng)絡中，認知實體的表示是密集和非稀疏的;也就是說，它們分布在隱藏層的所有神經(jīng)元上，這樣整個層的激活向量就是與一個物體、一個詞、一個意思或一個想法相關(guān)的網(wǎng)絡。為了在這些網(wǎng)絡中實現(xiàn)一種學習形式，輸入和輸出“教師”信號分別被送入輸入層和輸出層，并對突觸權(quán)值進行調(diào)整，使網(wǎng)絡學習輸入和教師輸出之間的關(guān)系。為了調(diào)整突觸權(quán)值，應用了監(jiān)督學習算法，根據(jù)從輸出層向后計算到所討論突觸的誤差梯度來調(diào)整權(quán)值。最初，主要采用一種名為“反向傳播”的算法;然而，最近，基于整個網(wǎng)絡的錯誤梯度的一系列學習規(guī)則已經(jīng)可用，從而允許“梯度依賴”學習的不同變體。為了實現(xiàn)內(nèi)存進程，在三層架構(gòu)中增加了一層，并與“隱藏”層相互連接。與自聯(lián)想網(wǎng)絡類似，包括三層或四層的前饋網(wǎng)絡已經(jīng)成功地解決了廣泛的認知功能。為了進一步增強它們的計算能力，異聯(lián)想網(wǎng)絡被添加了更多的層，從而產(chǎn)生了深度神經(jīng)網(wǎng)絡(DNNs)(圖2 d)。DNNs在幾個重要方面發(fā)生了變化。例如，卷積DNNs包括(部分)層之間的幾何投影，以促進相鄰輸入的聯(lián)合處理，而遞歸DNNs包括層之間的相互連接和/或?qū)觾?nèi)的循環(huán)鏈接，使信息能夠隨時間保持。這些改進已經(jīng)制造出非常強大的設備，在一些認知領(lǐng)域，包括物體分類和語音識別，已經(jīng)達到接近人類的表現(xiàn)水平。盡管DNNs取得了廣泛的成功，但它的局限性最近被指出了。他們有時表現(xiàn)出不恰當?shù)姆夯袨?/span>，例如高度自信地將人類完全無法識別的圖像作為特定物體的實例進行分類。類似地，對所謂對抗式例子的廣泛研究表明，對圖像的最小干擾，盡管人類無法察覺，卻可能導致DNNs嚴重的錯誤分類。這些部分失敗是否表明DNNs內(nèi)在感知機制和大腦內(nèi)部感知機制之間的相關(guān)差異，可以通過算法改進來彌補，或者更確切地說是反映了訓練中應用的刺激集的局限性，仍有待研究。這與生物在個體發(fā)育過程中可獲得的現(xiàn)實刺激不同。最近的一項研究發(fā)現(xiàn)，引入一個能更好匹配靈長類V1的隱藏層，可以增強圖像分類神經(jīng)網(wǎng)絡中對抗性例子的魯棒性，這表明更高程度的生物真實性可能是關(guān)鍵。神經(jīng)網(wǎng)絡各層之間的連接通常很簡單，相鄰區(qū)域相互連接;然而，這不同于大腦皮層的連接結(jié)構(gòu)，在大腦皮層中，許多區(qū)域以復雜的方式連接。“全腦”建模的主要目標是將復雜的大腦的細分為區(qū)域和核，并實現(xiàn)這些組成部分之間的神經(jīng)解剖學連接。大多數(shù)“全腦”模型關(guān)注的不是大腦的所有部分，而是皮層區(qū)域和前腦核，或它們的選擇。神經(jīng)解剖學家已經(jīng)在粗略和細分水平上繪制出了大腦皮層和大腦的區(qū)域結(jié)構(gòu)。關(guān)于大腦結(jié)構(gòu)連接的信息可以從動物的侵入性示蹤研究中獲得，這些研究揭示了纖維束及其方向性，也可以從動物和人類的非侵入性腦成像中獲得。后者使用擴散張量成像或擴散加權(quán)成像與確定性或概率性血管造影。通過將皮層分成一組區(qū)域，將其結(jié)構(gòu)連接轉(zhuǎn)換為區(qū)域間連接，可以得到一個全腦或多區(qū)域網(wǎng)絡模型，其中每個皮層區(qū)域和解剖連接分別有相應的網(wǎng)絡節(jié)點和連接(圖2e)。全腦模型可用于研究神經(jīng)解剖結(jié)構(gòu)和連通性的功能結(jié)果。多項研究模擬了在靜息狀態(tài)下自發(fā)出現(xiàn)的大腦活動的時空動態(tài)，以解釋腦區(qū)之間的相互作用和腦區(qū)功能耦合。結(jié)果表明，皮質(zhì)解剖結(jié)構(gòu)的連通性，以及動態(tài)參數(shù)，決定并解釋了靜息狀態(tài)下區(qū)域功能連接的出現(xiàn)。全腦網(wǎng)絡為理解大腦活動的各個方面提供了一個重要的工具。然而，它并不是統(tǒng)一地運作整個區(qū)域，而是神經(jīng)元及其在神經(jīng)元回路中的相互作用，而神經(jīng)元回路是承載大腦功能和認知的功能單元。關(guān)鍵的神經(jīng)元回路及其相互連接部分由神經(jīng)解剖學結(jié)構(gòu)決定，但突觸可塑性對回路形成同樣有著重要的貢獻。因此，為了提高生物學的合理性，有必要將神經(jīng)元和可塑性納入全腦網(wǎng)絡模擬，從而利用上述聯(lián)想神經(jīng)網(wǎng)絡實現(xiàn)的約束條件。從本質(zhì)上講，全腦網(wǎng)絡模型可以通過在子區(qū)域和神經(jīng)元水平上增加更多的細節(jié)來改進;相應地，通過增加區(qū)域內(nèi)和區(qū)域間連接的神經(jīng)解剖學信息，DNNs可以變得更加真實。為了使神經(jīng)認知功能的神經(jīng)網(wǎng)絡更加真實，首先有必要建立不同層次的神經(jīng)元機制模型，從神經(jīng)元和局部皮層回路的微觀水平到皮層區(qū)域和整體連通性的宏觀水平，第二，在不同的層次上應用神經(jīng)科學的約束(圖1)。在接下來的章節(jié)中，我們將逐點闡述“生物現(xiàn)實主義”的含義，并討論一系列適用于認知功能網(wǎng)絡模型的特定神經(jīng)生物學限制條件——其中一些也適用于更普遍的神經(jīng)網(wǎng)絡。當認知過程成為焦點時，前腦特別是大腦皮層的機制受到了特別的關(guān)注。所提出的約束并不代表必須由模型以二進制方式滿足的分類特征。相反，我們認為它們是神經(jīng)模型可以根據(jù)其特定目的逐漸調(diào)整的維度。以前的模型大多集中在一個特定的顆粒大小，旨在在單個神經(jīng)元的水平上近似神經(jīng)元功能，局部皮層回路中的神經(jīng)元相互作用或皮層區(qū)域之間的整體相互作用(見全腦網(wǎng)絡部分)。為了同時在大腦結(jié)構(gòu)和功能的不同層次應用約束，這些不同層次必須被處理并整合到一個單一的模型中。此外，為了利用多個來源的實驗數(shù)據(jù)進行模型驗證，需要進行多級建模。這些不同的來源包括行為表現(xiàn)(例如，認知實驗中的準確性和反應時間)和神經(jīng)生理活動。在這里，不同的空間尺度再次發(fā)揮作用，從單細胞和多細胞記錄的微觀水平，到無創(chuàng)神經(jīng)成像技術(shù)(如腦電圖、腦磁圖和功能磁共振成像)顯示的局部場電位和宏觀局部區(qū)域激活。這些生理數(shù)據(jù)也來自不同的時間尺度，從神經(jīng)元和高頻振蕩之間的毫秒級別到更慢速的神經(jīng)代謝變化。記錄的神經(jīng)元或成像區(qū)域的活動，甚至這些激活模式或它們揭示的短暫功能交互之間的相似性，都可能與人工神經(jīng)元、局部神經(jīng)元簇或模型的“區(qū)域”組件的激活模式有關(guān)。同樣地，局部皮層區(qū)域內(nèi)或跨不同皮層區(qū)域的活動的時空模式可以與網(wǎng)絡產(chǎn)生和整合的模式進行比較。這種在不同尺度上的活動模式的比較需要大腦的組成部分和網(wǎng)絡在結(jié)構(gòu)上彼此相似，并且有可能將大腦部分和網(wǎng)絡部分區(qū)分開來。只有在這種情況下，生理測量才能用來驗證神經(jīng)模型。下面幾節(jié)中的約束說明了這種相似性的不同方面。皮層和大腦的功能單位是神經(jīng)元。這些神經(jīng)元接收輸入信號，這些輸入信號轉(zhuǎn)化為突觸后電位，最后轉(zhuǎn)化為離散動作電位的輸出，從而動作電位的頻率可以連續(xù)變化。所有的神經(jīng)網(wǎng)絡都是由神經(jīng)元的人工相關(guān)物組成的，但神經(jīng)元功能模擬的細節(jié)水平有很大的不同。平均場模型使用具有連續(xù)輸入和輸出的神經(jīng)元(因此忽略了大多數(shù)真實神經(jīng)元的峰值)，以及一個將前者轉(zhuǎn)換為后者的傳遞函數(shù)。它們可以被解釋為模擬單個神經(jīng)元的放電概率或局部神經(jīng)元電路的累積活動。更復雜的“整合-放電”神經(jīng)元模擬突觸后電位的總和和由此產(chǎn)生的神經(jīng)元放電，并可以擴展到整合樹突間隔和它們輸入之間的非線性相互作用。多隔室和生物物理神經(jīng)元模型可以包括更多的細節(jié)，包括樹突樹的細分，突觸后離子通道動力學和樹突動作電位。因此，處理神經(jīng)元模型真實感程度的進展維度可以從平均場推進到整合放電，再推進到生物物理神經(jīng)元模型。此外，一些神經(jīng)元活動很難用輸入來解釋，因此可以被視為噪音。加上噪音，再加上適應性(即隨著延長激活而減少活動)，可以進一步增加神經(jīng)元模型的真實感程度。然而，對于給定的研究問題，最詳細的神經(jīng)元模型并不總是最好的選擇。值得注意的是，相對基本的神經(jīng)元模型可以很好地描述神經(jīng)元活動，而復雜的神經(jīng)元模型需要更多的計算資源，目前限制了它們對與認知相關(guān)的區(qū)域內(nèi)和跨區(qū)域交互的大規(guī)模模擬的適用性。顯然，學習機制是生物學的網(wǎng)絡的一個關(guān)鍵生物學成分。如前所述，局部模型和全腦模型通常缺乏這個特性。為了在大腦中模擬多個學習系統(tǒng)，兩種主要的學習形式，有監(jiān)督的和無監(jiān)督的，都是必要的。基于生物學上的Hebbian原則的學習適用于所有的認知領(lǐng)域。它是由各種不同的學習規(guī)則一起逼近得到的。其中一些規(guī)則是基本的。其他規(guī)則包括更多的神經(jīng)生理學細節(jié)，特別是那些既可以執(zhí)行長時程增強(LTP)，又可以作為非相關(guān)或抗相關(guān)激活的結(jié)果執(zhí)行長期抑郁(LTD)的規(guī)則。依賴于動作電位時序的突觸可塑性被稱為spike時序依賴性可塑性，是復雜實現(xiàn)的Hebbian學習的結(jié)果。由此可見，從無學習到基于LTP的Hebbian學習，最終到Hebbian LTP加LTD學習規(guī)則和spike時程依賴性可塑性的發(fā)展過程。監(jiān)督式學習包括使用反饋信號，告知個人或網(wǎng)絡的表現(xiàn)是否合適。然而，在監(jiān)督學習模擬中使用的算法的選擇不僅受到生物合理性的指導；梯度依賴學習的計算效能也發(fā)揮了重要作用。這些算法在生物學上是否真實，是否適用于特定認知領(lǐng)域的復雜學習，這是有爭議的。一些研究人員批評通過前饋神經(jīng)元網(wǎng)絡計算和反饋誤差梯度的機制缺乏強有力的生物學支持，而另一些人指出，最近出現(xiàn)的神經(jīng)生物學機制的證據(jù)可能在一定程度上支持上述機制。錯誤梯度可能通過生物神經(jīng)元群體逐漸向后傳播的機制仍然是正在進行的研究的目標。進一步假定的問題涉及梯度依賴學習所需的反饋類型。在DNN模擬中，可以進行數(shù)千次學習試驗，例如，根據(jù)類別歸屬對物體圖片進行分類(例如，它們顯示的是貓還是杯子)。然而，在人類分類和語言學習的許多情況下，這種反饋并沒有發(fā)揮主要作用——如果有的話，也只是很少可用。在某些認知學習的案例中，似乎沒有某些輸入就足夠了。大腦是調(diào)節(jié)系統(tǒng)，皮層活動受到不同層次的控制機制的調(diào)節(jié)。這包括微觀的局部回路水平，興奮性的皮層神經(jīng)元與局部抑制性細胞相互作用;宏觀的、更全面的大腦部分相互作用水平，在這個水平上，皮層活動通過與丘腦、基底神經(jīng)節(jié)和其他皮層下結(jié)構(gòu)的信息交換來調(diào)節(jié)。許多用于模擬認知的分布式神經(jīng)網(wǎng)絡僅由興奮單元組成，缺乏抑制機制。其他建?？蚣茉诔橄蠹墑e實現(xiàn)規(guī)則;例如，通過預先定義一個區(qū)域內(nèi)允許同時活躍的神經(jīng)元的最大數(shù)量。更現(xiàn)實的神經(jīng)網(wǎng)絡模型包括興奮性和抑制性神經(jīng)元元素，這樣活動的調(diào)節(jié)和控制是通過它們的相互作用實現(xiàn)的，這是一種對喚醒和注意力至關(guān)重要的機制。很少有模型同時實現(xiàn)了局部和全腦監(jiān)管機制。將抑制和調(diào)節(jié)機制包括在局部層面和更廣泛的全腦層面是使神經(jīng)認知網(wǎng)絡在生物學上可信的一個重要特征。大腦皮層是由一系列區(qū)域組成的，因此區(qū)域的定義主要是基于解剖學標準，有時還會利用功能信息進行細化。根據(jù)模擬要解決的問題，網(wǎng)絡模型可以實現(xiàn)一個皮層區(qū)域、特定選擇的皮層區(qū)域或所有皮層區(qū)域以及皮層下核。每個區(qū)域或細胞核都可以實現(xiàn)為一個單獨的“層”或模型區(qū)域，包括預定義數(shù)量的人工神經(jīng)元。錐體細胞是皮層中最常見的興奮神經(jīng)元，每個細胞攜帶1萬至4萬樹突棘，而每一樹突棘又通常包含一個突觸。因此，這些細胞中的一個可能會與數(shù)以萬計的其他皮層細胞相接觸——在人類皮層的150億到320億神經(jīng)元中。連接的數(shù)量太大了，單靠遺傳密碼無法逐個項目地確定，因此隨機原則也必須共同決定一對特定的神經(jīng)元是否連接。兩個相鄰的錐體神經(jīng)元連接的概率隨它們之間的距離而減小。總之，神經(jīng)解剖學研究表明，皮質(zhì)區(qū)域內(nèi)的局部興奮性連接是稀疏的，并顯示鄰域偏向于相鄰神經(jīng)元之間的連接。鑒于這些特征，異聯(lián)想網(wǎng)絡缺乏層內(nèi)連接在生物學上似乎不現(xiàn)實。許多包含自聯(lián)想層的網(wǎng)絡包括這些區(qū)域內(nèi)所有神經(jīng)元之間的完全連接。這種完全的自聯(lián)想性與固有的局部皮質(zhì)連接的稀疏性形成了鮮明對比。在將自聯(lián)想與區(qū)域間異聯(lián)想連接連接起來的神經(jīng)網(wǎng)絡中，實現(xiàn)了具有鄰域偏差的稀疏、局部和部分隨機連接的腦約束。對于局部連接約束，最先進的是實現(xiàn)不同細胞類型及其在新皮層各層位置的微電路模型。盡管如此，對于今天大多數(shù)可用的神經(jīng)網(wǎng)絡來說，區(qū)域內(nèi)連接約束的實施仍然會導致生物真實性的增加。大腦皮層區(qū)域之間的連接遵循一些普遍的規(guī)則。大多數(shù)連接是相互的。相鄰區(qū)域幾乎總是相互連接的，而第二鄰域在許多情況下是相互連接的。然而，較長距離的連接是稀疏的。如果兩個區(qū)域是存在連接的，它們的連接在大多數(shù)情況下是相互的，并顯示地形投影，這樣就保留了局部相鄰關(guān)系。區(qū)域間的連接由皮質(zhì)錐體細胞的長軸突分支進行。這些軸突分支穿過白質(zhì)，可以到達遠處的神經(jīng)元，在那里它們分支并與附近的神經(jīng)元聯(lián)系。生物現(xiàn)實主義的一個進展可以通過引入隨機連接來實現(xiàn)，這種連接帶有對地形投影和鄰域連接的偏見，例如，在多區(qū)域自動聯(lián)想和卷積深度網(wǎng)絡中。在宏觀層面上，用現(xiàn)實的連接方案替代相鄰連接區(qū)域的典型線性排列(圖2c,d)是出于生物學原因。因此，人工神經(jīng)網(wǎng)絡的基本大腦約束來自于神經(jīng)解剖學研究記錄的區(qū)域間連接的連接結(jié)構(gòu)。對全腦連通性的額外限制可能來自功能連接的方法，包括基于相關(guān)性的無向功能連通性和有向有效連通性。然而，我們建議應用神經(jīng)生理學證據(jù)等數(shù)據(jù)來驗證解剖約束模型，而不是作為先驗約束。我們建議，大腦功能模型應該嘗試整合前面提到的七個大腦約束條件中的幾個，最好是所有的。微觀層面和宏觀層面的結(jié)合對這一努力至關(guān)重要。Schmidt等人的模型令人信服地將局部與區(qū)域結(jié)構(gòu)和全局連通性約束結(jié)合起來，并以迄今為止前所未有的細節(jié)水平模擬了人類大腦的靜息狀態(tài)活動(圖3)。然而，這個模型對計算的要求很高，并且觸及了當前先進計算設備的模擬能力的極限，盡管它被限制為模擬32個區(qū)域，每個區(qū)域模擬的是皮層表面1mm2以下的神經(jīng)元。這些限制表明，為了使計算工作易于管理，有必要仔細選擇約束可以逐漸滿足的程度。此外，以最極端的形式應用所有約束可能導致計算上無法實現(xiàn)的模型，即使實現(xiàn)了，也可能過于復雜，無法作為更好地理解大腦功能的工具。圖3：對獼猴視覺系統(tǒng)的32個皮層區(qū)域的神經(jīng)生理活動進行了模擬。區(qū)域間連通性的概率(左下角面板)基于解剖數(shù)據(jù)和一般連通性原則。通過進一步的神經(jīng)解剖學約束，每個區(qū)域被建模為皮質(zhì)的1mm2的塊，興奮性和抑制性刺突細胞(右圖)分層排列，層特異性細胞群內(nèi)部和層特異性細胞群之間的特定連接概率(左上圖)。該模型用于再現(xiàn)和解釋神經(jīng)生理學記錄的神經(jīng)元活動峰值、跨區(qū)域的活動傳播以及神經(jīng)元種群和區(qū)域之間的因果動態(tài)相互作用。該模型統(tǒng)一了皮層的局部和大規(guī)模描述，并闡明了皮層的局部和整體連接如何在多個尺度上塑造其動態(tài)。圖3 基于神經(jīng)解剖學約束的多級神經(jīng)動力學解釋網(wǎng)絡如前所述，認知神經(jīng)模型評估的證據(jù)可以來自單細胞和多細胞記錄，功能型MRI區(qū)域激活模式或時空激活模式，揭示了不同神經(jīng)元群體或區(qū)域的神經(jīng)活動協(xié)調(diào)。例如，許多物體識別模型都能夠描述人類的物體分類性能，但只有與大腦結(jié)構(gòu)有一定相似性的神經(jīng)模型才能利用人類和猴子顳下皮層不同水平記錄的神經(jīng)生理學數(shù)據(jù)進行測試。對于這樣的測試來說，不僅可以采用揭示物體感知和分類過程中激活的位點的方法，而且還可以采用更復雜的表征相似性分析方法，它允許人們將不同刺激引起的大腦激活模式之間的相似性程度與刺激本身的相似性結(jié)構(gòu)聯(lián)系起來，相似性結(jié)構(gòu)可以在不同的水平上測量。值得注意的是，表征相似性分析顯示顳下皮層的神經(jīng)代謝活動反映了視覺感知對象的語義相似性。替代神經(jīng)(和非神經(jīng))模型的應用和比較表明，通過應用監(jiān)督學習訓練的前饋卷積DNN，可以獲得表征物體知覺的顳葉皮層區(qū)域特異性激活模式和模式相似性的最佳擬合。此外，最近的研究表明，在DNN中包含復發(fā)連接對于捕捉顳葉皮層中觀察到的快速神經(jīng)生理動力學方面至關(guān)重要。除了這些模型已經(jīng)解決的結(jié)構(gòu)和功能約束之外，未來還可能考慮區(qū)域內(nèi)和區(qū)域間連接的進一步結(jié)構(gòu)約束。對注意力的研究為神經(jīng)科學約束在認知理論中的應用提供了另一個例子。長期以來，心理學家已經(jīng)建立了這樣一個理論，即視覺選擇性注意對物體和特征的感知存在偏見，不同的知覺元素相互競爭以獲得注意力，這種相互作用被注意力的偏見競爭模型所描述。這一認知理論被轉(zhuǎn)化為早期和高級視覺皮層。受到神經(jīng)科學數(shù)據(jù)的啟發(fā)，興奮性和抑制性神經(jīng)元集合與區(qū)域內(nèi)和區(qū)域間連接被用來模擬表征之間的交互作用，注意偏差和資源限制抑制，并有助于解釋在非人靈長類動物行為和神經(jīng)生理學記錄的實驗結(jié)果。在另一項使用卷積DNN的獨立工作中，注意力對視覺物體分類的影響最近被證明取決于偏見應用的水平，在將注意力偏向特定對象類別方面，上層調(diào)制相對于下層調(diào)制更有效。這一觀察結(jié)果可能有助于闡明前顳區(qū)和前額葉區(qū)在視覺注意加工中的作用。以神經(jīng)生物學的形式對大腦認知功能進行建模的一個相對簡單的方法是選擇一組區(qū)域和核，每個區(qū)域和核使用一組神經(jīng)元進行建模，將認知功能分配給模型區(qū)域，并使用預定義的或?qū)W到的區(qū)域特定激活向量之間的映射來確定它們之間的相互作用。這一策略催生了受生物學啟發(fā)的認知功能模型，包括概念、語言和數(shù)字處理。由于大小(250萬個神經(jīng)元)和在各種認知任務中執(zhí)行神經(jīng)元模型約束(整合和激活神經(jīng)元)，其中一個這樣的模型特別令人印象深刻。20個大腦區(qū)域(區(qū)域和核)在模型中被表示出來，每個區(qū)域都由一組神經(jīng)元組成，盡管區(qū)域之間的連接有時是理想化的。在這些區(qū)域內(nèi)，要么沒有連接，要么完全連接，抑制神經(jīng)元缺失。因此，七個限制條件中的三個已經(jīng)得到解決。其他使用詞匯和任務范圍小于這個大型模型的腦約束模型已經(jīng)成功地將概念和語言處理與動作和感知機制結(jié)合起來，并已應用于機器人。解釋神經(jīng)科學的發(fā)現(xiàn)除了將認知理論應用到神經(jīng)生物學環(huán)境中，大腦約束模型還可以為長期存在的神經(jīng)科學問題提供答案，這些問題包括大腦的特定能力是如何機械地實現(xiàn)的，它們是如何在個體發(fā)生中出現(xiàn)的，它們是如何在系統(tǒng)發(fā)育過程中產(chǎn)生的，以及它們?yōu)槭裁次挥诖竽X中被觀察到的特定部位。我們現(xiàn)在特別轉(zhuǎn)向這個解釋性的觀點。本文討論的一些模型為注意力的競爭方面提供了一種機制解釋，這種競爭方面來自于局部抑制連接和區(qū)域投影之間；然而，注意力的偏見競爭模型的另一個組成部分，偏見(例如對一個物體或視覺空間的一部分的偏見)，通常是從外部呈現(xiàn)給模型的，因此仍然沒有模型內(nèi)在的解釋。偏見的機制可能來自基于神經(jīng)元功能和結(jié)構(gòu)連接的記憶動態(tài)網(wǎng)絡模型。在這里，亞細胞水平的記憶機制(如突觸可塑性)是重要的，但在這些模型中，為什么特定類型的記憶在特定物種、大腦部分和回路中發(fā)展的問題仍然是部分開放的。通過適當調(diào)整激活閾值和突觸權(quán)重，完全連接的自聯(lián)想記憶具有持久吸引子狀態(tài)，這可能與工作記憶相關(guān)。在使用峰值神經(jīng)元的模型中，在他們的“區(qū)域”內(nèi)具有全對全連接的自動聯(lián)想網(wǎng)絡產(chǎn)生了類似于工作記憶實驗中顳下葉神經(jīng)元記錄的放電模式。 進一步的工作解決了為什么不同的皮層區(qū)域通常表現(xiàn)出不同的主要記憶活動模式的問題。Hebbian的學習原理表明，記憶回路是由感官刺激時一起發(fā)出信號的神經(jīng)元構(gòu)成的，因此它位于要存儲的信息到達的區(qū)域;也就是說，在主要地區(qū)。然而，大多數(shù)具有記憶特征的神經(jīng)元出現(xiàn)在遠離主要區(qū)域的多模態(tài)區(qū)域(前額葉、前顳葉和后頂葉皮層)。一個實現(xiàn)6個額葉和顳葉區(qū)域及其神經(jīng)解剖學連接結(jié)構(gòu)的深度神經(jīng)模型顯示，應用于該網(wǎng)絡的無監(jiān)督Hebbian學習產(chǎn)生了初級、次級和多模態(tài)區(qū)域的放電模式和記憶細胞的真實分布，從而提供了一種基于神經(jīng)元功能和皮質(zhì)皮質(zhì)連接的皮質(zhì)記憶拓撲和動力學的解釋。在一個相關(guān)的線索上，最近的一項研究問道，為什么一種特定形式的記憶，即口頭工作記憶(即對口語和類似語言的聲音刺激的記憶)，是在額顳區(qū)連接結(jié)構(gòu)的特定進化變化的背景下發(fā)展起來的，而且是針對人類的。研究表明，在靈長類進化中觀察到的額顳葉連通性的特異性增加，導致了發(fā)音-聽覺單元的分布式神經(jīng)元回路的出現(xiàn)，從而提供了基于系統(tǒng)發(fā)育結(jié)構(gòu)變化的特定人類特征的解釋(圖4)。這個模型和前面描述的一個模型實現(xiàn)了在這個觀點中討論的七個約束條件(特別強調(diào)“區(qū)域之間的全局連接”)，盡管區(qū)域的數(shù)量和局部微電路模擬的細節(jié)水平仍然可以增加。
圖4 左額顳葉皮層進化連接變化模型及其功能結(jié)果圖4：(a)研究人員用“猴子”和“人類”的額顳葉皮質(zhì)六個區(qū)域的模型來解決這個問題，這六個區(qū)域涉及到發(fā)音和聽覺知覺(中間的圖)。這些區(qū)域被模擬成625組平均場興奮神經(jīng)元，每個神經(jīng)元隨機投射到其他興奮單元的局部鄰域(e,彩色);每個興奮性細胞都有一個相應的抑制性“細胞”(i，淺灰色)，突出于狹窄的局部鄰域(左圖)。(b)在被學習到的聽覺模式刺激后，猴子模型的模型區(qū)域顯示出微弱且短暫的順序激活。(c)同樣的刺激導致了人體模型區(qū)域的強烈和持久的平行激活。這種長時間的活動可以解釋為語言工作記憶，這是人類語言的一種必要機制。在語言和概念處理領(lǐng)域也可以取得類似的解釋性進展。眾所周知，額葉、顳葉和頂葉的多模態(tài)區(qū)域一般對概念和語義加工很重要，而感覺和運動模態(tài)優(yōu)先區(qū)域則對特定語義類別的加工有貢獻。腦理論認為，多模態(tài)信息的聚合對概念機制至關(guān)重要。為了從貓的視覺感知到相關(guān)的概念，例如，關(guān)于貓通常會發(fā)出什么樣的聲音的知識，需要整合來自不同形式的信息。這種多模態(tài)信息的整合需要不同皮層區(qū)域(彼此相距較遠)模態(tài)特定神經(jīng)系統(tǒng)之間的連接，這意味著概念加工中存在大規(guī)模連接結(jié)構(gòu)的作用。前額葉和顳葉皮層的詞匯學習過程模型應用了現(xiàn)實的早期語言學習場景、無監(jiān)督學習和解剖學限制的局部和全局連接，顯示了與數(shù)據(jù)一致的概念和語義加工神經(jīng)元回路的分布。具體來說，概念回路的大多數(shù)神經(jīng)元是由符號及其相關(guān)物體或動作的協(xié)同處理信息形成的(圖5)，它們被放置在模型的多模態(tài)收斂中心中。相反，在概念學習過程中，特定通道特定區(qū)域的刺激和相關(guān)的神經(jīng)激活地形有助于解釋通道偏好區(qū)域的類別特定貢獻。同樣，現(xiàn)實的區(qū)域間連通性是這些解釋的一個關(guān)鍵因素;所有七個限制條件都得到了解決。圖5 語義基礎(chǔ)的腦約束模型
圖5：(a)為了模擬嬰兒對物體相關(guān)和動作相關(guān)詞匯的意義的學習，我們建立了一個12區(qū)域的模型，包括圖4中的6個額下半部分和顳上半部分。區(qū)域之間的連接用箭頭表示。(b)回路神經(jīng)元在模型區(qū)域的分布。條形圖給出了每個區(qū)域內(nèi)物體文字回路(藍色)和動作文字回路(紅色)的平均神經(jīng)元數(shù)量。除了前面提到的大腦約束模型的理論和解釋方面的進展外，這種新的策略為未來提供了非常實用的應用策略。其中一個應用涉及神經(jīng)可塑性，旨在預測和解釋損傷或剝奪后認知功能的重組。在這種背景下，最近的建模嘗試已經(jīng)針對語言相關(guān)皮層區(qū)域的局部性損傷和盲人的感覺剝奪患者的語言處理改變進行了研究。這些模擬實驗得出了有充分記錄的神經(jīng)可塑性現(xiàn)象的解釋;例如，先天失明的個體在語言和認知過程中對視覺區(qū)域的接管。在未來，可能會以個別大腦的特定特征執(zhí)行神經(jīng)計算模型的限制。個別受限神經(jīng)網(wǎng)絡獲得的結(jié)果可能為預測未來神經(jīng)可塑性動力學開辟新的前景，并可能用于規(guī)劃個性化治療或手術(shù)，例如針對腦腫瘤患者。因此，應用于特定人群甚至個別案例的腦約束模型可能會打開富有成效的未來前景。本文對認知的神經(jīng)網(wǎng)絡模擬及其成功的案例進行了綜合性的評價，并在本文種提出，未來的相關(guān)研究應該更以生物學為導向的建模邁進。根據(jù)該視角提出的立場，神經(jīng)科學對模型約束應優(yōu)先于其他目標，如處理效能和大數(shù)據(jù)處理。 除了建立在宏觀尺度和微觀尺度之間的橋梁的必要性之外，為了讓它們能夠在不同水平上通過生理數(shù)據(jù)進行測試，所提出的約束條件可以解決了神經(jīng)元模型，學習算法和調(diào)節(jié)機制缺乏神經(jīng)解剖學方面的約束問題，并可以從實踐上細分短連接和長連接的問題。作為腦約束模型的具體例子，本文回顧了神經(jīng)認知理論的生物動機神經(jīng)計算實現(xiàn)，以及基于模型的對物體感知、注意力、記憶、概念和語言及其個體發(fā)生和系統(tǒng)發(fā)生的發(fā)展。大腦約束模型的未來前景包括生成能夠識別個體大腦特征的網(wǎng)絡，這可能有助于評估特定個體大腦皮層的哪些部分對保留特定的認知功能至關(guān)重要。
本站僅提供存儲服務，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請
點擊舉報。
