科技行者報(bào)道
來源：wired.com
編譯整理：科技行者
宇宙中充滿了一些非?？岬臇|西：例如，每一小匙重達(dá)一噸的中子星，連光都能吞噬的特大質(zhì)量黑洞，恰好能夠流穿過脫氧鋼的無窮小的中微子，以及地球上那些奇異的動(dòng)植物們…不過，在宇宙所有已知的事物里，最神奇的莫過于人腦。
人類大腦能夠了解中子星，了解黑洞、中微子，以及地球上眾多的動(dòng)植物。人類大腦能夠計(jì)算出數(shù)學(xué)真理，能夠辨別出道德上半真半假的陳述，也能夠思考出哲學(xué)上的模棱兩可。它能夠從我們腳下的泥土中，提取出原材料，構(gòu)建城市，能建造汽車、飛機(jī)和火箭，以及有線和無線信號(hào)，并將這些迥然不同的“意識(shí)”匯聚成創(chuàng)造力、知識(shí)、甚至是殘酷行為的“母巢”。
如果說我們的大腦是宇宙中最酷的產(chǎn)物，絕不會(huì)引起爭論，畢竟如果沒有大腦，也就不可能有這些爭論。它們是所有爭論和辯論的基礎(chǔ)。
至少到目前為止，大腦是宇宙中最酷的東西了。或許將來有一天，人類會(huì)發(fā)現(xiàn)或創(chuàng)造出其他能夠去發(fā)現(xiàn)、創(chuàng)造、爭論、討論、哄騙的事物，它們可能來自于遙遠(yuǎn)星球的飛船（這種可能性微乎其微），也可能會(huì)出現(xiàn)在某個(gè)實(shí)驗(yàn)室里（這一點(diǎn)幾乎是可以肯定的）——而一些人認(rèn)為，這些新型“會(huì)思考的機(jī)器（thinking machines）”可能發(fā)生在人工智能里。
人工智能早在六十年前已經(jīng)問世。在世界各地的實(shí)驗(yàn)室，小巧可愛的AI們正煥發(fā)著生機(jī)。有的AI下棋可以勝過人類最強(qiáng)棋手，有的AI正在學(xué)習(xí)駕駛一百萬輛汽車行駛一百萬英里，而有的AI正在學(xué)習(xí)拯救更多的生命，甚至超過大多數(shù)醫(yī)生或急救醫(yī)護(hù)人員在其整個(gè)職業(yè)生涯拯救過的生命數(shù)量，有的AI會(huì)確保我們的餐具干燥且無污漬，或確保我們的衣服穿著得體且沒有起皺。人們正在打造無數(shù)的人工智能，為其編寫程序，它們只會(huì)變得更加智能、更加無處不在，它們會(huì)變得更好，但它們永遠(yuǎn)不會(huì)像我們?nèi)祟愐粯印?span style="font-size: 14px;letter-spacing: 1px;color: rgb(0, 0, 0);">而這是一件好事。
我們的自我意識(shí)程度是將人類與地球上其他生命形態(tài)區(qū)分的關(guān)鍵所在。大多數(shù)動(dòng)物是有意識(shí)的，甚至有許多動(dòng)物是有自我意識(shí)的，但是人類擁有的是高度的自我意識(shí)。人類的大腦中有一個(gè)連接到我們意識(shí)的放大器，并且轉(zhuǎn)到了最大值。
在人工智能領(lǐng)域，充斥著各種對(duì)人類智能的不同特性的復(fù)制或模仿工作。其中他們必做的一件事是，復(fù)制人類意識(shí)的打開方式。也許從人工智能研究中，我們收獲的最佳產(chǎn)物不是對(duì)計(jì)算機(jī)的理解，而是對(duì)人類自己的理解。
因此，我們不妨大膽設(shè)想一下，具備自我意識(shí)的機(jī)器人的打開方式，我們暫且把它稱作一個(gè)藍(lán)圖。
“藍(lán)圖”三要素
一個(gè)有自我意識(shí)的機(jī)器人聽起來很簡單，實(shí)則很復(fù)雜，我們需要：
機(jī)器身體或設(shè)備對(duì)外界刺激作出回應(yīng)。這就好比是一輛車在感覺到下雨時(shí)會(huì)啟動(dòng)擋風(fēng)玻璃刮水器，或是當(dāng)車前經(jīng)過一個(gè)孩子時(shí)汽車會(huì)剎車一樣——然而這些都不是問題，因?yàn)檫@些我們都已構(gòu)建好了。
其次，一種語言引擎。（這同樣也不是什么問題。它可以通過在汽車上裝數(shù)百種不同的指示燈來實(shí)現(xiàn)，也可以選擇在語音識(shí)別系統(tǒng)，如IBM Watson、訊飛聽見)。
第三項(xiàng)也是最后一個(gè)組件則有一點(diǎn)不同尋常，這是一個(gè)獨(dú)立于機(jī)器的組件，用來觀察機(jī)器身體的其余部分并發(fā)出行動(dòng)指令。
綜上，我們需要三個(gè)要素：(1)會(huì)對(duì)刺激因素做出回應(yīng)的身體；(2)一種通信方法；(3)一種算法，用以推斷出這些通信的原因和動(dòng)機(jī)。
機(jī)器思維與人腦思維仍相差甚遠(yuǎn)
要理解人類意識(shí)，我們需要深入研究心理理論（Theory of Mind）。不過遺憾的是，這個(gè)概念是模糊的，因?yàn)樗谖覀兊娜粘Ｉ钪邢牧宋覀兇蟛糠值挠?jì)算能力——我們的大腦一致都被認(rèn)為幾乎與心理理論機(jī)器一樣。那么心理理論到底是什么？
說白了，心理理論是一個(gè)人的大腦試圖了解另一個(gè)人的大腦在想什么的一種理論，是個(gè)體對(duì)他人心理狀態(tài)及其與他人行為關(guān)系的推理或認(rèn)知。例如，小紅想知道小明在思考什么，于是小紅就會(huì)對(duì)小明當(dāng)前的思想狀態(tài)創(chuàng)建理論進(jìn)行推理，這樣做是為了猜測(cè)出小明下一步要做什么。
在這個(gè)例子中，我們暫且把“小紅猜測(cè)小明在想什么”稱之為一級(jí)心理理論，它也將變得越來越復(fù)雜。小紅也可能會(huì)很好奇小明是怎樣看待她的，這就屬于二級(jí)心理理論了，它是人類大多數(shù)的神經(jīng)癥和想法固執(zhí)的根源?！靶∶髡J(rèn)為我聰明嗎？”“小明喜歡我嗎？”“小明會(huì)希望我受傷嗎？”“小明是因?yàn)槲易隽耸裁床抛兊眯那楹没蛐那閴膯?”這類問題我們聽起來或許會(huì)覺得很熟悉，畢竟我們的生活中充滿了這樣的想法。而這僅僅是一個(gè)開始。
如果小紅想知道小明對(duì)于露西對(duì)湯姆的想法有什么看法，那么這就屬于三級(jí)心理理論了。再簡單地說，湯姆知道露西喜歡他嗎？或者，小紅可能想知道露西認(rèn)為小明對(duì)小紅有什么想法。這樣聽起來已經(jīng)開始有點(diǎn)混亂，畢竟摻雜了好幾個(gè)名字，并且都用“思考”這個(gè)詞將其連在一起，但這恰恰就是我們的思想比任何其他層面上的意識(shí)思考更加迷人的所在。我們幾乎無法停止這樣思考。我們可以將其稱之為閑聊或社交活動(dòng)，但我們的大腦認(rèn)為這是它們的主要職責(zé)——也是它們的主要功能。有人推測(cè)，心理理論而非工具的使用，是一開始造成我們的人腦相對(duì)大小的原因所在。
以上聽起來頗有些哲學(xué)范疇了。而在橫沖直撞的人類世界里，人腦良好的處理能力可以計(jì)算軌跡，形成一種意識(shí)，試圖了解另一個(gè)人的大腦在想什么，因此有人發(fā)明了一個(gè)拋物線式的公式：F=ma，速度的平方。
不光是人類意識(shí)，大量研究表明，許多動(dòng)物呈現(xiàn)出了不同程度的自我意識(shí)。譬如，動(dòng)物可以辨別出鏡子里自己的臉。動(dòng)物和其他動(dòng)物會(huì)就如何解決一個(gè)難題進(jìn)行交流，然后獲得雙贏。甚至有大量證據(jù)顯示，章魚也擁有自我意識(shí)。但是，正如獵豹是陸地上跑得最快的動(dòng)物一樣，人類是心理理論界的皇后與國王。
我曾經(jīng)看到過我的狗在觀察我并猜測(cè)我接下來要做什么。它或許在想，我是要把棍子扔掉呢還是不扔？我是要把最后一口食物吃掉呢還是分享給它？我甚至還見過狗狗在設(shè)法解決二級(jí)心理理論的問題。當(dāng)它與一個(gè)小伙伴玩耍時(shí)，它就會(huì)來估計(jì)我的意圖是什么。我突然打開包了嗎？或者這是另一個(gè)游戲？我的狗應(yīng)該站哪一邊？在動(dòng)物世界里，狗是一個(gè)很好的心理理論例子，因?yàn)楣方?jīng)過多年的進(jìn)化，與人類接觸的比較多，漸漸學(xué)會(huì)了一些人類行為線索。
隨著機(jī)器人已經(jīng)成為我們馴化的伙伴，要發(fā)展擁有自我意識(shí)的AI，就要繼續(xù)密切關(guān)注這個(gè)模型。他們中的一部分機(jī)器已經(jīng)開始試圖猜測(cè)人類的想法，以及人類下一步會(huì)做什么了。目前已經(jīng)有人在開發(fā)一種汽車：能夠通過識(shí)別用戶臉部表情來確定用戶的注意力在哪里、是否昏昏欲睡，這屬于一級(jí)心理理論，目前已被應(yīng)用于上路的自動(dòng)化駕駛汽車。
然而，對(duì)這些能力的進(jìn)一步發(fā)展并不會(huì)引起自我意識(shí)的產(chǎn)生。下文有一個(gè)非常簡單的原因解釋了人類意識(shí)的神秘，盡管我們?nèi)缃窨梢院茌p松地在實(shí)驗(yàn)室里制造出“有意識(shí)”的機(jī)器，但并非有“自我意識(shí)”或“類似于人類意識(shí)”。
人腦模塊之間并非協(xié)同工作，這正是機(jī)器的誤區(qū)
與我們理解的相悖，人腦不是一個(gè)單一的、完整的實(shí)體，而是一個(gè)集成了成千上萬不同模塊的中心，只有極少的部分互連。我們喜歡把大腦比作一個(gè)計(jì)算機(jī)芯片，甚至進(jìn)一步將其精確地想象成一臺(tái)電腦，有著獨(dú)立的中央處理單元，將RAM(短期記憶)、硬盤(長期記憶)、冷卻風(fēng)扇(自主神經(jīng)功能)、電源(消化)等等分離開來。
這雖是一個(gè)有趣的類比，但也是一個(gè)不可思議的誤導(dǎo)。電腦是一個(gè)有著一體化標(biāo)準(zhǔn)設(shè)計(jì)的精密設(shè)備，各個(gè)部分的幾乎都是出于同樣的目的在同一時(shí)間設(shè)計(jì)，而且他們的設(shè)計(jì)目的在于與其他電腦能夠協(xié)同工作。但這些都與人類思維毫不類似，甚至相差甚遠(yuǎn)。
人類思維更像是華盛頓特區(qū)或大型公司，龐大而復(fù)雜。大腦的某些功能在數(shù)億年前便已建立，例如它可以為單個(gè)細(xì)胞提供能量，也可以通過細(xì)胞膜提供鈉和鉀。而幾百萬年前建成的神經(jīng)元，可以確保血液的注入和氧氣的吸入。大腦里的每個(gè)模塊就像是一個(gè)擁擠的城市里一個(gè)個(gè)單獨(dú)的建筑一樣。其中的一些模塊甚至與其他模塊完全沒有交流。血液循環(huán)系統(tǒng)和呼吸系統(tǒng)可自由發(fā)展，但其他系統(tǒng)很容易發(fā)生爭吵、抬杠、異議、對(duì)其他系統(tǒng)造成破壞等，致使身體出問題。下面是一個(gè)例子：
幾個(gè)月前，我和女友從加拉帕戈斯群島動(dòng)身去法國玻利尼西亞，需要花費(fèi)兩星期到一個(gè)月的時(shí)間來穿越這片3000英里的大海。我女友不常暈船，但在南太平洋一個(gè)稱為輻合區(qū)的區(qū)域，洶涌的海面使我們的帆船進(jìn)入了奇怪且不平穩(wěn)的節(jié)奏，她感到非常難受，而這種可怕的感覺持續(xù)了幾天。
暈船就是我們的大腦模塊之間不與彼此交流（或自己做自己的事）的一個(gè)例子。當(dāng)我們周圍環(huán)境運(yùn)動(dòng)的視覺線索與我們的內(nèi)耳（感知平衡的所在）發(fā)出的信號(hào)不匹配時(shí)，大腦就會(huì)認(rèn)為我們被人投了毒。而毒素會(huì)擾亂我們的大腦處理，導(dǎo)致其無能、產(chǎn)生異常數(shù)據(jù)，我們又不是水手，所以當(dāng)我們看到的與運(yùn)動(dòng)不匹配時(shí)，我們的身體會(huì)認(rèn)為我們已經(jīng)失去了用兩條腿保持平衡的能力，結(jié)果就是，我們清空了腸胃(去除了毒素)，并躺下來，完全不想動(dòng)彈（這阻止了我們因搖晃而從高處摔倒，從而導(dǎo)致死亡的可能性發(fā)生）。
將人類大腦比作完美設(shè)計(jì)的臺(tái)式電腦，這種類比顯然很失敗，而這個(gè)失敗的比喻將會(huì)引起一些可怕的立法和社會(huì)習(xí)俗的出現(xiàn)，因?yàn)槲覀兯坪醪荒苋萑膛c不同于我們自己（或平均水平）的設(shè)計(jì)。如果他們想要模仿人類行為的話，它還將會(huì)把人工智能研究者引向錯(cuò)誤的方向，不可靠且雜亂脫節(jié)的自然處理系統(tǒng)將不得不通過設(shè)計(jì)內(nèi)建，我們也將不得不故意打破系統(tǒng)，將它們自然隨意地拼湊在一起。此外，我們還要模擬一個(gè)該模塊最奇特的功能，它用一種非常特殊的方式結(jié)合了心理理論。而正是這種結(jié)合引起了人類意識(shí)的產(chǎn)生，在我們?yōu)橛凶晕乙庾R(shí)的機(jī)器打造的藍(lán)圖中，它是最重要的一項(xiàng)功能。
機(jī)器還犯了一個(gè)最重要的錯(cuò)誤
有了心理理論的概念，以及大腦模塊之間是不可靠且分離的這些知識(shí)，我們已經(jīng)準(zhǔn)備好去理解人類的意識(shí)，探索它是如何出現(xiàn)，以及它為什么出現(xiàn)了。
就這一點(diǎn)指出了一個(gè)簡單的事實(shí)：人類意識(shí)并不是任何一種實(shí)物，它的出現(xiàn)沒什么目的，也不會(huì)因進(jìn)化而產(chǎn)生規(guī)模效益，但是在人腦的某兩個(gè)獨(dú)立模塊都非常有用時(shí)，它出現(xiàn)了，因此自我意識(shí)出現(xiàn)了。
其中的一個(gè)模塊是心理理論。而前文已經(jīng)提到，心理理論將比任何其他高級(jí)的神經(jīng)活動(dòng)消耗更多大腦處理能力。而它又極其重要。因此這個(gè)模塊存在的問題在于，它不能用它的力量（心理力量）做選擇，而是將心理理論能力轉(zhuǎn)為身體指令。譬如，人覺得太冷就會(huì)起身調(diào)高空調(diào)。
fMRI機(jī)器的受試者展現(xiàn)出了一個(gè)心理理論特質(zhì)。在實(shí)時(shí)觀察他們的大腦時(shí)，我們可以看到，每下一個(gè)決定，都在大腦的更高層次模塊意識(shí)到這個(gè)決定之前就做出了。過程大概如此：做出行動(dòng)→然后觀察自己行動(dòng)→最后告訴自己為什么會(huì)這樣做（過程中，非常有用的心理理論工具仍將繼續(xù)運(yùn)行，并整理自己的行動(dòng)）。
更為明顯的例子來自于各種神經(jīng)系統(tǒng)障礙患者。測(cè)試對(duì)象要么是在視覺處理上有問題，要么是兩個(gè)大腦半球之間是斷絕的，致使其每只眼睛可以顯示出不同的圖片。例如，他們的一只眼睛會(huì)看到一個(gè)耙子，而另一只眼睛則會(huì)看到一堆雪。而他能夠看到耙子的那只眼睛實(shí)際上是失明的，但由于模塊處理的圖像仍然是活躍的，所以當(dāng)測(cè)試者被問及他所需要處理的圖像(看到雪的那只眼)看到了什么時(shí)，他會(huì)回答看到了“耙子”。是不是很有趣？然而真正有趣的是，盡管我們已經(jīng)將整個(gè)過程解釋給了他們，這個(gè)人依然認(rèn)為自己的答案是對(duì)的。
也就是說，執(zhí)意建立一個(gè)有自我意識(shí)的機(jī)器，可能在浪費(fèi)時(shí)間，也因此讓我認(rèn)為所謂的“人工智能威脅論”可能性極小。我能想到構(gòu)建這樣機(jī)器的唯一原因，就是要雇用更多的精神病學(xué)家。
“藍(lán)圖”回顧
回顧整個(gè)藍(lán)圖的起因，曾有一個(gè)艾倫·圖靈的圖靈測(cè)試粉絲找到我，她認(rèn)為建立自我意識(shí)的機(jī)器將產(chǎn)生一種超級(jí)智慧的頭腦，能夠給出治愈癌癥以及冷核聚變的方法，那么我們要如何實(shí)際組裝出這個(gè)具有自我意識(shí)的機(jī)器呢？
應(yīng)用我們所知道的頭腦理論和不相連的模塊，我們首先要建立的是一個(gè)意識(shí)方案（這些都很簡單，并且肯定已經(jīng)存在了）。使用現(xiàn)成的技術(shù)，理想中第一臺(tái)機(jī)器應(yīng)該看起來像一輛自動(dòng)駕駛車輛一樣，而且工作方式也類似。多年來，實(shí)現(xiàn)真正自主駕駛車輛的最大限制是意識(shí)裝置：傳感器讓車輛知道周圍將發(fā)生什么情況，為機(jī)器裝上了眼睛和耳朵。
有了這些基本的感官，我們就使用機(jī)器學(xué)習(xí)算法來構(gòu)建人工智能車輛要學(xué)習(xí)的各種行為。與大多數(shù)自動(dòng)駕駛車輛的研究方向不同——那些工程師們通常想要教會(huì)他們的汽車如何安全地做某些事情——我們的團(tuán)隊(duì)聚焦于教會(huì)一個(gè)城市網(wǎng)格中的傳感器陣列觀察其他車輛，并猜測(cè)它們想做什么：
-那輛藍(lán)色的日產(chǎn)車想要去雜貨店，因?yàn)椤八I了”。
-那輛紅色的貨車正打算進(jìn)入一個(gè)加油站，因?yàn)椤八枰芰俊薄?/span>
-那輛汽車“喝醉了”，它似乎視力不太好。
-而那一輛汽車反應(yīng)速度比較慢，它充滿了腎上腺素。
成千上萬的這些需求和擬人化的描述被建立在一個(gè)巨大的短語或指令數(shù)據(jù)庫中。如果我們正在建造一個(gè)人形機(jī)器人，那么我們將做同樣的事情來觀察人，并為人類似乎在執(zhí)行的各種行為建立一個(gè)詞匯庫。傳感器們將會(huì)通過掃描眼睛（這就是人類和動(dòng)物的方式）來觀察意識(shí)對(duì)象。它們將通過我們的面部表情和身體姿勢(shì)（目前的系統(tǒng)已經(jīng)能夠做到）來學(xué)習(xí)了解我們的心情。這個(gè)庫和傳感器陣列將形成我們的頭腦理論模塊。其目的只是講述其他對(duì)象的行為。當(dāng)我們讓它轉(zhuǎn)向自己的時(shí)候，魔法就會(huì)發(fā)生了。
我們的庫只是按照一階概念開始的，但是建立在二階、三階的想法之上。譬如下列思考方式：
-那輛黃色的福特車看到灰色的雪佛蘭沖著它來了嗎？-它稍微轉(zhuǎn)動(dòng)了一下方向，那么是的。
-那輛面包車是否會(huì)認(rèn)為這輛改裝過的高速汽車開得太過咄咄逼人？-它給它讓出的空間比給路上其他的汽車讓出的空間更大，那么它確實(shí)是這么認(rèn)為的。
-那輛面包車是否認(rèn)為所有改裝過的高速汽車開得過于激進(jìn)？-它正在給Corvette讓出了同樣大小的空間，這輛車上的里程表顯示它離開經(jīng)銷商只開出了兩英里，哦，那么答案就是肯定的。
到目前為止，我們需要使我們的機(jī)器能夠具備自我感知，所以我們教它在城里自己駕駛。然后，我們要求這輛人工智能汽車觀察自己的行為，并猜出它在做什么。這里的關(guān)鍵是，不要給予完美的意識(shí)。譬如，不要讓它訪問已經(jīng)標(biāo)記好雜貨店位置的GPS單元。不要讓它知道車主手機(jī)的內(nèi)容，丈夫發(fā)給妻子短信，要她在回家工作的路上接上孩子。為了模仿人類的行為，無知是關(guān)鍵。這樣就能確保最初的猜測(cè)，或者我們可能會(huì)稱之為“偏見”。
在我們的算法中，“早期的假設(shè)”被賦予“相對(duì)較晚得出的理論”更高的權(quán)重，那個(gè)時(shí)候已經(jīng)有了更多的數(shù)據(jù)（克服初始偏差需要數(shù)據(jù)優(yōu)勢(shì)。50％的可能性足以初步建立想法，但是要克服初始猜測(cè)就需要更高的可能性，比如需要75%）。然后錯(cuò)誤的猜測(cè)會(huì)被調(diào)整，并為未來的錯(cuò)誤建立云端圖片。因此，當(dāng)一輛汽車每天停在加油站并插入電源插座時(shí)，即使汽車只充到85％的電量，頭腦算法也假設(shè)它是安全的，或者足以為可能到來的颶風(fēng)做好了撤離準(zhǔn)備，就像三年前I-95那次瘋狂的逃跑，不會(huì)出現(xiàn)燃料耗盡的情況。
但它不知道的是，這輛汽車的乘客每天都在加油站吃一個(gè)微波爐加熱過的奶酪“小胖子”，還有一大堆炸薯?xiàng)l和半升蘇打水。后來，當(dāng)這輛汽車經(jīng)常去醫(yī)院的時(shí)候，它會(huì)認(rèn)為這是一個(gè)關(guān)于汽車檢查的指令，而不會(huì)想到是車主充血性心力衰竭的發(fā)作。而所有機(jī)器的錯(cuò)誤、困惑以及它對(duì)自己猜測(cè)的確定，又將給“人工智能威脅論”帶來熱議。
意識(shí)也有語言
人工智能算法可能先于人工智能誕生，算法反映了一種人類意識(shí)的秘方成分，這種成分就是語言。語言比任何其他特質(zhì)都更能夠讓我們覺得自己的大腦是一個(gè)單一的模塊，是一個(gè)單一的設(shè)備。
在提出“人類大腦不是一個(gè)單一的實(shí)體”引發(fā)爭議之前，讓我們來看看我們的身體，大腦是其中的一部分。我們的身體由數(shù)萬億個(gè)不同的細(xì)胞組成，其中許多細(xì)胞可以在我們的身體之外生活和延續(xù)。我們的身體可以在實(shí)驗(yàn)室里活上幾十年（甚至無限期，可以搜索Henrietta Lacks了解更多這方面的情況）。整個(gè)器官都可以住在別人的身體里。而且我們體內(nèi)還有更多的細(xì)胞并不是我們的，數(shù)量比那些組成我們身體的細(xì)胞還要多，因?yàn)橛懈嗟奈⑸锷钤谖覀兊南览?、皮膚上以及其他地方，數(shù)量比實(shí)際上構(gòu)成我們身體的細(xì)胞總數(shù)還要多。這不僅僅是一種搭便車的行為。它們會(huì)影響我們的心情、健康、思想和我們的行為。它們是我們認(rèn)為的“自我”的重要方面。
這可能就像聽起來一樣恐怖，但的確是事實(shí)。有人可以在沒有胳膊、腿和大部分軀干的情況下生活，有人失去了一半的大腦，卻還過著還算正常的生活。想想看：人到三十，幾乎每一個(gè)細(xì)胞已經(jīng)都被不同的細(xì)胞所取代了，幾乎沒有一個(gè)剛出生時(shí)候的細(xì)胞會(huì)殘留下來。然而，我們?nèi)匀挥X得這是同一個(gè)人。了解所有這些生物性以及人腦理性化“同一性”的方式，對(duì)于識(shí)別人工智能至關(guān)重要。
那么語言到底有什么了不起？
我上面提到，語言是意識(shí)的關(guān)鍵因素。這是在人工智能領(lǐng)域開展工作的一個(gè)非常重要的概念。然而，我們的大腦當(dāng)中有許多模塊，會(huì)為了獲取我們的注意力和我們的語言處理中心（它緊緊地圍繞著我們的注意力，幾乎成為一體，或者可以說是一樣的）而爭斗不休。作為這方面的一個(gè)測(cè)試，你可以嘗試在聆聽有聲讀物或播客的同時(shí)與其他人交談，對(duì)于并發(fā)通信流來說，最為接近的場(chǎng)景是實(shí)時(shí)的同傳翻譯。
語言和注意力是我們大腦倒置的漏斗上的窄口。成千上萬的不同模塊正在投入到這個(gè)漏斗之中。荷爾蒙涌入、我們所處環(huán)境的特征、視覺和聽覺線索，甚至幻覺和不正確的假設(shè)。大堆大堆的數(shù)據(jù)只能以單一流的方式被提取，因?yàn)槭艿阶⒁饬ο到y(tǒng)和語言系統(tǒng)的限制，這也正是顯示器為臺(tái)式機(jī)提供的工作方式，所有的并行處理在最后一刻都是串行的。
這種做法會(huì)帶來非常可怕的后果。我已經(jīng)記不起我曾經(jīng)有多少次覺得自己好像忘記了什么事情，結(jié)果在幾小時(shí)或者幾天之后才意識(shí)到忘記的是什么事。譬如，曾有一次我把筆記本落在了房間，等到房門關(guān)上我才想起來忘記了什么事。那是凌晨四點(diǎn)，而我要趕著去搭乘早班飛機(jī)。我也找不到可以——當(dāng)時(shí)，我大腦一部分模塊在尖叫著“危險(xiǎn)”，但單一的輸出流則按部就班地進(jìn)行，輸出了一片空白。
所有這一切的奇妙之處在于，我知道這是如何發(fā)生的——危險(xiǎn)模塊知道情況，可是它無法通過意識(shí)的渠道發(fā)送出來，所以我還是關(guān)上了房門，只有當(dāng)它發(fā)出能夠聽見的“咔嗒”聲的時(shí)候，信息才通過，所以我才想起來——在我腦海里響起的警報(bào)是我的一部分，但是不是我的整體，只有通過狹窄的語言走廊的東西才能被看到——這就是為什么大腦語言中心受到傷害會(huì)影響正常生活和記憶模塊受損是一樣的道理。我應(yīng)該在這里說明一下，語言不只是口語。
當(dāng)Watson在智力競(jìng)賽節(jié)目Jeopardy中勝出的時(shí)候，讓“他”在人工智能中獨(dú)一無二的是“他”的序列化輸出流，這使我們能夠與“他”聯(lián)系、聽他說話，我們可以在他的小藍(lán)色顯示器上閱讀他的答案，這最終爆發(fā)的輸出讓Watson看起來很像人類，但它終究不是人類。我們的自動(dòng)駕駛?cè)斯ぶ悄苘囕v將不會(huì)擁有完全的自我意識(shí)，除非我們編程讓它告訴我們和它自己關(guān)于它的行為的故事，核心就在于，機(jī)器將會(huì)為它正在做的事情形成故事，但我們不應(yīng)該讓它將這些故事與他人聯(lián)系起來。
譬如，谷歌人工智能可以畫畫、翻譯，并且在幾乎所有已經(jīng)被創(chuàng)造出來的游戲中擊敗了人類最好的對(duì)手，還可以比人類更好地駕駛汽車，谷歌已經(jīng)閱讀并記住了幾乎所有被寫出來的書，并可以為你大聲朗讀這些書，它也像人類一樣犯錯(cuò)誤，它容易產(chǎn)生偏見（或許是從環(huán)境和程序員那里吸收來的），然而它缺少兩樣?xùn)|西，就是自我引導(dǎo)循環(huán)（self-referential loop）和串行輸出流（serial output stream）。
一個(gè)更好的想法
為了讓我們的機(jī)器獲得類似人類的自我意識(shí)，我們必須讓它不顧上文所提到的“那臺(tái)鎖在房間的筆記本”。這可能偶爾需要耗盡能量，通過編程為數(shù)以百計(jì)的輸入模塊分配權(quán)重，然后人為限制做出最終決定和頭腦理論故事所花費(fèi)的時(shí)間和處理能力，這樣做比較容易。我們自己的大腦的構(gòu)建方式就是通過擁有千兆位分辨率的傳感器，而每個(gè)輸入模塊都有兆次級(jí)吞吐量，但是輸出卻受到限制。然而我們不會(huì)將人工智能視為人類，因?yàn)槲覀冇肋h(yuǎn)也不會(huì)構(gòu)建這樣的限制。
IBM的Watson中建立了一個(gè)這樣的限制，這是為了適應(yīng)節(jié)目Jeopardy的規(guī)則。Jeopardy需要速度，Watson不得不快速確定他的答案是否確定，以知道是否要按搶答器搶答。事實(shí)證明，按搶答器的時(shí)機(jī)是贏得Jeopardy的關(guān)鍵。經(jīng)常讓Watson看起來非常接近于人類的不是它給出的正確答案，而是在它的顯示器上看到它的第二、第三和第四個(gè)猜測(cè)是什么，每個(gè)猜測(cè)后面都有確定程度的百分比。真正讓Watson接近于人類的是它犯錯(cuò)的時(shí)刻，就好像節(jié)目Jeopardy最后一個(gè)答案是屬于“美國的城市”這個(gè)類別，而Watson對(duì)這個(gè)問題給出的答案卻是一個(gè)加拿大的城市。（這里值得注意的是，對(duì)我們?nèi)祟悂碚f，機(jī)器人在失敗的時(shí)候顯得最為人性化。）
汽車制造商正忙著制造我們永遠(yuǎn)不會(huì)稱之為具有自我意識(shí)的車輛，那或許是因?yàn)樗麄儼阉蛟斓锰昧?。而我們的藍(lán)圖是使機(jī)器在對(duì)其動(dòng)機(jī)一無所知的同時(shí)提供關(guān)于這些動(dòng)機(jī)的運(yùn)行對(duì)話，一個(gè)更好的主意是建立一個(gè)知道其他汽車在做什么的機(jī)器，沒有猜測(cè)，而且也完全沒有運(yùn)行的對(duì)話。
這意味著訪問GPS單元、智能手機(jī)的文本、家用電腦的電子郵件，而且還可以訪問其他的車輛和所有城市的傳感器數(shù)據(jù)。日產(chǎn)車告訴福特車，它將要去商場(chǎng)。每輛車都知道其他的每輛車都在做什么。因此沒有碰撞。在高速公路上，具有相似目的地的汽車聚集在一起，磁性保險(xiǎn)杠連接起來，共享一個(gè)滑流，并集體性地將每輛車的能量使用量減半。機(jī)器運(yùn)行整齊劃一。它們顯示出車輛的所有能力特征。它們知道它們需要知道的一切，而且有了新的數(shù)據(jù)，它們就會(huì)立即改變主意。沒有偏見。
我們很幸運(yùn)，這是人工智能研究人員今天建造的方向，它不會(huì)有那些我們?cè)诳苹霉适轮锌吹降墓竹保鼘⑻峁┑氖且粋€(gè)精心設(shè)計(jì)的系統(tǒng)，幾乎總是在做它的設(shè)計(jì)者讓它做的事情。事故將是非常罕見的，造成事故的原因能夠被理解，這種經(jīng)驗(yàn)將在機(jī)器當(dāng)中廣泛分享，而且會(huì)不斷改進(jìn)。
我們假設(shè)人工智能將給予我們更多的智力和創(chuàng)意產(chǎn)品（它們已經(jīng)在這樣做了），通過迭代學(xué)習(xí)的算法（使用機(jī)器學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)）變得更好，實(shí)際上它們?cè)诿恳粋€(gè)我們已經(jīng)提供資源的領(lǐng)域都已經(jīng)證明了自己比我們更好。谷歌alphago在第三場(chǎng)比賽中的有一步棋是如此不尋常，令圍棋專家們大為震驚，它的下法被描述為“富有創(chuàng)意”和“巧妙的”。谷歌有另一種算法，可以畫出它所認(rèn)為的貓的樣子，不是從其他地方復(fù)制的貓圖像，而是在學(xué)習(xí)了數(shù)百萬只真實(shí)的貓的樣子后，畫出了一只貓的“感覺”。
我們建造的大多數(shù)人工智能都不會(huì)出現(xiàn)像人類的這種情況。他們或許會(huì)更智能，也更不偏心：智能汽車將會(huì)殺死和傷害更少的人，使用更少的資源，并解放我們無數(shù)個(gè)小時(shí)的時(shí)間；智能醫(yī)療在組織掃描發(fā)現(xiàn)癌癥方面已經(jīng)做得更好了。人工智能律師在預(yù)審研究方面做得更好。——沒有什么是人類能夠與人工智能競(jìng)爭的了，而是協(xié)同工作。
未來
未來，人工智能的數(shù)量和復(fù)雜程度絕對(duì)可以擴(kuò)展到令人難以置信的程度。許多將被設(shè)計(jì)的能夠模仿人類，因?yàn)樗鼈兡軌蛲ㄟ^電話和聊天機(jī)器人提供有用的信息，并且它們?cè)噲D向我們出售商品和服務(wù)。絕大多數(shù)的人工智能在單一任務(wù)中將是非常有效的，即使這項(xiàng)任務(wù)與駕駛汽車一樣復(fù)雜。幾乎沒有一個(gè)人工智能會(huì)變得具有自我意識(shí)，這不應(yīng)該是自動(dòng)化機(jī)器的世界中存在的東西，因?yàn)檫@會(huì)使它們的工作變得更糟。
未來也有可能是我們自己內(nèi)部算法的擴(kuò)展和改進(jìn)，這個(gè)世界對(duì)于絕大多數(shù)人類來說每一天都在變得更加安全?；蛘哒f道德水準(zhǔn)正在提升。我們的同情心正在擴(kuò)大。我們每個(gè)人都是我們自己內(nèi)部算法的程序員，完善自己完全取決于我們自身。首先要了解我們的構(gòu)建是如此地不完美，學(xué)會(huì)不要相信我們告訴自己的那些關(guān)于我們自己行為的故事，并讓我們自己在這個(gè)過程中致力于消除錯(cuò)誤并安裝更新的功能。
因此，我們也許永遠(yuǎn)不會(huì)建造一個(gè)像人類一樣的人工智能。但是，我們?nèi)祟愐庾R(shí)卻可以得到更好的完善。
聯(lián)系客服
