內(nèi)容來(lái)源：本文摘編湛廬文化出品書(shū)籍《AI的25種可能》書(shū)評(píng)文章，本書(shū)作者約翰.布羅克曼(John Brockman) ，筆記俠經(jīng)出版社授權(quán)發(fā)布。

封面設(shè)計(jì) & 責(zé)編 | 麗麗

第 4287  篇深度好文 : 5133 字 | 8 分鐘閱讀

世界上最聰明的網(wǎng)站Edge，每年一次，讓幾十位全球最偉大的頭腦坐在同一張桌子旁，共同解答關(guān)乎人類(lèi)命運(yùn)的同一個(gè)大問(wèn)題，開(kāi)啟一場(chǎng)智識(shí)的探險(xiǎn)，一次思想的旅行！

這次，25位頂尖思想家們將話題聚焦到了人工智能，他們的思想集結(jié)成了《AI的25種可能》一書(shū)。

《AI的25種可能》集結(jié)了包括史蒂芬·平克、朱迪亞·珀?duì)?、丹尼爾·丹尼特、邁克斯·泰格馬克等25位計(jì)算機(jī)科學(xué)家、心理學(xué)家、物理學(xué)家、科技史學(xué)家的前沿洞見(jiàn)，AI的25種可能，就是人類(lèi)未來(lái)的25種可能。

當(dāng)前的機(jī)器學(xué)習(xí)系統(tǒng)幾乎完全在統(tǒng)計(jì)模式或者說(shuō)模型盲（model-blind）的模式下運(yùn)行，這在許多方面類(lèi)似于將函數(shù)擬合到大量點(diǎn)數(shù)據(jù)。

這樣的系統(tǒng)不能推理“如果……會(huì)怎樣？”的問(wèn)題，因此不能作為強(qiáng)人工智能的基礎(chǔ)，強(qiáng)人工智能是模擬人類(lèi)推理和能力的人工智能。

為了達(dá)到人類(lèi)智能水平，學(xué)習(xí)機(jī)器需要現(xiàn)實(shí)藍(lán)圖的指導(dǎo)，這種藍(lán)圖是一個(gè)模型，類(lèi)似于當(dāng)我們?cè)谀吧鞘虚_(kāi)車(chē)時(shí)給我們指路的道路地圖。

我認(rèn)為機(jī)器學(xué)習(xí)是一種工具，使我們從研究數(shù)據(jù)走到研究概率。但是，從概率到實(shí)際理解，我們?nèi)匀恍枰噙~出兩步，非常大的兩步。

因果推理研究的一個(gè)突出成就是對(duì)干預(yù)和反事實(shí)的算法化，也就是對(duì)層級(jí)結(jié)構(gòu)最高兩層的算法化。

當(dāng)我思考機(jī)器學(xué)習(xí)的成功并試圖把它推廣到未來(lái)的人工智能時(shí)，我問(wèn)自己：“我們是否意識(shí)到了在因果推理領(lǐng)域中發(fā)現(xiàn)的基本局限性？我們準(zhǔn)備繞過(guò)阻礙我們從一個(gè)層級(jí)升到另一個(gè)層級(jí)的理論障礙嗎？”

所以我認(rèn)為，數(shù)據(jù)科學(xué)只是一門(mén)有助于解釋數(shù)據(jù)的科學(xué)，而解釋數(shù)據(jù)是一個(gè)兩體問(wèn)題，將數(shù)據(jù)與現(xiàn)實(shí)聯(lián)系起來(lái)。

但無(wú)論數(shù)據(jù)有多“大”，人們操控?cái)?shù)據(jù)多么熟練，數(shù)據(jù)本身并不是一門(mén)科學(xué)。不透明的學(xué)習(xí)系統(tǒng)可能會(huì)把我們帶到巴比倫，但絕不是雅典。

今天許多科技預(yù)言的一個(gè)焦點(diǎn)是人工智能，在原始的反烏托邦科幻作品中，計(jì)算機(jī)瘋狂地運(yùn)行并奴役人類(lèi)，人類(lèi)無(wú)法阻擋它們的控制；

而在更新的版本中，它們偶然地征服了人類(lèi)，一心一意地尋求我們賦予的目標(biāo)，盡管會(huì)對(duì)人類(lèi)福祉產(chǎn)生副作用。

無(wú)論是在哪個(gè)版本中，人工智能都是焦點(diǎn)。

不過(guò)，我還是覺(jué)得這兩種威脅都是虛構(gòu)的，因?yàn)樗从谝环N狹隘的技術(shù)決定論，這種技術(shù)決定論忽略了在像計(jì)算機(jī)或大腦這樣的智能系統(tǒng)以及整個(gè)社會(huì)中的信息和控制網(wǎng)絡(luò)。

這種對(duì)征服的恐懼來(lái)自對(duì)智能的模糊理解，其模糊之處在于將智能歸于一種存在之鏈和尼采式的權(quán)力意志，而不是根據(jù)信息、計(jì)算和控制對(duì)智能和目的進(jìn)行的維納式分析。

在這些恐怖場(chǎng)景中，智能被描繪成一種全能的、能實(shí)現(xiàn)愿望的神藥，智能主體各自擁有不同數(shù)量的這種神藥。

人類(lèi)比動(dòng)物擁有更多的神藥，而人工智能的計(jì)算機(jī)或機(jī)器人比人類(lèi)擁有的更多。

既然我們?nèi)祟?lèi)曾用我們不高不低的智能馴養(yǎng)或消滅了那些不太有智能的動(dòng)物，既然技術(shù)先進(jìn)的社會(huì)奴役或消滅了技術(shù)水平很低的社會(huì)，那么超級(jí)聰明的人工智能也會(huì)對(duì)我們?nèi)祟?lèi)做同樣的事情。

但是這些場(chǎng)景混淆了智能與動(dòng)機(jī)、信念與欲望、推理與目標(biāo)、圖靈闡明的計(jì)算和維納闡明的控制。

即使我們發(fā)明了超人智能機(jī)器人，他們?yōu)槭裁匆鬯麄兊闹魅嘶蚪庸苁澜纾恐悄苁侵高\(yùn)用新的手段達(dá)到目標(biāo)的能力。但是這些目標(biāo)與智能無(wú)關(guān)，因?yàn)槁斆鞑⒉坏韧谝欢ㄒ非竽承〇|西。

巧合的是，智人的智能是達(dá)爾文自然選擇的產(chǎn)物，而自然選擇本質(zhì)上是一個(gè)競(jìng)爭(zhēng)過(guò)程。

在智人的大腦中，推理與一些諸如支配對(duì)手和積累資源等目標(biāo)捆綁在一起。

但是，把某些靈長(zhǎng)類(lèi)動(dòng)物的邊緣腦中的回路與智能的本質(zhì)混為一談是錯(cuò)誤的。沒(méi)有任何一個(gè)復(fù)雜系統(tǒng)定律表明，智能主體一定會(huì)變成無(wú)情的自大狂。

許多思想家把超級(jí)智能這個(gè)概念貶低為科幻小說(shuō)，因?yàn)樗麄冋J(rèn)為智能是一種神秘的東西，只能存在于生物有機(jī)體，尤其是人類(lèi)中，他們還認(rèn)為這種智能從根本上限制了今天的人類(lèi)能做什么。

但是，從我作為物理學(xué)家的角度來(lái)看，智能只是由四處移動(dòng)的基本粒子所進(jìn)行的某種信息處理，沒(méi)有任何物理定律表明人類(lèi)不能制造出在任何方面都比我們具有更高級(jí)智能的機(jī)器，這種機(jī)器能孕育宇宙生命。

這表明，我們僅僅看到了智能的冰山一角，存在這么一種驚人的可能性：

也許我們能釋放出自然界中所蘊(yùn)藏的全部智能，利用它來(lái)幫助人類(lèi)繁榮發(fā)展，或掙扎求生。

換句話說(shuō)，通用人工智能的真正風(fēng)險(xiǎn)不是它的惡意，而是它的能力。

一個(gè)擁有超級(jí)智能的通用人工智能將非常擅長(zhǎng)完成它的目標(biāo)，如果這些目標(biāo)與我們?nèi)祟?lèi)的不一致，我們就有麻煩了。

為修建水力發(fā)電大壩需要淹沒(méi)蟻丘，對(duì)這件事，人類(lèi)不會(huì)反復(fù)三思，所以我們不要把人類(lèi)置于螞蟻的位置。

大多數(shù)研究人員認(rèn)為，如果我們最終創(chuàng)造了超級(jí)智能，我們應(yīng)該確保它是人工智能安全先驅(qū)埃利澤·尤德考斯基所稱(chēng)的“友好的人工智能”，其目標(biāo)在某種深層意義上是有益的。

我們不應(yīng)該完全相信技術(shù)奇點(diǎn)一說(shuō)，預(yù)測(cè)技術(shù)進(jìn)步的常見(jiàn)困難以及發(fā)展超級(jí)智能時(shí)特有的問(wèn)題都應(yīng)該讓我們警惕，不要高估信息處理的力量和效能。

沒(méi)有任何一種指數(shù)式增長(zhǎng)能一直持續(xù)下去。原子彈爆炸呈指數(shù)式增長(zhǎng)，但也就持續(xù)到燃料耗盡之時(shí)。

同樣地，摩爾定律的指數(shù)式增長(zhǎng)近來(lái)開(kāi)始進(jìn)入基礎(chǔ)物理所設(shè)定的極限之中。

計(jì)算機(jī)的時(shí)鐘速度在 15 年前不超過(guò)幾千兆赫，僅僅是因?yàn)樗俣仍俑咝酒烷_(kāi)始熱得熔化了。

由于隧道效應(yīng)和電流泄漏，晶體管的小型化已經(jīng)進(jìn)入量子力學(xué)領(lǐng)域。

最終，摩爾定律驅(qū)動(dòng)的各種存儲(chǔ)器和處理器的指數(shù)式增長(zhǎng)都將停止。然而，再過(guò)幾十年，計(jì)算機(jī)的原始信息處理能力也許就能與人類(lèi)的大腦匹敵，至少按照每秒處理的比特率和位翻轉(zhuǎn)粗略計(jì)算的話是如此。

對(duì)奇點(diǎn)主義的恐懼，主要是擔(dān)心隨著計(jì)算機(jī)更多地參與設(shè)計(jì)它們自己的軟件，它們將迅速擁有超人的計(jì)算能力。

但機(jī)器學(xué)習(xí)的真實(shí)情況卻恰恰相反。當(dāng)機(jī)器的學(xué)習(xí)能力變得越來(lái)越強(qiáng)時(shí)，它們的學(xué)習(xí)方式會(huì)變得越來(lái)越像人類(lèi)。

許多事例表明，機(jī)器的學(xué)習(xí)是在人類(lèi)和機(jī)器老師的監(jiān)管下進(jìn)行的。對(duì)計(jì)算機(jī)進(jìn)行教育就像對(duì)青少年進(jìn)行教育一樣困難、緩慢。

因此，基于深度學(xué)習(xí)的計(jì)算機(jī)系統(tǒng)正在變得越來(lái)越人性化。它們帶來(lái)的學(xué)習(xí)技能不是“優(yōu)于”而是“補(bǔ)充”人類(lèi)學(xué)習(xí)：計(jì)算機(jī)學(xué)習(xí)系統(tǒng)可以識(shí)別人類(lèi)無(wú)法識(shí)別的模式，反之亦然。

世界上最好的國(guó)際象棋棋手既不是計(jì)算機(jī)，也不是人類(lèi)，而是與計(jì)算機(jī)合作的人。

網(wǎng)絡(luò)空間里確實(shí)存在有害的程序，但這些主要是惡意軟件，即病毒，它們不是因?yàn)槠涑?jí)智能而為世人所知，而是因?yàn)閻阂獾臒o(wú)知而遭世人譴責(zé)。

價(jià)值對(duì)齊，就是使自動(dòng)化智能系統(tǒng)的價(jià)值與人的價(jià)值對(duì)齊。在人工智能研究中，價(jià)值對(duì)齊只是一個(gè)小的主題，但對(duì)它的研究日漸增加。用于解決這個(gè)問(wèn)題的一個(gè)工具就是反向強(qiáng)化學(xué)習(xí)。

強(qiáng)化學(xué)習(xí)是訓(xùn)練智能機(jī)器的一種標(biāo)準(zhǔn)方法。通過(guò)將特定的結(jié)果和獎(jiǎng)勵(lì)聯(lián)系起來(lái)，可以訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)遵循產(chǎn)生特定結(jié)果的策略。

現(xiàn)代機(jī)器學(xué)習(xí)系統(tǒng)可以通過(guò)應(yīng)用強(qiáng)化學(xué)習(xí)算法找到非常有效的策略來(lái)玩電腦游戲，從簡(jiǎn)單的街機(jī)游戲到復(fù)雜的實(shí)時(shí)策略游戲。

反向強(qiáng)化學(xué)習(xí)扭轉(zhuǎn)了這種途徑：通過(guò)觀察已經(jīng)學(xué)習(xí)了有效策略的智能主體的行為，我們可以推斷導(dǎo)致這些策略發(fā)展的獎(jiǎng)勵(lì)。

最終，我們需要的是一種方法，它能描述人類(lèi)思維的運(yùn)作原理，具有理性的普遍性和啟發(fā)式的準(zhǔn)確性。

實(shí)現(xiàn)這一目標(biāo)的一種方法是從合理性開(kāi)始，考慮如何讓它朝現(xiàn)實(shí)的方向發(fā)展。

把合理性作為描述任何現(xiàn)實(shí)世界行為的基礎(chǔ)，這就存在一個(gè)問(wèn)題，那就是，在許多情況下，計(jì)算合理行為需要主體擁有大量的計(jì)算資源。

如果你正在做出一個(gè)非常重要的決定，并且有很多時(shí)間來(lái)評(píng)估你的選擇，那么花費(fèi)這些資源也許是值得的，但是人類(lèi)的大多數(shù)決定都是快速做出的，而且風(fēng)險(xiǎn)相對(duì)較低。

無(wú)論在什么情況下，只要你做出決定花費(fèi)的時(shí)間成本很昂貴（至少因?yàn)槟憧梢园堰@些時(shí)間花在別的事情上），理性的經(jīng)典概念就不再能很好地描述一個(gè)人該如何行事。

超級(jí)智能人工智能還有很長(zhǎng)的路要走。在過(guò)去幾年里，對(duì)視覺(jué)和語(yǔ)言的模型開(kāi)發(fā)已經(jīng)創(chuàng)造出了用于解釋圖像和文本的重要的商業(yè)新技術(shù)，而人類(lèi)仍然是我們?cè)谥圃焖伎紮C(jī)器時(shí)要參考的最好例子，所以我認(rèn)為開(kāi)發(fā)良好的人類(lèi)模型將是下一個(gè)研究領(lǐng)域。

今天，如果沒(méi)有計(jì)算機(jī)網(wǎng)絡(luò)、數(shù)據(jù)庫(kù)和決策支持系統(tǒng)，所有的系統(tǒng)都無(wú)法運(yùn)作。

這些混合智能是技術(shù)增強(qiáng)的人類(lèi)網(wǎng)絡(luò)。這些人工智能具有超人的能力。它們比人類(lèi)個(gè)體懂得更多；它們能夠感知更多；

它們能夠做出更精細(xì)的分析和更復(fù)雜的計(jì)劃。它們擁有的資源和力量比任何個(gè)人擁有的都要多。

雖然我們并不總能察覺(jué)到，但是諸如民族國(guó)家和企業(yè)這樣的混合型超級(jí)智能有它們自己的涌現(xiàn)目標(biāo)。

雖然它們是由人類(lèi)建造的，也是服務(wù)于人類(lèi)的，但它們的行為卻常常像獨(dú)立的智能實(shí)體一樣，而且它們的行為并不總是與創(chuàng)造它們的人的利益相一致。