Nick Bostrom是一個(gè)怪異的哲學(xué)家。在所有擔(dān)心人工智能，殺手機(jī)器人和技術(shù)帶來(lái)的世界末日的人中，Bostrom想到的是最極端的情景。在他的想像中，人類滅絕只是開(kāi)始。
Bostrom最喜歡的末日假設(shè)與一個(gè)被設(shè)定為制造回形針（或其它任何日常用品）的機(jī)器有關(guān)。這臺(tái)機(jī)器會(huì)越來(lái)越聰明，越來(lái)越強(qiáng)大，但不了解人類價(jià)值。它會(huì)獲得“超級(jí)智能”，然后將任何東西都變成回形針，甚至包括人類，地球和星系。
Bostrom曾輕描淡寫(xiě)地表示，“很可能有這種一樣超級(jí)智能，它唯一的目標(biāo)就是做更多的回形針，讓整個(gè)宇宙都是回形針。這會(huì)是一個(gè)低價(jià)值的未來(lái)。”
對(duì)機(jī)器智能，邪惡計(jì)算機(jī)的擔(dān)心已經(jīng)逐漸成為主流，很少有科技會(huì)議上不會(huì)有人討論AI焦慮?；艚?，比爾·蓋茨都在擔(dān)心，而特斯拉創(chuàng)始人馬斯克甚至投資了1000萬(wàn)美元，用于研究如何讓機(jī)器智能處于控制之下。
這種觀點(diǎn)的盛行與媒體和技術(shù)的改變有關(guān)，它更多是一種猜測(cè)，甚至還有點(diǎn)癔想成分。但這一反應(yīng)了一件事實(shí)：在我們所處的時(shí)代，機(jī)器智能已經(jīng)成了生活的一部分。計(jì)算機(jī)控制著飛機(jī)，過(guò)不了多久也許能駕駛汽車了；算法會(huì)了解我們的需求，并展示針對(duì)性廣告；機(jī)器還能從人群中識(shí)別出我們的臉?；蚬こ毯图{米技術(shù)等新領(lǐng)域不錯(cuò)發(fā)展并融合，我們不知道它們會(huì)產(chǎn)生怎么樣的結(jié)果，部分嚴(yán)肅的人擔(dān)心潛在的危害，懷疑我們能否控制自己的發(fā)明。
科幻作家阿西莫夫在上世紀(jì)40年代寫(xiě)機(jī)器人時(shí)，就預(yù)料到了這樣的情況。他發(fā)明了機(jī)器人三定律，第一條就是，“機(jī)器人不得傷害人類，或因不作為(袖手旁觀)使人類受到傷害”。阿西莫夫的三定律現(xiàn)在仍會(huì)被提及，不過(guò)更流行的詞變成了“奇點(diǎn)”。
阿西莫夫
奇點(diǎn)可以追溯到1965年，當(dāng)時(shí)英國(guó)數(shù)學(xué)家I.J. Good寫(xiě)道，“超級(jí)智能機(jī)器肯定能夠設(shè)計(jì)出更加優(yōu)良的機(jī)器，毫無(wú)疑問(wèn)，隨后必將出現(xiàn)一場(chǎng)智能爆炸，人類的智能會(huì)被遠(yuǎn)遠(yuǎn)拋在后面。”1993年，科幻作家Vernor Vinge用“奇點(diǎn)”這個(gè)詞描述了這個(gè)時(shí)刻；后來(lái)發(fā)明家Ray Kurzweil寫(xiě)了一系列書(shū)，預(yù)測(cè)奇點(diǎn)發(fā)生的年代。
Kurzweil現(xiàn)在是Google的工程主管，他可能是最知名的技術(shù)烏托邦主義者之一。他認(rèn)為技術(shù)進(jìn)步終將讓我們迎來(lái)人與機(jī)器智能融合，讓我們變成“超人”。
無(wú)論上面說(shuō)的會(huì)不會(huì)發(fā)生，Bostrom很擔(dān)心我們沒(méi)有足夠的安全措施。他認(rèn)為，人類可以將機(jī)器設(shè)定為永不傷害人類，但機(jī)器可能認(rèn)為遵守這一規(guī)定的最好方式是不讓人類生育。另外，如果超級(jí)智能被設(shè)定為要讓人類微笑，那它們可能決定在人體植入電極，讓所有人保持微笑。
這些都是思想實(shí)驗(yàn)，但他想表達(dá)的是，人類現(xiàn)在的狀況屬于異常，工具已經(jīng)壓倒了自然的限制，讓人類看起來(lái)成了主宰，但如果技術(shù)反噬呢？
還有一個(gè)人更為激進(jìn)：Max Tegmark。他是MIT物理系教授，也是未來(lái)生活研究所(FFI)的創(chuàng)始人，而這一機(jī)構(gòu)就管理著馬斯克投資的錢(qián)。他認(rèn)為未來(lái)是技術(shù)的力量與人類控制它的智慧之間的競(jìng)爭(zhēng)，人類必須贏得競(jìng)爭(zhēng)，但現(xiàn)在所有的資源都在助力技術(shù)的增長(zhǎng)。
2014年4月，有33個(gè)人聚焦在Tegmark的家中，討論技術(shù)的威脅，后來(lái)他們決定成立FLI。Tegmark還說(shuō)服了其他知名人士加入自己，其中包括Skype的創(chuàng)始人Jaan Tallinn，演員摩根·弗里曼和Alan Alda。
Tegmark后來(lái)還發(fā)布了一篇專版文章，討論機(jī)器智能的潛在危險(xiǎn)。文章署名作者還包括諾貝爾獎(jiǎng)得主物理學(xué)家Frank Wilczek，人工智能專業(yè)Stuart Russell和霍金。文章中寫(xiě)道，人工智能是“人類面臨的最好也最壞的事”。
Google無(wú)人駕駛汽車
那其他人的觀點(diǎn)呢？
離Tegmark的辦公室不遠(yuǎn)的地方就是MIT的計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室。實(shí)驗(yàn)室主管Daniela Rus認(rèn)為，“我沒(méi)想過(guò)這些事”。她正在開(kāi)發(fā)絕不會(huì)發(fā)生碰撞的汽車。而且多數(shù)AI研究者都認(rèn)為Bostrom和Tegmark的想法不太成熟，就像現(xiàn)在擔(dān)心火星會(huì)人口過(guò)剩。
Rus表示，機(jī)器人的優(yōu)勢(shì)在算數(shù)和負(fù)重上，在精細(xì)運(yùn)動(dòng)上仍比不上人類，更不用提創(chuàng)造性和抽象思維。無(wú)人駕駛汽車就需要精確的地圖，而且只能應(yīng)會(huì)可預(yù)測(cè)的環(huán)境，想要它們理解其他司機(jī)的手勢(shì)還是不可能的事。
擔(dān)心未來(lái)的人在考慮時(shí)可能還要考慮超級(jí)智能的反面：超級(jí)愚蠢(superstupidity)。我們現(xiàn)在依靠的復(fù)雜系統(tǒng)很容易在復(fù)雜和不可預(yù)測(cè)的情況下失靈。如果智能機(jī)器失靈了，會(huì)產(chǎn)生怎樣的后果？而且通常的情況下，沒(méi)人真正了解這些系統(tǒng)如何工作。如果加入自治功能，事物可能很快變成災(zāi)難。2010年股市出現(xiàn)過(guò)閃電崩盤(pán)，以至于道瓊斯指數(shù)幾分鐘內(nèi)直降近1000點(diǎn)，而部分原因來(lái)自自動(dòng)化的超頻交易程序。
另一位MIT研究者Boris Katz就認(rèn)為，我們每天都會(huì)做出很愚蠢會(huì)犯錯(cuò)的東西。機(jī)器之所以危險(xiǎn)是因?yàn)槲覀兘o了他們力量，讓其對(duì)感覺(jué)輸入作出反應(yīng)。但人類制作的規(guī)則并不完善，所以機(jī)器會(huì)出錯(cuò)，但這并不表示它們想殺死人類。
Bostrom也認(rèn)為，如果開(kāi)發(fā)不出超級(jí)智能，那會(huì)是件很遺憾的事，因?yàn)槿斯ぶ悄芸蔀槿祟悗?lái)更多的可能性，甚至幫我們實(shí)現(xiàn)星際殖民，以及思維上傳到計(jì)算機(jī)這種事。
Bostrom另一點(diǎn)比較科幻的想法是，他認(rèn)為高級(jí)文明擁有無(wú)限的計(jì)算能力，超級(jí)智能可以創(chuàng)造出宇宙，在其中程序可以精確模擬出人類意識(shí)，注入虛假的記憶。他認(rèn)為除非我們能排除機(jī)器可以模擬人類經(jīng)驗(yàn)的可能性，否則我們很可能就生活在這樣一個(gè)模擬世界中。這真的很科幻了。
（來(lái)源：雷鋒網(wǎng)）
聯(lián)系客服
