《終結(jié)者》。人類被機(jī)器摧毀是一個(gè)永恒的科幻主題。
特斯拉汽車（Tesla Motors）和Space X兩家公司的老板埃倫·穆斯克（Elon Musk）預(yù)測(cè)：超級(jí)智能計(jì)算機(jī)將很有可能消滅人類。
科技創(chuàng)業(yè)者埃倫·穆斯克在8月3日所發(fā)的兩條推文中對(duì)人類的滅亡發(fā)出警告，他在夏季閱讀的內(nèi)容談到了來(lái)自人工智能的隱約浮現(xiàn)的威脅。
“我們需要對(duì)人工智能超級(jí)小心，”他在其中一條推文中說(shuō)，“人工智能可能比核武器還要危險(xiǎn)?！?/p>
另一條推文則稱：“希望我們不要在生物學(xué)上成為數(shù)字超級(jí)智能的啟動(dòng)加載程序。不幸的是，這種可能性越來(lái)越大。”
穆斯克此番令人驚異的“科技恐懼癥”評(píng)論，是在看過(guò)《超級(jí)智能：方法、危險(xiǎn)、戰(zhàn)略》（Superintelligence: Paths, Dangers, Strategies）以及《我們最后的發(fā)明：人工智能及人類時(shí)代的終結(jié)》（Our Final Invention: Artificial Intelligence and the End of the Human Era）兩本書之后有感而發(fā)。這兩本書的作者分別是牛津大學(xué)哲學(xué)教授尼克·博斯特倫（Nick Bostrom）以及詹姆斯·巴拉特（James Barrat）。
人類未來(lái)研究院（Future of Humanity Institute）的創(chuàng)始人兼主任博斯特倫教授認(rèn)為，第一個(gè)擁有超級(jí)智能的實(shí)體會(huì)消滅人類?！艾F(xiàn)在我們?nèi)祟惥拖褚蝗簲[弄著一顆危險(xiǎn)炸彈的無(wú)知孩童?！彼麑懙?。
巴拉特先生認(rèn)為，即便超級(jí)智能是出于好意而被創(chuàng)造出來(lái)，但它仍有犯下種族滅絕罪行的傾向。
他寫道：“如果沒(méi)有小心謹(jǐn)慎的制衡指令，一個(gè)有著自我意識(shí)、不斷自我完善并追尋目標(biāo)的系統(tǒng)將發(fā)展到在我們看來(lái)非?；闹嚨某潭龋酝瓿伤哪繕?biāo)?！?/p>
人類報(bào)應(yīng)到來(lái)的第一步必將是使超級(jí)智能通過(guò)圖靈測(cè)試，英國(guó)代碼破譯者、計(jì)算機(jī)先驅(qū)阿蘭·圖靈（Alan Turing）說(shuō)道。
在該測(cè)試中，一臺(tái)計(jì)算機(jī)和一個(gè)人必須競(jìng)相說(shuō)服一個(gè)看不到它們的觀察者，使其相信自己才是真正的人類。只有至少在半數(shù)觀察者那里蒙混過(guò)關(guān)，該計(jì)算機(jī)才算通過(guò)了測(cè)試 。
目前，尚無(wú)一臺(tái)計(jì)算機(jī)接近于通過(guò)測(cè)試。
特斯拉和Space X兩家公司的老板埃倫·穆斯克
我們制造的機(jī)器將會(huì)叛變并殺死我們，或者至少統(tǒng)治我們，這類恐懼是永恒的科幻主題，不僅限于奧利安電影公司（ Orion Pictures）出品、由阿諾·施瓦辛格主演的《終結(jié)者》（Terminator）系列影片。
為了制衡這種情況，上世紀(jì)50年代美國(guó)科幻小說(shuō)家艾薩克·阿西莫夫（Isaac Asimov）在他的機(jī)器人相關(guān)小說(shuō)中為機(jī)器人設(shè)定了行為準(zhǔn)則，也就是機(jī)器人三定律（Three Laws of Robotics）。
法則一，也是最為重要的一條法則：機(jī)器人不得傷害人類，也不得因不作為而使人類受到傷害；
法則二：機(jī)器人必須服從人類的命令，除非違背第一法則；
法則三：在不違背第一及第二法則的前提下，機(jī)器人必須保護(hù)自己。
去年去世的科幻作者伊恩·M.班克斯（Iain M Banks）在其《文明》（Culture）系列小說(shuō)中，頻繁刻畫了具有自我意識(shí)的計(jì)算機(jī)，其中有些具備超級(jí)智能，但它們?nèi)际艿降赖赂械募s束。
執(zhí)教于印第安納大學(xué)等學(xué)術(shù)機(jī)構(gòu)的認(rèn)知科學(xué)教授道格拉斯·郝夫斯臺(tái)特（Douglas Hofstadter）在其《哥德?tīng)?、艾舍爾、巴赫——集異璧之大?nbsp;》（G?del, Escher, Bach: an Eternal Golden Braid,1979年獲普利策獎(jiǎng)）一書中稱，為了獲得真正的智能，計(jì)算機(jī)必須以和人類差不多的方式整合知識(shí)。
谷歌公司（Google）工程總監(jiān)雷·庫(kù)茲威爾（Ray Kurzwell）認(rèn)為，到2029年時(shí)，計(jì)算機(jī)將變得比人類更智能，這樣的一個(gè)點(diǎn)被未來(lái)學(xué)家們稱之為“奇點(diǎn)”。但他在《靈魂機(jī)器時(shí)代》（The Age of Spiritual Machines）中稱，人工智能將屈從于人類。
譯 徐笑音 校 陳岳林
聯(lián)系客服
