編者按：本文內(nèi)容來自“科技失控”，作者溫德爾·瓦拉赫.36氪經(jīng)授權(quán)發(fā)布。

計算機的處理能力隨著時間推移大幅提升。某些理論認為這是技術(shù)發(fā)展整體加速的其中一個表現(xiàn)，并將不可避免地帶來人類命運的激進變化。按照這種觀點，人類似乎朝著一個轉(zhuǎn)折點，未來要么屬于機器或超人類或者整個加速過程因不可持續(xù)而崩潰。不管是哪種結(jié)果都是災難性的。至少這樣的一個轉(zhuǎn)折點是破壞性的?；蛟S有可能正如很多預言師所相信的那樣，造成未來世界與過去的一切完全沒有連貫性。

摩爾定律和智慧爆炸這兩種理論是目前老生常談的一種看法的核心所在，即認為科學發(fā)現(xiàn)的速度在不斷加快，并將向一個徹底改變世界的轉(zhuǎn)折點。兩種理論的出現(xiàn)都是因為對于計算機影響日益擴大的思考，二者都在在1965年發(fā)表的。戈登·摩爾（Gordon E. Moore）是英特爾公司的創(chuàng)辦人之一，他觀察到自1958年集成電路發(fā)明以來，集成電路上晶體管數(shù)量每兩年（后更改為18個月）

數(shù)學家古德（IJ Good）在1965年發(fā)表了一個題為“有關(guān)第一臺超智能機器的猜想”的文章中，預測計算機將從各方面都超過人類的智慧能力。超智能機器的一個顯著特點是具備制造出更好的機器的能力。它們的出現(xiàn)會引發(fā)“智慧爆炸”，機器將設計出更智能的計算機，它們的進化將遠遠超出人類的智慧。古德寫下了一句非常的話：“第一臺超智能機器將是人類的最后一項發(fā)明”。

15年以后，另一位數(shù)學家，同時也是一位享有盛譽的科幻小說家弗蘭·文奇（Vernor Vinge）虛構(gòu)了一個小說情節(jié)，背景是剛剛發(fā)生智慧爆炸后的世界。文奇認識到超智能奇跡能從很多方面改變生命和文化，以至于無法完全想象未來世界的樣子。文奇用一個數(shù)學和自然科學使用的術(shù)語將人類歷史的這個轉(zhuǎn)折點定義為技術(shù)奇點。

那些相信這個故事情節(jié)的人有兩個核心問題要生：它會使人類受益還是威脅人類生存？目前這個階段，沒人可以給出答案，但是年輕專家和有經(jīng)驗的科學家對這個問題思考了很久，并在想辦法如何確保未來超智能計算機對人類“友好”。

有關(guān)技術(shù)奇點何時到來的討論非常熱烈，一些理論家預測會在最近的將來發(fā)生（150或100年后），另外有些人認為很遙遠或根本不可能。雷·庫茲韋爾）是一位投資家和作家，其代表性觀點認為技術(shù)奇點在近期將會發(fā)生，他預測計算機將在2028 - 2030年前后展示出人類水平的智慧，奇點將接踵而至。

對于技術(shù)奇點不可避免到達的這種趨勢持批評意見的人，并不認為能開展各項任務的計算機構(gòu)成智能機器。當然，計算機在某些方面已經(jīng)超出了人類的能力，比如解決數(shù)學計算，模擬復雜系統(tǒng)，搜索大型數(shù)據(jù)庫發(fā)現(xiàn)片斷信息之間的聯(lián)系等。

但是，人類智力的某些層面仍然是當今計算機無能為力或難以企業(yè)的。計算機甚至不具備分辨真實環(huán)境中重要信息和非重要信息的基本能力。計算機系統(tǒng)不具備人類的學習能力，缺乏情感智慧，道德但是有很多的理論是關(guān)于如何通過計算機實現(xiàn)這些能力，也有相當多的理論解釋為什么計算機永遠不會具備這些能力。

喬治·華盛頓（George Washington）大學教授威廉·哈萊爾（William Halal）發(fā)起了技術(shù)調(diào)查，在其中他采訪了一些知名專家關(guān)于各種技術(shù)事件什么時候會發(fā)生。他注意到在這些預測中，最在27名專家之中，“名詞”英文“名詞解釋”英文“名詞解釋”英文“名詞解釋”英文“名詞解釋”英文“名詞解釋”英文“名詞解釋”英文“ 45％同意這個觀點。對于那些既同意也不同意的人，對自己觀點正確與否的自信程度平均為63％。

就像流行音樂有經(jīng)典老歌一樣，各種領(lǐng)域的學術(shù)研究也有一些幾十年來反復被閱讀和引述的經(jīng)典文章。在計算機科學領(lǐng)域，其中的兩個“經(jīng)典之作”涉及對計算機智能進行評價的文章。

第一篇是阿蘭·圖靈（Alan Turing）所寫，他是計算機科學的奠基人之一，二戰(zhàn)期間率領(lǐng)團隊破解了納粹軍隊的密碼。圖靈在1950年一一名為“計算機和智能”的文章開頭寫下令人難忘的一句話：“機器能思考嗎？

圖靈提出用一個測試將人類對這個問題的反應進行對比。提問者不能直接面對被提問的人，而是通過文字信息的方式來溝通。如果提問者僅僅根據(jù)二者的回答無法區(qū)分到底是計算機還是人類的答案，那么圖靈建議必須認為智能機器是能夠思考的。圖靈稱他的思考試驗為一個模仿游戲，現(xiàn)在人們通常稱這種試驗為“圖靈測試“。

雖然很多人批評圖靈測試不足以作為衡量人工智能的標桿，但是沒有人有更好的提議。有一種批評意見認為一個非常聰明的機器人可能會裝糊涂，假裝很傻地回答以欺騙專家，的話專家會知道它比人類了解的知識還多。

對于圖靈測試最有意思的批評是關(guān)于人工智能的第二篇“經(jīng)典老歌”。1980年哲學家約翰·西爾勒（John Searle）發(fā)表了“思想，大腦，計劃”的文章，認為即使計算機像人類一樣答出了專家的問題，也不能代表它知道自己在做什么。他用了一個“中文房間”的思維試驗來說明自己的觀點。

想象自己在一個房間里，里面是計算機所有的獲得的所有關(guān)于中國語言的資料，人和機器都獲得充分的時間去學習掌握這些資料，然后讓計算機回答一個中國人提出的問題，西爾勒推測他自己能夠根據(jù)翻譯材料給出正確的答案，雖然，他并不是真的懂中文，由此可以相信計算機也可以在同樣不懂符號含義的情況下給出正確答案。

西爾勒企圖說明的是，從形式上掌握中文符號和充分理解中文意思是不同的。他的思考試驗想要證明，操縱符號的計算機并不了解這些符號的意思，對符號的操縱不等于語意理解。

西爾勒認為他提出的是一個常識性的簡單觀點。但讓他感到奇怪的是，“中國房間”的論點引起了無窮無盡的討論。很多人則認為用于計算機工程的思維模型不足以生產(chǎn)出具備理解和意識能力的機器。

我對于人工智能導致技術(shù)奇點（通常也稱為超智能的到達）的研究前景持續(xù)友好的懷疑態(tài)度。我對于無所不能的工程精神也持續(xù)友好的態(tài)度，他們提議制造具有通用智能的機器但以非開發(fā)各種任務。但我非常懷疑我們是否對智能或意識的本性有足夠多的了解，以至于能夠其完全復制在芯片或其他材料里。

生物系統(tǒng)中某些人類智力特質(zhì)是我們無法理解的，所需要的科學灼見也是現(xiàn)階段我們尚未具備的。人類思想與身體的融合，以及對于外界環(huán)境改變所做的適應性反應及韌性，難通過非生物的方式

有人認為，將人類的腦力和先進的人工智能形式結(jié)合起來的超智能終將問世。某種程度上說，我認為這樣的觀點更實際些。但是，認為人和機器的能力相結(jié)合會帶來智能爆炸或是技術(shù)奇點的觀點但然說獲得但但不太可能。

當然，信息技術(shù)將產(chǎn)生新的思想種類，放大或取代人的思想去從事很多任務。雖然我對未來50?100年會發(fā)生技術(shù)奇點仍然持有懷疑，但是未來200年后是否會發(fā)生技術(shù)奇點，我無從判斷。但是時間越長，機會越多，可以確保超智能機器人對人類和人類的價值觀友好。認為科學家肯定終有一天會發(fā)現(xiàn)制造此類機器人或?qū)崿F(xiàn)人類進化當然不是愚蠢的，這很大程度上取決于在20年，200年還是1000年以后實現(xiàn)。

2009年，一群計算機專家舉行會議，反思人工智能研究在社會層面上所取得的進步，他們對于智能爆炸和即將到來的奇點表示懷疑。僅僅5年之后，這次會議的聯(lián)席主席巴特·塞爾曼（Bart Selman）認為，因為最近在感知和機器學習方面取得的突破，在大部分人工智能研究人員的心目中，超智能的可能性正在上升。

超智能的可能性受到了極大的關(guān)注，特別是一些人物，比喻宇宙學家斯蒂芬·霍金（Stephen Hawking），特斯拉的創(chuàng)立人伊隆·馬斯克（Elon Musk），他們認為人工智能的研究將對人類造成嚴重威脅。

有時候這種對于未來的消極擔憂某種程度上轉(zhuǎn)移了人們對于解決當下更為緊要的問題的注意力。但是，技術(shù)奇點可以作為人類無法自我掌控命運的象征。對于技術(shù)奇點的關(guān)注可以提醒商界領(lǐng)袖更加重視這個問題，人類發(fā)明的技術(shù)如何邁出了最初的幾步，直到迫使人類交出控制權(quán)，從這個角度說來，技術(shù)奇點倒也是有用的。

以上文字摘選自溫德爾·瓦拉赫“科技失控”