作者：Tim Urban
翻譯：xux
審校：Nuor
我們正面臨著一個可以與地球上人類崛起相提并論的巨變。
—弗諾·文奇（Vernor Vinge）
當你站在這兒（下圖）是什么感覺？
想必會很緊張吧。可是別忘了你站在時間軸上，是無法看見未來的，所以真實的感覺應該是這樣的：
好像又是平常的一天……
一、遙遠的未來其實近在咫尺
你坐上時光機回到1750年：世界經(jīng)歷著永久性停電，長距離通訊的方式是喊破喉嚨或者向空中發(fā)射炮彈，所有的交通工具都得喂干草才能跑。
你在那個年代認識了一個哥們兒，請他來參觀我們的世界：閃亮的盒子在高速公路上飛馳，人們隔著整個大洋聊家常，看千里之外的球賽，聽半個世紀前的演奏，大家跟自己手里成了精的方盒子玩得不亦樂乎，用它造一張地圖，地圖上的一個鬼魅的藍色光點可以隨時顯示出他的位置，還有互聯(lián)網(wǎng)、核武器、國際空間站、廣義相對論、大型強子對撞機……
這樣的經(jīng)歷用“驚訝”或“震驚”已經(jīng)無法形容，他可能會直接受驚而死。
有意思的是，如果他嫉妒了：“我也想看以前的人來到我們年代的反應?！庇谑撬麕?500年的人來1750年。那人會對很多事情感到震驚，但他不至于死掉。對他來說，這經(jīng)歷遠不及第一個人那樣瘋狂。
為了讓1750年的人和我們獲得同樣的樂趣，他必須走得更遠，可能一路追溯到公元前一萬兩千年左右，在第一次農(nóng)業(yè)革命產(chǎn)生第一批城市和文明概念之前。一個來自以狩獵和采集為生的人，見識到1750年的建筑、船只和人類豐富的知識，他很可能會一命嗚呼。
如果他死后也嫉妒了，想做同樣的事呢？要想讓公元前一萬兩千年的人有同樣的樂趣，他必須回到十萬年前，找一個從來沒見過火和語言的家伙。
為了讓一個穿越到未來的人由于震驚而心臟病發(fā)作死掉，需要往回走足夠多年，達到“死亡級別的進步”，或者起個名字叫死亡進步單位（Die Progress Unit，DPU）。
DPU會隨人類的進步變得越來越短，這就是未來學家雷·庫茲韋爾（Ray Kurzweil）所說的人類歷史加速回歸定律。越是發(fā)達的社會，進步速度越快，因為它們發(fā)展自己的能力更強。
庫茲韋爾認為，到2021年，完成整個20世紀的進步只需7年，而21世紀的進步將是20世紀的1000倍。
如果庫茲韋爾是對的，那么下一個DPU可能只需十幾年。2050年的世界可能與今天的世界截然不同，我們可能什么都不認得了。
聽起來似乎難以置信，那是因為我們的思維是線性的，我們常常以為，未來的發(fā)展速度會跟過去差不多，豈不知歷史的發(fā)展是呈指數(shù)型增長的，就像下圖：
而且，歷史的發(fā)展往往是曲折前行的：
圖注：人類進步隨時間的變化。新的技術模式爆發(fā)式增長，然后成熟，軌跡像一個“S”
人類社會每次出現(xiàn)一項重要技術，隨之而來的往往是三個發(fā)展階段：緩慢增長，劇烈增長和技術成熟，增長放緩。如果只看離我們非常近的歷史，那么你所處的“S”曲線的位置也會干擾你的預測。1995 到2007年間，歷史見證了互聯(lián)網(wǎng)的爆發(fā)，但是從2008年至今，似乎沒那么多開創(chuàng)性的科技成就。所以不要被迷惑，新的爆發(fā)式增長或許正在萌芽。
二、走向超級智能
什么是人工智能？
我們總是看到人工智能（Artificial Intelligence，AI）這個詞，但好像又不那么了解它。
這是有原因的：1、我們常在電影作品中接觸這個概念，這讓“人工智能”聽起來像一種科幻般的未來預測；2、日常生活中太常見以至于我們沒有意識到它是人工智能；3、人工智能的概念太寬泛了，以至于它的含義變得有些模糊。
關于人工智能，許多學者做出了預言。你可能聽過一個詞叫“奇點”或“科技奇點”。在數(shù)學中，奇點用來形容一般的規(guī)律不再適用的特殊情況；在物理中，奇點用來描述無窮小，致密的黑洞，或者在宇宙大爆炸之前我們都被壓縮進的那個點，仍然是來形容通常的規(guī)律無法應用的那些情況。1993年，弗諾·文奇提出用“奇點”這個詞形容未來的某個時間點，即技術的智慧超過人類自身智慧的時刻。對他來說，那時的生活會煥然一新，普通的規(guī)則不再適用。庫茲韋爾隨后將奇點定義講得含糊了些，他說奇點就是加速回歸定律達到一種極端速度時，即科技以看起來無限快的速度發(fā)展時，在那之后我們將活在一個嶄新的世界中。
人工智能是個很廣泛的概念，有很多不同的類型或形式。我們根據(jù)人工智能的能力范圍，將其分為三大類：
（1）弱人工智能(Artificial Narrow Intelligence, ANI)：也被稱為狹義人工智能，是專攻某一領域的人工智能，比如一種AI能在國際象棋比賽中打敗世界冠軍，但如果你讓它想出一種更好的硬盤數(shù)據(jù)存儲方案，它只會茫然地看著你。
（2）通用人工智能(Artificial General Intelligence, AGI)：也叫強人工智能，或人類級人工智能，通用人工智能指的是一臺像人類一樣擁有全面智能的計算機，人類能解決的智力問題他都能解決。創(chuàng)建通用人工智能比創(chuàng)建弱人工智能難多了，現(xiàn)在我們還沒做到。研究者將智力描述為“一種非常通用的思考能力，包括但不限于推理、計劃、解決問題、抽象思考、理解復雜概念、快速學習和從經(jīng)驗中學習的能力?！?nbsp;通用人工智能做這些事時能像你一樣輕松。
（3）超級人工智能(Artificial Superintelligence, ASI)：牛津大學哲學家、人工智能思想家尼克·博斯特羅姆（Nick Bostrom）將超級智能定義為“在幾乎所有領域，包括科學創(chuàng)造力、一般智慧和社交技能，都比最優(yōu)秀的人類大腦聰明得多的智力。”超級人工智能的范圍從一臺比人類聰明一點的計算機到一臺比人類聰明數(shù)萬億倍的計算機。正因為超級人工智能，AI才會成為如此爆款的話題，而且會頻繁使用“永生”和“滅亡”這倆詞兒。
到目前為止，人們已經(jīng)在很多領域攻克了最低級別的AI——弱人工智能，而且成果已經(jīng)隨處可見。人工智能的革命是一條從ANI，到AGI，到ASI的道路，這是一條我們可能從中幸存，也可能難逃厄運的道路。但不管怎樣，這都將改變一切。
下面，我們就來看看這個領域的前沿思想家是怎么想的，以及為什么這場革命來得比想象的快得多。
三、當下——一個運作在弱人工智能上的世界
弱人工智能(ANI)是在特定方面等同于或超過人類智能或效率的機器智能。從垃圾郵件過濾到淘寶上的商品推薦，從自動駕駛到高頻交易，從商業(yè)到軍事，從制造業(yè)到醫(yī)療……ANI遍地都是。它會從你的操作中精進自己的技藝，也會組成一個網(wǎng)絡，互相交流關于你的信息。
現(xiàn)在的ANI系統(tǒng)還不是特別可怕。最壞的情況是，一個編程有問題的ANI可能會導致毀滅性的災難，比如使電網(wǎng)癱瘓，從而導致核電站故障，危害人類健康；或者引發(fā)一場金融市場災難（比如2010年的閃電崩盤：ANI程序?qū)σ粋€意外情況做出了錯誤的反應，導致股市短暫暴跌、1萬億美元市值流失，等這一錯誤被糾正過來后，只有一部分得以恢復）。
盡管現(xiàn)在的ANI沒能力危及人類生存，但我們應該意識到，日益龐大復雜的ANI生態(tài)系統(tǒng)可能是是一場改變世界的龍卷風的前驅(qū)。每一項ANI創(chuàng)新都在給走向通用人工智能和超級人工智能的道路上添磚加瓦?；蛘呷鐏唫悺に_恩斯（Aaron Saenz）所見，當今世界的ANI系統(tǒng)“就像地球早期土壤中的氨基酸”一樣，是構(gòu)成生命的無生命物質(zhì)，將在一個意想不到的時刻蘇醒過來。
四、弱人工智能到通用人工智能之路
這件事為什么這么難？
恐怕嘗試研發(fā)通用人工智能（AGI）的人最能欣賞人類大腦的精巧復雜（只有他們知道造個全能的機器腦子有多難）。造大樓，去太空，研究宇宙大爆炸，都遠遠比理解或者制造人腦容易得多。到目前為止，人腦是已知的宇宙中最復雜的東西。
通用人工智能指的是像人類大腦一般全能的計算機，其能力范圍不局限于某狹窄的領域。有趣的是，試圖構(gòu)建通用人工智能的困難部分，可能跟你直覺想的不一樣。對計算機來說，算兩位數(shù)乘法太簡單，分辨“眼前”的動物是狗還是貓卻很難。在象棋比賽中打遍天下無敵手已經(jīng)實現(xiàn)了，而為了理解一段6歲小孩故事書水平的文字，谷歌花了幾十億美元。微積分、市場策略和語言翻譯這樣的硬骨頭對計算機來說too easy，而視覺、運動、動作和知覺對計算機來說卻極其困難。正如計算機科學家唐納德·克努特（Donald Knuth）所說，“人工智能已經(jīng)成功地完成了所有需要’過腦子’的事情，但卻幾乎未能完成人類和動物’不用過腦子’的事情?！?/p>
這是因為，對于人類和大多數(shù)動物，這些技能在數(shù)億年的進化過程中得到了優(yōu)化。當你把手伸向一個物體時，肩膀、肘部和手腕上的肌肉、肌腱和骨骼會在瞬間完成一系列的物理活動，與眼睛協(xié)調(diào)配合，讓你的手能夠在三維空間中沿直線移動。這對你來說似乎不費吹灰之力，因為你已經(jīng)完善了你大腦中的軟件。惡意軟件沒法識別出驗證碼里的斜體字母不是因為它太蠢，而是因為你的大腦太令人贊嘆了。
另一方面，大數(shù)乘法或下棋對生物來說是相對新鮮的事物，我們還沒有足夠的時間進化到精通它們，因此計算機不需要太努力就能打敗我們。想想你更愿意做哪個任務：寫一個能算出大數(shù)乘法的程序，還是寫一個程序，能在成千上萬個字體或者手寫體中瞬間識別出字母B，并理解他的全部含義？
下面說一個有趣的例子?？催@張圖的時候，你和電腦都可以分辨出，明暗不同的色塊交替出現(xiàn)，組成一個長方形：
目前是打成平手。但如果你去掉黑色部分的遮擋，把整個圖像展現(xiàn)出來：
你可以準確描述出各種不透明或半透明的圓柱體、薄片和三維轉(zhuǎn)角，電腦則一敗涂地。它會描述它看到的：各種明暗不同的二維圖形（其實的確也只有這些），而你的大腦進行了一系列“騷操作”來解釋圖片所隱含的深度效果、陰影交疊和照明光線。
再比如下面的圖片，電腦看到的是一個二維的黑白灰拼貼畫，而你一看就知道這是什么：一塊純黑色的石頭。
剛才提到的還只是處理靜止的信息。為了達到人類的智能水平，計算機得理解一個微妙的面部表情是友好、寬慰、滿足還是高興，以及為什么“新時代”令人振奮而“小時代”令人臉酸。
那如何才能做到呢？
創(chuàng)建通用人工智能的第一個關鍵：提高計算能力
要使通用人工智能成為可能，必須提高計算機的硬件能力。如果一個人工智能系統(tǒng)要像大腦一樣智能，必須具有相當于大腦的原始計算能力。
表達這種能力的一種方法是大腦每秒能夠處理的總計算量（calculations per second, cps），庫茲韋爾用大腦中一個部分的計算能力和這個部分在整個大腦中的重量占比估計出一個數(shù)字，這個數(shù)字在一億億（1016）這個量級。天河二號超級計算機實際上已經(jīng)超過了這個數(shù)字，但天河二號占地720平方米，耗電24兆瓦（大腦只有20瓦），造價3.9億美元，不適于廣泛使用。
摩爾定律是一條經(jīng)過歷史驗證的可靠規(guī)則，即計算能力的上限大約每兩年翻一番，這意味著計算機硬件的進步，就像人類歷史的進步一樣呈指數(shù)增長。
庫茲韋爾提出用錢來考慮計算機的發(fā)展狀況：看看用1000美元能買多少計算能力。當這個數(shù)字達到10萬億cps時，意味著通用人工智能將走入千家萬戶，成為生活的一部分。上面這張圖是隨著時間推移，用1000美元能買到的計算能力的變化。
因此，目前1000美元買到的電腦可以打敗老鼠的大腦，水平大約是人類的千分之一。按照這個速度，2025年之前我們就能買得起一臺與人類大腦相媲美的電腦。
所以在硬件方面，通用人工智能所需要的計算能力已經(jīng)可以實現(xiàn)了，并且我們將有望在幾年內(nèi)用上實惠又普遍的通用人工智能級別的硬件。
接下來的問題是：如何給這些計算能力賦予人的智慧？
創(chuàng)建通用人工智能的第二個關鍵：讓它變聰明
這才是棘手的部分。誰也不知道怎樣讓它變聰明。我們還在爭論的是如何讓電腦明白什么是狗，如何認出潦草的“B”，或者理解一部電影。這有一堆看起來挺牽強，但或許能行得通的策略：
1） 剽竊大腦
這就像是科學家們在努力研究鄰座的那個孩子為啥那么聰明。即便學習再努力，他們也考不到和那個孩子一樣高的成績。于是他們最終決定：“去他的，我要把那個孩子的答案復制過來！”這種想法似乎很自然：我們怎么也造不出如此復雜的計算機，但我們的腦袋里就裝著完美的原型。
科學界正在努力對大腦進行逆向工程，以求弄清楚大腦這么棒的東西究竟是如何進化出來的。樂觀的估計認為，到2030年我們就可以做到這一點。到那時，我們就會知道大腦的運作為何如此強大和高效，從中汲取靈感，竊取它的創(chuàng)新能力。模擬大腦的計算機體系之一是人工神經(jīng)網(wǎng)絡：晶體管作為“神經(jīng)元”，通過輸入和輸出相互連接。起初它像嬰兒的大腦一樣一片空白，它“學習”的方式是嘗試完成一項任務，比如手寫識別。剛開始，它的神經(jīng)觸發(fā)和最終的猜測是隨機的，當它被告知“猜對了”時，這些觸發(fā)通道中的晶體管連接會被加強，反之會被削弱。經(jīng)過大量的試驗和反饋后，網(wǎng)絡已經(jīng)自己形成了智能神經(jīng)通路，機器已經(jīng)針對這項任務進行了優(yōu)化。大腦的學習方式與之有些相像，但更復雜。隨著腦科學研究的深入，我們將發(fā)現(xiàn)巧妙利用神經(jīng)回路的新方法。
更徹底的“剽竊”是一種叫做“全腦模擬”的策略：將真實的大腦切成薄片，逐層掃描，用軟件重建一個精確的三維模型，然后在一個功能強大的計算機上實現(xiàn)該模型。于是我們就有了一臺計算機，它能處理大腦所能處理的一切，只需要學習和收集信息。如果工程師們做得足夠好，就能精確地模擬真實的大腦。整個大腦結(jié)構(gòu)一旦上傳成功，個性和記憶都會完好無損。如果大腦生前屬于小明，那么電腦現(xiàn)在會像小明一樣醒來。這將是一個強大的人類級人工智能，我們接下來可以嘗試把小明變成一個超級人工智能，他想必會非常興奮吧。
我們離實現(xiàn)全腦模擬還有多遠？人們已經(jīng)模擬出了一個1毫米長的扁蟲大腦。它只有302個神經(jīng)元，而人類的大腦有1000億個。如果這些數(shù)字讓你失去信心的話，別忘了指數(shù)級進步的力量，現(xiàn)在我們已經(jīng)征服了小蟲子的大腦，可能很快就能造出一只螞蟻的大腦，然后是一只老鼠的大腦，到時候，這一切看起來就沒那么遙遠了。
2）按我們想要的方式，再來一次進化
如果聰明孩子的答案抄也抄不完，我們可以試著模仿他的學習方式。如果大腦太難模擬，我們可以模擬進化。
事實上，即使我們模擬出大腦，可能也會像模仿鳥類扇動翅膀來造飛機一樣。機器的設計最好采用一種全新的、面向機器的方法，而不是完全模仿生物。
如何模擬進化？人們想出了“遺傳算法”：對一個計算機系統(tǒng)反復執(zhí)行表現(xiàn)-評估過程（就像生物通過生存來“表現(xiàn)”，并通過它們是否能夠繁殖來“評估”一樣）。一組計算機嘗試執(zhí)行任務，最成功的計算機得以培育后代：把各自程序的一半合并到一臺新計算機中。相對不那么成功的將被淘汰。經(jīng)過多次迭代，這種自然選擇過程將產(chǎn)生越來越好的計算機。若是創(chuàng)造一個自動化的評估和繁殖周期，進化過程就可以自己運行起來了。
進化論的缺點是，動不動就花上10億年的時間，而我們希望在幾十年內(nèi)做到這一點。好在我們與進化論相比有更多優(yōu)勢。
第一，進化沒有先見之明，它會隨機產(chǎn)生很多無用的突變；而我們會控制這一過程，設計有針對性的小故障來實施自然選擇。
第二，進化沒有任何特定目的，包括智力。有時一個環(huán)境甚至可能會淘汰更高的智力（因為它太費糧）；而我們可以將這一進化過程導向智力的提升。
第三，為了選擇智力，進化必須在很多其他方面進行創(chuàng)新來促進智力的發(fā)展，比如改變細胞的產(chǎn)能方式；當我們能夠消除這些額外的負擔（諸如用電來供能）時，我們無疑將會比進化要快得多。
但這究竟是不是一種可行的策略？目前還不清楚。
3）把整個問題拋給電腦
科學家們真的走投無路了，于是把這個問題編成程序，讓機器自己解決。這可能是最有希望成功的方法。
這個方法的思路是：建立一臺這樣的計算機，它的兩項主要技能是研究人工智能和編碼改變自己，使它不僅可以學習，而且可以改進自己的體系結(jié)構(gòu)。我們將教計算機成為計算機科學家，他們的主要任務就是讓自己變得更聰明，這樣它們就可以自力更生，自己發(fā)展自己。
所有這些都可能很快發(fā)生。
硬件的發(fā)展和軟件的創(chuàng)新正同時進行著，可能很快，通用人工智能就會出乎意料地出現(xiàn)在我們身上。原因有二：
1）指數(shù)增長是劇烈的，看起來蝸牛般的發(fā)展速度可能會快速上漲。下面的動圖很好地說明了這一概念：
2）軟件的發(fā)展似乎是緩慢的，但是一個契機就能立即改變進步的速度（就像當人類認為宇宙是地心的時候，很多東西都難以解釋，但是突然間，日心說讓一切變得容易多了）。對于能自我改進的計算機，可能我們看來，把速度提高1000倍是很難的事情，但實際上可能系統(tǒng)微調(diào)一下就可以了。繼而計算機會快速發(fā)展成人類級別的智能。
五、通用人工智能到超級人工智能之路
在某時某刻，我們會實現(xiàn)通用人工智能：電腦會有人類的智慧，人類和電腦平等地生活在一起。
事實上，這個很可能不存在。
如果計算能力和智力與人類相當?shù)耐ㄓ萌斯ぶ悄艹霈F(xiàn)了的話，它與人類相比會有顯著優(yōu)勢。比如：
硬件方面：
可靠性和可持續(xù)性。計算機不僅記憶更精確，計算機的晶體管也比生物的神經(jīng)元工作得更精確，而且它們不容易老化（如果老化了也可以隨時換新的）。人的腦袋容易疲勞，計算機卻可以在峰值性能上一直工作不停歇，別說996了，007都行。
軟件方面：
可編輯性、可升級性和更廣泛的可能與人腦不同，計算機軟件可以接收更新和修復，并且很容易進行試驗。軟件升級還可以擴展到人類大腦薄弱的領域：人類的視覺軟件是非常先進的，而其進行復雜工程的能力是相當?shù)图壍?。計算機可以在視覺軟件上與人類相匹配，但也可以在工程和任何其他領域得到同樣的優(yōu)化。
集體合作能力。 人類建立了一個龐大的集體智慧，并在這一方面碾壓所有其他物種。我們起步于語言的發(fā)展和密集社區(qū)的形成，進步于文字和印刷術的發(fā)明，現(xiàn)在又通過互聯(lián)網(wǎng)變得更強大。人類的集體智慧是我們能夠領先其他物種而走到現(xiàn)在的主要原因之一。計算機在這方面比我們強得多。一個運行特定程序的全球人工智能網(wǎng)絡可以定期與自己同步，這樣任何一臺計算機學習到的任何東西都會立即上傳到所有其他計算機上。這個群體也可以作為一個整體來實現(xiàn)一個目標，因為不見得會像人類一樣，有異議和“小我”。
人工智能（很可能通過自我提升的程序而成為通用人工智能）不會把“人類水平的智能”看作是一個重要的里程碑，并且沒有任何理由在我們的水平上停下來?？紤]到與人類智力相當?shù)耐ㄓ萌斯ぶ悄鼙任覀兙哂械膬?yōu)勢，顯然，它只會在短暫地打擊人類之后，向優(yōu)于人類智力的領域飛速進發(fā)。
這件事發(fā)生時可能會嚇到我們。從我們的角度來看，a）雖然不同種動物的智力各不相同，但其一大特征是，他們都遠遠低于我們；b）我們以為最聰明的人與最笨的人差距非常大。有點像這樣：
因此，當人工智能朝著我們的方向靠近時，我們會認為它對動物來說只是變得更聰明了。然后，當它達到人類的最低能力時，尼克·博斯特羅姆（Nick Bostrom）用了“村里的傻瓜”這個詞——我們會說，“哇，它像一個不會說話的人，真可愛！“唯一的問題是，與整個智力范圍相比，所有的人類，從傻瓜到愛因斯坦，都在一個很小的區(qū)域里，所以在人工智能達到傻瓜的水平并被宣布為通用人工智能之后，它忽然就比愛因斯坦聰明了，我們連發(fā)生了什么都不知道：
在這之后會怎樣？
原文來源：https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
聯(lián)系客服
