來源：王宏琳科學網(wǎng)博客
鏈接地址：http://blog.sciencenet.cn/blog-3005681-1285948.html
人工智能已經(jīng)成為大數(shù)據(jù)、機器人和物聯(lián)網(wǎng)等新興技術的主要驅(qū)動力，在可預見的未來，它將繼續(xù)驅(qū)動技術創(chuàng)新，影響著幾乎每個行業(yè)和每個人的未來。但是，人工智能的最終目標是使機器具有與人類相似的通用智能。這是科學界提出的最雄心勃勃的目標之一，還有很長的路要走。
2020年誕生的GPT-3，使用深度學習生成類似人類的文本，代表了OpenAI的巨大成就（見上一篇博客《機器學習漫談：人工智能的新技巧》），不幸的是，GPT-3的能力讓有的人誤以為它是邁向人工通用智能（AGI）的重要一步，被視為原始AGI（Proto-AGI）——只要有足夠的數(shù)據(jù)，它將導致AGI。事實并非如此。AGI是“具有理解或?qū)W習人類所能完成的任何智力任務的能力的機器”，而GPT-3只是學習單詞共現(xiàn)的統(tǒng)計特性，它根據(jù)一個詞跟在另一個詞后面的統(tǒng)計可能性把詞串在一起。GPT-3沒有常識知識，也不能基于常識進行推理。因此，它不同于AGI系統(tǒng)，AGI系統(tǒng)將常識推理應用于他們對世界的認識，就像人一樣。
說GPT-3不是AGI，絕不會降低GPT-3的成就，或降低它的有用性或適用性。自然語言生成有著廣泛的需求，從聊天機器人到合同編寫和代碼生成。GPT-3代表了最新的最先進的文本生成技術，它將大量的數(shù)據(jù)與計算結(jié)合起來，以達到驚人的精確輸出水平。但是，GPT-3雖然令人印象深刻，仍然缺乏AGI所要求的能力，通往人工通用智能的道路的切入口，可能不會是通過GPT-3、GPT-4或GPT-5。
2016年，谷歌DeepMind設計的玩圍棋的人工智能，AlphaGo，擊敗世界冠軍李世石，也有人稱之接近人工通用智能。但是，它是人工通用智能機器嗎？不是。
構建AGI的關鍵之一是，它必須自己理解世界，能夠?qū)⑺龅降?、聽到的、說的和做的一切，用于發(fā)展自己的、內(nèi)在的意義。如果做不到這一點，你最終會得到今天的人工智能程序，所有的意義實際上都是由應用程序的設計者提供的：GPT-3和AlphaGo基本上不了解正在發(fā)生的事情，而且專業(yè)領域很窄。
圖1 《算法是不夠的》一書封面
2020年，MIT出版社出版了赫伯特·羅伊特布拉特（Herbert L. Roitblat）一本書，題為《Algorithms Are Not Enough：Creating General Artificial Intelligence（算法是不夠的：創(chuàng)造通用的人工智能）》。這本書討論了為什么在探索人工通用智能時需要一種新的方法（參考資料[1]）。書中提到，自從人工智能誕生以來，我們就被警告說，可以復制人類思維過程的計算系統(tǒng)即將到來。在我們意識到這一點之前，計算機將變得如此智能，人類將幸運地被當作寵物飼養(yǎng)。然而，盡管人工智能已經(jīng)變得越來越復雜（比如無人駕駛汽車和下圍棋），計算機科學還沒有創(chuàng)造出人工通用智能。在《算法是不夠的》一書中，赫伯特·羅特布拉特解釋了人工通用智能是如何可能的，以及為什么機器人世界末日既不迫在眉睫，也不太可能發(fā)生。他提到，智力，就像愛因斯坦所展示的那樣，但也像普通人每天所顯示的那樣，并不僅僅來自遵循特定指令的路徑。他強調(diào)，“通用智能不是算法優(yōu)化”，優(yōu)化過程得到一組合適的參數(shù)的機制可以成功地解決特定問題，但是，“優(yōu)化并不創(chuàng)建參數(shù)；它的工作是調(diào)整由程序設計者給出的模型參數(shù)”。
至少從20世紀50年代以來，一些人工智能學家的一直追求目標是創(chuàng)造出能夠全面匹配人類智力水平的機器——強人工智能（Strong AI）或真人工智能（Real AI），并受到了媒體不斷的炒作和放大。前面羅伊特布拉特書中提到的“寵物飼養(yǎng)”，就是50年前媒體的一個炒作。
1970年，《Life（生活）》雜志的記者布拉德·達拉赫寫了一篇關于SRI（斯坦福研究所）人工智能中心開發(fā)的世界上第一個移動智能機器人沙基（圖1左）的文章，認為雖然沙基“看起來不怎么樣”，“沒有對性感的實驗室技術人員隱秘的欲望，能做的就是避免撞到墻上，但事實上它是一個歷史性的成就”。達拉赫采訪了麻省理工學院的首席研究員馬文·明斯基（著名人工智能專家，1969年圖靈獎得主），在報道中引用他的話說：“在三年到八年后，我們將擁有一臺具有普通人一般智能的機器。我指的是一臺能夠閱讀莎士比亞、潤滑汽車、玩辦公室政治、講笑話、打架的機器。到那時，機器將以驚人的速度開始自我教育。幾個月后，它將達到天才水平，幾個月后，它的力量將無法估量”。
還有一個說法當時被廣為傳播：明斯基和他的同事警告說，智能計算機不應該被置于控制不可缺少的系統(tǒng)；相反，必須小心控制它們。媒體在轉(zhuǎn)述中強調(diào)：明斯基和他的同事認為，在計算機掌管對社會生存至關重要的系統(tǒng)之前，必須解決計算機控制的問題。它可能會破壞人類的社會秩序——或者毀滅人類。報導稱：明斯基說，“一旦電腦控制了局面，…如果我們幸運的話，他們可能會決定把我們當寵物養(yǎng)?！睋?jù)說，后來明斯基否認發(fā)表過關于寵物的言論。不過，此后，機器人“超人”成為一些電影的主角，對公眾產(chǎn)生深刻影響。
圖2 機器人沙基（左）電影《終結(jié)者》中的機器人（右）
另外一個在科技界廣為流傳的是“奇點”神話。奇點是指人工智能進入指數(shù)改進過程的時間點。一個如此智能的軟件，它能夠越來越快地自我完善。1993年計算機科學家凡諾·文格（Vernor Vinge）發(fā)表的一篇文章，標題是《即將到來的技術奇點：如何在后人類時代生存》，他預言，“三十年內(nèi)，我們將擁有創(chuàng)造超人智能的技術手段。不久之后，人類時代將結(jié)束。”
在2016年3月，AlphaGo戰(zhàn)勝圍棋世界冠軍李世石后，媒體經(jīng)常報導和炒作霍金和馬斯克對于“人工智能可能會毀滅人類”的警告。在21世紀10年代，斯蒂芬·霍金（劍橋大學理論物理學家）和埃隆·馬斯克（美國太空探索技術公司和特斯拉公司首席執(zhí)行官），都是傳奇式人物。據(jù)報道，2016年，馬斯克在加利福尼亞州一次會議說，如果人類創(chuàng)造出“具有超級智慧的人工智能產(chǎn)品”，它的各方面能力遠超人類，那么人類在強人工智能面前可能會淪為“家貓”。2017年，霍金指出，“人類無法知道我們將無限地得到人工智能的幫助，還是被藐視并被邊緣化，或者很可能被它毀滅”。
另一方面，霍金和馬斯克也都對機器學習技術抱有興奮和渴望的樂觀情緒。2017年，在特斯拉公司學術和行業(yè)研究人員一次聚會上，馬斯克宣稱特斯拉的人工智能是世界上最好的。馬斯克說，他的公司不僅僅是一家電動汽車制造商，更像是一家人工智能機器人公司。特斯拉正在開發(fā)一支最強大的軟硬件人工智能團隊，以徹底改變?nèi)蛉斯ぶ悄芎蜋C器人生態(tài)系統(tǒng)。2017年4月，霍金發(fā)表過《讓人工智能造福人類及其賴以生存的家園（Guiding AI to Benefit humanity and the environment）》的主題演講，指出，“簡單來說，我認為強人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的”?；艚鸪姓J人工智能或許能夠用于根除疾病和貧困。
科學界許多人認為，在可見的未來，不必擔心人工智能會人類生存構成威脅。雖然馬斯克和霍金等曾多次警告人工智能將超過人類，2017年在《哈佛商業(yè)評論》舉辦的一次會議上，知名的人工智能學專家吳恩達表示，這種情況在不遠的將來是不可能出現(xiàn)的。吳恩達在《哈佛商業(yè)評論》舉辦的一次會議上表示，人工智能的智力在不久的將來不可能超過人類，我們更應當擔心機器學習帶來的工作崗位的流失。
ANI、AGI與ASI
圖3 三種類型人工智能
目前，AGI的主要方法之一稱為“全腦仿真”，計算機架構類似于大腦的架構，因為它們都可以通過稱為神經(jīng)網(wǎng)絡的神經(jīng)元系統(tǒng)進行操作。迄今為止，科學家已經(jīng)能夠復制大腦迄今為止，科學家已經(jīng)能夠復制由302個神經(jīng)元組成的1毫米扁蟲的大腦。然而，據(jù)估計，人類的大腦包含1000億個神經(jīng)元，這意味著我們有一段路要走才能重建大腦。
與普通計算機相比，使用量子力學以指數(shù)方式處理更多數(shù)據(jù)的量子計算機被定位為促進AGI的下一個技術前沿。
我們離AGI有多遠？
1956年，赫伯特·西蒙（Herbert Simon，1975年圖靈獎和1978年諾貝爾獎得主）聲稱10到20年可以實現(xiàn)通用計算機智能。六十年后，2016年，馬克·扎克伯格（Mark Zuckerberg，F(xiàn)acebook創(chuàng)始人和首席執(zhí)行官）聲稱，“我們想要建立的基于人工智能的計算機服務，將比人類有更好的洞察力和理解力。人類基本的聽、說、讀、寫等核心感知力，我認為在未來5-10年，計算機一定能做得比人類自己更好”。然而，與反復的樂觀預測相反，人工智能只實現(xiàn)了一些專門的能力，通用智能仍然難以捉摸。
2018年，在一本名為《Architects of Intelligence（智能架構師）》的新書（參考資料[2]）中，作家兼未來學家馬丁·福特采訪了23位當今在人工智能領域工作的最杰出的專家，其中包括DeepMind首席執(zhí)行官黛米斯·哈薩比斯（Demis Hassabis）、谷歌人工智能首席執(zhí)行官杰夫·迪恩（Jeff Dean）和斯坦福人工智能總監(jiān)李飛（Fei-Fei Li）。在一項非正式調(diào)查中，福特讓他們每人猜測到哪一年AGI至少有50%的可能性建成。在福特采訪的23人中，只有18人回答了問題。有趣的是，這兩個人給出了最極端的答案：未來學家、谷歌工程總監(jiān)雷·庫茲韋爾（Ray Kurzweil）提出，到2029年，AGI建成的可能性將達到50%，機器人學家、iRobot聯(lián)合創(chuàng)始人羅德尼·布魯克斯（Rodney Brooks）的為2200年。其余的猜測分散在這兩個極端之間。詳見下表（在建成時間后面括號內(nèi)數(shù)字表示多于1人給出相同估計，“年數(shù)”是指估計從2018年起多少年建成）。平均估計是2099年，是2018后81年。
表1 “什么時候才能實現(xiàn)人類級AI？” 調(diào)查結(jié)果（參考資料[2]）
換句話說，AGI還有很長的距離。
KDnuggets（一個在線的商業(yè)分析、大數(shù)據(jù)、數(shù)據(jù)挖掘和數(shù)據(jù)科學平臺）最新民調(diào)題目是“何時能達到AGI（人工通用智能）？”（注：AGI之后是否會出現(xiàn)技術奇點，這是一個單獨的問題，本次調(diào)查沒有涉及）。根據(jù)1200多張回復得出的結(jié)果是：67%的認為AGI將在不到50年的時間內(nèi)實現(xiàn)，最常見的答案（也是中間答案）是21到50年。只有大約12%的人認為AGI永遠不會實現(xiàn)。具體統(tǒng)計如下（參考資料[3]）：
10年或10年以下：22.5%的受訪者
11-20年，20.1%
21-50年，23.9%
51-100年，14.3%
100多年，7.5%
永遠不會出現(xiàn)：11.7%
圖4 KDnuggets的AGI調(diào)查結(jié)果（參考資料[3]）
結(jié)語
機器學習的未來令人興奮。機器學習正在改變我們的生活。最近，自動駕駛汽車、智能助手、機器人和智慧城市管理已經(jīng)證明，智能機器是可以想象的，并且可以產(chǎn)生誘人的效果，改變大多數(shù)行業(yè)領域，如零售、生產(chǎn)、建筑、會計、醫(yī)療服務、媒體和工程。
艾倫·圖靈1950年在他的開創(chuàng)性著作的《計算機器與智能》一文中所說，“我們只能看到前面不遠的地方，但我們可以看到很多需要做的事情”（參考資料[4]）。
2020年12月23日在“推動 AI 前進：跨學科方法”為主題的《AI Debate 2》辯論會上，有十幾位頂尖的計算機科學家，對人工智能下一步發(fā)展，各抒己見。例如，斯坦福大學教授李飛飛指出：“在真實環(huán)境中感知與行動之間不斷循環(huán)互動，將引發(fā)人工智能的新一輪進化”。的確，所有復雜智能所需的智力發(fā)展，取決于與環(huán)境的相互作用。研究以及構建這種具備互動學習能力的智能體是重要方向，這些智能體使用感知和驅(qū)動來學習和理解世界。加州大學洛杉磯分校教授朱迪亞·珀爾（Judea Pearl，圖靈獎得主）反對僅僅依賴數(shù)據(jù)的文化，提出了一套基于結(jié)構的關于因果的數(shù)學語言和理論，作為因果科學是回答因果問題的推理引擎，他稱之為“深度理解”。該引擎的特點是 “Knowledge in, Knowledge out, Data in between（知識輸入，知識輸出，數(shù)據(jù)在中間）”。
在后工業(yè)化時期，人們試圖制造一臺機器，它像人類一樣進行各種活動。達到這個科學史上最為雄心勃勃的目標，還有很長的路要走。但是，即使未來實現(xiàn)了人工通用智能，也永遠不會和人類智能完全一樣。
參考資料
[1] Herbert L. Roitblat.Algorithms Are Not Enough:Creating General Artificial Intelligence.The MIT Press.2020
[2] Martin Ford.Architects of Intelligence: The truth about AI from the people building it. Packt Publishing.2018
[3] Gregory Piatetsky, When will AGI (Artificial General Intelligence) be reached? KDnuggets.2018
[4] A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49: 433-460.
未來智能實驗室的主要工作包括：建立AI智能系統(tǒng)智商評測體系，開展世界人工智能智商評測；開展互聯(lián)網(wǎng)（城市）云腦研究計劃，構建互聯(lián)網(wǎng)（城市）云腦技術和企業(yè)圖譜，為提升企業(yè)，行業(yè)與城市的智能水平服務。
聯(lián)系客服
