跟劉慈欣老師展開(kāi)這場(chǎng)對(duì)話(huà)，靈感來(lái)自一個(gè)讓我們都感到有些“震驚”的項(xiàng)目。阿里巴巴與清華大學(xué)簽署了一項(xiàng)戰(zhàn)略合作，成立人機(jī)交互實(shí)驗(yàn)室，探索下一代人機(jī)交互方式，使人工智能具備“五感”——視覺(jué)、觸覺(jué)、聽(tīng)覺(jué)、嗅覺(jué)和味覺(jué)，并能對(duì)人類(lèi)的情感和情緒進(jìn)行分析和理解，并進(jìn)行反饋。
我們都覺(jué)得這件事很有意思，它是一次探索人類(lèi)與人工智能如何相處的一次比較激進(jìn)的嘗試，也倒逼著我們激發(fā)了對(duì)AI的理智與情感、AI的創(chuàng)造力、人類(lèi)生命的寬度與“永生”的意義，以及人類(lèi)與AI融合而生“新物種”產(chǎn)生了新的想象力。沒(méi)有什么比一個(gè)科幻小說(shuō)作家更適合談?wù)撨@些了。
所以，這次的談話(huà)有點(diǎn)不著邊際，但我覺(jué)得還挺好玩，腦洞很大，那些頭腦不甘寂寞的人應(yīng)該對(duì)它有興趣。
以下是我們對(duì)話(huà)的剪輯版視頻和完整對(duì)話(huà)實(shí)錄。
一、人工智能在情感上可能會(huì)超過(guò)人
駱軼航：大家好，今天非常高興有這個(gè)機(jī)會(huì)能夠跟劉慈欣老師在一起聊一聊關(guān)于人機(jī)交互，人的情感與機(jī)器的情感，以及人和機(jī)器、人和人工智能這樣一個(gè)關(guān)系的未來(lái)。從科幻小說(shuō)作家的視角，從觀察者的視角，一個(gè)具備“五感”（指視覺(jué)、聽(tīng)覺(jué)、味覺(jué)、嗅覺(jué)和觸覺(jué)）的機(jī)器人或人工智能，它是一個(gè)什么樣存在，作為一個(gè)小說(shuō)家怎么去描述它？
劉慈欣：我覺(jué)得目前人工智能的優(yōu)勢(shì)還是集中在和情感無(wú)關(guān)的活動(dòng)上面。作為人類(lèi)社會(huì)來(lái)說(shuō)，這個(gè)感覺(jué)甚至更高層次的情感是我們生活中相當(dāng)重要的一部分。但對(duì)于機(jī)器來(lái)說(shuō)不是這樣，你要讓機(jī)器具有人的感覺(jué)，實(shí)際上是為了人自身服務(wù)的，如果按照機(jī)器自身進(jìn)化規(guī)律的話(huà)，它不會(huì)走人的感情，這對(duì)它是一種限制。我覺(jué)得對(duì)于人和智能機(jī)器的交互來(lái)說(shuō)，特別是讓智能AI推動(dòng)將來(lái)人類(lèi)社會(huì)發(fā)展，給人們帶來(lái)更好的生活的話(huà)，機(jī)器從感情上跟人類(lèi)交流是必須的。
駱軼航：這種交流是一種模擬人類(lèi)的感覺(jué)和感情，不是一種復(fù)制。
劉慈欣：這個(gè)是很有意思的問(wèn)題。我們成天談情感、談感情，其實(shí)從技術(shù)層面，從嚴(yán)格的科學(xué)層面上來(lái)說(shuō)，人類(lèi)自己也不知道感情是什么東西，我們并沒(méi)有一個(gè)，哪怕稍微嚴(yán)格一點(diǎn)的科學(xué)上的定義。
它和記憶的那些數(shù)據(jù)、事實(shí)的關(guān)系是什么？包括你說(shuō)的它是在左半腦、右半腦，它是一種應(yīng)急反應(yīng)還是一種算法。甚至我們連情感在人類(lèi)什么地方都不知道。當(dāng)然按照傳統(tǒng)主流的說(shuō)法，可能說(shuō)它在大腦里，但是這個(gè)其實(shí)很可疑，因?yàn)樯勘葋営芯湓?shī)說(shuō)“愛(ài)情你來(lái)自何方，是腦海還是心房”，這個(gè)很深刻。就是說(shuō)假如我們把大腦從人的身體上摳出來(lái)的話(huà)，它還能夠成活的話(huà)，它還有感情嗎？這個(gè)東西很難說(shuō)。
駱軼航：莎士比亞這個(gè)詩(shī)應(yīng)該是寫(xiě)在四百多年前，這四百多年是人類(lèi)從科學(xué)上也沒(méi)有什么進(jìn)化，把這個(gè)問(wèn)題搞清楚。
劉慈欣：但我是寫(xiě)科幻小說(shuō)的，我并不是學(xué)者，我傾向于把所有的可能性排列出來(lái)。情感的存在方式有兩種可能，一種就像我們現(xiàn)在很多主流科學(xué)家認(rèn)為的，人就是大腦，大腦里什么都有，情感什么東西都在大腦，你把大腦拿出來(lái)就把人拿出來(lái)；另外一種就是像莎士比亞表述的這樣，情感有一部分在大腦，可能另一部分和你整個(gè)的身體系統(tǒng)，和你的內(nèi)分泌，和你的方面都有著密切的關(guān)系。從我自己來(lái)看，可能后一種可能性更大，特別是愛(ài)情東西我很難想象只有大腦能產(chǎn)生。所以說(shuō)模擬情感，從一方面來(lái)說(shuō)比模擬人類(lèi)的純智能是難度更高的。
但是另一方面就是說(shuō)它不等于不可能，它不是在我們真正認(rèn)清情感的生物學(xué)、生理學(xué)的大腦學(xué)機(jī)制上模擬，這個(gè)當(dāng)然是最理想的，也是最高級(jí)的。
駱軼航：但我們自己還處于一個(gè)未知狀態(tài)。
劉慈欣：對(duì)，人類(lèi)的腦科學(xué)和神經(jīng)學(xué)處于很原始的狀態(tài)，但是我們可以把大腦、把人的身體情感看作一個(gè)黑箱，只模擬它的輸入輸出，這個(gè)是完全可以的。我們并不管它內(nèi)部是什么東西，你模擬的情感是初級(jí)情感，未必。
我舉個(gè)例子，我們并沒(méi)有模仿鳥(niǎo)的飛行。但是飛機(jī)無(wú)論是速度還是高度，都比鳥(niǎo)強(qiáng)。那么一個(gè)很強(qiáng)的人工智能要想在不了解大腦的情況下，在不了解整個(gè)人的情感系統(tǒng)的情況下，僅僅從大數(shù)據(jù)去模擬情感，它最終可能像圍棋一樣。
駱軼航：像AlphaGo一樣。
劉慈欣：它可能變成一種情感最豐富的東西。
駱軼航：它里面沒(méi)有圍棋的這種禪，這種定力，這種哲思在里面，就是靠一個(gè)算法。
劉慈欣：你想想有這么一個(gè)存在，它能夠在一個(gè)小時(shí)甚至更短的時(shí)間內(nèi)，把人類(lèi)有史以來(lái)所有的書(shū)、所有的小說(shuō)、文學(xué)作品，一個(gè)小時(shí)內(nèi)全部讀完甚至?xí)r間更短。這么一個(gè)實(shí)體根據(jù)這么一個(gè)數(shù)據(jù)，可以在一天之內(nèi)，把幾億人的情感生活全分析一遍，這么一個(gè)大數(shù)據(jù)篩選出來(lái)的情感，人可能是望塵莫及。
駱軼航：甚至?xí)岩伤褪且环N發(fā)自于人的情感，但它還是一種算力和算法的結(jié)果。
劉慈欣：最近流行的一種說(shuō)法就是人和人工智能的孰優(yōu)孰劣，好像這個(gè)情感是人的最后一道防線(xiàn)。就說(shuō)很多學(xué)者認(rèn)為及計(jì)算機(jī)沒(méi)有情感，實(shí)際上這個(gè)東西從科學(xué)上來(lái)說(shuō)是很不成立的。我們自己連情感是什么都不知道，你怎么知道計(jì)算機(jī)沒(méi)有呢？
駱軼航：所以按您的看法，我們復(fù)制人的“五感”，第一個(gè)我們要很清楚它不是人類(lèi)的感知、感官，它是機(jī)器的感官。但是我們可以期待它在很大程度上跟人類(lèi)的感官能夠互相溝通，前提是它服務(wù)于我們的需求和需要。
劉慈欣：這個(gè)就是人工智能里面很著名的一個(gè)叫中文房間，就說(shuō)有一個(gè)房間里的人他根本不懂中文，但他后面有一個(gè)資料庫(kù)。你說(shuō)出一句中文，他拿那個(gè)卡片去查那個(gè)資料庫(kù)，查出來(lái)以后拿來(lái)回答你。
駱軼航：這個(gè)本質(zhì)上就是機(jī)器翻譯。
劉慈欣：情感也是，你說(shuō)計(jì)算機(jī)它是不懂情感，但是它能夠把你的情感取樣出來(lái)，我到我后面機(jī)器龐大的一個(gè)海量的大數(shù)據(jù)，我去里面查找，我不是簡(jiǎn)單的查找，就像AlphaGo一樣對(duì)數(shù)據(jù)庫(kù)一種算法，它可能算出來(lái)比人類(lèi)真的情感還像人。
二、人對(duì)機(jī)器的“歧視”，比對(duì)其他物種深得多
駱軼航：機(jī)器比的人情感還豐富、還細(xì)膩，是超情感。
劉慈欣：所以說(shuō)這道防線(xiàn)我認(rèn)為根本不存在，這有道防線(xiàn)是一種很幼稚的人類(lèi)中心論，把我們自己看得太高了。
駱軼航：人類(lèi)中心論，或者是他是真把這個(gè)當(dāng)作一道防線(xiàn)。
劉慈欣：他自己都不知道情感是什么，他以為別的物種也沒(méi)有。
駱軼航：比方說(shuō)現(xiàn)在很多美國(guó)人家里有亞馬遜的echo，中國(guó)人家里邊可能是有像天貓精靈這樣的東西。作為成年人我們跟它的溝通是很簡(jiǎn)單的，你給我訂一張機(jī)票、你給我查一下天氣。中國(guó)人里邊我真的是見(jiàn)過(guò)一個(gè)小孩，三四歲的孩子，跟天貓精靈不斷地講話(huà)，家里邊沒(méi)有人，但是家里有攝像頭，會(huì)看到他。他就跟那個(gè)天貓精靈能夠講三四個(gè)小時(shí)的話(huà)，它也給他回復(fù)，他就覺(jué)得它跟我溝通很好，而且很友善，而且出門(mén)玩的時(shí)候要把它帶上。這個(gè)是一個(gè)非常有意思的一個(gè)場(chǎng)景，這個(gè)事兒我比較好奇的是作為一個(gè)小孩子，他覺(jué)得他跟機(jī)器跟人一進(jìn)行樣溝通。
劉慈欣：人工智能的情感和人的溝通，它是分幾個(gè)層面的，現(xiàn)在比較簡(jiǎn)單的層面像你說(shuō)的銀行、服務(wù)產(chǎn)業(yè)人機(jī)界面很友好，這可以作為人機(jī)交互的潤(rùn)滑劑，這個(gè)目前它的意義還是有限的。
駱軼航：它打消了人和人溝通中產(chǎn)生誤解的尷尬部分。
劉慈欣：人和機(jī)器的溝通中間有一道很難圖突破的障礙、底線(xiàn)，這個(gè)底線(xiàn)很難出破，這個(gè)底線(xiàn)一旦突破的話(huà)對(duì)人類(lèi)的改變還是很大的。什么底線(xiàn)呢？就是機(jī)器本身我們和機(jī)器溝通、情感溝通，如果說(shuō)我們不知道它是機(jī)器，可能會(huì)很容易。假如我們知道對(duì)方是機(jī)器，這個(gè)情感只能限制在一定的程度上。一旦再往上走的話(huà)，人類(lèi)本身不同種族之間存在著種族歧視問(wèn)題，但是未來(lái)人類(lèi)最大的歧視是人對(duì)機(jī)器的歧視。
駱軼航：人類(lèi)是天生帶著歧視、偏見(jiàn)和自我中心的東西。
劉慈欣：人類(lèi)對(duì)沒(méi)有生命的機(jī)器，不管它有多高的智能、多高的情感，人類(lèi)對(duì)它的歧視比這個(gè)人類(lèi)種族之間的歧視甚至對(duì)人類(lèi)對(duì)其他物種的歧視深得多，其他物種雖然它的生命沒(méi)有法律保障，還是有一定的尊重，你不能把個(gè)小貓、小狗弄死。把一臺(tái)機(jī)器給摔了，這個(gè)根本沒(méi)有任何道德上的譴責(zé)。
所以說(shuō)機(jī)器情感和人的情感溝通，要想上升到那種真正直達(dá)內(nèi)心的那種情感之間的關(guān)系，人和機(jī)器要建立這樣的關(guān)系。
駱軼航：是不是我們要去期盼的？
劉慈欣：應(yīng)該期盼，但是你得做好帶來(lái)沖擊的思想準(zhǔn)備。
駱軼航：它沖擊的是它對(duì)你的異化，還是你對(duì)它的異化？
劉慈欣：你不可能異化機(jī)器，是很難的，這是一道障礙，這個(gè)障礙一旦突破的話(huà)，那么機(jī)器在情感方面真正進(jìn)入人的情感生活的話(huà)，整個(gè)人類(lèi)的文明、人類(lèi)的文化，可能完全改變。
駱軼航：您這么一說(shuō)，我想到了一個(gè)特別詭異的畫(huà)面，就是當(dāng)機(jī)器能夠進(jìn)入人類(lèi)情感世界的時(shí)候，那人他的另一半到底是什么？而且它還有感官的東西，它還有生物學(xué)的東西，它能夠完全滿(mǎn)足人對(duì)于另一半的情感、生理乃至心理的需求。
劉慈欣：其實(shí)對(duì)這個(gè)的預(yù)測(cè)早在上世紀(jì)八十年代有一篇科幻小說(shuō)《溫柔之鄉(xiāng)的夢(mèng)》，描寫(xiě)就很生動(dòng)了，你說(shuō)的是完全可能，我記得那個(gè)小說(shuō)里描寫(xiě)機(jī)器人的另一半，怎么描寫(xiě)？他說(shuō)它是太陽(yáng)里的姑娘，姑娘里的太陽(yáng)，已經(jīng)到這種程度了。
駱軼航：這個(gè)相對(duì)人類(lèi)的文化包括人類(lèi)的倫理，我們不能說(shuō)它是一種什么樣的東西，但它是一種改變。
劉慈欣：如果我們整個(gè)社會(huì)跨越了對(duì)機(jī)器根深蒂固的歧視，我既然能找見(jiàn)一個(gè)心目中理想的伴侶，我干嘛還要去找你們這些真正的人類(lèi)。
三、越現(xiàn)代、越前衛(wèi)、越高級(jí)的藝術(shù)越容易被機(jī)器模仿
駱軼航：我們回到一開(kāi)始那個(gè)畫(huà)面，一個(gè)小孩跟機(jī)器在一起成長(zhǎng)、長(zhǎng)大，有一天他意識(shí)到了它不是人是個(gè)機(jī)器，那一刻的情感撕裂和變化，這個(gè)事情在未來(lái)的世界中出現(xiàn)的概率會(huì)有多大？因?yàn)楝F(xiàn)在確實(shí)有一代孩子真的是這么長(zhǎng)大。
劉慈欣：我倒覺(jué)得這不是一個(gè)很重的問(wèn)題，其實(shí)你說(shuō)的這個(gè)事情以前一直在發(fā)生，不過(guò)不是發(fā)生在機(jī)器的身上，在孩子的眼中，世界是一個(gè)“物活論”的世界，就說(shuō)不光小動(dòng)物，貓、狗、小禿子，甚至樹(shù)木、河流、巖石都是有靈魂的、有生命的，但是隨著我們的成長(zhǎng)，童話(huà)給現(xiàn)實(shí)世界這么一層迷彩漸漸散去了，我們能漸漸適應(yīng)它。對(duì)機(jī)器來(lái)說(shuō)我認(rèn)為也會(huì)的，甚至孩子一開(kāi)始肯定知道它就不是一個(gè)，它和小貓、小狗是有區(qū)別，他可能知道，他會(huì)看到它要充電等等的。我認(rèn)為這個(gè)人類(lèi)會(huì)適應(yīng)這個(gè)機(jī)器的這種轉(zhuǎn)變，我覺(jué)得是可以的。但是從小和機(jī)器進(jìn)行感情交流的人，成長(zhǎng)以后他會(huì)有一個(gè)問(wèn)題，就是他的情感世界會(huì)被塑造成什么樣子？他還能和人交流嗎？
駱軼航：這兩年因?yàn)楝F(xiàn)在Google已經(jīng)推出了72位的量子計(jì)算，它會(huì)對(duì)我們整個(gè)這種計(jì)算的速度和計(jì)算的能力又一個(gè)檔次的提升，它對(duì)我們數(shù)據(jù)的吸取、攝取，和數(shù)據(jù)的運(yùn)算分析，和解決問(wèn)題甚至創(chuàng)造事物的能力，又會(huì)有一個(gè)變化。我們會(huì)看到，這個(gè)在機(jī)器會(huì)在詩(shī)歌創(chuàng)作、音樂(lè)創(chuàng)作、文學(xué)創(chuàng)作、藝術(shù)、書(shū)畫(huà)之類(lèi)的創(chuàng)作上發(fā)揮作用。最近我們知道有一些公司實(shí)際上在干這個(gè)事兒，它在讓人工智能去寫(xiě)詩(shī)。
劉慈欣：我本人閑著無(wú)聊的時(shí)候編過(guò)一個(gè)寫(xiě)詩(shī)的軟件，那是很早八十年代。
駱軼航：八十年代大家都寫(xiě)詩(shī)，那會(huì)兒沒(méi)有人會(huì)用軟件寫(xiě)詩(shī)。我們看到這個(gè)東西現(xiàn)在被機(jī)器操作，尤其現(xiàn)代詩(shī)，現(xiàn)代詩(shī)有的時(shí)候是符號(hào)的游戲，是語(yǔ)言學(xué)家的符號(hào)學(xué)，這個(gè)東西機(jī)器很容易去模仿。我看到機(jī)器出的詩(shī)集覺(jué)得很有意思，我會(huì)仔細(xì)去看，有的時(shí)候我甚至?xí)盟F(xiàn)代詩(shī)的作品作一些對(duì)比，以至于我真的分不出來(lái)從審美上哪個(gè)更好一點(diǎn)。這個(gè)時(shí)候我感到很不安，因?yàn)槲抑浪皇歉覀冇猛瑯拥姆绞饺?chuàng)作文藝作品，但它們也創(chuàng)作出來(lái)，這個(gè)事兒您覺(jué)得接下來(lái)會(huì)發(fā)展成什么樣子？這個(gè)我覺(jué)得才是人類(lèi)的最后一道堡壘。
劉慈欣：這個(gè)遠(yuǎn)不是最后一道堡壘，就說(shuō)文學(xué)藝術(shù)包括你說(shuō)的人文的東西，其實(shí)目前機(jī)器已經(jīng)在大規(guī)模侵入。其實(shí)在前年，在國(guó)內(nèi)就進(jìn)行過(guò)一次寫(xiě)古詩(shī)的圖靈測(cè)試。就是說(shuō)我不告訴這是機(jī)器還是人寫(xiě)的，就是一大堆詩(shī)，你把機(jī)器寫(xiě)的、人寫(xiě)的挑出來(lái)。而且中文戲的教授、學(xué)生挑不出來(lái)，都挑錯(cuò)了，分不清人寫(xiě)的還是機(jī)器寫(xiě)的。古詩(shī)能寫(xiě)的，現(xiàn)在電腦能寫(xiě)出很好的古詩(shī)來(lái)。結(jié)果現(xiàn)在有些學(xué)者還是用那句陳詞濫調(diào)來(lái)說(shuō)，說(shuō)他們這個(gè)詩(shī)后面沒(méi)有情感，你管它后面有沒(méi)有情感，你作者根本不重要，詩(shī)就擺在這兒呢，對(duì)吧，所以說(shuō)這個(gè)是沒(méi)有辦法的。但是在這一點(diǎn)目前人類(lèi)還是有很多可以防守的領(lǐng)域。你現(xiàn)在觀察到?jīng)]有，計(jì)算機(jī)最容易寫(xiě)的詩(shī)就是現(xiàn)代詩(shī)，我編的C語(yǔ)言、寫(xiě)詩(shī)歌程序還不到一千句，很小的一個(gè)程序。但是你要想寫(xiě)比較古典的詩(shī)詞，像比較古典的拜倫、雪萊寫(xiě)的詩(shī)就難一點(diǎn)。
小說(shuō)也一樣，你寫(xiě)現(xiàn)代的意識(shí)流小說(shuō)，讓計(jì)算機(jī)寫(xiě)好像挺容易的。你要寫(xiě)托爾斯泰那種小說(shuō)，恐怕很難。畫(huà)畫(huà)更是，畫(huà)一幅現(xiàn)代畫(huà)，那個(gè)反正正過(guò)來(lái)看、倒過(guò)來(lái)看就很容易的，編那個(gè)程序很容易。
駱軼航：《蒙娜麗莎》就很難。
劉慈欣：《蒙娜麗莎》幾乎畫(huà)不出來(lái)，所以說(shuō)這得出一個(gè)很有趣的結(jié)論，就是我們認(rèn)為越現(xiàn)代、越前衛(wèi)、越高級(jí)的藝術(shù)，你突然發(fā)現(xiàn)它越容易被機(jī)器所模仿。反而我們認(rèn)為越傳統(tǒng)的那些東西，機(jī)器越模仿不出來(lái)。
駱軼航：是不是因?yàn)檫M(jìn)入現(xiàn)代社會(huì)之后，人們的創(chuàng)作方式、思考方式已經(jīng)被人工智能影響很深了？
劉慈欣：不是這個(gè)，現(xiàn)代派的出現(xiàn)，不管是文學(xué)中也好，還是藝術(shù)中也好，它與人工智能的發(fā)展并沒(méi)有必然的關(guān)系。
我們只能看到為什么越現(xiàn)代的東西、越后現(xiàn)代的東西，越能被機(jī)器所模仿，這給了我們一個(gè)想法，人類(lèi)的精神世界越來(lái)越高級(jí)了還是越來(lái)越低級(jí)了？
駱軼航：這個(gè)我不敢下判斷，尤其從文化作品上。
劉慈欣：所以我說(shuō)這個(gè)領(lǐng)域人類(lèi)還有可防守的疆域，當(dāng)然最后不一定防守住。就說(shuō)我們古典的很厚重的說(shuō)什么比怎么說(shuō)更重要的文學(xué)藝術(shù)繪畫(huà)可能更有生命力。
駱軼航：而且我們也要從古典主義中尋求我們創(chuàng)作和解釋這個(gè)世界，我們用藝術(shù)的方式解釋這個(gè)世界的能力、稟賦。
劉慈欣：因?yàn)槟悻F(xiàn)在用計(jì)算機(jī)創(chuàng)作，你湊出一個(gè)什么上海的藝術(shù)雙年展那作品根本不費(fèi)什么勁兒，而且你人根本看不出來(lái)那是計(jì)算機(jī)作的，對(duì)吧。但是你湊出一部古典的油畫(huà)、國(guó)畫(huà)這些作品來(lái)，我估計(jì)是很難。
駱軼航：模仿是可以模仿的，模仿宋徽宗的東西它是可以模仿，但是這個(gè)不是我們想要的東西。
劉慈欣：一旦計(jì)算機(jī)、人工智能完全進(jìn)入了人文領(lǐng)域、文學(xué)藝術(shù)領(lǐng)域，對(duì)我們的文明又是一個(gè)沖擊，首先那個(gè)時(shí)候藝術(shù)品的數(shù)量可能是巨大的，可能取之不盡、用之不竭，你每天想隨時(shí)幾秒鐘就能生成一部長(zhǎng)篇小說(shuō)，這種狀況會(huì)讓我們的文化變成什么樣的狀況。
駱軼航：您有沒(méi)有想過(guò)人工智能寫(xiě)科幻小說(shuō)會(huì)比科幻小說(shuō)作家有什么不一樣的地方？
劉慈欣：我覺(jué)得最可怕的不是它有不一樣的地方，是和你有什么一樣的地方?？赡芩菍?xiě)出來(lái)一看就是機(jī)器寫(xiě)的，那個(gè)構(gòu)不成威脅。還是那句話(huà)，它寫(xiě)的如果是讓我們根本分別不出來(lái)是人類(lèi)科幻作家協(xié)的還是機(jī)器寫(xiě)的，那個(gè)威脅就來(lái)了，但是目前來(lái)說(shuō)，據(jù)我所知還做不到這點(diǎn)。每一個(gè)文學(xué)品種都是一樣，就說(shuō)現(xiàn)在機(jī)器寫(xiě)的小說(shuō)，能夠趕上那幫意識(shí)流作家，但是趕不上古典作家。
駱軼航：您寫(xiě)作中其實(shí)從古典主義和歷史經(jīng)典中攝取的元素還是蠻多的。
劉慈欣：這個(gè)主要怎么說(shuō)呢？就說(shuō)機(jī)器的思考方式，它的藝術(shù)、文學(xué)的思考方式和我們思考方式不一樣。
它基于海量的數(shù)據(jù)，基于一些算法產(chǎn)生的東西。這個(gè)我再補(bǔ)充一點(diǎn)，就是對(duì)于機(jī)器作品最后的評(píng)價(jià)，人們還是有個(gè)誤區(qū)。比如AlphaGo下圍棋柯杰說(shuō)的一句話(huà)對(duì)我印象特別深，他說(shuō)搞了半天我們?nèi)陙?lái)所有圍棋的理論、頓悟全是錯(cuò)的。我見(jiàn)過(guò)那個(gè)機(jī)器的推理過(guò)程，我見(jiàn)過(guò)用蒙特卡洛法，用進(jìn)化算法推理一個(gè)事情的過(guò)程，他把整個(gè)打印出來(lái)，你看完全是一堆沒(méi)有意義的亂碼，你根本看不懂。我想AlphaGo對(duì)于圍棋的推理過(guò)程也是那樣，你看不懂。但是不管看得懂看不懂它最后贏了，你說(shuō)圍棋多么古老，我有禪意。
駱軼航：我有禪意，我這是人文科學(xué)。
劉慈欣：這是不錯(cuò)，但是圍棋是為了贏的，對(duì)吧。你剛才說(shuō)的文學(xué)藝術(shù)其實(shí)也一樣，情感也一樣，不管我怎么把它產(chǎn)生出來(lái)，我打動(dòng)你了，我震撼你了，引起了你的共鳴，你管我怎么產(chǎn)生出來(lái)的，你管我背后有沒(méi)有你說(shuō)的情感?，F(xiàn)在這些人類(lèi)、詩(shī)人們辯護(hù)說(shuō)他們有情感，其實(shí)你那些情感最后挖到最深處，不也是大腦中一些化學(xué)物質(zhì)的傳遞和反應(yīng)嗎，和那些電子的傳遞算法在自然規(guī)律上沒(méi)有什么本質(zhì)區(qū)別。
四、機(jī)器創(chuàng)造的人類(lèi)永生，是真的永生嗎？
駱軼航：如果“五感”能夠被模擬、被復(fù)制，我作為一個(gè)活的人，我的價(jià)值觀、我的品位、我思考問(wèn)題的方式甚至我的智商，能夠完全模擬出來(lái)、能夠復(fù)刻的話(huà)，這就牽涉到我們說(shuō)到另外一個(gè)非常好玩的話(huà)題就是永生話(huà)題。
我作為一個(gè)存在，比方說(shuō)幾十年后的一天我躺在病床上，然后我面前有人說(shuō)你不會(huì)死的，哪怕你的軀體死了，你也不會(huì)死的，因?yàn)槟憧疵媲斑@個(gè)人，它具備了你所有的理智和情感，我們這個(gè)東西既通過(guò)機(jī)器模擬，也通過(guò)云和大數(shù)據(jù)去復(fù)制，這個(gè)人它已經(jīng)能像你一模一樣了。這個(gè)時(shí)候其實(shí)我想做的一件事情我趕快坐起來(lái)，然后用我生命中的最后一絲力量把它掐死，這個(gè)事情讓我感覺(jué)非?？膳?。
劉慈欣：你的一個(gè)完整的復(fù)制體可能是在這個(gè)世界上最大的異己，因?yàn)槟鞘莻€(gè)很可怕的東西，因?yàn)槲覀冏钆略趧e人身上見(jiàn)到我們自己的缺點(diǎn)，你所有的缺點(diǎn)、黑暗面他一點(diǎn)不落全有，而且它還知道你所有不可見(jiàn)人的事兒，這個(gè)東西別說(shuō)是你的永生了，你根本不愿意它存在。
而且你說(shuō)的關(guān)于一個(gè)復(fù)制體是否意味著一個(gè)人永生的問(wèn)題，我覺(jué)得從不同的視角看，不同的人看答案是不同的。從別人看你確實(shí)永生了，那就是你。
駱軼航：從我看，我還是走了。
劉慈欣：這個(gè)你不在，那個(gè)你和他交往一樣。從你個(gè)人來(lái)說(shuō)，你躺在病床上奄奄一息，沒(méi)人管你了，他活著跟你有什么關(guān)系，這個(gè)絕對(duì)不是你。
駱軼航：而且我死了之后，我不知道我的意識(shí)和靈魂被帶到那兒去了，如果它在另外一個(gè)平行世界存在，憑什么我要容忍這個(gè)世界里面還有另外一個(gè)存在？這件事兒對(duì)我來(lái)說(shuō)是很不安的一件事兒。
劉慈欣：所以永生對(duì)于個(gè)人來(lái)說(shuō)，最可靠的辦法還是保持?jǐn)?shù)據(jù)在你大腦里面，就是讓你的身體不斷地在未來(lái)的先進(jìn)技術(shù)下能夠維持下去。
駱軼航：就是我們的軀殼能夠活著。
劉慈欣：否則的話(huà)復(fù)制人這個(gè)事情、永生這個(gè)事情從哲學(xué)層面思考其實(shí)是很繞的，越想越復(fù)雜。
駱軼航：它不是倫理問(wèn)題，就是一個(gè)純哲學(xué)問(wèn)題。
劉慈欣：這個(gè)從感覺(jué)上判斷很容易，復(fù)制是不是永生這個(gè)很容易，對(duì)個(gè)人肯定不是永生。
駱軼航：當(dāng)人類(lèi)的情感，可以以比特的方式，以原子或者比特的方式被儲(chǔ)存、被運(yùn)算，那么它應(yīng)該是一種什么樣的存在，可能是我們更喜歡的一種關(guān)系，因?yàn)槲覀兌枷ＭＡ粢恍┟赖拢Ａ粢恍┞斆鞯恼J(rèn)知，都希望保留一些我們身邊熟悉的人的感覺(jué)，而這些人可能經(jīng)逝去了。
劉慈欣：我覺(jué)得時(shí)間地點(diǎn)可能有兩個(gè)途徑，一個(gè)途徑可能比較容易，就像《黑鏡》演得那樣，就把網(wǎng)上大量的數(shù)據(jù)和日常生活中所有的錄像什么、所有資料綜合起來(lái)，把這個(gè)大數(shù)據(jù)生成一個(gè)他。這個(gè)看上去可能很像，但這個(gè)我覺(jué)得不是一個(gè)人真正的復(fù)制。真正的復(fù)制應(yīng)該是從最根本的，從物理的生物學(xué)，就是把你的大腦完全讀出來(lái)，像讀一個(gè)硬盤(pán)一樣讀數(shù)據(jù)，這個(gè)對(duì)我們現(xiàn)在太遠(yuǎn)了。
還有一句話(huà)就是說(shuō)一個(gè)大腦真的能代表一個(gè)人嗎，很難說(shuō)。就像一個(gè)計(jì)算機(jī)，你把硬盤(pán)拔出來(lái)揣在口袋里拿走了，你等于把整個(gè)計(jì)算機(jī)拿走了嗎，沒(méi)有，可能你把它主要部分都沒(méi)拿走，它的CPU、它的內(nèi)存條這些東西。
駱軼航：我記得我奶奶剛剛走一段時(shí)間，我不斷聽(tīng)磁帶，那磁帶是我小時(shí)候八十年代錄的，錄的都是日常聊天。八十年代的磁帶，后來(lái)就壞了，壞了以后我很長(zhǎng)一段時(shí)間我還想去聽(tīng)它，但是我不知道該聽(tīng)什么，其實(shí)我覺(jué)得我們有時(shí)候需要去復(fù)制的就是這樣的東西，用機(jī)器人的形態(tài)復(fù)制。
劉慈欣：這些數(shù)據(jù)不是活的數(shù)據(jù)，是死的數(shù)據(jù)，沒(méi)有辦法進(jìn)化，沒(méi)有辦法隨著環(huán)境改變。假如像我說(shuō)的那種從生物學(xué)最基本的層面，最基本的元素復(fù)制出來(lái)的人跟真的一樣，它也能感知外部世界，也能夠進(jìn)化。
其實(shí)像你說(shuō)的那種，用大數(shù)據(jù)來(lái)構(gòu)造一個(gè)已經(jīng)去世的人的技術(shù)，現(xiàn)在差不多能做，據(jù)我所知沒(méi)有什么人愿意去做這個(gè)。當(dāng)時(shí)是重慶還是哪兒，有一個(gè)做公墓的企業(yè)家，他有一個(gè)想法要做一個(gè)很現(xiàn)代化的墓，他的想法就是在墓碑上有一個(gè)屏幕，反正最后模擬這個(gè)親人的影像。這個(gè)效果除了恐怖以外，沒(méi)有別的任何效果，特別是晚上去了墓地。
五、當(dāng)人工智能遇見(jiàn)智人，會(huì)不會(huì)形成“共生”的新物種？
駱軼航：您本身是小說(shuō)家，我們能不能用一些更浪漫的方式描述你的理解，到底什么是人機(jī)交互，什么又是人工智能？
劉慈欣：這個(gè)真的很難描述。因?yàn)橹悄艿亩x是什么，在我們來(lái)說(shuō)智能可能分兩部分，一部分就是很硬的智能，基于數(shù)學(xué)的推理、邏輯這些，這些方面計(jì)算機(jī)早就超過(guò)人了。另外一方面就涉及到人本身情感很微妙的這些人文的、情感的這些東西，目前可能人工智能還在快速的學(xué)習(xí)當(dāng)中。
但是我覺(jué)得總有一天會(huì)以很大的計(jì)算速度、很好的算法，最后以海量的原數(shù)據(jù)來(lái)制成，肯定計(jì)算機(jī)在情感方面也會(huì)超過(guò)人的。但是像你說(shuō)的最后的話(huà)，這樣的一個(gè)局面會(huì)帶來(lái)一個(gè)什么樣的人類(lèi)文化，這個(gè)很難預(yù)測(cè)，這個(gè)可能性太多了。
駱軼航：這個(gè)東西應(yīng)該是我們?nèi)祟?lèi)在出現(xiàn)，也就是現(xiàn)代人類(lèi)——智人出現(xiàn)幾萬(wàn)年以來(lái)，可能是一兩萬(wàn)年，以來(lái)最大的一次變化。
劉慈欣：這個(gè)變化用一個(gè)詞兒可以形容，叫other，就是他者。人類(lèi)文明什么都遇到過(guò)，但是唯一一種東西我們從來(lái)沒(méi)有遇到過(guò)，就是他者。他者的意思就是一個(gè)有自我意識(shí)的，在智力上與你相當(dāng)或者比你這么一個(gè)存在，這么一個(gè)存在從來(lái)沒(méi)有過(guò)這個(gè)東西，假如真的出現(xiàn)了，甚至我們僅僅知道它存在了，對(duì)我們?nèi)祟?lèi)文明、人類(lèi)文化會(huì)產(chǎn)生什么樣的沖擊，就是說(shuō)在這個(gè)層面上外星人跟人工智能倒是有共同之處，都是他者。
駱軼航：都是他者，這個(gè)事情往小了說(shuō)是相當(dāng)于智人取代其他的人種，就是幾十萬(wàn)年前的那個(gè)階段，這樣一個(gè)代際的輪替。
劉慈欣：曾經(jīng)智人在歐洲和尼安德特人共同生活，也算是一個(gè)他者，但那個(gè)他者，好像他們之間還沒(méi)有生殖隔離。
而機(jī)器絕對(duì)是他者，而這個(gè)他者如果在人文情感、文學(xué)藝術(shù)上也侵入到人類(lèi)的領(lǐng)域的話(huà)，那我們生活可能會(huì)發(fā)生根本的改變，至于說(shuō)怎么改變，可能性太多了，都是科幻小說(shuō)的故事和資源，但是要真的適應(yīng)那么一個(gè)社會(huì)也不是太容易。
不過(guò)目前來(lái)說(shuō)，我們對(duì)人工智能的期望和目前人工智能所達(dá)到的技術(shù)水平之間距離很遠(yuǎn)，而媒體把它混淆了，好像讓我們覺(jué)得像庫(kù)茲威爾在奇點(diǎn)里面定了一個(gè)時(shí)間，就是機(jī)器取代人的時(shí)間是2045年，這個(gè)有點(diǎn)太樂(lè)觀了。
目前，無(wú)論是你看人腦的一個(gè)神經(jīng)節(jié)很可能相當(dāng)于一臺(tái)CPU或者甚至一臺(tái)高級(jí)計(jì)算機(jī)，人腦有一千億個(gè)神經(jīng)節(jié)，而我們目前速度最快的計(jì)算機(jī)CPU大概也就一萬(wàn)個(gè)左右，這差的太多了，這個(gè)技術(shù)差距什么時(shí)候趕上，這也是一個(gè)問(wèn)題。
所以說(shuō)我們說(shuō)的這些是一個(gè)設(shè)想，但是它還有很大的可能會(huì)到來(lái)，但它到來(lái)的途徑和它到來(lái)的方式可能不是我們想的。
駱軼航：這個(gè)比我們剛才說(shuō)的，機(jī)器在文化、藝術(shù)方面然后這種創(chuàng)作和人類(lèi)可以比肩的這個(gè)事情還耐人尋味。
劉慈欣：所以我覺(jué)得這個(gè)合作項(xiàng)目（阿里達(dá)摩院和清華大學(xué)的人機(jī)交互實(shí)驗(yàn)室），它很可能向人類(lèi)文明和文化最核心的領(lǐng)域插進(jìn)的一些楔子、一個(gè)突破。
駱軼航：我覺(jué)得它一定會(huì)做一些探索，有可能他優(yōu)先解決的一個(gè)問(wèn)題就是機(jī)器能夠輔助人類(lèi)實(shí)現(xiàn)目的的一些方式，比方說(shuō)服務(wù)、比方說(shuō)醫(yī)療，嗅覺(jué)、視覺(jué)上的一些東西，養(yǎng)老、陪伴這樣的一些東西，人力不夠的時(shí)候怎么讓機(jī)器去陪伴，那么機(jī)器能不能對(duì)一些失明的人仿真視覺(jué)，能夠讓他去恢復(fù)一部分東西，這個(gè)是非常美好的期盼。當(dāng)然接下來(lái)的話(huà)不可避免的還是會(huì)延伸到機(jī)器自身的領(lǐng)悟力和創(chuàng)造力，這個(gè)問(wèn)題也是我們作為人類(lèi)在我們的有生之年，可能還不會(huì)面臨這個(gè)事情根本性改變的時(shí)候。
劉慈欣：那不一定。在我們面前，現(xiàn)在我們的意識(shí)深處，我們的情感好像是一道馬奇諾防線(xiàn)一樣，把機(jī)器擋在外邊。但是像歷史一樣馬奇諾防線(xiàn)不是被攻破，是被繞過(guò)去的。所以機(jī)器從哪一條路繞到我們背后，在情感上超越我們，在文化上超越我們，這個(gè)是不知道的。
劉慈欣：就像你說(shuō)的這個(gè)項(xiàng)目，我們一步一步地在積攢，我們?cè)谀硞€(gè)服務(wù)項(xiàng)目、養(yǎng)老項(xiàng)目上，人和機(jī)器的交互算法越來(lái)越完善，后面的數(shù)據(jù)支持越來(lái)越龐大，很可能總有一天量變就變成質(zhì)變，就悄悄的不以我們的意志為轉(zhuǎn)移在發(fā)生了，那條繞過(guò)馬奇諾防線(xiàn)的路就通了。
駱軼航：比方說(shuō)這個(gè)日子早晚有一天會(huì)來(lái)臨，到底應(yīng)該有強(qiáng)大的無(wú)力感還是有力感，我覺(jué)得這個(gè)事情現(xiàn)在還不知道。
劉慈欣：我覺(jué)得你要想避免這個(gè)困惑，你最好的選擇就是你跟機(jī)器結(jié)合起來(lái)，反正身體也老了。人機(jī)結(jié)合我覺(jué)得是一個(gè)跨越智能機(jī)器危機(jī)的一個(gè)途徑，我打不過(guò)你我就加入你嘛。
駱軼航：我們主動(dòng)把人和機(jī)器在人的生理跟機(jī)器的生理、人的心理跟機(jī)器的心理、人的意識(shí)和機(jī)器的意識(shí)，去做一個(gè)結(jié)合，變成一個(gè)全新的物種。
劉慈欣：我覺(jué)得您說(shuō)的這種課題對(duì)人的五種情感的模擬，最后很可能也向這個(gè)方向發(fā)展，這可能也是一個(gè)出路。
駱軼航：它會(huì)有自己情感生成的方式，會(huì)有自己感知世界的方式。
聯(lián)系客服
