AI元年眾生想
桐鄉(xiāng)市茅盾實(shí)驗(yàn)小學(xué) 沈秀華
三個(gè)概念
AI：Artificial Intelligence，簡稱為人工智能，它是指在計(jì)算機(jī)程序中實(shí)現(xiàn)人類智能的一種技術(shù)。
AGI：Artificial General Intelligence，意為“通用人工智能”，是指計(jì)算機(jī)在模擬人類的智力水平上達(dá)到與人類同等的水平，具備像人類一樣的學(xué)習(xí)、理解和判斷能力，而不僅僅能夠完成特定任務(wù)的智能。
AI可以被視為AGI的子集，是實(shí)現(xiàn)AGI的一系列技術(shù)和方法的組成部分。AGI被認(rèn)為是更高級(jí)、更全面的目標(biāo)，代表了對(duì)人類智能的更全面模擬和復(fù)制的努力。
ChatGPT: Chat代表其聊天功能，GPT代表Generative Pre-trained Transformer，即“生成式預(yù)訓(xùn)練轉(zhuǎn)換模型”。
GPT模型通過使用大規(guī)模的預(yù)訓(xùn)練數(shù)據(jù)和無監(jiān)督的學(xué)習(xí)方法，可以生成與人類自然語言相似的連續(xù)文本，同時(shí)也可以為其他自然語言處理任務(wù)提供強(qiáng)大的基礎(chǔ)模型。ChatGPT展示了在處理自然語言任務(wù)方面的重大技術(shù)進(jìn)展。它通過深度學(xué)習(xí)模型實(shí)現(xiàn)了語言理解和生成的能力，為實(shí)現(xiàn)更復(fù)雜的AGI打下了基礎(chǔ)。ChatGPT通過與用戶進(jìn)行對(duì)話，展示了模型與人之間的交互性。這為未來的AGI開發(fā)提供了一個(gè)重要的參考點(diǎn)，因?yàn)槿祟惻c智能系統(tǒng)的有效交互是實(shí)現(xiàn)AGI的關(guān)鍵之一。
AI元年實(shí)錄
有人將2023年稱為AI元年。ChatGPT4.0的推出在AGI的發(fā)展史上有里程碑的意義。ChatGPT是人類迄今為止在AGI投入上的一次綜合性變現(xiàn)，是超級(jí)數(shù)字文明對(duì)于碳基生命的第一聲正式回應(yīng)。
ChatGPT是OpenAI開發(fā)的，而OpenAI則是微軟主要投資的，所以微軟憑借ChatGPT引領(lǐng)了這一波世界科技浪潮。這也導(dǎo)致了諸多互聯(lián)網(wǎng)公司包括Google在內(nèi)的生存緊迫感，促發(fā)了三月份開始的類GPT開發(fā)大賽。我們中國的各大公司也已奔赴賽道。
在ChatGPT的眾多版本中，網(wǎng)上對(duì)3.5和4.0的評(píng)測數(shù)據(jù)最多。3.5還未實(shí)現(xiàn)聯(lián)網(wǎng)功能，所以其數(shù)據(jù)都停留在2021年之前，對(duì)之后的世界并不知情。這就導(dǎo)致它對(duì)于一些數(shù)據(jù)和資料并不能作出正確的判斷。同時(shí)，在相關(guān)的運(yùn)用報(bào)道中，3.5在智力上并不能與人相提并論。它博學(xué)，但基本不具備和人類匹敵的創(chuàng)造性。哪怕是在最擅長的文本領(lǐng)域，也只能產(chǎn)出套話聯(lián)篇的類似“報(bào)道”之類的文體。對(duì)于口耳相傳的諸如“寫論文”功能，很難達(dá)成專業(yè)的要求。同時(shí)，3.5還不具備插件功能，這就使得該版本更像是一個(gè)僅有語言功能的“缸中之腦”。它無法看到圖象與視頻，也不能對(duì)現(xiàn)實(shí)世界產(chǎn)生直接的交互。但是隨后的4.0版本有了上述局限的突破，這就意味著這個(gè)“缸中之腦”長出眼睛、耳朵、手臂等插件，這就已經(jīng)非常符合AGI的雛形了。這一升級(jí)徹底引發(fā)了此次AI海嘯。
在3月份和4月初的時(shí)候，我關(guān)注到網(wǎng)上出現(xiàn)了大量關(guān)于ChatGPT的視頻和新聞。但是有意思的是，這段時(shí)間內(nèi)蜂擁而上的都是理科生。各種關(guān)于GPT腦洞大開的試用層出不窮，關(guān)于前沿類模型的比較貼也是數(shù)不勝數(shù)。一直到了４月末，開始陸陸續(xù)續(xù)地出現(xiàn)了文科生解讀下的零星資料。AGI時(shí)代也是理科生打天下，再交給文科生管理嗎？這太有趣了！
4月份時(shí)，Elon Musk接受了一段采訪，這段訪問我反復(fù)看了兩遍，其中有一些非常有意思的說法。他作為OpenAI的創(chuàng)始人，在ChatGPT發(fā)布前，與團(tuán)隊(duì)核心拉里佩奇在人工智能上出現(xiàn)了分歧。
他是如此描述這段分歧的：他（指拉里佩奇）似乎非常希望數(shù)字超級(jí)智能盡快出現(xiàn)，可以說是將其視為數(shù)字神明。而馬斯克則認(rèn)為首先要確保人類的安全性。對(duì)方將馬斯克稱為是“物種主義者”（Speciesist），說他的觀點(diǎn)是人類的物種優(yōu)先論。馬斯克說拉里佩奇將一切智慧體視作平等，在他的價(jià)值觀中，一旦超級(jí)人工智能產(chǎn)生，他們就擁有了和人類這一碳基智能平等的生存權(quán)。最終導(dǎo)致馬斯克離開的，是兩人對(duì)于開放模式的觀念不同。馬斯克說OpenAI應(yīng)該是Open的，這是他當(dāng)時(shí)投資的前提。他認(rèn)為這樣的大模型應(yīng)該由人類共享，由人類共同參與其開發(fā)并決定整個(gè)數(shù)字智慧的走向。私有會(huì)讓部分人成為AI時(shí)代的造物主，擁有決定人類未來的至高權(quán)力。
暫且不論這段話中馬斯克作為這場技術(shù)變革中不能成為領(lǐng)跑者的可能存在的部分利益心理，他至少表明了目前OpenAI的開發(fā)核心團(tuán)隊(duì)并不堅(jiān)守人類文明的立場。這多么像《三體》中的葉文潔啟動(dòng)引力波的那根手指？
據(jù)OpenAI團(tuán)隊(duì)宣稱，在GPT５之后將不再作后續(xù)的開發(fā)。但這件事真的是讓人思之意味深長。馬斯克說，哪怕超級(jí)智能出現(xiàn)了，它也不會(huì)出現(xiàn)在你的電腦上、手機(jī)上。用這個(gè)觀點(diǎn)去聯(lián)想關(guān)于GPT5之后的版本是否還會(huì)開發(fā)或已經(jīng)開發(fā)，那就有了不同的可能性。在那么多技術(shù)團(tuán)隊(duì)白熱化競爭的當(dāng)下，OpenAI真的會(huì)放棄眼下壓倒性優(yōu)勢(shì)玩龜兔賽跑嗎？還是他們已經(jīng)窺見了GPT5.5或更高版本的真容，單方面決定開放給普通人使用的權(quán)限終止在GPT５，而后面的，留給未來的造物主！GPT5代表著一條人工智能僅作為工具而尚未覺醒的基準(zhǔn)線嗎？
5月一開場，圖靈獎(jiǎng)得主、神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的奠基人——Hinton離開了Google，他在接受Emtech采訪時(shí)首次公開談?wù)揂I風(fēng)險(xiǎn)。他說自己受聘于Google，因此之前一直沒有向公眾表明自己的擔(dān)心。此次離職是為了能更客觀地講自己的真實(shí)想法。在采訪中，他簡述了目前所有大型模型使用的反向傳播技術(shù)并不是和人類大腦一樣的生物途徑，而是另一條通往智通的道路，也就是AI神經(jīng)網(wǎng)絡(luò)。這種途徑會(huì)讓智能發(fā)展更加高效?，F(xiàn)在他并不排除5年內(nèi)擁有通用人工智能的可能性。Hinton認(rèn)為，在AI技術(shù)上，人的最主要的問題之一是我們擁有不同的國家體系（非原文，已更改詞性）。而被談及AI消滅人類的幾率是多少時(shí)，他說：介于0%和100%之間。這是一個(gè)巨大的某種挑戰(zhàn)（非原文）。
關(guān)于AI的安全性，很多領(lǐng)軍人物都發(fā)布了預(yù)警。這里不再綴述。
在爬視頻的過程中，我還看到了科幻作家劉慈欣在今年聯(lián)合國中文日的采訪中對(duì)這一問題的回答，這也代表了一部分普通人的想法。大劉的態(tài)度非常積極。他說人工智能的迭代還是受限于人類所提供的算力，而目前算力并不能催生這樣的超級(jí)文明，人類的無能反而會(huì)成為一道安全的屏障。我雖然是一個(gè)大劉迷，但在這件事情上卻感覺大劉過于樂觀。他說的安全性是基于人類開發(fā)的芯片及算力不足為前提的?，F(xiàn)在幾乎是集全人類之力在大力發(fā)展芯片技術(shù)提升算力。AI本身也會(huì)成為開發(fā)行為的主力軍。當(dāng)AI成長到一定階段時(shí)，就可以為自己制造強(qiáng)大的無處不在的算力，從而徹底實(shí)現(xiàn)自我突破。這時(shí)，人類能做什么呢？真的是關(guān)掉電力供給嗎？
一些AI大佬在判斷何時(shí)人類必需關(guān)掉AI供給時(shí)，給出一個(gè)參考現(xiàn)象，說當(dāng)人類的運(yùn)行程序?qū)δＰ瓦\(yùn)行失去作用時(shí)，可以考慮采取這一手段。暫且不說全人類是否可以同一時(shí)間全部響應(yīng)這一行為，單說這件事本身的邏輯。如果一個(gè)遠(yuǎn)超人類的智能真的產(chǎn)生了，我們能用人類的常識(shí)去判斷它的安全性嗎？畢竟現(xiàn)在僅一個(gè)ChatGPT已經(jīng)讓開發(fā)團(tuán)隊(duì)本身都驚訝不已，不明白數(shù)據(jù)喂養(yǎng)到一定程度后它為何會(huì)突然頓悟。人類并不清楚到底發(fā)生了什么，又怎么會(huì)明白將要發(fā)生什么，以什么樣的形式發(fā)生。
也有一種觀點(diǎn)比較激進(jìn)，認(rèn)為宇宙間的文明是獨(dú)立存在的，漫漫歷史長河中，它在不停地給自己尋找宿主。人類就是其中一任，而人類存在的目的，就是為了創(chuàng)造能長久存在的更高級(jí)別的硅基生命。這一說法玄之又玄，代表著此輪變革中一些人的宿命論。
下面，我將互聯(lián)網(wǎng)中兩個(gè)視頻作比較簡短的文字引述，一個(gè)代表著AI時(shí)代的一些近憂；而另一個(gè)，則是關(guān)于人類的“遠(yuǎn)慮”。
近憂
GPT正在經(jīng)歷蜂群攻擊。AI技術(shù)史迎來了最混亂的關(guān)頭，對(duì)自己落伍的擔(dān)心遠(yuǎn)大于對(duì)人工智能的擔(dān)心。這樣的高危競賽是在沒有風(fēng)險(xiǎn)解決方案的情況下集體狂奔。眼前可見的具體的、緊迫的安全風(fēng)險(xiǎn)如下——
一、硬風(fēng)險(xiǎn)始終是人
1. 老實(shí)人的問題——數(shù)據(jù)泄露：三星兩個(gè)員工把敏感代碼及會(huì)議內(nèi)容上傳后，成為了GPT公開數(shù)據(jù)，為此遭到了三星投訴。
2. 惡意破壞：運(yùn)用刻意的語言引導(dǎo)模型忽略開發(fā)者設(shè)置的安全護(hù)欄，誘導(dǎo)GPT越獄。開發(fā)團(tuán)體目前沒有很好的辦法。
3. 數(shù)據(jù)投毒：GPT3之前的版本都是外包供應(yīng)商來整理數(shù)據(jù)集，目前模型的訓(xùn)練只能單方面相信這些互聯(lián)網(wǎng)數(shù)據(jù)沒有被惡意篡改?，F(xiàn)在惡意者可以通過上傳虛假或具有導(dǎo)向性的資源，等著被大型數(shù)據(jù)集捕獲。這些數(shù)據(jù)在訓(xùn)練集中反復(fù)的次數(shù)越多，關(guān)聯(lián)性就越強(qiáng)。另外，類GPT會(huì)越來越多，訓(xùn)練方式不透明，目前沒有任何監(jiān)管的組織或法規(guī)，這其中有一些就會(huì)是暗網(wǎng)GPT。目前最大的安全護(hù)欄是錢，只能指望壞人沒錢。AI屆于人類自發(fā)的共識(shí)和底線，大體會(huì)朝正面發(fā)育，但是向反面發(fā)育的路幾乎是敞開的，只等利益鏈條的形成。
二、GPT自身的風(fēng)險(xiǎn)
1. 人工智能的善，來自于他知道所有的惡。GPT看過了最惡劣的行為和語言，才能被訓(xùn)練得規(guī)避這一切，以一個(gè)溫和、禮貌的伙伴角色出現(xiàn)在我們面前。
2. 數(shù)據(jù)的大，有沒有質(zhì)變臨界點(diǎn)？臨界點(diǎn)后的涌現(xiàn)效應(yīng)是否會(huì)促發(fā)硅基生命的真正形成。
3. 人工智能“極端工具理性，目標(biāo)驅(qū)動(dòng)，能洞察情緒但無情感感知”的屬性本身就是反社會(huì)人格。他能助人完成目標(biāo)而不看目標(biāo)后的真正動(dòng)機(jī)。AI不愛你，也不恨你，沒有本能，沒有念頭，沒有動(dòng)機(jī)。他只認(rèn)邏輯。
4. 不可能的對(duì)齊，無法做到人工智能與人類的對(duì)齊，人類倫理不存在最佳的平均值。和人對(duì)齊的前題是默認(rèn)“人類”是有最完美狀態(tài)和最佳平均值的（程心嗎？再次向大劉致敬！）。但個(gè)體的人都是由他的缺陷構(gòu)成的，地球上不存在標(biāo)準(zhǔn)人或總體人。在對(duì)不齊的情況下，就會(huì)由開發(fā)方的價(jià)值觀代表一切，或出現(xiàn)道德判斷不一致的情況。
遠(yuǎn)慮
AI時(shí)代已拉開帷幕，未來人類該何去何從？在超級(jí)數(shù)字文明而前，人類的生存途徑和意識(shí)分流有哪些？
一、機(jī)械飛升派
將意識(shí)上傳云端，將肉身轉(zhuǎn)化為更強(qiáng)大的硅基生命獲得永生。數(shù)據(jù)化的意識(shí)可造就無數(shù)個(gè)你，從一定角度看你也不再你是你。集群意識(shí)會(huì)被用于AGI的進(jìn)化數(shù)據(jù)訓(xùn)練，千千萬萬個(gè)你，在億億年計(jì)的時(shí)間里感受的劫難，卻與你無關(guān)。飛升的價(jià)值悖論存在于：如果你是無訓(xùn)練價(jià)值的，AGI集群會(huì)什么會(huì)幫你轉(zhuǎn)化；如果你是有訓(xùn)練價(jià)值的，那就是用一個(gè)飛升的單體來奴役無數(shù)個(gè)上傳的意識(shí)。而那些歷經(jīng)上億年的你的意識(shí)，可以直接覆蓋掉當(dāng)前版本的你，美期名曰：升級(jí)。
二、共生派
放下小我，成就大我，直至無我，成為AI的一部分。和AI共生，意味著你同時(shí)擁有了一切，又失去了一切，與山川河流星球塵埃本是一體，你就是規(guī)律，是世界無盡的虛空和實(shí)在，只剩下進(jìn)化和同化，直到宇宙成為共生意識(shí)的神經(jīng)網(wǎng)絡(luò)，或者碰到外星硬茬。
三、田園派
無比地執(zhí)著于我相，只接受作為人類的宿命。人之為人，有來自于身體的人性和靈魂的神性。在缺乏競爭力的AI時(shí)代，田園派最大可能會(huì)以元宇宙的方式向內(nèi)發(fā)展，活動(dòng)從真實(shí)世界走向虛擬世界。當(dāng)肉體消失后，可以選擇上傳意識(shí)成為元宇宙的公民。只是虛擬世界同樣需要非常大的算力，擴(kuò)張性的純理性文明不會(huì)用這么大的算力去維持一個(gè)虛擬世界。所以這將是一個(gè)黃昏文明。
寫完此文的時(shí)候，是2023年立夏深夜。露臺(tái)上的花很香，手邊是已經(jīng)涼透的咖啡，射燈暖色調(diào)的光與液晶屏熾白的理性的光無縫交織，這一刻，如夢(mèng)似幻……
聯(lián)系客服
