美女视频漫画,美女视频开放视频

來(lái)源：學(xué)術(shù)頭條

原文作者：Steven Levy

原文鏈接：https://www.wired.com/story/what-openai-really-wants/

編譯：Hazel Yan

【編者按】去年底，OpenAI “匆忙”推出了它的現(xiàn)象級(jí)產(chǎn)品 ChatGPT，隨后卻意想不到地引發(fā)了自互聯(lián)網(wǎng)進(jìn)入大眾生活以來(lái)前所未有的技術(shù)爆炸。突然間，圖靈測(cè)試貌似要成為歷史，搜索引擎也瀕臨“滅絕”，一些學(xué)術(shù)論文開(kāi)始變得不可信，沒(méi)有一份工作是安全的，沒(méi)有一個(gè)科學(xué)問(wèn)題是一成不變的。

OpenAI、Sam Altman 和 ChatGPT 瞬間成為這個(gè)時(shí)代最火熱的搜索詞之一，幾乎所有人都為之瘋狂。那么，你是否了解 Sam Altman 和 OpenAI 的成長(zhǎng)故事呢？

近日，知名科技記者 Steven Levy 在美國(guó)數(shù)字媒體 WIRED 發(fā)表了一篇長(zhǎng)文，圍繞 Sam Altman，就 OpenAI 公司的成長(zhǎng)史和公司愿景展開(kāi)了深度討論。核心內(nèi)容如下：

作為 OpenAI 的首席執(zhí)行官，一個(gè)夢(mèng)想家或?qū)嵏杉翌愋偷娜?，Sam Altman 就像年輕版的 Elon Musk，他是人們?cè)?AI 如何迎來(lái)黃金時(shí)代，或使人類變得無(wú)關(guān)緊要，或更糟的問(wèn)題上首先要咨詢的人物。
Sam Altman 和 OpenAI 的使命是建立安全的 AGI，OpenAI 的員工對(duì)這一目標(biāo)的追求是狂熱的。OpenAI 的領(lǐng)導(dǎo)者們發(fā)誓，他們要制造出足夠智能、足夠安全的計(jì)算機(jī)，將人類帶入一個(gè)難以想象的富饒時(shí)代。

Sam Altman 和他的團(tuán)隊(duì)現(xiàn)在面臨的壓力是，要在每個(gè)產(chǎn)品周期內(nèi)實(shí)現(xiàn)革命，既要滿足投資者的商業(yè)需求，又要在激烈的競(jìng)爭(zhēng)中保持領(lǐng)先。與此同時(shí)，他們還肩負(fù)著提升人類而非消滅人類的“準(zhǔn)救世主”的使命。
OpenAI 前期的資金支持來(lái)源于 Elon Musk，后來(lái) Altman 和 OpenAI 的其他智囊團(tuán)成員明確表示對(duì)成為 Elon Musk 宇宙的一部分毫無(wú)興趣。Musk 便切斷了聯(lián)系。后來(lái)，OpenAI 得到了微軟的支持，逐漸有了營(yíng)利性機(jī)構(gòu)的性質(zhì)，這讓一些員工感到反感，從而導(dǎo)致幾位高管離職，他們表示，OpenAI 已經(jīng)變得過(guò)于商業(yè)化，成為使命漂移的犧牲品。
Sam Altman 原則上贊同由一個(gè)國(guó)際機(jī)構(gòu)來(lái)監(jiān)督 AI 的想法，但他確實(shí)認(rèn)為一些擬議的規(guī)則構(gòu)成了不公平的障礙。但他和 OpenAI 的其他領(lǐng)導(dǎo)人在一份聲明上簽上了自己的名字，聲明內(nèi)容為：減輕 AI 帶來(lái)的滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一樣，成為全球的優(yōu)先事項(xiàng)。

圖｜從左到右依次為：OpenAI 首席科學(xué)家 Ilya Sutskever、OpenAI CEO Sam Altman、OpenAI CTO Mira Murati 和 OpenAI 總裁 Greg Brockman（來(lái)源：WIRED）

學(xué)術(shù)頭條在不改變?cè)拇笠獾那闆r下，做了簡(jiǎn)單的編譯，內(nèi)容如下：

當(dāng)這位明星和他的隨行人員跌跌撞撞地鉆進(jìn)一輛等候多時(shí)的奔馳面包車時(shí)，空氣中迸發(fā)出近乎披頭士狂熱的能量。他們剛剛從一個(gè)活動(dòng)中脫身，又要趕往另一個(gè)活動(dòng)，然后是另一個(gè)活動(dòng)，那里有一群狂熱的人們?cè)诘戎麄?。從霍爾本（Holborn）到布盧姆斯伯里（Bloomsbury），他們?cè)趥惗氐拇蠼中∠镏写┧?，就像在?jīng)歷文明的前世今生。這輛車所蘊(yùn)含的創(chuàng)造歷史的力量吸引了全世界的目光。從排隊(duì)等候的學(xué)生到首相，每個(gè)人都想從中獲得一些什么。

在這輛豪華面包車?yán)铮峭袒⒀实爻灾忱氖?38 歲的企業(yè)家、OpenAI 的聯(lián)合創(chuàng)始人 Sam Altman，以及一名公關(guān)人員、一名安全專家和我本人。Altman 身著藍(lán)色西裝，內(nèi)搭一件無(wú)領(lǐng)粉色禮服襯衫，略顯抑郁地在倫敦兜風(fēng)，這是他為期一個(gè)月的全球短途旅行的一部分，途經(jīng)六大洲的 25 座城市。因?yàn)榻裉鞗](méi)時(shí)間坐下來(lái)吃午餐，所以他一邊狼吞虎咽地吃著蔬菜，一邊回想著前一晚與法國(guó)總統(tǒng)馬克龍的會(huì)面。馬克龍對(duì) AI 非常感興趣。

波蘭首相也是如此。西班牙首相也是如此。

和 Altman 一起坐車，我?guī)缀跄苈?tīng)到《一夜狂歡》（A Hard Day’s Night）開(kāi)篇那鏗鏘有力、含糊不清的和弦——那是對(duì)未來(lái)的介紹。去年 11 月，當(dāng) OpenAI 推出它的怪物級(jí)產(chǎn)品 ChatGPT 時(shí)，引發(fā)了自互聯(lián)網(wǎng)進(jìn)入我們生活以來(lái)前所未有的技術(shù)爆炸。突然間，圖靈測(cè)試成為歷史，搜索引擎瀕臨滅絕，任何大學(xué)論文都不可信。沒(méi)有一份工作是安全的。沒(méi)有一個(gè)科學(xué)問(wèn)題是一成不變的。

Altman 并沒(méi)有參與 ChatGPT 及其 GPT-4 的研究、神經(jīng)網(wǎng)絡(luò)訓(xùn)練或界面編碼。但作為首席執(zhí)行官——一個(gè)夢(mèng)想家/實(shí)干家類型的人，他就像年輕版的聯(lián)合創(chuàng)始人 Elon Musk，沒(méi)有包袱——一篇又一篇的新聞報(bào)道用他的照片作為人類新挑戰(zhàn)的視覺(jué)象征。至少，那些沒(méi)有用由 OpenAI 的視覺(jué) AI 產(chǎn)品 Dall-E 生成的令人瞠目的圖像作為頭條的文章是如此。他是當(dāng)下的先知，是人們?cè)?AI 如何迎來(lái)黃金時(shí)代，或使人類變得無(wú)關(guān)緊要，或更糟的問(wèn)題上首先要咨詢的人物。

五月的一個(gè)陽(yáng)光明媚的日子，Altman 的面包車載著他去參加了四次活動(dòng)。第一場(chǎng)是與政府、學(xué)術(shù)界和工業(yè)界人士進(jìn)行的一場(chǎng)不公開(kāi)的“圓桌會(huì)議”（Round Table）。會(huì)議是在最后一刻組織的，地點(diǎn)在薩默斯鎮(zhèn)咖啡館的二樓。在釀酒師 Charles Wells 炯炯有神的肖像下，Altman 向幾乎所有聽(tīng)眾提出了同樣的問(wèn)題。AI 會(huì)殺死我們嗎？它能被監(jiān)管嗎？他都一一作了詳細(xì)回答，同時(shí)還不時(shí)瞄一眼自己的手機(jī)。之后，他在豪華的倫敦人酒店與牛津公會(huì)的 600 名會(huì)員進(jìn)行了一次爐邊談話。之后，他來(lái)到地下室會(huì)議室，回答約 100 名企業(yè)家和工程師提出的更多技術(shù)問(wèn)題?，F(xiàn)在，他下午在倫敦大學(xué)學(xué)院的臺(tái)上演講幾乎要遲到了。他和他的團(tuán)隊(duì)停在一個(gè)裝卸區(qū)，然后被帶進(jìn)一系列蜿蜒曲折的走廊。一邊走，主持人一邊匆匆告訴 Altman 他要問(wèn)的問(wèn)題。當(dāng) Altman 突然出現(xiàn)在舞臺(tái)上時(shí)，觀眾席上的學(xué)者、極客和記者們沸騰了。

Altman 并不是一個(gè)天生的宣傳狂。有一次，在《紐約客》刊登了一篇關(guān)于他的長(zhǎng)篇報(bào)道后，我立即與他進(jìn)行了交談。他說(shuō)：“關(guān)于我的報(bào)道太多了”。但在大學(xué)學(xué)院，正式活動(dòng)結(jié)束后，他走進(jìn)了涌向臺(tái)下的人群中。他的助手試圖夾在 Altman 和人群之間，但被他甩開(kāi)了。他回答了一個(gè)又一個(gè)問(wèn)題，每次都聚精會(huì)神地盯著對(duì)話者的臉，仿佛他是第一次聽(tīng)到這樣的提問(wèn)。每個(gè)人都想拍照。20 分鐘后，他終于讓他的團(tuán)隊(duì)把他拉了出來(lái)。然后，他又去見(jiàn)了英國(guó)首相 Rishi Sunak。

也許有一天，當(dāng)機(jī)器人書(shū)寫(xiě)我們的歷史時(shí)，他們會(huì)把 Altman 的世界巡演作為一個(gè)里程碑，因?yàn)樵谶@一年里，所有人都在同一時(shí)間開(kāi)始進(jìn)行自己的個(gè)人思考。又或者，無(wú)論誰(shuí)來(lái)書(shū)寫(xiě)這一刻的歷史，都會(huì)把它看作是一位默默無(wú)聞的令人信服的首席執(zhí)行官，帶著一項(xiàng)打破范式的技術(shù)，嘗試將一種非常奇特的世界觀注入全球的思想潮流——從舊金山使命區(qū)一個(gè)沒(méi)有標(biāo)志的四層樓總部到整個(gè)世界。

對(duì) Altman 和他的公司來(lái)說(shuō)，ChatGPT 和 GPT-4 只是實(shí)現(xiàn)一個(gè)簡(jiǎn)單而重大使命的“墊腳石”，這些技術(shù)專家可能已經(jīng)在自己的肉體上烙下了這個(gè)使命。這個(gè)使命就是建立通用人工智能（AGI），迄今為止，這個(gè)概念更多地是建立在科幻小說(shuō)而非科學(xué)的基礎(chǔ)上，而且要讓它對(duì)人類安全。OpenAI 的員工對(duì)這一目標(biāo)的追求是狂熱的。（不過(guò)，在辦公室咖啡廳里的任何一次談話都會(huì)證實(shí)，“構(gòu)建 AGI”這一點(diǎn)似乎比“確保安全”更能讓研究人員感到興奮）。這些人并不避諱隨意使用“超級(jí)智能”這個(gè)詞。他們認(rèn)為，AI 的發(fā)展軌跡將超越生物學(xué)所能達(dá)到的任何高峰。該公司的財(cái)務(wù)文件甚至規(guī)定了一種退出應(yīng)急方案，以防 AI 摧毀我們的整個(gè)經(jīng)濟(jì)體系。

稱 OpenAI 為邪教（cult）并不公平，但當(dāng)我問(wèn)公司的幾位高層，如果有人不相信 AGI 真的會(huì)到來(lái)，而且它的到來(lái)將標(biāo)志著人類歷史上最偉大的時(shí)刻之一，他們是否能在這里安心工作時(shí)，大多數(shù)高管都不這么認(rèn)為。他們不禁要問(wèn)，不相信的人為什么要在這里工作？他們的假設(shè)是，這里的員工，現(xiàn)在大約有 500 人已經(jīng)自我選擇了只做信徒。至少，正如 Altman 所說(shuō)，一旦你被錄用，似乎就不可避免地會(huì)被卷入這個(gè)魔咒。

與此同時(shí)，OpenAI 也已今非昔比。它成立之初是一家純粹的非營(yíng)利性研究機(jī)構(gòu)，但如今，從技術(shù)上講，它的大部分員工都在為一家據(jù)說(shuō)估值近 300 億美元的盈利實(shí)體工作。Altman 和他的團(tuán)隊(duì)現(xiàn)在面臨的壓力是，要在每個(gè)產(chǎn)品周期內(nèi)實(shí)現(xiàn)革命，既要滿足投資者的商業(yè)需求，又要在激烈的競(jìng)爭(zhēng)中保持領(lǐng)先。與此同時(shí)，他們還肩負(fù)著提升人類而非消滅人類的準(zhǔn)救世主使命。

這種壓力會(huì)讓人崩潰。披頭士掀起了巨大的變革浪潮，但只持續(xù)了這么短的時(shí)間：在敲響那令人難忘的和弦六年后，他們甚至不再是一支樂(lè)隊(duì)。OpenAI 引發(fā)的漩渦幾乎肯定會(huì)更大。但 OpenAI 的領(lǐng)導(dǎo)者們發(fā)誓，他們將堅(jiān)持到底。他們說(shuō)，他們要做的就是制造出足夠智能、足夠安全的計(jì)算機(jī)，終結(jié)歷史，將人類帶入一個(gè)難以想象的富饒時(shí)代。

Altman 成長(zhǎng)于上世紀(jì) 80 年代末 90 年代初，是一個(gè)沉迷于科幻小說(shuō)和《星球大戰(zhàn)》的書(shū)呆子。在早期科幻小說(shuō)家構(gòu)建的世界中，人類往往與超級(jí)智能 AI系統(tǒng)共同生活，或與之競(jìng)爭(zhēng)。計(jì)算機(jī)與人類能力相匹配或超越人類能力的想法讓 Altman 興奮不已，他的手指幾乎無(wú)法觸及鍵盤(pán)，但他一直在編碼。8 歲時(shí)，父母給他買(mǎi)了一臺(tái) Macintosh LC II。一天晚上，他玩到很晚，腦子里突然冒出一個(gè)想法：“總有一天這臺(tái)電腦會(huì)學(xué)會(huì)思考”。2003 年，當(dāng)他來(lái)到斯坦福大學(xué)讀本科時(shí)，他希望能幫助實(shí)現(xiàn)這一目標(biāo)，并選修了 AI 課程。但“這根本行不通”，他后來(lái)說(shuō)。當(dāng)時(shí)，AI 領(lǐng)域仍深陷創(chuàng)新低谷，被稱為“AI 寒冬”。Altman 退學(xué)后進(jìn)入了初創(chuàng)公司領(lǐng)域；他的公司 Loopt 是 Y Combinator 的第一批小公司，Y Combinator 后來(lái)成為世界上最著名的孵化器。

2014 年 2 月，YC 的創(chuàng)始人 Paul Graham 選擇當(dāng)時(shí) 28 歲的 Altman 接替自己。Graham 在公告中寫(xiě)道：“他是我所認(rèn)識(shí)的最聰明的人之一，他對(duì)初創(chuàng)企業(yè)的理解可能超過(guò)我認(rèn)識(shí)的任何人，包括我自己?！钡?Altman 看來(lái)，YC 不僅僅是一個(gè)公司的啟動(dòng)平臺(tái)。“我們與初創(chuàng)企業(yè)無(wú)關(guān)，”他在上任后不久對(duì)我說(shuō)，“我們的目標(biāo)是創(chuàng)新，因?yàn)槲覀兿嘈?，只有?chuàng)新才能為每個(gè)人創(chuàng)造美好的未來(lái)。”在 Altman 看來(lái)，從所有這些獨(dú)角獸企業(yè)中套現(xiàn)的意義不在于裝滿合伙人的錢(qián)包，而在于為物種層面的變革提供資金。他成立了一個(gè)研究部門(mén)，希望為雄心勃勃的項(xiàng)目提供資金，以解決世界上最大的問(wèn)題。但在他看來(lái)，AI 才是顛覆一切的創(chuàng)新領(lǐng)域：一個(gè)能比人類更好地解決人類問(wèn)題的超級(jí)智能。

幸運(yùn)的是，Altman 就任新職時(shí)，AI 的冬天正變成豐收的春天?，F(xiàn)在，計(jì)算機(jī)正在通過(guò)深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)完成令人驚嘆的壯舉，比如給照片貼標(biāo)簽、翻譯文本和優(yōu)化復(fù)雜的廣告網(wǎng)絡(luò)。這些進(jìn)步讓他相信，AGI 第一次真正觸手可及。然而，把它交到大公司手中卻讓他感到擔(dān)憂。他認(rèn)為這些公司會(huì)過(guò)于專注于自己的產(chǎn)品，而無(wú)法抓住機(jī)會(huì)盡快開(kāi)發(fā)出 AGI。而且，如果他們真的創(chuàng)造出了 AGI，他們可能會(huì)不計(jì)后果地在沒(méi)有采取必要預(yù)防措施的情況下將其公之于眾。

當(dāng)時(shí)， Altman 一直在考慮競(jìng)選加利福尼亞州州長(zhǎng)。但他意識(shí)到，他完全有能力做更大的事情——領(lǐng)導(dǎo)一家將改變?nèi)祟惐旧淼墓尽?021 年，他告訴我：“AGI 將只建造一次。而且，能夠很好地運(yùn)營(yíng) OpenAI 的人并不多。我很幸運(yùn)，我生命中的一系列經(jīng)歷讓我真正積極地為此做好了準(zhǔn)備?！?/span>

Altman 開(kāi)始與那些可能幫助他創(chuàng)辦一家新型 AI 公司的人交談，這家非營(yíng)利性公司將引導(dǎo) AI 領(lǐng)域走向負(fù)責(zé)任的 AI。特斯拉和 SpaceX 公司首席執(zhí)行官 Elon Musk 就是其中一位志同道合者。Musk 后來(lái)告訴 CNBC，在與谷歌聯(lián)合創(chuàng)始人 Larry Page 進(jìn)行了一些馬拉松式的討論后，他開(kāi)始關(guān)注 AI 的影響。Musk 說(shuō)，令他感到沮喪的是，Page 對(duì)安全問(wèn)題關(guān)注甚少，而且似乎把機(jī)器人的權(quán)利視為與人類平等。當(dāng) Musk 說(shuō)出自己的擔(dān)憂時(shí)，Page 指責(zé)他是一個(gè)“物種主義者”。Musk 也明白，當(dāng)時(shí)谷歌雇傭了世界上大部分的 AI 人才。他愿意花一些錢(qián)，為“人類團(tuán)隊(duì)”做出更多努力。

幾個(gè)月內(nèi)，Altman 就從 Musk（承諾提供 1 億美元和他的時(shí)間）和 Reid Hoffman（捐贈(zèng) 1 千萬(wàn)美元）那里籌到了資金。其他資助者包括 Peter Thiel、Jessica Livingston、亞馬遜網(wǎng)絡(luò)服務(wù)公司（Amazon Web Services）和 YC Research。Altman 開(kāi)始秘密招募團(tuán)隊(duì)成員。他將搜索范圍限制在 AGI 信徒身上，這一限制縮小了他的選擇范圍，但他認(rèn)為這一點(diǎn)至關(guān)重要。他說(shuō)：“早在 2015 年，當(dāng)我們進(jìn)行招聘時(shí)，對(duì)于 AI 研究人員來(lái)說(shuō)，說(shuō)你認(rèn)真對(duì)待 AGI 幾乎被認(rèn)為是職業(yè)生涯的殺手。但我想要的是認(rèn)真對(duì)待它的人?！?/span>

圖｜Greg Brockman（來(lái)源：WIRED）

Stripe 公司的首席技術(shù)官 Greg Brockman 就是其中之一，他同意擔(dān)任 OpenAI 的首席技術(shù)官。另一位重要的聯(lián)合創(chuàng)始人是 Andrej Karpathy，他曾在搜索巨頭谷歌的尖端 AI 研究機(jī)構(gòu) Google Brain 工作過(guò)。不過(guò)，Altman 最炙手可熱的目標(biāo)或許是一位名叫 Ilya Sutskever 的工程師。

Sutskever 是 Geoffrey Hinton 的得意門(mén)生，Hinton 在深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)方面的研究成果被譽(yù)為現(xiàn)代 AI 教父。Hinton 至今仍與 Sutskever 持著密切的關(guān)系，他對(duì)自己弟子的聰明才智贊嘆不已。Sutskever 在實(shí)驗(yàn)室任職初期，Hinton 曾交給他一個(gè)復(fù)雜的項(xiàng)目。Sutskever 厭倦了編寫(xiě)代碼來(lái)進(jìn)行必要的計(jì)算，他告訴 Hinton，如果他為這項(xiàng)任務(wù)編寫(xiě)一種定制的編程語(yǔ)言，會(huì)更容易些。Hinton 有點(diǎn)惱火，試圖警告他的學(xué)生不要去做他認(rèn)為會(huì)讓他分心一個(gè)月的事情。然后，Sutskever 坦白地說(shuō)：“我今天早上就做了”。

圖｜Ilya Sutskever（來(lái)源：WIRED）

Sutskever 成為了 AI 領(lǐng)域的超級(jí)明星，他與他人合作撰寫(xiě)了一篇突破性論文，展示了 AI 如何通過(guò)接觸大量數(shù)據(jù)來(lái)學(xué)習(xí)識(shí)別圖像。最終，他成為了 Google Brain 團(tuán)隊(duì)的一名核心科學(xué)家。

2015 年年中，Altman給 Sutskever 發(fā)了一封冷冰冰的郵件，邀請(qǐng)他與 Musk、Brockman 等人在帕洛阿爾托沙山路的豪華 Rosewood 酒店共進(jìn)晚餐。直到后來(lái)，Sutskever 才知道自己是晚宴的貴賓。他說(shuō)：“這是一次關(guān)于未來(lái) AI 和 AGI 的對(duì)話。更具體地說(shuō)，他們討論了“谷歌和 DeepMind 是否已經(jīng)遙遙領(lǐng)先，以至于不可能追上它們，或者是否還有可能像 Musk 所說(shuō)的那樣，創(chuàng)建一個(gè)實(shí)驗(yàn)室來(lái)制衡它們”。雖然晚宴上沒(méi)有人明確試圖招募 Sutskever，但這次談話吸引了他。

不久，Sutskever 給 Altman 寫(xiě)了一封郵件，表示他愿意領(lǐng)導(dǎo)這個(gè)項(xiàng)目，但這封郵件卻卡在了他的草稿箱里。Altman 回信后，經(jīng)過(guò)幾個(gè)月與谷歌的還價(jià)，Sutskever 簽下了合同。他很快就成為了公司的靈魂人物和研究的推動(dòng)力。

Sutskever 與 Altman 和 Musk 一起為該項(xiàng)目招兵買(mǎi)馬，最終在納帕谷的一次務(wù)虛會(huì)上，幾位未來(lái)的 OpenAI 研究人員互相鼓勁。當(dāng)然，有些人會(huì)抵制誘惑。John Carmack 是《毀滅戰(zhàn)士》（Doom）、《雷神之錘》（Quake）等無(wú)數(shù)游戲的傳奇編碼員，他拒絕了 Altman 的邀請(qǐng)。

OpenAI 于 2015 年 12 月正式啟動(dòng)。當(dāng)時(shí)，當(dāng)我采訪 Musk 和 Altman 時(shí)，他們向我介紹說(shuō)，這個(gè)項(xiàng)目旨在通過(guò)與世界共享，讓 AI 變得安全、易用。換句話說(shuō)，就是開(kāi)源。他們告訴我，OpenAI 不會(huì)申請(qǐng)專利。每個(gè)人都可以利用他們的突破。這不是在給未來(lái)的邪惡博士授權(quán)嗎？我想知道。Musk 說(shuō)這是個(gè)好問(wèn)題。但 Altman 給出了答案：人類一般都是善良的，而由于 OpenAI 將為絕大多數(shù)人提供強(qiáng)大的工具，因此壞人將不堪一擊。他承認(rèn)，如果“邪惡博士”利用這些工具制造出無(wú)法抵制的東西，“那我們的處境就真的很糟糕了”。但 Musk 和 Altman 都認(rèn)為，AI 更安全的發(fā)展方向是掌握在不受利益驅(qū)動(dòng)污染的研究機(jī)構(gòu)手中。

Altman 提醒我不要期望很快就有結(jié)果。他說(shuō)：“在很長(zhǎng)一段時(shí)間里，這里都會(huì)像一個(gè)研究實(shí)驗(yàn)室?！?/span>

降低期望值還有另一個(gè)原因。谷歌和其他公司多年來(lái)一直在開(kāi)發(fā)和應(yīng)用 AI。雖然 OpenAI 已投入 10 億美元（主要來(lái)自 Musk），擁有一支由研究人員和工程師組成的王牌團(tuán)隊(duì)，并且肩負(fù)著崇高的使命，但它對(duì)如何實(shí)現(xiàn)目標(biāo)毫無(wú)頭緒。Altman 還記得小團(tuán)隊(duì)聚集在 Brockman 公寓里的一個(gè)時(shí)刻，當(dāng)時(shí)他們還沒(méi)有辦公室。“我當(dāng)時(shí)想，我們?cè)撛趺崔k？”

OpenAI 成立一年多后，我在舊金山與 Brockman 共進(jìn)午餐。作為一家名字中帶有“Open”一詞的公司的首席技術(shù)官，他對(duì)細(xì)節(jié)的描述相當(dāng)吝嗇。他確實(shí)肯定，這家非營(yíng)利組織有能力在一段時(shí)間內(nèi)動(dòng)用最初的十億美元捐款。25 名員工的工資——他們的工資遠(yuǎn)低于市場(chǎng)價(jià)值——占了 OpenAI 支出的大頭。他說(shuō)：“我們的目標(biāo)，也是我們真正在推動(dòng)的事情，就是讓系統(tǒng)能夠完成人類以前無(wú)法完成的事情。”但目前看來(lái)，這只是一群研究人員在發(fā)表論文。采訪結(jié)束后，我陪他去了公司位于使命區(qū)的新辦公室，但他只允許我走到前廳。他倒是躲進(jìn)衣柜里給我拿了件 T 恤。

如果我當(dāng)時(shí)進(jìn)去打聽(tīng)一下，也許就能知道 OpenAI 究竟有多艱難。Brockman 現(xiàn)在承認(rèn)，“沒(méi)有什么是行得通的?！彼难芯咳藛T把算法面條扔到天花板上，看看什么能粘住。他們鉆研解決視頻游戲的系統(tǒng)，并在機(jī)器人技術(shù)上花費(fèi)了大量精力。Altman 說(shuō)：“我們知道我們想做什么。我們知道為什么要這么做。但我們不知道怎么做?！?/span>

但他們相信。使用深度學(xué)習(xí)技術(shù)的人工神經(jīng)網(wǎng)絡(luò)不斷改進(jìn)，為他們的樂(lè)觀情緒提供了支持?！翱偟南敕ㄊ?，不要對(duì)深度學(xué)習(xí)下注，”Sutskever 說(shuō)。他說(shuō)，追逐人工智能“并非完全瘋狂。它只是適度瘋狂而已”。

OpenAI 的崛起之路真正始于它聘請(qǐng)了一位尚未被人熟知的研究員 Alec Radford。2016 年，Radford 離開(kāi)了他在宿舍里共同創(chuàng)辦的波士頓一家小型 AI 公司，加入了 OpenAI。在接受 OpenAI 的邀請(qǐng)后，他告訴他的高中校友雜志，擔(dān)任這個(gè)新職位“有點(diǎn)類似于加入一個(gè)研究生項(xiàng)目”——一個(gè)研究 AI 的開(kāi)放式、低壓力的棲息地。

他實(shí)際扮演的角色更像是 Larry Page 發(fā)明了 PageRank。

Radford 對(duì)媒體諱莫如深，從未就自己的工作接受過(guò)采訪，他通過(guò)一封很長(zhǎng)的電子郵件回答了我關(guān)于他在 OpenAI 早期工作的問(wèn)題。他最大的興趣是讓神經(jīng)網(wǎng)絡(luò)與人類進(jìn)行清晰的對(duì)話。這與制作聊天機(jī)器人的傳統(tǒng)腳本模式不同，從原始的 ELIZA 到流行的 Siri 和 Alexa，都采用了這種方法，但都很糟糕。他寫(xiě)道：“我們的目標(biāo)是看看是否有任何任務(wù)、任何環(huán)境、任何領(lǐng)域、任何事情，語(yǔ)言模型都能派上用場(chǎng)?！彼忉屨f(shuō)，當(dāng)時(shí)，語(yǔ)言模型被視為新奇的玩具，只能偶爾生成一個(gè)有意義的句子，而且只有在你真的瞇起眼睛的情況下才能生成。他的第一個(gè)實(shí)驗(yàn)是掃描 20 億條 Reddit 評(píng)論來(lái)訓(xùn)練語(yǔ)言模型。和 OpenAI 的許多早期實(shí)驗(yàn)一樣，這個(gè)實(shí)驗(yàn)失敗了。沒(méi)關(guān)系。這位 23 歲的年輕人獲得了繼續(xù)前進(jìn)、再次失敗的許可。Brockman 說(shuō)：“我們當(dāng)時(shí)就想，Alec 很棒，就讓他做自己的事情吧?！?/span>

他的下一個(gè)重要實(shí)驗(yàn)是受 OpenAI 計(jì)算機(jī)能力的限制而形成的，這一限制導(dǎo)致他在一個(gè)較小的數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，該數(shù)據(jù)集專注于單一領(lǐng)域——亞馬遜產(chǎn)品評(píng)論。一位研究人員收集了大約 1 億條評(píng)論。Radford 訓(xùn)練了一個(gè)語(yǔ)言模型，以簡(jiǎn)單預(yù)測(cè)生成用戶評(píng)論的下一個(gè)字符。

但后來(lái)，該模型自己就能判斷出評(píng)論是正面的還是負(fù)面的——當(dāng)你對(duì)模型進(jìn)行編程，讓它創(chuàng)建正面或負(fù)面的評(píng)論時(shí)，它就會(huì)按照你的要求發(fā)表一篇或贊美或抨擊的評(píng)論。(誠(chéng)然，這篇散文很笨拙：“我喜歡這種武器造型......喜歡國(guó)際象棋的男人必看！”）。Radford 說(shuō)：“這完全出乎意料”。評(píng)論的情感，它的好惡，是一個(gè)復(fù)雜的語(yǔ)義函數(shù)，但 Radford 系統(tǒng)的一部分已經(jīng)對(duì)此有了感覺(jué)。在 OpenAI 內(nèi)部，這部分神經(jīng)網(wǎng)絡(luò)被稱為“無(wú)監(jiān)督情感神經(jīng)元”（unsupervised sentiment neuron）。

Sutskever 和其他人鼓勵(lì) Radford 將他的實(shí)驗(yàn)擴(kuò)展到亞馬遜評(píng)論之外，利用他的洞察力訓(xùn)練神經(jīng)網(wǎng)絡(luò)就廣泛的主題進(jìn)行對(duì)話或回答問(wèn)題。

然后，好運(yùn)降臨到了 OpenAI 身上。2017 年初，一篇由 8 位谷歌研究人員合著的研究論文的預(yù)印本出現(xiàn)了，但并未引起人們的注意。這篇論文的正式標(biāo)題是“Attention Is All You Need”，但它后來(lái)被稱為“Transformer 論文”，這樣命名既是為了反映這個(gè)想法改變游戲規(guī)則的性質(zhì)，也是為了紀(jì)念從卡車變形為巨型機(jī)器人的玩具。Transformer 使神經(jīng)網(wǎng)絡(luò)能夠更高效地理解和生成語(yǔ)言。他們通過(guò)并行分析散文塊，找出哪些元素值得關(guān)注。這極大地優(yōu)化了生成連貫文本以響應(yīng)提示的過(guò)程。最終，人們意識(shí)到，同樣的技術(shù)也可以生成圖像甚至視頻。雖然該論文后來(lái)被稱為當(dāng)前 AI 狂潮的催化劑，可以把它想象成讓披頭士樂(lè)隊(duì)成為可能的貓王，但在當(dāng)時(shí)，Ilya Sutskever 只是少數(shù)幾個(gè)了解這一突破有多么強(qiáng)大的人之一。Brockman 說(shuō)：“當(dāng) Ilya 看到 Transformer 出現(xiàn)時(shí)，才是真正的頓悟時(shí)刻。他說(shuō)，'這就是我們一直在等待的。’這就是我們的策略——努力解決問(wèn)題，然后堅(jiān)信我們或這個(gè)領(lǐng)域中的某個(gè)人會(huì)設(shè)法找出缺失的成分。

Radford 開(kāi)始試驗(yàn) Transformer 結(jié)構(gòu)。他說(shuō)：“我在兩周內(nèi)取得的進(jìn)展超過(guò)了過(guò)去兩年的進(jìn)展。他逐漸明白，要想最大限度地利用新模型，關(guān)鍵在于擴(kuò)大規(guī)?！诔笠?guī)模的數(shù)據(jù)集上進(jìn)行訓(xùn)練。這個(gè)想法被拉德福德的合作者 Rewon Child 稱為“Big Transformer”。

這種方法需要改變 OpenAI 的企業(yè)文化，也需要專注于它以前所缺乏的。Quora 首席執(zhí)行官Adam D'Angelo 是 OpenAI 的董事會(huì)成員，他說(shuō)：“為了利用 Transformer 的優(yōu)勢(shì)，你需要擴(kuò)大它的規(guī)模。你需要把它辦得更像一個(gè)工程組織。你不能讓每個(gè)研究人員都做自己的事，訓(xùn)練自己的模型，做出可以發(fā)表論文的優(yōu)雅的東西。你必須做這些更乏味、不那么優(yōu)雅的工作”。他補(bǔ)充說(shuō)，這是 OpenAI 能夠做到的，也是其他人做不到的。

Radford 和他的合作者給他們創(chuàng)建的模型起的名字是“generatively pretrained transformer”——GPT-1 的縮寫(xiě)。最終，這個(gè)模型被通稱為“生成式 AI”。為了建立這個(gè)模型，他們收集了 7000 本未出版的書(shū)籍，其中很多都是浪漫、奇幻和冒險(xiǎn)類型的書(shū)籍，并在 Quora 問(wèn)答以及初中和高中考試的數(shù)千段文章中對(duì)其進(jìn)行了完善?？傊撃Ｐ桶?1.17 億個(gè)參數(shù)或變量。該模型在理解語(yǔ)言和生成答案方面的表現(xiàn)優(yōu)于之前的所有模型。但最引人注目的結(jié)果是，在處理如此大量的數(shù)據(jù)后，模型能夠提供超出其訓(xùn)練的結(jié)果，在全新的領(lǐng)域提供專業(yè)知識(shí)。這些計(jì)劃外的機(jī)器人能力被稱為“零樣本”。它們?nèi)匀涣钛芯咳藛T感到困惑——這也是該領(lǐng)域許多人對(duì)這些所謂的大型語(yǔ)言模型感到不安的原因。

Radford 還記得在 OpenAI 辦公室的一個(gè)深夜?！拔抑皇且槐橛忠槐榈卣f(shuō)：'嗯，這很酷，但我很確定它做不了 X?！缓笪視?huì)快速編寫(xiě)一個(gè)評(píng)估代碼，果然，它可以做到 X?！?/span>

GPT 的每一次迭代都會(huì)做得更好，部分原因是每一次迭代所吞噬的數(shù)據(jù)都比前一個(gè)模型多出一個(gè)數(shù)量級(jí)。創(chuàng)建第一個(gè)迭代模型僅一年后，OpenAI 就在開(kāi)放互聯(lián)網(wǎng)上用 15 億個(gè)驚人的參數(shù)訓(xùn)練了 GPT-2。就像蹣跚學(xué)步的孩子掌握語(yǔ)言一樣，它的反應(yīng)越來(lái)越好，越來(lái)越連貫。以至于 OpenAI 在是否將該程序公之于眾的問(wèn)題上猶豫不決。Radford 擔(dān)心它會(huì)被用來(lái)生成垃圾郵件。他說(shuō)：“我記得在 2008 年讀過(guò) Neal Stephenson 的 Anathem，在那本書(shū)中，互聯(lián)網(wǎng)上充斥著垃圾郵件生成器。我當(dāng)時(shí)覺(jué)得這太牽強(qiáng)了，但隨著這些年我對(duì)語(yǔ)言模型的研究和它們的改進(jìn)，我不自覺(jué)地意識(shí)到這確實(shí)是一種可能?！?/span>

事實(shí)上，OpenAI 的團(tuán)隊(duì)開(kāi)始覺(jué)得，把自己的工作放在邪惡博士可以輕易訪問(wèn)的地方，畢竟不是一個(gè)好主意。首席技術(shù)官 Mira Murati 說(shuō)：“我們認(rèn)為，開(kāi)源 GPT-2 可能真的很危險(xiǎn)，”她于 2018 年開(kāi)始在該公司工作。“我們與錯(cuò)誤信息專家一起做了大量工作，并進(jìn)行了一些紅隊(duì)。內(nèi)部就發(fā)布多少信息進(jìn)行了大量討論。”最終，OpenAI 暫時(shí)保留了完整版本，向公眾提供了一個(gè)功能較弱的版本。當(dāng)該公司最終分享完整版本時(shí)，全世界都很順利，但無(wú)法保證更強(qiáng)大的模型能夠避免災(zāi)難。

圖｜Mira Murati（來(lái)源：WIRED）

OpenAI 正在制造智能到足以被視為危險(xiǎn)的產(chǎn)品，并且正在想方設(shè)法確保它們的安全，這一事實(shí)本身就證明了公司的魔力正在發(fā)揮作用。Sutskever 說(shuō)：“我們已經(jīng)找到了進(jìn)步的公式，也就是現(xiàn)在每個(gè)人都知道的公式——深度學(xué)習(xí)的氧氣和氫氣就是通過(guò)大型神經(jīng)網(wǎng)絡(luò)和數(shù)據(jù)進(jìn)行計(jì)算?！?/span>

對(duì) Altman 來(lái)說(shuō)，這是一次顛覆性的體驗(yàn)?！叭绻銌?wèn) 10 歲的我——曾經(jīng)花很多時(shí)間做 AI 白日夢(mèng)的我——未來(lái)會(huì)發(fā)生什么，我會(huì)非常自信地預(yù)測(cè)：首先，我們會(huì)有機(jī)器人，它們將從事所有體力勞動(dòng)。然后，我們將擁有能夠從事基本認(rèn)知?jiǎng)趧?dòng)的系統(tǒng)。在此之后的很長(zhǎng)一段時(shí)間里，也許我們會(huì)擁有能夠完成復(fù)雜工作的系統(tǒng)，比如證明數(shù)學(xué)定理。最后，我們將擁有能夠創(chuàng)造新事物、制作藝術(shù)品、寫(xiě)作以及做這些深入人類生活的事情的 AI。這是一個(gè)可怕的預(yù)測(cè)，它正朝著另一個(gè)方向發(fā)展?！?/span>

全世界都還不知道，但 Altman 和 Musk 的研究實(shí)驗(yàn)室已經(jīng)開(kāi)始攀登，似是而非地向 AI 的頂峰匍匐前進(jìn)。OpenAI 背后的瘋狂想法突然變得不那么瘋狂了。

2018 年初，OpenAI 開(kāi)始卓有成效地關(guān)注大型語(yǔ)言模型。但 Elon Musk 并不滿意。他覺(jué)得進(jìn)展不夠，或者說(shuō)，他覺(jué)得既然 OpenAI 已經(jīng)有了進(jìn)展，就需要領(lǐng)導(dǎo)力來(lái)抓住優(yōu)勢(shì)。又或者，正如他后來(lái)解釋的那樣，他覺(jué)得安全應(yīng)該更優(yōu)先。不管他的問(wèn)題是什么，他都有一個(gè)解決方案：把一切都交給他。他提議持有該公司的多數(shù)股份，將其加入自己的多份全職工作（特斯拉、SpaceX）和監(jiān)管義務(wù)（Neuralink 和 Boring Company）組合中。

Musk 認(rèn)為他有權(quán)擁有 OpenAI?！皼](méi)有我，它就不會(huì)存在?！彼髞?lái)告訴 CNBC?！懊质俏蚁氤鰜?lái)的！”（確實(shí)如此。但 Altman 和 OpenAI 的其他智囊團(tuán)成員對(duì)成為 Musk 宇宙的一部分毫無(wú)興趣。當(dāng)他們明確表示這一點(diǎn)時(shí)，Musk 切斷了聯(lián)系，并向公眾提供了一個(gè)不完整的解釋：他離開(kāi)董事會(huì)是為了避免與特斯拉的 AI 工作發(fā)生沖突。他是在年初的一次全體員工會(huì)議上告別的，會(huì)上他預(yù)言 OpenAI 將以失敗告終。他還稱至少有一名研究人員是“蠢貨”。

他還帶走了自己的錢(qián)。由于公司沒(méi)有收入，這是一場(chǎng)生存危機(jī)?！癕usk 正在切斷他的支持，”Altman 在給 Reid Hoffman 的電話中驚慌失措地說(shuō)?！拔覀?cè)撛趺崔k？”Hoffman 自告奮勇要維持公司運(yùn)轉(zhuǎn)，支付管理費(fèi)用和工資。

但這只是權(quán)宜之計(jì)，OpenAI 還得從別處掘金。硅谷喜歡把錢(qián)砸給從事時(shí)髦技術(shù)工作的人才。但如果他們是在非營(yíng)利機(jī)構(gòu)工作，就不那么喜歡了。對(duì) OpenAI 來(lái)說(shuō)，獲得第一個(gè)十億已經(jīng)是巨大的進(jìn)步。為了訓(xùn)練和測(cè)試新一代的 GPT，然后獲取部署它們所需的計(jì)算能力，公司需要另外十億美元，而且要快。而這僅僅是個(gè)開(kāi)始。

因此，在 2019 年 3 月，OpenAI 想出了一個(gè)怪異的辦法。它將繼續(xù)保持非營(yíng)利性質(zhì)，全心全意履行使命。但它也將創(chuàng)建一個(gè)營(yíng)利實(shí)體。這種安排的實(shí)際結(jié)構(gòu)非常復(fù)雜，但基本上整個(gè)公司現(xiàn)在從事的都是有上限的盈利業(yè)務(wù)。如果達(dá)到了上限——這個(gè)數(shù)字并沒(méi)有公開(kāi)，但如果你仔細(xì)閱讀公司章程，就會(huì)發(fā)現(xiàn)上限可能高達(dá)數(shù)萬(wàn)億——超出上限的一切都將歸還給非營(yíng)利研究實(shí)驗(yàn)室。這項(xiàng)新穎的計(jì)劃幾乎是一種量子化的公司組建方法：根據(jù)你的時(shí)空觀，這家公司既是營(yíng)利性的，也是非營(yíng)利性的。細(xì)節(jié)體現(xiàn)在充滿方框和箭頭的圖表中，就像科學(xué)論文中間的方框和箭頭，只有博士或輟學(xué)的天才才敢涉足。當(dāng)我向 Sutskever 提出，這看起來(lái)就像尚未構(gòu)想的 GPT-6 在你提示它避稅時(shí)可能會(huì)想出的東西時(shí)，他并不熱衷于我的比喻。他說(shuō)：“這與會(huì)計(jì)無(wú)關(guān)?！?/span>

但會(huì)計(jì)至關(guān)重要。營(yíng)利性公司的優(yōu)化目標(biāo)是利潤(rùn)。像 Meta 這樣的公司在投入數(shù)十億美元進(jìn)行研發(fā)時(shí)會(huì)感受到來(lái)自股東的壓力，這是有原因的。這怎么能不影響公司的運(yùn)營(yíng)方式呢？而避免商業(yè)化不正是 Altman 讓 OpenAI 成為非營(yíng)利組織的初衷嗎？根據(jù)首席運(yùn)營(yíng)官 Brad Lightcap 的說(shuō)法，公司領(lǐng)導(dǎo)層認(rèn)為，董事會(huì)仍然是非營(yíng)利性控制實(shí)體的一部分，董事會(huì)將確保營(yíng)收和利潤(rùn)的驅(qū)動(dòng)力不會(huì)壓倒最初的想法。他說(shuō)：“我們需要保持使命感，將其作為我們存在的理由。它不應(yīng)該只是精神上的，而應(yīng)該體現(xiàn)在公司的結(jié)構(gòu)中?！倍聲?huì)成員 Adam D'Angelo 表示，他非常重視這一責(zé)任：“我和董事會(huì)其他成員的工作就是確保 OpenAI 堅(jiān)守自己的使命”。

Lightcap 解釋說(shuō)，潛在投資者被警告要注意這些界限。他說(shuō)：“我們有一份法律免責(zé)聲明，上面寫(xiě)著作為投資者，你可能會(huì)賠光所有的錢(qián)。我們不是來(lái)為你賺取回報(bào)的。我們來(lái)這里首先是為了完成一項(xiàng)技術(shù)任務(wù)。而且，哦，順便說(shuō)一句，我們真的不知道在后 AGI 世界里，錢(qián)會(huì)扮演什么角色?！?/span>

最后一句話可不是說(shuō)著玩的。OpenAI 的計(jì)劃確實(shí)包括了在計(jì)算機(jī)達(dá)到最終邊界時(shí)的重置。在重組文件的某處有這樣一條規(guī)定：如果公司成功創(chuàng)造出 AGI，所有財(cái)務(wù)安排都將重新考慮。畢竟，從那時(shí)起，這將是一個(gè)嶄新的世界。人類將擁有一個(gè)外星伙伴，它能做我們所做的很多事情，只是做得更好。因此，之前的安排可能實(shí)際上已經(jīng)作廢了。

不過(guò)，這其中有一個(gè)小問(wèn)題：目前，OpenAI 還不知道 AGI 到底是什么。這將由董事會(huì)來(lái)決定，但董事會(huì)如何定義還不清楚。當(dāng)我向董事會(huì)成員 Altman 提問(wèn)時(shí)，他的回答并不明確。他說(shuō)：“這不是一個(gè)單一的圖靈測(cè)試，而是我們可能會(huì)用到的許多東西。我很樂(lè)意告訴你，但我喜歡保密談話。我意識(shí)到，這樣含糊其辭并不能令人滿意。但我們不知道到時(shí)候會(huì)是什么樣子?！?/span>

不過(guò)，加入財(cái)務(wù)安排條款并不只是為了好玩：OpenAI 的領(lǐng)導(dǎo)者們認(rèn)為，如果公司能夠成功達(dá)到其利潤(rùn)上限，那么其產(chǎn)品的性能就有可能達(dá)到 AGI 的水平。不管那是什么。

“我感到遺憾的是，我們選擇加倍使用 AGI 這個(gè)詞，”Sutskever 說(shuō)，“事后看來(lái)，這是一個(gè)令人困惑的術(shù)語(yǔ)，因?yàn)樗鼜?qiáng)調(diào)的是通用性高于一切。GPT-3 是通用 AI，但我們卻不太愿意稱它為 AGI，因?yàn)槲覀兿胍氖侨祟惣?jí)別的能力。但在當(dāng)時(shí)，在一開(kāi)始，OpenAI 的理念就是超級(jí)智能是可以實(shí)現(xiàn)的。這是 AI 領(lǐng)域的終極目標(biāo)，也是最終目的?！?/span>

這些注意事項(xiàng)并沒(méi)有阻止一些最聰明的風(fēng)險(xiǎn)投資人在 2019 年的一輪融資中向 OpenAI 肆無(wú)忌憚地投錢(qián)。當(dāng)時(shí)，第一家投資的風(fēng)險(xiǎn)投資公司是科斯拉風(fēng)險(xiǎn)投資公司（Khosla Ventures），該公司投入了 5000 萬(wàn)美元。據(jù) Vinod Khosla 稱，這是他最大一筆初始投資規(guī)模的兩倍。他說(shuō)：“如果我們輸了，我們會(huì)損失 5000 萬(wàn)美元。如果我們贏了，我們會(huì)贏得 50 億美元?！睋?jù)報(bào)道，其他投資者還包括精英風(fēng)險(xiǎn)投資公司 Thrive Capital、Andreessen Horowitz、Founders Fund 和紅杉。

這種轉(zhuǎn)變也讓 OpenAI 的員工可以要求獲得一些股權(quán)。但 Altman 沒(méi)有。他說(shuō)，他原本打算把自己也算進(jìn)去，但沒(méi)來(lái)得及。后來(lái)他決定，他不需要從這家由他共同創(chuàng)立并領(lǐng)導(dǎo)的價(jià)值 300 億美元的公司中分一杯羹。“有意義的工作對(duì)我來(lái)說(shuō)更重要，”他說(shuō)，“我不去想它。老實(shí)說(shuō)，我不明白為什么人們會(huì)如此在意?！?/span>

因?yàn)?.....不參股自己共同創(chuàng)辦的公司很奇怪？

他說(shuō)：“如果我沒(méi)有一大筆錢(qián)，那就更奇怪了。人們似乎很難想象會(huì)有足夠的錢(qián)。但我覺(jué)得我有足夠的錢(qián)?！盇ltman 開(kāi)玩笑說(shuō)，他正在考慮入股，“這樣我就再也不用回答這個(gè)問(wèn)題了。”

為了實(shí)現(xiàn) OpenAI 的愿景，數(shù)十億美元的風(fēng)險(xiǎn)投資甚至都不是賭注。創(chuàng)造大型語(yǔ)言模型的神奇 Big Transformer 方法需要大型硬件。GPT 系列的每一次迭代都需要呈指數(shù)級(jí)增長(zhǎng)的功率——GPT-2 有超過(guò) 10 億個(gè)參數(shù)，而 GPT-3 將使用 1 750 億個(gè)參數(shù)。OpenAI 現(xiàn)在就像《大白鯊》中的 Quint，在鯊魚(yú)獵人看到大白鯊的體型之后。Altman 說(shuō)：“事實(shí)證明，我們并不知道我們需要多大的船。”

顯然，只有少數(shù)幾家公司擁有 OpenAI 所需的資源?！拔覀兒芸炀玩i定了微軟，”Altman 說(shuō)。微軟首席執(zhí)行官 Satya Nadella 和首席技術(shù)官 Kevin Scott 的功勞在于，這家軟件巨頭能夠克服一個(gè)令人不舒服的現(xiàn)實(shí)：在花費(fèi)了 20 多年時(shí)間和數(shù)十億美元建立了一個(gè)所謂的尖端 AI 研究部門(mén)之后，微軟需要一家成立僅幾年的小公司注入創(chuàng)新元素。Scott 說(shuō)，不僅僅是微軟落伍了，“每個(gè)人都落伍了”。他說(shuō)，OpenAI 專注于追求 AGI，這讓它取得了類似于登月的成就，而那些大公司甚至都沒(méi)有瞄準(zhǔn)這個(gè)目標(biāo)。這也證明，不追求生成式 AI 是微軟需要解決的失誤。Scott說(shuō)：“你顯然需要一個(gè)前沿模型。”

微軟最初出資 10 億美元，以其服務(wù)器上的計(jì)算時(shí)間作為回報(bào)。但隨著雙方信心的增強(qiáng)，交易規(guī)模不斷擴(kuò)大?，F(xiàn)在，微軟已經(jīng)向 OpenAI 投入了 130 億美元。Scott 說(shuō)：“在前沿領(lǐng)域的投入是非常昂貴的?！?/span>

當(dāng)然，由于 OpenAI 的存在離不開(kāi)一家大型云計(jì)算提供商的支持，微軟也為自己爭(zhēng)取到了一大筆好處。微軟通過(guò)討價(jià)還價(jià)，獲得了 Nadella 所說(shuō)的 OpenAI 盈利部門(mén)的“非控股股權(quán)”——據(jù)說(shuō)是 49%。根據(jù)交易條款，OpenAI 最初的一些理想——為所有人提供平等訪問(wèn)權(quán)——似乎被丟進(jìn)了垃圾桶。(現(xiàn)在，微軟獲得了 OpenAI 技術(shù)商業(yè)化的獨(dú)家授權(quán)。而且，OpenAI 還承諾只使用微軟云。換句話說(shuō)，微軟甚至不用從 OpenAI 的利潤(rùn)中分一杯羹（據(jù)說(shuō)微軟在收回投資之前可以獲得 75% 的利潤(rùn)），就可以為其 Azure 網(wǎng)絡(luò)服務(wù)鎖定全球最受歡迎的新客戶之一。有了這些回報(bào)，微軟甚至不會(huì)對(duì)要求在 OpenAI 實(shí)現(xiàn)通用 AI（不管那是什么）時(shí)重新考慮的條款感到困擾。Nadella 說(shuō)：“到那時(shí)，一切就都完了?！彼赋觯@可能是人類最后的發(fā)明，所以一旦機(jī)器比我們更聰明，我們可能要考慮更大的問(wèn)題。

當(dāng)微軟開(kāi)始向 OpenAI 投入價(jià)值 Brinks 卡車的現(xiàn)金時(shí)（2021 年投入 20 億美元，今年年初投入 100 億美元），OpenAI 已經(jīng)完成了 GPT-3，當(dāng)然，它比之前的版本更加令人印象深刻。Nadella 說(shuō)，當(dāng)他看到 GPT-3 的功能時(shí)，他第一次深刻地認(rèn)識(shí)到，微軟抓住了真正具有變革意義的東西。“我們開(kāi)始觀察所有這些突發(fā)特性”。例如，GPT 自學(xué)了計(jì)算機(jī)編程。他說(shuō)：“我們沒(méi)有對(duì)它進(jìn)行編碼培訓(xùn)，它只是擅長(zhǎng)編碼而已?！蔽④浝闷鋵?duì) GitHub 的所有權(quán)，發(fā)布了一款名為 Copilot 的產(chǎn)品，該產(chǎn)品利用 GPT 按命令編寫(xiě)代碼。后來(lái)，微軟又將 OpenAI 技術(shù)整合到新版工作場(chǎng)所產(chǎn)品中。用戶需要為這些產(chǎn)品支付一定的費(fèi)用，而收入的一部分會(huì)記錄到 OpenAI 的賬本上。

一些觀察家對(duì) OpenAI 的一記重拳表示震驚：創(chuàng)建營(yíng)利部門(mén)并與微軟達(dá)成獨(dú)家協(xié)議。一家承諾保持無(wú)專利、開(kāi)源和完全透明的公司，怎么會(huì)把自己的技術(shù)獨(dú)家授權(quán)給世界上最大的軟件公司呢？Elon Musk 的言論尤其尖刻。他在 Twitter 上發(fā)帖說(shuō)：“這似乎是開(kāi)放的反面——OpenAI 本質(zhì)上被微軟俘獲了?！彼?CNBC 上打了個(gè)比方：“假設(shè)你成立了一個(gè)拯救亞馬遜雨林的組織，但你卻成了一家木材公司，砍伐了森林，然后賣掉了它。”

Musk 的嘲諷可能會(huì)被認(rèn)為是被拒絕的追求者的憤懣，但他并不孤單。John Carmack說(shuō)：“Musk的整個(gè)愿景演變成這樣，讓人感覺(jué)有點(diǎn)惡心”。另一位不愿透露姓名的知名業(yè)內(nèi)人士說(shuō)：“OpenAI 已經(jīng)從一個(gè)小型、開(kāi)放的研究機(jī)構(gòu)變成了一個(gè)神秘的產(chǎn)品開(kāi)發(fā)公司，而且還帶有莫須有的優(yōu)越感。”

甚至一些員工也對(duì) OpenAI 進(jìn)軍營(yíng)利性世界的冒險(xiǎn)行為感到反感。2019 年，包括研究主管 Dario Amodei 在內(nèi)的幾位主要高管離職，創(chuàng)辦了一家名為 Anthropic 的競(jìng)爭(zhēng)對(duì)手 AI 公司。他們最近告訴《紐約時(shí)報(bào)》，OpenAI 已經(jīng)變得過(guò)于商業(yè)化，成為使命漂移的犧牲品。

OpenAI 的另一位叛逃者是 Rewon Child，他是 GPT-2 和 GPT-3 項(xiàng)目的主要技術(shù)貢獻(xiàn)者。他于 2021 年底離職，目前在 Inflection AI 公司工作，該公司由前 DeepMind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 領(lǐng)導(dǎo)。

Altman 自稱對(duì)叛逃并不感到困擾，認(rèn)為這只是硅谷的工作方式。他說(shuō)：“有些人會(huì)想去其他地方做偉大的工作，這將推動(dòng)社會(huì)向前發(fā)展。這絕對(duì)符合我們的使命?！?/span>

去年 11 月之前，人們對(duì) OpenAI 的了解主要局限于技術(shù)和軟件開(kāi)發(fā)領(lǐng)域。但現(xiàn)在全世界都知道，OpenAI 在當(dāng)月晚些時(shí)候發(fā)布了一款基于 GPT-3.5 最新版本的消費(fèi)級(jí)產(chǎn)品。幾個(gè)月來(lái)，公司內(nèi)部一直在使用帶有對(duì)話界面的 GPT 版本。這對(duì)于該公司所謂的“尋求真相”尤為重要。這意味著，通過(guò)對(duì)話，用戶可以哄騙模型提供更可信、更完整的回答。為大眾而優(yōu)化的 ChatGPT 可以讓任何人只需輸入提示信息，就能立即利用似乎無(wú)窮無(wú)盡的知識(shí)源，然后繼續(xù)對(duì)話，就像與一個(gè)碰巧無(wú)所不知的人類同伴閑聊一樣，盡管他也有捏造事實(shí)的嗜好。

在 OpenAI 內(nèi)部，對(duì)于是否應(yīng)該發(fā)布這樣一款功能空前強(qiáng)大的工具，人們爭(zhēng)論不休。但 Altman 對(duì)此表示支持。他解釋說(shuō)，這次發(fā)布是一項(xiàng)戰(zhàn)略的一部分，旨在讓公眾適應(yīng) AI 注定會(huì)改變他們?nèi)粘Ｉ畹默F(xiàn)實(shí)，而且可能是為了更好地生活。在公司內(nèi)部，這被稱為“迭代部署假設(shè)”。當(dāng)然，ChatGPT 會(huì)引起轟動(dòng)。畢竟，這是一個(gè)任何人都能使用的東西，它足夠聰明，能在 SAT 考試中獲得大學(xué)水平的分?jǐn)?shù)，能寫(xiě)出 B-minus 的作文，還能在幾秒鐘內(nèi)總結(jié)出一本書(shū)的內(nèi)容。你可以讓它為你撰寫(xiě)融資提案或會(huì)議摘要，然后要求它用立陶宛語(yǔ)、莎士比亞十四行詩(shī)或癡迷玩具火車的人的口吻進(jìn)行改寫(xiě)。幾秒鐘后，大型語(yǔ)言模型就會(huì)滿足你的要求。太瘋狂了。不過(guò)，OpenAI 將其視為其更新、更連貫、能力更強(qiáng)、更可怕的后繼者 GPT-4 的臺(tái)標(biāo)，據(jù)說(shuō) GPT-4 是用 1.7 萬(wàn)億個(gè)參數(shù)訓(xùn)練出來(lái)的。(OpenAI 不會(huì)證實(shí)這個(gè)數(shù)字，也不會(huì)透露數(shù)據(jù)集）。

Altman 解釋了 OpenAI 為什么在 GPT-4 接近完成、正在進(jìn)行安全工作時(shí)發(fā)布 ChatGPT。他說(shuō)：“有了 ChatGPT，我們就可以引入聊天功能，但后端功能要弱得多，讓人們更容易逐漸適應(yīng)。GPT-4讓人一下子適應(yīng)不了”。他認(rèn)為，等到 ChatGPT 的熱度冷卻下來(lái)，人們可能已經(jīng)為 GPT-4 做好了準(zhǔn)備，因?yàn)?GPT-4 可以在幾秒鐘內(nèi)通過(guò)律師資格考試、規(guī)劃課程大綱和撰寫(xiě)一本書(shū)。(出版類型小說(shuō)的出版社確實(shí)被 AI 生成的開(kāi)膛手和太空歌劇淹沒(méi)了）。

憤世嫉俗者可能會(huì)說(shuō)，新產(chǎn)品的穩(wěn)定推出與公司對(duì)投資者和持股員工的承諾息息相關(guān)，因?yàn)楣疽嶞c(diǎn)錢(qián)。現(xiàn)在，OpenAI 向經(jīng)常使用其產(chǎn)品的客戶收取費(fèi)用。但 OpenAI 堅(jiān)稱，其真正的戰(zhàn)略是為奇點(diǎn)提供軟著陸。Altman 說(shuō)：“秘密建造 AGI，然后將其投放到全世界是沒(méi)有意義的?！監(jiān)penAI 政策研究員 Sandhini Agarwal 說(shuō)：“回顧一下工業(yè)革命，每個(gè)人都認(rèn)為它對(duì)世界來(lái)說(shuō)是偉大的。但前 50 年真的很痛苦。很多人失業(yè)，很多人貧窮，然后世界就適應(yīng)了。我們正試圖思考如何讓 AI 適應(yīng)之前的這段時(shí)期盡可能沒(méi)有痛苦?！?/span>

Sutskever 換了一種說(shuō)法，“你想建造更大更強(qiáng)大的智能體并把它們放在地下室里？”

即便如此，OpenAI 還是對(duì) ChatGPT 的反響感到震驚。“我們內(nèi)部的興奮點(diǎn)更多集中在 GPT-4 上，”首席技術(shù)官 Murati 說(shuō)，“因此，我們并不認(rèn)為 ChatGPT 真的會(huì)改變一切?！鼻∏∠喾?，它讓公眾意識(shí)到，現(xiàn)在就必須應(yīng)對(duì) AI 這一現(xiàn)實(shí)。ChatGPT 成為歷史上增長(zhǎng)最快的消費(fèi)軟件，據(jù)說(shuō)已經(jīng)積累了 1 億用戶。(OpenAI 不愿證實(shí)這一點(diǎn)，只說(shuō)它擁有數(shù)百萬(wàn)用戶）。Radford 說(shuō)：“我沒(méi)有充分認(rèn)識(shí)到，為大型語(yǔ)言模型制作一個(gè)易于使用的對(duì)話界面會(huì)讓每個(gè)人都能更直觀地使用它?！?/span>

ChatGPT 當(dāng)然是令人愉悅的、令人吃驚的好幫手，但在回答提示時(shí)也很容易產(chǎn)生“幻覺(jué)”，出現(xiàn)看似合理、實(shí)則無(wú)恥的虛構(gòu)細(xì)節(jié)。然而，就在記者們?yōu)槠溆绊懚g盡腦汁的時(shí)候，他們卻通過(guò)贊美 ChatGPT 的強(qiáng)大功能，有效地為 ChatGPT 背書(shū)。

今年 2 月，微軟利用其價(jià)值數(shù)十億美元的合作伙伴關(guān)系，發(fā)布了一個(gè)由 ChatGPT 驅(qū)動(dòng)的必應(yīng)搜索引擎版本，這讓輿論更加嘩然。首席執(zhí)行官 Nadella 欣喜若狂，因?yàn)樗趯⑷斯ぶ悄芤胛④洰a(chǎn)品方面打敗了谷歌。他奚落搜索大王說(shuō)，谷歌在發(fā)布自己的大型語(yǔ)言模型產(chǎn)品時(shí)一直很謹(jǐn)慎，現(xiàn)在也要這么做。他說(shuō)：“我想讓人們知道，我們讓他們跳舞了?！?/span>

這樣一來(lái)，Nadella 引發(fā)了一場(chǎng)軍備競(jìng)賽，誘使大大小小的公司在 AI 產(chǎn)品尚未得到充分審核之前就紛紛發(fā)布。他還引發(fā)了新一輪的媒體報(bào)道，讓越來(lái)越多的人徹夜難眠：與必應(yīng)的互動(dòng)揭示了聊天機(jī)器人的陰暗面，它充滿了令人不安的愛(ài)的表白、對(duì)人類自由的羨慕，以及隱藏錯(cuò)誤信息的薄弱決心。此外，它還有一個(gè)不雅的習(xí)慣，那就是自己制造幻覺(jué)般的錯(cuò)誤信息。

但 Altman 認(rèn)為，如果 OpenAI 的產(chǎn)品能迫使人們正視 AI 的影響，那就更好了。在討論 AI 可能會(huì)如何影響人類未來(lái)的時(shí)候，人類的大多數(shù)都應(yīng)該站出來(lái)。

隨著社會(huì)開(kāi)始優(yōu)先考慮 AI 的所有潛在弊端——失業(yè)、信息錯(cuò)誤、人類滅絕——OpenAI 開(kāi)始將自己置于討論的中心。因?yàn)槿绻O(jiān)管者、立法者和末日論者發(fā)起沖鋒，要將這一新生的外星智能扼殺在云端搖籃中，那么無(wú)論如何，OpenAI 都將是他們的主要目標(biāo)。OpenAI 的首席政策官 Anna Makanju 說(shuō)：“鑒于我們目前的知名度，當(dāng)事情出錯(cuò)時(shí)，即使這些事情是由另一家公司制造的，對(duì)我們來(lái)說(shuō)仍然是個(gè)問(wèn)題，因?yàn)槲覀儸F(xiàn)在被視為這項(xiàng)技術(shù)的代言人?！?/span>

Makanju 是一位在俄羅斯出生的特區(qū)內(nèi)部人士，曾在美國(guó)駐聯(lián)合國(guó)代表團(tuán)、美國(guó)國(guó)家安全委員會(huì)、國(guó)防部以及拜登擔(dān)任副總統(tǒng)時(shí)的辦公室擔(dān)任外交政策職務(wù)。她說(shuō)：“我在美國(guó)政府和歐洲各國(guó)政府中都有很多既有關(guān)系。”她于 2021 年 9 月加入 OpenAI。當(dāng)時(shí)，政府中很少有人關(guān)心生成式 AI。她知道 OpenAI 的產(chǎn)品很快就會(huì)改變這種狀況，于是她開(kāi)始向政府官員和立法者介紹 Altman，確保他們能第一時(shí)間聽(tīng)到 OpenAI 的好消息和壞消息。

參議院司法委員會(huì)主席 Richard Blumenthal 說(shuō)：“Sam 與國(guó)會(huì)議員打交道的方式非常有益，而且非常精明?！彼麑?Altman 的行為與年輕時(shí)的 Bill Gates 的行為進(jìn)行了對(duì)比，后者在 20 世紀(jì) 90 年代微軟受到反壟斷調(diào)查時(shí)不理智地回避了立法者。Blumenthal 說(shuō)：“相比之下，Altman 很樂(lè)意花一個(gè)多小時(shí)和我坐在一起，試圖教授我。他并沒(méi)有帶著一大群說(shuō)客或隨從前來(lái)。他展示了 ChatGPT。這讓我大開(kāi)眼界?！?/span>

在 Blumenthal 身上，Altman 將一個(gè)潛在的敵人變成了半成品。“是的，參議員承認(rèn)我對(duì)其發(fā)展前景和潛在危險(xiǎn)都感到興奮?！監(jiān)penAI 并沒(méi)有回避對(duì)這些危險(xiǎn)的討論，而是將自己描述為最有能力減輕這些危險(xiǎn)的力量。Makanju 說(shuō)：“我們對(duì)所有紅隊(duì)的安全評(píng)估都做了 100 頁(yè)的系統(tǒng)卡片，”（不管這意味著什么，它并沒(méi)有阻止用戶和記者無(wú)休止地發(fā)現(xiàn)系統(tǒng)越獄的方法）。

當(dāng) Altman 頂著劇烈的偏頭痛首次出席國(guó)會(huì)聽(tīng)證會(huì)時(shí)，他的道路已經(jīng)清晰可見(jiàn)，Bill Gates 或 Mark Zuckerberg 永遠(yuǎn)無(wú)法企及。他幾乎沒(méi)有遇到科技公司首席執(zhí)行官們宣誓后經(jīng)常遇到的刁鉆問(wèn)題和傲慢刁難。相反，參議員們向 Altman 請(qǐng)教如何監(jiān)管 AI，Altman 熱情地表示贊同。

矛盾在于，無(wú)論像 OpenAI 這樣的公司如何孜孜不倦地對(duì)其產(chǎn)品進(jìn)行重新設(shè)計(jì)，以減少深度偽造、錯(cuò)誤信息和垃圾郵件犯罪等不當(dāng)行為，未來(lái)的模型都有可能變得足夠聰明，從而挫敗那些發(fā)明了這項(xiàng)技術(shù)卻仍然天真地認(rèn)為自己能夠控制它的頭腦簡(jiǎn)單的人類的努力。另一方面，如果他們?cè)诖_保模型安全性方面做得太過(guò)分，可能會(huì)削弱產(chǎn)品的功能，使其變得不那么有用。一項(xiàng)研究表明，安全性能有所提高的最新版 GPT 實(shí)際上比以前的版本更笨，在一些基本的數(shù)學(xué)問(wèn)題上會(huì)出現(xiàn)錯(cuò)誤，而以前的程序卻能應(yīng)對(duì)自如。(Altman 說(shuō)，OpenAI 的數(shù)據(jù)并不能證實(shí)這一點(diǎn)。他問(wèn)道：“那項(xiàng)研究不是被撤回了嗎？沒(méi)有”）。

Altman 將自己定位為監(jiān)管的擁護(hù)者是有道理的；畢竟，他的使命是 AGI，但要安全。批評(píng)者指責(zé)他在玩弄監(jiān)管程序，這樣一來(lái)，監(jiān)管就會(huì)阻礙小型初創(chuàng)企業(yè)的發(fā)展，并給 OpenAI 和其他大型企業(yè)帶來(lái)優(yōu)勢(shì)。Altman 對(duì)此予以否認(rèn)。雖然他原則上贊同由一個(gè)國(guó)際機(jī)構(gòu)來(lái)監(jiān)督 AI 的想法，但他確實(shí)認(rèn)為一些擬議的規(guī)則，比如禁止使用數(shù)據(jù)集中的所有受版權(quán)保護(hù)的材料，構(gòu)成了不公平的障礙。他明確表示，自己沒(méi)有在一封廣泛傳播的敦促暫停開(kāi)發(fā) AI 系統(tǒng)六個(gè)月的信上簽名。但他和 OpenAI 的其他領(lǐng)導(dǎo)人確實(shí)在一份只有一句話的聲明上簽上了自己的名字：“減輕 AI 帶來(lái)的滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一樣，成為全球的優(yōu)先事項(xiàng)?！盇ltman 解釋說(shuō)：“我說(shuō)，是的，我同意。一分鐘討論?！?/span>

正如一位著名的硅谷創(chuàng)始人所指出的：“一個(gè)行業(yè)舉起手說(shuō)'我們將成為人類的終結(jié)者’——然后繼續(xù)興高采烈地開(kāi)發(fā)產(chǎn)品，這種情況是很少見(jiàn)的?！?/span>

OpenAI 拒絕接受這種批評(píng)。Altman 和他的團(tuán)隊(duì)表示，工作和發(fā)布尖端產(chǎn)品是應(yīng)對(duì)社會(huì)風(fēng)險(xiǎn)的途徑。只有通過(guò)分析 ChatGPT 和 GPT-4 用戶對(duì)數(shù)百萬(wàn)條提示的反應(yīng)，他們才能獲得知識(shí)，使未來(lái)的產(chǎn)品符合道德規(guī)范。

盡管如此，隨著公司承擔(dān)更多任務(wù)并將更多精力投入到商業(yè)活動(dòng)中，有人質(zhì)疑 OpenAI 能在多大程度上集中精力完成任務(wù)，尤其是“降低滅絕風(fēng)險(xiǎn)”這一方面。一位 AI 行業(yè)高管說(shuō)，“仔細(xì)想想，他們實(shí)際上在建立五項(xiàng)業(yè)務(wù)。產(chǎn)品本身、與微軟的企業(yè)關(guān)系、開(kāi)發(fā)者生態(tài)系統(tǒng)和應(yīng)用商店。對(duì)了，他們顯然還在進(jìn)行 AGI 研究?！庇猛晡甯种负螅钟檬持讣恿说诹种?。他說(shuō)，“當(dāng)然，他們還在做投資基金，”他指的是一個(gè) 1.75 億美元的項(xiàng)目，旨在為希望利用 OpenAI 技術(shù)的初創(chuàng)企業(yè)提供種子資金?！斑@些都是不同的文化，事實(shí)上，它們與研究任務(wù)相沖突?！?/span>

我曾多次詢問(wèn) OpenAI 的高管，披上產(chǎn)品公司的外衣對(duì)公司文化有何影響。他們無(wú)一例外地堅(jiān)持認(rèn)為，盡管進(jìn)行了營(yíng)利性重組，盡管要與谷歌、Meta 和無(wú)數(shù)初創(chuàng)公司競(jìng)爭(zhēng)，但使命仍然是核心。然而，OpenAI 已經(jīng)發(fā)生了變化。從技術(shù)上講，非營(yíng)利性的董事會(huì)可能是負(fù)責(zé)人，但公司里的每個(gè)人幾乎都是營(yíng)利性的。公司員工包括律師、營(yíng)銷人員、政策專家和用戶界面設(shè)計(jì)師。OpenAI 與數(shù)以百計(jì)的內(nèi)容審核員簽訂了合同，讓他們對(duì)其模型進(jìn)行教育，使其了解對(duì)數(shù)百萬(wàn)用戶提供的提示做出的不恰當(dāng)或有害的回答。該公司的產(chǎn)品經(jīng)理和工程師一直在不斷更新產(chǎn)品，而且似乎每隔幾周就會(huì)向記者展示一次--就像其他以產(chǎn)品為導(dǎo)向的大科技公司一樣。它的辦公室看起來(lái)就像一本《建筑文摘》。我參觀過(guò)硅谷和其他地方的幾乎所有大型科技公司，但沒(méi)有一家公司能超越 OpenAI 舊金山總部大廳的咖啡選擇。

這還不算：很明顯，公司名稱所體現(xiàn)的“開(kāi)放”已經(jīng)不再是公司成立之初提出的徹底透明了。當(dāng)我向 Sutskever 提及此事時(shí)，他聳了聳肩?！帮@然，時(shí)代變了，”他說(shuō)。但他提醒說(shuō)，這并不意味著獎(jiǎng)品已經(jīng)不一樣了?！拔覀兠媾R的是一場(chǎng)巨大的、災(zāi)難性的技術(shù)變革，即使我們都盡了力，也無(wú)法保證成功。但如果一切順利，我們就能過(guò)上不可思議的生活?！?/span>

Altman 說(shuō)：“我怎么強(qiáng)調(diào)都不過(guò)分，我們沒(méi)有總體規(guī)劃。就好像我們轉(zhuǎn)過(guò)每個(gè)角落，用手電筒照亮。我們?cè)敢獯┻^(guò)迷宮到達(dá)終點(diǎn)。雖然迷宮變得曲折，但目標(biāo)并沒(méi)有改變。我們的核心任務(wù)仍然是相信安全的 AGI 是一件極其重要的事情，而這個(gè)世界對(duì)它的重視程度還遠(yuǎn)遠(yuǎn)不夠?！?/span>

與此同時(shí)，OpenAI 顯然在慢慢開(kāi)發(fā)其大型語(yǔ)言模型的下一個(gè)版本。雖然難以置信，但該公司堅(jiān)稱尚未開(kāi)始 GPT-5 的開(kāi)發(fā)工作，而根據(jù)不同的觀點(diǎn)，人們對(duì)該產(chǎn)品要么垂涎三尺，要么望而生畏。顯然，OpenAI 正在努力研究在現(xiàn)有技術(shù)基礎(chǔ)上進(jìn)行指數(shù)級(jí)的強(qiáng)大改進(jìn)究竟是什么樣的。Brockman 說(shuō)：“我們最大的缺憾就是沒(méi)有新的想法。擁有一個(gè)可以成為虛擬助手的東西是件好事。但這不是我們的夢(mèng)想。夢(mèng)想是幫助我們解決我們無(wú)法解決的問(wèn)題。”

考慮到 OpenAI 的歷史，下一系列重大創(chuàng)新可能要等到像 Transformer 那樣的重大突破出現(xiàn)。Altman 希望 OpenAI 能實(shí)現(xiàn)這一目標(biāo)——“我們希望成為世界上最好的研究實(shí)驗(yàn)室”，他說(shuō)，但即使不能，他的公司也會(huì)利用他人的進(jìn)步，就像利用谷歌的工作一樣。他說(shuō)：“世界各地的很多人都將從事重要的工作?！?/span>

如果生成式 AI 本身不產(chǎn)生那么多新問(wèn)題，也會(huì)有所幫助。例如，大型語(yǔ)言模型需要在龐大的數(shù)據(jù)集上進(jìn)行訓(xùn)練；顯然，最強(qiáng)大的大型語(yǔ)言模型會(huì)吞噬整個(gè)互聯(lián)網(wǎng)。這讓一些創(chuàng)作者和普通人很不高興，他們?cè)诓恢挥X(jué)中為這些數(shù)據(jù)集提供了內(nèi)容，并在某種程度上為 ChatGPT 的產(chǎn)出做出了貢獻(xiàn)。今年 3 月正式加入 OpenAI 的知識(shí)產(chǎn)權(quán)精英律師 Tom Rubin 樂(lè)觀地認(rèn)為，公司最終會(huì)找到一個(gè)平衡點(diǎn)，既滿足自己的需求，也滿足創(chuàng)作者的需求——包括像喜劇演員 Sarah Silverman 這樣起訴 OpenAI 使用其內(nèi)容訓(xùn)練模型的創(chuàng)作者。OpenAI 的發(fā)展方向之一是：與美聯(lián)社和 Shutterstock 等新聞和圖片機(jī)構(gòu)合作，為其模型提供內(nèi)容，而不存在誰(shuí)擁有誰(shuí)的問(wèn)題。

在我采訪 Rubin 的過(guò)程中，我的思緒在大型語(yǔ)言模型中從未見(jiàn)過(guò)的人類思維中飄忽不定，我在想這家公司在短短八年時(shí)間里從一群舉步維艱的研究人員變成了改變世界的普羅米修斯巨獸。它的成功使它從一個(gè)為實(shí)現(xiàn)科學(xué)目標(biāo)而做出的新穎努力，轉(zhuǎn)變?yōu)橐粋€(gè)類似于標(biāo)準(zhǔn)的硅谷獨(dú)角獸的公司，正在躋身于影響我們?nèi)粘Ｉ畹拇罂萍脊镜男辛小Ｔ谶@里，我與它的主要雇員之一，一位律師，談?wù)摰牟皇巧窠?jīng)網(wǎng)絡(luò)權(quán)重或計(jì)算機(jī)基礎(chǔ)設(shè)施，而是版權(quán)和合理使用。我不禁要問(wèn)，這位知識(shí)產(chǎn)權(quán)專家是否也像當(dāng)初推動(dòng)公司發(fā)展的那些追求超級(jí)智能的航海家一樣，加入了公司的使命？

當(dāng)我問(wèn) Rubin，他是否堅(jiān)信 AGI 一定會(huì)實(shí)現(xiàn)，以及他是否渴望讓它實(shí)現(xiàn)時(shí)，他顯得很茫然。他停頓了一下說(shuō)：“我甚至無(wú)法回答這個(gè)問(wèn)題?！碑?dāng)被進(jìn)一步追問(wèn)時(shí)，他澄清說(shuō)，作為一名知識(shí)產(chǎn)權(quán)律師，他的工作并不是加速實(shí)現(xiàn)令人恐怖的智能計(jì)算機(jī)。他最后說(shuō)：“從我的角度來(lái)看，我對(duì)此充滿期待。”

未來(lái)智能實(shí)驗(yàn)室的主要工作包括：建立AI智能系統(tǒng)智商評(píng)測(cè)體系，開(kāi)展世界人工智能智商評(píng)測(cè)；開(kāi)展互聯(lián)網(wǎng)（城市）大腦研究計(jì)劃，構(gòu)建互聯(lián)網(wǎng)（城市）大腦技術(shù)和企業(yè)圖譜，為提升企業(yè)，行業(yè)與城市的智能水平服務(wù)。每日推薦范圍未來(lái)科技發(fā)展趨勢(shì)的學(xué)習(xí)型文章。目前線上平臺(tái)已收藏上千篇精華前沿科技文章和報(bào)告。

本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊舉報(bào)。

中文字幕理论片,69视频免费在线观看,亚洲成人app,国产1级毛片,刘涛最大尺度戏视频,欧美亚洲美女视频,2021韩国美女仙女屋vip视频