中文字幕理论片,69视频免费在线观看,亚洲成人app,国产1级毛片,刘涛最大尺度戏视频,欧美亚洲美女视频,2021韩国美女仙女屋vip视频

來(lái)源：arXv.org

譯者：王婉婷

【新智元導(dǎo)讀】紐約大學(xué)的B. Lake、MIT的J. Tenenbaum等人2015年底在《科學(xué)》刊發(fā)封面論文，描述“看一眼便能學(xué)會(huì)寫(xiě)字”的計(jì)算機(jī)。Lake、Tenenbaum等人今年4月又出力作，結(jié)合神經(jīng)網(wǎng)絡(luò)最新進(jìn)展與更為結(jié)構(gòu)化的認(rèn)知模型，提出搭建類人學(xué)習(xí)計(jì)算機(jī)的一些可行方法。論文強(qiáng)調(diào)了降低訓(xùn)練數(shù)據(jù)量以及加強(qiáng)任務(wù)遷移，并預(yù)見(jiàn)了這些因素會(huì)如何推進(jìn)核心人工智能的實(shí)際應(yīng)用。

搭建像人類一樣學(xué)習(xí)和思考的機(jī)器

Building Machines That Learn and Think Like People

作者：Brenden M. Lake, Tomer D. Ullman, Joshua B. Tenenbaum, Samuel J. Gershman

下載論文請(qǐng)關(guān)注新智元微信公眾號(hào)（AI_era），回復(fù)“0501”。

最近在人工智能方面的進(jìn)展重新激起了人們對(duì)于搭建像人類一樣學(xué)習(xí)和思考的機(jī)器的興趣。許多進(jìn)展都來(lái)自于在物體識(shí)別、視頻游戲、桌面游戲之類的任務(wù)中運(yùn)用深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練的端到端系統(tǒng)，這讓系統(tǒng)在某些方面的表現(xiàn)達(dá)到了與人類相似、甚至超過(guò)人類的水平。盡管這些系統(tǒng)是基于生物學(xué)上的啟示而搭建的、也取得了不錯(cuò)的表現(xiàn)，但是它們與人類智力在一些重要的方面仍然是有所區(qū)別的。除了目前工程方面在機(jī)器學(xué)習(xí)什么與機(jī)器如何學(xué)習(xí)這兩個(gè)問(wèn)題上的趨勢(shì)之外，真正的像人類一樣學(xué)習(xí)和思考的機(jī)器還可以做到什么樣的地步？我們回顧了認(rèn)知科學(xué)中與此有關(guān)的一些進(jìn)展并提出，這些機(jī)器應(yīng)該

1. 為世界建立支持解釋與理解的因果模型，而不僅僅是解決模式識(shí)別問(wèn)題；

2. 基于物理學(xué)和心理學(xué)中的直覺(jué)性理論，學(xué)習(xí)之后能支持并拓展學(xué)習(xí)到的知識(shí)；

3. 利用組合性（compositionality）與學(xué)習(xí)如何學(xué)習(xí)的方法（learning-to-learn）來(lái)快速獲取知識(shí)、快速將知識(shí)泛化到新的任務(wù)與情境中。

將神經(jīng)網(wǎng)絡(luò)近期的進(jìn)展與更為結(jié)構(gòu)化的認(rèn)知模型相結(jié)合，我們提出了通往這些目標(biāo)的切實(shí)挑戰(zhàn)與充滿希望的途徑。

1. 簡(jiǎn)介

人工智能一直以來(lái)都是繁榮與破滅交替更迭的情況，不過(guò)，無(wú)論采用哪一種傳統(tǒng)上對(duì)于成功的衡量標(biāo)準(zhǔn)，過(guò)去的幾年都可以說(shuō)是不尋常的成績(jī)。其中大部分進(jìn)展來(lái)自于最近在“深度學(xué)習(xí)”——以使用多層表征來(lái)學(xué)習(xí)大型神經(jīng)網(wǎng)絡(luò)風(fēng)格的模型為特征——方面的進(jìn)步。這些模型已經(jīng)在許多領(lǐng)域取得了相當(dāng)值得稱道的成果，包括物體識(shí)別、語(yǔ)音識(shí)別、控制等等。在物體識(shí)別方面，Krizhevsky、Sutskever與Hinton（2012）訓(xùn)練了一個(gè)深度卷積神經(jīng)網(wǎng)絡(luò)（convnets），使得在目前最具挑戰(zhàn)性的基準(zhǔn)測(cè)試指標(biāo)上，相比于原先最先進(jìn)的模型，錯(cuò)誤率降低了接近一半。在自動(dòng)語(yǔ)音識(shí)別方面，隱馬爾可夫模型（HMMs）自1980年代晚期以來(lái)成為主流方法，然而這個(gè)框架被逐步瓦解、改換為深度學(xué)習(xí)的元素?，F(xiàn)在，語(yǔ)音識(shí)別方面最重要的方法全部都是神經(jīng)網(wǎng)絡(luò)系統(tǒng)。深度學(xué)習(xí)引發(fā)的一些想法也被應(yīng)用在學(xué)習(xí)復(fù)雜控制問(wèn)題方面。V. Mnih等人（2015）融合了深度學(xué)習(xí)與強(qiáng)化學(xué)習(xí)方面的想法，構(gòu)建了一種“深度強(qiáng)化學(xué)習(xí)”算法，能夠從簡(jiǎn)單的像素邊框和游戲分?jǐn)?shù)中學(xué)習(xí)怎么玩許多簡(jiǎn)單的視頻游戲，并在其中許多游戲中都取得了人類水平或是超越人類水平的表現(xiàn)。

這些成就令神經(jīng)網(wǎng)絡(luò)重新回到了機(jī)器學(xué)習(xí)領(lǐng)域中執(zhí)牛耳的地位——就像它們?cè)t極一時(shí)的20世紀(jì)80年代晚期和90年代早期一樣。神經(jīng)網(wǎng)絡(luò)在近期的成功受到了學(xué)術(shù)界的矚目。在業(yè)界，Google和Facebook之類的公司都擁有活躍的研究機(jī)構(gòu)在探索這些技術(shù)，而基于深度學(xué)習(xí)的物體及語(yǔ)音識(shí)別系統(tǒng)已經(jīng)被部署到了網(wǎng)頁(yè)和智能手機(jī)平臺(tái)的核心產(chǎn)品之中。媒體也報(bào)道了神經(jīng)網(wǎng)絡(luò)的許多近期進(jìn)展，通常在表達(dá)這樣一種觀點(diǎn)：神經(jīng)網(wǎng)絡(luò)能取得近期這樣的成就是由于它們使用了類似于人類大腦的計(jì)算方式以及由此具備的模仿人類學(xué)習(xí)和人類認(rèn)知的能力。

對(duì)于機(jī)器來(lái)說(shuō)，像人類一樣學(xué)習(xí)或是思考意味著什么？在這篇文章中，我們將這種熱潮視為一個(gè)機(jī)會(huì)來(lái)思考這個(gè)問(wèn)題。我們首先回顧了之前由認(rèn)知科學(xué)家、發(fā)展心理學(xué)家、以及人工智能研究者提出的一些標(biāo)準(zhǔn)。然后，整合認(rèn)知科學(xué)方面的理論思想和研究數(shù)據(jù)，提出了我們認(rèn)為搭建這種能夠像人類一樣學(xué)習(xí)或是思考的機(jī)器時(shí)所必須的因素。接著，根據(jù)這些必要因素，我們審視了當(dāng)前的人工智能（特別是深度學(xué)習(xí)），發(fā)現(xiàn)深度學(xué)習(xí)模型尚未包括其中的許多元素，因此在解決一些問(wèn)題上可能使用的方式與人類十分迥異。最后，我們討論了我們認(rèn)為的最有可能通往像人類一樣學(xué)習(xí)和思考的機(jī)器的途徑。

除了我們提到的必要因素以外，我們還得出了通往智力的兩種不同計(jì)算方法之間的更寬泛的區(qū)別。統(tǒng)計(jì)學(xué)上的模式識(shí)別方法，包括許多為分類任務(wù)而訓(xùn)練的深度學(xué)習(xí)算法，將數(shù)據(jù)中的模式作為思考的第一要點(diǎn)。從這個(gè)角度出發(fā)，學(xué)習(xí)是探索這些模式的過(guò)程，通常通過(guò)許多層的特征提取來(lái)達(dá)到目標(biāo)，而模式識(shí)別的操作化表現(xiàn)則是識(shí)別和分類。另一種方法將世界的模型（models of the world）視為第一要點(diǎn)，學(xué)習(xí)是建立模型的過(guò)程。認(rèn)知和思考關(guān)于的是使用這些模型來(lái)理解世界、解釋所見(jiàn)之物、想象本可能發(fā)生卻未發(fā)生之事、想象本可能為真卻未為真之事、隨后規(guī)劃行動(dòng)來(lái)達(dá)到改變的目的。模式識(shí)別和模型建立之間的區(qū)別，預(yù)測(cè)和解釋之間的區(qū)別，對(duì)于我們對(duì)人類智力的看法是至關(guān)重要的。就像科學(xué)家尋求解釋自然、而不僅僅是預(yù)測(cè)自然一樣，我們將人類智力視為一種建立模型的活動(dòng)，在隨后的文章中用了大量例子闡述這個(gè)重要的觀點(diǎn)。

1.2 重要觀點(diǎn)概觀

這篇文章的中心目標(biāo)是為建立學(xué)習(xí)和思考方面更接近人類的機(jī)器而提出其所必須的一組核心因素。我們將在Section 4中詳細(xì)解釋其中每一種因素和每一個(gè)話題，在這里我們簡(jiǎn)要地做一個(gè)概覽。

第一組因素聚焦于兒童發(fā)展中的“起始軟件（start-up software）”，或者說(shuō)兒童發(fā)展中較早表現(xiàn)出來(lái)的認(rèn)知能力。聚焦于兒童發(fā)展是有一些原因在的。如果一個(gè)因素在發(fā)展早期就表現(xiàn)了出來(lái)，那么遠(yuǎn)遠(yuǎn)早于一個(gè)兒童或是成年人嘗試學(xué)習(xí)這篇文章中討論到的任務(wù)類型之前，這個(gè)因素就已經(jīng)是活躍的、存在的了。這一點(diǎn)不會(huì)有錯(cuò)，無(wú)論這種早期表現(xiàn)出來(lái)的因素是兒童從經(jīng)驗(yàn)中學(xué)習(xí)到的或者是天生就具有的。不僅如此，因素表現(xiàn)出來(lái)的時(shí)間越早，它就越有可能對(duì)于兒童后續(xù)發(fā)展和學(xué)習(xí)有根本性作用。

我們聚焦于兩類發(fā)展中的起始軟件。第一類是直覺(jué)性物理學(xué)：嬰兒具有一種原始的物體觀念，這讓他們能夠隨著時(shí)間而跟蹤物體軌跡、不去相信物理意義上不存在的移動(dòng)軌跡。例如，嬰兒知道即使時(shí)間變化，物體仍將始終存在。人無(wú)需在每個(gè)新任務(wù)中重新學(xué)習(xí)這些原則，因此學(xué)習(xí)速度非?？?，并且能做出很準(zhǔn)確的預(yù)測(cè)。第二類在早期發(fā)展中表現(xiàn)出來(lái)的軟件是直覺(jué)性心理學(xué)：嬰兒知道其他人有目標(biāo)和信仰之類的精神狀態(tài)（mental states），而這種了解極強(qiáng)地約束了他們的學(xué)習(xí)和預(yù)測(cè)方向。一個(gè)看著別人玩視頻游戲的兒童能夠推理出游戲中被操縱的虛擬角色有對(duì)應(yīng)的現(xiàn)實(shí)中的操縱者，并且這個(gè)虛擬角色試圖獲得獎(jiǎng)勵(lì)、避免懲罰。這種推理迅速約束了其他推理，讓這個(gè)兒童能推理出游戲中什么東西是好的、什么東西是不好的。這類推理進(jìn)一步加快了學(xué)習(xí)新任務(wù)的速度。

我們的第二組因素聚焦于學(xué)習(xí)。我們將學(xué)習(xí)視為一種建立模型的形式，或者說(shuō)通過(guò)為世界建立因果模型來(lái)解釋觀測(cè)到的數(shù)據(jù)。很重要的一點(diǎn)是，幼兒在直覺(jué)性物理學(xué)和直覺(jué)性心理學(xué)方面起初具備的核心能力就是建立世界的因果模型（causal models of the world）。學(xué)習(xí)的首要任務(wù)是拓展這些模型并讓它們更為豐富，并在其他領(lǐng)域中建立起相似的具有結(jié)構(gòu)化因果的直覺(jué)性理論——一些可能由于某些原因而沒(méi)有讓我們與生俱來(lái)的直覺(jué)性理論。

與機(jī)器學(xué)習(xí)領(lǐng)域中最先進(jìn)的算法相比，人類的學(xué)習(xí)在豐富程度和效率上都是有所區(qū)別的。兒童有能力和欲望去探索觀察次數(shù)不多的事件背后的因果關(guān)系、并使用這種知識(shí)來(lái)繞過(guò)數(shù)據(jù)缺乏問(wèn)題。人們能夠從非常有限的經(jīng)驗(yàn)中學(xué)習(xí)到這些非常結(jié)構(gòu)化的模型，這看起來(lái)似乎是自相矛盾的。與典型的神經(jīng)網(wǎng)絡(luò)不同，這些表征通常是符號(hào)式的、并且具有相關(guān)性，這意味著大腦不太可能只依賴于基于梯度的學(xué)習(xí)技巧——大腦需要努力解決模型建立和理論學(xué)習(xí)所結(jié)合的復(fù)合復(fù)雜度。我們認(rèn)為組合性和學(xué)習(xí)如何學(xué)習(xí)的方法是使得這種快速模型學(xué)習(xí)成為可能的因素。

最后一組因素考慮的是我們大腦建立的豐富模型要如何實(shí)時(shí)應(yīng)用到行動(dòng)上。我們看到并行動(dòng)的速度非常之快。人們能夠在幾分之一秒里感知到一個(gè)全新的場(chǎng)景或是一種全新的說(shuō)話方式，這肯定是一個(gè)大部分前饋（feedforward）的過(guò)程。在機(jī)器視覺(jué)和語(yǔ)音系統(tǒng)中使用神經(jīng)網(wǎng)絡(luò)的主要?jiǎng)訖C(jī)之一是達(dá)到像大腦一樣的響應(yīng)速度。雖然神經(jīng)網(wǎng)絡(luò)通常的目標(biāo)是模式識(shí)別而不是模型建立，我們將會(huì)討論這些“與模型無(wú)關(guān)”的方法如何通過(guò)學(xué)習(xí)識(shí)別基于模型的推理中的模式、隨后無(wú)需歷經(jīng)成本高昂的中介步驟而直接預(yù)測(cè)推理的輸出結(jié)果，以此來(lái)加速感覺(jué)和認(rèn)知領(lǐng)域中原本速度較慢的基于模型的推理。將“學(xué)習(xí)執(zhí)行推理”的神經(jīng)網(wǎng)絡(luò)與建立豐富模型的學(xué)習(xí)機(jī)制相整合，為我們提供了一條充滿潛力的途徑來(lái)揭示人類的心智為何能將這個(gè)世界理解得如此好、如此快。

我們將會(huì)討論在強(qiáng)化學(xué)習(xí)中如何將基于模型的方法和與模型無(wú)關(guān)的方法相整合——這是一個(gè)近期涌現(xiàn)出快速進(jìn)展的領(lǐng)域。一旦學(xué)習(xí)到了一個(gè)任務(wù)的因果模型，人類就能運(yùn)用這個(gè)模型來(lái)規(guī)劃最大化未來(lái)回報(bào)的行動(dòng)；如果用回報(bào)來(lái)衡量模型建立的成功程度，這就是基于模型的強(qiáng)化學(xué)習(xí)。然而，在復(fù)雜模型中進(jìn)行規(guī)劃很麻煩、速度也很慢，速度與準(zhǔn)確率的權(quán)衡讓實(shí)時(shí)控制無(wú)法偏向這種方法。相反，與模型無(wú)關(guān)的強(qiáng)化學(xué)習(xí)算法——比如目前運(yùn)用深度強(qiáng)化學(xué)習(xí)的例子——能夠支持快速控制，但是代價(jià)是缺乏彈性、降低了可能的準(zhǔn)確率。我們將會(huì)回顧人類既競(jìng)爭(zhēng)又合作地將基于模型的算法和與模型無(wú)關(guān)的算法相結(jié)合、而這些交互受到元認(rèn)知過(guò)程的監(jiān)督的證據(jù)。像人類一樣的強(qiáng)化學(xué)習(xí)的精妙之處尚未在AI系統(tǒng)中得到實(shí)現(xiàn)，但是這是一個(gè)認(rèn)知方法與工程方法的交融可能會(huì)帶來(lái)極大潛力的領(lǐng)域。

2. 人工智能中的認(rèn)知與神經(jīng)啟示

3. 制造類人機(jī)器人的難點(diǎn)

4. 人類智能的核心組成要素

5. 討論

6.1 深度學(xué)習(xí)有前景的研究方向

6.2 未來(lái)對(duì)于實(shí)際AI問(wèn)題的應(yīng)用

在這篇文章中，我們提出了一些搭建學(xué)習(xí)和思考方式更像人類的計(jì)算模型的要素。我們?cè)谖恼缕蟛糠纸忉屃诉@些原則，特別強(qiáng)調(diào)了降低需要的訓(xùn)練數(shù)據(jù)量以及加強(qiáng)向全新但相關(guān)的任務(wù)的遷移。我們也預(yù)見(jiàn)了這些因素會(huì)以什么樣的方式為核心人工智能問(wèn)題在實(shí)際應(yīng)用上帶來(lái)進(jìn)展。在這里，我們提供了一些關(guān)于這些應(yīng)用的推測(cè)：

1. 場(chǎng)景理解。深度學(xué)習(xí)不止步于物體識(shí)別，它在向著場(chǎng)景理解前行；最近一陣子聚焦于為圖片生成自然語(yǔ)言描述的工作可以作為證明。但是目前的算法仍然更擅長(zhǎng)識(shí)別物體而不是理解場(chǎng)景，它們通常能正確分辨出關(guān)鍵物體，但會(huì)弄錯(cuò)關(guān)鍵物體之間的因果關(guān)系（見(jiàn)圖6）。我們認(rèn)為，要獲得真正的場(chǎng)景識(shí)別能力，組合性、因果性、直覺(jué)性物理學(xué)、以及直覺(jué)性心理學(xué)正扮演著越來(lái)越重要的角色。例如，想象一下一個(gè)混亂的車庫(kù)工作間：螺絲起子和錘子掛在墻上，木塊與工具搖搖晃晃地堆疊在工作臺(tái)上，棚架材料和箱子構(gòu)成了這幅場(chǎng)景。為了讓一個(gè)自主化代理（agent）能夠高效地在這樣的場(chǎng)景中行駛并完成任務(wù)，它需要具有直覺(jué)性物理學(xué)的能力，能恰當(dāng)?shù)貙?duì)穩(wěn)定性和支持能力進(jìn)行推理。這個(gè)場(chǎng)景的整體模型則需要將不同個(gè)體的物體模型根據(jù)關(guān)系進(jìn)行組合。最后，因果性有助于在對(duì)于現(xiàn)有工具的識(shí)別（或者是對(duì)于新工具的學(xué)習(xí)）之外更具有理解工具用途的能力，使得能夠以恰當(dāng)?shù)姆绞綄⒉煌奈矬w模型聯(lián)系在一起（例如，用錘子將釘子敲打進(jìn)墻面中，或是用鋸木架架著一段正在被鋸子鋸開(kāi)的橫梁）。如果場(chǎng)景中包含人類的行動(dòng)或是交互，不去思考他們的想法——特別是他們針對(duì)他們相信存在于場(chǎng)景中的其他物體和代理（agent）的目標(biāo)和意圖——就想要理解他們的行為，是一件近乎不可能的事。

2. 自主化代理和智能裝置。機(jī)器人和個(gè)人助理（比如手機(jī)）無(wú)法被預(yù)先訓(xùn)練到所有他們可能遇到的概念。就像兒童學(xué)習(xí)新詞匯的含義一樣，一個(gè)智能并且具有適應(yīng)性的系統(tǒng)應(yīng)該有能力從在環(huán)境中自然遇到的少量的例子中學(xué)習(xí)新概念。通常的概念類型包括新的口語(yǔ)詞匯（比如“Ban Ki-Moon”或是“Kofi Annan”之類的名字）、新的姿勢(shì)（一種特別的握手方式、或者用拳頭互相輕擊）、以及新的活動(dòng)，而一個(gè)像人類一樣的系統(tǒng)將能從少量例子中學(xué)習(xí)識(shí)別和產(chǎn)生新例子。就像識(shí)別手寫(xiě)字母的系統(tǒng)一樣，借助于背后隱含的因果過(guò)程和學(xué)習(xí)如何學(xué)習(xí)的方法，系統(tǒng)可能能夠通過(guò)原先的基本動(dòng)作（primitive actions）而快速學(xué)習(xí)到新概念。

3. 自動(dòng)化駕駛。完美的自動(dòng)化駕駛需要直覺(jué)性心理學(xué)。除了探測(cè)和避讓行人之外，自動(dòng)駕駛汽車可以通過(guò)推測(cè)行人的精神狀態(tài)（mental states）——包括他們的信念（例如，他們覺(jué)得穿過(guò)馬路是安全的嗎？他們是否投入了注意力？）和欲望（例如，他們想要去哪里？他們想不想過(guò)馬路？他們是在取回掉在街上的球嗎？）——來(lái)更準(zhǔn)確地預(yù)測(cè)他們的行為。相似地，道路上的其他司機(jī)在行為背后也有相似的復(fù)雜的精神狀態(tài)（例如，他們想要變換車道嗎？要超車？他們是在為了避讓前方的危險(xiǎn)而緊急轉(zhuǎn)向嗎？他們是否注意力分散了？）這類心理學(xué)推理，以及其他類型的基于模型的因果推理和物理學(xué)推理，有可能在具有挑戰(zhàn)性的駕駛情境和全新的駕駛情景中具有特別高的價(jià)值，因?yàn)閹缀鯖](méi)有相關(guān)的訓(xùn)練數(shù)據(jù)（例如，在不尋常的修路區(qū)中或是自然災(zāi)害情境下行駛）。

4. 創(chuàng)造性設(shè)計(jì)。創(chuàng)造力通常被認(rèn)為是人類智力的巔峰：大廚設(shè)計(jì)新的菜肴，音樂(lè)家編寫(xiě)新的歌曲，建筑師設(shè)計(jì)新的建筑，企業(yè)家開(kāi)展新的業(yè)務(wù)。雖然我們距離研發(fā)出能夠解決這類任務(wù)的AI系統(tǒng)仍然很遙遠(yuǎn)，我們認(rèn)為組合性和因果性對(duì)于達(dá)到這個(gè)目標(biāo)來(lái)說(shuō)至關(guān)重要。許多尋?？梢?jiàn)的創(chuàng)造行為是組合性的，也就是說(shuō)它們是對(duì)于耳熟能詳?shù)母拍罨蛳敕ㄟM(jìn)行了出人意料的組合。就像圖1-4里展示的那樣，新的汽車能夠通過(guò)組合已有汽車的各個(gè)部分被創(chuàng)造出來(lái)，新的字母可以是風(fēng)格相似的字母的各個(gè)部分的組合，熟悉的字母也能以新風(fēng)格重構(gòu)。在每個(gè)例子中，僅僅自由地對(duì)部分進(jìn)行組合是不夠的：組合性和學(xué)習(xí)如何學(xué)習(xí)的方法能夠提供新想法的碎片，而因果性提供的是給予這些碎片連貫性和意義的膠水。