研究人員將統(tǒng)計和符號人工智能技術結合起來，以加快學習速度和提高透明度。
Researchers combine statistical and symbolic artificial intelligence techniques to speed learning and improve transparency.
Kim Martineau | 麻省理工學院 探索智能
本文由CDA數(shù)據(jù)分析研究院編譯出品
研究人員訓練了一個混合人工智能模型來回答這樣的問題：“綠色立方體左邊的紅色物體與紫色啞光物體形狀相同嗎？”“通過給它提供包含顏色和形狀的樣本，然后是涉及多對象比較的更復雜的場景。該模型可以將這些知識轉移到新的場景中，也比使用部分訓練數(shù)據(jù)的進行訓練的最先進的模型要好。
一個從未見過粉紅大象的孩子仍然可以描述一只粉紅色的大象---“不像電腦”。麻省理工學院(MIT)博士生吳嘉君(Jiajun Wu)說：“計算機是從數(shù)據(jù)中學習的?！薄皩C器來說，能夠概括和識別你從未見過的東西，比如粉紅色的大象-是非常困難的?！?/p>
深度學習系統(tǒng)通過挑選出數(shù)據(jù)中包含的某種統(tǒng)計信息來解釋世界。這種機器學習方式現(xiàn)在隨處可見，在Facebook上給朋友自動貼上標簽，講述亞歷克莎最新的天氣預報，并通過谷歌搜索提供有趣的事情。但是統(tǒng)計學習有其局限性。它需要大量的數(shù)據(jù)，很難解釋為什么會是這樣的，并且很難將過去的知識應用到新的環(huán)境中；比如它無法理解一只粉紅而不是灰色的大象。
為了讓計算機有能力像我們一樣進行推理，人工智能(AI)的研究人員又回到了抽象的或象征性的編程模式中。20世紀50年代和60年代，符號AI將規(guī)則和邏輯連接起來，允許機器進行比較，并解釋物體和實體之間的聯(lián)系。符號AI使用較少的數(shù)據(jù)，記錄它所采取的一系列步驟來達成一個決定，當它與統(tǒng)計神經(jīng)網(wǎng)絡的野蠻處理能力相結合時，它甚至可以在復雜的圖像理解測試中擊敗人類。
麻省理工學院IBM沃森人工智能實驗室和DeepMind的一組研究人員進行的一項新研究表明，將統(tǒng)計人工智能和符號人工智能結合在一起是有希望的。在麻省理工學院腦和認知科學系以及計算機科學和人工智能實驗室的教授吳宇森和 Joshua Tenenbaum 的帶領下，研究表明，其混合模型可以學習與物體相關的概念，如顏色和形狀，并利用這些知識來解釋場景中復雜的物體關系。他們的模型只需要很少的訓練數(shù)據(jù)，沒有明確的編程，就可以將模型遷移到更大的場景中，并能回答越來越棘手的問題，甚至比其最先進的同行更好。該小組在5月舉行的國際學習代表大會上介紹了其成果。
“孩子們學習概念的一種方式是把文字和圖像聯(lián)系起來，”該研究的主要作者、清華大學的本科生、麻省理工學院的訪問學者毛家源說?！澳軌蛞酝瑯拥姆绞綄W習的機器需要的數(shù)據(jù)少得多，而且能夠更好地將其知識遷移到新的場景中?！?/p>
雅各布·安德烈亞斯（Jacob Andreas）說，這項研究是回歸抽象程序方法的有力論據(jù)，他是加利福尼亞大學伯克利分校（University of California at Berkeley）的一名畢業(yè)生，今年秋天開始在麻省理工學院（MIT）擔任助理教授，并未參與這項工作。他說：“事實證明，訣竅在于增加更多的符號結構，并向神經(jīng)網(wǎng)絡提供一種世界的表示，這種世界被劃分為對象和屬性，而不是給它提供原始圖像?！薄斑@項工作讓我們了解在語言學習成為可能之前，機器需要了解什么?！?/p>
研究小組將他們的模型訓練在與相關問題和答案配對的圖像上，這是斯坦福大學開發(fā)的CLEVR圖像理解測試的一部分。隨著模型的學習，問題越來越難回答，“物體的顏色是什么？”“到”綠色圓柱體右側有多少個物體，與藍色小球的材質相同嗎？“一旦掌握了對象級的概念，模型就開始學習如何將對象及其屬性相互關聯(lián)。
像其他混合人工智能模型一樣，麻省理工的工作就是將任務分解。神經(jīng)網(wǎng)絡的感知模塊對每幅圖像中的像素進行處理，并繪制出物體的地圖。語言模塊，也由神經(jīng)網(wǎng)絡組成，從每個句子中的單詞中提取意義，并創(chuàng)建符號程序或指令，告訴機器如何回答問題。第三個推理模塊在現(xiàn)場運行符號程序并給出答案，當模型出錯時更新模型。
團隊方法的關鍵是一個感知模塊，它將圖像轉換為基于對象的表示，使程序更容易執(zhí)行。同樣獨特的是他們所說的課程學習，或選擇性地訓練模式的概念和場景，逐步增長的難度。事實證明，以合乎邏輯的方式而不是隨意地輸入數(shù)據(jù)有助于模型更快地學習，同時提高準確性。
一旦模型有了堅實的基礎，它就可以解釋新的場景和概念，以及越來越難的問題，這幾乎是完美的。被要求回答一個不熟悉的問題，比如，“大黃色物體的形狀是什么？”它的訓練數(shù)據(jù)比斯坦福大學和附近的麻省理工林肯實驗室的同行要少，但是效果上是更好的。
當其他模型接受了70000張圖片和700000個問題的完整CLEVR數(shù)據(jù)集進行訓練時，MIT-IBM模型使用了5000張圖片和100000個問題。由于模型建立在先前學習的概念之上，它吸收了每個問題的基礎程序，所以加快了訓練過程。
雖然在統(tǒng)計上，深度學習模型現(xiàn)在已經(jīng)嵌入日常生活中，但它們的決策過程中的大部分仍然隱藏在視野之外。由于缺乏透明度，很難預測系統(tǒng)易受操縱、錯誤或偏差的影響。添加一個符號層可以打開黑匣子，解釋混合人工智能系統(tǒng)日益增長的興趣。
林肯實驗室研究員大衛(wèi)·馬斯卡卡（David Mascharka）說：“將任務分解，讓程序完成一些工作，是將可解釋性構建成深度學習模型的關鍵。”他的混合模型“透明設計網(wǎng)絡”（Transparency by Design Network）是麻省理工學院-IBM研究的基準。
MIT-IBM團隊現(xiàn)在正致力于改進模型在真實照片上的性能，并將其擴展到視頻理解和機器人操作。這項研究的其他作者分別是麻省理工學院-IBM沃森人工智能實驗室和DeepMind的研究員莊根（Chuang Gan）和普希梅特·科利（Pushmeet Kohli）。
原標題：Teaching machines to reason about what they see
聯(lián)系客服
