多年前，AI 領(lǐng)域曾發(fā)生過一件荒唐而有趣的事情。
據(jù)說，研究人員開發(fā)了一種對(duì)醫(yī)院數(shù)據(jù)進(jìn)行訓(xùn)練的算法。這個(gè)算法發(fā)現(xiàn)，「患有哮喘的肺炎患者的治愈表現(xiàn)，比沒有哮喘的肺炎患者更好」，因此這個(gè)算法向醫(yī)院建議「不要收治那些患有哮喘的人」。之所以得出這種荒唐的結(jié)論，那是因?yàn)椤杆箾]有理解出現(xiàn)「這種現(xiàn)象」的原因：患有哮喘的肺炎患者得到了額外的醫(yī)療照顧。
人類和動(dòng)物認(rèn)知的核心是對(duì)因果關(guān)系的理解：「事情為什么會(huì)發(fā)生」以及「我們?nèi)绾斡绊懯澜纭埂?/span>幾十年過去了，大多數(shù)人工智能仍然缺乏「識(shí)別數(shù)據(jù)中的模式和相關(guān)性」的這種能力。
如果不了解因果關(guān)系，AI 可能永遠(yuǎn)無法弄清楚很多事情（例如導(dǎo)致疾病的因素），我們可能也永遠(yuǎn)無法正確解釋概括它（例如深度神經(jīng)網(wǎng)絡(luò)輸出）。為 AI 提供因果推理，不僅可以使 AI 更具可解釋性，而且還可以使 AI 更加穩(wěn)健、公平，并且——也許是最深刻的——可概括。
為了達(dá)成這一目的，計(jì)算機(jī)科學(xué)家需要教計(jì)算機(jī)以一種新的方式看待世界：將世界看作由「潛在機(jī)制驅(qū)動(dòng)」的現(xiàn)象，即使是在這些機(jī)制無法從數(shù)據(jù)中得出的情況下。
「我們正在采取科學(xué)假設(shè)并將其數(shù)學(xué)化。」
最近，哥倫比亞大學(xué)計(jì)算機(jī)科學(xué)副教授兼哥倫比亞因果人工智能實(shí)驗(yàn)室負(fù)責(zé)人 Elias Bareinboim 開發(fā)了一種方法。該方法用于決定，在一種環(huán)境中有效的干預(yù)措施是否適用于另一種環(huán)境，是一種廣義智能。
如果我們知道醫(yī)療程序可以幫助一家醫(yī)院的人，它可能會(huì)告訴我們?cè)摮绦蚴欠襁m用于不同的患者群體；如果我們知道機(jī)器人可以在加利福尼亞沙漠中航行，它可能會(huì)告訴我們機(jī)器人是否可以在火星上運(yùn)行；它也可能告訴我們需要進(jìn)行更多的實(shí)驗(yàn)。在特定數(shù)據(jù)集上訓(xùn)練的算法在實(shí)際部署應(yīng)用時(shí)經(jīng)常會(huì)失敗，那是因?yàn)轭愃埔陨弦蚬壿嬘?xùn)練的缺失。提前發(fā)現(xiàn)此類問題，可以改進(jìn)訓(xùn)練過程；也可以根據(jù)問題，建議限制人工智能在何時(shí)何地可以被信任。
Elias Bareinboim 哥倫比亞因果人工智能實(shí)驗(yàn)室負(fù)責(zé)人
一方面
總結(jié)經(jīng)驗(yàn)教訓(xùn)是人類的老伎倆，Elias Bareinboim 也借鑒了人類的策略。「孩子們一種常見的學(xué)習(xí)方式是模仿成年人，」他說。最近他團(tuán)隊(duì)的工作揭示了，軟件算法如何學(xué)會(huì)模仿專家，即使在沒有觀察指導(dǎo)專家行為的所有信息的情況下。
下面是一個(gè)非常重要的舉例，請(qǐng)仔細(xì)閱讀。
該團(tuán)隊(duì)的自動(dòng)駕駛汽車模擬器通過無人機(jī)在上方飛行，使用來自道路的數(shù)據(jù)訓(xùn)練汽車。在培訓(xùn)期間，「學(xué)習(xí)者」（指控制自動(dòng)駕駛汽車模擬器的算法）觀察到一位專家在另一輛車后面駕駛。專家根據(jù)前方汽車的尾燈進(jìn)行加速和制動(dòng)。因?yàn)椤笇W(xué)習(xí)者」看不到燈光，所以認(rèn)為專家的行為似乎不正常，于是便停止了模仿。但是，當(dāng)「學(xué)習(xí)者」被部署在環(huán)境中，從路上觀察兩輛車時(shí)；它發(fā)現(xiàn)到了輔助信息（兩輛車的速度）的存在，這足以替代隱藏變量（尾燈），并用輔助信息來通知汽車模擬器繼續(xù)模仿。新方法可以系統(tǒng)地搜索環(huán)境中的補(bǔ)充信息，從而了解行為的真正原因；這對(duì)于現(xiàn)實(shí)世界中的 AI 至關(guān)重要。
另一方面
概括智能的另一個(gè)關(guān)鍵是在系統(tǒng)中構(gòu)建卓越的歸納推理。假設(shè)一個(gè)人想要預(yù)測(cè)一部電影能賺多少錢。我們可能會(huì)查看演員表，看看它是否包含大明星。但是，相關(guān)性不等于因果關(guān)系。其他的稱為「混雜因素」的因素可能會(huì)影響演員陣容和收入。哥倫比亞大學(xué)統(tǒng)計(jì)學(xué)和計(jì)算機(jī)科學(xué)教授 David Meir Blei 研究了一種稱為去混雜因素的方法，該方法在進(jìn)行預(yù)測(cè)時(shí)解釋了一些隱藏的混雜因素。
David Meir Blei 統(tǒng)計(jì)學(xué)和計(jì)算機(jī)科學(xué)教授。
下面是另一個(gè)非常重要的舉例，請(qǐng)仔細(xì)閱讀。
「去混雜因素」起源于全基因組關(guān)聯(lián)研究，目的是利用基因預(yù)測(cè)性狀或疾病。Blei 的見解是，為該方法提供正式的理由，并將其推廣到其他領(lǐng)域。在 2019 年的一篇被高度引用的論文中，他表明，該方法可以作用于大型數(shù)據(jù)集，從而證明「基因?qū)π誀睢?、「吸煙?duì)健康」和「演員對(duì)電影」收入的影響。Blei 的「解構(gòu)者」（Blei 所提到的方法）在推薦系統(tǒng)、社會(huì)科學(xué)研究和醫(yī)療評(píng)估方面顯示出了強(qiáng)大性能，該領(lǐng)域的許多研究者已經(jīng)在應(yīng)用該方法。
Blei 還幫助科學(xué)家建立「世界如何運(yùn)作」的模型。他探索了如何在大型、復(fù)雜的數(shù)據(jù)集中找到模式，并通過假設(shè)變量之間的因果關(guān)系來使用它們來預(yù)測(cè)未來。
「我們正在采用科學(xué)假設(shè)并將其數(shù)學(xué)化?！顾f。例如，他與統(tǒng)計(jì)系的副教授 John Patrick Cunningham 聯(lián)同一組研究人員，正在繪制宇宙的塵埃圖。塵埃是不可見的，一個(gè)隱藏的變量，影響觀察到的變量，如恒星亮度。Blei 幫助科學(xué)家們開發(fā)了一個(gè)概率生成模型，然后將其反轉(zhuǎn)，根據(jù)他們所看到的來構(gòu)建塵埃圖。
這就是因果機(jī)器學(xué)習(xí)的神奇之處：將機(jī)器學(xué)習(xí)的大規(guī)模能力與因果推理的原則性推理相結(jié)合。這將用于開發(fā)下一代人工智能技術(shù)。
聯(lián)系客服
