在了解機(jī)器學(xué)習(xí)與深度學(xué)習(xí)是什么以及二者的區(qū)別之前,有必要對作為兩者背景的人工智能做一個(gè)簡單介紹。人工智能、機(jī)器學(xué)習(xí)與深度學(xué)習(xí)三者之間關(guān)系的最簡便方法就是將它們視覺化為一組同心圓——首先是最大的部分人工智能——然后是后來興旺的機(jī)器學(xué)習(xí)——最后是促使當(dāng)下人工智能大爆發(fā)的深度學(xué)習(xí)——在最里層。
人工智能——機(jī)器詮釋的人類智能
自從 1956 年幾個(gè)計(jì)算機(jī)科學(xué)家在達(dá)特茅斯會(huì)議上聚集并開辟了人工智能這一領(lǐng)域,人工智能就進(jìn)入了我們的想象,并在實(shí)驗(yàn)研究中進(jìn)行著醞釀。在過去的幾十年里,人工智能以及輪番被譽(yù)為人類文明取得最美好未來的關(guān)鍵,或者是作為一個(gè)頭腦發(fā)燒的輕率概念被扔進(jìn)了科技垃圾堆中。坦白說直到 2012 年,它就這樣在二者之間交雜。
回到 1956 年夏天的那場會(huì)議,人工智能先驅(qū)們的夢想是借由新興計(jì)算機(jī)構(gòu)建具有人類智力特征的復(fù)雜機(jī)器。這就是所謂的「通用人工智能(General AI)」的概念——擁有人類的所有感覺(甚至可能更多)、所有理智,像人類一樣思考的神奇機(jī)器。
你已經(jīng)在電影中無休止地看到過這些被我們當(dāng)做朋友的機(jī)器,比如《星球大戰(zhàn)》中的 C-3PO 以及成為人類敵人的機(jī)器——終結(jié)者。通用人工智能機(jī)器向來有充足的理由出現(xiàn)在電影和科幻小說中;我們不能阻止,至少現(xiàn)在還不行。
我們能做什么?這就到了「狹義人工智能(Narrow AI)」的概念。指的是能夠?qū)⑻厥馊蝿?wù)處理得同人類一樣好,或者更好的技術(shù)。狹義人工智能的相關(guān)案例比如有 Pinterest 上的圖像分類、Facebook 中的人臉識別。
這些是狹義人工智能在實(shí)踐中的例子。這些技術(shù)展示了人類智能的一些方面。但是如何做到的呢?那個(gè)智能來自哪里?所以接下來看第二個(gè)同心圓,機(jī)器學(xué)習(xí)。
機(jī)器學(xué)習(xí)——實(shí)現(xiàn)人工智能的一種方式
機(jī)器學(xué)習(xí)最基礎(chǔ)的是運(yùn)用算法來分析數(shù)據(jù)、從中學(xué)習(xí)、測定或預(yù)測現(xiàn)實(shí)世界某些事。所以不是手動(dòng)編碼帶有特定指令設(shè)定的軟件程序來完成某個(gè)特殊任務(wù),而是使用大量的數(shù)據(jù)和算法來「訓(xùn)練」機(jī)器,賦予它學(xué)習(xí)如何執(zhí)行任務(wù)的能力。
機(jī)器學(xué)習(xí)直接源自早期那幫人工智能群體,演化多年的算法包括了決策樹學(xué)習(xí)(decision tree learning)、歸納邏輯編程(inductive logic programming)。其他的也有聚類(clustering)、強(qiáng)化學(xué)習(xí)(reinforcement learning)和貝葉斯網(wǎng)絡(luò)(Bayesian networks)等。我們知道,這些早期機(jī)器學(xué)習(xí)方法都沒有實(shí)現(xiàn)通用人工智能的最終目標(biāo),甚至沒有實(shí)現(xiàn)狹義人工智能的一小部分目標(biāo)。
事實(shí)證明,多年來機(jī)器學(xué)習(xí)的最佳應(yīng)用領(lǐng)域之一是計(jì)算機(jī)視覺,盡管它仍然需要大量的手工編碼來完成工作。人們會(huì)去寫一些手寫分類器,像是邊緣檢測過濾器(edge detection filters)使得程序可以識別對象的啟止位置;形狀檢測(shape detection)以確定它是否有八條邊;一個(gè)用來識別單詞「S-T-O-P」的分類器。從這些手寫分類器中他們開發(fā)出能夠理解圖像的算法,「學(xué)習(xí)」判定它是否是一個(gè)停止標(biāo)志。
這很好,但還不夠好。特別是有霧天氣標(biāo)志不完全可見的情況下,或者被樹遮住了一部分。計(jì)算機(jī)視覺和圖像檢測直到目前都不能與人類相媲美,是因?yàn)樗^脆弱,太容易出錯(cuò)了。是時(shí)間和正確的學(xué)習(xí)算法改變了這一切。
深度學(xué)習(xí)——一種實(shí)現(xiàn)機(jī)器學(xué)習(xí)的技術(shù)
源自最早進(jìn)行機(jī)器學(xué)習(xí)那群人的另一種算法是人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks),它已有幾十年的歷史。神經(jīng)網(wǎng)絡(luò)的靈感來自于我們對大腦生物學(xué)的理解——所有神經(jīng)元之間的相互連接。但是不像生物大腦中的任何神經(jīng)元,可以在一定的物理距離內(nèi)連接到任何其他神經(jīng)元,這些人工神經(jīng)網(wǎng)絡(luò)的層、連接和數(shù)據(jù)傳播方向是離散的。
比如你可以把一個(gè)圖像切成一堆碎片并輸入到神經(jīng)網(wǎng)絡(luò)的第一層中。然后第一層的單個(gè)神經(jīng)元們將數(shù)據(jù)傳遞給第二層。第二層神經(jīng)元將數(shù)據(jù)傳給第三層,如此一直傳到最后一層并輸出最終結(jié)果。
每個(gè)神經(jīng)元分配一個(gè)權(quán)重到它的輸入——評估所執(zhí)行的任務(wù)的準(zhǔn)確或不準(zhǔn)確。然后最終的輸出由所有這些權(quán)重來確定。所以想想那個(gè)停止標(biāo)志的例子。一個(gè)停止標(biāo)志圖像的特征被切碎并由神經(jīng)元來「檢查」——它的形狀、它的消防紅色彩、它的獨(dú)特字母、它的交通標(biāo)志尺寸以及和它的運(yùn)動(dòng)或由此帶來的缺失。神經(jīng)網(wǎng)絡(luò)的任務(wù)是判定它是否為一個(gè)停止標(biāo)志。這提出了一個(gè)「概率向量」,它真是一個(gè)基于權(quán)重的高度受訓(xùn)的猜測。在我們的例子中,系統(tǒng)可能有 86% 的把握認(rèn)為圖像是一個(gè)停止標(biāo)志,7% 的把握認(rèn)為這是一個(gè)限速標(biāo)志,5% 的把握認(rèn)為這是一只被卡在樹上的風(fēng)箏,等等——然后網(wǎng)絡(luò)架構(gòu)告訴神經(jīng)網(wǎng)絡(luò)結(jié)果的正確與否。
甚至這個(gè)例子都有些超前了,因?yàn)橹钡浆F(xiàn)在,神經(jīng)網(wǎng)絡(luò)都被人工智能研究社區(qū)避開了。自從最早的人工智能起,他們一直在做這方面研究,而「智能」成果收效甚微。問題很簡單,即最基本的神經(jīng)網(wǎng)絡(luò)屬于計(jì)算密集型,這并不是一個(gè)實(shí)用的方法。不過,由多倫多大學(xué)的 Geoffrey Hinton 帶領(lǐng)的異端研究小組一直在繼續(xù)相關(guān)研究工作,最終在超級計(jì)算機(jī)上運(yùn)行并行算法證明了這個(gè)概念,但這是直到 GPU 被部署之后才兌現(xiàn)的諾言。
如果我們再回到停止標(biāo)志的例子,當(dāng)網(wǎng)絡(luò)正在進(jìn)行調(diào)整或者「訓(xùn)練」時(shí),出現(xiàn)大量的錯(cuò)誤答案,這個(gè)機(jī)會(huì)是非常好的。它需要的就是訓(xùn)練。它需要看到成千上萬,甚至數(shù)以百萬計(jì)的圖像,直到神經(jīng)元的輸入權(quán)重被精確調(diào)整,從而幾乎每一次都能得到正確答案——無論有霧沒霧,晴天還是雨天。在這一點(diǎn)上,神經(jīng)網(wǎng)絡(luò)已經(jīng)教會(huì)了自己停止標(biāo)志看起來會(huì)是什么樣的;或者在 Facebook 例子中就是識別媽媽的臉;或者吳恩達(dá) 2012 年在谷歌所做的貓的圖片。
吳恩達(dá)的突破在于從根本上使用這些神經(jīng)網(wǎng)絡(luò) 并將它們變得龐大,增加了層數(shù)和神經(jīng)元的數(shù)量,然后通過系統(tǒng)運(yùn)行大量的數(shù)據(jù)來訓(xùn)練它。吳恩達(dá)使用了 1000 萬個(gè) YouTube 視頻的圖像。他將「深度」運(yùn)用在深度學(xué)習(xí)中,這就描述了這些神經(jīng)網(wǎng)絡(luò)的所有層。
如今,在一些場景中通過深度學(xué)習(xí)訓(xùn)練機(jī)器識別圖像,做得比人類好,從識別貓咪到確定血液中的癌癥指標(biāo)和磁共振成像掃描中的腫瘤指標(biāo)。谷歌的 AlphaGo 學(xué)會(huì)了游戲,并被訓(xùn)練用于 Go 比賽。通過反復(fù)與自己對抗來調(diào)整自己的神經(jīng)網(wǎng)絡(luò)。
感謝深度學(xué)習(xí),讓人工智能有一個(gè)光明的未來。