#人工智能#
杰弗里·辛頓(Geoffrey Hinton)
Hinton出生于英國的科學世家,在高中時期就對人腦的工作原理產(chǎn)生了濃厚興趣,但在劍橋大學換過多個專業(yè)后,最終拿到的卻是實驗心理學學士學位。
失去方向的Hinton在畢業(yè)后選擇成為一名木匠,一邊做木門、做書架,一邊繼續(xù)思考大腦工作原理。
一年多的體力勞動后,Hinton決定回到學術界,前往愛丁堡大學研究尚處邊緣的神經(jīng)網(wǎng)絡方向,并于1978年獲得人工智能博士學位。
雖然對神經(jīng)網(wǎng)絡的研究最早可以追溯到五十年代,但在1986年Hinton等人提出反向傳播算法前,幾乎沒人相信神經(jīng)網(wǎng)絡。反向傳播算法解決了多層神經(jīng)網(wǎng)絡的訓練問題,讓神經(jīng)網(wǎng)絡開始變得可行,這是Hinton第一次改變?nèi)斯ぶ悄馨l(fā)展進程。
2006年Hinton等人提出深度信念網(wǎng)絡(DBNs),帶領神經(jīng)網(wǎng)絡進入深度學習時代,這是Hinton第二次改變?nèi)斯ぶ悄馨l(fā)展進程。
神經(jīng)網(wǎng)絡的全稱是人工神經(jīng)網(wǎng)絡(Artificial Neural Networks, ANNs),是受人類大腦中生物神經(jīng)網(wǎng)絡啟發(fā)而構建的計算模型,它使用一系列人工神經(jīng)元進行信息處理,這些神經(jīng)元通過加權連接進行組織。
在神經(jīng)網(wǎng)絡基礎上,深度學習通過構建多層神經(jīng)網(wǎng)絡模型,并且模型中通常還含有多個隱藏層,以達到學習數(shù)據(jù)中更深層次、更抽象的特征。
現(xiàn)在我們看到的人工智能繁榮,在很大程度上都要歸功于深度學習技術的突破,深度學習從根本上塑造了現(xiàn)代人工智能的面貌。
深度信念網(wǎng)絡(DBNs)不僅展示了深度學習的有效性,還啟發(fā)了許多后續(xù)的深度學習模型和訓練策略,比如卷積神經(jīng)網(wǎng)絡(CNNs)、循環(huán)神經(jīng)網(wǎng)絡(RNNs)、生成對抗網(wǎng)絡(GANs)等,對深度學習領域產(chǎn)生了深遠影響。
與Hinton同時獲得2018年圖靈獎的還有兩位,楊立昆(Yann LeCun) 和 約書亞·本吉奧(Yoshua Bengio),這在圖靈獎歷史上并不常見。圖靈獎又被稱為“計算機界的諾貝爾獎”,多數(shù)情況下每年僅頒發(fā)給一名科學家。
2018年圖靈獎頒獎典禮
LeCun的主要貢獻在卷積神經(jīng)網(wǎng)絡(CNNs)、Bengio的主要貢獻在生成對抗網(wǎng)絡(GANs),他們與Hinton一起被稱為“深度學習之父”。
這三位不僅在學術上有獨立的研究貢獻,也有緊密的合作,互相之間影響很大,更是在神經(jīng)網(wǎng)絡發(fā)展的低谷期建立了很深的友誼。
從1986年到2006年的20年是神經(jīng)網(wǎng)絡研究的低谷,只有以Hinton為核心的少數(shù)科學家在堅持研究這個方向。
為了找到支持他研究神經(jīng)網(wǎng)絡的棲身之處,1987年Hinton接受加拿大高級研究所(CIFAR)邀請,在加拿大多倫多大學建立了實驗室。
Hinton對神經(jīng)網(wǎng)絡的堅定信念,吸引相信神經(jīng)網(wǎng)絡的人陸續(xù)來到多倫多加入他的實驗室。
LeCun在美國獲得博士學位后,追隨Hinton來到多倫多,在Hinton實驗室進行博士后研究并發(fā)表了卷積神經(jīng)網(wǎng)絡(CNNs)論文,他現(xiàn)在是Meta首席科學家。
Bengio在讀研究生時被Hinton的一篇論文所激勵,明確了研究方向,并成為Hinton的摯友,現(xiàn)在是加拿大蒙特利爾大學教授,幾十年來每當Bengio從蒙特利爾來多倫多,都是住在Hinton家里。
在神經(jīng)網(wǎng)絡低谷期,Hinton實驗室逐漸成為大家的避風港,Hinton也成為神經(jīng)網(wǎng)絡研究的精神領袖。同時,Hinton在此期間培養(yǎng)了一大批優(yōu)秀的學生,其中就包括OpenAI聯(lián)合創(chuàng)始人兼董事Ilya Sutskever,他是Hinton的博士。
今年已經(jīng)77歲高齡的Hinton依然活躍在人工智能研究領域。因為Hinton,加拿大成為全球人工智能研究的重鎮(zhèn)之一,吸引了多家人工智能巨頭將研究機構設立在多倫多。
聯(lián)系客服