作為人工智能領(lǐng)域一個(gè)重要的研究分支,深度學(xué)習(xí)技術(shù)幾乎出現(xiàn)在當(dāng)下所有熱門的AI應(yīng)用領(lǐng)域,包括語音識(shí)別,語義理解,圖像識(shí)別,大數(shù)據(jù)分析等等,甚至有人把當(dāng)前的人工智能等同于深度學(xué)習(xí)。面對(duì)如此重要的江湖地位,我們相信一定有為數(shù)眾多的 AI 開發(fā)者對(duì)深度學(xué)習(xí)技術(shù)充滿了好奇心,想要快速著手使用這項(xiàng)強(qiáng)大的技術(shù)來解決現(xiàn)實(shí)生活中的實(shí)際問題。因此,雷鋒網(wǎng)將圍繞深度學(xué)習(xí)技術(shù)整理一個(gè)系列文章,全面覆蓋與其相關(guān)的各項(xiàng)知識(shí)點(diǎn)。
本文針對(duì)如何入門深度學(xué)習(xí)這一話題,整理了若干參考資料,希望對(duì)廣大開發(fā)者有所裨益。
需要提前說明的是,無論教程怎樣淺顯易懂,如果要深刻理解深度學(xué)習(xí)的技術(shù)原理,一些基礎(chǔ)的數(shù)學(xué)知識(shí)還是必不可少的,包括微積分、線性代數(shù)和概率論等。這些都是各高校的必修課,大家可以輕松找到豐富的中文教程。這里僅列出三個(gè)值得參考的免費(fèi)的英文教程。
MIT本科線性代數(shù)公開課
鏈接:https://ocw.mit.edu/courses/mathematics/18-06sc-linear-algebra-fall-2011/index.htm
MIT微積分公開課
鏈接:https://www.edx.org/course/calculus-1a-differentiation-mitx-18-01-1x
MIT概率論公開課
鏈接:https://www.edx.org/course/introduction-probability-science-mitx-6-041x-2
當(dāng)然,大家也可以在 coursera 和各種慕課類網(wǎng)站挑選自己喜歡的數(shù)學(xué)基礎(chǔ)課程,此處不再贅述。
下面進(jìn)入本文的正題。
要入門深度學(xué)習(xí),首選的一個(gè)教程是來自臺(tái)灣大學(xué)電機(jī)系李宏毅教授的演講 PPT。該 PPT 共計(jì)301頁(yè),源于 IEEE DSC 2016 系列活動(dòng),當(dāng)時(shí)打出的標(biāo)題是“一天搞懂深度學(xué)習(xí)”。該課程非常適合初學(xué)者,以最簡(jiǎn)單易懂的圖示和文字闡述了深度學(xué)習(xí)的基本原理、深度學(xué)習(xí)模型的各種訓(xùn)練小技巧、遞歸神經(jīng)網(wǎng)絡(luò)和一些常見的深度學(xué)習(xí)應(yīng)用。
目前已經(jīng)有網(wǎng)友針對(duì)李教授的PPT進(jìn)行了視頻講解,視頻鏈接也貼在下面。最后一個(gè)鏈接是李教授整個(gè)學(xué)期課程的資料,除了深度學(xué)習(xí)之外,還包括了線性代數(shù)的相關(guān)內(nèi)容。
臺(tái)大李宏毅教授講義
PPT鏈接:http://www.slideshare.net/tw_dsconf/ss-62245351?qid=108adce3-2c3d-4758-a830-95d0a57e46bc&v=&b=&from_search=3
視頻鏈接://v.youku.com/v_show/id_XMTc0MDQ3Mzk0NA==.html
李教授其他課程:http://speech.ee.ntu.edu.tw/~tlkagk/courses.html
其次推薦來自斯坦福大學(xué)的卷積神經(jīng)網(wǎng)絡(luò)課程,即 CS231n: Convolutional Neural Networks(CNN) for Visual Recognition。該課程由著名華人 AI 學(xué)者李飛飛擔(dān)任主講,雖然課程名稱是卷積神經(jīng)網(wǎng)絡(luò)和圖像識(shí)別,但前期進(jìn)行了大量關(guān)于 Python 開發(fā)環(huán)境搭建、神經(jīng)網(wǎng)絡(luò)原理等基礎(chǔ)知識(shí)的介紹,適合初學(xué)者認(rèn)真研讀。目前該課程已經(jīng)有了中文字幕版,鏈接如下。
李飛飛CNN課程
英文鏈接:http://cs231n.github.io/
中文鏈接:http://study.163.com/course/introduction/1003223001.htm#/courseDetail
說起深度學(xué)習(xí)的著名學(xué)者,則不得不提 Yann LeCun,Yoshua Bengio,Geoffrey Hinton 三人合著的一篇綜述:《Deep learning》。三位世界級(jí)AI大牛合力編寫的這篇文章雖然只有不到 7 頁(yè) A4 紙,但參考文獻(xiàn)卻超過百篇,被引用更是不計(jì)其數(shù),含金量可想而知。這是一篇科普類的深度學(xué)習(xí)綜述性文章,并沒有介紹特別高深的技術(shù)細(xì)節(jié),因此比較適合初學(xué)者。論文從非常專業(yè)的角度深入淺出地講解了深度學(xué)習(xí)的基本原理,以及深度卷積網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)等較深入的話題。
Yann LeCun,Yoshua Bengio,Geoffrey Hinton 三人合著論文《Deep learning》
英文鏈接:https://www.cs.toronto.edu/~hinton/absps/NatureDeepReview.pdf
中文鏈接:http://www.csdn.net/article/2015-06-01/2824811
下面推薦兩本適合初學(xué)者的免費(fèi)的書籍。
一本來自上文提到的 Yoshua Bengio,他與另外兩位同事合著了一本名為《Deep learning》的教科書。該書主要分為以下三個(gè)部分:機(jī)器學(xué)習(xí)和數(shù)學(xué)基礎(chǔ),深度學(xué)習(xí)的基礎(chǔ)實(shí)踐,深度學(xué)習(xí)的進(jìn)一步研究,內(nèi)容全面、講解細(xì)致,特別適合深度學(xué)習(xí)的初學(xué)者,完全免費(fèi)。
Yoshua Bengio教科書《Deep learning》
英文鏈接:http://www.deeplearningbook.org/
中文鏈接:https://github.com/exacity/deeplearningbook-chinese
另一本是 YC Research 研究員 Michael Nielsen 所著的《Neural Networks and Deep Learning》。該書首先講述了神經(jīng)網(wǎng)絡(luò)的基本原理,然后基于該原理介紹了深度學(xué)習(xí)中的若干核心概念,同樣非常適合于初學(xué)者的入門學(xué)習(xí),完全免費(fèi)。值得一提的是,本書現(xiàn)在已經(jīng)有了中文版。
Neural Networks and Deep Learning
英文鏈接:http://neuralnetworksanddeeplearning.com/
中文鏈接:http://wiki.jikexueyuan.com/project/neural-networks-and-deep-learning-zh-cn/
說了這么多英文課程,下面推薦一個(gè)中文的:《Deep Learning(深度學(xué)習(xí))學(xué)習(xí)筆記整理系列》。該系列文章從人腦的視覺機(jī)理入手,講述了深度學(xué)習(xí)的基本思想、深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)之間的關(guān)系、深度學(xué)習(xí)的訓(xùn)練過程和常用模型算法等,幾乎囊括了深度學(xué)習(xí)入門所必備的所有知識(shí),被視為中文版的深度學(xué)習(xí)白皮書。對(duì)英文資料的理解有障礙的讀者可以認(rèn)真閱讀本教程。
Deep Learning(深度學(xué)習(xí))學(xué)習(xí)筆記整理系列
鏈接:http://blog.csdn.net/zouxy09/article/details/8775360/
到這里,雷鋒網(wǎng)相信經(jīng)過上述教程的學(xué)習(xí),各位開發(fā)者對(duì)深度學(xué)習(xí)的入門應(yīng)該不會(huì)再有太大的障礙了。下面將推薦三個(gè)和深度學(xué)習(xí)相關(guān)的資料大集合,都是來自相關(guān)專業(yè)人士的權(quán)威總結(jié)。除了入門知識(shí)之外,這幾個(gè)集合還囊括了其他各種與深度學(xué)習(xí)相關(guān)的內(nèi)容,包括各種編程語言的總結(jié) 、基礎(chǔ)的數(shù)學(xué)知識(shí)、高階的深度學(xué)習(xí)應(yīng)用實(shí)例等等,可謂“包羅萬象”。
集合1:Awesome Deep Learning
鏈接:https://github.com/ChristosChristofidis/awesome-deep-learning
集合2:機(jī)器學(xué)習(xí) (Machine Learning) & 深度學(xué)習(xí) (Deep Learning) 資料
第一部分:https://github.com/ty4z2008/Qix/blob/master/dl.md
第二部分:https://github.com/ty4z2008/Qix/blob/master/dl2.md
集合3:干貨分享 | 深度學(xué)習(xí)零基礎(chǔ)進(jìn)階大法!
鏈接:http://www.leiphone.com/news/201610/tgtcVePX2kdDlHfL.html
聯(lián)系客服