作者授權(quán)轉(zhuǎn)載
作者：龍心塵、寒小陽(yáng)
◆ ◆ ◆
也許你和這個(gè)叫『機(jī)器學(xué)習(xí)』的家伙一點(diǎn)也不熟，但是你舉起iphone手機(jī)拍照的時(shí)候，早已習(xí)慣它幫你框出人臉；也自然而然點(diǎn)開(kāi)今日頭條推給你的新聞；也習(xí)慣逛淘寶點(diǎn)了找相似之后貨比三家；亦或喜聞樂(lè)見(jiàn)微軟的年齡識(shí)別網(wǎng)站結(jié)果刷爆朋友圈。恩，這些功能的核心算法就是機(jī)器學(xué)習(xí)領(lǐng)域的內(nèi)容。
套用一下大神們對(duì)機(jī)器學(xué)習(xí)的定義，機(jī)器學(xué)習(xí)研究的是計(jì)算機(jī)怎樣模擬人類的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，并重新組織已有的知識(shí)結(jié)構(gòu)使之不斷改善自身。簡(jiǎn)單一點(diǎn)說(shuō)，就是計(jì)算機(jī)從數(shù)據(jù)中學(xué)習(xí)出規(guī)律和模式，以應(yīng)用在新數(shù)據(jù)上做預(yù)測(cè)的任務(wù)。近年來(lái)互聯(lián)網(wǎng)數(shù)據(jù)大爆炸，數(shù)據(jù)的豐富度和覆蓋面遠(yuǎn)遠(yuǎn)超出人工可以觀察和總結(jié)的范疇，而機(jī)器學(xué)習(xí)的算法能指引計(jì)算機(jī)在海量數(shù)據(jù)中，挖掘出有用的價(jià)值，也使得無(wú)數(shù)學(xué)習(xí)者為之著迷。
但是越說(shuō)越覺(jué)得機(jī)器學(xué)習(xí)有距離感，云里霧里高深莫測(cè)，我們不是專家，但說(shuō)起算有一些從業(yè)經(jīng)驗(yàn)，做過(guò)一些項(xiàng)目在實(shí)際數(shù)據(jù)上應(yīng)用機(jī)器學(xué)習(xí)。這一篇就我們的經(jīng)驗(yàn)和各位同仁的分享，總結(jié)一些對(duì)于初學(xué)者入門(mén)有幫助的方法和對(duì)進(jìn)階有用的資料。
并非所有的問(wèn)題都適合用機(jī)器學(xué)習(xí)解決(很多邏輯清晰的問(wèn)題用規(guī)則能很高效和準(zhǔn)確地處理)，也沒(méi)有一個(gè)機(jī)器學(xué)習(xí)算法可以通用于所有問(wèn)題。咱們先來(lái)了解了解，機(jī)器學(xué)習(xí)，到底關(guān)心和解決什么樣的問(wèn)題。
從功能的角度分類，機(jī)器學(xué)習(xí)在一定量級(jí)的數(shù)據(jù)上，可以解決下列問(wèn)題：
1.分類問(wèn)題
根據(jù)數(shù)據(jù)樣本上抽取出的特征，判定其屬于有限個(gè)類別中的哪一個(gè)。比如：
垃圾郵件識(shí)別(結(jié)果類別：1、垃圾郵件 2、正常郵件)
文本情感褒貶分析(結(jié)果類別：1、褒 2、貶)
圖像內(nèi)容識(shí)別識(shí)別(結(jié)果類別：1、喵星人 2、汪星人 3、人類 4、草泥馬 5、都不是)。
2.回歸問(wèn)題
根據(jù)數(shù)據(jù)樣本上抽取出的特征，預(yù)測(cè)一個(gè)連續(xù)值的結(jié)果。比如：
星爺《美人魚(yú)》票房
大帝都2個(gè)月后的房?jī)r(jià)
隔壁熊孩子一天來(lái)你家?guī)状?，寵幸你多少玩?/span>
3.聚類問(wèn)題
根據(jù)數(shù)據(jù)樣本上抽取出的特征，讓樣本抱抱團(tuán)(相近/相關(guān)的樣本在一團(tuán)內(nèi))。比如：
google的新聞分類
用戶群體劃分
我們?cè)侔焉鲜龀Ｒ?jiàn)問(wèn)題劃到機(jī)器學(xué)習(xí)最典型的2個(gè)分類上。
分類與回歸問(wèn)題需要用已知結(jié)果的數(shù)據(jù)做訓(xùn)練，屬于“監(jiān)督學(xué)習(xí)”
聚類的問(wèn)題不需要已知標(biāo)簽，屬于“非監(jiān)督學(xué)習(xí)”。
如果在IT行業(yè)(尤其是互聯(lián)網(wǎng))里溜達(dá)一圈，你會(huì)發(fā)現(xiàn)機(jī)器學(xué)習(xí)在以下熱點(diǎn)問(wèn)題中有廣泛應(yīng)用：
1.計(jì)算機(jī)視覺(jué)
典型的應(yīng)用包括：人臉識(shí)別、車牌識(shí)別、掃描文字識(shí)別、圖片內(nèi)容識(shí)別、圖片搜索等等。
2.自然語(yǔ)言處理
典型的應(yīng)用包括：搜索引擎智能匹配、文本內(nèi)容理解、文本情緒判斷，語(yǔ)音識(shí)別、輸入法、機(jī)器翻譯等等。
3.社會(huì)網(wǎng)絡(luò)分析
典型的應(yīng)用包括：用戶畫(huà)像、網(wǎng)絡(luò)關(guān)聯(lián)分析、欺詐作弊發(fā)現(xiàn)、熱點(diǎn)發(fā)現(xiàn)等等。
4.推薦
典型的應(yīng)用包括：蝦米音樂(lè)的“歌曲推薦”，某寶的“猜你喜歡”等等。
OK，不廢話，直接切重點(diǎn)丟干貨了。看似學(xué)習(xí)難度大，曲線陡的機(jī)器學(xué)習(xí)，對(duì)大多數(shù)入門(mén)者也有一個(gè)比較通用的學(xué)習(xí)路徑，也有一些優(yōu)秀的入門(mén)資料可以降低大家的學(xué)習(xí)門(mén)檻，同時(shí)激發(fā)我們的學(xué)習(xí)樂(lè)趣。
簡(jiǎn)單說(shuō)來(lái)，大概的一個(gè)學(xué)習(xí)路徑如下：
簡(jiǎn)單說(shuō)一點(diǎn)，之所以最左邊寫(xiě)了『數(shù)學(xué)基礎(chǔ)』『典型機(jī)器學(xué)習(xí)算法』『編程基礎(chǔ)』三個(gè)并行的部分，是因?yàn)闄C(jī)器學(xué)習(xí)是一個(gè)將數(shù)學(xué)/算法理論和工程實(shí)踐緊密結(jié)合的領(lǐng)域，需要扎實(shí)的理論基礎(chǔ)幫助引導(dǎo)數(shù)據(jù)分析與模型調(diào)優(yōu)，同時(shí)也需要精湛的工程開(kāi)發(fā)能力去高效化地訓(xùn)練和部署模型和服務(wù)。
需要多說(shuō)一句的是，在互聯(lián)網(wǎng)領(lǐng)域從事機(jī)器學(xué)習(xí)的人，有2類背景的人比較多，其中一部分(很大一部分)是程序員出身，這類同學(xué)工程經(jīng)驗(yàn)相對(duì)會(huì)多一些，另一部分是學(xué)數(shù)學(xué)統(tǒng)計(jì)領(lǐng)域的同學(xué)，這部分同學(xué)理論基礎(chǔ)相對(duì)扎實(shí)一些。因此對(duì)比上圖，2類同學(xué)入門(mén)機(jī)器學(xué)習(xí)，所欠缺和需要加強(qiáng)的部分是不一樣的。
下面就上述圖中的部分，展開(kāi)來(lái)分別扯幾句：
有無(wú)數(shù)激情滿滿大步向前，誓要在機(jī)器學(xué)習(xí)領(lǐng)域有一番作為的同學(xué)，在看到公式的一刻突然就覺(jué)得自己狗帶了。是啊，機(jī)器學(xué)習(xí)之所以相對(duì)于其他開(kāi)發(fā)工作，更有門(mén)檻的根本原因就是數(shù)學(xué)。每一個(gè)算法，要在訓(xùn)練集上最大程度擬合同時(shí)又保證泛化能力，需要不斷分析結(jié)果和數(shù)據(jù)，調(diào)優(yōu)參數(shù)，這需要我們對(duì)數(shù)據(jù)分布和模型底層的數(shù)學(xué)原理有一定的理解。所幸的是如果只是想合理應(yīng)用機(jī)器學(xué)習(xí)，而不是做相關(guān)方向高精尖的research，需要的數(shù)學(xué)知識(shí)啃一啃還是基本能理解下來(lái)的。至于更高深的部分，恩，博主非常愿意承認(rèn)自己是『數(shù)學(xué)渣』。
基本所有常見(jiàn)機(jī)器學(xué)習(xí)算法需要的數(shù)學(xué)基礎(chǔ)，都集中在微積分、線性代數(shù)和概率與統(tǒng)計(jì)當(dāng)中。下面我們先過(guò)一過(guò)知識(shí)重點(diǎn)，文章的后部分會(huì)介紹一些幫助學(xué)習(xí)和鞏固這些知識(shí)的資料。
微分的計(jì)算及其幾何、物理含義，是機(jī)器學(xué)習(xí)中大多數(shù)算法的求解過(guò)程的核心。比如算法中運(yùn)用到梯度下降法、牛頓法等。如果對(duì)其幾何意義有充分的理解，就能理解“梯度下降是用平面來(lái)逼近局部，牛頓法是用曲面逼近局部”，能夠更好地理解運(yùn)用這樣的方法。
凸優(yōu)化和條件最優(yōu)化 的相關(guān)知識(shí)在算法中的應(yīng)用隨處可見(jiàn)，如果能有系統(tǒng)的學(xué)習(xí)將使得你對(duì)算法的認(rèn)識(shí)達(dá)到一個(gè)新高度。
大多數(shù)機(jī)器學(xué)習(xí)的算法要應(yīng)用起來(lái)，依賴于高效的計(jì)算，這種場(chǎng)景下，程序員GG們習(xí)慣的多層for循環(huán)通常就行不通了，而大多數(shù)的循環(huán)操作可轉(zhuǎn)化成矩陣之間的乘法運(yùn)算，這就和線性代數(shù)有莫大的關(guān)系了
向量的內(nèi)積運(yùn)算更是隨處可見(jiàn)。
矩陣乘法與分解在機(jī)器學(xué)習(xí)的主成分分析（PCA）和奇異值分解（SVD） 等部分呈現(xiàn)刷屏狀地出現(xiàn)。
從廣義來(lái)說(shuō)，機(jī)器學(xué)習(xí)在做的很多事情，和統(tǒng)計(jì)層面數(shù)據(jù)分析和發(fā)掘隱藏的模式，是非常類似的。
極大似然思想、貝葉斯模型 是理論基礎(chǔ)，樸素貝葉斯(Na?ve Bayes )、語(yǔ)言模型(N-gram)、隱馬爾科夫（HMM）、隱變量混合概率模型是他們的高級(jí)形態(tài)。
常見(jiàn)分布如高斯分布是混合高斯模型(GMM)等的基礎(chǔ)。
絕大多數(shù)問(wèn)題用典型機(jī)器學(xué)習(xí)的算法都能解決，粗略地列舉一下這些方法如下：
處理分類問(wèn)題的常用算法包括：邏輯回歸(工業(yè)界最常用)，支持向量機(jī)，隨機(jī)森林，樸素貝葉斯(NLP中常用)，深度神經(jīng)網(wǎng)絡(luò)(視頻、圖片、語(yǔ)音等多媒體數(shù)據(jù)中使用)。
處理回歸問(wèn)題的常用算法包括：線性回歸，普通最小二乘回歸（Ordinary Least Squares Regression），逐步回歸（Stepwise Regression），多元自適應(yīng)回歸樣條（Multivariate Adaptive Regression Splines）
處理聚類問(wèn)題的常用算法包括：K均值（K-means），基于密度聚類，LDA等等。
降維的常用算法包括：主成分分析（PCA）,奇異值分解（SVD） 等。
推薦系統(tǒng)的常用算法：協(xié)同過(guò)濾算法
模型融合(model ensemble)和提升(boosting)的算法包括：bagging，adaboost，GBDT，GBRT
其他很重要的算法包括：EM算法等等。
我們多插一句，機(jī)器學(xué)習(xí)里所說(shuō)的“算法”與程序員所說(shuō)的“數(shù)據(jù)結(jié)構(gòu)與算法分析”里的“算法”略有區(qū)別。前者更關(guān)注結(jié)果數(shù)據(jù)的召回率、精確度、準(zhǔn)確性等方面，后者更關(guān)注執(zhí)行過(guò)程的時(shí)間復(fù)雜度、空間復(fù)雜度等方面。 。當(dāng)然，實(shí)際機(jī)器學(xué)習(xí)問(wèn)題中，對(duì)效率和資源占用的考量是不可或缺的。
看了無(wú)數(shù)的理論與知識(shí)，總歸要落到實(shí)際動(dòng)手實(shí)現(xiàn)和解決問(wèn)題上。而沒(méi)有工具所有的材料和框架、邏輯、思路都給你，也寸步難行。因此我們還是得需要合適的編程語(yǔ)言、工具和環(huán)境幫助自己在數(shù)據(jù)集上應(yīng)用機(jī)器學(xué)習(xí)算法，或者實(shí)現(xiàn)自己的想法。對(duì)初學(xué)者而言，Python和R語(yǔ)言是很好的入門(mén)語(yǔ)言，很容易上手，同時(shí)又活躍的社區(qū)支持，豐富的工具包幫助我們完成想法。相對(duì)而言，似乎計(jì)算機(jī)相關(guān)的同學(xué)用Python多一些，而數(shù)學(xué)統(tǒng)計(jì)出身的同學(xué)更喜歡R一些。我們對(duì)編程語(yǔ)言、工具和環(huán)境稍加介紹：
python有著全品類的數(shù)據(jù)科學(xué)工具，從數(shù)據(jù)獲取、數(shù)據(jù)清洗到整合各種算法都做得非常全面。
網(wǎng)頁(yè)爬蟲(chóng): scrapy
數(shù)據(jù)挖掘:
pandas：模擬R，進(jìn)行數(shù)據(jù)瀏覽與預(yù)處理。
numpy：數(shù)組運(yùn)算。
scipy：高效的科學(xué)計(jì)算。
matplotlib：非常方便的數(shù)據(jù)可視化工具。
機(jī)器學(xué)習(xí):
scikit-learn：遠(yuǎn)近聞名的機(jī)器學(xué)習(xí)package。未必是最高效的，但是接口真心封裝得好，幾乎所有的機(jī)器學(xué)習(xí)算法輸入輸出部分格式都一致。而它的支持文檔甚至可以直接當(dāng)做教程來(lái)學(xué)習(xí)，非常用心。對(duì)于不是非常高緯度、高量級(jí)的數(shù)據(jù)，scikit-learn勝任得非常好(有興趣可以看看sklearn的源碼，也很有意思)。
libsvm：高效率的svm模型實(shí)現(xiàn)(了解一下很有好處，libsvm的系數(shù)數(shù)據(jù)輸入格式，在各處都非常常見(jiàn))
keras/TensorFlow：對(duì)深度學(xué)習(xí)感興趣的同學(xué)，也能很方便地搭建自己的神經(jīng)網(wǎng)絡(luò)了。
自然語(yǔ)言處理:
nltk：自然語(yǔ)言處理的相關(guān)功能做得非常全面，有典型語(yǔ)料庫(kù)，而且上手也非常容易。
交互式環(huán)境：
ipython notebook：能直接打通數(shù)據(jù)到結(jié)果的通道，方便至極。強(qiáng)力推薦。
R最大的優(yōu)勢(shì)是開(kāi)源社區(qū)，聚集了非常多功能強(qiáng)大可直接使用的包，絕大多數(shù)的機(jī)器學(xué)習(xí)算法在R中都有完善的包可直接使用，同時(shí)文檔也非常齊全。常見(jiàn)的package包括：RGtk2, pmml, colorspace, ada, amap, arules, biclust, cba, descr, doBy, e1071, ellipse等等。另外，值得一提的是R的可視化效果做得非常不錯(cuò)，而這對(duì)于機(jī)器學(xué)習(xí)是非常有幫助的。
相應(yīng)資深程序員GG的要求，再補(bǔ)充一下java和C 相關(guān)機(jī)器學(xué)習(xí)package。
Java系列
WEKA Machine Learning Workbench 相當(dāng)于java中的scikit-learn
其他的工具如Massive Online Analysis（MOA）、MEKA 、 Mallet 等也非常有名。
更多詳細(xì)的應(yīng)用請(qǐng)參考這篇文章《25個(gè)Java機(jī)器學(xué)習(xí)工具&庫(kù)》
C 系列
mlpack，高效同時(shí)可擴(kuò)充性非常好的機(jī)器學(xué)習(xí)庫(kù)。
Shark：文檔齊全的老牌C 機(jī)器學(xué)習(xí)庫(kù)。
Hadoop：基本上是工業(yè)界的標(biāo)配了。一般用來(lái)做特征清洗、特征處理的相關(guān)工作。
spark：提供了MLlib這樣的大數(shù)據(jù)機(jī)器學(xué)習(xí)平臺(tái)，實(shí)現(xiàn)了很多常用算法。但可靠性、穩(wěn)定性上有待提高。
mac和linux會(huì)方便一些，而windows在開(kāi)發(fā)中略顯力不從心。所謂方便，主要是指的mac和linux在下載安裝軟件、配置環(huán)境更快捷。
對(duì)于只習(xí)慣windows的同學(xué)，推薦anaconda，一步到位安裝完python的全品類數(shù)據(jù)科學(xué)工具包。
以上我們基本具備了機(jī)器學(xué)習(xí)的必要條件，剩下的就是怎么運(yùn)用它們?nèi)プ鲆粋€(gè)完整的機(jī)器學(xué)習(xí)項(xiàng)目。其工作流程如下:
明確問(wèn)題是進(jìn)行機(jī)器學(xué)習(xí)的第一步。機(jī)器學(xué)習(xí)的訓(xùn)練過(guò)程通常都是一件非常耗時(shí)的事情，胡亂嘗試時(shí)間成本是非常高的。
這里的抽象成數(shù)學(xué)問(wèn)題，指的我們明確我們可以獲得什么樣的數(shù)據(jù)，目標(biāo)是一個(gè)分類還是回歸或者是聚類的問(wèn)題，如果都不是的話，如果劃歸為其中的某類問(wèn)題。
數(shù)據(jù)決定了機(jī)器學(xué)習(xí)結(jié)果的上限，而算法只是盡可能逼近這個(gè)上限。
數(shù)據(jù)要有代表性，否則必然會(huì)過(guò)擬合。
而且對(duì)于分類問(wèn)題，數(shù)據(jù)偏斜不能過(guò)于嚴(yán)重，不同類別的數(shù)據(jù)數(shù)量不要有數(shù)個(gè)數(shù)量級(jí)的差距。
而且還要對(duì)數(shù)據(jù)的量級(jí)有一個(gè)評(píng)估，多少個(gè)樣本，多少個(gè)特征，可以估算出其對(duì)內(nèi)存的消耗程度，判斷訓(xùn)練過(guò)程中內(nèi)存是否能夠放得下。如果放不下就得考慮改進(jìn)算法或者使用一些降維的技巧了。如果數(shù)據(jù)量實(shí)在太大，那就要考慮分布式了。
良好的數(shù)據(jù)要能夠提取出良好的特征才能真正發(fā)揮效力。
特征預(yù)處理、數(shù)據(jù)清洗是很關(guān)鍵的步驟，往往能夠使得算法的效果和性能得到顯著提高。歸一化、離散化、因子化、缺失值處理、去除共線性等，數(shù)據(jù)挖掘過(guò)程中很多時(shí)間就花在它們上面。這些工作簡(jiǎn)單可復(fù)制，收益穩(wěn)定可預(yù)期，是機(jī)器學(xué)習(xí)的基礎(chǔ)必備步驟。
篩選出顯著特征、摒棄非顯著特征，需要機(jī)器學(xué)習(xí)工程師反復(fù)理解業(yè)務(wù)。這對(duì)很多結(jié)果有決定性的影響。特征選擇好了，非常簡(jiǎn)單的算法也能得出良好、穩(wěn)定的結(jié)果。這需要運(yùn)用特征有效性分析的相關(guān)技術(shù)，如相關(guān)系數(shù)、卡方檢驗(yàn)、平均互信息、條件熵、后驗(yàn)概率、邏輯回歸權(quán)重等方法。
直到這一步才用到我們上面說(shuō)的算法進(jìn)行訓(xùn)練?，F(xiàn)在很多算法都能夠封裝成黑盒供人使用。但是真正考驗(yàn)水平的是調(diào)整這些算法的（超）參數(shù)，使得結(jié)果變得更加優(yōu)良。這需要我們對(duì)算法的原理有深入的理解。理解越深入，就越能發(fā)現(xiàn)問(wèn)題的癥結(jié)，提出良好的調(diào)優(yōu)方案。
如何確定模型調(diào)優(yōu)的方向與思路呢？這就需要對(duì)模型進(jìn)行診斷的技術(shù)。
過(guò)擬合、欠擬合 判斷是模型診斷中至關(guān)重要的一步。常見(jiàn)的方法如交叉驗(yàn)證，繪制學(xué)習(xí)曲線等。過(guò)擬合的基本調(diào)優(yōu)思路是增加數(shù)據(jù)量，降低模型復(fù)雜度。欠擬合的基本調(diào)優(yōu)思路是提高特征數(shù)量和質(zhì)量，增加模型復(fù)雜度。
誤差分析 也是機(jī)器學(xué)習(xí)至關(guān)重要的步驟。通過(guò)觀察誤差樣本，全面分析誤差產(chǎn)生誤差的原因:是參數(shù)的問(wèn)題還是算法選擇的問(wèn)題，是特征的問(wèn)題還是數(shù)據(jù)本身的問(wèn)題……
診斷后的模型需要進(jìn)行調(diào)優(yōu)，調(diào)優(yōu)后的新模型需要重新進(jìn)行診斷，這是一個(gè)反復(fù)迭代不斷逼近的過(guò)程，需要不斷地嘗試， 進(jìn)而達(dá)到最優(yōu)狀態(tài)。
一般來(lái)說(shuō)，模型融合后都能使得效果有一定提升。而且效果很好。
工程上，主要提升算法準(zhǔn)確度的方法是分別在模型的前端（特征清洗和預(yù)處理，不同的采樣模式）與后端（模型融合）上下功夫。因?yàn)樗麄儽容^標(biāo)準(zhǔn)可復(fù)制，效果比較穩(wěn)定。而直接調(diào)參的工作不會(huì)很多，畢竟大量數(shù)據(jù)訓(xùn)練起來(lái)太慢了，而且效果難以保證。
這一部分內(nèi)容主要跟工程實(shí)現(xiàn)的相關(guān)性比較大。工程上是結(jié)果導(dǎo)向，模型在線上運(yùn)行的效果直接決定模型的成敗。 不單純包括其準(zhǔn)確程度、誤差等情況，還包括其運(yùn)行的速度(時(shí)間復(fù)雜度)、資源消耗程度（空間復(fù)雜度）、穩(wěn)定性是否可接受。
這些工作流程主要是工程實(shí)踐上總結(jié)出的一些經(jīng)驗(yàn)。并不是每個(gè)項(xiàng)目都包含完整的一個(gè)流程。這里的部分只是一個(gè)指導(dǎo)性的說(shuō)明，只有大家自己多實(shí)踐，多積累項(xiàng)目經(jīng)驗(yàn)，才會(huì)有自己更深刻的認(rèn)識(shí)。
初學(xué)機(jī)器學(xué)習(xí)可能有一個(gè)誤區(qū)，就是一上來(lái)就陷入到對(duì)各種高大上算法的追逐當(dāng)中。動(dòng)不動(dòng)就我能不能用深度學(xué)習(xí)去解決這個(gè)問(wèn)題?。课沂遣皇且胋oosting算法做一些模型融合??？我一直持有一個(gè)觀點(diǎn)，『脫離業(yè)務(wù)和數(shù)據(jù)的算法討論是毫無(wú)意義的』。
實(shí)際上按我們的學(xué)習(xí)經(jīng)驗(yàn)，從一個(gè)數(shù)據(jù)源開(kāi)始，即使是用最傳統(tǒng)，已經(jīng)應(yīng)用多年的機(jī)器學(xué)習(xí)算法，先完整地走完機(jī)器學(xué)習(xí)的整個(gè)工作流程，不斷嘗試各種算法深挖這些數(shù)據(jù)的價(jià)值，在運(yùn)用過(guò)程中把數(shù)據(jù)、特征和算法搞透，真正積累出項(xiàng)目經(jīng)驗(yàn) 才是最快、最靠譜的學(xué)習(xí)路徑。
那如何獲取數(shù)據(jù)和項(xiàng)目呢？一個(gè)捷徑就是積極參加國(guó)內(nèi)外各種數(shù)據(jù)挖掘競(jìng)賽，數(shù)據(jù)直接下載下來(lái)，按照競(jìng)賽的要求去不斷優(yōu)化，積累經(jīng)驗(yàn)。國(guó)外的Kaggle和國(guó)內(nèi)的DataCastle 以及阿里天池比賽都是很好的平臺(tái)，你可以在上面獲取真實(shí)的數(shù)據(jù)和數(shù)據(jù)科學(xué)家們一起學(xué)習(xí)和進(jìn)行競(jìng)賽，嘗試使用已經(jīng)學(xué)過(guò)的所有知識(shí)來(lái)完成這個(gè)比賽本身也是一件很有樂(lè)趣的事情。和其他數(shù)據(jù)科學(xué)家的討論能開(kāi)闊視野，對(duì)機(jī)器學(xué)習(xí)算法有更深層次的認(rèn)識(shí)。
有意思的是，有些平臺(tái)，比如阿里天池比賽，甚至給出了從數(shù)據(jù)處理到模型訓(xùn)練到模型評(píng)
估、可視化到模型融合增強(qiáng)的全部組件，你要做的事情只是參與比賽，獲取數(shù)據(jù)，然后使用這些組件去實(shí)現(xiàn)自己的idea即可。具體內(nèi)容可以參見(jiàn)阿里云機(jī)器學(xué)習(xí)文檔。
多幾句嘴，這部分內(nèi)容和機(jī)器學(xué)習(xí)本身沒(méi)有關(guān)系，但是我們覺(jué)得這方面的能力對(duì)于任何一種新知識(shí)和技能的學(xué)習(xí)來(lái)說(shuō)都是至關(guān)重要的。 自主學(xué)習(xí)能力提升后，意味著你能夠跟據(jù)自己的情況，找到最合適的學(xué)習(xí)資料和最快學(xué)習(xí)成長(zhǎng)路徑。
對(duì)于初學(xué)者，絕大部分需要的知識(shí)通過(guò)網(wǎng)絡(luò)就可以找到了。
google搜索引擎技巧——組合替換搜索關(guān)鍵詞、站內(nèi)搜索、學(xué)術(shù)文獻(xiàn)搜索、PDF搜索等——都是必備的。
一個(gè)比較好的習(xí)慣是找到信息的原始出處，如個(gè)人站、公眾號(hào)、博客、專業(yè)網(wǎng)站、書(shū)籍等等。這樣就能夠找到系統(tǒng)化、不失真的高質(zhì)量信息。
百度搜到的技術(shù)類信息不夠好，建議只作為補(bǔ)充搜索來(lái)用。各種搜索引擎都可以交叉著使用效果更好。
學(xué)會(huì)去常見(jiàn)的高質(zhì)量信息源中搜索東西:stackoverflow（程序相關(guān)）、quora（高質(zhì)量回答）、wikipedia（系統(tǒng)化知識(shí)，比某某百科不知道好太多）、知乎（中文、有料）、網(wǎng)盤(pán)搜索（免費(fèi)資源一大把）等。
將搜集到的網(wǎng)頁(yè)放到分類齊全的云端收藏夾里，并經(jīng)常整理。這樣無(wú)論在公司還是在家里，在電腦前還是在手機(jī)上，都能夠找到自己喜歡的東西。
搜集到的文件、代碼、電子書(shū)等等也放到云端網(wǎng)盤(pán)里，并經(jīng)常整理。
經(jīng)常作筆記，并總結(jié)自己學(xué)到的知識(shí)是成長(zhǎng)的不二法門(mén)。其實(shí)主要的困難是懶，但是堅(jiān)持
之后總能發(fā)現(xiàn)知識(shí)的共性，就能少記一些東西，掌握得更多。
筆記建議放到云端筆記里，印象筆記、為知筆記都還不錯(cuò)。這樣在坐地鐵、排隊(duì)等零碎的時(shí)間都能看到筆記并繼續(xù)思考。
機(jī)器學(xué)習(xí)的相關(guān)QQ群、論壇、社區(qū)一大堆?？傆腥酥滥銌?wèn)題的答案。
但是大多數(shù)同學(xué)都很忙，沒(méi)法像家庭教師那樣手把手告訴你怎么做。
為了讓回答者最快明白你的問(wèn)題，最好該學(xué)會(huì)正確的問(wèn)問(wèn)題的方式:陳述清楚你的業(yè)務(wù)場(chǎng)景和業(yè)務(wù)需求是什么，有什么已知條件，在哪個(gè)具體的節(jié)點(diǎn)上遇到困難了，并做過(guò)哪些努力。
有一篇經(jīng)典的文章告訴你怎樣通過(guò)提問(wèn)獲得幫助：《提問(wèn)的智慧》，強(qiáng)力推薦。 話鋒犀利了些，但里面的干貨還是很好的。
別人幫助你的可能性與你提問(wèn)題的具體程度和重要性呈指數(shù)相關(guān)。
我們深信：“證明自己真的透徹理解一個(gè)知識(shí)，最好的方法，是給一個(gè)想了解這個(gè)內(nèi)容的人，講清楚這個(gè)內(nèi)容?！狈窒砟軌蜃畛浞值靥嵘约旱膶W(xué)習(xí)水平。這也是我們堅(jiān)持長(zhǎng)期分享最重要的原因。
分享還有一個(gè)副產(chǎn)品，就是自己在求助的時(shí)候能夠獲得更多的幫助機(jī)會(huì)，這也非常重要。
文章的最后部分，我們繼續(xù)放送干貨。其實(shí)機(jī)器學(xué)習(xí)的優(yōu)質(zhì)資源非常多。博主也是翻遍瀏覽器收藏夾，也問(wèn)同事取了取經(jīng)，整合了一部分資源羅列如下：
首先coursera 是一個(gè)非常好的學(xué)習(xí)網(wǎng)站，集中了全球的精品課程。上述知識(shí)學(xué)習(xí)的過(guò)程都可以在上面找到合適的課程。也有很多其他的課程網(wǎng)站，這里我們就需要學(xué)習(xí)的數(shù)學(xué)和機(jī)器學(xué)習(xí)算法推薦一些課程(有一些課程有中文字幕，有一些只有英文字幕，有一些甚至沒(méi)有字幕，大家根據(jù)自己的情況調(diào)整，如果不習(xí)慣英文，基礎(chǔ)部分有很多國(guó)內(nèi)的課程也非常優(yōu)質(zhì))：
微積分相關(guān)
線性代數(shù)
概率統(tǒng)計(jì)
Introduction to Statistics: Descriptive Statistics
Probabilistic Systems Analysis and Applied Probability
編程語(yǔ)言
Programming for Everybody:Python
DataCamp: Learn R with R tutorials and coding challenges:R
機(jī)器學(xué)習(xí)方法
Statistical Learning(R)
machine learning：強(qiáng)烈推薦，Andrew Ng老師的課程
機(jī)器學(xué)習(xí)基石
機(jī)器學(xué)習(xí)技術(shù)：林軒田老師的課相對(duì)更有深度一些，把作業(yè)做完會(huì)對(duì)提升對(duì)機(jī)器學(xué)習(xí)的認(rèn)識(shí)。
自然語(yǔ)言處理:斯坦福大學(xué)課程
日常閱讀的資源
有源代碼的教程
scikit-learn中各個(gè)算法的例子
《機(jī)器學(xué)習(xí)實(shí)戰(zhàn)》 有中文版，并附有python源代碼。
《The Elements of Statistical Learning (豆瓣)》 這本書(shū)有對(duì)應(yīng)的中文版：《統(tǒng)計(jì)學(xué)習(xí)基礎(chǔ) (豆瓣)》。書(shū)中配有R包?？梢詤⒄罩a學(xué)習(xí)算法。網(wǎng)盤(pán)中有中文版。
《Natural Language Processing with Python (豆瓣)》 NLP 經(jīng)典，其實(shí)主要是講 python的NLTK 這個(gè)包。網(wǎng)盤(pán)中有中文版。
《Neural Networks and Deep Learning》 Michael Nielsen的神經(jīng)網(wǎng)絡(luò)教材，淺顯易懂。國(guó)內(nèi)有部分翻譯，不全，建議直接看原版。
圖書(shū)與教材
《數(shù)學(xué)之美》：入門(mén)讀起來(lái)很不錯(cuò)。
《統(tǒng)計(jì)學(xué)習(xí)方法 (豆瓣) 》：李航經(jīng)典教材。
《Pattern Recognition And Machine Learning (豆瓣) 》：經(jīng)典中教材。
《統(tǒng)計(jì)自然語(yǔ)言處理》自然語(yǔ)言處理經(jīng)典教材
《Applied predictive modeling》：英文版，注重工程實(shí)踐的機(jī)器學(xué)習(xí)教材
《UFLDL教程》：神經(jīng)網(wǎng)絡(luò)經(jīng)典教材
《deeplearningbook》:深度學(xué)習(xí)經(jīng)典教材。
工具書(shū)
《SciPy and NumPy (豆瓣) 》
《Python for Data Analysis (豆瓣) 》作者是Pandas這個(gè)包的作者
其他網(wǎng)絡(luò)資料
機(jī)器學(xué)習(xí)(Machine Learning)與深度學(xué)習(xí)(Deep Learning)資料匯總: 作者太給力，量大干貨多，有興趣的同學(xué)可以看看，博主至今只看了一小部分。
◆ ◆ ◆
作者介紹
龍心塵和寒小陽(yáng)：從事機(jī)器學(xué)習(xí)/數(shù)據(jù)挖掘相關(guān)應(yīng)用工作，熱愛(ài)機(jī)器學(xué)習(xí)/數(shù)據(jù)挖掘
聯(lián)系客服
