本文用淺顯易懂的語言精準(zhǔn)概括了機(jī)器學(xué)習(xí)的相關(guān)知識(shí),內(nèi)容全面,總結(jié)到位,剖析了機(jī)器學(xué)習(xí)的what,who,when, where, how,以及why等相關(guān)問題。從機(jī)器學(xué)習(xí)的概念,到機(jī)器學(xué)習(xí)的發(fā)展史,再到機(jī)器學(xué)習(xí)的各類算法,最后到機(jī)器學(xué)習(xí)的最新應(yīng)用,十分詳盡。適合小白快速了解機(jī)器學(xué)習(xí)。
Machine Learning: A Primer
a quick introduction intended for non-technical readers
你是否使用像Siri或Alexa這樣的個(gè)人助理客戶端?你是否依賴?yán)]件過濾器來保持電子郵件收件箱的干凈?你是否訂閱了Netflix,并依賴它驚人的準(zhǔn)確推薦來發(fā)現(xiàn)新的電影可看?如果你對這些問題說“是”,恭喜你!你已經(jīng)很好地利用了機(jī)器學(xué)習(xí)!
雖然這聽起來很復(fù)雜,需要大量的技術(shù)背景,但機(jī)器學(xué)習(xí)實(shí)際上是一個(gè)相當(dāng)簡單的概念。為了更好地理解它,讓我們研究一下關(guān)于機(jī)器學(xué)習(xí)的what,who,when, where, how,以及why。
什么是機(jī)器學(xué)習(xí)?
One day ladies will take their computers for walks in the park and tell each other, “My little computer said such a funny thing this morning”.
—Alan Turing
機(jī)器學(xué)習(xí)的核心是“使用算法解析數(shù)據(jù),從中學(xué)習(xí),然后對世界上的某件事情做出決定或預(yù)測”。這意味著,與其顯式地編寫程序來執(zhí)行某些任務(wù),不如教計(jì)算機(jī)如何開發(fā)一個(gè)算法來完成任務(wù)。有三種主要類型的機(jī)器學(xué)習(xí):監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí),所有這些都有其特定的優(yōu)點(diǎn)和缺點(diǎn)。
監(jiān)督學(xué)習(xí)涉及一組標(biāo)記數(shù)據(jù)。計(jì)算機(jī)可以使用特定的模式來識(shí)別每種標(biāo)記類型的新樣本。監(jiān)督學(xué)習(xí)的兩種主要類型是分類和回歸。在分類中,機(jī)器被訓(xùn)練成將一個(gè)組劃分為特定的類。分類的一個(gè)簡單例子是電子郵件帳戶上的垃圾郵件過濾器。過濾器分析你以前標(biāo)記為垃圾郵件的電子郵件,并將它們與新郵件進(jìn)行比較。如果它們匹配一定的百分比,這些新郵件將被標(biāo)記為垃圾郵件并發(fā)送到適當(dāng)?shù)奈募A。那些比較不相似的電子郵件被歸類為正常郵件并發(fā)送到你的郵箱。
第二種監(jiān)督學(xué)習(xí)是回歸。在回歸中,機(jī)器使用先前的(標(biāo)記的)數(shù)據(jù)來預(yù)測未來。天氣應(yīng)用是回歸的好例子。使用氣象事件的歷史數(shù)據(jù)(即平均氣溫、濕度和降水量),你的手機(jī)天氣應(yīng)用程序可以查看當(dāng)前天氣,并在未來的時(shí)間內(nèi)對天氣進(jìn)行預(yù)測。
在無監(jiān)督學(xué)習(xí)中,數(shù)據(jù)是無標(biāo)簽的。由于大多數(shù)真實(shí)世界的數(shù)據(jù)都沒有標(biāo)簽,這些算法特別有用。無監(jiān)督學(xué)習(xí)分為聚類和降維。聚類用于根據(jù)屬性和行為對象進(jìn)行分組。這與分類不同,因?yàn)檫@些組不是你提供的。聚類的一個(gè)例子是將一個(gè)組劃分成不同的子組(例如,基于年齡和婚姻狀況),然后應(yīng)用到有針對性的營銷方案中。降維通過找到共同點(diǎn)來減少數(shù)據(jù)集的變量。大多數(shù)大數(shù)據(jù)可視化使用降維來識(shí)別趨勢和規(guī)則。
最后,強(qiáng)化學(xué)習(xí)使用機(jī)器的個(gè)人歷史和經(jīng)驗(yàn)來做出決定。強(qiáng)化學(xué)習(xí)的經(jīng)典應(yīng)用是玩游戲。與監(jiān)督和非監(jiān)督學(xué)習(xí)不同,強(qiáng)化學(xué)習(xí)不涉及提供“正確的”答案或輸出。相反,它只關(guān)注性能。這反映了人類是如何根據(jù)積極和消極的結(jié)果學(xué)習(xí)的。很快就學(xué)會(huì)了不要重復(fù)這一動(dòng)作。同樣的道理,一臺(tái)下棋的電腦可以學(xué)會(huì)不把它的國王移到對手的棋子可以進(jìn)入的空間。然后,國際象棋的這一基本教訓(xùn)就可以被擴(kuò)展和推斷出來,直到機(jī)器能夠打(并最終擊敗)人類頂級(jí)玩家為止。
但是,等等,你可能會(huì)說。我們是在說人工智能嗎?機(jī)器學(xué)習(xí)是人工智能的一個(gè)分支。人工智能致力于創(chuàng)造出比人類更能完成復(fù)雜任務(wù)的機(jī)器。這些任務(wù)通常涉及判斷、策略和認(rèn)知推理,這些技能最初被認(rèn)為是機(jī)器的“禁區(qū)”。雖然這聽起來很簡單,但這些技能的范圍非常大——語言處理、圖像識(shí)別、規(guī)劃等等。
機(jī)器學(xué)習(xí)使用特定的算法和編程方法來實(shí)現(xiàn)人工智能。沒有機(jī)器學(xué)習(xí),我們前面提到的國際象棋程序?qū)⑿枰獢?shù)百萬行代碼,包括所有的邊緣情況,并包含來自對手的所有可能的移動(dòng)。有了機(jī)器學(xué)習(xí),我們可以將代碼量縮小到以前的一小部分。很棒對吧?
有一個(gè)缺失的部分:深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)。我們稍后會(huì)更詳細(xì)地討論它們,請注意,深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)子集,專注于模仿人類大腦的生物學(xué)和過程。
誰發(fā)展了機(jī)器學(xué)習(xí)?何時(shí)何地?
A breakthrough in machine learning would be worth ten Microsofts.—Bill Gates
在我看來,機(jī)器學(xué)習(xí)最早的發(fā)展是Thomas Bayes 在1783年發(fā)表的同名理論,貝斯定理發(fā)現(xiàn)了給定有關(guān)類似事件的歷史數(shù)據(jù)的事件的可能性。這是機(jī)器學(xué)習(xí)的貝葉斯分支的基礎(chǔ),它尋求根據(jù)以前的信息尋找最可能發(fā)生的事件。換句話說,Bayes定理只是一個(gè)從經(jīng)驗(yàn)中學(xué)習(xí)的數(shù)學(xué)方法,是機(jī)器學(xué)習(xí)的基本思想。
幾個(gè)世紀(jì)后,1950年,計(jì)算機(jī)科學(xué)家 Alan Turing發(fā)明了所謂的圖靈測試,計(jì)算機(jī)必須通過文字對話一個(gè)人,讓人以為她在和另一個(gè)人說話。圖靈認(rèn)為,只有通過這個(gè)測試,機(jī)器才能被認(rèn)為是“智能的”。1952年,Arthur Samuel創(chuàng)建了第一個(gè)真正的機(jī)器學(xué)習(xí)程序——一個(gè)簡單的棋盤游戲,計(jì)算機(jī)能夠從以前的游戲中學(xué)習(xí)策略,并提高未來的性能。接著是Donald Michie 在1963年推出的強(qiáng)化學(xué)習(xí)的tic-tac-toe程序。在接下來的幾十年里,機(jī)器學(xué)習(xí)的進(jìn)步遵循了同樣的模式--一項(xiàng)技術(shù)突破導(dǎo)致了更新的、更復(fù)雜的計(jì)算機(jī),通常是通過與專業(yè)的人類玩家玩戰(zhàn)略游戲來測試的。
它在1997年達(dá)到巔峰,當(dāng)時(shí)IBM國際象棋電腦深藍(lán)(Deep Blue)在一場國際象棋比賽中擊敗了世界冠軍加里·卡斯帕羅夫(Garry Kasparov)。最近,谷歌開發(fā)了專注于古代中國棋類游戲圍棋(Go)的AlphaGo,該游戲被普遍認(rèn)為是世界上最難的游戲。盡管圍棋被認(rèn)為過于復(fù)雜,以至于一臺(tái)電腦無法掌握,但在2016年,AlphaGo終于獲得了勝利,在一場五局比賽中擊敗了Lee Sedol。
機(jī)器學(xué)習(xí)最大的突破是2006年的深度學(xué)習(xí)。深度學(xué)習(xí)是一類機(jī)器學(xué)習(xí),目的是模仿人腦的思維過程,經(jīng)常用于圖像和語音識(shí)別。深度學(xué)習(xí)的出現(xiàn)導(dǎo)致了我們今天使用的(可能是理所當(dāng)然的)許多技術(shù)。你有沒有把一張照片上傳到你的Facebook賬戶,只是為了暗示給照片中的人貼上標(biāo)簽?Facebook正在使用神經(jīng)網(wǎng)絡(luò)來識(shí)別照片中的面孔?;蛘逽iri呢?當(dāng)你問你的iPhone關(guān)于今天的棒球成績時(shí),你的話語會(huì)用一種復(fù)雜的語音解析算法進(jìn)行分析。如果沒有深度學(xué)習(xí),這一切都是不可能的。
要獲得更全面的機(jī)器學(xué)習(xí)時(shí)間表,請務(wù)必查看這篇由Google云團(tuán)隊(duì)撰寫的偉大文章!
機(jī)器學(xué)習(xí)是如何工作的?
注意所有對數(shù)學(xué)恐懼的讀者:我很遺憾地告訴你,要完全理解大多數(shù)機(jī)器學(xué)習(xí)算法,就需要對一些關(guān)鍵的數(shù)學(xué)概念有一個(gè)基本的理解。但不要害怕!所需的概念很簡單,并且借鑒了你可能已經(jīng)上過的課程。機(jī)器學(xué)習(xí)使用線性代數(shù)、微積分、概率和統(tǒng)計(jì)。
Top 3線性代數(shù)概念:
1.矩陣運(yùn)算;
2.特征值/特征向量;
3.向量空間和范數(shù)
Top 3微積分概念:
1.偏導(dǎo)數(shù);
2.向量-值函數(shù);
3.方向梯度
Top 3統(tǒng)計(jì)概念:
1.Bayes定理;
2.組合學(xué);
3.抽樣方法
對于特定的數(shù)學(xué)資源,我強(qiáng)烈推薦這篇來自MetaDesignIdeas的文章。
一旦你對數(shù)學(xué)有了基本的理解,就該開始思考整個(gè)機(jī)器學(xué)習(xí)過程了。有五個(gè)主要步驟:
上面的圖表以比較清楚的方式解釋了步驟,所以在我們關(guān)注最關(guān)鍵的部分:為數(shù)據(jù)和情況選擇正確的算法之前,花一分鐘的時(shí)間來研究它。
We don’t have better algorithms, we just have more data.—Peter Norvig
讓我們回顧一下算法的一些常見分組:
回歸算法
這可能是最流行的機(jī)器學(xué)習(xí)算法,線性回歸算法是基于連續(xù)變量預(yù)測特定結(jié)果的監(jiān)督學(xué)習(xí)算法。另一方面,Logistic回歸專門用來預(yù)測離散值。這兩種(以及所有其他回歸算法)都以它們的速度而聞名,它們一直是最快速的機(jī)器學(xué)習(xí)算法之一。
基于實(shí)例的算法
基于實(shí)例的分析使用提供數(shù)據(jù)的特定實(shí)例來預(yù)測結(jié)果。最著名的基于實(shí)例的算法是k-最近鄰算法,也稱為KNN。KNN用于分類,比較數(shù)據(jù)點(diǎn)的距離,并將每個(gè)點(diǎn)分配給它最接近的組。
決策樹算法
決策樹算法將一組“弱”學(xué)習(xí)器集合在一起,形成一種強(qiáng)算法,這些學(xué)習(xí)器組織在樹狀結(jié)構(gòu)中,相互分支。一種流行的決策樹算法是隨機(jī)森林算法。在該算法中,弱學(xué)習(xí)器是隨機(jī)選擇的,這往往可以獲得一個(gè)強(qiáng)預(yù)測器。在下面的例子中,我們可以發(fā)現(xiàn)許多共同的特征(就像眼睛是藍(lán)的或者不是藍(lán)色的),它們都不足以單獨(dú)識(shí)別動(dòng)物。然而,當(dāng)我們把所有這些觀察結(jié)合在一起時(shí),我們就能形成一個(gè)更完整的畫面,并做出更準(zhǔn)確的預(yù)測。
貝葉斯算法
絲毫不奇怪,這些算法都是基于Bayes理論的,最流行的算法是樸素Bayes,它經(jīng)常用于文本分析。例如,大多數(shù)垃圾郵件過濾器使用貝葉斯算法,它們使用用戶輸入的類標(biāo)記數(shù)據(jù)來比較新數(shù)據(jù)并對其進(jìn)行適當(dāng)分類。
聚類算法
聚類算法的重點(diǎn)是發(fā)現(xiàn)元素之間的共性并對它們進(jìn)行相應(yīng)的分組,常用的聚類算法是k-means聚類算法。在k-means中,分析人員選擇簇?cái)?shù)(以變量k表示),并根據(jù)物理距離將元素分組為適當(dāng)?shù)木垲悺?/span>
深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)算法
人工神經(jīng)網(wǎng)絡(luò)算法基于生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),深度學(xué)習(xí)采用神經(jīng)網(wǎng)絡(luò)模型并對其進(jìn)行更新。它們是大、且極其復(fù)雜的神經(jīng)網(wǎng)絡(luò),使用少量的標(biāo)記數(shù)據(jù)和更多的未標(biāo)記數(shù)據(jù)。神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)有許多輸入,它們經(jīng)過幾個(gè)隱藏層后才產(chǎn)生一個(gè)或多個(gè)輸出。這些連接形成一個(gè)特定的循環(huán),模仿人腦處理信息和建立邏輯連接的方式。此外,隨著算法的運(yùn)行,隱藏層往往變得更小、更細(xì)微。
其他算法
下面的圖表是我發(fā)現(xiàn)的最好的圖表,它展示了主要的機(jī)器學(xué)習(xí)算法、它們的分類以及它們之間的關(guān)系。
The numbers have no way of speaking for themselves. We speak for them. We imbue them with meaning….Before we demand more of our data, we need to demand more of ourselves.—Nate Silver
一旦你選擇并運(yùn)行了你的算法,還有一個(gè)非常重要的步驟:可視化和交流結(jié)果。雖然與算法編程的細(xì)節(jié)相比,這看起來既愚蠢又膚淺,但是良好的可視化是優(yōu)秀數(shù)據(jù)科學(xué)家和偉大科學(xué)家的關(guān)鍵隔膜。如果沒有人能夠理解,那么驚人的洞察力又有什么用呢?
為什么機(jī)器學(xué)習(xí)很重要?
Just as electricity transformed almost everything 100 years ago, today I actually have a hard time thinking of an industry that I don’t think AI will transform in the next several years.— Andrew Ng
現(xiàn)在應(yīng)該清楚的是,機(jī)器學(xué)習(xí)有巨大的潛力來改變和改善世界。通過像谷歌大腦和斯坦福機(jī)器學(xué)習(xí)小組這樣的研究團(tuán)隊(duì),我們正朝著真正的人工智能邁進(jìn)一大步。但是,確切地說,什么是機(jī)器學(xué)習(xí)能產(chǎn)生影響的下一個(gè)主要領(lǐng)域?
物聯(lián)網(wǎng)
物聯(lián)網(wǎng)(Internet of Things),或者說IOT,是指你家里和辦公室里聯(lián)網(wǎng)的物理設(shè)備。流行的物聯(lián)網(wǎng)設(shè)備是智能燈泡,其銷售額在過去幾年里猛增。隨著機(jī)器學(xué)習(xí)的進(jìn)步,物聯(lián)網(wǎng)設(shè)備比以往任何時(shí)候都更聰明、更復(fù)雜。機(jī)器學(xué)習(xí)有兩個(gè)主要的與物聯(lián)網(wǎng)相關(guān)的應(yīng)用:使你的設(shè)備變得更好和收集你的數(shù)據(jù)。讓設(shè)備變得更好是非常簡單的:使用機(jī)器學(xué)習(xí)來個(gè)性化您的環(huán)境,比如,用面部識(shí)別軟件來感知哪個(gè)是房間,并相應(yīng)地調(diào)整溫度和AC。收集數(shù)據(jù)更加簡單,通過在你的家中保持網(wǎng)絡(luò)連接的設(shè)備(如亞馬遜回聲)的通電和監(jiān)聽,像Amazon這樣的公司收集關(guān)鍵的人口統(tǒng)計(jì)信息,將其傳遞給廣告商,比如電視顯示你正在觀看的節(jié)目、你什么時(shí)候醒來或睡覺、有多少人住在你家。
聊天機(jī)器人
在過去的幾年里,我們看到了聊天機(jī)器人的激增,成熟的語言處理算法每天都在改進(jìn)它們。聊天機(jī)器人被公司用在他們自己的移動(dòng)應(yīng)用程序和第三方應(yīng)用上,比如Slack,以提供比傳統(tǒng)的(人類)代表更快、更高效的虛擬客戶服務(wù)。
自動(dòng)駕駛
我個(gè)人最喜歡的下一個(gè)大型機(jī)器學(xué)習(xí)項(xiàng)目是最遠(yuǎn)離廣泛生產(chǎn)的項(xiàng)目之一。然而,目前有幾家大型公司正在開發(fā)無人駕駛汽車,如雪佛蘭、Uber和Tsla。這些汽車使用了通過機(jī)器學(xué)習(xí)實(shí)現(xiàn)導(dǎo)航、維護(hù)和安全程序的技術(shù)。一個(gè)例子是交通標(biāo)志傳感器,它使用監(jiān)督學(xué)習(xí)算法來識(shí)別和解析交通標(biāo)志,并將它們與一組標(biāo)有標(biāo)記的標(biāo)準(zhǔn)標(biāo)志進(jìn)行比較。這樣,汽車就能看到停車標(biāo)志,并認(rèn)識(shí)到它實(shí)際上意味著停車,而不是轉(zhuǎn)彎,單向或人行橫道。
這就是我們進(jìn)入機(jī)器學(xué)習(xí)世界的非常短暫的旅程。感謝觀看。
聯(lián)系客服