來源:kdnuggets.com、新智元,作者:Matthew Mayo,編譯:劉小芹 常佩琦 聞菲
【導(dǎo)讀】2017年人工智能最重要的發(fā)展是什么,2018年會(huì)有怎樣的關(guān)鍵趨勢(shì)?數(shù)據(jù)科學(xué)網(wǎng)站KDnuggets發(fā)布年度報(bào)告,征詢13位機(jī)器學(xué)習(xí)和AI領(lǐng)域的專家意見。2017見證了AlphaGo系列的成功,深度學(xué)習(xí)熱潮,以及TensorFlow對(duì)神經(jīng)網(wǎng)絡(luò)技術(shù)商用化的影響。2018,AI將走向成熟,迎來全球“AI-first”經(jīng)濟(jì)突破,可解釋性和透明度將得到更多關(guān)注。
在即將告別2017年之際,KDnuggets向多位機(jī)器學(xué)習(xí)和AI專家詢問了哪些是2017年最重要的發(fā)展,以及他們對(duì)2018年關(guān)鍵趨勢(shì)的預(yù)測(cè)有哪些。這份報(bào)告試圖抓住2017年的重要事件,以及產(chǎn)業(yè)、學(xué)術(shù)和技術(shù)發(fā)展的脈搏,同時(shí)也盡力去展望即將到來的2018年的關(guān)鍵趨勢(shì)。
被采訪者是大數(shù)據(jù)、數(shù)據(jù)科學(xué)、人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的一些頂尖專家。具體來說,采訪的問題是:“在2017年,與機(jī)器學(xué)習(xí)和人工智能相關(guān)的主要發(fā)展是什么?2018年,你認(rèn)為將看到哪些關(guān)鍵趨勢(shì)?”
作為一個(gè)快速的回顧,去年的趨勢(shì)和預(yù)測(cè)主要集中在以下議題:
AlphaGo的成功
深度學(xué)習(xí)的熱潮
自動(dòng)駕駛汽車
TensorFlow對(duì)神經(jīng)網(wǎng)絡(luò)技術(shù)商用化的影響
Xavier Amatriain:Curai的聯(lián)合創(chuàng)始人兼CTO,之前是Quora的工程副總裁和Netflix的研究/工程總監(jiān)。
如果一定要選一個(gè)今年的主要亮點(diǎn)的話,那就是AlphaGo Zero。這一新方法不僅在一些最有前途的方向上得到改進(jìn)(例如深度強(qiáng)化學(xué)習(xí)),而且它還代表了一種范式轉(zhuǎn)換,即模型可以在沒有數(shù)據(jù)的情況下學(xué)習(xí)。最近我們也了解到,AlphaGo Zero還能推廣到象棋等其他游戲。
至于人工智能的工程方面,2017年P(guān)ytorch開始升溫,成為Tensorflow的一個(gè)對(duì)手,特別是在研究領(lǐng)域。
Tensorflow通過在Tensorflow Fold中發(fā)布動(dòng)態(tài)網(wǎng)絡(luò),迅速作出反應(yīng)。大公司之間的“AI戰(zhàn)爭(zhēng)”還包括許多其他的戰(zhàn)役,其中競(jìng)爭(zhēng)最激烈的是云。所有的主要供應(yīng)商都增加了云的投入,并在云上增加各自的AI支持。亞馬遜在他們的AWS中提出了大量的創(chuàng)新,比如他們最近發(fā)布Sagemaker用于構(gòu)建和部署ML模型。另外值得一提的是,較小的玩家也在不斷進(jìn)入。Nvidia最近推出了他們的GPU云,這將成為訓(xùn)練深度學(xué)習(xí)模型的另一個(gè)有趣的選擇。盡管有這么多競(jìng)爭(zhēng),但這個(gè)行業(yè)必要時(shí)可以團(tuán)結(jié)起來,這是件好事。新的ONNX神經(jīng)網(wǎng)絡(luò)表示標(biāo)準(zhǔn)是實(shí)現(xiàn)互操作性的重要而且必要的一步。
2017年,圍繞AI的社會(huì)問題也在延續(xù)(升級(jí))。伊隆·馬斯克(Elon Musk)認(rèn)為我們?cè)絹碓浇咏鼩⑹諥I的觀點(diǎn)繼續(xù)發(fā)酵,令許多人感到沮喪。關(guān)于AI在未來幾年將如何影響工作,也有很多討論。最后,我們看到更多的焦點(diǎn)放在AI算法的透明度和偏見上。
Georgina Cosma:諾丁漢特倫特大學(xué)科學(xué)與技術(shù)學(xué)院高級(jí)講師
機(jī)器學(xué)習(xí)模型,尤其是深度學(xué)習(xí)模型,正在對(duì)醫(yī)療、法律體系、工程和金融等關(guān)鍵領(lǐng)域產(chǎn)生重大影響。但是,大多數(shù)機(jī)器學(xué)習(xí)模型不容易解釋。在分析和診斷模型中,理解模型是如何實(shí)現(xiàn)預(yù)測(cè)的尤其重要,因?yàn)槿祟惐仨氁凶銐虻男判娜ハ嘈拍P吞岢龅念A(yù)測(cè)。重要的是,一些機(jī)器學(xué)習(xí)模型的決定必須與法律法規(guī)相符。現(xiàn)在是創(chuàng)建足夠透明的深度學(xué)習(xí)模型以解釋它們的預(yù)測(cè)的時(shí)候了,特別是當(dāng)這些模型的結(jié)果被用來影響或告知人類決策時(shí)。
Pedro Domingos:華盛頓大學(xué)計(jì)算機(jī)科學(xué)與工程系教授,《終極算法》作者。
Libratus(冷撲大師)在德州撲克上的勝利,將AI的優(yōu)勢(shì)擴(kuò)展到不完善的信息博弈
自動(dòng)駕駛汽車和虛擬助理的競(jìng)爭(zhēng)日益激烈,Alexa在后者的競(jìng)爭(zhēng)中勢(shì)如破竹。
谷歌、亞馬遜、微軟和IBM之間云AI的競(jìng)爭(zhēng)持續(xù)升溫。
AlphaGo Zero很偉大,但算不上是一個(gè)突破。self-play 是ML的一個(gè)存在已久的想法,而人類遠(yuǎn)遠(yuǎn)不需要下夠500萬(wàn)盤棋才能掌握圍棋。
Ajit Jaokar:主任數(shù)據(jù)科學(xué)家,牛津大學(xué)物聯(lián)網(wǎng)數(shù)據(jù)科學(xué)課程的創(chuàng)建者。
2017年是AI的一年。2018年將是AI成熟的一年。我們已經(jīng)從更多是“系統(tǒng)工程/云”的角度看到這一趨勢(shì)。AI正在變得越來越復(fù)雜,h2o.ai這類公司則簡(jiǎn)化了部署AI的復(fù)雜性。
AI正越來越多地用于競(jìng)爭(zhēng)優(yōu)勢(shì),尤其是在工業(yè)物聯(lián)網(wǎng)、零售和醫(yī)療領(lǐng)域,這將導(dǎo)致更大的顛覆。AI也正在迅速地部署到企業(yè)的各個(gè)層面(帶來許多新的機(jī)會(huì),但也將導(dǎo)致更多職業(yè)消失)。
我認(rèn)為AI正在通過嵌入式AI(即跨越企業(yè)和物聯(lián)網(wǎng)的數(shù)據(jù)科學(xué)模型)融合傳統(tǒng)的企業(yè)和更廣泛的供應(yīng)鏈。
最后,傳統(tǒng)行業(yè)將繼續(xù)缺乏懂得AI/深度學(xué)習(xí)技術(shù)的數(shù)據(jù)科學(xué)家,例如銀行業(yè)(尤其是工業(yè)物聯(lián)網(wǎng)領(lǐng)域)。
Nikita Johnson:RE.WORK創(chuàng)始人
2017年,ML和AI的發(fā)展取得了巨大的進(jìn)步,尤其是最近DeepMind發(fā)表的通用強(qiáng)化學(xué)習(xí)算法,在自我對(duì)弈4個(gè)小時(shí)之后,擊敗了世界上最好的象棋程序。
2018年,我期望看到智能自動(dòng)化滲透到各行各業(yè)的公司,從傳統(tǒng)制造業(yè)、零售業(yè)到公共事業(yè)。隨著數(shù)據(jù)收集和分析的不斷增加,企業(yè)級(jí)自動(dòng)化系統(tǒng)策略的需求將變得至關(guān)重要。這將使企業(yè)能夠投資于一個(gè)更長(zhǎng)期的AI計(jì)劃,并確保它是未來增長(zhǎng)和效率提升的優(yōu)先事項(xiàng)。
我們還將看到自動(dòng)化機(jī)器學(xué)習(xí)幫助非AI研究人員更容易使用機(jī)器學(xué)習(xí)技術(shù),并使更多公司將機(jī)器學(xué)習(xí)方法應(yīng)用到他們的工作場(chǎng)景。
meta-learning 和 few-shot learning
Hugo Larochelle:谷歌研究科學(xué)家,加拿大高級(jí)研究所Learning in Machines and Brains項(xiàng)目副主任
在機(jī)器學(xué)習(xí)的趨勢(shì)中,我最感興趣也最關(guān)注的是元學(xué)習(xí)(meta-learning)。元學(xué)習(xí)是一個(gè)特別寬泛的概括性術(shù)語(yǔ)。但今年,對(duì)我來說最令人興奮的是 few-shot learning 的進(jìn)展,它解決了發(fā)現(xiàn)學(xué)習(xí)算法的問題,這些算法從很少的樣本中得到很好的泛化。 Chelsea Finn 今年年初針對(duì)這個(gè)問題寫了一篇很好的總結(jié)文章:bair.berkeley.edu/blog/2017/07/18/learning-to-learn/。
今年有更多關(guān)于 few-shot learning 和 meta-learning 研究,包括使用深度時(shí)序卷積網(wǎng)絡(luò)(arxiv.org/abs/1707.03141),圖形神經(jīng)網(wǎng)絡(luò)(arxiv.org/abs/1711.04043)等等。meta-learning 方法也被用于主動(dòng)學(xué)習(xí)(arxiv.org/abs/1708.00088),冷啟動(dòng)項(xiàng)目推薦(papers.nips.cc/paper/7266-a-meta-learning-perspective-on-cold-start-recommendations-for-items),few-shot分布估計(jì)(arxiv.org/abs/1710.10304),強(qiáng)化學(xué)習(xí)(arxiv.org/abs/1611.05763),分層RL(arxiv.org/abs/1710.09767 ),模仿學(xué)習(xí)(arxiv.org/abs/1709.04905),等等。
這是一個(gè)令人興奮的領(lǐng)域,2018年我會(huì)繼續(xù)密切關(guān)注。
Charles Martin:數(shù)據(jù)科學(xué)家、機(jī)器學(xué)習(xí)AI顧問
2017這一年,我們看到了一個(gè)巨大的深度學(xué)習(xí)AI平臺(tái)和應(yīng)用程序。今年,F(xiàn)acebook發(fā)布了他們的Tensorflow競(jìng)爭(zhēng)對(duì)手PyTorch。Gluon, Alex, AlphaGo等等成果不斷。 機(jī)器學(xué)習(xí)從特征工程和邏輯回歸發(fā)展到閱讀論文,實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò),優(yōu)化訓(xùn)練效果。在我的咨詢實(shí)踐中,客戶已經(jīng)在尋求自定義對(duì)象檢測(cè),高級(jí)NLP和強(qiáng)化學(xué)習(xí)。當(dāng)市場(chǎng)和比特幣飆升的時(shí)候,人工智能一直是一場(chǎng)沉默的革命,零售業(yè)的啟示激起人們認(rèn)為人工智能將顛覆行業(yè)。公司都想要進(jìn)行自我變革。我們非常感興趣進(jìn)行AI指導(dǎo),包括技術(shù)層面和戰(zhàn)略層面。
2018年必將成為全球“AI first”經(jīng)濟(jì)的突破之年。我們有來自歐洲、亞洲、印度、甚至沙特阿拉伯的需求。全球需求將繼續(xù)增長(zhǎng),來自中國(guó)和加拿大的人工智能進(jìn)步很大,印度等國(guó)家正從IT重新調(diào)整為人工智能。美國(guó)和海外的企業(yè)培訓(xùn)需求都很大。人工智能將實(shí)現(xiàn)大規(guī)模的效率,傳統(tǒng)行業(yè)(如制造業(yè),醫(yī)療保健和金融)將從中受益。人工智能創(chuàng)業(yè)公司將把新產(chǎn)品推向市場(chǎng)并全面提高投資回報(bào)率。而從機(jī)器人到自動(dòng)駕駛汽車的新技術(shù)將會(huì)帶來驚人的進(jìn)步。
對(duì)于創(chuàng)新而言,明年將是偉大的一年。
以工具為中心的方法將減少,重要的是開發(fā)和實(shí)現(xiàn)利用深度學(xué)習(xí)的新想法和應(yīng)用
Sebastian Raschka:密歇根州立大學(xué)應(yīng)用機(jī)器學(xué)習(xí)和深度學(xué)習(xí)研究員和計(jì)算生物學(xué)家,《Python機(jī)器學(xué)習(xí)》的作者。
在過去的幾年中,開源社區(qū)已經(jīng)就所有新出現(xiàn)的深度學(xué)習(xí)框架進(jìn)行了大量的討論?,F(xiàn)在,這些工具已經(jīng)有所成熟了,我希望以工具為中心的方法會(huì)有所減少,期待將更多精力用于開發(fā)和實(shí)現(xiàn)利用深度學(xué)習(xí)的新穎想法和應(yīng)用。我尤其期望看到用生成對(duì)抗神經(jīng)網(wǎng)絡(luò)和Hinton的capsule來解決更多問題。
Brandon Rohrer:Facebook的數(shù)據(jù)科學(xué)家。
2017年還有更多機(jī)器擊敗人類的成就。去年,AlphaGo擊敗了世界上最好的人類棋手,通過了智慧之路上的一個(gè)長(zhǎng)期里程碑。今年,AlphaGo Zero通過從零開始的自我對(duì)弈學(xué)習(xí),超越了它的上一版本。(deepmind.com/blog/alphago-zero-learning-scratch)它不僅擊敗了一個(gè)人類,還擊敗了全體人類的圍棋智慧。更實(shí)際的興趣,一臺(tái)機(jī)器現(xiàn)在可以從交換機(jī)基準(zhǔn)來轉(zhuǎn)錄電話交談。 (arxiv.org/abs/1708.06073)
然而,人工智能的成就仍然狹窄和脆弱。改變圖像中的單個(gè)像素可以擊敗最先進(jìn)的分類器。 (arxiv.org/pdf/1710.08864.pdf)我預(yù)計(jì)2018年將帶來更多通用和強(qiáng)大的AI解決方案。幾乎每個(gè)主要的科技公司都已經(jīng)有了一個(gè)人工智能的工作。這些團(tuán)體及其早期成果將成為頭條新聞。至少,“AGI”將會(huì)取代“AI”成為當(dāng)年的流行詞。
Elena Sharova是一家投資銀行的數(shù)據(jù)科學(xué)家。
要說2017年機(jī)器學(xué)習(xí)/人工智能主要的發(fā)展,我看到越來越多的公司和個(gè)人將他們的數(shù)據(jù)和分析轉(zhuǎn)移到基于云的解決方案,對(duì)數(shù)據(jù)安全的重要性的意識(shí)也急劇上升。
最大和最成功的技術(shù)公司已經(jīng)競(jìng)相成為數(shù)據(jù)存儲(chǔ)和分析平臺(tái)。對(duì)于數(shù)據(jù)科學(xué)家來說,這意味著他們所開發(fā)的工具箱和解決方案正被這種平臺(tái)所能提供的功能和能力所塑造。
2017年,全球發(fā)生了幾起大型數(shù)據(jù)安全漏洞。這一點(diǎn)不容忽視。隨著越來越多的數(shù)據(jù)轉(zhuǎn)移到第三方存儲(chǔ),對(duì)于適應(yīng)新威脅的更強(qiáng)大安全性的需求將繼續(xù)增長(zhǎng)。
至于2018年的關(guān)鍵趨勢(shì),一個(gè)是確保遵守《全球數(shù)據(jù)保護(hù)條例》(GDPR),另一個(gè)則是應(yīng)對(duì)機(jī)器學(xué)習(xí)系統(tǒng)“隱藏”技術(shù)欠下的債,這筆債正在越變?cè)蕉?,不容忽視。GDPR作為一項(xiàng)歐盟法規(guī),具有全球影響力,所有數(shù)據(jù)科學(xué)家應(yīng)該充分意識(shí)到它對(duì)自己工作的影響。根據(jù)Google的NIPS’16論文,數(shù)據(jù)依賴性代價(jià)高昂,而且隨著企業(yè)創(chuàng)建復(fù)雜的數(shù)據(jù)驅(qū)動(dòng)模型,他們將不得不仔細(xì)考慮如何解決這一成本問題。
Tamara Sipes,Optum/UnitedHealth Group商業(yè)數(shù)據(jù)科學(xué)總監(jiān)
2017年的主要發(fā)展和2018年的主要趨勢(shì):
深度學(xué)習(xí)和集成建模方法在2017年繼續(xù)證明了它們相比其他機(jī)器學(xué)習(xí)工具的價(jià)值和優(yōu)勢(shì)。特別是深度學(xué)習(xí),在各個(gè)領(lǐng)域和行業(yè)得到了更加廣泛的應(yīng)用。
至于2018年的發(fā)展趨勢(shì),深度學(xué)習(xí)可能會(huì)被用來從原始輸入中產(chǎn)生新的特征和新的概念,并且取代手動(dòng)創(chuàng)建或設(shè)計(jì)新變量的需求。深度網(wǎng)絡(luò)在檢測(cè)數(shù)據(jù)的特征和結(jié)構(gòu)方面是非常強(qiáng)大的,數(shù)據(jù)科學(xué)家正在認(rèn)識(shí)到無(wú)監(jiān)督深度學(xué)習(xí)可以為此發(fā)揮的價(jià)值。
有效異常檢測(cè)(Effective anomaly detection)可能也是近期的重點(diǎn)。在許多行業(yè)中,數(shù)據(jù)科學(xué)工作的重點(diǎn)是異常事件和其他類型的罕見事件:入侵檢測(cè)、財(cái)務(wù)欺詐檢測(cè)、詐騙、醫(yī)療保健中的濫用和錯(cuò)誤以及設(shè)備故障等等。檢測(cè)所有這些罕見的事件將會(huì)使企業(yè)在領(lǐng)域中產(chǎn)生競(jìng)爭(zhēng)優(yōu)勢(shì)。跟上這些罕見事件檢測(cè)的演變節(jié)奏,將是一個(gè)有趣的問題和困難的挑戰(zhàn)。
Rachel Thomas,fast.ai創(chuàng)始人,USF助理教授。
雖然不像AlphaGo或者波士頓動(dòng)力會(huì)后空翻的機(jī)器人那樣華麗,但讓我感到最興奮的2017年AI趨勢(shì),是深度學(xué)習(xí)框架變得更加用戶友好且易于訪問。今年發(fā)布的PyTorch,對(duì)任何了解Python的人都很友好(主要是由于動(dòng)態(tài)計(jì)算和OOP設(shè)計(jì))。不過,TensorFlow也正朝著這個(gè)方向發(fā)展,將Keras納入其核心代碼庫(kù)并宣布動(dòng)態(tài)圖運(yùn)算。編碼人員使用深度學(xué)習(xí)的門檻正變得越來越低。我預(yù)計(jì)2018年,這種開發(fā)人員可用性增長(zhǎng)的趨勢(shì)將持續(xù)下去。
第二個(gè)趨勢(shì)是媒體報(bào)道專制政府監(jiān)督人工智能的能力。2017年爆出了很多威脅隱私的新聞,但直到最近這才開始受到廣泛的關(guān)注。利用深度學(xué)習(xí)來識(shí)別戴著圍巾和帽子的示威者,或者通過圖片來識(shí)別某人的性取向,使得今年有更多的媒體開始關(guān)注AI的隱私風(fēng)險(xiǎn)。希望在2018年,我們可以繼續(xù)擴(kuò)大討論馬斯克說的邪惡超級(jí)AI的話題,并解決通過編碼涉嫌監(jiān)視、隱私和對(duì)性別歧視和種族主義偏見的問題。
Daniel Tunkelang是Twiggle的首席搜索傳播者,也是眾多知名組織的顧問。
2017年對(duì)于自動(dòng)駕駛汽車和會(huì)話數(shù)字助理來說都是一個(gè)大年。這兩個(gè)都是深度學(xué)習(xí)將科幻小說變?yōu)槭聦?shí)的應(yīng)用領(lǐng)域。
但是,今年機(jī)器學(xué)習(xí)和人工智能最重要的發(fā)展,是對(duì)道德、問責(zé)和可解釋性的持續(xù)關(guān)注。馬斯克關(guān)于人工智能觸發(fā)世界大戰(zhàn)的啟示性警告點(diǎn)燃了媒體,Oren Etzioni和Rodney Brooks等人則認(rèn)真反駁。盡管如此,機(jī)器學(xué)習(xí)模型偏差的風(fēng)險(xiǎn)仍然存在,比如word2vec中的性別主義,算法在刑事判決中的種族主義,以及對(duì)社交媒體信息流的評(píng)分模型的故意操縱。這些問題都不是新出現(xiàn)的,但是機(jī)器學(xué)習(xí)的加速應(yīng)用,特別是深度學(xué)習(xí)的大量使用,已經(jīng)將這些問題推到了普通公眾面前。
2017年,我們終于看到“可解釋的AI”作為一門學(xué)科出現(xiàn),匯集了學(xué)者、業(yè)界從業(yè)者和政策制定者的參加。2018年,照亮深度學(xué)習(xí)模型黑箱的壓力和動(dòng)力都將進(jìn)一步加大。
原文:https://www.kdnuggets.com/2017/12/machine-learning-ai-main-developments-2017-key-trends-2018.html
聯(lián)系客服