5月12日消息：據(jù)國外媒體報道，經(jīng)過幾十年發(fā)展，人工智能已經(jīng)從科幻小說里的一個概念，變成了當(dāng)今科技發(fā)展的主流。蘋果的語音控制系統(tǒng)Siri、亞馬遜的智能助手Alexa、IBM的沃森超級電腦、谷歌大腦...能夠理解這個世界并且給出高效反饋的智能機器似乎就在眼前。
強大的互聯(lián)網(wǎng)接入和學(xué)習(xí)運算法則讓機器在理解人類語音、視頻信息的方面取得了飛躍性的進步，也逐漸向狹義上真正的人工智能邁進。AI(ArtificialIntelligence),可實現(xiàn)自動響應(yīng)的人工智能產(chǎn)品距離我們還遠嗎？如何讓他們保持不斷自我更新升級但是依然在人類可控范圍內(nèi)？
這個問題給人們帶來普遍的擔(dān)心和焦慮?！拔艺J為人工智能的發(fā)展最終會導(dǎo)致人類族群的滅絕，”物理學(xué)家斯蒂芬·霍金接受BBC的采訪給出了這樣的觀點。特斯拉的創(chuàng)始人埃隆·馬斯克把AI成為“人類最大的潛在威脅”。微軟前總裁比爾·蓋茨也表示過類似的擔(dān)憂。
有多少擔(dān)憂是必要的？問題有多緊迫？我們聚集了多位工業(yè)、科研研究、政策決策領(lǐng)域的專家，一起評估人工智能的發(fā)展風(fēng)險。參加此次話題討論的包括Skype創(chuàng)始人之一、人類未來發(fā)展?jié)撛陲L(fēng)險研究院的智庫成員——JaanTallinn，IBM的沃森超級電腦研究院負責(zé)電腦認知研究的專家——GuruduthS.Banavar，帕多瓦大學(xué)計算機系教授、哈佛大學(xué)拉德克利夫高級研究所研究院和狙擊最多AI研究者的國際人工智能研究協(xié)會主席——FrancescaRoss。
以下是經(jīng)過編輯整理的專家談話內(nèi)容。
危險究竟是什么？
記者：人工智能會對人類造成哪些威脅？
Banavar：受科幻小說、電影的影響，人工智能帶來的威脅主要是人類與機器之間的矛盾沖突，這個觀點其實是錯誤的。人工智能在某些領(lǐng)域能夠比人類更出色地解決問題，比如大數(shù)據(jù)篩選。然而，某些人類擅長的領(lǐng)域離，機器的表現(xiàn)非常糟糕。比如常識推理、提出精彩的問題以及“跳出來”想問題。人類和機器的結(jié)合體，即我們研究的計算機認知能力的基礎(chǔ)，是對解決各個領(lǐng)域的復(fù)雜問題的革命性的設(shè)想。
人工智能為基礎(chǔ)的系統(tǒng)已經(jīng)在很多方面為我們的生活提供了便利：股票自動交易系統(tǒng)、自動飛行控制系統(tǒng)、工業(yè)流水作業(yè)機器、錯誤檢測和搜索引擎...在過去的5-10年間，機器學(xué)習(xí)運算法則和先進的計算機架構(gòu)讓我們實現(xiàn)了很多新應(yīng)用。
然而，需要認識到，計算機運算法則已經(jīng)被運用到極致。要實現(xiàn)更大的進步，則需要引入更多復(fù)雜的符號系統(tǒng)——這是個很高的要求。今天我們的神經(jīng)科學(xué)和認知科學(xué)研究，對于人類智能的研究還只是抓到皮毛。
我個人的觀點是，能夠達到人類水平進行一般感知、推測的人工智能機器還只是個娛樂話題。
TALLINN：今天的人工智能不可能對人類構(gòu)成威脅。如果我們要討論人工智能的長遠影響，（也就是人工智能能夠比人類更好地完成策略、科學(xué)、人工智能研究的時候。）我們就要涉及到控制超級智能的問題。
記者：什么是超級智能控制問題？
TALLINN：現(xiàn)在最先進的機器人也存在一個能夠讓人類實現(xiàn)完全控制的“關(guān)機鍵”。然而，“關(guān)機鍵”發(fā)揮作用的前提是它在機器人的工作領(lǐng)域之外。舉個例子，一個會下棋的電腦工作領(lǐng)域僅限于與人對弈，它并不會覺察到它的人類對手可以拔掉它的電源終止游戲。
然而，超級智能機器，經(jīng)過有意或者無意的程序設(shè)定，能夠全面的了解周圍世界并且對于有人可以動他們的“關(guān)機鍵”的后果作出預(yù)測，人類就很難再控制它。
記者：這個問題有多嚴(yán)重？
TALLINN:目前這還只是理論上的推測。但是需要謹(jǐn)慎的認識到，超級智能機器可能會僅僅受控于物理學(xué)定律和人們給早期智能機器人設(shè)定的程序。
早期的程序是基于我們十分有限的物理學(xué)知識設(shè)計的。想象一下，如果面對一個智能機器人，我們給出的指令是“為人類創(chuàng)建更偉大的未來”，我們最好能夠十分確定它們會做出怎樣的反應(yīng)。
ROSSI：在很多具體的領(lǐng)域，人工智能的表現(xiàn)已經(jīng)超越人類，其中就包括一些涉及精確判斷的領(lǐng)域。目前，人工智能并未威脅到人類，但是人類已經(jīng)受到機器判斷的影響，如線上自動交易系統(tǒng)，健康檢查系統(tǒng)以及很快就將普及的無人駕駛汽車和無人操控武器。
我們需要明確了解分析人工智能在具體領(lǐng)域內(nèi)存在的潛在威脅，既讓它們發(fā)揮作用，又要確保它們能夠安全、友好、按照人類價值觀運轉(zhuǎn)。這并不是個簡單的課題，因為即使是人類，在大多數(shù)時間里都無法遵照自己設(shè)定的原則行動。
給日常生活帶來的影響
記者：人工智在具體領(lǐng)域會給人類帶來怎樣的威脅？
ROSSI:比如自動交易系統(tǒng)，機器給出的一個錯誤的決策會給很多人帶來決經(jīng)濟損失。無人駕駛汽車的失誤也會給人來帶來生命安全的威脅。
記者：應(yīng)該怎么看待這些風(fēng)險？
BANAVAR:任何風(fēng)險都有兩面性：做這件事的風(fēng)險和不做這件事的風(fēng)險。我們已經(jīng)有很多基于信息不完全、專業(yè)人士的不專業(yè)做出的錯誤決定，造成數(shù)千人死亡，上百萬美金損失以及在諸如醫(yī)療等核心領(lǐng)域緩慢的發(fā)展?fàn)顩r?；贗BM沃森超級電腦在很多領(lǐng)域的應(yīng)用經(jīng)驗，我認為，在具體領(lǐng)域上，人工智能能夠有效的降低風(fēng)險。
然而對于全面人工智能領(lǐng)域，我持有謹(jǐn)慎的觀點。我認為我們一直低估了這個問題的復(fù)雜性。我們有太多未知未知了。
記者：IBM采取哪些措施來降低人工智能技術(shù)風(fēng)險？
BANAVAR:IBM的計算機認知系統(tǒng)，和其他現(xiàn)代計算機系統(tǒng)一樣，是基于云計算結(jié)構(gòu)，運算法則和大量數(shù)據(jù)構(gòu)建的。這些系統(tǒng)的運轉(zhuǎn)是可以被記錄、追蹤和審查，防止出現(xiàn)違反安全政策的現(xiàn)象。這些認知系統(tǒng)不是自主運轉(zhuǎn)的，所以他們的指令、數(shù)據(jù)、結(jié)構(gòu)需要我們采取一定保護措施來防止外部攻擊。任何接入、更新我們系統(tǒng)的人都是可控的。
我們主要通過復(fù)雜的加密和數(shù)字簽名來保護數(shù)據(jù)，通過漏洞掃描和其他技術(shù)手段保護運算代碼，通過隔離等手段保護計算機結(jié)構(gòu)。
這些支持人工智能安全運行的政策是基于對風(fēng)險的深度分析設(shè)計的。這些政策需要經(jīng)過安全和交易委任,管理銷售和公共安全提供的委員會（SEC)、食品及藥物管理局（FDA)以及美國國家標(biāo)準(zhǔn)技術(shù)研究院（NIST）這些各自領(lǐng)域內(nèi)負責(zé)設(shè)定安全標(biāo)準(zhǔn)的機構(gòu)審查。
本站僅提供存儲服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請
點擊舉報。
