InnoTalk
“微言創(chuàng)新”由上海科學(xué)院規(guī)劃研究處和上海產(chǎn)業(yè)技術(shù)研究院戰(zhàn)略咨詢中心共同出品,專注產(chǎn)業(yè)創(chuàng)新領(lǐng)域研究。言微意未盡,集智求創(chuàng)新。
編者按
2016年11月17日,由數(shù)字化政策委員會(huì)(CDEP)組織舉辦的OCED技術(shù)預(yù)見論壇以“人工智能”為主題,邀請(qǐng)了來自IBM、Facebook、Google、微軟、法國(guó)國(guó)家科學(xué)研究中心、日本內(nèi)閣辦公室科學(xué)技術(shù)政策委員會(huì)等多位專家學(xué)者發(fā)表觀點(diǎn),本期介紹該論壇的主要內(nèi)容。
有兩種不同的方式來思考人工智能(AI)當(dāng)前和未來的使用和影響:1)“應(yīng)用型AI”系統(tǒng)專門用于解決特定的問題或推理任務(wù)——大多數(shù)今天使用的應(yīng)用程序?qū)儆谶@一類別,在AI研究中占大部分; 2)在更遙遠(yuǎn)的未來,一個(gè)“通用型AI”(AGI)機(jī)器可能具有更廣泛適用的智能行動(dòng),它行動(dòng)起來就像人類。這種通用型AI將引發(fā)大量問題,科幻小說中有所描述。
此論壇重點(diǎn)關(guān)注的是應(yīng)用型AI。
機(jī)器學(xué)習(xí)、大數(shù)據(jù)和云計(jì)算使AI加速發(fā)展,大大增強(qiáng)了AI的能力、可用性和影響。AI可以提高效率、節(jié)約成本并實(shí)現(xiàn)更好/更準(zhǔn)確的決策,幫助人們解決復(fù)雜的問題?;旧显诿恳粋€(gè)經(jīng)濟(jì)領(lǐng)域包括社交網(wǎng)絡(luò)、健康、環(huán)境或交通方面,都有AI應(yīng)用的例子。其中許多是目前已經(jīng)廣泛使用但并不明顯的AI應(yīng)用程序,如信用卡支付檢查、GPS導(dǎo)航、搜索引擎、翻譯器、拼寫和語法檢查器、垃圾郵件過濾器、社交網(wǎng)絡(luò)、個(gè)人助理(如Apple的SIRI)或機(jī)器人應(yīng)用程序。在很短的時(shí)間內(nèi),AI已經(jīng)成為主流,正迅速滲透和可能改變整個(gè)經(jīng)濟(jì)社會(huì),也因此在經(jīng)濟(jì)和社會(huì)層面提出了許多政策問題。
雖然AI已日益成為OECD成員國(guó)及其合作伙伴國(guó)家的優(yōu)先發(fā)展項(xiàng)目,日本信息通信部(MIC)和內(nèi)閣辦公室、美國(guó)白宮、英國(guó)議會(huì)等都將AI上升為國(guó)家戰(zhàn)略。但是總體而言,AI對(duì)未來幾年的可能的影響仍然被政策制定者和廣大公眾忽視。政策制定者有必要考慮社會(huì)如何最好地從AI中受益,同時(shí)最大限度地減少歧視、隱私侵蝕、公眾匿名喪失等風(fēng)險(xiǎn),并且可能要為自動(dòng)決策制定限制條款。在AI上不要只為追求轟動(dòng)效應(yīng),而要采取以證據(jù)為基礎(chǔ)的知情溝通方式。
我們還不能確定AI對(duì)工作帶來什么影響,但可以確定的是,AI勢(shì)必對(duì)人類就業(yè)造成影響和挑戰(zhàn)!比較容易被AI替換的往往是可預(yù)測(cè)或重復(fù)的工作,如司機(jī)、收銀員、會(huì)計(jì)師、工人或醫(yī)生。同時(shí),AI也應(yīng)該會(huì)創(chuàng)造全新的工作類型。
人們還關(guān)注AI加劇的收入不平等現(xiàn)象以及誰會(huì)控制AI技術(shù)。在經(jīng)濟(jì)學(xué)層面,AI的發(fā)展會(huì)讓人們更加關(guān)注技術(shù)所引發(fā)的“贏者通吃”。一些擁有大量數(shù)據(jù)和經(jīng)費(fèi)的公司和政府,可能會(huì)發(fā)展出很好的AI技術(shù),并獲得AI發(fā)展的大部分收益。由于公司將依賴更少的人員勞動(dòng)力,收入則集中在更少的人手中,從而加劇了收入分配不平等。還需要關(guān)注“贏者通吃”范式對(duì)地緣政治的影響,它對(duì)發(fā)展中國(guó)家的影響肯定會(huì)更大,因?yàn)榘l(fā)達(dá)國(guó)家控制了技術(shù)、專利和數(shù)據(jù)。
AI若帶有偏見地解讀數(shù)據(jù)、不可見地操縱人類決策過程或被惡意使用會(huì)導(dǎo)致各種風(fēng)險(xiǎn)。舉個(gè)例子,面部識(shí)別的應(yīng)用可以提高安全性,但如果識(shí)別人臉的機(jī)器作出的推斷不透明且含有偏見,則可能增加人權(quán)和公民自由的風(fēng)險(xiǎn);再比如利用AI推測(cè)人們的意圖、健康或未來的行動(dòng)可能會(huì)侵犯隱私和個(gè)人信息;還可能引起新的安全風(fēng)險(xiǎn),如惡意軟件可能濫用人工智能網(wǎng)絡(luò)系統(tǒng)或自主武器可能被惡意使用的風(fēng)險(xiǎn)。因此,論壇上提出了“合理的透明”(reasonable transparency)的概念。也有人認(rèn)為,“可解釋性”(explainability)或“可理解性”(understandability)可能比“透明”更有用,因?yàn)锳I產(chǎn)生的機(jī)器代碼越來越復(fù)雜了,會(huì)逐漸超越人類的解碼(decode)能力。政府應(yīng)該在確保AI透明度或可解釋性方面發(fā)揮特殊作用。
AI本質(zhì)是機(jī)器,不能有效地成為法人,或?qū)ζ錄Q策負(fù)有責(zé)任。那么當(dāng)AI驅(qū)動(dòng)的自動(dòng)決策引發(fā)各類事故需追究責(zé)任時(shí),誰來負(fù)責(zé)?無人駕駛汽車撞到人了,是AI系統(tǒng)負(fù)責(zé)任?AI系統(tǒng)的設(shè)計(jì)者負(fù)責(zé)任?汽車生產(chǎn)公司負(fù)責(zé)任?還是駕駛員負(fù)責(zé)任?
人們將需要做出重大的適應(yīng)和調(diào)整,并學(xué)習(xí)新的方式,來發(fā)現(xiàn)如何在一個(gè)AI取代許多人類工作的世界中最好地參與社會(huì)并利用他們的個(gè)性和創(chuàng)造力為人類社會(huì)做出貢獻(xiàn)。政策也需要調(diào)整,以促進(jìn)持續(xù)的教育、培訓(xùn)和技能開發(fā),在大學(xué)里需配設(shè)更多的AI理論和實(shí)踐教育,降低日益增長(zhǎng)的不平等和失業(yè)的風(fēng)險(xiǎn)。并且倡議將AI定位為支持人類決策(如IBM的Waston),而不是代替人類。
AI推斷/決策過程的不透明會(huì)導(dǎo)致各種風(fēng)險(xiǎn)。論壇中出現(xiàn)的最強(qiáng)烈的主題之一是AI算法需要合理透明度和可解釋性,特別是做出決定影響人或處理關(guān)鍵基礎(chǔ)設(shè)施的AI算法被認(rèn)為需要特定的透明度,以幫助人們判斷AI做出的決策或推論,其有效性和可信度如何。政府應(yīng)在確保AI的透明度或可解釋性方面發(fā)揮重要作用。關(guān)鍵或危險(xiǎn)的領(lǐng)域需要特別關(guān)注以及采取一定的措施,如觸發(fā)人類干預(yù)、需要保護(hù)措施和特殊透明度,甚至可能有必要禁止一些AI研究或應(yīng)用,例如自主的AI殺手武器。人類情感AI模擬,或被稱為“合成AI”(synthetic AI),是另一個(gè)可能需要采取安全措施和特別透明度的領(lǐng)域。
論壇中出現(xiàn)的另一個(gè)主題是“設(shè)計(jì)倫理”(ethics by design),建議AI系統(tǒng)的設(shè)計(jì)應(yīng)該與“設(shè)計(jì)倫理”緊密結(jié)合。從AI系統(tǒng)設(shè)計(jì)一開始就具有算法問責(zé)性,明確責(zé)任,基于尊重人們、遵守社會(huì)規(guī)則、尊重文化和宗教差異的原則,并適合于使用環(huán)境(例如專業(yè),家庭等)。將AI定位于協(xié)助人類,最大限度地提高效率,不破壞人的尊嚴(yán)。防止偏見和歧視,保護(hù)隱私。還有與會(huì)者呼吁就如何適用“AI倫理”(AI Ethics)或“設(shè)計(jì)倫理”這樣的概念進(jìn)行更多對(duì)話,而且在跨國(guó)家級(jí)別上應(yīng)用,因?yàn)閭惱砗途幾雮惱淼姆赏窃趪?guó)家層面開展的。
建議決策者應(yīng)召集利益相關(guān)者考慮AI網(wǎng)絡(luò)的社會(huì)、經(jīng)濟(jì)、倫理和法律問題,并建議OECD制定一般性的AI指南。一些發(fā)言者認(rèn)為需要國(guó)際準(zhǔn)則,以及與文化相適應(yīng)的國(guó)家法律,即使這增加了AI技術(shù)的商業(yè)化時(shí)間。
參考資料:“SUMMARY OF THE CDEP TECHNOLOGY FORESIGHT FORUM ECONOMIC AND SOCIAL IMPLICATIONS OF ARTIFICIAL INTELLIGENCE”
作者簡(jiǎn)介
聯(lián)系客服