目前無(wú)法打開(kāi)的黑箱
了解AI神經(jīng)網(wǎng)絡(luò)如何做出決策，一直是人工智能研究人員長(zhǎng)期面對(duì)的問(wèn)題。
神經(jīng)網(wǎng)絡(luò)是以人的大腦為參照開(kāi)發(fā)的 AI 系統(tǒng)，旨在復(fù)制人類學(xué)習(xí)的方式。簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)有一個(gè)輸入層、一個(gè)輸出層，兩者之間還有一個(gè)將輸入轉(zhuǎn)換為正確的輸出結(jié)果的層。然而一些深度神經(jīng)網(wǎng)絡(luò)非常復(fù)雜，無(wú)法遵循這種簡(jiǎn)單的轉(zhuǎn)換過(guò)程。所以逐漸地，神經(jīng)網(wǎng)絡(luò)的設(shè)置層越來(lái)越多，決策過(guò)程成為了一個(gè)“黑箱”（blackbox）問(wèn)題，內(nèi)部流程非常不透明，以至于該網(wǎng)絡(luò)的開(kāi)發(fā)者可能都無(wú)法完全掌握。
本身人類大腦的運(yùn)行機(jī)制就是一個(gè)“黑箱”，人腦的黑箱對(duì)我們來(lái)說(shuō)，幾乎還是一個(gè)難以解開(kāi)的謎。神經(jīng)病學(xué)，心理學(xué)，社會(huì)學(xué)等等許多學(xué)科都嘗試去定義人類意識(shí)，描述意識(shí)產(chǎn)生的機(jī)制。但至今都沒(méi)有一個(gè)足夠強(qiáng)力的學(xué)說(shuō)能解釋一切。而模擬人腦的AI神經(jīng)網(wǎng)絡(luò)，尤其是目前最先進(jìn)的復(fù)雜神經(jīng)網(wǎng)絡(luò)，也缺乏有效的機(jī)制能讓人理解其推理過(guò)程。
現(xiàn)在的AI深度學(xué)習(xí)并不遵循數(shù)據(jù)輸入、特征提取、特征選擇、邏輯推理、預(yù)測(cè)的過(guò)程，而是由計(jì)算機(jī)直接從事物原始特征出發(fā)，自動(dòng)學(xué)習(xí)和生成高級(jí)的認(rèn)知結(jié)果。在人工智能輸入的數(shù)據(jù)和其輸出的答案之間，存在著我們無(wú)法洞悉的“隱層”，也即是“黑箱”。這里的“黑箱”并不只意味著不能觀察，還意味著即使計(jì)算機(jī)試圖向我們解釋，我們也無(wú)法理解。哥倫比亞大學(xué)的機(jī)器人學(xué)家HodLipson把這一困境形象地描述為“這就像是向一條狗解釋莎士比亞是誰(shuí)?！边@也就是事情最吊詭之處。正如我們也同樣無(wú)法解釋，人類意識(shí)如何誕生？我們?yōu)槭裁丛谌f(wàn)千生靈中，擁有這獨(dú)一無(wú)二的秘藏。意識(shí)到底是什么？意識(shí)即是自我本身嗎？為什么它海納百川，又空無(wú)一物？意識(shí)僅僅源自于人類學(xué)習(xí)與實(shí)踐的過(guò)程嗎？
既然我們目前還無(wú)法很好地解釋人工智能如何處理大數(shù)據(jù)，如果算法無(wú)法解釋其輸出原理，這是否意味著深度學(xué)習(xí)成為非法的方式？今天，各種弱人工智能應(yīng)用場(chǎng)景如雨后春筍般涌現(xiàn)，在萬(wàn)物互聯(lián)的背景下，以云計(jì)算為用，以個(gè)人數(shù)據(jù)為體，以機(jī)器學(xué)習(xí)為魂的智能應(yīng)用，忽如一夜春風(fēng)來(lái)，遍地風(fēng)流。通過(guò)自動(dòng)化的數(shù)據(jù)處理，評(píng)估、分析及預(yù)測(cè)個(gè)人的工作表現(xiàn)、經(jīng)濟(jì)狀況、位置、健康狀況、個(gè)人偏好、可信賴度或者行為表現(xiàn)，進(jìn)而利用這種“數(shù)據(jù)畫像”（profiling），正在不同的業(yè)務(wù)場(chǎng)景中，做出有關(guān)數(shù)據(jù)主體的各項(xiàng)決策和決定。
然而，人工智能的自動(dòng)化決定一方面可以給我們帶來(lái)便利，比如智能投顧或智能醫(yī)療，但另一方面，它如果因?yàn)槟撤N原因出錯(cuò)，甚至可能存在著某種“惡意”，我們應(yīng)當(dāng)如何應(yīng)對(duì)？在美國(guó)，每周超過(guò)1000人被機(jī)場(chǎng)使用的算法錯(cuò)誤地標(biāo)記為恐怖分子。一名美國(guó)航空公司的飛行員在一年中被拘留了80次，因?yàn)樗拿峙c愛(ài)爾蘭共和軍領(lǐng)導(dǎo)人的名字相似。人工智能在饕餮著海量大數(shù)據(jù)的同時(shí)，是基于什么樣的算法，進(jìn)行了復(fù)雜的結(jié)構(gòu)重組與數(shù)據(jù)挖掘，然后，在一名無(wú)辜者毫無(wú)察覺(jué)和無(wú)從申辯的時(shí)候，就直接把他當(dāng)做了被鎖定的數(shù)據(jù)攻擊的目標(biāo)？我還知道一個(gè)案例，是華盛頓特區(qū)的SarahWysocki是一位被普遍認(rèn)可的老師，但當(dāng)2009年政府用一個(gè)自動(dòng)化決定程序來(lái)評(píng)價(jià)教師表現(xiàn)時(shí)，她和其他205人因得分不佳被解雇。據(jù)稱，該決定以少數(shù)學(xué)生的成績(jī)?yōu)橐罁?jù)，可學(xué)校始終無(wú)法解釋為何優(yōu)秀教師會(huì)落得如此下場(chǎng)。我不知道，未來(lái)我會(huì)不會(huì)成為，一名因算法評(píng)估而被下課的教師？
人工智能的算法依賴于大數(shù)據(jù)，而大數(shù)據(jù)并非中立。它們從真實(shí)社會(huì)中抽取，必然帶有社會(huì)固有的不平等、排斥性和歧視的痕跡。而且，正如上述，大數(shù)據(jù)處理過(guò)程是混沌黑箱，無(wú)論是程序錯(cuò)誤，還是算法歧視，在人工智能的前沿領(lǐng)域——深度學(xué)習(xí)中，都變得難以識(shí)別。數(shù)據(jù)是數(shù)字經(jīng)濟(jì)的關(guān)鍵生產(chǎn)要素，人工智能是數(shù)字經(jīng)濟(jì)的關(guān)鍵產(chǎn)業(yè)支柱。如何在發(fā)掘數(shù)據(jù)的經(jīng)濟(jì)價(jià)值、發(fā)展人工智能的同時(shí)，保障個(gè)人的權(quán)利和自由，依然是數(shù)字社會(huì)的未解難題。
在數(shù)字化生存的今天，不管是“社會(huì)人”還是“經(jīng)濟(jì)人”，都首先是“數(shù)字人”?，F(xiàn)實(shí)空間的我們，被數(shù)據(jù)所記載、所表達(dá)、所模擬、所處理、所預(yù)測(cè)。如何從源頭上，確保我們的個(gè)人數(shù)據(jù)被小心和負(fù)責(zé)地收集、使用、共享，個(gè)人敏感數(shù)據(jù)得到尊重和保護(hù)，并且要求數(shù)據(jù)使用者在個(gè)人數(shù)據(jù)收集時(shí)具有透明度和公正性？
如果在數(shù)據(jù)生產(chǎn)和處理日趨復(fù)雜的形勢(shì)下，考慮到算法黑箱目前似乎無(wú)解，一旦公民個(gè)人對(duì)某項(xiàng)自動(dòng)化決定不滿，是否有權(quán)啟動(dòng)人工介入，以表達(dá)自己的觀點(diǎn)并提出質(zhì)疑？這一點(diǎn)，在法律與規(guī)則制訂上如何落到實(shí)處？如何架構(gòu)申訴渠道？如何在數(shù)字化生存時(shí)代，確保我們不會(huì)因?yàn)闊o(wú)端端的原因，一夜之間成為被社會(huì)歧視的數(shù)字難民？
我們不得不承認(rèn)，技術(shù)正在裹挾我們迅猛前行，未知的前路以越來(lái)越快的速度向我們迎面而來(lái)。為了應(yīng)對(duì)這個(gè)飛速變化的世界，我們只能借助更多技術(shù)的幫助，而更多的技術(shù)只能帶來(lái)更快的變化。這像是一個(gè)怪圈，一旦陷入，永遠(yuǎn)不能脫離。在今天，技術(shù)大爆炸的核心部位，那里有著由黑洞一般的“未知”產(chǎn)生的攝人心魄的混沌。也許它會(huì)打開(kāi)人類進(jìn)化的新境界，也許會(huì)原地踏步一無(wú)所成，也許會(huì)從無(wú)盡深淵中誕生魔鬼。只要一想起人工智能那億萬(wàn)兆次的無(wú)窮運(yùn)算，以及沒(méi)有任何情緒波動(dòng)、不知疲倦、永不停歇的深度學(xué)習(xí)，我們就難以平靜。我們的心情，如同懸想一次懸崖失足那樣暈眩與顫栗。我們知道人類在探索極為艱巨深?yuàn)W的秘密，在孤獨(dú)地尋找那條通往升級(jí)的道路，卻全然不知等待我們的，是餡餅還是陷阱。
現(xiàn)在的世界，對(duì)我們?nèi)祟悂?lái)說(shuō)還是一個(gè)巨大的未知。繼續(xù)開(kāi)拓是我們每一代人的職責(zé)。在追尋的道路上，總有復(fù)雜多元的挑戰(zhàn)在等待。人，作為一種擁有開(kāi)放意識(shí)的獨(dú)立主體，我們應(yīng)該充滿無(wú)畏和反抗，不管我們從哪里來(lái)，不管我們本身多么弱小。走過(guò)失敗和成功，我們正走向迷茫未知的人類前景。
聯(lián)系客服
