一、關(guān)于深度偽造技術(shù)
隨著人工智能的快速發(fā)展，近幾年深度偽造技術(shù)迅速興起，其巨大的應(yīng)用潛力為藝術(shù)、社交、醫(yī)療等領(lǐng)域的發(fā)展帶來了新的可能性，但同時(shí)也為不法分子散布虛假視頻，激化社會(huì)矛盾，煽動(dòng)暴力和恐怖行動(dòng)提供了新工具，給經(jīng)濟(jì)安全、社會(huì)安全等安全領(lǐng)域帶來了諸多風(fēng)險(xiǎn)。本文聚焦深度偽造技術(shù)，對(duì)其基本內(nèi)涵、帶來的風(fēng)險(xiǎn)與挑戰(zhàn)，以及主要國家的治理措施進(jìn)行了深入研究。
一、關(guān)于深度偽造技術(shù)
（一）什么是深度偽造技術(shù)
深度偽造技術(shù)（Deepfake）是指利用人工智能、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等方法來偽造圖片、音頻及視頻等內(nèi)容的一種技術(shù)手段。深度偽造技術(shù)是人工智能技術(shù)發(fā)展過程中衍生技術(shù)的一種，其核心原理是利用生成對(duì)抗網(wǎng)絡(luò)或者卷積神經(jīng)網(wǎng)絡(luò)等算法對(duì)語音、圖像、文字等信息內(nèi)容進(jìn)行修改。
深度偽造技術(shù)主要有人臉深度偽造技術(shù)和語音深度偽造技術(shù)。其中人臉的深度偽造技術(shù)可以概括為以下幾個(gè)步驟：
1. 使用人臉識(shí)別算法檢測目標(biāo)圖片中的人臉；
2. 裁剪并預(yù)處理目標(biāo)圖片中的人臉；
3. 提取人臉中的身份和表情信息，并通過生成模型生成偽造人臉；
4. 將生成的人臉渲染到目標(biāo)圖像中人臉位置，重建圖像。
針對(duì)語音深度偽造技術(shù)需要音頻和文字輸入，用于指定目標(biāo)語音的內(nèi)容和音色。語音深度偽造技術(shù)的主要步驟有：
1. 如果該方法接受文本輸入，則將其編碼；
2. 提取輸入音頻的梅爾倒譜系數(shù)（Mel-Frequency Cepstral Coefficients，MFCCs）；
3. 將預(yù)處理后的數(shù)據(jù)輸入生成模型，得到目標(biāo)語音的幀級(jí)語音特征；
4. 通過聲碼器等方式得到目標(biāo)語音。
（二）深度偽造的生成模型
基于深度學(xué)習(xí)的生成模型是深度偽造的技術(shù)基礎(chǔ)，其中兩種主要的生成模型為生成對(duì)抗網(wǎng)絡(luò)（Generative Adversarial Network，GAN）和變分自編碼器（Variational Auto-Encoders，VAE）。
生成對(duì)抗網(wǎng)絡(luò)是一種應(yīng)用較為廣泛的生成模型，包括生成器和分類器。生成器可在高斯分布中采樣生成圖片，訓(xùn)練目標(biāo)生成分類器無法辨別真?zhèn)蔚膱D片，分類器則學(xué)習(xí)圖片是否由生成器生成。在訓(xùn)練過程中，交替固定生成器和分類器的參數(shù)。目前較為常用的生成對(duì)抗網(wǎng)絡(luò)模型有InfoGAN、CycleGAN等。
變分自編碼器是一種基于自編碼器結(jié)構(gòu)的生成模型，自編碼器一般包括編碼器模塊和解碼器模塊，在深度偽造過程中通過添加解碼器和編碼器或者在編碼中注入信息來進(jìn)行身份或動(dòng)作的篡改，而變分自編碼器相比自編碼器具有更好的耐噪聲能力。
（三）深度偽造檢測技術(shù)
深度偽造技術(shù)的深入發(fā)展對(duì)社會(huì)安全、網(wǎng)絡(luò)安全甚至是政治安全都產(chǎn)生了嚴(yán)重的威脅，為應(yīng)對(duì)深度偽造技術(shù)帶來的一系列負(fù)面影響，人們逐漸開始關(guān)注針對(duì)深度偽造技術(shù)的對(duì)抗策略。
圖像與視頻的深度偽造檢測技術(shù)主要可以分為針對(duì)偽造痕跡進(jìn)行取證的檢測方法和數(shù)據(jù)驅(qū)動(dòng)的檢測方法。針對(duì)偽造痕跡進(jìn)行取證可以采取直接對(duì)圖像進(jìn)行檢測的方法，主要檢測“圖像處理取證，生物信息，融合痕跡，時(shí)序連貫和模型指紋”等圖像偽造痕跡。
除了直接針對(duì)檢測圖像進(jìn)行圖像取證的方法，部分研究者針對(duì)深度偽造步驟中將生成模型輸出結(jié)果和外圍背景的融合步驟產(chǎn)生的偽造痕跡進(jìn)行檢測?；跀?shù)據(jù)驅(qū)動(dòng)的檢測方法則是利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)常用的人臉偽造方法（例如face2face）進(jìn)行檢測，得到相關(guān)的特征向量，之后利用神經(jīng)網(wǎng)絡(luò)根據(jù)特征向量判斷輸入圖像是否經(jīng)過偽造。
語音深度偽造檢測一般分為前端和后端，分別從音頻中提取聲學(xué)特征，以及利用高斯混合模型、神經(jīng)網(wǎng)絡(luò)等分類模型根據(jù)聲學(xué)特征對(duì)目標(biāo)音頻進(jìn)行分類，從而判斷語音是否經(jīng)過偽造。
二、深度偽造技術(shù)的風(fēng)險(xiǎn)與挑戰(zhàn)
2020年，倫敦大學(xué)學(xué)院的研究人員發(fā)布了一份專家認(rèn)為最嚴(yán)重的人工智能犯罪威脅的排名，其中深度偽造高居榜首。必須全面把握、深刻認(rèn)識(shí)該技術(shù)帶來的威脅，才能及時(shí)防范應(yīng)對(duì)其帶來的安全風(fēng)險(xiǎn)。
（一）深度偽造影響國際關(guān)系
深度偽造會(huì)破壞國際社會(huì)的戰(zhàn)略互信并沖擊脆弱的和平環(huán)境。從國際形勢穩(wěn)定的角度看，深度偽造與其他顛覆性數(shù)字技術(shù)相結(jié)合，將極大地降低全球和區(qū)域多邊機(jī)構(gòu)以及國際關(guān)系行為體彼此間的信任。根據(jù)美國權(quán)威數(shù)據(jù)科學(xué)公司的一項(xiàng)測試，通過語音生成算法，只需要借助兩小時(shí)的語料并訓(xùn)練五天時(shí)間，就可以模擬一份以假亂真的特朗普向俄羅斯宣戰(zhàn)的語音。對(duì)于在國際社會(huì)試圖制造事端的國家與非國家行為體而言，它們可以隨時(shí)獲取和利用深度偽造技術(shù)，擴(kuò)大參與并深度影響國際關(guān)系形勢。
深度偽造很可能會(huì)成為國際恐怖活動(dòng)的催化劑。早期的恐怖組織缺乏制作虛假但可信的音頻和視頻的資源，如今隨著深度偽造技術(shù)的成熟，它們可以輕而易舉地制造這類作品了?？植澜M織通過深度偽造的視頻或音頻，針對(duì)對(duì)手包括政府官員發(fā)表煽動(dòng)性言論或從事挑釁性行動(dòng)，最大限度地對(duì)其目標(biāo)受眾產(chǎn)生有利于恐怖組織的影響。
首先，深度偽造可能操縱新聞輿論，消解公眾信任。人工智能為虛假信息的傳播者提供了快速偵察目標(biāo)國家社交媒體受眾并識(shí)別其心理弱點(diǎn)的能力。人工智能驅(qū)動(dòng)的系統(tǒng)可以快速生成修改過的內(nèi)容和深度偽造的數(shù)字產(chǎn)品，從而推動(dòng)針對(duì)目標(biāo)國家民眾和國家利益的虛假敘事，沖擊目標(biāo)國家民眾的心理。眾所周知，我們對(duì)世界的經(jīng)驗(yàn)以及我們對(duì)世界作出自信判斷能力需要我們有一些證據(jù)來源。這些來源在形成共識(shí)的基礎(chǔ)之上，自動(dòng)引導(dǎo)我們作出判斷。人們不可避免地依賴于超出他們直接感知的世界的可靠知識(shí)，這在本質(zhì)上是一種知識(shí)生態(tài)系統(tǒng)。深度偽造技術(shù)的泛濫還可能導(dǎo)致公眾形成“眼見不為實(shí)”的心理預(yù)期。其直接結(jié)果是公眾對(duì)公有機(jī)構(gòu)的信任度遭遇侵蝕。
其次，深度偽造給國家形象帶來新的挑戰(zhàn)。一方面，深度偽造可能用以抹黑國家形象。2022年8月底，美國斯坦福大學(xué)網(wǎng)絡(luò)觀察室發(fā)布報(bào)告，披露美國利用社交媒體操縱全球輿論。另一方面，深度偽造可能通過假新聞?wù)u謗公眾人物。正如有專家預(yù)測的那樣，未來幾年，電腦將能夠快速生成令人信服的、偽造的音頻和視頻信息，這將把假新聞提升到一個(gè)全新水平。深度偽造技術(shù)可能通過所謂的假新聞?dòng)靡哉u謗公眾人物。
（二）深度偽造侵犯公眾利益
顛覆性技術(shù)已從傳統(tǒng)神秘的技術(shù)流派，轉(zhuǎn)向技術(shù)開源代碼的普及，面臨著低門檻擴(kuò)散化的風(fēng)險(xiǎn)。如深度偽造技術(shù)的代碼算法，已在GitHub等技術(shù)交流網(wǎng)站開源；更便捷的方式是通過手機(jī)應(yīng)用商城免費(fèi)下載相關(guān)應(yīng)用軟件，開展深度偽造的活動(dòng)。獲取渠道和應(yīng)用場景的平民化趨勢，將帶來社會(huì)安全和經(jīng)濟(jì)風(fēng)險(xiǎn)，侵犯公民合法權(quán)益。
深度偽造技術(shù)侵犯公民肖像權(quán)和名譽(yù)權(quán)。眾多技術(shù)公司開發(fā)的商業(yè)性娛樂性深度偽造軟件，能輕松地將面部表情、技術(shù)動(dòng)作和聲音三者融為一體。這種平民化和社會(huì)娛樂化的使用，使得大規(guī)模低成本的針對(duì)個(gè)人的惡搞乃至污蔑成為可能。深度偽造技術(shù)最常見的非法運(yùn)用方式，是將一些知名歌星、影星等公眾人物的臉“移花接木”到色情明星身上，偽造色情片非法牟利，或者是偽造惡搞視頻，這對(duì)個(gè)人名譽(yù)權(quán)與肖像權(quán)構(gòu)成嚴(yán)重侵害。
深度偽造技術(shù)侵犯公眾財(cái)產(chǎn)安全。深度偽造技術(shù)目前已出現(xiàn)在經(jīng)濟(jì)交易過程中，使得經(jīng)濟(jì)詐騙成本更低、次數(shù)更頻繁、潛在經(jīng)濟(jì)損失更高，經(jīng)濟(jì)犯罪預(yù)防和偵查難度也更大。不法分子可以利用漏洞劫持手機(jī)識(shí)別攝像頭，利用照片活化、表情操縱等深度偽造技術(shù)冒充機(jī)主，進(jìn)而對(duì)機(jī)主的微信好友實(shí)行轉(zhuǎn)賬詐騙。同樣的，電信詐騙中也有類似利用“語音偽造”技術(shù)的案例。例如目前已出現(xiàn)針對(duì)老年人和商業(yè)公司的聲音偽造的詐騙案例，都是通過深度偽造技術(shù)構(gòu)建聲音模型，實(shí)施親情詐騙。
三、各國對(duì)深度偽造技術(shù)的政策及治理
（一）美國：自下而上的治理路徑
2019年美國情報(bào)界發(fā)布研究報(bào)告——《2019年全球威脅評(píng)估》，該報(bào)告認(rèn)為“深度偽造”技術(shù)已經(jīng)對(duì)美國國家安全構(gòu)成威脅，敵對(duì)勢力和戰(zhàn)略競爭對(duì)手很有可能企圖利用“深度偽造”技術(shù)或類似的機(jī)器學(xué)習(xí)技術(shù)，創(chuàng)造出高度可信但卻完全虛假的圖片、音頻和視頻資料，以加強(qiáng)針對(duì)美國及其盟友和合作伙伴的影響滲透運(yùn)動(dòng)。
美國作為第一個(gè)大規(guī)模出現(xiàn)深度偽造技術(shù)的國家，針對(duì)該技術(shù)引發(fā)的一系列問題采取針對(duì)性回應(yīng)舉措，由基層參與先行，綜合各方形成自下而上的治理路徑（見表1）。
（二）歐盟：自上而下的治理路徑
歐盟由于“深度偽造”換臉的普及程度、影響廣度和侵害深度遠(yuǎn)低于美國，因而不同于美國制定針對(duì)性法案，而是將“深度偽造”納入“虛假信息”范疇進(jìn)行統(tǒng)一管理。
歐盟委員會(huì)在2018年4月26日發(fā)布公告《應(yīng)對(duì)線上虛假信息：歐洲方案》（Tackling online disinformation: a European Approach），以歐盟委員會(huì)為治理主體，自上而下發(fā)揮總攬全局作用，協(xié)調(diào)歐盟各成員國參與“深度偽造”治理（見表2）。
（三）中國：多方主體共同參與的治理路徑
在中國，深度偽造技術(shù)被人們所關(guān)注是由于2019年“ZAO”這款換臉應(yīng)用的興起，ZAO在初始版用戶協(xié)議中對(duì)用戶個(gè)人信息做了如下規(guī)定：“確保肖像權(quán)利人同意授予'ZAO’及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權(quán)利人的肖像權(quán)，以及利用技術(shù)對(duì)您或肖像權(quán)利人的肖像進(jìn)行形式改動(dòng)。”但隨著ZAO用戶數(shù)量的激增，有關(guān)ZAO強(qiáng)制用戶錄入人臉數(shù)據(jù)，過度攫取和肆意濫用等行為引起大眾的廣泛關(guān)注和質(zhì)疑。
目前我國暫未出現(xiàn)“深度偽造”換臉的政治性輿論事件，負(fù)面社會(huì)影響也才剛剛凸顯，應(yīng)對(duì)舉措還在探索中，但已呈現(xiàn)出政府指導(dǎo)下多方主體共同參與的治理路徑（見表3）。
目前，包括中國、美國、歐盟在內(nèi)的眾多地區(qū)和國家都已經(jīng)認(rèn)識(shí)到深度偽造帶來的挑戰(zhàn)和威脅，并且從新技術(shù)的研發(fā)、加強(qiáng)對(duì)信息發(fā)布平臺(tái)的監(jiān)管以及社會(huì)立法等方面采取行動(dòng)，力求遏制惡意深度偽造帶來的各種威脅。但是，數(shù)字活動(dòng)的跨境性也決定了要解決深度偽造帶來的問題，國家間的合作是必不可少的。國際社會(huì)必須在相互尊重、相互信任的基礎(chǔ)上，倡導(dǎo)綜合安全、合作安全、共同安全的理念，共同打造數(shù)字時(shí)代人類安全的命運(yùn)共同體。
聯(lián)系客服
