作者：白安妮

轉(zhuǎn)載自：量子位

物聯(lián)網(wǎng)智庫 整理發(fā)布

轉(zhuǎn)載請注明來源和出處

Reddit上有個隱秘論壇暗流涌動。

這是一個主要生產(chǎn)假冒愛情動作片的“黑窩點(diǎn)”，負(fù)責(zé)用AI技術(shù)將色情作品中的主角換成明星的臉，組織代號“deepfakes”。

這種略帶羞澀又不可描述的事情，可能沒有不火的道理。但想不到的是……這項(xiàng)技術(shù)又！有！了！升！級！

最近，有位高手發(fā)布了應(yīng)用“FakeApp”，基于deepfakes的算法添加了一些工具，進(jìn)一步降低了AI使用的門檻，可以形容為“人人可用”，非常用戶友好了。

手握FakeApp，只需輸入1到2條明星臉部的高清視頻，即使你沒有技術(shù)背景和編程經(jīng)驗(yàn)，也能輕松給愛情動作片的主角換臉。

還有這種事？有點(diǎn)不敢想。

至于合成效果，大家感受一下（局部截圖）。

△ “寡姐”斯嘉麗·約翰遜

△ 女神艾瑪沃森

△ 《權(quán)利的游戲》中珊莎的扮演者Sophie Turner

△ 賈斯汀比伯前女友Selena Gomez

有文化，真可怕。小電影，可造假。

這……這是怎么做到的？

“雨后春筍”

這項(xiàng)火遍國外技術(shù)圈的換臉術(shù)，其實(shí)從誕生到現(xiàn)在，也就只有一個多月。

一個月前，一名叫“deepfakes”的用戶，在業(yè)余時(shí)間用創(chuàng)造這個機(jī)器學(xué)習(xí)算法，“deepfakes”也因此成為這項(xiàng)技術(shù)的代名詞。

隨后，技術(shù)圈炸了，社區(qū)和周邊也在大家強(qiáng)烈需求下來了。

首先是deepfakes在Reddit上組建了一個同名社區(qū)。

真是有緣千里來相會，短短一個多月，這個版塊已經(jīng)有了15000多名訂閱者。社員可以在里面用使用免費(fèi)工具練手，隨后還能互相交流、點(diǎn)贊和點(diǎn)評什么的。

一個社區(qū)好像還不過癮，由于之前的合成步驟有些繁瑣，幾天前，社區(qū)用戶“deepfakeapp”創(chuàng)建了一個簡單易操作的桌面應(yīng)用，也就是我們開頭提到的號稱“人人可用”的FakeApp。

技術(shù)轉(zhuǎn)變

從一開始的deepfakes原版到這個易上手的FakeApp，合成過程經(jīng)過了怎樣的轉(zhuǎn)變？

其實(shí)也不難理解。

原版deepfakes的本質(zhì)是一個機(jī)器學(xué)習(xí)算法，任何人可用視頻材料和開源代碼，加以深度學(xué)習(xí)算法知識的輔助合成假視頻。

據(jù)創(chuàng)造者deepfakes本人透露，這個軟件是基于像TensorFlow后端的Keras庫這樣的多個開源庫完成的。deepfakes首先做的，是通過谷歌圖片搜索、Youtube視頻等方式收集明星的臉。

深度學(xué)習(xí)由相互連接的節(jié)點(diǎn)網(wǎng)絡(luò)組成，它們可以自動對輸入數(shù)據(jù)進(jìn)行運(yùn)算。deepfakes用色情作品和想要替換的女演員的臉訓(xùn)練算法，當(dāng)節(jié)點(diǎn)能夠?qū)崟r(shí)操控自己產(chǎn)生效果比較令人信服的假視頻時(shí)，訓(xùn)練也可以結(jié)束了。

而FakeApp做的，是將這個合成流程進(jìn)一步簡化。

它被定義為一個社區(qū)開發(fā)的桌面應(yīng)用，可以運(yùn)行deepfakes算法，無需安裝Python、TensorFlow等，并且如果想要運(yùn)行，僅需要“CUDA支持的高性能GPU”。

別著急，如果用戶沒有合適的GPU，也可以通過谷歌云平臺等租個云GPU完成。從數(shù)據(jù)抽取到從一張臉到另一張臉的逐幀轉(zhuǎn)化，整個流程運(yùn)行下來大概需要8到12個小時(shí)的時(shí)間。

應(yīng)用的作者deepfakeapp還公布了一張訓(xùn)練過程的屏幕截圖，看起來確實(shí)比較簡潔易用。

“我想讓用戶最終通過一段本地錄像和云端下載的明星面孔的神經(jīng)網(wǎng)絡(luò)一鍵生成假視頻，將網(wǎng)絡(luò)中的明星面孔移植到本地錄像中?！眃eepfakeapp在接受外媒采訪時(shí)說。

看來“人人可用”不是自吹自擂。

小電影以外

雖然大多數(shù)reddit上deepfake論壇的帖子是愛情動作片，但別忘了這項(xiàng)技術(shù)本身也能合成正常的視頻啊喂。

用戶Z3ROCOOL22將希特勒的臉“嫁接”到阿根廷總統(tǒng)Mauricio Macri身上，效果看起來也還不錯。

不過，也有一些用戶反映如果運(yùn)行的時(shí)間太長，可能會帶來災(zāi)難性后果。

“為了紀(jì)念所有嘗試過但失敗的人?！庇脩鬗rDrPresidentNotSure感慨，原因是自己合成的視頻是在有些……嗯，掃興——

用戶yu78156853也很是不解——

爭議與質(zhì)疑

從開始到現(xiàn)在，對這項(xiàng)技術(shù)的質(zhì)疑與爭論就從未停止。

質(zhì)疑一是“版權(quán)”之爭。

FakeApp的作者deepfakeapp借用了deepfakes的算法做出了FakeApp，并且傳播地還如此廣泛。

外媒《MotherBoard》想采訪fakeapps對此事的看法，對方并沒有回應(yīng)。

“我是想讓沒有技術(shù)背景或編程經(jīng)驗(yàn)的人也可以使用deepfakes的技術(shù)?！眃eepfakeapp在接受采訪時(shí)表明了自己的初衷。

質(zhì)疑二是倫理道德之爭。

這個簡單的應(yīng)用可能會被居心叵測的用戶利用，從而制作各種色情、暴力甚至關(guān)乎政治的虛假視頻，一旦發(fā)生，后果可能非常嚴(yán)重。

“任何技術(shù)都可以被邪惡的動機(jī)利用，這種事情無法被禁止?！眃eepfakes說。他表示，技術(shù)都有兩面性，這項(xiàng)技術(shù)可以被用到暴力和政治視頻上，也可以用到《速度與激情7》中保羅沃克逝世后的后續(xù)視頻拍攝上。

無法禁止的一把雙刃劍。“我認(rèn)為人人都可參與機(jī)器學(xué)習(xí)研究不是一件壞事?！眃eepfakes表示。

OMT

還有個結(jié)論。

量子位在Reddit的deepfakes子論壇中檢索時(shí)發(fā)現(xiàn)，用戶制作的數(shù)量最多的假視頻是關(guān)于艾瑪·沃森的。

終于知道誰是國外AI圈最火的女星~