曾經(jīng)，騙子騙錢(qián)是“不打針、不吃藥，坐在這里跟你嘮”?，F(xiàn)在不一樣了，上技術(shù)手段了。
最近，內(nèi)蒙古包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的案例。來(lái)自福建的郭先生是某科技公司法人代表，今年4月，一位“好友”通過(guò)微信視頻聯(lián)系郭先生，稱(chēng)需要430萬(wàn)元保證金，想借用郭先生公司的賬戶(hù)走賬。
“當(dāng)時(shí)是給我打了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以放松了戒備?！庇谑?，郭先生10分鐘內(nèi)把430萬(wàn)元轉(zhuǎn)至對(duì)方賬戶(hù)，可沒(méi)想到，給好友回電話(huà)之后他才知道，這是騙子用AI換臉和擬聲技術(shù)演的一出戲。
這誰(shuí)能想到？
再看一個(gè)例子。
2022年2月，陳先生到浙江溫州一家派出所報(bào)案，說(shuō)自己被“好友”詐騙了近5萬(wàn)元。原來(lái)，詐騙分子利用陳先生好友在社交平臺(tái)發(fā)布的視頻，截取其中面部畫(huà)面，再用AI換臉技術(shù)進(jìn)行合成，就制造了陳先生與“好友”視頻聊天的假象。
您猜這樣的技術(shù)得花多少錢(qián)？
還真不貴。據(jù)媒體報(bào)道，用照片生成1分鐘“露臉且說(shuō)話(huà)”的視頻，僅需30元。這種技術(shù)，直播帶貨里也有不少人使用。點(diǎn)開(kāi)一些電商直播間，“劉亦菲”“殷桃”“迪麗熱巴”都在賣(mài)貨。在一個(gè)展示換臉效果的視頻中，主播把名為“成龍”的模型載入軟件，畫(huà)面中立馬有了“成龍”的直播鏡頭。主播歪頭、變換表情，五官動(dòng)效自然順暢，只有在手掌劃過(guò)臉前時(shí)，畫(huà)面才有一些異樣。
AI換臉為“成龍”的實(shí)時(shí)效果和軟件界面（圖源：央廣網(wǎng)）
老話(huà)說(shuō)“眼見(jiàn)為實(shí)”，可如今，眼見(jiàn)的也未必作數(shù)了。碰上這種新型詐騙，到底該怎么防范？
那肯定得認(rèn)清騙子的招。
首先是聲音合成。騙子往往通過(guò)騷擾電話(huà)的通話(huà)錄音，提取接聽(tīng)者聲音，再進(jìn)行聲音合成，用偽造的聲音設(shè)下騙局。比如，某公司財(cái)務(wù)小王接到“領(lǐng)導(dǎo)”電話(huà)，要求立刻給供應(yīng)商轉(zhuǎn)款2萬(wàn)元；小王被聲音迷惑，1小時(shí)內(nèi)完成轉(zhuǎn)款。
然后是AI換臉。騙子會(huì)分析群眾發(fā)布在網(wǎng)上的各類(lèi)信息，通過(guò)AI技術(shù)篩選目標(biāo)人群，再利用AI換臉，偽裝成受害者的家人、朋友、領(lǐng)導(dǎo)、同事，借助視頻通話(huà)騙取信任，實(shí)施詐騙。
技術(shù)這么先進(jìn)，防不勝防？其實(shí)就記住一句話(huà)：人心隔肚皮，人臉能畫(huà)皮，開(kāi)口就要錢(qián)，難免有貓膩。
所以，別著急轉(zhuǎn)賬打錢(qián)。打個(gè)電話(huà)，實(shí)在不行見(jiàn)一面，事緩則圓。同時(shí)，一定要注意保護(hù)好個(gè)人信息，千萬(wàn)別輕易透露身份證、銀行卡賬戶(hù)，慎重提供人臉、指紋等生物信息，少過(guò)度公開(kāi)或分享人臉動(dòng)圖、視頻。
如果接到了騙子的視頻通話(huà)，還有兩個(gè)小技巧可供參考：
一是盯著對(duì)方的眼睛。AI換臉多用睜眼照片合成，眨眼頻率跟真人有區(qū)別，不妨留心觀察；二是要求對(duì)方用手指在面部晃動(dòng)、用手掌擋住臉的一部分，看看面部會(huì)不會(huì)扭曲變形。這是因?yàn)椋_子訓(xùn)練AI算法時(shí)，用的多是人物正面照，程序無(wú)法處理突然出現(xiàn)在面前的物體。
（圖源：人民日?qǐng)?bào)）
要是遇到可疑情形或者不幸被騙，一定要注意保護(hù)證據(jù)，撥打96110，讓騙子接受法律的制裁。
講完個(gè)人該做的，咱也嘮嘮平臺(tái)。去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式發(fā)布，明確提出：提供智能對(duì)話(huà)、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。這就是說(shuō)，平臺(tái)不能一放了之，發(fā)現(xiàn)類(lèi)似情形得及時(shí)介入、敦促打上標(biāo)識(shí)，讓用戶(hù)不被蒙蔽。
技術(shù)是一柄雙刃劍，操控劍柄的人應(yīng)守法有道。這一點(diǎn)，從平臺(tái)到監(jiān)管，更需形成合力。
文/云歌
聯(lián)系客服
