【討論】人臉識別進小區(qū)引發(fā)爭議，到底風險在哪里？

2022.06.17 四川

近日，媒體報道，在某居住小區(qū)門禁改造過程中，清華大學教授提了不同意見，她列舉了種種風險，認為在小區(qū)安裝人臉識別裝置并無必要，而且不經(jīng)同意收集人臉數(shù)據(jù)，也違反現(xiàn)行的法律規(guī)定。

這一事件再次引發(fā)人們對“人臉識別”風險的關注，到底風險在哪里呢？

首先回顧一下近年來“人臉識別”的幾個案例：

一、人臉識別第一案

根據(jù)報道，“人臉識別第一案”發(fā)生在2019年10月，杭州動物園入園識別系統(tǒng)升級，未注冊人臉識別的用戶將無法入園。學習法律出身的郭兵拒絕升級人臉識別，并要求退還年卡費用。雙方協(xié)商無果后，他將動物世界訴至法院。

二、人臉識別進校園引發(fā)爭議

根據(jù)報道，2019年9月，中國藥科大學在校內(nèi)應用了人臉識別技術，不僅校門、圖書館等安裝了新的人臉識別門禁，教室內(nèi)也裝上了人臉識別系統(tǒng)進行考勤，學生發(fā)呆、玩手機都能被感知到。

此舉引發(fā)爭議，對此教育部表態(tài)，“（對于人臉識別技術應用）我們要加以限制和管理。現(xiàn)在我們希望學校非常慎重地使用這些技術軟件?！?/p>

三、換臉APP“ZAO”引發(fā)爭議

根據(jù)報道，2019年8月上線的一款名為“ZAO”的APP，用戶只需要一張正臉照，就可以替換明星的面孔，生成以自己為主角的視頻片段。然而該APP涉嫌違規(guī)，泄露用戶隱私，比如：

用戶注冊時必須要提供的手機號碼等信息，再加上人臉驗證，讓人很容易想到銀行卡、支付寶等金融類APP才有的面部識別。

ZAO的用戶協(xié)議還規(guī)定，用戶默認肖像權利人同意授予ZAO及其關聯(lián)公司全球范圍內(nèi)完全免費、不可撤銷、永久、可轉授權和可再許可的權利，這意味著用戶在無形中將自己的肖像權拱手讓人，以后用戶的臉將完全有可能被別人隨意使用，變換。

那么人臉識別到底有哪些風險呢？

根據(jù)參考文獻2，人臉識別的風險有：

一、人臉識別的仿冒認證

人臉識別系統(tǒng)極易受到各類蓄意的仿冒攻擊，常見手段包括盜用合法用戶人臉照片、盜用合法用戶人臉視頻及盜用三維人臉面具等。為應對人臉照片冒用，很多人臉識別系統(tǒng)加入了生物活性檢測(眨眼、張嘴、搖頭等)手段，但攻擊者仍可以利用視頻播放和自動化人臉動效等技術比較容易地逃過檢測。攻擊者借助人臉關鍵點定位和自動化人臉動效技術，通過將自拍照由靜態(tài)改為動態(tài)，可以完成刷臉登錄需要的眨眼、張嘴等動作。

比如，2017年“3·15”晚會上，主持人在現(xiàn)場技術人員的支持下，僅憑一張觀眾的自拍照，就成功“換臉”破解了“刷臉登錄”認證系統(tǒng)。

二、人臉識別算法的攻擊

合法用戶身份仿冒需要以獲得合法用戶的人臉照片及視頻等數(shù)據(jù)作為前提條件。國內(nèi)某安全團隊已經(jīng)實現(xiàn)了更具威脅的攻擊手段，使用完全不同用戶的人臉照片繞過身份識別系統(tǒng)。該攻擊手段對深度學習圖像識別等應用造成逃逸攻擊以及數(shù)據(jù)污染攻擊等效果，不依賴于具體的深度學習模型，對Tensorflow、Caffe等當前主流深度學習框架攻擊有效。

三、基于人臉識別的AI大規(guī)模殺傷性武器研制的威脅

將人臉識別和機器人控制等最新的人工智能技術結合起來，制造自主的大規(guī)模殺傷性武器在技術上是可行的。殺傷性武器裝載傳感器、攝像頭、GPS定位等高科技功能設備可進行人臉識別、躲避狙擊、攜帶炸藥等，做到一擊斃命。

自2019年以來，西方國家以美國為代表，已經(jīng)因為人臉識別的這一隱私風險而選擇了禁用。目前，包括舊金山、薩默維爾、奧克蘭等美國城市在內(nèi)，其政府都已經(jīng)棄用人臉識別。

在人臉識別應用方面，我國雖然也存在諸多的隱私侵權和數(shù)據(jù)濫用等問題，但我國更加注重人臉識別的價值性。

對此，筆者認為，包括人臉識別在內(nèi)的生物識別技術（如指紋識別、虹膜識別等），在技術和法規(guī)不夠完善的情況下，應控制使用范圍，控制數(shù)據(jù)傳播，保護數(shù)據(jù)安全、隱私安全。

對此，您怎么看呢？

參考文獻：

1、[南方都市報]一清華教授，拒小區(qū)人臉識別門禁！她給出理由

https://news.163.com/20/0926/04/FNE2V94K0001899O.html

2、人臉識別技術應用的風險與防范

http://www.qianjia.com/html/2019-02/13_323837.html

3、國家在人臉識別風險應對方面具體是怎么做？