當(dāng)爆紅全網(wǎng)的換臉App ZAO風(fēng)波還未平復(fù)之時(shí)，9月2日，全國開學(xué)第一天，一張圖片在網(wǎng)上刷屏，課堂上，趴桌子幾次、玩手機(jī)幾次、睡覺幾次、舉手幾次、閱讀幾次、聽講幾次，都被攝像頭捕捉，因?yàn)橛∮袝缫暤膌ogo，這被認(rèn)定為是它的視覺AI系統(tǒng)。
精彩評(píng)論
有網(wǎng)友如此評(píng)價(jià)：關(guān)于校園的美好記憶，來自于上課時(shí)的紙條、干脆面、偷瞄喜歡的女生，我不懂天才少年眼中的精英教育是什么樣子的，也不知道估值800億的曠視有多了不起，只是覺得，如果有人要控制、扼殺和剝奪億萬人少年時(shí)代的情感，那他的公司技術(shù)再突破也并不會(huì)青史留名。
知乎網(wǎng)友也表達(dá)了自己的態(tài)度：
曠視回應(yīng)
曠視因此備受大眾質(zhì)疑，回應(yīng)稱這張圖片只是一個(gè)概念演示，公司在教育領(lǐng)域的產(chǎn)品專注于還在校園的安全，但其實(shí)類似的AI課堂分析系統(tǒng)已經(jīng)開始進(jìn)入課堂。
南京中國藥科大學(xué)在課堂上安裝人臉識(shí)別系統(tǒng)，學(xué)生無法逃課或替同學(xué)簽到，關(guān)鍵是學(xué)生在課堂上的一舉一動(dòng)都逃不開這套“鷹眼”。
曠視不是唯一一家研究AI課堂分析的AI企業(yè)，中國藥科大學(xué)也不是唯一一個(gè)安裝課堂人臉識(shí)別系統(tǒng)的學(xué)校。2018年的安博會(huì)上，可提供場景解決方案的安防廠商中，有一半都表示可以做AI+教育為基礎(chǔ)的人臉識(shí)別監(jiān)控。
AI課堂分析是否侵犯隱私？
AI課堂分析到底有沒有侵犯學(xué)生的隱私？老師先分成了兩派，“為了（敦促）你學(xué)習(xí)，你還抱怨，請問你還是學(xué)生嗎？” 中國藥科大學(xué)圖書與信息中心主任許建真表示，學(xué)校已向公安部門和法務(wù)部門咨詢，由于教室屬于公開場所，因此不存在“侵犯隱私”的說法。
北大附中朝陽未來學(xué)校語文老師唐伊豆則對(duì)雷鋒網(wǎng)表示不贊成AI攝像頭分析進(jìn)入課堂，教室是存在隱私的，它更像是一個(gè)特定的師生群體共有的空間，“用攝像頭考勤可以接受，但采集和監(jiān)控課堂行為是一種過度的介入，它暗含著對(duì)教師、對(duì)學(xué)生的不信任，會(huì)影響師生共同建設(shè)的一個(gè)安全互信的、自在舒適的環(huán)境。”
在教室這個(gè)場景里，需要被監(jiān)督的只是學(xué)生嗎？如果老師也被監(jiān)督，課堂的教學(xué)會(huì)被提高嗎？教育專家熊丙奇認(rèn)為，從育人的角度看，好的課堂教學(xué)應(yīng)是交互式、探究式，在教學(xué)過程中引導(dǎo)學(xué)生思考的，這需要寬松的允許批評(píng)、質(zhì)疑的氛圍。毫無疑問，在明知有人臉識(shí)別系統(tǒng)監(jiān)控、記錄教室里的一舉一動(dòng)時(shí)，教師的教學(xué)很可能選擇照本宣科，而學(xué)生對(duì)照本宣科的教學(xué)不滿，又不得不在AI監(jiān)控下，表現(xiàn)出對(duì)教學(xué)內(nèi)容“興趣盎然”。
AI發(fā)展與隱私的保護(hù)
如今，AI已然進(jìn)入了場景落地的關(guān)鍵時(shí)間點(diǎn)，爭議推動(dòng)著AI應(yīng)用落地和法律法規(guī)的完善，政府和人工智能企業(yè)當(dāng)下應(yīng)該思考的是，AI的邊界在哪里？AI的推廣與隱私的保護(hù)如何平衡？
從AI仿聲到AI換臉，再到AI課堂分析，科技向善成了2019年世界人工智能大會(huì)最熱的衍生話題，AI立法被全球共同關(guān)注。
在歐美，人臉識(shí)別推行困難，舊金山等美國城市通過立法禁止該技術(shù)，英國首例警用人臉識(shí)別案于近日開庭，而瑞典GDPR第一案——瑞典學(xué)校因使用面部識(shí)別技術(shù)登記學(xué)生出勤率而被罰款20萬。
“新一代信息技術(shù)的全面、深度的應(yīng)用，引發(fā)了隱私保護(hù)的喪失，中國社會(huì)進(jìn)入了一個(gè)零隱私的社會(huì)。”在2019世界人工智能大會(huì)法治論壇上，清華大學(xué)法學(xué)院院長申衛(wèi)星指出了人工智能武器化，這個(gè)全局風(fēng)險(xiǎn)使得人工智能的國際治理成為必要。
如果有一天人工智能武器化了，它會(huì)由誰掌控？這個(gè)世界還安全嗎？以核能為例，核能已經(jīng)發(fā)展成為了武器化的技術(shù)，人類命運(yùn)或多或少系于其上，因此國際社會(huì)也一直對(duì)這項(xiàng)技術(shù)有所約束?！昂四芟鄬?duì)來說，入門門檻較高，成本也比較高，不是所有的主體都可以參與，但是信息技術(shù)，特別是人工智能領(lǐng)域的門檻、成本都相對(duì)較低，甚至有一些非國家的主體有較深的介入，我們應(yīng)當(dāng)關(guān)注到這方面的安全風(fēng)險(xiǎn)?！鄙晷l(wèi)星說。
目前，在許多AI問題上，法律尚未完善，大部分情況依靠企業(yè)的道德約束。AI治理面臨這么多挑戰(zhàn)，上海市科學(xué)學(xué)研究所所長石謙表示，最大的原因，是“用”走在了“治”之前。AI治理，一方面需要完善法律建設(shè)，一方面在“用”的時(shí)候，需要把“底線”守住。在IT界流傳著“數(shù)據(jù)就是價(jià)值”的說法，但是數(shù)據(jù)不能濫用。
在8月全國人大常委會(huì)審議的民法典人格權(quán)編草案稿中，針對(duì)收集、處理自然人個(gè)人信息有了明確規(guī)定，要求必須“征得該自然人或者其監(jiān)護(hù)人同意”等，而且把個(gè)人生物識(shí)別信息也納入保護(hù)的范圍。
AI+教育的邊界在哪
AI課堂分析引起的爭議，并沒有否定AI進(jìn)入教育行業(yè)，進(jìn)入學(xué)校的作用。
“王小明同學(xué)在學(xué)校西面圍墻邊摔倒”，一則消息同步發(fā)送給班主任和保健科，校醫(yī)檢查后將學(xué)生的傷情同步給家長。為了避免各種校園安全事故，上海中醫(yī)藥大學(xué)附屬閔行薔薇小學(xué)用AI搭建起了一個(gè)“隱形盔甲”，及時(shí)發(fā)現(xiàn)樓梯擁擠、學(xué)生打架等一系列安全事故隱患。
在盧灣高級(jí)中學(xué)的AI實(shí)驗(yàn)課上，幾位學(xué)生合力做出了一個(gè)智能分類垃圾桶，清潔工不需要再問，你是什么垃圾？AI垃圾桶會(huì)直接告訴你，你是濕垃圾還是干垃圾。
“8月1日小學(xué)勞技教室，8月27日生命科學(xué)實(shí)驗(yàn)室……”在一位家長的手機(jī)上，清楚地記錄著孩子暑假期間的到?；顒?dòng)，甚至可以看到孩子在學(xué)校里花4.2元買了一罐牛奶。在上海市建青實(shí)驗(yàn)學(xué)校，從買點(diǎn)心飲料的自助販賣機(jī)，到借體育器材的體育館，再到借書的圖書館，學(xué)生們都可以“刷手”來完成購買、借還等動(dòng)作。
上海學(xué)生的十二時(shí)辰正在被AI浸透，各種AI+教育的應(yīng)用在學(xué)校里試水，那么，“什么才是AI+教育最合適的落地場景”“什么才是AI+教育的試探的邊界”“AI的發(fā)展與隱私的保護(hù)如何平衡”，才是政府、學(xué)校和AI企業(yè)需要思考的問題。
作者／孫妍 錢奕昀 李玉洋
編輯／挨踢妹
圖片／網(wǎng)絡(luò)
來源／《IT時(shí)報(bào)》公眾號(hào)vittimes
聯(lián)系客服
