一些不法分子利用AI深度偽造新工具實施電信詐騙,、散布虛假視頻,、激化社會矛盾,，給安全領域帶來了諸多風險依靠深度偽造技術工具，AI客服可以同時給上萬人打電話,，從事電信詐騙的危害性更強、數(shù)額更大通過法律加強對“事前（內(nèi)容源頭監(jiān)管）—事中（詐騙快速查處）—事后（追償、救濟）”的全方位規(guī)制，源頭規(guī)范深度偽造技術的使用和發(fā)展文 |《瞭望》新聞周刊記者 白瑜　實習生 羅梓凝近年來,，AI深度偽造技術被犯罪分子用于電信詐騙，引發(fā)社會廣泛關注,。AI深度偽造是一種利用人工智能技術合成,、修改或替換圖像、視頻和音頻內(nèi)容的技術,，可以將一個人的面部表情,、言辭和動作應用到其他人的圖像或視頻上，使生成的內(nèi)容看似原始內(nèi)容,。因為易得性強,、成本低、仿真度高,，AI深度偽造技術巨大的應用潛力為藝術,、社交,、醫(yī)療等領域的發(fā)展帶來了新的可能性,。與此同時，由于該技術通過一張照片,、一段語音就能生成一段偽造視頻,，一些不法分子利用AI深度偽造新工具實施電信詐騙、散布虛假視頻,、激化社會矛盾,，給安全領域帶來了諸多風險。如何規(guī)制AI深度偽造技術被濫用,？如何升級反制技術破除監(jiān)管難點,？這些問題的有效破解，不僅關乎社會治安和國家安全,，也影響著新一代人工智能技術的發(fā)展走向。AI深偽詐騙危害性更大近年來,，一些網(wǎng)絡犯罪分子使用“深度偽造”的文本,、圖像、音頻或視頻,，進行欺詐活動,。記者從公安機關采訪獲悉，依靠深度偽造技術工具,，AI客服可以同時給上萬人打電話,，從事電信詐騙的危害性更強、數(shù)額更大,?！倜笆烊诉M行詐騙。2023年4月20日發(fā)生在內(nèi)蒙古包頭市的一起金額高達430萬元的詐騙案件,，竟是利用AI換臉技術得手的,。當天，郭先生接到來自好友的求助電話,，對方稱自己在外地競標,，需要430萬元保證金。巨大的金額也讓郭先生產(chǎn)生了懷疑,，于是撥打視頻通話確認對方身份,，近乎一模一樣的面容與聲音讓郭先生消除了疑慮。短短十分鐘,，430萬元便已被轉入騙子賬戶,。好在事后經(jīng)再次打電話確認，郭先生識破騙局及時報警,，300多萬元受騙金額被凍結,。——假冒知名人士誤導公眾,。在一些案件中,，犯罪分子偽造視頻或錄音，使生成的內(nèi)容看起來像是知名人士正在說他們從未說過的話,、做從未做過的事,，不僅給個人帶來名譽損害，也對公眾形成誤導,?！倜肮俜骄W(wǎng)站或賬戶發(fā)布不實信息,。有的犯罪分子利用AI技術偽造各大知名企業(yè)、平臺或社交媒體官方賬戶進行詐騙,?；ヂ?lián)網(wǎng)上的“V”字認證往往是官方認證的標識，可當官方認證也能被AI深度偽造技術造假,，一模一樣的頭像主頁和認證標識,，會讓公眾無法分辨“真假美猴王”。近期,，職場社交平臺領英發(fā)現(xiàn),，其平臺上有1000多個用AI生成的虛假“V”字認證賬戶，發(fā)送大量推銷信息及釣魚郵件,，甚至形成了相關產(chǎn)業(yè)鏈,。——假冒他人身份實施詐騙,。利用虛擬或合成身份,，犯罪分子可以盜用或注冊他人賬號，實現(xiàn)騙取養(yǎng)老金,、騙取人壽保險的犯罪目的,，潛在風險極大。業(yè)內(nèi)人士提醒,，保險行業(yè)很可能成為遭遇AI深度偽造欺詐風險最高的行業(yè),。升級反制技術“道高一丈”面對不斷升級的AI深度偽造欺詐手段,，需要盡快升級技術手段,，“道高一丈”實現(xiàn)反制破局。揭秘AI換臉,、語音變聲等深度偽造手段的網(wǎng)絡安全科普,，以量子加密技術保障金融、電力等基礎設施安全,，用大數(shù)據(jù)反詐系統(tǒng)守護公民人身財產(chǎn)安全……我國正多措并舉,，升級反制技術，加強網(wǎng)絡安全防護,。隨著湖北省黃石市公安局聯(lián)合科大訊飛股份有限公司,、電信運營商聯(lián)合研發(fā)的反詐智能語音機器人“小飛”在黃石“上崗”，一些“不聽勸”的受害者回過神來,，避免了經(jīng)濟損失,。“以往開展勸阻,，一名民警每天撥打幾十個電話,，累得嗓子冒煙,。換成‘小飛’之后，一天可以撥打幾百乃至上千個電話,，效率大大提升,。”黃石市公安局科信支隊大數(shù)據(jù)中心負責人李雪松說,。據(jù)了解,，以前，民警撥打電詐勸阻電話,，一般通過公安局座機或者自己的手機,，容易被當成普通來電甚至是推銷電話。而“小飛”系統(tǒng)可以篩查出電信網(wǎng)絡詐騙高危級潛在受害人,，自動通過反電詐專用號碼96110聯(lián)系對方,；聯(lián)系勸阻形成的大數(shù)據(jù)又進一步訓練“小飛”升級反電詐勸阻辦法，提升勸阻精準度和成功率,。此外,，“小飛”還會有針對性地向勸阻對象推送防范詐騙小知識、介紹最新詐騙手段和類型,、提供防范小技巧等,。以技治網(wǎng)，更多與“小飛”一樣的技術創(chuàng)新,，正在破解技術濫用帶來的負面問題,。華為云詐騙載體智能檢測技術通過即時內(nèi)容獲取來捕捉APP涉詐內(nèi)容，快速識別“黑灰產(chǎn)”,；小米移動研發(fā)的“靈犬”騷擾詐騙防治系統(tǒng),，針對開卡入網(wǎng)的前、中,、后環(huán)節(jié)設立防騷擾,、詐騙等異常行為的觸發(fā)機制；中國電信開發(fā)的“翼網(wǎng)”平臺綜合采用短信電話預警,、運營商“斷號”,、預警勸阻等措施提升電信網(wǎng)絡反詐能力……近年來，工業(yè)和信息化部網(wǎng)絡安全管理局積極組織信息通信行業(yè)防范治理電信網(wǎng)絡詐騙創(chuàng)新技術應用遴選活動,，通過示范引領,，不斷加強科技創(chuàng)新投入，力爭解決涉詐“黑灰產(chǎn)”迭代更新快,、用戶預警提醒實時性低等行業(yè)反詐痛點難點問題,。深圳計算機學會秘書長、北京大學深圳研究生院深圳市內(nèi)容中心網(wǎng)絡與區(qū)塊鏈重點實驗室主任雷凱表示,，可以采取“全周期沙盒”管理方式在源頭上保護重要內(nèi)容不被非法使用,。“將那些經(jīng)過嚴格審核,、真實可信的圖像,、音頻和視頻納入白名單，把可能被用于生成虛假內(nèi)容的圖像,、音頻和視頻以及AI工具都放在‘沙盒’中,，進行全周期監(jiān)控和管理，通過細粒度監(jiān)管,，對白名單內(nèi)容的發(fā)布加強內(nèi)容鑒權和追溯,，確保其真實性和完整性，防止被惡意篡改,?！崩讋P說。徐駿圖/本刊依法治理亟需細化配套措施電信網(wǎng)絡詐騙的潛在受害人面廣量大,，通過法律加強對“事前（內(nèi)容源頭監(jiān)管）—事中（詐騙快速查處）—事后（追償,、救濟）”的全方位規(guī)制，源頭規(guī)范深度偽造技術的使用和發(fā)展,，具有較強的必要性和緊迫性,。目前,，我國現(xiàn)行法律法規(guī),，已對深度偽造作出一定規(guī)制：2022年12月施行的反電信網(wǎng)絡詐騙法加強預防性法律制度構建，加大對違法犯罪人員的處罰,。2023年1月施行的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確規(guī)定,，“任何組織和個人不得利用深度合成服務制作、復制,、發(fā)布,、傳播法律、行政法規(guī)禁止的信息”,；“提供人臉,、人聲等生物識別信息編輯功能的,，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意”,；“可能導致公眾混淆或者誤認的,，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識”,，等等,。受訪專家認為，從現(xiàn)有司法實踐來看,，還需在多個方面進一步完善法律規(guī)范配套措施,。比如，深度偽造技術風險最有可能涉及肖像權和名譽權侵權,，但根據(jù)民法典侵權責任編的規(guī)定,，在被侵權人對損害后果難以準確證明的情況下，損害賠償數(shù)額難以確定,，精神損害賠償不易實現(xiàn),，被侵權人難以得到充分救濟。為進一步防止不法分子利用AI深度偽造等技術實施犯罪活動,，仍需細化配套措施,，讓法律條款的落實更加簡便易行。一方面,，通過數(shù)字版權管理等方式,，加強對生成內(nèi)容甄別、溯源,、追責,。深圳光子晶體科技有限公司創(chuàng)始人、首席科學家王勇競博士建議,，加強深度偽造內(nèi)容制作者和網(wǎng)絡服務提供者的責任,，在事前規(guī)范落實制作者的披露義務，明確標識其制作的內(nèi)容為AI合成,，同時強化網(wǎng)絡服務提供者的監(jiān)督管理責任,。侵權行為發(fā)生后，被侵權人可以通過人格權禁令主張對深度偽造記錄予以封存,，簡化損害賠償?shù)淖C明責任,，明確損害賠償?shù)挠嬎隳Ｊ剑愿帽Ｗo被侵權人合法權益,。另一方面,，將AI深度偽造技術的潛在風險納入應急響應機制。國際測試委員會創(chuàng)始人,、中國科學院計算所研究員詹劍鋒教授建議,，將AI深度偽造納入輿情監(jiān)測機制,，遇到負面影響較大的造假行為，第一時間快速反應,。通過建立針對深度偽造有害內(nèi)容的群眾舉報機制,，提高公眾的判斷能力、鑒別能力,。同時,，建立一定規(guī)模的志愿者群體標識數(shù)據(jù)內(nèi)容，為人工智能監(jiān)管平臺提供樣本和數(shù)據(jù),，供算法學習訓練,，從而提高監(jiān)管效率，更好規(guī)范人工智能技術有序發(fā)展,，形成良性發(fā)展的生態(tài)閉環(huán),。■