近年來(lái),，AI深度偽造技術(shù)被犯罪分子用于電信詐騙,，引發(fā)社會(huì)廣泛關(guān)注,。AI深度偽造是一種利用人工智能技術(shù)合成、修改或替換圖像,、視頻和音頻內(nèi)容的技術(shù),，可以將一個(gè)人的面部表情、言辭和動(dòng)作應(yīng)用到其他人的圖像或視頻上,，使生成的內(nèi)容看似原始內(nèi)容,。因?yàn)橐椎眯詮?qiáng)、成本低,、仿真度高,，AI深度偽造技術(shù)巨大的應(yīng)用潛力為藝術(shù)、社交,、醫(yī)療等領(lǐng)域的發(fā)展帶來(lái)了新的可能性,。與此同時(shí)，由于該技術(shù)通過(guò)一張照片,、一段語(yǔ)音就能生成一段偽造視頻,，一些不法分子利用AI深度偽造新工具實(shí)施電信詐騙,、散布虛假視頻、激化社會(huì)矛盾,，給安全領(lǐng)域帶來(lái)了諸多風(fēng)險(xiǎn),。如何規(guī)制AI深度偽造技術(shù)被濫用？如何升級(jí)反制技術(shù)破除監(jiān)管難點(diǎn),？這些問(wèn)題的有效破解,，不僅關(guān)乎社會(huì)治安和國(guó)家安全，也影響著新一代人工智能技術(shù)的發(fā)展走向。AI深偽詐騙危害性更大近年來(lái),，一些網(wǎng)絡(luò)犯罪分子使用“深度偽造”的文本,、圖像、音頻或視頻,，進(jìn)行欺詐活動(dòng),。記者從公安機(jī)關(guān)采訪獲悉，依靠深度偽造技術(shù)工具,，AI客服可以同時(shí)給上萬(wàn)人打電話,，從事電信詐騙的危害性更強(qiáng)、數(shù)額更大,。——假冒熟人進(jìn)行詐騙,。2023年4月20日發(fā)生在內(nèi)蒙古包頭市的一起金額高達(dá)430萬(wàn)元的詐騙案件,，竟是利用AI換臉技術(shù)得手的。當(dāng)天,，郭先生接到來(lái)自好友的求助電話,，對(duì)方稱(chēng)自己在外地競(jìng)標(biāo),，需要430萬(wàn)元保證金。巨大的金額也讓郭先生產(chǎn)生了懷疑,，于是撥打視頻通話確認(rèn)對(duì)方身份,，近乎一模一樣的面容與聲音讓郭先生消除了疑慮。短短十分鐘,，430萬(wàn)元便已被轉(zhuǎn)入騙子賬戶(hù),。好在事后經(jīng)再次打電話確認(rèn)，郭先生識(shí)破騙局及時(shí)報(bào)警,，300多萬(wàn)元受騙金額被凍結(jié),。——假冒知名人士誤導(dǎo)公眾,。在一些案件中,，犯罪分子偽造視頻或錄音，使生成的內(nèi)容看起來(lái)像是知名人士正在說(shuō)他們從未說(shuō)過(guò)的話,、做從未做過(guò)的事,，不僅給個(gè)人帶來(lái)名譽(yù)損害，也對(duì)公眾形成誤導(dǎo),?！倜肮俜骄W(wǎng)站或賬戶(hù)發(fā)布不實(shí)信息。有的犯罪分子利用AI技術(shù)偽造各大知名企業(yè),、平臺(tái)或社交媒體官方賬戶(hù)進(jìn)行詐騙,。互聯(lián)網(wǎng)上的“V”字認(rèn)證往往是官方認(rèn)證的標(biāo)識(shí),，可當(dāng)官方認(rèn)證也能被AI深度偽造技術(shù)造假,，一模一樣的頭像主頁(yè)和認(rèn)證標(biāo)識(shí)，會(huì)讓公眾無(wú)法分辨“真假美猴王”,。近期,，職場(chǎng)社交平臺(tái)領(lǐng)英發(fā)現(xiàn)，其平臺(tái)上有1000多個(gè)用AI生成的虛假“V”字認(rèn)證賬戶(hù),，發(fā)送大量推銷(xiāo)信息及釣魚(yú)郵件,，甚至形成了相關(guān)產(chǎn)業(yè)鏈?！倜八松矸輰?shí)施詐騙,。利用虛擬或合成身份，犯罪分子可以盜用或注冊(cè)他人賬號(hào),，實(shí)現(xiàn)騙取養(yǎng)老金,、騙取人壽保險(xiǎn)的犯罪目的，潛在風(fēng)險(xiǎn)極大。業(yè)內(nèi)人士提醒,，保險(xiǎn)行業(yè)很可能成為遭遇AI深度偽造欺詐風(fēng)險(xiǎn)最高的行業(yè),。升級(jí)反制技術(shù)“道高一丈”面對(duì)不斷升級(jí)的AI深度偽造欺詐手段，需要盡快升級(jí)技術(shù)手段,，“道高一丈”實(shí)現(xiàn)反制破局,。揭秘AI換臉、語(yǔ)音變聲等深度偽造手段的網(wǎng)絡(luò)安全科普,，以量子加密技術(shù)保障金融,、電力等基礎(chǔ)設(shè)施安全，用大數(shù)據(jù)反詐系統(tǒng)守護(hù)公民人身財(cái)產(chǎn)安全……我國(guó)正多措并舉,，升級(jí)反制技術(shù),，加強(qiáng)網(wǎng)絡(luò)安全防護(hù)。隨著湖北省黃石市公安局聯(lián)合科大訊飛股份有限公司,、電信運(yùn)營(yíng)商聯(lián)合研發(fā)的反詐智能語(yǔ)音機(jī)器人“小飛”在黃石“上崗”,，一些“不聽(tīng)勸”的受害者回過(guò)神來(lái)，避免了經(jīng)濟(jì)損失,?！耙酝_(kāi)展勸阻，一名民警每天撥打幾十個(gè)電話,，累得嗓子冒煙,。換成‘小飛’之后，一天可以撥打幾百乃至上千個(gè)電話,，效率大大提升,。”黃石市公安局科信支隊(duì)大數(shù)據(jù)中心負(fù)責(zé)人李雪松說(shuō),。據(jù)了解,，以前，民警撥打電詐勸阻電話,，一般通過(guò)公安局座機(jī)或者自己的手機(jī),，容易被當(dāng)成普通來(lái)電甚至是推銷(xiāo)電話。而“小飛”系統(tǒng)可以篩查出電信網(wǎng)絡(luò)詐騙高危級(jí)潛在受害人,，自動(dòng)通過(guò)反電詐專(zhuān)用號(hào)碼96110聯(lián)系對(duì)方,；聯(lián)系勸阻形成的大數(shù)據(jù)又進(jìn)一步訓(xùn)練“小飛”升級(jí)反電詐勸阻辦法，提升勸阻精準(zhǔn)度和成功率,。此外,，“小飛”還會(huì)有針對(duì)性地向勸阻對(duì)象推送防范詐騙小知識(shí)、介紹最新詐騙手段和類(lèi)型,、提供防范小技巧等,。以技治網(wǎng)，更多與“小飛”一樣的技術(shù)創(chuàng)新，正在破解技術(shù)濫用帶來(lái)的負(fù)面問(wèn)題,。華為云詐騙載體智能檢測(cè)技術(shù)通過(guò)即時(shí)內(nèi)容獲取來(lái)捕捉APP涉詐內(nèi)容，快速識(shí)別“黑灰產(chǎn)”,；小米移動(dòng)研發(fā)的“靈犬”騷擾詐騙防治系統(tǒng),，針對(duì)開(kāi)卡入網(wǎng)的前、中,、后環(huán)節(jié)設(shè)立防騷擾,、詐騙等異常行為的觸發(fā)機(jī)制；中國(guó)電信開(kāi)發(fā)的“翼網(wǎng)”平臺(tái)綜合采用短信電話預(yù)警,、運(yùn)營(yíng)商“斷號(hào)”,、預(yù)警勸阻等措施提升電信網(wǎng)絡(luò)反詐能力……近年來(lái)，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局積極組織信息通信行業(yè)防范治理電信網(wǎng)絡(luò)詐騙創(chuàng)新技術(shù)應(yīng)用遴選活動(dòng),，通過(guò)示范引領(lǐng),，不斷加強(qiáng)科技創(chuàng)新投入，力爭(zhēng)解決涉詐“黑灰產(chǎn)”迭代更新快,、用戶(hù)預(yù)警提醒實(shí)時(shí)性低等行業(yè)反詐痛點(diǎn)難點(diǎn)問(wèn)題,。深圳計(jì)算機(jī)學(xué)會(huì)秘書(shū)長(zhǎng)、北京大學(xué)深圳研究生院深圳市內(nèi)容中心網(wǎng)絡(luò)與區(qū)塊鏈重點(diǎn)實(shí)驗(yàn)室主任雷凱表示,，可以采取“全周期沙盒”管理方式在源頭上保護(hù)重要內(nèi)容不被非法使用?！皩⒛切┙?jīng)過(guò)嚴(yán)格審核,、真實(shí)可信的圖像、音頻和視頻納入白名單,，把可能被用于生成虛假內(nèi)容的圖像,、音頻和視頻以及AI工具都放在‘沙盒’中，進(jìn)行全周期監(jiān)控和管理,，通過(guò)細(xì)粒度監(jiān)管,，對(duì)白名單內(nèi)容的發(fā)布加強(qiáng)內(nèi)容鑒權(quán)和追溯，確保其真實(shí)性和完整性，防止被惡意篡改,?！崩讋P說(shuō)。徐駿圖/本刊依法治理亟需細(xì)化配套措施電信網(wǎng)絡(luò)詐騙的潛在受害人面廣量大,，通過(guò)法律加強(qiáng)對(duì)“事前（內(nèi)容源頭監(jiān)管）—事中（詐騙快速查處）—事后（追償,、救濟(jì)）”的全方位規(guī)制，源頭規(guī)范深度偽造技術(shù)的使用和發(fā)展,，具有較強(qiáng)的必要性和緊迫性,。目前，我國(guó)現(xiàn)行法律法規(guī),，已對(duì)深度偽造作出一定規(guī)制：2022年12月施行的反電信網(wǎng)絡(luò)詐騙法加強(qiáng)預(yù)防性法律制度構(gòu)建,，加大對(duì)違法犯罪人員的處罰。2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確規(guī)定,，“任何組織和個(gè)人不得利用深度合成服務(wù)制作,、復(fù)制、發(fā)布,、傳播法律,、行政法規(guī)禁止的信息”；“提供人臉,、人聲等生物識(shí)別信息編輯功能的,，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意”,；“可能導(dǎo)致公眾混淆或者誤認(rèn)的,，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)”,，等等,。受訪專(zhuān)家認(rèn)為，從現(xiàn)有司法實(shí)踐來(lái)看,，還需在多個(gè)方面進(jìn)一步完善法律規(guī)范配套措施,。比如，深度偽造技術(shù)風(fēng)險(xiǎn)最有可能涉及肖像權(quán)和名譽(yù)權(quán)侵權(quán),，但根據(jù)民法典侵權(quán)責(zé)任編的規(guī)定,，在被侵權(quán)人對(duì)損害后果難以準(zhǔn)確證明的情況下，損害賠償數(shù)額難以確定,，精神損害賠償不易實(shí)現(xiàn),，被侵權(quán)人難以得到充分救濟(jì)。為進(jìn)一步防止不法分子利用AI深度偽造等技術(shù)實(shí)施犯罪活動(dòng),，仍需細(xì)化配套措施,，讓法律條款的落實(shí)更加簡(jiǎn)便易行,。一方面，通過(guò)數(shù)字版權(quán)管理等方式,，加強(qiáng)對(duì)生成內(nèi)容甄別,、溯源、追責(zé),。深圳光子晶體科技有限公司創(chuàng)始人,、首席科學(xué)家王勇競(jìng)博士建議，加強(qiáng)深度偽造內(nèi)容制作者和網(wǎng)絡(luò)服務(wù)提供者的責(zé)任,，在事前規(guī)范落實(shí)制作者的披露義務(wù)，明確標(biāo)識(shí)其制作的內(nèi)容為AI合成,，同時(shí)強(qiáng)化網(wǎng)絡(luò)服務(wù)提供者的監(jiān)督管理責(zé)任,。侵權(quán)行為發(fā)生后，被侵權(quán)人可以通過(guò)人格權(quán)禁令主張對(duì)深度偽造記錄予以封存,，簡(jiǎn)化損害賠償?shù)淖C明責(zé)任,，明確損害賠償?shù)挠?jì)算模式，以更好保護(hù)被侵權(quán)人合法權(quán)益,。另一方面,，將AI深度偽造技術(shù)的潛在風(fēng)險(xiǎn)納入應(yīng)急響應(yīng)機(jī)制。國(guó)際測(cè)試委員會(huì)創(chuàng)始人,、中國(guó)科學(xué)院計(jì)算所研究員詹劍鋒教授建議,，將AI深度偽造納入輿情監(jiān)測(cè)機(jī)制，遇到負(fù)面影響較大的造假行為,，第一時(shí)間快速反應(yīng),。通過(guò)建立針對(duì)深度偽造有害內(nèi)容的群眾舉報(bào)機(jī)制，提高公眾的判斷能力,、鑒別能力,。同時(shí)，建立一定規(guī)模的志愿者群體標(biāo)識(shí)數(shù)據(jù)內(nèi)容,，為人工智能監(jiān)管平臺(tái)提供樣本和數(shù)據(jù),，供算法學(xué)習(xí)訓(xùn)練，從而提高監(jiān)管效率,，更好規(guī)范人工智能技術(shù)有序發(fā)展,，形成良性發(fā)展的生態(tài)閉環(huán)?！?/p>