本報(bào)記者　趙晨熙本報(bào)實(shí)習(xí)生　郝嘉偉在網(wǎng)絡(luò)時代,，眼見并不一定為“實(shí)”，也有可能是詐騙分子正在利用AI（人工智能）技術(shù)精準(zhǔn)對你進(jìn)行“圍獵”……來自內(nèi)蒙古鄂爾多斯的李女士某天突然在微信上收到了老同學(xué)“賈某”的好友申請,。其后雙方在聊天過程中,，“賈某”發(fā)來視頻通話邀請，盡管李女士發(fā)現(xiàn)視頻中的畫面很模糊，聲音也很卡頓，但確實(shí)看到了“老同學(xué)”的樣貌,，最終將40萬元轉(zhuǎn)到了對方所提供的銀行賬號上。所幸李女士發(fā)現(xiàn)事有蹊蹺后報(bào)警,，警方啟動了緊急止付機(jī)制,，及時將被騙的錢款攔截,。李女士遭遇的AI制造“老同學(xué)”詐騙案并非個例,，《法治日報(bào)》記者注意到,，近年來，隨著AI技術(shù)的發(fā)展和應(yīng)用,，網(wǎng)絡(luò)詐騙也升級了新手法,，不法分子頻頻利用深度偽造等技術(shù)通過AI換臉、AI變聲實(shí)施“精準(zhǔn)”詐騙,。AI技術(shù)在帶來新一輪技術(shù)變革的同時,，也引發(fā)了一系列技術(shù)與安全應(yīng)用的討論。今年全國人大會議期間,，多位關(guān)注AI發(fā)展與安全的全國人大代表圍繞AI技術(shù)的安全應(yīng)用建言獻(xiàn)策,，加快推進(jìn)人工智能立法,、為人工智能技術(shù)安全應(yīng)用提供法治保障，成為多方共識,。深度偽造詐騙手段難以分辨一家跨國公司香港分部的職員受邀參加總部“首席財(cái)務(wù)官”發(fā)起的一場“多人視頻會議”,，并按要求先后將2億港元轉(zhuǎn)到5個本地銀行賬戶。其后,，他向總部查詢才得知受騙,。后警方調(diào)查發(fā)現(xiàn)，這起案件所謂的視頻會議中只有受害人一人是真人,，其余“參會人員”都是經(jīng)過AI換臉后的詐騙人員,。陜西省西安市某公司財(cái)務(wù)人員張女士接到老板的視頻通話，要求她轉(zhuǎn)賬186萬元到一個指定賬號,。因?yàn)橐曨l中那個人的聲音,、面容都跟老板一模一樣，且這筆款要得非常急,，張女士沒有猶豫便迅速轉(zhuǎn)賬,。轉(zhuǎn)賬后,，她將電子憑證發(fā)到公司財(cái)務(wù)內(nèi)部群中，被老板詢問這筆資金的來由時才意識到上當(dāng),，最終報(bào)警保住了大部分被騙資金,。在這兩起真實(shí)發(fā)生的典型案件中，受害人在轉(zhuǎn)賬時之所以沒有絲毫懷疑,，原因就是在高度仿真的面容與聲音面前放松了警惕,，這也正是當(dāng)前不少詐騙團(tuán)伙利用AI技術(shù)頻頻“得手”的最主要原因。騙子實(shí)施AI換臉詐騙時,，會深度偽造被騙者所熟知人的視頻和聲音,，詐騙成功率非常高。中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專委會專家薛智慧解釋稱,，AI換臉過程主要包括人臉識別追蹤,、面部特征提取、人臉變換融合,、背景環(huán)境渲染,、圖像與音頻合成等幾個關(guān)鍵步驟，其最核心技術(shù)包括三個部分,，首先是利用深度學(xué)習(xí)算法精準(zhǔn)地識別視頻中的人臉圖像,，并提取如眼睛、鼻子,、嘴巴等關(guān)鍵面部特征,；其次是將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換,、融合,；最后再通過背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假換臉視頻,。值得注意的是,，在此類詐騙案背后，同樣暴露出用戶個人信息泄露的嚴(yán)重問題,。除掌握AI換臉等核心技術(shù)外,，獲取受害人的通訊錄、照片庫等個人隱私信息,，也是“成功”詐騙的重要前提,。廣東省深圳市某網(wǎng)絡(luò)安全科技公司負(fù)責(zé)人肖堅(jiān)煒介紹，很多公民個人隱私信息會在一些渠道被打包出售,，這些隱私信息除了由行業(yè)內(nèi)鬼竊取出售外,，另一主要途徑就是利用一些非法鏈接、二維碼和手機(jī)App進(jìn)行誘導(dǎo)套取。比如,，某些小卡片上會有App下載地址,，用戶只要進(jìn)行安裝，或掃碼去看直播,、瀏覽網(wǎng)站等,，其通訊錄,、照片等就可能被傳到后臺,。　隨意使用AI換臉存法律風(fēng)險事實(shí)上,，當(dāng)前AI換臉類詐騙中遠(yuǎn)不止視頻殺熟一種套路,。還有些詐騙人員會利用交友軟件等渠道引誘受騙人進(jìn)行視頻聊天，然后通過軟件截取受騙者面部特征,，再通過AI技術(shù)合成黃色視頻,，以此來進(jìn)行敲詐勒索?！叭斯ぶ悄苎苌龅母黝愋滦褪侄?，掩蓋不了犯罪分子非法占有的目的?！苯陙沓掷m(xù)關(guān)注“AI與安全”話題的全國人大代表,、上海富申評估咨詢集團(tuán)董事長樊蕓認(rèn)為，無論是電信詐騙,，還是升級后的AI詐騙,，違法者的目的都是不擇手段去非法占有不正當(dāng)利益，刑法,、反電信網(wǎng)絡(luò)詐騙法等現(xiàn)有法律是可以對AI詐騙犯罪進(jìn)行制裁的,。樊蕓指出，當(dāng)前部分網(wǎng)民隨意使用AI生成換臉視頻等行為,，也存在法律風(fēng)險,。根據(jù)民法典規(guī)定，任何組織或者個人不得以丑化,、污損,，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意,，不得制作,、使用、公開肖像權(quán)人的肖像,，但是法律另有規(guī)定的除外,。因此，隨意制作AI換臉視頻可能涉嫌侵犯他人肖像權(quán),。民法典規(guī)定,，對自然人聲音的保護(hù),，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定，因此這類行為同樣可能涉嫌侵犯他人聲音權(quán),。如果在未經(jīng)著作權(quán)人授權(quán)情況下,，私自利用AI換臉技術(shù)等“加工”他人作品，也涉嫌侵犯著作權(quán),。AI換臉詐騙主要依賴于深度合成技術(shù),，對這一技術(shù)可能誘發(fā)的違法犯罪問題，相關(guān)部門也已關(guān)注并進(jìn)行規(guī)范限制,。2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）,，為深度合成服務(wù)劃定了“底線”和“紅線”，明確了深度合成服務(wù)提供者的法定義務(wù),。比如,，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播法律、行政法規(guī)禁止的信息,；提供人臉,、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人,，并取得其單獨(dú)同意,；應(yīng)當(dāng)采取技術(shù)或人工方式對深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核等。當(dāng)前很多短視頻平臺和社交平臺均要求用戶上傳AI生成的內(nèi)容時要作明確標(biāo)記,，正是落實(shí)《規(guī)定》中提出的深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容,，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識的要求。這些明確標(biāo)記既可以提醒用戶這是AI生成內(nèi)容,，也可以在需要時追溯內(nèi)容來源,。2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定了生成式人工智能服務(wù)的基本規(guī)范，同時明確了生成式人工智能服務(wù)的提供者和使用者的義務(wù)與要求,，細(xì)化了監(jiān)管部門的管理措施,。完善人工智能領(lǐng)域法律建設(shè)據(jù)2023年工信部統(tǒng)計(jì)數(shù)據(jù)顯示，我國人工智能核心產(chǎn)業(yè)規(guī)模已達(dá)5000億元,，企業(yè)數(shù)量超過4300家,。記者注意到，在國務(wù)院2023年度立法工作計(jì)劃中,，人工智能法草案被列入其中,。在高速發(fā)展之際，多名全國人大代表提出，應(yīng)不斷完善人工智能領(lǐng)域法律法規(guī)建設(shè),，加快推進(jìn)人工智能法出臺,。全國人大代表、中國電信撫州分公司云網(wǎng)運(yùn)營支撐中心“宗強(qiáng)班”班長宗強(qiáng)指出,，隨著人工智能技術(shù)的發(fā)展,，犯罪手段迭代升級，雖然當(dāng)前已有一些緩解安全風(fēng)險的控制措施,、技術(shù)標(biāo)準(zhǔn)等手段,，但人工智能安全風(fēng)險治理還需與管理手段相結(jié)合，健全人工智能安全政策法規(guī)至關(guān)重要,。他建議推動人工智能相關(guān)立法工作,，強(qiáng)化AI技術(shù)濫用法律約束,，為我國人工智能安全治理提供法律支撐,。“當(dāng)前人工智能算法訓(xùn)練和使用過程中面臨的各類數(shù)據(jù)安全,、網(wǎng)絡(luò)安全,、隱私泄露等問題，已成為制約人工智能健康發(fā)展的關(guān)鍵痛點(diǎn),，亟須形成一套可信人工智能技術(shù)標(biāo)準(zhǔn)和評估體系來加以規(guī)范,。”全國人大代表,、中國移動河南公司黨委書記樓向平注意到,，諸如人工智能侵權(quán)問題以及虛假生成內(nèi)容的責(zé)任認(rèn)定、人工智能生成物的可版權(quán)性以及權(quán)利歸屬,、隱私保護(hù)問題等在當(dāng)前法律制度體系中仍存在一定立法空白,。他建議加快推動人工智能領(lǐng)域立法進(jìn)程，促進(jìn)人工智能產(chǎn)業(yè)健康發(fā)展,。在人工智能法頒布前,，可通過在現(xiàn)有數(shù)據(jù)安全法、著作權(quán)法等法律規(guī)定基礎(chǔ)上制定行政法規(guī)或發(fā)布司法解釋等方式階段性緩解人工智能發(fā)展中面臨的法律問題,。樓向平還建議明確生成式人工智能“事前—事中—事后”全鏈條監(jiān)管機(jī)制,，要出臺人工智能風(fēng)險等級規(guī)范，針對不同類型,、不同風(fēng)險等級,，施加不同的監(jiān)管措施。全國人大代表,、中國電信湖北公司黨委書記張敏提出,，應(yīng)增強(qiáng)人工智能技術(shù)安全應(yīng)用的法治保障能力，這其中最重要的就是要加快推進(jìn)人工智能法的立法工作。除加快推進(jìn)立法外,，張敏認(rèn)為還應(yīng)增強(qiáng)關(guān)鍵信息基礎(chǔ)設(shè)施智能化安全合規(guī)的監(jiān)管能力,。比如，強(qiáng)化人工智能系統(tǒng)的安全性評估,，加強(qiáng)對人工智能算法和模型的審計(jì),；嚴(yán)格落實(shí)網(wǎng)絡(luò)安全等級保護(hù)的基本要求，常態(tài)化開展安全威脅的智能化監(jiān)測和處置,；提升智能化防護(hù)水平,，構(gòu)建更加智能、安全的網(wǎng)絡(luò)環(huán)境,。來源：法治日報(bào)