本報(bào)記者　趙晨熙本報(bào)實(shí)習(xí)生　郝嘉偉在網(wǎng)絡(luò)時(shí)代，眼見(jiàn)并不一定為“實(shí)”,，也有可能是詐騙分子正在利用AI（人工智能）技術(shù)精準(zhǔn)對(duì)你進(jìn)行“圍獵”……來(lái)自內(nèi)蒙古鄂爾多斯的李女士某天突然在微信上收到了老同學(xué)“賈某”的好友申請(qǐng),。其后雙方在聊天過(guò)程中，“賈某”發(fā)來(lái)視頻通話邀請(qǐng),，盡管李女士發(fā)現(xiàn)視頻中的畫面很模糊,，聲音也很卡頓，但確實(shí)看到了“老同學(xué)”的樣貌,，最終將40萬(wàn)元轉(zhuǎn)到了對(duì)方所提供的銀行賬號(hào)上,。所幸李女士發(fā)現(xiàn)事有蹊蹺后報(bào)警，警方啟動(dòng)了緊急止付機(jī)制,，及時(shí)將被騙的錢款攔截,。李女士遭遇的AI制造“老同學(xué)”詐騙案并非個(gè)例，《法治日?qǐng)?bào)》記者注意到,，近年來(lái),，隨著AI技術(shù)的發(fā)展和應(yīng)用，網(wǎng)絡(luò)詐騙也升級(jí)了新手法,，不法分子頻頻利用深度偽造等技術(shù)通過(guò)AI換臉,、AI變聲實(shí)施“精準(zhǔn)”詐騙。AI技術(shù)在帶來(lái)新一輪技術(shù)變革的同時(shí),，也引發(fā)了一系列技術(shù)與安全應(yīng)用的討論,。今年全國(guó)人大會(huì)議期間，多位關(guān)注AI發(fā)展與安全的全國(guó)人大代表圍繞AI技術(shù)的安全應(yīng)用建言獻(xiàn)策,，加快推進(jìn)人工智能立法,、為人工智能技術(shù)安全應(yīng)用提供法治保障，成為多方共識(shí)。深度偽造詐騙手段難以分辨一家跨國(guó)公司香港分部的職員受邀參加總部“首席財(cái)務(wù)官”發(fā)起的一場(chǎng)“多人視頻會(huì)議”,，并按要求先后將2億港元轉(zhuǎn)到5個(gè)本地銀行賬戶,。其后，他向總部查詢才得知受騙,。后警方調(diào)查發(fā)現(xiàn),，這起案件所謂的視頻會(huì)議中只有受害人一人是真人，其余“參會(huì)人員”都是經(jīng)過(guò)AI換臉后的詐騙人員,。陜西省西安市某公司財(cái)務(wù)人員張女士接到老板的視頻通話,，要求她轉(zhuǎn)賬186萬(wàn)元到一個(gè)指定賬號(hào)。因?yàn)橐曨l中那個(gè)人的聲音,、面容都跟老板一模一樣,，且這筆款要得非常急，張女士沒(méi)有猶豫便迅速轉(zhuǎn)賬,。轉(zhuǎn)賬后,，她將電子憑證發(fā)到公司財(cái)務(wù)內(nèi)部群中，被老板詢問(wèn)這筆資金的來(lái)由時(shí)才意識(shí)到上當(dāng),，最終報(bào)警保住了大部分被騙資金,。在這兩起真實(shí)發(fā)生的典型案件中，受害人在轉(zhuǎn)賬時(shí)之所以沒(méi)有絲毫懷疑,，原因就是在高度仿真的面容與聲音面前放松了警惕,，這也正是當(dāng)前不少詐騙團(tuán)伙利用AI技術(shù)頻頻“得手”的最主要原因。騙子實(shí)施AI換臉詐騙時(shí),，會(huì)深度偽造被騙者所熟知人的視頻和聲音,，詐騙成功率非常高。中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專委會(huì)專家薛智慧解釋稱,，AI換臉過(guò)程主要包括人臉識(shí)別追蹤,、面部特征提取、人臉變換融合,、背景環(huán)境渲染,、圖像與音頻合成等幾個(gè)關(guān)鍵步驟，其最核心技術(shù)包括三個(gè)部分,，首先是利用深度學(xué)習(xí)算法精準(zhǔn)地識(shí)別視頻中的人臉圖像,，并提取如眼睛、鼻子,、嘴巴等關(guān)鍵面部特征,；其次是將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換,、融合,；最后再通過(guò)背景環(huán)境渲染并添加合成后的聲音,，生成逼真度較高的虛假換臉視頻。值得注意的是,，在此類詐騙案背后,，同樣暴露出用戶個(gè)人信息泄露的嚴(yán)重問(wèn)題。除掌握AI換臉等核心技術(shù)外,，獲取受害人的通訊錄,、照片庫(kù)等個(gè)人隱私信息，也是“成功”詐騙的重要前提,。廣東省深圳市某網(wǎng)絡(luò)安全科技公司負(fù)責(zé)人肖堅(jiān)煒介紹,，很多公民個(gè)人隱私信息會(huì)在一些渠道被打包出售，這些隱私信息除了由行業(yè)內(nèi)鬼竊取出售外,，另一主要途徑就是利用一些非法鏈接,、二維碼和手機(jī)App進(jìn)行誘導(dǎo)套取。比如,，某些小卡片上會(huì)有App下載地址,，用戶只要進(jìn)行安裝，或掃碼去看直播,、瀏覽網(wǎng)站等,，其通訊錄、照片等就可能被傳到后臺(tái),?！‰S意使用AI換臉存法律風(fēng)險(xiǎn)事實(shí)上，當(dāng)前AI換臉類詐騙中遠(yuǎn)不止視頻殺熟一種套路,。還有些詐騙人員會(huì)利用交友軟件等渠道引誘受騙人進(jìn)行視頻聊天,，然后通過(guò)軟件截取受騙者面部特征，再通過(guò)AI技術(shù)合成黃色視頻,，以此來(lái)進(jìn)行敲詐勒索,。“人工智能衍生出的各類新型手段,，掩蓋不了犯罪分子非法占有的目的,。”近年來(lái)持續(xù)關(guān)注“AI與安全”話題的全國(guó)人大代表,、上海富申評(píng)估咨詢集團(tuán)董事長(zhǎng)樊蕓認(rèn)為,，無(wú)論是電信詐騙，還是升級(jí)后的AI詐騙,，違法者的目的都是不擇手段去非法占有不正當(dāng)利益,，刑法,、反電信網(wǎng)絡(luò)詐騙法等現(xiàn)有法律是可以對(duì)AI詐騙犯罪進(jìn)行制裁的,。樊蕓指出，當(dāng)前部分網(wǎng)民隨意使用AI生成換臉視頻等行為，也存在法律風(fēng)險(xiǎn),。根據(jù)民法典規(guī)定,，任何組織或者個(gè)人不得以丑化、污損,，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán),。未經(jīng)肖像權(quán)人同意，不得制作,、使用,、公開(kāi)肖像權(quán)人的肖像，但是法律另有規(guī)定的除外,。因此,，隨意制作AI換臉視頻可能涉嫌侵犯他人肖像權(quán)。民法典規(guī)定,，對(duì)自然人聲音的保護(hù),，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定，因此這類行為同樣可能涉嫌侵犯他人聲音權(quán),。如果在未經(jīng)著作權(quán)人授權(quán)情況下,，私自利用AI換臉技術(shù)等“加工”他人作品，也涉嫌侵犯著作權(quán),。AI換臉詐騙主要依賴于深度合成技術(shù),，對(duì)這一技術(shù)可能誘發(fā)的違法犯罪問(wèn)題，相關(guān)部門也已關(guān)注并進(jìn)行規(guī)范限制,。2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）,，為深度合成服務(wù)劃定了“底線”和“紅線”，明確了深度合成服務(wù)提供者的法定義務(wù),。比如,，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播法律、行政法規(guī)禁止的信息,；提供人臉,、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,，并取得其單獨(dú)同意,；應(yīng)當(dāng)采取技術(shù)或人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核等。當(dāng)前很多短視頻平臺(tái)和社交平臺(tái)均要求用戶上傳AI生成的內(nèi)容時(shí)要作明確標(biāo)記,，正是落實(shí)《規(guī)定》中提出的深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容,，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)的要求,。這些明確標(biāo)記既可以提醒用戶這是AI生成內(nèi)容，也可以在需要時(shí)追溯內(nèi)容來(lái)源,。2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定了生成式人工智能服務(wù)的基本規(guī)范,，同時(shí)明確了生成式人工智能服務(wù)的提供者和使用者的義務(wù)與要求，細(xì)化了監(jiān)管部門的管理措施,。完善人工智能領(lǐng)域法律建設(shè)據(jù)2023年工信部統(tǒng)計(jì)數(shù)據(jù)顯示,，我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模已達(dá)5000億元，企業(yè)數(shù)量超過(guò)4300家,。記者注意到,，在國(guó)務(wù)院2023年度立法工作計(jì)劃中，人工智能法草案被列入其中,。在高速發(fā)展之際,，多名全國(guó)人大代表提出，應(yīng)不斷完善人工智能領(lǐng)域法律法規(guī)建設(shè),，加快推進(jìn)人工智能法出臺(tái),。全國(guó)人大代表、中國(guó)電信撫州分公司云網(wǎng)運(yùn)營(yíng)支撐中心“宗強(qiáng)班”班長(zhǎng)宗強(qiáng)指出,，隨著人工智能技術(shù)的發(fā)展,，犯罪手段迭代升級(jí)，雖然當(dāng)前已有一些緩解安全風(fēng)險(xiǎn)的控制措施,、技術(shù)標(biāo)準(zhǔn)等手段,，但人工智能安全風(fēng)險(xiǎn)治理還需與管理手段相結(jié)合，健全人工智能安全政策法規(guī)至關(guān)重要,。他建議推動(dòng)人工智能相關(guān)立法工作,，強(qiáng)化AI技術(shù)濫用法律約束，為我國(guó)人工智能安全治理提供法律支撐,?！爱?dāng)前人工智能算法訓(xùn)練和使用過(guò)程中面臨的各類數(shù)據(jù)安全、網(wǎng)絡(luò)安全,、隱私泄露等問(wèn)題,，已成為制約人工智能健康發(fā)展的關(guān)鍵痛點(diǎn)，亟須形成一套可信人工智能技術(shù)標(biāo)準(zhǔn)和評(píng)估體系來(lái)加以規(guī)范,?！比珖?guó)人大代表、中國(guó)移動(dòng)河南公司黨委書記樓向平注意到,，諸如人工智能侵權(quán)問(wèn)題以及虛假生成內(nèi)容的責(zé)任認(rèn)定,、人工智能生成物的可版權(quán)性以及權(quán)利歸屬、隱私保護(hù)問(wèn)題等在當(dāng)前法律制度體系中仍存在一定立法空白,。他建議加快推動(dòng)人工智能領(lǐng)域立法進(jìn)程,，促進(jìn)人工智能產(chǎn)業(yè)健康發(fā)展,。在人工智能法頒布前，可通過(guò)在現(xiàn)有數(shù)據(jù)安全法,、著作權(quán)法等法律規(guī)定基礎(chǔ)上制定行政法規(guī)或發(fā)布司法解釋等方式階段性緩解人工智能發(fā)展中面臨的法律問(wèn)題。樓向平還建議明確生成式人工智能“事前—事中—事后”全鏈條監(jiān)管機(jī)制,，要出臺(tái)人工智能風(fēng)險(xiǎn)等級(jí)規(guī)范,，針對(duì)不同類型、不同風(fēng)險(xiǎn)等級(jí),，施加不同的監(jiān)管措施,。全國(guó)人大代表、中國(guó)電信湖北公司黨委書記張敏提出,，應(yīng)增強(qiáng)人工智能技術(shù)安全應(yīng)用的法治保障能力,，這其中最重要的就是要加快推進(jìn)人工智能法的立法工作。除加快推進(jìn)立法外,，張敏認(rèn)為還應(yīng)增強(qiáng)關(guān)鍵信息基礎(chǔ)設(shè)施智能化安全合規(guī)的監(jiān)管能力,。比如，強(qiáng)化人工智能系統(tǒng)的安全性評(píng)估,，加強(qiáng)對(duì)人工智能算法和模型的審計(jì),；嚴(yán)格落實(shí)網(wǎng)絡(luò)安全等級(jí)保護(hù)的基本要求，常態(tài)化開(kāi)展安全威脅的智能化監(jiān)測(cè)和處置,；提升智能化防護(hù)水平,，構(gòu)建更加智能、安全的網(wǎng)絡(luò)環(huán)境,。來(lái)源：法治日?qǐng)?bào)