本報記者　趙晨熙本報實習生　郝嘉偉在網絡時代,，眼見并不一定為“實”,，也有可能是詐騙分子正在利用AI（人工智能）技術精準對你進行“圍獵”……來自內蒙古鄂爾多斯的李女士某天突然在微信上收到了老同學“賈某”的好友申請。其后雙方在聊天過程中,，“賈某”發(fā)來視頻通話邀請,，盡管李女士發(fā)現視頻中的畫面很模糊，聲音也很卡頓,，但確實看到了“老同學”的樣貌,，最終將40萬元轉到了對方所提供的銀行賬號上。所幸李女士發(fā)現事有蹊蹺后報警,，警方啟動了緊急止付機制,，及時將被騙的錢款攔截。李女士遭遇的AI制造“老同學”詐騙案并非個例,，《法治日報》記者注意到,，近年來，隨著AI技術的發(fā)展和應用,，網絡詐騙也升級了新手法,，不法分子頻頻利用深度偽造等技術通過AI換臉、AI變聲實施“精準”詐騙,。AI技術在帶來新一輪技術變革的同時,，也引發(fā)了一系列技術與安全應用的討論。今年全國人大會議期間,，多位關注AI發(fā)展與安全的全國人大代表圍繞AI技術的安全應用建言獻策,，加快推進人工智能立法,、為人工智能技術安全應用提供法治保障,，成為多方共識。深度偽造詐騙手段難以分辨一家跨國公司香港分部的職員受邀參加總部“首席財務官”發(fā)起的一場“多人視頻會議”,，并按要求先后將2億港元轉到5個本地銀行賬戶,。其后，他向總部查詢才得知受騙,。后警方調查發(fā)現,，這起案件所謂的視頻會議中只有受害人一人是真人，其余“參會人員”都是經過AI換臉后的詐騙人員,。陜西省西安市某公司財務人員張女士接到老板的視頻通話,，要求她轉賬186萬元到一個指定賬號。因為視頻中那個人的聲音,、面容都跟老板一模一樣,，且這筆款要得非常急，張女士沒有猶豫便迅速轉賬,。轉賬后,，她將電子憑證發(fā)到公司財務內部群中，被老板詢問這筆資金的來由時才意識到上當,，最終報警保住了大部分被騙資金,。在這兩起真實發(fā)生的典型案件中，受害人在轉賬時之所以沒有絲毫懷疑,，原因就是在高度仿真的面容與聲音面前放松了警惕,，這也正是當前不少詐騙團伙利用AI技術頻頻“得手”的最主要原因。騙子實施AI換臉詐騙時,，會深度偽造被騙者所熟知人的視頻和聲音,，詐騙成功率非常高。中國網絡空間安全協會人工智能安全治理專委會專家薛智慧解釋稱,，AI換臉過程主要包括人臉識別追蹤,、面部特征提取、人臉變換融合,、背景環(huán)境渲染,、圖像與音頻合成等幾個關鍵步驟,，其最核心技術包括三個部分,，首先是利用深度學習算法精準地識別視頻中的人臉圖像，并提取如眼睛,、鼻子,、嘴巴等關鍵面部特征；其次是將這些特征與目標人臉圖像進行匹配,、替換,、融合；最后再通過背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假換臉視頻,。值得注意的是,，在此類詐騙案背后，同樣暴露出用戶個人信息泄露的嚴重問題,。除掌握AI換臉等核心技術外,，獲取受害人的通訊錄、照片庫等個人隱私信息,，也是“成功”詐騙的重要前提,。廣東省深圳市某網絡安全科技公司負責人肖堅煒介紹，很多公民個人隱私信息會在一些渠道被打包出售,，這些隱私信息除了由行業(yè)內鬼竊取出售外,，另一主要途徑就是利用一些非法鏈接、二維碼和手機App進行誘導套取,。比如,，某些小卡片上會有App下載地址，用戶只要進行安裝,，或掃碼去看直播,、瀏覽網站等，其通訊錄,、照片等就可能被傳到后臺,。　隨意使用AI換臉存法律風險事實上,，當前AI換臉類詐騙中遠不止視頻殺熟一種套路,。還有些詐騙人員會利用交友軟件等渠道引誘受騙人進行視頻聊天，然后通過軟件截取受騙者面部特征,，再通過AI技術合成黃色視頻,，以此來進行敲詐勒索,?！叭斯ぶ悄苎苌龅母黝愋滦褪侄?，掩蓋不了犯罪分子非法占有的目的,?！苯陙沓掷m(xù)關注“AI與安全”話題的全國人大代表,、上海富申評估咨詢集團董事長樊蕓認為,，無論是電信詐騙,，還是升級后的AI詐騙,，違法者的目的都是不擇手段去非法占有不正當利益,，刑法、反電信網絡詐騙法等現有法律是可以對AI詐騙犯罪進行制裁的,。樊蕓指出,，當前部分網民隨意使用AI生成換臉視頻等行為,，也存在法律風險。根據民法典規(guī)定,，任何組織或者個人不得以丑化,、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權,。未經肖像權人同意,，不得制作、使用,、公開肖像權人的肖像,，但是法律另有規(guī)定的除外。因此,，隨意制作AI換臉視頻可能涉嫌侵犯他人肖像權,。民法典規(guī)定，對自然人聲音的保護,，參照適用肖像權保護的有關規(guī)定,，因此這類行為同樣可能涉嫌侵犯他人聲音權。如果在未經著作權人授權情況下,，私自利用AI換臉技術等“加工”他人作品,，也涉嫌侵犯著作權。AI換臉詐騙主要依賴于深度合成技術,，對這一技術可能誘發(fā)的違法犯罪問題,，相關部門也已關注并進行規(guī)范限制。2023年1月10日起施行的《互聯網信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》）,，為深度合成服務劃定了“底線”和“紅線”,，明確了深度合成服務提供者的法定義務。比如,，任何組織和個人不得利用深度合成服務制作,、復制、發(fā)布,、傳播法律,、行政法規(guī)禁止的信息；提供人臉,、人聲等生物識別信息編輯功能的,，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意,；應當采取技術或人工方式對深度合成服務使用者的輸入數據和合成結果進行審核等,。當前很多短視頻平臺和社交平臺均要求用戶上傳AI生成的內容時要作明確標記，正是落實《規(guī)定》中提出的深度合成服務提供者對使用其服務生成或者編輯的信息內容,，應當采取技術措施添加不影響用戶使用的標識的要求,。這些明確標記既可以提醒用戶這是AI生成內容，也可以在需要時追溯內容來源,。2023年8月15日起施行的《生成式人工智能服務管理暫行辦法》規(guī)定了生成式人工智能服務的基本規(guī)范,，同時明確了生成式人工智能服務的提供者和使用者的義務與要求，細化了監(jiān)管部門的管理措施,。完善人工智能領域法律建設據2023年工信部統計數據顯示,，我國人工智能核心產業(yè)規(guī)模已達5000億元，企業(yè)數量超過4300家,。記者注意到,，在國務院2023年度立法工作計劃中，人工智能法草案被列入其中,。在高速發(fā)展之際,，多名全國人大代表提出，應不斷完善人工智能領域法律法規(guī)建設,，加快推進人工智能法出臺,。全國人大代表、中國電信撫州分公司云網運營支撐中心“宗強班”班長宗強指出,，隨著人工智能技術的發(fā)展,，犯罪手段迭代升級，雖然當前已有一些緩解安全風險的控制措施,、技術標準等手段,，但人工智能安全風險治理還需與管理手段相結合，健全人工智能安全政策法規(guī)至關重要,。他建議推動人工智能相關立法工作,，強化AI技術濫用法律約束，為我國人工智能安全治理提供法律支撐,?！爱斍叭斯ぶ悄芩惴ㄓ柧毢褪褂眠^程中面臨的各類數據安全、網絡安全,、隱私泄露等問題,，已成為制約人工智能健康發(fā)展的關鍵痛點，亟須形成一套可信人工智能技術標準和評估體系來加以規(guī)范,?！比珖舜蟠怼⒅袊苿雍幽瞎军h委書記樓向平注意到,，諸如人工智能侵權問題以及虛假生成內容的責任認定,、人工智能生成物的可版權性以及權利歸屬、隱私保護問題等在當前法律制度體系中仍存在一定立法空白,。他建議加快推動人工智能領域立法進程,，促進人工智能產業(yè)健康發(fā)展,。在人工智能法頒布前，可通過在現有數據安全法,、著作權法等法律規(guī)定基礎上制定行政法規(guī)或發(fā)布司法解釋等方式階段性緩解人工智能發(fā)展中面臨的法律問題,。樓向平還建議明確生成式人工智能“事前—事中—事后”全鏈條監(jiān)管機制，要出臺人工智能風險等級規(guī)范,，針對不同類型,、不同風險等級，施加不同的監(jiān)管措施,。全國人大代表,、中國電信湖北公司黨委書記張敏提出，應增強人工智能技術安全應用的法治保障能力,，這其中最重要的就是要加快推進人工智能法的立法工作,。除加快推進立法外，張敏認為還應增強關鍵信息基礎設施智能化安全合規(guī)的監(jiān)管能力,。比如,，強化人工智能系統的安全性評估，加強對人工智能算法和模型的審計,；嚴格落實網絡安全等級保護的基本要求,，常態(tài)化開展安全威脅的智能化監(jiān)測和處置；提升智能化防護水平,，構建更加智能,、安全的網絡環(huán)境。來源：法治日報