近期,，各地曝出多起人工智能“輔助”詐騙案件。一些不法分子利用人工智能“深度偽造”冒充領導干部行騙，值得引起高度警惕

一些領導干部由于工作原因出鏡率相對較高,，這為騙子提供了豐富的面部識別素材,；在電視、廣播新聞中也可以找到一些領導干部的大段同期聲,，這令“偽造成本”更低

隨著人工智能技術的普及應用,，不法分子實施詐騙的精準性、迷惑性,、隱蔽性增強,，公安、檢察等政法機關辦案將面臨偵查破案難、電子證據(jù)調(diào)取難,、認定處理難等現(xiàn)實困難

文 |《瞭望》新聞周刊記者 吳帥帥 劉懿德 蘭天鳴

近日,，北方某地警方發(fā)布了一起利用“AI換臉”對當事人實施詐騙的案件。詐騙分子運用人工智能技術,，通過微信視頻通話與受害人進行了十多分鐘交流,，受害人轉賬數(shù)百萬元。

引人關注的是,，該案不僅是一起新型網(wǎng)絡詐騙,，更是一起涉政詐騙案件。

不法分子模擬偽造的,，是受害人認識的一名領導干部,。在微信視頻聊天中，“換臉”后的騙子提出,，其朋友有一筆工程保證金需要借用受害人公司的對公賬戶走賬,。在視頻畫面中，騙子“換臉”后面部表情自然,，聲音逼真,，受害人便放松了警惕，轉賬后打電話確認,，才知道被騙,。

“AI換臉”“AI擬聲”、虛擬場景構建……隨著設備性能提升和技術軟件優(yōu)化,，利用“AI換臉”技術實施詐騙,，已成為一種新型網(wǎng)絡詐騙。近期,，各地曝出多起人工智能“輔助”詐騙案件。一些不法分子利用人工智能“深度偽造”冒充領導干部行騙,，值得引起高度警惕,。

由于工作原因，一些領導干部的面部,、聲音等生物特征信息更易被獲取,，被人工智能學習利用后造成的潛在危害性也更大。接受《瞭望》新聞周刊采訪的業(yè)內(nèi)人士表示,，社會各界都應提高識騙防騙意識,，有關部門應依法加大對人工智能“輔助”詐騙案件的執(zhí)法力度，嚴肅追究相關人員法律責任,。

朱慧卿圖/本刊

眼見不一定為實

近日，華北某地一名地方干部正為一件事犯愁。有人冒用他的名義,，與他的親朋好友大范圍添加微信好友,。

“和我的親戚朋友加完好友后，騙子還給他們打了視頻電話,。通話時間只有幾秒鐘,，朋友們感覺聲音、畫面都有點兒像,?！边@名干部說，直到許多朋友打電話詢問具體情況,，他才知道此事,。

“估計下一步就要開始騙錢了。所以,，最近幾天我連續(xù)發(fā)了好幾條朋友圈提醒大家,。”這名干部說,。

受訪業(yè)內(nèi)人士表示,，只要有足夠的圖像、音頻素材,，不法分子就可以通過人工智能“換臉”軟件,、合成聲音軟件偽造虛擬形象，實施詐騙,?！爸恍杼崛∽钌?0個字、最多32個字,，就可以合成其聲音,。”國網(wǎng)信息通信產(chǎn)業(yè)集團安全科研專家趙明明告訴記者,。

一些領導干部由于工作原因出鏡率相對較高,，這為騙子提供了豐富的面部識別素材；在電視,、廣播新聞中也可以找到一些領導干部的大段同期聲,，這令“偽造成本”更低。

在一些案件中,，不法分子通過“AI換臉”合成視頻等方式，偽造與領導干部見面,、合影等內(nèi)容實施詐騙,，增加了涉政類詐騙的欺騙性和危害性。

AI詐騙四大趨勢

中國信息通信研究院相關負責人表示，當前,，人工智能“輔助”詐騙存在四大趨勢,。隨著人工智能技術的普及應用，不法分子實施詐騙的精準性,、迷惑性,、隱蔽性增強，公安,、檢察等政法機關辦案將面臨偵查破案難,、電子證據(jù)調(diào)取難、認定處理難等現(xiàn)實困難,。

——技術成本由高向低轉變,。騰訊安全玄武實驗室負責人于旸告訴記者，隨著技術發(fā)展,，人工智能“深度偽造”“深度合成”已成為一種可以低成本實現(xiàn)的技術,。

——技術應用由單一向多元轉變。騰訊互聯(lián)網(wǎng)安全專家楊建表示,，實施人工智能“輔助”詐騙一般要滿足多個要素,，包括非法獲取信息、構建熟人賬號,、“換臉換聲”,、破解手機攝像頭權限等，涉及多項技術手段,。

——偽造身份從模糊向具體轉變,。傳統(tǒng)電信詐騙往往只能以“某派出所工作人員”“某網(wǎng)站客服”等模糊虛指人設實施。但在人工智能“輔助”詐騙中,，騙子可以以具體的人物形象出現(xiàn),。

——作案模式從“廣撒網(wǎng)”向精準施騙轉變。社交媒體平臺往往設有視頻驗證環(huán)節(jié),，這在客觀上增加了冒充熟人,、領導干部等詐騙的“可信度”。受訪專家分析,，隨著技術發(fā)展,，精準盜號、分析關系網(wǎng)等有指向性的網(wǎng)絡詐騙案件占比可能有所上升,。

多層面約束規(guī)范

奇安信安全專家裴智勇表示,，目前，專業(yè)級別的人工智能“深度偽造”仍需通過較強的硬件在實驗室環(huán)境實現(xiàn),。這意味著,，近期“AI換臉”詐騙形成系統(tǒng)性風險的可能性不大,，但仍需未雨綢繆、預防打擊,。

在源頭端,，需要進一步加強公民個人信息保護。楊建等專家建議,，加強公民信息尤其是生物特征等隱私信息的技術,、司法保護力度。針對冒充領導干部等涉政詐騙風險,，可通過規(guī)范領導干部個人社交賬號管理,，普及提升賬號安全意識等方式進行規(guī)避。

在技術層面,，數(shù)字水印鑒偽等技術有待進一步普及利用,。趙明明表示，數(shù)字水印能將特定的信息嵌入音頻,、圖片或是視頻等數(shù)字信號中,，進行版權保護，以防止未經(jīng)授權的復制和拷貝,。他建議,，加強打入數(shù)字水印、開發(fā)真?zhèn)舞b別等技術治理手段,，使其為數(shù)字內(nèi)容生產(chǎn)商以及用戶端等提供廣泛服務,，以科技手段制約不法分子利用人工智能技術實施犯罪。

瑞萊智慧高級產(chǎn)品經(jīng)理張旭東建議,，對涉及政務,、安防、金融,、消費等重要應用的人臉識別技術漏洞進行完善和升級,，防范不法分子通過后臺劫持手機攝像頭權限。

“尤其是涉眾,、涉密、涉及公共利益的相關平臺和技術服務提供商,，需優(yōu)先完成技術加固,，對手機模擬器做好防范。同時,，鼓勵和引導更多手機廠商在系統(tǒng)升級時支持3D人臉識別技術?！睆埿駯|說,。

從法律制度方面看,，反電信網(wǎng)絡詐騙法、刑法等法律為打擊治理各類網(wǎng)絡詐騙活動提供了法律支撐,。趙明明建議，進一步完善人工智能等領域相關法律,，通過案例等指引，建立人工智能侵權糾紛法律框架,、訴訟程序和賠償標準等,。

此外,，還需通過完善相關制度進一步落實平臺責任,。新華三集團安全專家曹亮表示，對核心領域使用人臉識別技術的產(chǎn)品，監(jiān)管部門應建立分級別、多層次的國家安全標準及行業(yè)安全標準,；壓實平臺、企業(yè)主體責任，督促相關應用開發(fā)企業(yè)履行源頭審查責任,；建立健全用戶注冊、算法機制機理審核,、數(shù)據(jù)安全個人信息保護,、反電信網(wǎng)絡詐騙、應急處置等管理制度,?！?/p>