通過AI換臉和擬聲技術，10分鐘騙430萬元,；AI虛擬人在聊天中篩選出受害者,，人工接力實施詐騙……近期，多起宣稱利用AI技術實施詐騙的案件引發(fā)關注,。

記者近日與公安部門核實確認,，“AI詐騙全國爆發(fā)”的消息不實，目前此類詐騙發(fā)案占比很低,。但公安機關已注意到此犯罪新手法,，將加大力度會同有關部門開展技術反制和宣傳防范。

專家表示,，隨著AI技術加速迭代,，由于使用邊界不清晰，涉詐風險正在積聚,，需要高度警惕,。

“換臉”式詐騙引發(fā)焦慮：你會被親友的臉騙到嗎？

近日,，內蒙古包頭警方通報一起利用AI實施詐騙的案件,，福州市某公司法人代表郭先生10分鐘內被騙430萬元。據通報,，騙子通過AI換臉和擬聲技術,，佯裝熟人實施詐騙。

該案披露后,，不少報道稱需警惕“AI詐騙潮”到來,，并曝光多起類似案件。如江蘇常州的小劉被騙子冒充其同學發(fā)語音、打視頻電話,，小劉看到“真人”后信以為真,，“借”了6000元給騙子。

那么,，“AI詐騙潮”是否真的到來了？

記者調查了解到,，AI在技術上確實能做到換臉,、擬音，但被用來進行“廣撒網”式詐騙需要具備很多條件,。

一位被列入公安部專家?guī)斓拿窬嬖V記者,，這類詐騙如果得手必須做到：收集到被換臉對象的個人身份信息、大量人臉圖片,、語音素材,，通過AI生成以假亂真的音視頻；竊取被換臉對象的微信號,；充分掌握詐騙對象個人身份信息,，熟悉其與被換臉對象的社會關系，綜合作案成本很高,。

他認為：“相關報道對一些案件的典型細節(jié)描述不夠準確,。AI涉詐案件仍屬零星發(fā)案狀態(tài)?！彼f,，成熟的類型化詐騙犯罪往往具有在全國多地集中爆發(fā)的特點，但當前沒有成規(guī)模的AI詐騙類案件發(fā)生,。

公安機關研判,，近期網上“AI換臉換聲詐騙在全國爆發(fā)”傳言不實，全國此類案件發(fā)生不到10起,，但該動向值得高度關注,。網上一鍵換臉功能的App、小程序有技術濫用風險,，需要加強技術防范反制等工作,。

AI進入快速迭代期，涉詐犯罪風險正在積聚

“當前AI技術發(fā)展來到螺旋式上升的拐點,，未來幾年技術迭代將會按月計算,。”香港科技大學（廣州）協(xié)理副校長,、人工智能學域主任熊輝說,。

工信部信息顯示，伴隨AI技術快速發(fā)展，合成技術門檻持續(xù)降低,，逐漸向低算力,、小樣本學習方向演進，利用手機終端即可完成,，對算力和數據的要求下降明顯,。同時，隨著AI大模型的技術加持,，正逐步由面部合成向全身,、3D合成發(fā)展，效果更加逼真,。

國家開發(fā)投資集團特級專家,、廈門美亞柏科AI研發(fā)中心總經理趙建強表示，AI技術正加速向網絡詐騙,、虛假信息,、色情等領域滲透。如在一些網絡平臺上假冒明星,、公眾人物生成視頻圖像,，吸引網民。此外,，AI技術也可能被用來規(guī)?；貙嵤┻`法犯罪，如批量,、自動維護網絡賬號,，發(fā)送虛假信息，模擬人工在線聊天等,。

值得關注的是,，當前AI技術不再是實驗室的半成品，引發(fā)熱議的“換臉”“擬音”技術已有較成熟的開源軟件,，使用門檻低,。

記者注意到，網絡上不乏AI換臉教程,。在國內某知名App上輸入“換臉”,，彈出的高頻檢索記錄顯示有“換臉軟件”“換臉App免費”“換臉視頻怎么做”“換臉算法”等。一條名為“史上最強AI換臉軟件正式上線了,！技術門檻大大降低”的鏈接,，介紹了一款換臉軟件，通過視頻演示教程,，手把手教授如何使用,。

“老話說‘眼見為實’,，但今后眼睛看到的也不一定是真實的?！北本┦刑煸蓭熓聞账匣锶藯罨⒊潜硎?，未來涉及AI合成技術的詐騙、敲詐勒索等違法犯罪和肖像,、名譽等民事侵權問題可能逐步顯現,。

“從現有案例看，這些技術已被不法分子利用,。如假冒明星換臉直播,、一鍵脫衣、造謠,、制作色情視頻等。雖然AI詐騙案件未成氣候,，但這一趨勢值得關注,，必須提早防范?！币晃环丛p民警說,。

工信部相關負責人表示，隨著AI技術的不斷發(fā)展,，通過少量圖片,、音頻信息合成特定視頻，利用人工智能模型批量設計詐騙腳本等成為可能，客觀上降低了電信網絡詐騙的實施難度,，AI類新型犯罪爆發(fā)可能性進一步提升,。

盡快完善相關法規(guī)制度，為AI技術發(fā)展立規(guī)劃線

中國移動信息安全中心品質管理處副處長周晶告訴記者，近年來,，國際國內各界在積極探索深度合成技術的有效治理路徑,，研判AI技術給社會帶來的風險和潛在威脅，正設法將AI技術發(fā)展納入一定規(guī)則中,，做到安全可控,。

業(yè)內人士建議，要加強AI反制技術研究,，“以AI制AI”,。一些科技公司正加強對圖像、聲音偽造技術的反制研究,，在公安,、金融的視頻認證場景已有應用。有一線民警建議,，要加強AI安全技術應用研發(fā),，將AI技術應用于犯罪識別、預警,、對抗中,，實現以“白”AI對抗“黑”AI。

其次,，加強源頭治理和行業(yè)引導,，及時更新、完善相關法律,、標準,、規(guī)則，為AI技術發(fā)展保駕護航,。

“數據是AI犯罪的源頭,，保護好公民的個人隱私數據安全，就能在最大程度上降低AI違法犯罪的能力,?！毙茌x說。

中國互聯(lián)網協(xié)會監(jiān)管支撐部主任郝智超建議,，AI技術發(fā)展還要有相關法律法規(guī)來劃紅線,、踩剎車。需進一步加強對個人隱私數據泄露問題的關注,，明確信息監(jiān)管紅線,，對AI技術的研發(fā)、傳播,、使用做到有規(guī)可循,，并根據技術發(fā)展實際情況,，及時完善對技術服務商行為的規(guī)范引導。

此外,，還要有針對性地加強反詐宣傳,。熊輝表示，未來AI可根據大數據創(chuàng)造出無比接近真實的“真實”,?！耙ㄟ^不斷的教育改變大眾觀念，讓人知道眼見不一定為實,，有圖不一定有真相,，提升對網絡信息的辨識力?！彼f,。

公安部有關負責人表示，當前,，詐騙集團利用區(qū)塊鏈,、虛擬貨幣,、遠程操控、共享屏幕等新技術新業(yè)態(tài),，不斷更新升級犯罪工具,，與公安機關在通訊網絡和轉賬洗錢等方面的攻防對抗不斷加劇升級。公安機關會同相關部門與詐騙分子斗智斗勇,，不斷研究調整打擊防范措施,，確保始終保持主動權。

工信部表示,，下一步,，將強化監(jiān)管執(zhí)法，積極會同網信,、公安等部門,，督促企業(yè)健全完善深度合成信息管理及技術保障措施,；鼓勵技術攻關，凝聚產學研用各方力量,，提升深度合成風險技術防范能力,；加強行業(yè)自律，建立健全深度合成技術相關行業(yè)標準,、行業(yè)準則和自律管理制度,，督促指導深度合成服務提供者和技術支持者制定完善業(yè)務規(guī)范、依法開展業(yè)務和接受社會監(jiān)督,。