中新社北京6月9日電 (記者 劉育英)AI(人工智能)一鍵換臉,、AI克隆聲音,、AI釣魚郵件……近日兩起詐騙金額上百萬元(人民幣，下同)的案件引起人們關(guān)注,。AI技術(shù)快速發(fā)展,，挑戰(zhàn)也逐漸顯現(xiàn)。

近日,，內(nèi)蒙古包頭警方通報一起利用AI實施詐騙的案件,，在這一案件中，福州市某公司法人代表郭先生10分鐘內(nèi)被騙430萬元,。據(jù)通報,，騙子通過AI換臉和擬聲技術(shù)，佯裝熟人實施詐騙,。

今年4月份，在安徽安慶經(jīng)開區(qū)發(fā)生一起AI換臉詐騙,，詐騙分子使用一段9秒鐘的智能AI換臉視頻佯裝“熟人”,，讓受害人放松警惕被騙走245萬元。

AI詐騙是利用AI技術(shù),，模仿,、偽造他人的聲音、面孔、視頻等信息,，進行欺騙,、敲詐、勒索等的犯罪活動,。早在2019年,，華爾街日報就報道過詐騙犯利用深度偽造語音技術(shù)冒充英國某能源公司高管詐騙24萬余美元。

中國信息通信研究院云計算與大數(shù)據(jù)研究所內(nèi)容科技部研究員呼娜英對中新社記者表示,，當(dāng)前,，隨著深度學(xué)習(xí)等AI技術(shù)的成熟，AI詐騙新手段體現(xiàn)出詐騙手段愈發(fā)多樣,、詐騙門檻大幅降低,、辨別難度不斷加大等特點。

在網(wǎng)上,，高逼真的換臉付費軟件價值僅在幾百元至幾千元之間,。

“基于公開發(fā)布的數(shù)據(jù)信息、照片,、視頻,，利用深度合成等AI技術(shù)生成高度逼真的圖像、視頻和語音等內(nèi)容,，這些以假亂真的虛假信息更易取得對方信任,，從而使得受害者放松警惕?！辟惖涎芯吭壕W(wǎng)絡(luò)安全研究所所長劉權(quán)對中新社記者表示,。

防范AI詐騙也需要多管齊下，齊抓共治,。今年4月,，中國國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》向社會公開征求意見,，其主旨思想是促進生成式人工智能技術(shù)的健康發(fā)展和規(guī)范應(yīng)用,。

劉權(quán)認為，該辦法建立了AI服務(wù)的管理框架,，對生成式人工智能服務(wù)提供者和使用者進行了規(guī)范化管理,，要求提供生成式人工智能產(chǎn)品或服務(wù)的企業(yè)或個人進行實名認證、信息公示,、申報安全評估,、履行算法備案和變更、注銷備案手續(xù)等措施,，有助于減少非法個體或組織實施AI詐騙的可能性,。

呼娜英表示，2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,，細化了深度合成技術(shù)支持者,、服務(wù)提供者、服務(wù)使用者以及應(yīng)用程序分發(fā)平臺的主體責(zé)任,，規(guī)定的落實將有效遏制AI換臉等詐騙事件,。

有專家進一步提出，立法部門應(yīng)加快對AI技術(shù)的運用進行立法規(guī)制,，不妨對人工智能設(shè)備和軟件的使用和注冊進行明確限制,，防止“AI”技術(shù)的運用“無序化”“無法化”。

奇安信董事長齊向東表示,，人工智能技術(shù)被傳統(tǒng)犯罪分子用來偽造聲音,、偽造圖像、偽造視頻,、偽造證據(jù),，以假亂真，人們很難去甄別,。要解決這些挑戰(zhàn),，只有靠技術(shù)和它進行對抗。

因此相關(guān)部門應(yīng)持續(xù)AI反詐技術(shù)的研究,，提升防范AI欺詐的技術(shù)手段,，利用機器學(xué)習(xí)和數(shù)據(jù)挖掘、區(qū)塊鏈等技術(shù)加強對AI應(yīng)用的監(jiān)管與審查,，及時發(fā)現(xiàn)和防范違法行為。

此外,，還應(yīng)提高公眾反詐意識與防范AI詐騙的能力,。中國互聯(lián)網(wǎng)協(xié)會日前也對AI換臉新騙局做出提醒，包括做好個人信息安全第一責(zé)任人,，加強個人信息保護意識,，防止信息泄露：不輕易提供人臉、指紋等個人生物信息給他人等,。

治理AI詐騙需要多管齊下,。劉權(quán)表示，應(yīng)加強跨部門,、跨行業(yè)的協(xié)同配合,，建立聯(lián)合公安、工信,、網(wǎng)信,、市場監(jiān)管部門等政府部門，以及電信企業(yè),、通訊軟件提供商,、銀行等企業(yè)的工作機制，共同監(jiān)管和維護網(wǎng)絡(luò)安全,。(完)