□記者 于晗

隨著AI技術迅猛發(fā)展,，電信詐騙手段也逐漸科技化,，一些詐騙團伙用上了“AI換臉”技術。近日,，內蒙古包頭警方公布一起利用AI實施電信詐騙的典型案例,，引起公眾對AI安全的廣泛熱議。作為反詐重點領域,，銀行業(yè)無疑也將遭遇新考驗：當AI詐騙手段日漸豐富,，各類案件層出不窮,，該如何防范,？

“AI換臉”引發(fā)詐騙案

近期,，中國互聯網協(xié)會發(fā)文提示稱，當前利用“AI換臉”“AI換聲”等虛假音視頻,，進行詐騙,、誹謗的違法行為屢見不鮮，提醒公眾警惕“AI換臉”新騙局,。其中,，特別提到近期包頭市公安局發(fā)布的一起使用智能AI技術進行電信網絡詐騙的案件,。

在該案件中，福州某科技公司的法人代表郭先生基于對好友的信任,，加上已經視頻聊天“核實”了身份,，為“好友”提供了430萬元的“過賬資金”。事后,，郭先生撥打好友電話才得知被騙,，原來騙子通過“AI換臉”和擬聲技術，佯裝好友對其實施詐騙,。

“當時是給我打了視頻的,，我在視頻中也確認了面孔和聲音，所以才放松了戒備,?！惫壬f。幸運的是,，在包頭警方的介入下,，336.84萬元被騙資金已經被警方攔截。但案件公布后,，仍引起外界對于AI安全的廣泛討論和擔憂,。

一位AI從業(yè)人士介紹，由于深度合成技術的開放開源,、深度合成產品和服務的增多,，深度合成內容制作的技術門檻越來越低。技術的“平民化”,，使得利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙,、勒索、誣陷,、誹謗等違法行為和事例出現,。

AI詐騙案件增多，作為資金交易和轉賬的關鍵環(huán)節(jié),，銀行業(yè)無疑將承擔起更加艱巨的反詐壓力,。如何更有效地防范風險，成為銀行機構需要面對的問題,。

企業(yè)信息使用合規(guī)是關鍵

“目前,，在典型的‘AI換臉’詐騙行為中，詐騙者往往會通過非法途徑獲取大量的高清人臉信息,，然后利用AI技術軟件分析臉部特征,、實施換臉行為，再通過合成的視頻或照片偽造成他人實施詐騙。因此,，人臉信息的收集使用合規(guī)性,，以及人臉合成技術的合規(guī)管理等需要引起重視?！盩alkingData法務總監(jiān)兼數據合規(guī)官葛夢瑩說,。

去年12月，國家互聯網信息辦公室,、工業(yè)和信息化部,、公安部聯合發(fā)布《互聯網信息服務深度合成管理規(guī)定》，對人臉生成,、替換,、操控，合成人聲,、仿聲等深度合成技術提出明確約束,。近日，國務院辦公廳印發(fā)的《國務院2023年度立法工作計劃》顯示,，人工智能法草案等預備提請全國人大常委會審議,。可見,，在法律規(guī)制方面,，我國已對AI的快速發(fā)展及相關風險給予重視。

葛夢瑩認為,，如果企業(yè)（包括銀行）涉及人臉信息處理行為,，需要嚴格遵循最小必要原則來處理人臉信息，要特別關注人臉信息的全生命周期合規(guī)性,，保證合規(guī)收集使用,，禁止違法向第三方提供人臉信息，并應采取措施保護人臉信息的安全,，防止信息泄露等安全事件的發(fā)生,，使得詐騙者無法從此類企業(yè)處違規(guī)獲取人臉信息。

如果企業(yè)（包括銀行）提供人臉合成技術服務,，則需要建立健全用戶注冊機制,，便于進行個體追溯問責；落實生成內容顯著標識義務,，盡到提醒告知義務,；通過發(fā)布管理規(guī)則,、平臺公約,、服務協(xié)議等形式告知使用者不得利用人臉合成技術來實施詐騙等犯罪行為，并建立反電信網絡詐騙、投訴舉報,、安全評估,、監(jiān)測鑒真、應急處置等制度來防范違法濫用人臉合成技術的行為,，使詐騙者難以使用合成技術實施犯罪行為,。

個人應加強信息安全保護

風險不可避免，對于相關平臺和個人而言,，又該如何利用“魔法”打敗“魔法”,？

《中國銀行保險報》記者注意到，目前,，針對AI詐騙,，不少金融機構已采取了一定的防范舉措與技術應用。比如,，活體防偽,、中介識別等技術在金融業(yè)務場景中得以落地。

“活體防偽,、中介識別等技術的核心功能便是能夠避免人臉識別的自身缺陷,，有效識別照片、視頻,、面具,、仿真模型等，特別是上述案件中出現的換臉,、變聲欺詐行為,。”馬上消費人工智能研究院智能核身專家馮月表示,，基于此類技術創(chuàng)新，目前能夠做到將99%的批量欺詐攻擊攔截在外,，有效防范偽造信息,、偽冒申請、電信詐騙等風險,。

“相較于處于整體環(huán)節(jié)末端的金融機構,，再更前一步，社交平臺亦有義務引入鑒偽機制,，并實時對用戶進行通話鑒真提醒,，標記用戶是否有行為異常、圖像偽造異常,、聲音偽造異常,。更早的風險提示信息，可以更有效地阻隔風險結果的發(fā)生,?！瘪T月表示。

值得注意的是,，近期,，某社交媒體平臺便發(fā)布了“關于人工智能生成內容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術創(chuàng)作,、發(fā)布侵權內容,，包括但不限于肖像權、知識產權等,，一經發(fā)現,，平臺將嚴厲處罰。

而作為反詐的核心主體,，社會公眾也有必要建立起相應的認知和防護能力,，加強對個人物品、信息安全保護,。

“對于個人而言,，不能隨便點擊不明的短信鏈接、郵件鏈接等,，不隨意掃描不明來源二維碼,、下載APP，不輕易提供人臉等個人生物信息給他人,，不輕易透露自己的身份信息,，不過度公開或分享動圖、視頻等,?！瘪T月建議,，個人可以定期清理微信聊天記錄，隱藏具有親近關系的人的相關痕跡,，將手機相冊加密或者啟動手機數據保護功能等，這些日常行為都有可能將詐騙攔截在外,。

貝葉思咨詢研究員周香君表示,，對整個社會來說，一是要全面普及AI詐騙的多種方式,，提高全民警覺心,。二是要加強監(jiān)管，不斷完善社會監(jiān)測監(jiān)督體系和相關法律法規(guī),。三是提高全民安全意識,，保護個人信息。

來源：中國銀行保險報