□記者 于晗

隨著AI技術(shù)迅猛發(fā)展，電信詐騙手段也逐漸科技化,，一些詐騙團伙用上了“AI換臉”技術(shù),。近日,，內(nèi)蒙古包頭警方公布一起利用AI實施電信詐騙的典型案例,，引起公眾對AI安全的廣泛熱議,。作為反詐重點領域,，銀行業(yè)無疑也將遭遇新考驗：當AI詐騙手段日漸豐富，各類案件層出不窮，該如何防范,？

“AI換臉”引發(fā)詐騙案

近期,，中國互聯(lián)網(wǎng)協(xié)會發(fā)文提示稱，當前利用“AI換臉”“AI換聲”等虛假音視頻,，進行詐騙,、誹謗的違法行為屢見不鮮，提醒公眾警惕“AI換臉”新騙局,。其中,，特別提到近期包頭市公安局發(fā)布的一起使用智能AI技術(shù)進行電信網(wǎng)絡詐騙的案件。

在該案件中,，福州某科技公司的法人代表郭先生基于對好友的信任,，加上已經(jīng)視頻聊天“核實”了身份，為“好友”提供了430萬元的“過賬資金”,。事后,，郭先生撥打好友電話才得知被騙，原來騙子通過“AI換臉”和擬聲技術(shù),，佯裝好友對其實施詐騙,。

“當時是給我打了視頻的，我在視頻中也確認了面孔和聲音,，所以才放松了戒備,。”郭先生說,。幸運的是,，在包頭警方的介入下，336.84萬元被騙資金已經(jīng)被警方攔截,。但案件公布后,，仍引起外界對于AI安全的廣泛討論和擔憂。

一位AI從業(yè)人士介紹,，由于深度合成技術(shù)的開放開源,、深度合成產(chǎn)品和服務的增多，深度合成內(nèi)容制作的技術(shù)門檻越來越低,。技術(shù)的“平民化”,，使得利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、勒索,、誣陷,、誹謗等違法行為和事例出現(xiàn)。

AI詐騙案件增多，作為資金交易和轉(zhuǎn)賬的關鍵環(huán)節(jié),，銀行業(yè)無疑將承擔起更加艱巨的反詐壓力,。如何更有效地防范風險，成為銀行機構(gòu)需要面對的問題,。

企業(yè)信息使用合規(guī)是關鍵

“目前,，在典型的‘AI換臉’詐騙行為中，詐騙者往往會通過非法途徑獲取大量的高清人臉信息,，然后利用AI技術(shù)軟件分析臉部特征,、實施換臉行為，再通過合成的視頻或照片偽造成他人實施詐騙,。因此,，人臉信息的收集使用合規(guī)性，以及人臉合成技術(shù)的合規(guī)管理等需要引起重視,?！盩alkingData法務總監(jiān)兼數(shù)據(jù)合規(guī)官葛夢瑩說。

去年12月,，國家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》,，對人臉生成,、替換、操控,，合成人聲,、仿聲等深度合成技術(shù)提出明確約束。近日,，國務院辦公廳印發(fā)的《國務院2023年度立法工作計劃》顯示,，人工智能法草案等預備提請全國人大常委會審議?？梢?，在法律規(guī)制方面，我國已對AI的快速發(fā)展及相關風險給予重視,。

葛夢瑩認為,，如果企業(yè)（包括銀行）涉及人臉信息處理行為，需要嚴格遵循最小必要原則來處理人臉信息,，要特別關注人臉信息的全生命周期合規(guī)性,，保證合規(guī)收集使用，禁止違法向第三方提供人臉信息,，并應采取措施保護人臉信息的安全,，防止信息泄露等安全事件的發(fā)生,，使得詐騙者無法從此類企業(yè)處違規(guī)獲取人臉信息。

如果企業(yè)（包括銀行）提供人臉合成技術(shù)服務,，則需要建立健全用戶注冊機制,，便于進行個體追溯問責；落實生成內(nèi)容顯著標識義務,，盡到提醒告知義務,；通過發(fā)布管理規(guī)則、平臺公約,、服務協(xié)議等形式告知使用者不得利用人臉合成技術(shù)來實施詐騙等犯罪行為,，并建立反電信網(wǎng)絡詐騙、投訴舉報,、安全評估、監(jiān)測鑒真,、應急處置等制度來防范違法濫用人臉合成技術(shù)的行為,，使詐騙者難以使用合成技術(shù)實施犯罪行為。

個人應加強信息安全保護

風險不可避免,，對于相關平臺和個人而言,，又該如何利用“魔法”打敗“魔法”？

《中國銀行保險報》記者注意到,，目前,，針對AI詐騙，不少金融機構(gòu)已采取了一定的防范舉措與技術(shù)應用,。比如,，活體防偽、中介識別等技術(shù)在金融業(yè)務場景中得以落地,。

“活體防偽,、中介識別等技術(shù)的核心功能便是能夠避免人臉識別的自身缺陷，有效識別照片,、視頻,、面具、仿真模型等,，特別是上述案件中出現(xiàn)的換臉,、變聲欺詐行為?！瘪R上消費人工智能研究院智能核身專家馮月表示，基于此類技術(shù)創(chuàng)新,，目前能夠做到將99%的批量欺詐攻擊攔截在外,，有效防范偽造信息、偽冒申請,、電信詐騙等風險,。

“相較于處于整體環(huán)節(jié)末端的金融機構(gòu)，再更前一步,，社交平臺亦有義務引入鑒偽機制,，并實時對用戶進行通話鑒真提醒，標記用戶是否有行為異常,、圖像偽造異常,、聲音偽造異常。更早的風險提示信息,，可以更有效地阻隔風險結(jié)果的發(fā)生,。”馮月表示,。

值得注意的是,，近期，某社交媒體平臺便發(fā)布了“關于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”,，明確禁止利用生成式人工智能技術(shù)創(chuàng)作,、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán),、知識產(chǎn)權(quán)等,，一經(jīng)發(fā)現(xiàn)，平臺將嚴厲處罰,。

而作為反詐的核心主體,，社會公眾也有必要建立起相應的認知和防護能力，加強對個人物品,、信息安全保護,。

“對于個人而言,，不能隨便點擊不明的短信鏈接、郵件鏈接等,，不隨意掃描不明來源二維碼,、下載APP，不輕易提供人臉等個人生物信息給他人,，不輕易透露自己的身份信息,，不過度公開或分享動圖、視頻等,?！瘪T月建議，個人可以定期清理微信聊天記錄,，隱藏具有親近關系的人的相關痕跡,，將手機相冊加密或者啟動手機數(shù)據(jù)保護功能等，這些日常行為都有可能將詐騙攔截在外,。

貝葉思咨詢研究員周香君表示,，對整個社會來說，一是要全面普及AI詐騙的多種方式,，提高全民警覺心。二是要加強監(jiān)管,，不斷完善社會監(jiān)測監(jiān)督體系和相關法律法規(guī),。三是提高全民安全意識，保護個人信息,。

來源：中國銀行保險報