□記者 于晗

隨著AI技術(shù)迅猛發(fā)展,，電信詐騙手段也逐漸科技化，一些詐騙團(tuán)伙用上了“AI換臉”技術(shù),。近日,，內(nèi)蒙古包頭警方公布一起利用AI實(shí)施電信詐騙的典型案例，引起公眾對(duì)AI安全的廣泛熱議,。作為反詐重點(diǎn)領(lǐng)域,，銀行業(yè)無疑也將遭遇新考驗(yàn)：當(dāng)AI詐騙手段日漸豐富，各類案件層出不窮,，該如何防范,？

“AI換臉”引發(fā)詐騙案

近期,，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)文提示稱，當(dāng)前利用“AI換臉”“AI換聲”等虛假音視頻,，進(jìn)行詐騙,、誹謗的違法行為屢見不鮮，提醒公眾警惕“AI換臉”新騙局,。其中,，特別提到近期包頭市公安局發(fā)布的一起使用智能AI技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙的案件。

在該案件中,，福州某科技公司的法人代表郭先生基于對(duì)好友的信任,，加上已經(jīng)視頻聊天“核實(shí)”了身份，為“好友”提供了430萬元的“過賬資金”,。事后,，郭先生撥打好友電話才得知被騙，原來騙子通過“AI換臉”和擬聲技術(shù),，佯裝好友對(duì)其實(shí)施詐騙,。

“當(dāng)時(shí)是給我打了視頻的,，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備,?！惫壬f。幸運(yùn)的是,，在包頭警方的介入下,，336.84萬元被騙資金已經(jīng)被警方攔截。但案件公布后,，仍引起外界對(duì)于AI安全的廣泛討論和擔(dān)憂,。

一位AI從業(yè)人士介紹，由于深度合成技術(shù)的開放開源,、深度合成產(chǎn)品和服務(wù)的增多,，深度合成內(nèi)容制作的技術(shù)門檻越來越低。技術(shù)的“平民化”,，使得利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙,、勒索、誣陷,、誹謗等違法行為和事例出現(xiàn),。

AI詐騙案件增多，作為資金交易和轉(zhuǎn)賬的關(guān)鍵環(huán)節(jié),，銀行業(yè)無疑將承擔(dān)起更加艱巨的反詐壓力,。如何更有效地防范風(fēng)險(xiǎn)，成為銀行機(jī)構(gòu)需要面對(duì)的問題,。

企業(yè)信息使用合規(guī)是關(guān)鍵

“目前,，在典型的‘AI換臉’詐騙行為中，詐騙者往往會(huì)通過非法途徑獲取大量的高清人臉信息,，然后利用AI技術(shù)軟件分析臉部特征,、實(shí)施換臉行為，再通過合成的視頻或照片偽造成他人實(shí)施詐騙,。因此,，人臉信息的收集使用合規(guī)性，以及人臉合成技術(shù)的合規(guī)管理等需要引起重視,?！盩alkingData法務(wù)總監(jiān)兼數(shù)據(jù)合規(guī)官葛夢(mèng)瑩說。

去年12月,，國(guó)家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)人臉生成,、替換、操控,，合成人聲,、仿聲等深度合成技術(shù)提出明確約束。近日,，國(guó)務(wù)院辦公廳印發(fā)的《國(guó)務(wù)院2023年度立法工作計(jì)劃》顯示,，人工智能法草案等預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議?？梢?，在法律規(guī)制方面，我國(guó)已對(duì)AI的快速發(fā)展及相關(guān)風(fēng)險(xiǎn)給予重視,。

葛夢(mèng)瑩認(rèn)為,，如果企業(yè)（包括銀行）涉及人臉信息處理行為，需要嚴(yán)格遵循最小必要原則來處理人臉信息,，要特別關(guān)注人臉信息的全生命周期合規(guī)性,，保證合規(guī)收集使用，禁止違法向第三方提供人臉信息,，并應(yīng)采取措施保護(hù)人臉信息的安全,，防止信息泄露等安全事件的發(fā)生，使得詐騙者無法從此類企業(yè)處違規(guī)獲取人臉信息,。

如果企業(yè)（包括銀行）提供人臉合成技術(shù)服務(wù),，則需要建立健全用戶注冊(cè)機(jī)制，便于進(jìn)行個(gè)體追溯問責(zé),；落實(shí)生成內(nèi)容顯著標(biāo)識(shí)義務(wù),，盡到提醒告知義務(wù)；通過發(fā)布管理規(guī)則,、平臺(tái)公約,、服務(wù)協(xié)議等形式告知使用者不得利用人臉合成技術(shù)來實(shí)施詐騙等犯罪行為，并建立反電信網(wǎng)絡(luò)詐騙,、投訴舉報(bào),、安全評(píng)估、監(jiān)測(cè)鑒真,、應(yīng)急處置等制度來防范違法濫用人臉合成技術(shù)的行為,，使詐騙者難以使用合成技術(shù)實(shí)施犯罪行為。

個(gè)人應(yīng)加強(qiáng)信息安全保護(hù)

風(fēng)險(xiǎn)不可避免,，對(duì)于相關(guān)平臺(tái)和個(gè)人而言,，又該如何利用“魔法”打敗“魔法”？

《中國(guó)銀行保險(xiǎn)報(bào)》記者注意到，目前,，針對(duì)AI詐騙,，不少金融機(jī)構(gòu)已采取了一定的防范舉措與技術(shù)應(yīng)用。比如,，活體防偽,、中介識(shí)別等技術(shù)在金融業(yè)務(wù)場(chǎng)景中得以落地。

“活體防偽,、中介識(shí)別等技術(shù)的核心功能便是能夠避免人臉識(shí)別的自身缺陷,，有效識(shí)別照片、視頻,、面具,、仿真模型等，特別是上述案件中出現(xiàn)的換臉,、變聲欺詐行為,。”馬上消費(fèi)人工智能研究院智能核身專家馮月表示，基于此類技術(shù)創(chuàng)新,，目前能夠做到將99%的批量欺詐攻擊攔截在外,，有效防范偽造信息、偽冒申請(qǐng),、電信詐騙等風(fēng)險(xiǎn),。

“相較于處于整體環(huán)節(jié)末端的金融機(jī)構(gòu)，再更前一步,，社交平臺(tái)亦有義務(wù)引入鑒偽機(jī)制,，并實(shí)時(shí)對(duì)用戶進(jìn)行通話鑒真提醒，標(biāo)記用戶是否有行為異常、圖像偽造異常,、聲音偽造異常,。更早的風(fēng)險(xiǎn)提示信息，可以更有效地阻隔風(fēng)險(xiǎn)結(jié)果的發(fā)生,?！瘪T月表示。

值得注意的是,，近期，某社交媒體平臺(tái)便發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”,，明確禁止利用生成式人工智能技術(shù)創(chuàng)作,、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán),、知識(shí)產(chǎn)權(quán)等,，一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)厲處罰,。

而作為反詐的核心主體,，社會(huì)公眾也有必要建立起相應(yīng)的認(rèn)知和防護(hù)能力，加強(qiáng)對(duì)個(gè)人物品,、信息安全保護(hù),。

“對(duì)于個(gè)人而言，不能隨便點(diǎn)擊不明的短信鏈接,、郵件鏈接等,，不隨意掃描不明來源二維碼、下載APP,，不輕易提供人臉等個(gè)人生物信息給他人,，不輕易透露自己的身份信息，不過度公開或分享動(dòng)圖,、視頻等,。”馮月建議,，個(gè)人可以定期清理微信聊天記錄,，隱藏具有親近關(guān)系的人的相關(guān)痕跡，將手機(jī)相冊(cè)加密或者啟動(dòng)手機(jī)數(shù)據(jù)保護(hù)功能等,，這些日常行為都有可能將詐騙攔截在外,。

貝葉思咨詢研究員周香君表示，對(duì)整個(gè)社會(huì)來說,，一是要全面普及AI詐騙的多種方式,，提高全民警覺心。二是要加強(qiáng)監(jiān)管，不斷完善社會(huì)監(jiān)測(cè)監(jiān)督體系和相關(guān)法律法規(guī),。三是提高全民安全意識(shí),，保護(hù)個(gè)人信息。

來源：中國(guó)銀行保險(xiǎn)報(bào)