本報(bào)記者 蔣牧云 何莎莎 上海 北京報(bào)道

每個(gè)硬幣都有兩面。隨著AI技術(shù)在金融領(lǐng)域落地,，數(shù)據(jù)安全,、隱私保護(hù)等問(wèn)題也日益凸顯。

《中國(guó)經(jīng)營(yíng)報(bào)》記者了解到,，近期金融領(lǐng)域的AI詐騙數(shù)量上升趨勢(shì)明顯,。同時(shí)，由于違法證據(jù)收集難度較大,，導(dǎo)致部分AI詐騙躲避了法律制裁,。對(duì)此，不少金融企業(yè)也在不斷升級(jí)自身風(fēng)控體系,，并將包括大模型等AI技術(shù)應(yīng)用其中,。

值得思考的是，AI詐騙攻防戰(zhàn)背后,，引出了AI技術(shù)如何保持可控與可用之間平衡的問(wèn)題,。對(duì)此，多位業(yè)內(nèi)人士向記者表示,，金融行為中包含諸多行為細(xì)節(jié)與需求,、相關(guān)業(yè)務(wù)條款等，如何形成一個(gè)“法規(guī)-模型堤壩-用戶需求”之間的動(dòng)態(tài)平衡,，將是行業(yè)內(nèi)的永恒命題,。為此，需要企業(yè),、行業(yè),、政府、公眾等所有層面的共同努力,。

詐騙門檻降低

據(jù)了解,，目前AI詐騙的形式包括AI換臉、AI擬聲,、虛假驗(yàn)證,、網(wǎng)絡(luò)釣魚(yú),、身份竊取等。有技術(shù)人士告訴記者,，AI的加持導(dǎo)致詐騙變得更加隱蔽和智能化,。比如，通過(guò)AI更精準(zhǔn)地模擬用戶行為,，分析用戶數(shù)據(jù)以獲得關(guān)鍵信息,，并發(fā)起更復(fù)雜的欺騙活動(dòng)，這增加了金融機(jī)構(gòu)的風(fēng)險(xiǎn)識(shí)別和風(fēng)控難度,。

AI詐騙行為也在近期成為重點(diǎn)打擊的對(duì)象,。近日，公安部在北京召開(kāi)新聞發(fā)布會(huì),，通報(bào)全國(guó)公安機(jī)關(guān)打擊整治侵犯公民個(gè)人信息違法犯罪行為的舉措成效,。其中，針對(duì)“AI換臉”導(dǎo)致群眾被欺詐的問(wèn)題,，公安機(jī)關(guān)發(fā)起專項(xiàng)會(huì)戰(zhàn),，偵破相關(guān)案件79起，抓獲犯罪嫌疑人515名,。特別地,，針對(duì)裝修、貸款等騷擾電話的問(wèn)題,，公安機(jī)關(guān)聯(lián)合工商部門也開(kāi)展了專項(xiàng)整治,。

警方發(fā)布的一例較為典型的案例顯示，來(lái)自福建的郭先生是一家科技公司的法人代表,。2023年4月,，他的好友突然通過(guò)微信視頻聯(lián)系他，稱自己的朋友在外地競(jìng)標(biāo),，需要430萬(wàn)元保證金,，想借用郭先生公司的賬戶走賬?；趯?duì)好友的信任,，加上已經(jīng)視頻聊天“核實(shí)”了身份，郭先生在10分鐘內(nèi),，先后分兩筆把430萬(wàn)元轉(zhuǎn)到了對(duì)方的銀行賬戶上,。事后，郭先生撥打好友電話才得知被騙,，原來(lái)騙子通過(guò)AI換臉和擬聲技術(shù)，佯裝好友對(duì)其實(shí)施詐騙,。

那么,，AI換臉是否也能突破金融企業(yè)的風(fēng)控體系,？對(duì)此，某金融科技企業(yè)風(fēng)控人士告訴記者,，對(duì)于逼真的立體面部模型,，實(shí)際上是可以突破金融機(jī)構(gòu)面部識(shí)別這一關(guān)卡的。此前,，詐騙分子想要打造這樣的3D模型,，需要的圖片素材在300張～500張。如今,，只要10張甚至更少的不同角度圖片,，就可以生成較為真實(shí)的立體面部模型。該人士還補(bǔ)充道,，除了換臉之外,，擬聲也是AI詐騙常用的手段。通常,，詐騙分子會(huì)提前通過(guò)騷擾電話等獲取聲音素材,，隨后再合成相似的聲音，與臉部素材一起,，生成極為逼真的視頻,。

不過(guò)，金融機(jī)構(gòu)的防范體系有多個(gè)環(huán)節(jié),，除了臉部識(shí)別之外,，往往還會(huì)有資金異動(dòng)監(jiān)控、異地設(shè)備登錄提示等,。同時(shí),，應(yīng)對(duì)不斷增加的詐騙案例，金融科技企業(yè)也在不斷升級(jí)防范體系,，其中也應(yīng)用了包括大模型的最新AI技術(shù),。奇富科技相關(guān)負(fù)責(zé)人告訴記者，該公司通過(guò)獨(dú)有的“山?！卑踩珣B(tài)勢(shì)感知系統(tǒng),，能夠深入業(yè)務(wù)全流程環(huán)節(jié)，有效實(shí)現(xiàn)了風(fēng)險(xiǎn)篩查,、預(yù)警,、識(shí)別、分析,、決策,、處置全流程AI輔助監(jiān)控與響應(yīng)。依靠這類系統(tǒng)化技術(shù)建設(shè),，奇富科技對(duì)AI詐騙乃至整個(gè)電詐行為都有完整的防范體系,。

奇富科技消保工作半年報(bào)顯示,，其2023年上半年面向用戶AI反詐提醒3.3億次，反詐科普教育覆蓋1200萬(wàn)人次,；智能及人工反詐勸阻團(tuán)隊(duì)累計(jì)攔截勸阻潛在被騙者3.9萬(wàn)人,，保護(hù)用戶避免損失5.1億元；智能風(fēng)控反詐系統(tǒng)攔截涉賭人員超30萬(wàn)人,，攔截疑似涉賭資產(chǎn)約32億元,，電信詐騙財(cái)損同比下降50%。

信也科技相關(guān)負(fù)責(zé)人也告訴記者,，保障數(shù)據(jù)流通交易安全是AI反詐工作的重要基礎(chǔ),，公司針對(duì)金融反欺詐場(chǎng)景進(jìn)行了深入研究，成功研發(fā)了圖聯(lián)邦技術(shù)FateGraph,。FateGraph的推出,，不僅解決了圖數(shù)據(jù)在不同單位和機(jī)構(gòu)之間的孤島問(wèn)題，也擴(kuò)展了隱私計(jì)算的應(yīng)用范圍,。目前,，為進(jìn)一步推廣該技術(shù)，信也科技正持續(xù)加強(qiáng)研發(fā)創(chuàng)新投入,，控制通信成本,，在計(jì)算過(guò)程中實(shí)現(xiàn)對(duì)數(shù)據(jù)的保護(hù)，推動(dòng)隱私計(jì)算更廣泛的落地,。

根據(jù)公開(kāi)信息也可以看到,，近期包括騰訊云、度小滿,、京東等在內(nèi)的多家企業(yè)均將大模型技術(shù)應(yīng)用到了金融風(fēng)控,。比如，2023世界人工智能大會(huì)期間,，騰訊云宣布升級(jí)MaaS平臺(tái),，將行業(yè)大模型能力應(yīng)用到金融風(fēng)控。據(jù)悉,，采用行業(yè)大模型的金融風(fēng)控解決方案,，相比之前有了10倍的效率提升，整體反欺詐效果比傳統(tǒng)模式有20%左右的提升,。

尋求可用與可控的平衡

在業(yè)內(nèi)人士看來(lái),，AI詐騙頻發(fā)的背后，反映出面對(duì)AI等較新的技術(shù),，數(shù)據(jù)保護(hù)等行業(yè)規(guī)范還有待跟進(jìn),。對(duì)于金融科技企業(yè)而言，除了需要警惕自身信息泄漏、技術(shù)漏洞之外,，也對(duì)企業(yè)自身的合規(guī)管理提出了更高的要求,。

恒生電子AI技術(shù)專家向記者表示,，目前AI技術(shù)進(jìn)步飛快,，而原有的政策法規(guī)和倫理規(guī)范并不能快速跟上技術(shù)發(fā)展。在極具變化的科技和市場(chǎng)環(huán)境下,，AI技術(shù)公司和研究人員專注于技術(shù)本身和商業(yè)效益,，可能會(huì)在社會(huì)影響方面形成一定的忽視，因此更加需要對(duì)新技術(shù)制定相關(guān)監(jiān)管政策和法律法規(guī),。

近期,，相關(guān)的監(jiān)管辦法也在逐漸跟進(jìn)。國(guó)家網(wǎng)信辦出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》于今年1月10日正式施行,，主要針對(duì)深度合成服務(wù)者的義務(wù)進(jìn)行了規(guī)定,。其中要求，深度合成服務(wù)提供者提供智能對(duì)話,、合成人聲,、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能服務(wù)的,，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí),，避免公眾混淆或者誤認(rèn)。

在AIGC（生成式人工智能）方面，國(guó)家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，于8月15日起施行,。其中要求，生成式人工智能服務(wù)提供者開(kāi)展訓(xùn)練數(shù)據(jù)處理活動(dòng)時(shí),，要使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型,，涉及個(gè)人信息的,，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形等,。

那么,，金融科技企業(yè)在進(jìn)行AI技術(shù)應(yīng)用時(shí)，具體如何保護(hù)數(shù)據(jù)安全,？

恒生電子AI技術(shù)專家表示,，針對(duì)數(shù)據(jù)安全和隱私保護(hù)，恒生電子采取了一系列的措施來(lái)確保數(shù)據(jù)的脫敏,、合規(guī),、授權(quán)和追溯，包括：去除數(shù)據(jù)中所有敏感的個(gè)人以及機(jī)構(gòu)數(shù)據(jù),；對(duì)收集的所有數(shù)據(jù)進(jìn)行匿名化和加密處理,；制定嚴(yán)格的數(shù)據(jù)使用規(guī)范和訪問(wèn)控制，只允許授權(quán)人員在控制環(huán)境下使用數(shù)據(jù),；記錄所有操作行為保證數(shù)據(jù)來(lái)源可追溯,；與用戶簽訂數(shù)據(jù)保密協(xié)議，明確數(shù)據(jù)所有權(quán)和使用期限等,。同時(shí),，恒生電子還通過(guò)建立可靠的網(wǎng)絡(luò)安全系統(tǒng)、定期開(kāi)展安全評(píng)估等方式,，識(shí)別和消除數(shù)據(jù)安全隱患,。

奇富科技相關(guān)負(fù)責(zé)人也告訴記者，基于公司在金融科技領(lǐng)域的持續(xù)積累,，形成了金融安全的頂層系統(tǒng)性設(shè)計(jì)思路,。在設(shè)計(jì)金融行業(yè)專屬的大模型時(shí)，奇富科技充分考慮到了敏感數(shù)據(jù)收集和處理問(wèn)題,，如在不犧牲實(shí)用價(jià)值的同時(shí),，預(yù)先設(shè)置信息過(guò)濾壁壘和敏感數(shù)據(jù)圍欄，依照用戶需求判別行業(yè)特性后,，將用戶數(shù)據(jù)或敏感數(shù)據(jù)預(yù)先封裝阻隔,，只進(jìn)行單次處理，只針對(duì)脫敏部分完善訓(xùn)練,。與此同時(shí),，通過(guò)產(chǎn)品與規(guī)則設(shè)計(jì)，將金融行業(yè)政策規(guī)范文檔與條款產(chǎn)品化,，通過(guò)預(yù)處理,，讓大模型處于安全可控的籠子里。

不過(guò)，該負(fù)責(zé)人也指出,，從具體的合規(guī)操作來(lái)看,，將AIGC產(chǎn)品保持一個(gè)可控可用的平衡，將是一個(gè)長(zhǎng)久的命題,?！熬唧w來(lái)說(shuō)，人類自然語(yǔ)言,、AIGC技術(shù)的發(fā)展,、各個(gè)行業(yè)的法條規(guī)范三者之間有動(dòng)態(tài)的變化關(guān)系，人類自然語(yǔ)言變化與AIGC技術(shù)可能是正相關(guān)的,，二者相互促進(jìn)。而相關(guān)行業(yè)規(guī)范與法條則是必不可少的抑制力量,，以我們的經(jīng)驗(yàn)而言,，法條可以產(chǎn)品化、預(yù)設(shè)化加入到大模型訓(xùn)練,，相當(dāng)于為人腦預(yù)設(shè)類似于‘道德’的堤壩,。以金融行業(yè)來(lái)說(shuō)，金融行為中無(wú)數(shù)的行為細(xì)節(jié)與需求,，無(wú)數(shù)的相關(guān)業(yè)務(wù)條款,，如何將法條產(chǎn)品化、規(guī)則化預(yù)設(shè),，形成一個(gè)‘法規(guī)-模型堤壩-用戶需求’之間的動(dòng)態(tài)平衡,，將是行業(yè)內(nèi)的永恒命題?！痹撠?fù)責(zé)人談道,。

對(duì)此，恒生電子AI技術(shù)專家也表示,，要解決前述問(wèn)題,，還有諸多可以努力的方向。具體而言,，企業(yè)層面需要不斷優(yōu)化算法和技術(shù),，建立內(nèi)部安全審查制度，主動(dòng)接受外部監(jiān)管,，以規(guī)避人工智能可能帶來(lái)的數(shù)據(jù)安全與社會(huì)倫理問(wèn)題,；行業(yè)層面則需要建立AI指引規(guī)范，開(kāi)展行業(yè)認(rèn)證,，形成行業(yè)自律,；政府層面也有待加快出臺(tái)AI監(jiān)管法規(guī)和政策，推動(dòng)行業(yè)合規(guī)發(fā)展，鼓勵(lì)公眾監(jiān)督參與,，加強(qiáng)國(guó)際合作,。此外，公眾也需要逐步提高對(duì)AI的理解,，理性看待AI的進(jìn)步,。