本報(bào)記者 蔣牧云 何莎莎 上海 北京報(bào)道

每個(gè)硬幣都有兩面,。隨著AI技術(shù)在金融領(lǐng)域落地，數(shù)據(jù)安全,、隱私保護(hù)等問題也日益凸顯,。

《中國經(jīng)營報(bào)》記者了解到，近期金融領(lǐng)域的AI詐騙數(shù)量上升趨勢明顯,。同時(shí),，由于違法證據(jù)收集難度較大，導(dǎo)致部分AI詐騙躲避了法律制裁。對此,，不少金融企業(yè)也在不斷升級自身風(fēng)控體系,，并將包括大模型等AI技術(shù)應(yīng)用其中。

值得思考的是,，AI詐騙攻防戰(zhàn)背后,，引出了AI技術(shù)如何保持可控與可用之間平衡的問題。對此,，多位業(yè)內(nèi)人士向記者表示,，金融行為中包含諸多行為細(xì)節(jié)與需求、相關(guān)業(yè)務(wù)條款等,，如何形成一個(gè)“法規(guī)-模型堤壩-用戶需求”之間的動(dòng)態(tài)平衡,，將是行業(yè)內(nèi)的永恒命題。為此,，需要企業(yè),、行業(yè)、政府,、公眾等所有層面的共同努力,。

詐騙門檻降低

據(jù)了解，目前AI詐騙的形式包括AI換臉,、AI擬聲,、虛假驗(yàn)證、網(wǎng)絡(luò)釣魚,、身份竊取等,。有技術(shù)人士告訴記者，AI的加持導(dǎo)致詐騙變得更加隱蔽和智能化,。比如,，通過AI更精準(zhǔn)地模擬用戶行為，分析用戶數(shù)據(jù)以獲得關(guān)鍵信息,，并發(fā)起更復(fù)雜的欺騙活動(dòng),，這增加了金融機(jī)構(gòu)的風(fēng)險(xiǎn)識(shí)別和風(fēng)控難度。

AI詐騙行為也在近期成為重點(diǎn)打擊的對象,。近日,，公安部在北京召開新聞發(fā)布會(huì)，通報(bào)全國公安機(jī)關(guān)打擊整治侵犯公民個(gè)人信息違法犯罪行為的舉措成效,。其中,，針對“AI換臉”導(dǎo)致群眾被欺詐的問題，公安機(jī)關(guān)發(fā)起專項(xiàng)會(huì)戰(zhàn),，偵破相關(guān)案件79起,，抓獲犯罪嫌疑人515名,。特別地，針對裝修,、貸款等騷擾電話的問題,，公安機(jī)關(guān)聯(lián)合工商部門也開展了專項(xiàng)整治。

警方發(fā)布的一例較為典型的案例顯示,，來自福建的郭先生是一家科技公司的法人代表,。2023年4月，他的好友突然通過微信視頻聯(lián)系他,，稱自己的朋友在外地競標(biāo),，需要430萬元保證金，想借用郭先生公司的賬戶走賬,?；趯糜训男湃危由弦呀?jīng)視頻聊天“核實(shí)”了身份,，郭先生在10分鐘內(nèi),，先后分兩筆把430萬元轉(zhuǎn)到了對方的銀行賬戶上。事后,，郭先生撥打好友電話才得知被騙,，原來騙子通過AI換臉和擬聲技術(shù)，佯裝好友對其實(shí)施詐騙,。

那么,，AI換臉是否也能突破金融企業(yè)的風(fēng)控體系？對此,，某金融科技企業(yè)風(fēng)控人士告訴記者,，對于逼真的立體面部模型，實(shí)際上是可以突破金融機(jī)構(gòu)面部識(shí)別這一關(guān)卡的,。此前,，詐騙分子想要打造這樣的3D模型，需要的圖片素材在300張～500張,。如今,，只要10張甚至更少的不同角度圖片，就可以生成較為真實(shí)的立體面部模型,。該人士還補(bǔ)充道,，除了換臉之外，擬聲也是AI詐騙常用的手段,。通常,，詐騙分子會(huì)提前通過騷擾電話等獲取聲音素材，隨后再合成相似的聲音,，與臉部素材一起,，生成極為逼真的視頻。

不過,，金融機(jī)構(gòu)的防范體系有多個(gè)環(huán)節(jié),，除了臉部識(shí)別之外，往往還會(huì)有資金異動(dòng)監(jiān)控,、異地設(shè)備登錄提示等,。同時(shí)，應(yīng)對不斷增加的詐騙案例,，金融科技企業(yè)也在不斷升級防范體系,，其中也應(yīng)用了包括大模型的最新AI技術(shù)。奇富科技相關(guān)負(fù)責(zé)人告訴記者,，該公司通過獨(dú)有的“山?！卑踩珣B(tài)勢感知系統(tǒng)，能夠深入業(yè)務(wù)全流程環(huán)節(jié),，有效實(shí)現(xiàn)了風(fēng)險(xiǎn)篩查,、預(yù)警、識(shí)別,、分析,、決策,、處置全流程AI輔助監(jiān)控與響應(yīng),。依靠這類系統(tǒng)化技術(shù)建設(shè),，奇富科技對AI詐騙乃至整個(gè)電詐行為都有完整的防范體系。

奇富科技消保工作半年報(bào)顯示,，其2023年上半年面向用戶AI反詐提醒3.3億次,，反詐科普教育覆蓋1200萬人次；智能及人工反詐勸阻團(tuán)隊(duì)累計(jì)攔截勸阻潛在被騙者3.9萬人,，保護(hù)用戶避免損失5.1億元,；智能風(fēng)控反詐系統(tǒng)攔截涉賭人員超30萬人，攔截疑似涉賭資產(chǎn)約32億元,，電信詐騙財(cái)損同比下降50%,。

信也科技相關(guān)負(fù)責(zé)人也告訴記者，保障數(shù)據(jù)流通交易安全是AI反詐工作的重要基礎(chǔ),，公司針對金融反欺詐場景進(jìn)行了深入研究,，成功研發(fā)了圖聯(lián)邦技術(shù)FateGraph。FateGraph的推出,，不僅解決了圖數(shù)據(jù)在不同單位和機(jī)構(gòu)之間的孤島問題,，也擴(kuò)展了隱私計(jì)算的應(yīng)用范圍,。目前，為進(jìn)一步推廣該技術(shù),，信也科技正持續(xù)加強(qiáng)研發(fā)創(chuàng)新投入,，控制通信成本，在計(jì)算過程中實(shí)現(xiàn)對數(shù)據(jù)的保護(hù),，推動(dòng)隱私計(jì)算更廣泛的落地,。

根據(jù)公開信息也可以看到，近期包括騰訊云,、度小滿,、京東等在內(nèi)的多家企業(yè)均將大模型技術(shù)應(yīng)用到了金融風(fēng)控。比如,，2023世界人工智能大會(huì)期間,，騰訊云宣布升級MaaS平臺(tái)，將行業(yè)大模型能力應(yīng)用到金融風(fēng)控,。據(jù)悉,，采用行業(yè)大模型的金融風(fēng)控解決方案，相比之前有了10倍的效率提升,，整體反欺詐效果比傳統(tǒng)模式有20%左右的提升,。

尋求可用與可控的平衡

在業(yè)內(nèi)人士看來,，AI詐騙頻發(fā)的背后，反映出面對AI等較新的技術(shù),，數(shù)據(jù)保護(hù)等行業(yè)規(guī)范還有待跟進(jìn),。對于金融科技企業(yè)而言,，除了需要警惕自身信息泄漏、技術(shù)漏洞之外,，也對企業(yè)自身的合規(guī)管理提出了更高的要求,。

恒生電子AI技術(shù)專家向記者表示,，目前AI技術(shù)進(jìn)步飛快,，而原有的政策法規(guī)和倫理規(guī)范并不能快速跟上技術(shù)發(fā)展,。在極具變化的科技和市場環(huán)境下,，AI技術(shù)公司和研究人員專注于技術(shù)本身和商業(yè)效益，可能會(huì)在社會(huì)影響方面形成一定的忽視,，因此更加需要對新技術(shù)制定相關(guān)監(jiān)管政策和法律法規(guī)。

近期,，相關(guān)的監(jiān)管辦法也在逐漸跟進(jìn),。國家網(wǎng)信辦出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》于今年1月10日正式施行,，主要針對深度合成服務(wù)者的義務(wù)進(jìn)行了規(guī)定。其中要求,，深度合成服務(wù)提供者提供智能對話、合成人聲,、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能服務(wù)的,，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí),，避免公眾混淆或者誤認(rèn)。

在AIGC（生成式人工智能）方面，國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，于8月15日起施行,。其中要求,，生成式人工智能服務(wù)提供者開展訓(xùn)練數(shù)據(jù)處理活動(dòng)時(shí),，要使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,，涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形等,。

那么，金融科技企業(yè)在進(jìn)行AI技術(shù)應(yīng)用時(shí),，具體如何保護(hù)數(shù)據(jù)安全,？

恒生電子AI技術(shù)專家表示，針對數(shù)據(jù)安全和隱私保護(hù),，恒生電子采取了一系列的措施來確保數(shù)據(jù)的脫敏,、合規(guī)、授權(quán)和追溯,，包括：去除數(shù)據(jù)中所有敏感的個(gè)人以及機(jī)構(gòu)數(shù)據(jù),；對收集的所有數(shù)據(jù)進(jìn)行匿名化和加密處理；制定嚴(yán)格的數(shù)據(jù)使用規(guī)范和訪問控制,，只允許授權(quán)人員在控制環(huán)境下使用數(shù)據(jù),；記錄所有操作行為保證數(shù)據(jù)來源可追溯；與用戶簽訂數(shù)據(jù)保密協(xié)議,，明確數(shù)據(jù)所有權(quán)和使用期限等,。同時(shí)，恒生電子還通過建立可靠的網(wǎng)絡(luò)安全系統(tǒng),、定期開展安全評估等方式,，識(shí)別和消除數(shù)據(jù)安全隱患。

奇富科技相關(guān)負(fù)責(zé)人也告訴記者,，基于公司在金融科技領(lǐng)域的持續(xù)積累,，形成了金融安全的頂層系統(tǒng)性設(shè)計(jì)思路。在設(shè)計(jì)金融行業(yè)專屬的大模型時(shí),，奇富科技充分考慮到了敏感數(shù)據(jù)收集和處理問題,，如在不犧牲實(shí)用價(jià)值的同時(shí)，預(yù)先設(shè)置信息過濾壁壘和敏感數(shù)據(jù)圍欄,，依照用戶需求判別行業(yè)特性后,，將用戶數(shù)據(jù)或敏感數(shù)據(jù)預(yù)先封裝阻隔,，只進(jìn)行單次處理，只針對脫敏部分完善訓(xùn)練,。與此同時(shí),，通過產(chǎn)品與規(guī)則設(shè)計(jì)，將金融行業(yè)政策規(guī)范文檔與條款產(chǎn)品化,，通過預(yù)處理,，讓大模型處于安全可控的籠子里。

不過,，該負(fù)責(zé)人也指出,，從具體的合規(guī)操作來看，將AIGC產(chǎn)品保持一個(gè)可控可用的平衡,，將是一個(gè)長久的命題,。“具體來說,，人類自然語言,、AIGC技術(shù)的發(fā)展、各個(gè)行業(yè)的法條規(guī)范三者之間有動(dòng)態(tài)的變化關(guān)系,，人類自然語言變化與AIGC技術(shù)可能是正相關(guān)的,，二者相互促進(jìn)。而相關(guān)行業(yè)規(guī)范與法條則是必不可少的抑制力量,，以我們的經(jīng)驗(yàn)而言，法條可以產(chǎn)品化,、預(yù)設(shè)化加入到大模型訓(xùn)練,，相當(dāng)于為人腦預(yù)設(shè)類似于‘道德’的堤壩。以金融行業(yè)來說,，金融行為中無數(shù)的行為細(xì)節(jié)與需求,，無數(shù)的相關(guān)業(yè)務(wù)條款，如何將法條產(chǎn)品化,、規(guī)則化預(yù)設(shè),，形成一個(gè)‘法規(guī)-模型堤壩-用戶需求’之間的動(dòng)態(tài)平衡，將是行業(yè)內(nèi)的永恒命題,?！痹撠?fù)責(zé)人談道。

對此,，恒生電子AI技術(shù)專家也表示,，要解決前述問題，還有諸多可以努力的方向,。具體而言,，企業(yè)層面需要不斷優(yōu)化算法和技術(shù),，建立內(nèi)部安全審查制度，主動(dòng)接受外部監(jiān)管,，以規(guī)避人工智能可能帶來的數(shù)據(jù)安全與社會(huì)倫理問題,；行業(yè)層面則需要建立AI指引規(guī)范，開展行業(yè)認(rèn)證,，形成行業(yè)自律,；政府層面也有待加快出臺(tái)AI監(jiān)管法規(guī)和政策，推動(dòng)行業(yè)合規(guī)發(fā)展,，鼓勵(lì)公眾監(jiān)督參與,，加強(qiáng)國際合作。此外,，公眾也需要逐步提高對AI的理解,，理性看待AI的進(jìn)步。