本報記者 蔣牧云 何莎莎 上海 北京報道

每個硬幣都有兩面,。隨著AI技術在金融領域落地,，數(shù)據(jù)安全,、隱私保護等問題也日益凸顯。

《中國經(jīng)營報》記者了解到,，近期金融領域的AI詐騙數(shù)量上升趨勢明顯。同時,，由于違法證據(jù)收集難度較大,，導致部分AI詐騙躲避了法律制裁。對此,，不少金融企業(yè)也在不斷升級自身風控體系,，并將包括大模型等AI技術應用其中。

值得思考的是,，AI詐騙攻防戰(zhàn)背后,，引出了AI技術如何保持可控與可用之間平衡的問題。對此，多位業(yè)內(nèi)人士向記者表示,，金融行為中包含諸多行為細節(jié)與需求,、相關業(yè)務條款等，如何形成一個“法規(guī)-模型堤壩-用戶需求”之間的動態(tài)平衡,，將是行業(yè)內(nèi)的永恒命題,。為此，需要企業(yè),、行業(yè),、政府、公眾等所有層面的共同努力,。

詐騙門檻降低

據(jù)了解,，目前AI詐騙的形式包括AI換臉、AI擬聲,、虛假驗證,、網(wǎng)絡釣魚、身份竊取等,。有技術人士告訴記者,，AI的加持導致詐騙變得更加隱蔽和智能化。比如,，通過AI更精準地模擬用戶行為,，分析用戶數(shù)據(jù)以獲得關鍵信息，并發(fā)起更復雜的欺騙活動,，這增加了金融機構的風險識別和風控難度,。

AI詐騙行為也在近期成為重點打擊的對象。近日,，公安部在北京召開新聞發(fā)布會,，通報全國公安機關打擊整治侵犯公民個人信息違法犯罪行為的舉措成效。其中,，針對“AI換臉”導致群眾被欺詐的問題,，公安機關發(fā)起專項會戰(zhàn)，偵破相關案件79起,，抓獲犯罪嫌疑人515名,。特別地，針對裝修,、貸款等騷擾電話的問題,，公安機關聯(lián)合工商部門也開展了專項整治。

警方發(fā)布的一例較為典型的案例顯示,，來自福建的郭先生是一家科技公司的法人代表,。2023年4月，他的好友突然通過微信視頻聯(lián)系他，稱自己的朋友在外地競標,，需要430萬元保證金,，想借用郭先生公司的賬戶走賬?；趯糜训男湃?，加上已經(jīng)視頻聊天“核實”了身份，郭先生在10分鐘內(nèi),，先后分兩筆把430萬元轉到了對方的銀行賬戶上,。事后，郭先生撥打好友電話才得知被騙,，原來騙子通過AI換臉和擬聲技術,，佯裝好友對其實施詐騙。

那么,，AI換臉是否也能突破金融企業(yè)的風控體系,？對此，某金融科技企業(yè)風控人士告訴記者,，對于逼真的立體面部模型,，實際上是可以突破金融機構面部識別這一關卡的。此前,，詐騙分子想要打造這樣的3D模型,，需要的圖片素材在300張～500張。如今,，只要10張甚至更少的不同角度圖片，就可以生成較為真實的立體面部模型,。該人士還補充道,，除了換臉之外，擬聲也是AI詐騙常用的手段,。通常,，詐騙分子會提前通過騷擾電話等獲取聲音素材，隨后再合成相似的聲音,，與臉部素材一起,，生成極為逼真的視頻。

不過,，金融機構的防范體系有多個環(huán)節(jié),，除了臉部識別之外，往往還會有資金異動監(jiān)控,、異地設備登錄提示等,。同時，應對不斷增加的詐騙案例，金融科技企業(yè)也在不斷升級防范體系,，其中也應用了包括大模型的最新AI技術,。奇富科技相關負責人告訴記者，該公司通過獨有的“山?！卑踩珣B(tài)勢感知系統(tǒng),，能夠深入業(yè)務全流程環(huán)節(jié)，有效實現(xiàn)了風險篩查,、預警,、識別、分析,、決策,、處置全流程AI輔助監(jiān)控與響應。依靠這類系統(tǒng)化技術建設,，奇富科技對AI詐騙乃至整個電詐行為都有完整的防范體系,。

奇富科技消保工作半年報顯示，其2023年上半年面向用戶AI反詐提醒3.3億次,，反詐科普教育覆蓋1200萬人次,；智能及人工反詐勸阻團隊累計攔截勸阻潛在被騙者3.9萬人，保護用戶避免損失5.1億元,；智能風控反詐系統(tǒng)攔截涉賭人員超30萬人,，攔截疑似涉賭資產(chǎn)約32億元，電信詐騙財損同比下降50%,。

信也科技相關負責人也告訴記者,，保障數(shù)據(jù)流通交易安全是AI反詐工作的重要基礎，公司針對金融反欺詐場景進行了深入研究,，成功研發(fā)了圖聯(lián)邦技術FateGraph,。FateGraph的推出，不僅解決了圖數(shù)據(jù)在不同單位和機構之間的孤島問題,，也擴展了隱私計算的應用范圍,。目前，為進一步推廣該技術,，信也科技正持續(xù)加強研發(fā)創(chuàng)新投入,，控制通信成本，在計算過程中實現(xiàn)對數(shù)據(jù)的保護,，推動隱私計算更廣泛的落地,。

根據(jù)公開信息也可以看到，近期包括騰訊云,、度小滿,、京東等在內(nèi)的多家企業(yè)均將大模型技術應用到了金融風控,。比如，2023世界人工智能大會期間,，騰訊云宣布升級MaaS平臺,，將行業(yè)大模型能力應用到金融風控。據(jù)悉,，采用行業(yè)大模型的金融風控解決方案,，相比之前有了10倍的效率提升，整體反欺詐效果比傳統(tǒng)模式有20%左右的提升,。

尋求可用與可控的平衡

在業(yè)內(nèi)人士看來,，AI詐騙頻發(fā)的背后，反映出面對AI等較新的技術,，數(shù)據(jù)保護等行業(yè)規(guī)范還有待跟進,。對于金融科技企業(yè)而言，除了需要警惕自身信息泄漏,、技術漏洞之外,，也對企業(yè)自身的合規(guī)管理提出了更高的要求。

恒生電子AI技術專家向記者表示,，目前AI技術進步飛快,，而原有的政策法規(guī)和倫理規(guī)范并不能快速跟上技術發(fā)展。在極具變化的科技和市場環(huán)境下,，AI技術公司和研究人員專注于技術本身和商業(yè)效益,，可能會在社會影響方面形成一定的忽視，因此更加需要對新技術制定相關監(jiān)管政策和法律法規(guī),。

近期,，相關的監(jiān)管辦法也在逐漸跟進。國家網(wǎng)信辦出臺的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》于今年1月10日正式施行,，主要針對深度合成服務者的義務進行了規(guī)定,。其中要求，深度合成服務提供者提供智能對話,、合成人聲,、人臉生成,、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能服務的,，應當進行顯著標識，避免公眾混淆或者誤認,。

在AIGC（生成式人工智能）方面，國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務管理暫行辦法》,，于8月15日起施行,。其中要求，生成式人工智能服務提供者開展訓練數(shù)據(jù)處理活動時,，要使用具有合法來源的數(shù)據(jù)和基礎模型,，涉及個人信息的，應當取得個人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形等,。

那么，金融科技企業(yè)在進行AI技術應用時,，具體如何保護數(shù)據(jù)安全,？

恒生電子AI技術專家表示，針對數(shù)據(jù)安全和隱私保護,，恒生電子采取了一系列的措施來確保數(shù)據(jù)的脫敏,、合規(guī)、授權和追溯,，包括：去除數(shù)據(jù)中所有敏感的個人以及機構數(shù)據(jù),；對收集的所有數(shù)據(jù)進行匿名化和加密處理；制定嚴格的數(shù)據(jù)使用規(guī)范和訪問控制,，只允許授權人員在控制環(huán)境下使用數(shù)據(jù),；記錄所有操作行為保證數(shù)據(jù)來源可追溯；與用戶簽訂數(shù)據(jù)保密協(xié)議,，明確數(shù)據(jù)所有權和使用期限等,。同時，恒生電子還通過建立可靠的網(wǎng)絡安全系統(tǒng),、定期開展安全評估等方式,，識別和消除數(shù)據(jù)安全隱患。

奇富科技相關負責人也告訴記者,，基于公司在金融科技領域的持續(xù)積累,，形成了金融安全的頂層系統(tǒng)性設計思路,。在設計金融行業(yè)專屬的大模型時，奇富科技充分考慮到了敏感數(shù)據(jù)收集和處理問題,，如在不犧牲實用價值的同時,，預先設置信息過濾壁壘和敏感數(shù)據(jù)圍欄，依照用戶需求判別行業(yè)特性后,，將用戶數(shù)據(jù)或敏感數(shù)據(jù)預先封裝阻隔,，只進行單次處理，只針對脫敏部分完善訓練,。與此同時,，通過產(chǎn)品與規(guī)則設計，將金融行業(yè)政策規(guī)范文檔與條款產(chǎn)品化,，通過預處理,，讓大模型處于安全可控的籠子里。

不過,，該負責人也指出,，從具體的合規(guī)操作來看，將AIGC產(chǎn)品保持一個可控可用的平衡,，將是一個長久的命題,。“具體來說,，人類自然語言,、AIGC技術的發(fā)展、各個行業(yè)的法條規(guī)范三者之間有動態(tài)的變化關系,，人類自然語言變化與AIGC技術可能是正相關的,，二者相互促進。而相關行業(yè)規(guī)范與法條則是必不可少的抑制力量,，以我們的經(jīng)驗而言,，法條可以產(chǎn)品化、預設化加入到大模型訓練,，相當于為人腦預設類似于‘道德’的堤壩,。以金融行業(yè)來說，金融行為中無數(shù)的行為細節(jié)與需求,，無數(shù)的相關業(yè)務條款,，如何將法條產(chǎn)品化、規(guī)則化預設,，形成一個‘法規(guī)-模型堤壩-用戶需求’之間的動態(tài)平衡,，將是行業(yè)內(nèi)的永恒命題,?！痹撠撠熑苏劦?。

對此，恒生電子AI技術專家也表示,，要解決前述問題,，還有諸多可以努力的方向。具體而言,，企業(yè)層面需要不斷優(yōu)化算法和技術,，建立內(nèi)部安全審查制度，主動接受外部監(jiān)管,，以規(guī)避人工智能可能帶來的數(shù)據(jù)安全與社會倫理問題,；行業(yè)層面則需要建立AI指引規(guī)范，開展行業(yè)認證,，形成行業(yè)自律,；政府層面也有待加快出臺AI監(jiān)管法規(guī)和政策，推動行業(yè)合規(guī)發(fā)展,，鼓勵公眾監(jiān)督參與,，加強國際合作。此外,，公眾也需要逐步提高對AI的理解,，理性看待AI的進步。