《科創(chuàng)板日報》4月11日訊（記者 張洋洋）中國支付清算協(xié)會的一則慎用倡議,，讓ChatGPT安全問題再起波瀾,。

10日下午,，中國支付清算協(xié)會向行業(yè)發(fā)出倡議，提醒從業(yè)人員謹慎使用ChatGPT等工具,，該協(xié)會認為，此類智能化工具已暴露出跨境數(shù)據(jù)泄露等風(fēng)險。

中國支付清算協(xié)會倡議,，支付行業(yè)從業(yè)人員要遵守所在地區(qū)的網(wǎng)絡(luò)使用規(guī)定,，正確認識ChatGPT等工具的機遇和風(fēng)險，全面評估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險,，依法合規(guī)使用ChatGPT等工具,。支付行業(yè)從業(yè)人員在使用ChatGPT等工具時，要嚴格遵守國家及行業(yè)相關(guān)法律法規(guī)要求,，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù),、本公司非公開的材料及數(shù)據(jù)、客戶資料,、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等,。

▍國內(nèi)首個行業(yè)慎用倡議

中國支付清算協(xié)會提倡行業(yè)慎用ChatGPT等工具，理由在于此類智能化工具已暴露出跨境數(shù)據(jù)泄露等風(fēng)險,。這是目前國內(nèi)第一個明確慎用ChatGPT等工具的行業(yè)機構(gòu),。

博通咨詢資深分析師王蓬博告訴《科創(chuàng)板日報》記者，ChatGPT是一個人工智能技術(shù)驅(qū)動的自然語言處理工具,，需要對數(shù)據(jù)庫不斷更新,，運行邏輯是通過大量的文本收集、數(shù)據(jù)訓(xùn)練回答客戶問題,，而金融從業(yè)者若想使用ChatGPT則需要添加內(nèi)容數(shù)據(jù)做訓(xùn)練,，需要經(jīng)過數(shù)據(jù)不斷填充才能進化，那就一定會存在金融數(shù)據(jù)隱私及安全問題,，即使用戶是無意識的行為,，也非常有可能造成個人信息和數(shù)據(jù)的泄露。

“金融行業(yè)是一個嚴監(jiān)管的行業(yè),，對于個人信息和相關(guān)的商業(yè)數(shù)據(jù)特別敏感,，更應(yīng)該注意這方面的問題。金融機構(gòu)要想使用類似的產(chǎn)品,，起碼先進行可控范圍的評估,，做好預(yù)防措施以后再進行應(yīng)用。預(yù)計在數(shù)據(jù)安全相關(guān)法律法規(guī)的政策框架范圍內(nèi),，未來是有可能出臺相關(guān)補充監(jiān)管政策的,。”王蓬博進一步說到,。

事實上,，近期以來，出于對信息泄露的擔憂,，多國對ChatGPT表達出了恐慌,、抵觸乃至禁止。

3月31日，因違反歐洲數(shù)據(jù)隱私法,，意大利就暫時禁止了ChatGPT,，同時對其隱私安全問題立案調(diào)查。該國監(jiān)管機構(gòu)指責開放人工智能忽視安裝防止未成年人使用服務(wù)和“非法收集個人數(shù)據(jù)”的功能。

意大利此舉引發(fā)了多國監(jiān)管機構(gòu)和企業(yè)的關(guān)注,，德國,、法國、愛爾蘭等國家已開始準備效仿意大利的做法,，加強對ChatGPT的監(jiān)管,。

近期，《科創(chuàng)板日報》記者從多名行業(yè)人士也了解到,，目前國內(nèi)相關(guān)部門以及行業(yè)內(nèi),，也正在觀察探索對于類ChatGPT工具的監(jiān)管。

▍到底是“天使”還是“惡魔”,？

事實上,，自ChatGPT等類似工具應(yīng)用以來，狂歡與擔憂就同時顯現(xiàn),。因為ChatGPT的“天性”也是天使與惡魔同在,，尤其是網(wǎng)絡(luò)世界的攻防博弈，更在一夜間智能升維,。

業(yè)界一方面欣喜于ChatGPT給網(wǎng)絡(luò)安全帶來福音,，比如可自動監(jiān)測惡意文本、找尋潛在惡意行為,、提升響應(yīng)速度等,，但從業(yè)者同時也在擔憂，ChatGPT給網(wǎng)絡(luò)攻擊者帶來了“生產(chǎn)力”升級，如快速生成釣魚郵件,、快速編寫定制化腳本和惡意文件等,，包括在信息泄露等方面的社會性風(fēng)險，會因為使用的龐大數(shù)據(jù)規(guī)模被進一步放大,。

此前意大利禁用ChatGPT的使用，起因就是發(fā)生在3月20日的聊天記錄“泄露門”事件,。

當時,，因開源數(shù)據(jù)庫發(fā)生錯誤，導(dǎo)致ChatGPT的一些用戶看到了另一些活躍用戶與ChatGPT的聊天記錄,、姓名,、電子郵箱，甚至還有付款地址,、信用卡后四位數(shù)等私密信息,。最初該問題僅波及到個別用戶，但是由于OpenAI在修補服務(wù)器時再度出現(xiàn)失誤,，導(dǎo)致問題進一步加劇,，受影響的用戶擴大至1.2%。

而類似的ChatGPT等工具,，從數(shù)據(jù)獲取,、匯聚、加工處理到運算結(jié)果輸出的全流程中各個環(huán)節(jié)都存在數(shù)據(jù)安全及法律風(fēng)險問題,，這些問題包括既包括原有互聯(lián)網(wǎng)及弱人工智能時代存在的數(shù)據(jù)隱私和安全,、版權(quán)保護等問題，也帶來強人工智能引發(fā)的社會倫理道德新風(fēng)險,，此前馬斯克等千人聯(lián)名呼吁暫停更高級大模型的開發(fā),，正是基于此原因。

上海人工智能研究院副總工程師沈灝告訴記者,，OpenAI的模型,，現(xiàn)已迭代到了第4代，GPT-4發(fā)展帶了更多的變化,，例如從大語言模型向多模態(tài)大模型轉(zhuǎn)變,、參數(shù)量進一步提高、迭代速度越來越塊,、涌現(xiàn)現(xiàn)象越發(fā)明顯,，無論從廣度、準度,、深度上來說,，都比之前有了明顯提高。同時帶了更多的不確定性和不可解釋性，特別是當參數(shù)量超過人腦神經(jīng)元數(shù)量后,，更多超出人類認知水平的能力將會更為突出,，而人類卻不能做出正確評判。

▍相關(guān)上市公司積極布局

時下,，人工智能發(fā)展再度行進至新一輪高潮期,，如何平衡技術(shù)發(fā)展和安全風(fēng)險之間的關(guān)系，成為擺在學(xué)界業(yè)界面前一個急迫的兩難問題,。微軟于近期迅速推出AI安全產(chǎn)品Security Copilot,，也是旨在平衡AI技術(shù)下的“矛”與“盾” 。

短期來看,，AI安全受到市場重點關(guān)注,。《科創(chuàng)板日報》記者注意到,，行業(yè)內(nèi)相關(guān)公司近期也陸續(xù)披露了在AI安全方面的布局,，但目前均無明確產(chǎn)品落地。

奇安信方面告訴《科創(chuàng)板日報》記者,，針對AI安全和治理,，公司正在訓(xùn)練專有的類ChatGPT安全大模型，并且在人才培養(yǎng)上進行了超前布局,，通過“人+機器”的配合來應(yīng)對未來的安全挑戰(zhàn),。公司積累了海量的安全知識和數(shù)據(jù)，正在基于ChatGPT相關(guān)技術(shù),，訓(xùn)練安全模型,，可以用于安全產(chǎn)品開發(fā)、威脅檢測,、漏洞挖掘等多個方面,。

美亞柏科在Wind平臺披露，公司在AI安全方面的布局主要包括兩個方面：第 一是針對利用人工智能違法的取證溯源,，布局相關(guān)取證技術(shù),，比如對人工智能合成、生成的視頻圖像內(nèi)容檢測鑒定,。接下來將對各類AIGC內(nèi)容的檢測,、AI生成文本的檢測技術(shù)及產(chǎn)品進行布局；第二是人工智能算法,、系統(tǒng)的安全性評估方面,， 遵循《數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等，布局人工智能產(chǎn)品安全合規(guī)的評測技術(shù),。

深信服在投資者互動平臺表示,，公司長期關(guān)注安全,、云計算和相關(guān)領(lǐng)域的前沿技術(shù)，后續(xù)將繼續(xù)積極探索各類前沿技術(shù)在網(wǎng)絡(luò)安全和云計算的應(yīng)用,，公司將結(jié)合自身能力儲備和下游客戶需求,，持續(xù)進行網(wǎng)絡(luò)安全、云計算和基礎(chǔ)網(wǎng)絡(luò)及物聯(lián)網(wǎng)等業(yè)務(wù)領(lǐng)域的技術(shù)創(chuàng)新。

天融信也在投資者互動平臺上表示,，目前公司進一步加大類ChatGPT的大模型技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的研究投入,，聚焦惡意樣本檢測與分析、攻擊行為發(fā)現(xiàn)與溯源,、安全情報推理與生成,、自動化漏洞挖掘與評估、智能化安全服務(wù)與運營等方向,。

東莞證券認為,，隨著微軟Security Copilot發(fā)布,，意味著AI在安全應(yīng)用的場景進一步深化，有望打開行業(yè)的想象空間,。隨著行業(yè)需求的恢復(fù),，以及費用控制效果的顯現(xiàn)，網(wǎng)絡(luò)安全行業(yè)的基本面拐點有望到來,。