圖說：中國電信、螞蟻,、華為,、百度等30余家機構(gòu)共同發(fā)起AI安全工作組 采訪對象提供

新民晚報訊（記者 金志剛）9月7日下午，在2023外灘大會舉行的《探索下一代安全智能》論壇上,，世界權(quán)威國際產(chǎn)業(yè)組織“云安全聯(lián)盟”（CSA）大中華區(qū)宣布成立“AI安全工作組”,，中國電信、螞蟻集團,、華為,、百度、火山引擎,、西安電子科技大學(xué),、國家金融測評中心等30余家機構(gòu)成為首批發(fā)起單位。該組織致力于共同解決AI技術(shù)快速發(fā)展所帶來的安全難題,。

與會的中國科學(xué)院院士何積豐表示：“以人工智能為代表的數(shù)字技術(shù)正邁入從高速增長向高質(zhì)量增長轉(zhuǎn)變的全新發(fā)展階段,，這對其自身安全性和可靠性提出更高要求，也衍生出新型風(fēng)險與挑戰(zhàn),。這類風(fēng)險更加復(fù)雜且隱蔽,，只有建設(shè)數(shù)字安全生態(tài)協(xié)作系統(tǒng)，政,、產(chǎn),、學(xué)、研各方緊密合作,，共同建設(shè)可信可控的數(shù)字安全屏障,。”

云安全聯(lián)盟大中華區(qū)AI安全工作組將由中國電信上海研究院,、螞蟻集團擔任聯(lián)席組長單位,，召集聯(lián)盟內(nèi)人工智能相關(guān)的產(chǎn)線上下游企業(yè),、學(xué)校,、研究機構(gòu)、用戶單位等共同研究人工智能安全前沿技術(shù),。

記者從現(xiàn)場獲悉,，AI安全工作組將聚焦人工智能突出的安全風(fēng)險問題，輸出人工智能內(nèi)生安全,、衍生安全,、助力安全等領(lǐng)域的白皮書、產(chǎn)業(yè)知識圖譜,、團體標準,、系統(tǒng)框架,、解決方案等,，為整個行業(yè)提供一個清晰、系統(tǒng)的AI安全研究框架,。根據(jù)計劃,，工作組先期將輸出《AI安全白皮書》《大模型安全研究報告》《AI數(shù)據(jù)安全評估規(guī)范》等研究成果。

CSA（云安全聯(lián)盟）創(chuàng)立于2009年,，是世界領(lǐng)先的權(quán)威國際產(chǎn)業(yè)組織,，共有成員單位1000余家。CSA致力于定義和提高業(yè)界對云計算和下一代數(shù)字技術(shù)安全最佳實踐的認識和全面發(fā)展,，憑借敏捷性,、中立性、專業(yè)性被各界認可,。CSA GCR（云安全聯(lián)盟大中華區(qū)）是CSA全球四大區(qū)之一（其他三大區(qū)分別為美洲區(qū),、亞太區(qū)、歐非區(qū)）,，立足于中國,，作為國際橋梁連接世界，致力于構(gòu)建國際數(shù)字安全的生態(tài)體系,。此次AI安全工作組的成立,，也將發(fā)揮國際橋梁作用，使我國AI安全研究成果在全球范圍內(nèi)產(chǎn)生影響,。

從安全角度看,，AI技術(shù)是把“雙刃劍”。它既會對數(shù)據(jù)、業(yè)務(wù)和系統(tǒng)等層面構(gòu)成威脅,，也能為安全科技發(fā)展賦能,。論壇與會嘉賓表達了一致的觀點，并提出了建設(shè)性意見,。

中國網(wǎng)絡(luò)空間安全協(xié)會副秘書長徐倩華表示：“發(fā)展的前提是安全,。這需要各行各業(yè)形成筑牢安全防護屏障的共識，注重培養(yǎng)頂尖安全技術(shù)人才,，貫徹落實相關(guān)法律法規(guī),，共同提升數(shù)字安全防護能力，確保數(shù)字經(jīng)濟健康可持續(xù)發(fā)展,?！?/p>

云安全聯(lián)盟大中華區(qū)主席李雨航院士也表示：“發(fā)展與安全是數(shù)字經(jīng)濟前進的雙輪。人工智能技術(shù)的研發(fā)既不能因噎廢食,，也不能坐視安全不顧,。優(yōu)秀的中國AI方案應(yīng)該成為全球的樣板?！?/p>

中國電信研究院副院長,、云網(wǎng)基礎(chǔ)設(shè)施安全國家工程研究中心常務(wù)副主任李安民表示，面對日益復(fù)雜的云網(wǎng)安全威脅,，積極探索AI安全,、Web3框架下的安全技術(shù)及其創(chuàng)新應(yīng)用，才能有利于數(shù)據(jù)隱私,、交易可信和網(wǎng)絡(luò)穩(wěn)定,。

金融是現(xiàn)代經(jīng)濟的核心，金融領(lǐng)域的科技創(chuàng)新與安全愈發(fā)重要,。國家金融與發(fā)展實驗室副主任楊濤表示：“讓金融更安全地擁抱科技,，一方面要解決科技企業(yè)與金融機構(gòu)建立‘各司其職、風(fēng)險自擔’的合作邊界問題,，另一方面完善金融科技生態(tài)與夯實基礎(chǔ)要素,。”

中國民生銀行首席信息官張斌認為：“當前開放銀行,、智慧銀行,、場景金融等數(shù)字金融服務(wù)迅猛發(fā)展，金融機構(gòu)應(yīng)盡快建立與之配套的數(shù)字安全防御體系,，驅(qū)動金融業(yè)務(wù)更好,、更快、更穩(wěn)健發(fā)展,?！?/p>

作為互聯(lián)網(wǎng)科技企業(yè),，螞蟻集團機器智能部總經(jīng)理、螞蟻安全實驗室首席科學(xué)家王維強介紹,，針對生成式大模型安全問題,，螞蟻集團基于近10年可信AI沉淀，逐步構(gòu)建“大模型安全檢測與防御”的一體化解決方案,，以保障大模型在生產(chǎn)和使用過程中更加安全,、可控、可靠,。目前已發(fā)布“蟻鑒”AI安全檢測平臺,。同時螞蟻集團基于安全基座模型能力，持續(xù)升級全方位全鏈路的智能風(fēng)控防御體系,，與生態(tài)伙伴們一起解決新AI時代的安全科技難題,。

據(jù)了解，本次論壇由中國網(wǎng)絡(luò)空間安全協(xié)會指導(dǎo)，金融科技50人論壇、螞蟻集團聯(lián)合主辦,，多位重磅嘉賓參會探討數(shù)實融合發(fā)展中的新型風(fēng)險與挑戰(zhàn)，分享時代脈搏下的關(guān)鍵技術(shù)趨勢和安全科技實踐成果,。