圖說：中國電信,、螞蟻,、華為,、百度等30余家機(jī)構(gòu)共同發(fā)起AI安全工作組 采訪對象提供

新民晚報(bào)訊（記者 金志剛）9月7日下午，在2023外灘大會舉行的《探索下一代安全智能》論壇上,，世界權(quán)威國際產(chǎn)業(yè)組織“云安全聯(lián)盟”（CSA）大中華區(qū)宣布成立“AI安全工作組”，中國電信,、螞蟻集團(tuán),、華為、百度,、火山引擎,、西安電子科技大學(xué)、國家金融測評中心等30余家機(jī)構(gòu)成為首批發(fā)起單位,。該組織致力于共同解決AI技術(shù)快速發(fā)展所帶來的安全難題,。

與會的中國科學(xué)院院士何積豐表示：“以人工智能為代表的數(shù)字技術(shù)正邁入從高速增長向高質(zhì)量增長轉(zhuǎn)變的全新發(fā)展階段，這對其自身安全性和可靠性提出更高要求,，也衍生出新型風(fēng)險(xiǎn)與挑戰(zhàn),。這類風(fēng)險(xiǎn)更加復(fù)雜且隱蔽，只有建設(shè)數(shù)字安全生態(tài)協(xié)作系統(tǒng),，政,、產(chǎn)、學(xué),、研各方緊密合作,，共同建設(shè)可信可控的數(shù)字安全屏障?！?/p>

云安全聯(lián)盟大中華區(qū)AI安全工作組將由中國電信上海研究院,、螞蟻集團(tuán)擔(dān)任聯(lián)席組長單位，召集聯(lián)盟內(nèi)人工智能相關(guān)的產(chǎn)線上下游企業(yè)、學(xué)校,、研究機(jī)構(gòu),、用戶單位等共同研究人工智能安全前沿技術(shù)。

記者從現(xiàn)場獲悉,，AI安全工作組將聚焦人工智能突出的安全風(fēng)險(xiǎn)問題,，輸出人工智能內(nèi)生安全、衍生安全,、助力安全等領(lǐng)域的白皮書,、產(chǎn)業(yè)知識圖譜、團(tuán)體標(biāo)準(zhǔn),、系統(tǒng)框架,、解決方案等，為整個行業(yè)提供一個清晰,、系統(tǒng)的AI安全研究框架,。根據(jù)計(jì)劃，工作組先期將輸出《AI安全白皮書》《大模型安全研究報(bào)告》《AI數(shù)據(jù)安全評估規(guī)范》等研究成果,。

CSA（云安全聯(lián)盟）創(chuàng)立于2009年,，是世界領(lǐng)先的權(quán)威國際產(chǎn)業(yè)組織，共有成員單位1000余家,。CSA致力于定義和提高業(yè)界對云計(jì)算和下一代數(shù)字技術(shù)安全最佳實(shí)踐的認(rèn)識和全面發(fā)展,，憑借敏捷性、中立性,、專業(yè)性被各界認(rèn)可,。CSA GCR（云安全聯(lián)盟大中華區(qū)）是CSA全球四大區(qū)之一（其他三大區(qū)分別為美洲區(qū)、亞太區(qū),、歐非區(qū)）,，立足于中國，作為國際橋梁連接世界,，致力于構(gòu)建國際數(shù)字安全的生態(tài)體系,。此次AI安全工作組的成立，也將發(fā)揮國際橋梁作用,，使我國AI安全研究成果在全球范圍內(nèi)產(chǎn)生影響,。

從安全角度看，AI技術(shù)是把“雙刃劍”,。它既會對數(shù)據(jù),、業(yè)務(wù)和系統(tǒng)等層面構(gòu)成威脅，也能為安全科技發(fā)展賦能,。論壇與會嘉賓表達(dá)了一致的觀點(diǎn),，并提出了建設(shè)性意見,。

中國網(wǎng)絡(luò)空間安全協(xié)會副秘書長徐倩華表示：“發(fā)展的前提是安全。這需要各行各業(yè)形成筑牢安全防護(hù)屏障的共識,，注重培養(yǎng)頂尖安全技術(shù)人才,，貫徹落實(shí)相關(guān)法律法規(guī)，共同提升數(shù)字安全防護(hù)能力,，確保數(shù)字經(jīng)濟(jì)健康可持續(xù)發(fā)展,。”

云安全聯(lián)盟大中華區(qū)主席李雨航院士也表示：“發(fā)展與安全是數(shù)字經(jīng)濟(jì)前進(jìn)的雙輪,。人工智能技術(shù)的研發(fā)既不能因噎廢食,，也不能坐視安全不顧。優(yōu)秀的中國AI方案應(yīng)該成為全球的樣板,?！?/p>

中國電信研究院副院長、云網(wǎng)基礎(chǔ)設(shè)施安全國家工程研究中心常務(wù)副主任李安民表示,，面對日益復(fù)雜的云網(wǎng)安全威脅,，積極探索AI安全、Web3框架下的安全技術(shù)及其創(chuàng)新應(yīng)用,，才能有利于數(shù)據(jù)隱私,、交易可信和網(wǎng)絡(luò)穩(wěn)定。

金融是現(xiàn)代經(jīng)濟(jì)的核心,，金融領(lǐng)域的科技創(chuàng)新與安全愈發(fā)重要,。國家金融與發(fā)展實(shí)驗(yàn)室副主任楊濤表示：“讓金融更安全地?fù)肀Э萍迹环矫嬉鉀Q科技企業(yè)與金融機(jī)構(gòu)建立‘各司其職,、風(fēng)險(xiǎn)自擔(dān)’的合作邊界問題,，另一方面完善金融科技生態(tài)與夯實(shí)基礎(chǔ)要素?！?/p>

中國民生銀行首席信息官張斌認(rèn)為：“當(dāng)前開放銀行,、智慧銀行、場景金融等數(shù)字金融服務(wù)迅猛發(fā)展,，金融機(jī)構(gòu)應(yīng)盡快建立與之配套的數(shù)字安全防御體系,，驅(qū)動金融業(yè)務(wù)更好、更快,、更穩(wěn)健發(fā)展,。”

作為互聯(lián)網(wǎng)科技企業(yè),，螞蟻集團(tuán)機(jī)器智能部總經(jīng)理、螞蟻安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)介紹,，針對生成式大模型安全問題,，螞蟻集團(tuán)基于近10年可信AI沉淀，逐步構(gòu)建“大模型安全檢測與防御”的一體化解決方案，以保障大模型在生產(chǎn)和使用過程中更加安全,、可控,、可靠。目前已發(fā)布“蟻鑒”AI安全檢測平臺,。同時(shí)螞蟻集團(tuán)基于安全基座模型能力,，持續(xù)升級全方位全鏈路的智能風(fēng)控防御體系，與生態(tài)伙伴們一起解決新AI時(shí)代的安全科技難題,。

據(jù)了解,，本次論壇由中國網(wǎng)絡(luò)空間安全協(xié)會指導(dǎo)，金融科技50人論壇,、螞蟻集團(tuán)聯(lián)合主辦,，多位重磅嘉賓參會探討數(shù)實(shí)融合發(fā)展中的新型風(fēng)險(xiǎn)與挑戰(zhàn)，分享時(shí)代脈搏下的關(guān)鍵技術(shù)趨勢和安全科技實(shí)踐成果,。