5月18日，2024西湖論劍·AI引領(lǐng)數(shù)字安全新浪潮專題會議在杭州召開,。業(yè)界代表圍繞AI+安全這一主題,，共探AI引領(lǐng)數(shù)字安全新質(zhì)生產(chǎn)力的發(fā)展之道，共預(yù)數(shù)字安全新未來,。人工智能的蓬勃發(fā)展,，為數(shù)字安全領(lǐng)域帶來了全新的生態(tài)環(huán)境和產(chǎn)業(yè)格局。在擁抱AI的同時,，也要嚴(yán)防AI可能帶來的數(shù)據(jù)泄露,、深度偽造等風(fēng)險。以AI對AI,、以AI管AI,，成為推動人工智能與網(wǎng)絡(luò)安全技術(shù)的深度融合,、構(gòu)建數(shù)字安全新質(zhì)生產(chǎn)力、為經(jīng)濟(jì)社會發(fā)展和國家安全提供有力保障的選擇,。如何在享受技術(shù)紅利的同時,，構(gòu)建更加堅固的數(shù)字安全屏障，實(shí)現(xiàn)傳統(tǒng)網(wǎng)絡(luò)與數(shù)據(jù)安全的革命性升級,，打造新型的AI+網(wǎng)絡(luò)和數(shù)據(jù)安全體系,？CCF計算機(jī)安全專業(yè)委員會常務(wù)副主任、公安部第一研究所副所長于銳對此提出四點(diǎn)建議：一是加強(qiáng)協(xié)同創(chuàng)新,，共建安全生態(tài),；二是開展技術(shù)革新，驅(qū)動安全升級,；三是加大法規(guī)引領(lǐng),，保障健康發(fā)展；四是強(qiáng)化人才培養(yǎng),，強(qiáng)化安全根基,。“人工智能安全的保障將成為人工智能可靠可控應(yīng)用的重要基礎(chǔ),?！敝袊茖W(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長俞能海認(rèn)為，規(guī)避AIGC風(fēng)險不能單純依賴智能算法,，需要將人創(chuàng)造能力與AI的生成能力有效結(jié)合,。可以從“利用AIGC合成內(nèi)容鑒別,，應(yīng)對AI的惡意應(yīng)用”“通過大模型糾偏,，提升AI的安全能力”“借助生成式模型水印，保護(hù)AI賦能的系統(tǒng)”三個維度推進(jìn)相關(guān)工作,。安永（中國）企業(yè)咨詢有限公司合伙人王堅表示,，AI大模型技術(shù)演進(jìn)路線可能沿著六大維度發(fā)展：一是大模型參數(shù)數(shù)量激增；二是多模態(tài)學(xué)習(xí)處理多種數(shù)據(jù)類型的應(yīng)用和場景,；三是提高模型訓(xùn)練和推理的效率和可持續(xù)性,；四是提升模型決策過程的透明度和可解釋性；五是具備連續(xù)學(xué)習(xí)能力,；六是確保模型在惡意攻擊下的穩(wěn)定性和安全性,。當(dāng)前，安全產(chǎn)業(yè)存在安全天平和能力鴻溝等問題,，AI時代下的數(shù)據(jù)安全,、內(nèi)容安全、業(yè)務(wù)安全、供應(yīng)鏈安全等問題尤為突出,。在此背景下,，杭州人工智能學(xué)會副秘書長、安恒信息研究院院長王欣表示,，AI+安全是安全未來發(fā)展的巨大方向,，并表示未來AI之于安全的應(yīng)用趨勢有八個方向，其中,，以大模型為核心的AI智能體（AI Agents）將成為安全產(chǎn)業(yè)的標(biāo)配,，越來越多的AI Native工具將成為Agent的“手和腳”。如何在大模型訓(xùn)練和推理時,，解決數(shù)據(jù)既要利用又要保護(hù)的矛盾需求,？安恒信息隱私計算事業(yè)部總經(jīng)理陶立峰介紹，通過將可信執(zhí)行環(huán)境,、機(jī)密計算與大模型訓(xùn)練框架結(jié)合,，構(gòu)建基于機(jī)密計算的大模型訓(xùn)練與推理的數(shù)據(jù)圍欄，再結(jié)合全流程的加密,、授權(quán)與審計,、審批等管控手段，就能夠?qū)崿F(xiàn)基于場景的最小化數(shù)據(jù)授權(quán),，同時確保數(shù)據(jù)在受控環(huán)境之下不會被濫用,。會上，針對大模型開發(fā)及大規(guī)模AI計算系統(tǒng)的挑戰(zhàn),，安恒信息發(fā)布了昇騰-恒腦推理一體機(jī),，全流程加速大模型的創(chuàng)新與落地。安恒信息研究院創(chuàng)新業(yè)務(wù)部總經(jīng)理姚龍飛提出,，大模型的下半場是智能體的大爆發(fā),。他以恒腦安全垂域大模型為例，介紹了安恒信息以智能體為核心驅(qū)動產(chǎn)品,、業(yè)務(wù)進(jìn)行結(jié)合的探索與應(yīng)用,。此外，海亮-安恒聯(lián)合創(chuàng)新實(shí)驗室揭牌儀式也在會上同步舉行,，實(shí)驗室將依托安恒信息恒腦安全大模型及生態(tài)資源,，結(jié)合海亮集團(tuán)豐富的行業(yè)數(shù)據(jù)及數(shù)據(jù)安全實(shí)踐，共同構(gòu)建數(shù)據(jù)安全領(lǐng)域解決方案,，推進(jìn)國家,、行業(yè)、團(tuán)體等數(shù)據(jù)安全標(biāo)準(zhǔn)規(guī)范的研制,，探索大模型+數(shù)據(jù)安全的應(yīng)用落地，打造國內(nèi)大模型+數(shù)據(jù)安全的先進(jìn)標(biāo)桿案例，形成產(chǎn)業(yè)合力,。哪些行業(yè)或領(lǐng)域在引入大模型技術(shù)后將會有顯著的效果和光明的發(fā)展前景,？安全和發(fā)展該如何平衡？未來可能出現(xiàn)哪些全新應(yīng)用場景或商業(yè)模式,？圓桌對話環(huán)節(jié),，教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會主任委員、俄羅斯國家工程院外籍院士胡瑞敏,，阿里研究院數(shù)據(jù)經(jīng)濟(jì)研究中心副主任王崢,，華為制造與大企業(yè)軍團(tuán)解決方案副總裁余倬，安恒信息研究院副院長稅雪飛等嘉賓圍繞“大模型在各行業(yè)的應(yīng)用潛力與安全影響”展開對話交流,。就生成式AI的安全挑戰(zhàn)這一問題,，CSA大中華區(qū)研究院副院長黃連金指出，主要包括影子AI,、自動化和可拓展的威脅與零日漏洞,、安全工具集成、惡意工具,、大模型聚合導(dǎo)致的數(shù)據(jù)泄露,，以及使用AI導(dǎo)致原先的權(quán)限策略問題更加凸顯等。據(jù)了解,，本次專題會議由浙江省科學(xué)技術(shù)協(xié)會指導(dǎo),，杭州市科學(xué)技術(shù)協(xié)會主辦，杭州市人工智能學(xué)會,、中國計算機(jī)學(xué)會計算機(jī)安全專業(yè)委員會,、云安全聯(lián)盟大中華區(qū)、西電杭州研究院,、安恒信息聯(lián)合承辦,。（雷渺鑫）來源：光明網(wǎng)