5月18日,，2024西湖論劍·AI引領(lǐng)數(shù)字安全新浪潮專題會(huì)議在杭州召開,。業(yè)界代表圍繞AI+安全這一主題，共探AI引領(lǐng)數(shù)字安全新質(zhì)生產(chǎn)力的發(fā)展之道,，共預(yù)數(shù)字安全新未來,。人工智能的蓬勃發(fā)展，為數(shù)字安全領(lǐng)域帶來了全新的生態(tài)環(huán)境和產(chǎn)業(yè)格局,。在擁抱AI的同時(shí),，也要嚴(yán)防AI可能帶來的數(shù)據(jù)泄露、深度偽造等風(fēng)險(xiǎn),。以AI對(duì)AI,、以AI管AI，成為推動(dòng)人工智能與網(wǎng)絡(luò)安全技術(shù)的深度融合、構(gòu)建數(shù)字安全新質(zhì)生產(chǎn)力,、為經(jīng)濟(jì)社會(huì)發(fā)展和國(guó)家安全提供有力保障的選擇,。如何在享受技術(shù)紅利的同時(shí)，構(gòu)建更加堅(jiān)固的數(shù)字安全屏障,，實(shí)現(xiàn)傳統(tǒng)網(wǎng)絡(luò)與數(shù)據(jù)安全的革命性升級(jí),，打造新型的AI+網(wǎng)絡(luò)和數(shù)據(jù)安全體系？CCF計(jì)算機(jī)安全專業(yè)委員會(huì)常務(wù)副主任,、公安部第一研究所副所長(zhǎng)于銳對(duì)此提出四點(diǎn)建議：一是加強(qiáng)協(xié)同創(chuàng)新,，共建安全生態(tài)；二是開展技術(shù)革新,，驅(qū)動(dòng)安全升級(jí),；三是加大法規(guī)引領(lǐng)，保障健康發(fā)展,；四是強(qiáng)化人才培養(yǎng),，強(qiáng)化安全根基?！叭斯ぶ悄馨踩谋Ｕ蠈⒊蔀槿斯ぶ悄芸煽靠煽貞?yīng)用的重要基礎(chǔ),。”中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長(zhǎng)俞能海認(rèn)為,，規(guī)避AIGC風(fēng)險(xiǎn)不能單純依賴智能算法,，需要將人創(chuàng)造能力與AI的生成能力有效結(jié)合?？梢詮摹袄肁IGC合成內(nèi)容鑒別,，應(yīng)對(duì)AI的惡意應(yīng)用”“通過大模型糾偏，提升AI的安全能力”“借助生成式模型水印,，保護(hù)AI賦能的系統(tǒng)”三個(gè)維度推進(jìn)相關(guān)工作,。安永（中國(guó)）企業(yè)咨詢有限公司合伙人王堅(jiān)表示，AI大模型技術(shù)演進(jìn)路線可能沿著六大維度發(fā)展：一是大模型參數(shù)數(shù)量激增,；二是多模態(tài)學(xué)習(xí)處理多種數(shù)據(jù)類型的應(yīng)用和場(chǎng)景,；三是提高模型訓(xùn)練和推理的效率和可持續(xù)性；四是提升模型決策過程的透明度和可解釋性,；五是具備連續(xù)學(xué)習(xí)能力,；六是確保模型在惡意攻擊下的穩(wěn)定性和安全性。當(dāng)前,，安全產(chǎn)業(yè)存在安全天平和能力鴻溝等問題,，AI時(shí)代下的數(shù)據(jù)安全、內(nèi)容安全、業(yè)務(wù)安全,、供應(yīng)鏈安全等問題尤為突出,。在此背景下，杭州人工智能學(xué)會(huì)副秘書長(zhǎng),、安恒信息研究院院長(zhǎng)王欣表示,，AI+安全是安全未來發(fā)展的巨大方向，并表示未來AI之于安全的應(yīng)用趨勢(shì)有八個(gè)方向,，其中,，以大模型為核心的AI智能體（AI Agents）將成為安全產(chǎn)業(yè)的標(biāo)配，越來越多的AI Native工具將成為Agent的“手和腳”,。如何在大模型訓(xùn)練和推理時(shí),，解決數(shù)據(jù)既要利用又要保護(hù)的矛盾需求？安恒信息隱私計(jì)算事業(yè)部總經(jīng)理陶立峰介紹,，通過將可信執(zhí)行環(huán)境,、機(jī)密計(jì)算與大模型訓(xùn)練框架結(jié)合，構(gòu)建基于機(jī)密計(jì)算的大模型訓(xùn)練與推理的數(shù)據(jù)圍欄,，再結(jié)合全流程的加密,、授權(quán)與審計(jì)、審批等管控手段,，就能夠?qū)崿F(xiàn)基于場(chǎng)景的最小化數(shù)據(jù)授權(quán),，同時(shí)確保數(shù)據(jù)在受控環(huán)境之下不會(huì)被濫用。會(huì)上,，針對(duì)大模型開發(fā)及大規(guī)模AI計(jì)算系統(tǒng)的挑戰(zhàn),，安恒信息發(fā)布了昇騰-恒腦推理一體機(jī)，全流程加速大模型的創(chuàng)新與落地,。安恒信息研究院創(chuàng)新業(yè)務(wù)部總經(jīng)理姚龍飛提出,，大模型的下半場(chǎng)是智能體的大爆發(fā)。他以恒腦安全垂域大模型為例,，介紹了安恒信息以智能體為核心驅(qū)動(dòng)產(chǎn)品,、業(yè)務(wù)進(jìn)行結(jié)合的探索與應(yīng)用。此外,，海亮-安恒聯(lián)合創(chuàng)新實(shí)驗(yàn)室揭牌儀式也在會(huì)上同步舉行,，實(shí)驗(yàn)室將依托安恒信息恒腦安全大模型及生態(tài)資源，結(jié)合海亮集團(tuán)豐富的行業(yè)數(shù)據(jù)及數(shù)據(jù)安全實(shí)踐,，共同構(gòu)建數(shù)據(jù)安全領(lǐng)域解決方案,，推進(jìn)國(guó)家、行業(yè),、團(tuán)體等數(shù)據(jù)安全標(biāo)準(zhǔn)規(guī)范的研制,，探索大模型+數(shù)據(jù)安全的應(yīng)用落地,，打造國(guó)內(nèi)大模型+數(shù)據(jù)安全的先進(jìn)標(biāo)桿案例，形成產(chǎn)業(yè)合力,。哪些行業(yè)或領(lǐng)域在引入大模型技術(shù)后將會(huì)有顯著的效果和光明的發(fā)展前景,？安全和發(fā)展該如何平衡？未來可能出現(xiàn)哪些全新應(yīng)用場(chǎng)景或商業(yè)模式,？圓桌對(duì)話環(huán)節(jié),，教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任委員、俄羅斯國(guó)家工程院外籍院士胡瑞敏,，阿里研究院數(shù)據(jù)經(jīng)濟(jì)研究中心副主任王崢，華為制造與大企業(yè)軍團(tuán)解決方案副總裁余倬,，安恒信息研究院副院長(zhǎng)稅雪飛等嘉賓圍繞“大模型在各行業(yè)的應(yīng)用潛力與安全影響”展開對(duì)話交流,。就生成式AI的安全挑戰(zhàn)這一問題，CSA大中華區(qū)研究院副院長(zhǎng)黃連金指出,，主要包括影子AI,、自動(dòng)化和可拓展的威脅與零日漏洞、安全工具集成,、惡意工具,、大模型聚合導(dǎo)致的數(shù)據(jù)泄露，以及使用AI導(dǎo)致原先的權(quán)限策略問題更加凸顯等,。據(jù)了解,，本次專題會(huì)議由浙江省科學(xué)技術(shù)協(xié)會(huì)指導(dǎo)，杭州市科學(xué)技術(shù)協(xié)會(huì)主辦,，杭州市人工智能學(xué)會(huì),、中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專業(yè)委員會(huì)、云安全聯(lián)盟大中華區(qū),、西電杭州研究院,、安恒信息聯(lián)合承辦。（雷渺鑫）來源：光明網(wǎng)