自去年底以來,，生成式人工智能熱度高漲,，國內公開發(fā)布的大模型已達百余個，不僅帶動了人工智能產業(yè)的蓬勃發(fā)展,，也為其他產業(yè)注入了新動能,。

在日前舉辦的第十一屆互聯網安全大會（ISC 2023）上，多位專家提出,，通用人工智能發(fā)展日益體現出技術創(chuàng)新快,、應用滲透強、經濟社會影響大,、國際競爭激烈的特點,。但發(fā)展與安全并重，對于當前火熱的人工智能大模型以及人工智能技術,，都需要把數字安全放在更突出的位置,，讓數字安全與人工智能技術融合發(fā)展。

發(fā)展與安全并重

“人工智能是引領新一輪產業(yè)變革的核心技術引擎,，為各領域提供信息化,、數字化,、智能化的解決方案，正在引發(fā)經濟結構重大變革,，實現社會生產力整體躍升,。”中國工程院院士鄔江興說,。

中國工程院院士鄔賀銓認為,，以人工智能為代表的數字技術將重塑數字內容生產方式和消費模式，通用人工智能將實現知識與數據雙輪驅動,，把智腦加進去,，未來單個模型有望通過遷移學習支持多種業(yè)務，并能精準選擇節(jié)點,，有效降低功耗和成本,。數字化將逐漸走向智能化高峰，開啟人工智能時代,。同時,，數字安全也在不斷發(fā)展演進，傳統(tǒng)安全防護的手段亟待升級,。

“生成式人工智能正在引發(fā)新一輪智能化浪潮,，但也伴隨著數據泄露、虛假信息,、算法歧視等網絡和信息安全新挑戰(zhàn),、新問題?！敝袊ヂ摼W協會理事長尚冰說,。

中央網信辦網絡安全協調局副局長羅鋒盈也表示，當前,，生成式人工智能還有很多亟待解決的問題,，比如生成信息的準確性、真實性以及價值觀等問題,。

“當前,，深度學習進入快速發(fā)展期，但也是一把雙刃劍,。如果不能有效應對人工智能安全挑戰(zhàn),，數字社會、數字經濟都會基礎不牢,，成為國家安全戰(zhàn)略最脆弱,、最致命的環(huán)節(jié)?！编w江興認為,，深度學習人工智能模型存在“三不可”內生安全個性問題,，即神經網絡“黑盒”特點導致人工智能存在不可解釋性；深度學習對訓練樣本過度依賴,，導致學習結果的不可判定性,；神經網絡前向推進的不可逆，導致結果的不可推論性,。

“充分數字化,，讓企業(yè)、政府,、城市成為網絡安全的主陣地,。當大數據成為核心資產后，政府,、企業(yè)都面臨數據泄露,、丟失的安全威脅。生成式人工智能帶來的內容安全,、安全可控問題將更為顯著,。”360集團創(chuàng)始人周鴻祎說,。

國家網信辦等7部門近日聯合發(fā)布《生成式人工智能服務管理暫行辦法》,，提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則,，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。

創(chuàng)新技術手段

第十三屆全國政協經濟委員會副主任蘇波表示,，推動人工智能產業(yè)快速發(fā)展，必須要把保障數據安全放在突出位置,。要加快人工智能數據資源建設,，創(chuàng)新人工智能技術手段，完善人工智能數據安全監(jiān)管體系,。

“要用技術進步解決安全風險難題,，加強人工智能數據安全保護基礎理論研究和技術研發(fā)。發(fā)展負責任,、可信任,、能受控的通用人工智能。鼓勵企業(yè)建設完善人工智能開源學習框架,，增強框架內置學習數據和基礎設施,。并通過我國巨大的市場優(yōu)勢，加快培育人工智能開源平臺生態(tài)圈和產業(yè)鏈,?！碧K波說,。

我國網絡安全產業(yè)綜合實力已顯著增強。數據顯示,，2022年我國網絡安全產業(yè)規(guī)模近2200億元,，北京、長沙,、成渝地區(qū)國家三大網絡安全產業(yè)園區(qū)相繼成立,，長三角、珠三角等網絡安全產業(yè)基礎優(yōu)勢逐步激發(fā),。截至2022年底,，我國已有21家網絡安全企業(yè)上市，越來越多的互聯網企業(yè),、設備廠商,、電信運營商成為網絡安全領域新生力量，傳統(tǒng)安全企業(yè),、互聯網企業(yè)紛紛布局數據安全賽道,。

同時，網絡安全技術體系持續(xù)完備,，零信任,、以太坊等信息安全技術逐步成熟落地。隱私計算,、圖片加密等領域布局加快,，網絡安全與人工智能、云計算,、區(qū)塊鏈、工業(yè)互聯網融合發(fā)展加速,。

創(chuàng)新是網絡安全保障能力提升的根本動力,。工業(yè)和信息化部網絡安全管理局局長隋靜表示，要健全科技創(chuàng)新體系，強化體系創(chuàng)新主體地位,，全面激發(fā)企業(yè)創(chuàng)新活力,。圍繞5G、工業(yè)互聯網,、車聯網等重點領域開展關鍵技術攻關,，加快突破安全風險感知、監(jiān)測預警,、實時阻斷,、追蹤溯源等核心能力。前瞻布局人工智能與網絡安全技術融合創(chuàng)新,，增強產業(yè)鏈,、供應鏈韌性和安全水平。

培育產業(yè)生態(tài)

“目前360集團有全球最大的網絡安全攻擊樣本庫和攻擊整個過程全記錄的知識庫,，記錄了數以億計的網絡攻擊知識,。我們也在試驗把這些知識加入專門的垂直大模型里，爭取下次遇到攻擊時,，由大模型判斷這是否是一次真實攻擊,。目前，大模型判斷網絡攻擊的準確率已提升到97%,，當該準確率超過99%時就可以投入應用,。”周鴻祎介紹,。

周鴻祎認為,，隨著安全挑戰(zhàn)不斷升級，傳統(tǒng)安全方案已難以應對數字文明時代的新挑戰(zhàn),，出現“企業(yè)抱怨沒效果,、廠商抱怨投入少”的局面。企業(yè)實現體系化安全運營,，存在缺平臺,、缺探針、缺數據,、缺專家四大障礙。云化和服務化將成為安全行業(yè)發(fā)展必然趨勢,。為此,，360推出“安全即服務”理念，將沉淀在全網安全大腦里的世界級安全能力全面云化和服務化,，低成本,、高效能輸送給企業(yè)級客戶，為政府、城市和企業(yè)筑牢數字安全屏障,，守護數字經濟成果,。

“要摒棄硬件式碎片化弱協同的傳統(tǒng)安全防護手段，向云化,、服務化的理念升級,。數字安全企業(yè)需要建立體系化的安全運營服務框架，面向各行各業(yè)輸出數字安全能力,，幫助企業(yè)構建安全防御體系,，保護數據安全與商業(yè)秘密?！编w賀銓說,。

全國工商聯副主席汪鴻雁表示，網絡安全龍頭企業(yè)要牽頭組建創(chuàng)新聯合體,，發(fā)揮創(chuàng)新主體作用,，主動承擔國家重大科技項目，開展數字安全的基礎理論創(chuàng)新,，及重大問題研究和關鍵的核心技術攻關,，著力加強數字安全的人才培養(yǎng)，推動人才,、技術和產業(yè)的融通發(fā)展,，不斷增進數字安全國際交流與合作，建設國際數字安全保障合作機制,。

“互聯網龍頭企業(yè)要積極開展原創(chuàng)性,、引領性、基礎性安全技術攻關,，延伸技術領域,，拓展產品服務范圍，完善產品矩陣,?；ヂ摼W初創(chuàng)企業(yè)要發(fā)揮快速靈活、資源集中的特點,，以創(chuàng)新技術和產品切入細分領域,，推動產品服務和行業(yè)發(fā)展緊密結合?！鄙斜f,。

鄔賀銓強調，要完善數字安全的生態(tài)系統(tǒng),，覆蓋工業(yè)企業(yè)設備供應商,、基礎電信運營商,、云服務商、工業(yè)互聯網平臺運營商,、工業(yè)應用提供商,、數字安全提供企業(yè)、第三方檢測機構與用戶等,，實現危險威脅處置情報共享,。

隋靜表示，網絡安全產業(yè)是維護國家網絡安全的重要基礎,，要完善支持產業(yè)發(fā)展的政策措施,，引導供給不斷提升，需求充分釋放,，構建供需雙向發(fā)力,，產業(yè)鏈協同聯動的高水平動態(tài)平衡。要創(chuàng)新網絡安全服務模式,，大力發(fā)展網絡安全保險服務,，深化產融合作，引導資本加大對產業(yè)支持力度,，加快培育一批網絡安全專精特新企業(yè),。優(yōu)化產業(yè)園區(qū)產業(yè)布局，充分發(fā)揮聯盟協會紐帶作用,，培育壯大產業(yè)生態(tài),，推動產業(yè)高質量發(fā)展。（經濟日報記者 黃 鑫）