中新網(wǎng)北京11月3日電 (記者 夏賓)“以深度學習為核心的人工智能技術(shù)是一把雙刃劍,，其作為賦能技術(shù)有著極其豐富的應用空間，更帶來了前所未有的安全挑戰(zhàn),?！敝袊こ淘涸菏苦w江興近日在京參加2024綠盟科技TechWorld智慧安全大會時這樣說。面對人工智能這把雙刃劍，我們該如何把好“安全關(guān)”,？鄔江興首先指出,，AI算法模型存在“三不可”的基因缺陷,，即不可解釋性、不可判識性以及不可推論性,。他認為,，整個AI安全可分為內(nèi)生安全問題和非內(nèi)生安全問題，內(nèi)生又分為個性問題和共性問題,，當下,，網(wǎng)絡內(nèi)生安全問題正在全面挑戰(zhàn)當今世界生態(tài)系統(tǒng)底層驅(qū)動技術(shù)。網(wǎng)絡內(nèi)生安全范式應當是AI可信應用系統(tǒng)理論發(fā)展方向,，智能時代需要正確的理論方向,，以確保AI技術(shù)的健康發(fā)展。中國科學院院士馮登國談到,，當前,，人工智能技術(shù)已經(jīng)從較為單一的算法發(fā)展階段跨越到了軟件、硬件與應用場景相結(jié)合的全方位,、一體化的發(fā)展階段,，AI算法的更新迭代，使得傳統(tǒng)安全分析技術(shù)無法適應人工智能領域出現(xiàn)的新算法和新模型,。馮登國表示,，應對網(wǎng)絡空間安全形勢變化，需要更堅實,、富有彈性的網(wǎng)絡空間安全保障體系,。他從數(shù)據(jù)泄露、關(guān)基保護,、深度偽造,、錯誤信息涌現(xiàn)等角度解讀大模型伴生的安全風險和挑戰(zhàn)，并從政策法規(guī)制定,、前沿技術(shù)探索和創(chuàng)新能力提升三個維度思考應對之策,。綠盟科技集團董事長、總裁胡忠華直言,，近年來持續(xù)加大在數(shù)據(jù)安全,、人工智能等領域的創(chuàng)新投入。一方面,，圍繞日志降噪,、推理研判、自動化滲透攻擊三個安全實戰(zhàn)場景,，持續(xù)迭代安全垂域大模型,，通過提示詞工程構(gòu)建安全專家思維鏈，并使用檢索增強,、知識圖譜提升可信度和專業(yè)度,，為用戶提供具備可落地的安全檢測,、研判能力。另一方面,，持續(xù)加強技術(shù)研究與創(chuàng)新,，從構(gòu)建可信任的安全智能生態(tài)出發(fā)，逐步構(gòu)建“大模型+小模型”協(xié)同安全運營新體系,，并在大模型安全性方向進行深入研究,，發(fā)布了AI大模型安全威脅矩陣及風險評估工具，幫助用戶在自有模型時管理安全風險,。教育部信息技術(shù)新工科聯(lián)盟網(wǎng)絡空間安全工委會主任,、杭州市人工智能學會副理事長胡瑞敏認為，在數(shù)據(jù)被列為第五大生產(chǎn)要素的今天,，應對數(shù)據(jù)供不出,、流不動,、安全保障難等挑戰(zhàn),，亟需構(gòu)建一個面向數(shù)據(jù)要素化的數(shù)據(jù)生命周期安全防護體系。胡瑞敏以數(shù)據(jù)安全風險事件為切入點,，引出當前數(shù)據(jù)安全面臨的困境,，即數(shù)據(jù)分級分類、可信確權(quán)以及數(shù)據(jù)安全利用,，并進一步對其團隊在數(shù)據(jù)安全防護密碼技術(shù)領域的研究工作進行了介紹,。國家工業(yè)信息安全發(fā)展研究中心首席專家、數(shù)據(jù)安全所所長李俊指出,，數(shù)據(jù)作為數(shù)字經(jīng)濟時代的關(guān)鍵新興生產(chǎn)要素,，保障數(shù)據(jù)安全已成為事關(guān)國家安全與經(jīng)濟社會發(fā)展的重大問題。隨著新一代信息技術(shù)與制造業(yè)深度融合,，工業(yè)企業(yè)數(shù)字化,、網(wǎng)絡化、智能化加速推進,，工業(yè)數(shù)據(jù)載體漏洞和后門,、非受控運維、數(shù)據(jù)暴露面等數(shù)據(jù)安全風險日益突出,。李俊稱,，在此形勢下，行業(yè)主管部門已構(gòu)建工信領域數(shù)據(jù)安全“1+5”政策體系,，加快數(shù)據(jù)安全監(jiān)管技術(shù)能力建設與實踐落地,，切實指導工業(yè)企業(yè)提升數(shù)據(jù)安全管理和防護水平。(完)