中新網(wǎng)北京11月3日電 (記者 夏賓)“以深度學(xué)習(xí)為核心的人工智能技術(shù)是一把雙刃劍,，其作為賦能技術(shù)有著極其豐富的應(yīng)用空間，更帶來了前所未有的安全挑戰(zhàn),。”中國(guó)工程院院士鄔江興近日在京參加2024綠盟科技TechWorld智慧安全大會(huì)時(shí)這樣說,。面對(duì)人工智能這把雙刃劍,，我們?cè)撊绾伟押谩鞍踩P(guān)”,？鄔江興首先指出，AI算法模型存在“三不可”的基因缺陷,，即不可解釋性,、不可判識(shí)性以及不可推論性。他認(rèn)為,，整個(gè)AI安全可分為內(nèi)生安全問題和非內(nèi)生安全問題,，內(nèi)生又分為個(gè)性問題和共性問題，當(dāng)下,，網(wǎng)絡(luò)內(nèi)生安全問題正在全面挑戰(zhàn)當(dāng)今世界生態(tài)系統(tǒng)底層驅(qū)動(dòng)技術(shù),。網(wǎng)絡(luò)內(nèi)生安全范式應(yīng)當(dāng)是AI可信應(yīng)用系統(tǒng)理論發(fā)展方向，智能時(shí)代需要正確的理論方向,，以確保AI技術(shù)的健康發(fā)展,。中國(guó)科學(xué)院院士馮登國(guó)談到，當(dāng)前，人工智能技術(shù)已經(jīng)從較為單一的算法發(fā)展階段跨越到了軟件,、硬件與應(yīng)用場(chǎng)景相結(jié)合的全方位,、一體化的發(fā)展階段，AI算法的更新迭代,，使得傳統(tǒng)安全分析技術(shù)無(wú)法適應(yīng)人工智能領(lǐng)域出現(xiàn)的新算法和新模型,。馮登國(guó)表示，應(yīng)對(duì)網(wǎng)絡(luò)空間安全形勢(shì)變化,，需要更堅(jiān)實(shí),、富有彈性的網(wǎng)絡(luò)空間安全保障體系。他從數(shù)據(jù)泄露,、關(guān)基保護(hù),、深度偽造、錯(cuò)誤信息涌現(xiàn)等角度解讀大模型伴生的安全風(fēng)險(xiǎn)和挑戰(zhàn),，并從政策法規(guī)制定,、前沿技術(shù)探索和創(chuàng)新能力提升三個(gè)維度思考應(yīng)對(duì)之策。綠盟科技集團(tuán)董事長(zhǎng),、總裁胡忠華直言,，近年來持續(xù)加大在數(shù)據(jù)安全、人工智能等領(lǐng)域的創(chuàng)新投入,。一方面,，圍繞日志降噪、推理研判,、自動(dòng)化滲透攻擊三個(gè)安全實(shí)戰(zhàn)場(chǎng)景,，持續(xù)迭代安全垂域大模型，通過提示詞工程構(gòu)建安全專家思維鏈,，并使用檢索增強(qiáng),、知識(shí)圖譜提升可信度和專業(yè)度，為用戶提供具備可落地的安全檢測(cè),、研判能力,。另一方面，持續(xù)加強(qiáng)技術(shù)研究與創(chuàng)新,，從構(gòu)建可信任的安全智能生態(tài)出發(fā),，逐步構(gòu)建“大模型+小模型”協(xié)同安全運(yùn)營(yíng)新體系，并在大模型安全性方向進(jìn)行深入研究,，發(fā)布了AI大模型安全威脅矩陣及風(fēng)險(xiǎn)評(píng)估工具,，幫助用戶在自有模型時(shí)管理安全風(fēng)險(xiǎn)。教育部信息技術(shù)新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任,、杭州市人工智能學(xué)會(huì)副理事長(zhǎng)胡瑞敏認(rèn)為,，在數(shù)據(jù)被列為第五大生產(chǎn)要素的今天，應(yīng)對(duì)數(shù)據(jù)供不出、流不動(dòng),、安全保障難等挑戰(zhàn),，亟需構(gòu)建一個(gè)面向數(shù)據(jù)要素化的數(shù)據(jù)生命周期安全防護(hù)體系。胡瑞敏以數(shù)據(jù)安全風(fēng)險(xiǎn)事件為切入點(diǎn),，引出當(dāng)前數(shù)據(jù)安全面臨的困境,，即數(shù)據(jù)分級(jí)分類、可信確權(quán)以及數(shù)據(jù)安全利用,，并進(jìn)一步對(duì)其團(tuán)隊(duì)在數(shù)據(jù)安全防護(hù)密碼技術(shù)領(lǐng)域的研究工作進(jìn)行了介紹,。國(guó)家工業(yè)信息安全發(fā)展研究中心首席專家、數(shù)據(jù)安全所所長(zhǎng)李俊指出,，數(shù)據(jù)作為數(shù)字經(jīng)濟(jì)時(shí)代的關(guān)鍵新興生產(chǎn)要素,，保障數(shù)據(jù)安全已成為事關(guān)國(guó)家安全與經(jīng)濟(jì)社會(huì)發(fā)展的重大問題,。隨著新一代信息技術(shù)與制造業(yè)深度融合,，工業(yè)企業(yè)數(shù)字化、網(wǎng)絡(luò)化,、智能化加速推進(jìn),，工業(yè)數(shù)據(jù)載體漏洞和后門、非受控運(yùn)維,、數(shù)據(jù)暴露面等數(shù)據(jù)安全風(fēng)險(xiǎn)日益突出,。李俊稱，在此形勢(shì)下,，行業(yè)主管部門已構(gòu)建工信領(lǐng)域數(shù)據(jù)安全“1+5”政策體系,，加快數(shù)據(jù)安全監(jiān)管技術(shù)能力建設(shè)與實(shí)踐落地，切實(shí)指導(dǎo)工業(yè)企業(yè)提升數(shù)據(jù)安全管理和防護(hù)水平,。(完)