本報(bào)記者 張佳星“人工智能算法模型存在‘三不可’的‘基因缺陷’,，即不可解釋性,、不可判識(shí)性以及不可推論性,?！痹谌涨芭e行的2024綠盟科技TechWorld智慧安全大會(huì)上，中國(guó)工程院院士鄔江興說(shuō),，AI賦能技術(shù)有極其廣闊的應(yīng)用空間,，也帶來(lái)了前所未有的安全挑戰(zhàn),。“AI已經(jīng)成為網(wǎng)絡(luò)空間安全發(fā)展的關(guān)鍵變量,。”中國(guó)科學(xué)院院士馮登國(guó)表示，AI技術(shù)已從較為單一的算法發(fā)展階段跨越到軟件,、硬件與應(yīng)用場(chǎng)景相結(jié)合的全方位、一體化發(fā)展階段,，應(yīng)對(duì)網(wǎng)絡(luò)空間安全形勢(shì)變化，需要更堅(jiān)實(shí),、富有彈性的網(wǎng)絡(luò)空間安全保障體系,。AI廣泛應(yīng)用會(huì)帶來(lái)哪些安全隱患？如何應(yīng)對(duì)這些安全挑戰(zhàn),？會(huì)上，專家學(xué)者圍繞網(wǎng)絡(luò)安全前沿科技,、數(shù)智賦能發(fā)展路徑進(jìn)行了深入研討。安全風(fēng)險(xiǎn)加大“在某些情況下,，大模型生成的文本雖在語(yǔ)義或句法層面看起來(lái)合乎邏輯，但實(shí)際內(nèi)容可能是錯(cuò)誤或無(wú)意義的,。這類‘幻覺(jué)’問(wèn)題是所有大模型共同的固有問(wèn)題,。”馮登國(guó)說(shuō),，大模型“幻覺(jué)”缺陷導(dǎo)致的大量錯(cuò)誤信息涌現(xiàn)是大模型帶來(lái)的主要安全風(fēng)險(xiǎn)之一,。此外，針對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施的網(wǎng)絡(luò)攻擊變得更加自動(dòng)化,、智能化。同時(shí),，AI算法的快速更新迭代，也使傳統(tǒng)安全分析技術(shù)難以應(yīng)對(duì)AI領(lǐng)域涌現(xiàn)的新算法和新模型,。“數(shù)字化轉(zhuǎn)型加劇了網(wǎng)絡(luò)生態(tài)系統(tǒng)的脆弱性,。”綠盟科技首席技術(shù)官葉曉虎說(shuō),，攻擊手段的多樣化、相關(guān)技術(shù)戰(zhàn)法的演變要求安全行業(yè)不斷適應(yīng)并應(yīng)對(duì)新安全挑戰(zhàn),。為此，綠盟科技在提供傳統(tǒng)安全產(chǎn)品及安全服務(wù)的基礎(chǔ)上,，推出AI大模型應(yīng)用,、藍(lán)軍體系等多個(gè)領(lǐng)域解決方案。數(shù)字經(jīng)濟(jì)時(shí)代,，保障數(shù)據(jù)安全成為事關(guān)國(guó)家安全與經(jīng)濟(jì)社會(huì)發(fā)展的重大問(wèn)題。國(guó)家工業(yè)信息安全發(fā)展研究中心首席專家,、數(shù)據(jù)安全所所長(zhǎng)李俊說(shuō)，工業(yè)企業(yè)數(shù)字化,、網(wǎng)絡(luò)化、智能化進(jìn)程加速,，同時(shí)也面臨日益突出的數(shù)據(jù)安全風(fēng)險(xiǎn),，包括工業(yè)數(shù)據(jù)載體存在漏洞和后門(mén)、非受控運(yùn)維等問(wèn)題,。在此背景下,，行業(yè)主管部門(mén)出臺(tái)相關(guān)政策,，不斷加快數(shù)據(jù)安全監(jiān)管技術(shù)能力建設(shè)與實(shí)踐落地,。AI提供新工具面對(duì)新的安全風(fēng)險(xiǎn),，能否用AI防范AI？與會(huì)專家普遍認(rèn)為,，AI系統(tǒng)在安全保障方面的應(yīng)用已經(jīng)得到廣泛認(rèn)可，AI在安全領(lǐng)域的支撐作用將日益增強(qiáng)?！癆I可以賦能網(wǎng)絡(luò)空間安全保障,，為安全工作提供新工具?！瘪T登國(guó)說(shuō),，針對(duì)AI加持的攻擊技術(shù)、惡意代碼生成,、僵尸網(wǎng)絡(luò)攻擊等挑戰(zhàn)，可通過(guò)AI大幅提升防御能力和水平,，有效提高威脅檢測(cè)與響應(yīng)能力,?！癆I可以自動(dòng)完成許多網(wǎng)絡(luò)安全任務(wù)，如威脅檢測(cè),、事件響應(yīng)和漏洞分析。這不僅有利于提高工作效率,，還能減少人為錯(cuò)誤的可能,，幫助網(wǎng)絡(luò)安全團(tuán)隊(duì)更有效地應(yīng)對(duì)大量安全告警,。”綠盟科技天樞實(shí)驗(yàn)室主任研究員顧杜娟說(shuō),，AI還可以幫助識(shí)別新型攻擊手段和策略，并利用機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)檢測(cè)和應(yīng)對(duì)復(fù)雜的網(wǎng)絡(luò)攻擊,。綠盟科技通過(guò)技術(shù)創(chuàng)新推出了一系列新成果和方案,。例如，風(fēng)云衛(wèi)AI安全能力平臺(tái)集成威脅情報(bào)積累等能力,，可進(jìn)一步助力網(wǎng)絡(luò)安全行業(yè)智能化轉(zhuǎn)型,。在安全運(yùn)營(yíng)方面,，“AI+”策略可實(shí)現(xiàn)告警降噪率97%以上,，使威脅響應(yīng)縮短至30分鐘、整體運(yùn)營(yíng)效率提升70%以上,。不僅如此,，騰訊等企業(yè)也通過(guò)構(gòu)建AI安全助手,，提升其安全服務(wù)能力和效率。業(yè)內(nèi)專家認(rèn)為,，用好“AI+安全”,，有助于促進(jìn)數(shù)字化轉(zhuǎn)型與可持續(xù)發(fā)展。來(lái)源：科技日?qǐng)?bào)