以大模型為代表的新一輪人工智能（AI）浪潮正以前所未有的態(tài)勢席卷千行百業(yè),。在這個(gè)顛覆性技術(shù)變革時(shí)代,，數(shù)字安全領(lǐng)域?qū)⒚媾R怎樣的機(jī)遇與挑戰(zhàn)？5月18日,，“C3安全大會(huì)·2024”在南京舉行,。在這場數(shù)字安全行業(yè)的高級別閉門會(huì)議上,，業(yè)界多方共同探索AI+時(shí)代的數(shù)字安全之道，為新時(shí)代安全生態(tài)建設(shè)提供了新的思路,。人工智能時(shí)代 網(wǎng)絡(luò)安全形勢嚴(yán)峻“隨著去年ChatGPT的發(fā)布,，AGI（通用人工智能）技術(shù)讓全球黑客開始狂歡,。”亞信安全高級副總裁陳奮在“安全AI未來”主旨演講中的這番描述并非危言聳聽。事實(shí)上,，AGI工具可以將黑客生成新威脅的時(shí)間由之前的數(shù)個(gè)月縮減至幾小時(shí)甚至幾分鐘,，與此同時(shí)，攻擊者開始利用大模型迅速發(fā)現(xiàn)軟件與服務(wù)中存在的漏洞,，通過人臉深度偽造來實(shí)施網(wǎng)絡(luò)詐騙犯罪的案例也越來越多,。更有甚者，攻擊者的目標(biāo)正由傳統(tǒng)的數(shù)字資產(chǎn)轉(zhuǎn)向AI算力基礎(chǔ)設(shè)施和大模型,?！皝喰虐踩O(jiān)測到，短短一年時(shí)間,，針對大模型的攻擊手段已涌現(xiàn)出數(shù)十種不同的類型,。”專注AI安全攻防實(shí)戰(zhàn)與對抗的亞信安全實(shí)驗(yàn)室模擬了去年發(fā)現(xiàn)的海綿樣本攻擊,，大致原理是通過向大模型發(fā)布特殊的樣本,，讓大模型的算力消耗急劇上升,，原來短時(shí)間能做出響應(yīng)的需求,，現(xiàn)在則需要大量時(shí)間去計(jì)算。即便停止攻擊,，大模型返回結(jié)果的速度也變得很慢,。“如果未來核心應(yīng)用都是大模型驅(qū)動(dòng)的AI原生應(yīng)用,，這種情況基本上就等于癱瘓了,。”陳奮說,。這只是未來網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的“冰山一角”,。與會(huì)專家學(xué)者形成共識的是，隨著全球新一輪科技革命和產(chǎn)業(yè)變革的持續(xù)演進(jìn),，以人工智能大模型為代表的新技術(shù)迅猛發(fā)展,，數(shù)字化、網(wǎng)絡(luò)化,、智能化日新月異,，網(wǎng)絡(luò)安全面臨的風(fēng)險(xiǎn)挑戰(zhàn)不斷增加，網(wǎng)絡(luò)安全形勢更為復(fù)雜嚴(yán)峻,。智譜AI總裁王紹蘭介紹,，從技術(shù)突破到應(yīng)用落地顯著加快、技術(shù)影響力呈現(xiàn)裂變式擴(kuò)散,、規(guī)?；瘧?yīng)用與前沿攻關(guān)并舉，這是新一代AI技術(shù)浪潮的特點(diǎn),。上海垣信衛(wèi)星科技有限公司高級副總裁陸犇博士則透露,，垣信擬于今年開始進(jìn)行大規(guī)模的衛(wèi)星組網(wǎng)建設(shè),，隨著衛(wèi)星互聯(lián)網(wǎng)逐步建成，勢必會(huì)為產(chǎn)業(yè)帶來新的大數(shù)據(jù)源,、新的分布式算力網(wǎng)絡(luò)與快捷的人工智能分發(fā)途徑,。其間，包括通信的連接,、數(shù)據(jù)的連接,，以及無處不在的智能泛在體，都將面臨更為突出的安全問題,?！艾F(xiàn)在安全的范疇需要擴(kuò)大?！敝袊こ淘涸菏?、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長張亞勤認(rèn)為，新的人工智能是信息智能,、物理智能和生物智能的融合,，AI大模型的能力極其強(qiáng)大，未來可能創(chuàng)造出很多發(fā)展機(jī)遇,，但也蘊(yùn)含著不少潛在風(fēng)險(xiǎn),，包括信息智能的風(fēng)險(xiǎn)、AI本身隱含的安全風(fēng)險(xiǎn)以及可控性,、可信性,、邊界等問題。其中,，AI幻覺,、深度偽造等問題很有挑戰(zhàn)性?！艾F(xiàn)在完全可以去仿造人的聲音,、圖片和短視頻且無法鑒別，而更大的風(fēng)險(xiǎn)是在物理世界,、生物世界,，當(dāng)一個(gè)大模型可以控制上億的車、無人機(jī),、機(jī)器人,，連接到金融體系、核心體系,，甚至和人的大腦連在一起,，失控和被利用的風(fēng)險(xiǎn)更大。”“在推動(dòng)大模型相關(guān)技術(shù)進(jìn)步的同時(shí),，也應(yīng)未雨綢繆地做好防范工作,，確保技術(shù)向善?！睆垇喦谠菏繌?qiáng)調(diào),。用AI對抗AI 網(wǎng)絡(luò)安全攻防升級與會(huì)專家認(rèn)為，網(wǎng)絡(luò)安全的攻防從原來人和人之間的對抗,，已經(jīng)升級到AI和AI之間的對抗,，只有AI驅(qū)動(dòng)的網(wǎng)絡(luò)安全防護(hù)檢測技術(shù)才能識別AI驅(qū)動(dòng)的黑客攻擊技術(shù)。最典型的案例是深度偽造,，人眼可能都看不出來的人臉替換,，只有通過AI技術(shù)才能識別出來。面對日益嚴(yán)峻的網(wǎng)絡(luò)安全形勢,，全球科技企業(yè)都在加緊行動(dòng),，網(wǎng)絡(luò)安全范式正在革新。微軟日前已經(jīng)正式商用了可用自然語言交互的安全自動(dòng)化解決方案Copilot for Security,；谷歌去年也發(fā)布了網(wǎng)絡(luò)安全大模型,。全球網(wǎng)絡(luò)安全企業(yè)Palo Alto、Crowd Strike已經(jīng)在安全運(yùn)營平臺(tái)上集成了大模型能力,。在AI技術(shù)浪潮推動(dòng)下,，Palo Alto已經(jīng)成為全球首家市值突破千億美元的安全公司,，Crowd Strike的市值也逼近千億美元,。在中國，約80%以上的網(wǎng)絡(luò)安全公司都在將大模型技術(shù)集成到網(wǎng)絡(luò)安全產(chǎn)品中,，近30%的公司已經(jīng)開始做大模型安全的研究,。本次大會(huì)期間，亞信安全帶來的“信計(jì)劃”也包含了全新研發(fā)的保護(hù)算力云基礎(chǔ)設(shè)施安全,、大模型應(yīng)用安全防護(hù),、大模型紅藍(lán)對抗測試等服務(wù)，并正式發(fā)布了網(wǎng)絡(luò)安全行業(yè)領(lǐng)域自研大模型——信立方,。據(jù)介紹,，信立方大模型對于執(zhí)行網(wǎng)絡(luò)安全行業(yè)的精準(zhǔn)問答、復(fù)雜的告警日志解讀,、深度的網(wǎng)絡(luò)安全事件分析等專用場景都有獨(dú)特的效果,。此外，亞信安全還在構(gòu)想安全運(yùn)營數(shù)字人,，這是一個(gè)獨(dú)立的大模型應(yīng)用,。用戶每天會(huì)產(chǎn)生大量的安全事件，未來安全運(yùn)營主管只要對數(shù)字人說：“幫我分析一下今天的安全態(tài)勢怎么樣？”數(shù)字人就會(huì)自動(dòng)把當(dāng)天的安全態(tài)勢調(diào)出來,?！敖裉炷男┌踩录仨汃R上處理？”數(shù)字人可能會(huì)列舉ABCD四個(gè)事件,，只要告訴數(shù)字人處理哪個(gè)事件,，這個(gè)事件就會(huì)被閉環(huán)處理，沒有任何復(fù)雜的界面,，完全是對話式的入口來完成過去很繁雜的操作工作,。針對近期頻發(fā)的網(wǎng)絡(luò)勒索事件，本次大會(huì)上,，網(wǎng)絡(luò)勒索響應(yīng)與治理中心暨獵狐計(jì)劃正式啟動(dòng),。該中心由亞信安全、中國聯(lián)通江蘇分公司,、四川省數(shù)字產(chǎn)業(yè)有限責(zé)任公司,、人民數(shù)據(jù)管理有限公司聯(lián)合發(fā)起，以防范網(wǎng)絡(luò)勒索的持續(xù)惡意攻擊為目標(biāo),，建立區(qū)域性和行業(yè)性的網(wǎng)絡(luò)勒索響應(yīng)與治理中心,，形成常態(tài)化一體化的網(wǎng)絡(luò)勒索安全運(yùn)營。獵狐行動(dòng)計(jì)劃則通過事前,、事中,、事后三個(gè)階段完善處理“銀狐”木馬，這一計(jì)劃的實(shí)施將為有效打擊網(wǎng)絡(luò)勒索行為提供更加堅(jiān)實(shí)的保障,。產(chǎn)學(xué)研用協(xié)同 多方共建安全生態(tài)值得關(guān)注的是,，本屆C3安全大會(huì)上還舉行了兩項(xiàng)重磅簽約儀式。其一是亞信安全和清華大學(xué)智能產(chǎn)業(yè)研究院聯(lián)合研發(fā)行動(dòng)升級計(jì)劃,，雙方將進(jìn)一步提升合作規(guī)模,，實(shí)現(xiàn)科研實(shí)力與人力資源的優(yōu)勢結(jié)合，持續(xù)開展理論,、技術(shù),、政策等方面的創(chuàng)新性研究工作；另一項(xiàng)則是亞信安全與華為終端的合作簽約,，雙方將深度投入鴻蒙生態(tài)建設(shè),，結(jié)合領(lǐng)先行業(yè)的終端安全能力，為用戶提供更加安全,、可靠的終端環(huán)境,，保障用戶的信息安全。產(chǎn)學(xué)研用加強(qiáng)協(xié)作正在成為業(yè)界的共識：只做大模型安全是無法解決大模型安全問題的,，需要整個(gè)產(chǎn)業(yè)鏈,、生態(tài)鏈多方融合,，構(gòu)建產(chǎn)品配套、軟硬協(xié)同的產(chǎn)業(yè)生態(tài),?！按竽Ｐ彤a(chǎn)業(yè)鏈非常長，最終落地過程中會(huì)發(fā)現(xiàn)有更多企業(yè)參與進(jìn)來,，尤其是以大模型為基礎(chǔ)的周邊業(yè)態(tài)會(huì)更加豐富,。”亞信安全高級副總裁兼CDO吳湘寧說,，“現(xiàn)在大家都還在探索大模型生態(tài)安全的建設(shè),，可以明確的是整個(gè)生態(tài)鏈打開后，很多技術(shù)使用場景都會(huì)發(fā)生改變,?！痹谥圃鞓I(yè)，美的是較早把安全大模型落地到信息安全領(lǐng)域的企業(yè),。據(jù)美的集團(tuán)首席信息安全官兼軟件工程院院長劉向陽介紹：“過去做安全運(yùn)營,，安全日志每天80億條，僅告警就有20萬條,，很難用人力處理,。引入安全大模型后，把安全告警需要人工研判的數(shù)量從20萬條降到了100至200條,，這就是人工能夠處理的程度了,。”談及與亞信安全的合作,，華為終端云開發(fā)者服務(wù)與平臺(tái)部總裁望岳表示,，鴻蒙操作系統(tǒng)是華為推出面向下一代端側(cè)的操作系統(tǒng)，在華為設(shè)計(jì)理念里,，“安全”排在所有因素之上,。操作系統(tǒng)涉及計(jì)算、資源,、通訊、圖形圖像等方方面面,，安全體系特別龐大,，安全面臨的形勢也尤為復(fù)雜，特別是應(yīng)用到各個(gè)行業(yè)，在制造業(yè)、家電行業(yè),、金融業(yè)等,，涉及安全的課題和考量點(diǎn)完全不一樣?！傍櫭刹僮飨到y(tǒng)其實(shí)也是一個(gè)容器,，需要像亞信安全這樣的合作伙伴,，把多年的經(jīng)驗(yàn),、積累,、能力放到鴻蒙操作系統(tǒng)的底層，以協(xié)同治理好整個(gè)系統(tǒng)的安全,?！薄霸谛碌臅r(shí)代，數(shù)據(jù)正在成為最重要的資產(chǎn),，大模型如同現(xiàn)代冶煉廠,，在鑄造出這個(gè)時(shí)代的‘鋼鐵’。操作系統(tǒng),、行業(yè)大模型與‘云網(wǎng)安’共同構(gòu)成新時(shí)代數(shù)據(jù)的基礎(chǔ)設(shè)施,，應(yīng)用開發(fā)者們在建造征服數(shù)據(jù)海洋的戰(zhàn)艦?！眮喰怕?lián)合創(chuàng)始人田溯寧如此生動(dòng)的比喻,，勾勒出的正是當(dāng)前正在建設(shè)中的新時(shí)代安全生態(tài)。（記者吳蔚）來源：經(jīng)濟(jì)參考報(bào)