“安全認(rèn)知,，日見清晰,；安全研究,，路阻且長,；安全行業(yè),，大有可為,；緊跟創(chuàng)新，保障發(fā)展……”在近日舉行的第十二屆互聯(lián)網(wǎng)安全大會(huì)上,，中國工程院院士吳世忠的一番總結(jié),，折射了AI（人工智能）時(shí)代安全大模型行業(yè)的發(fā)展現(xiàn)狀。一直以來,，技術(shù)發(fā)展伴生的安全挑戰(zhàn),、迭代防護(hù)，貫穿著行業(yè)發(fā)展,，也備受各界關(guān)注,。當(dāng)天，多位兩院院士,，中國互聯(lián)網(wǎng)協(xié)會(huì),、中國信通院、世界互聯(lián)網(wǎng)大會(huì)等機(jī)構(gòu)組織負(fù)責(zé)人,，以及華為,、360、微軟等國內(nèi)外企業(yè)代表齊聚,，圍繞“打造安全大模型”主題,，分享來自政產(chǎn)學(xué)研用領(lǐng)域的各方觀點(diǎn)。從“百模大戰(zhàn)”到探尋更多應(yīng)用場(chǎng)景在過去的兩年里,，隨著ChatGPT在全球范圍內(nèi)爆紅，AI大模型熱潮在國內(nèi)急速升溫,，多家互聯(lián)網(wǎng)巨頭紛紛加速布局大模型應(yīng)用,。記者從會(huì)上了解到，截至目前,，我國已完成備案并上線,、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型達(dá)180多個(gè),，注冊(cè)用戶數(shù)已突破5.64億?！癆I以激進(jìn)式的科技創(chuàng)新,，全面推進(jìn)新一輪科技革命和生活賦能?！眳鞘乐医榻B,，以顛覆式的應(yīng)用創(chuàng)新，全面推進(jìn)新一輪的大國博弈和社會(huì)變革,。特別是基礎(chǔ)模型的突破,，展示出強(qiáng)大的新質(zhì)生產(chǎn)力，激發(fā)出科技,、經(jīng)濟(jì),、社會(huì)和國家管理全方位的深刻變化。中國科學(xué)院院士,、清華大學(xué)計(jì)算機(jī)系教授張鈸也深有感觸,，大模型的出現(xiàn)標(biāo)志著AI發(fā)展進(jìn)入新階段，具備了強(qiáng)大的語言生成能力,、人機(jī)自然交互能力,、遷移（舉一反三）能力?！白罱荒昀?，我國在基礎(chǔ)模型研發(fā)、自然語言處理,、多模態(tài)生成等領(lǐng)域取得了顯著進(jìn)展,，為千行百業(yè)的智能化轉(zhuǎn)型提供了堅(jiān)實(shí)支撐”?！拔覀円殉醪綐?gòu)建了較為全面的AI技術(shù)產(chǎn)業(yè)體系,，建成了2500多個(gè)數(shù)字化車間和智能工廠，經(jīng)過AI改造研發(fā)周期平均縮短20％,，生產(chǎn)效率提升35％……”中國信息通信研究院副院長魏亮分享了這樣一組數(shù)據(jù),。他分析認(rèn)為，大模型技術(shù)發(fā)展帶來高質(zhì)量算力基礎(chǔ)設(shè)施和數(shù)據(jù)集語料庫的大量需求,，我們要加快推進(jìn)大模型基礎(chǔ)設(shè)施化,，促進(jìn)行業(yè)應(yīng)用和中小企業(yè)普惠使用，不斷創(chuàng)新應(yīng)用生態(tài),、推動(dòng)縱深發(fā)展,。從曾經(jīng)的“百模大戰(zhàn)”,，到持續(xù)賦能千行百業(yè)，再到如今發(fā)力探尋具體應(yīng)用場(chǎng)景,?！?024年應(yīng)該是場(chǎng)景之年，要結(jié)合業(yè)務(wù)找‘明星場(chǎng)景’,，然后根據(jù)場(chǎng)景設(shè)計(jì)功能,，對(duì)大模型進(jìn)行專項(xiàng)訓(xùn)練?！?360集團(tuán)創(chuàng)始人周鴻祎認(rèn)為,，我們不能追求全能，通過一個(gè)大模型解決所有問題,，應(yīng)該讓專業(yè)大模型解決專業(yè)問題,，找到垂直場(chǎng)景和細(xì)分切口，并且由多個(gè)專業(yè)模型組合起來,，這樣很多問題就可以迎刃而解,。中國工程院院士鄔賀銓也提到“協(xié)作”的重要性。他認(rèn)為,，需要協(xié)作開發(fā)行業(yè)大模型,。這些基礎(chǔ)大模型是企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型不可或缺的一環(huán)，需要應(yīng)對(duì)包括強(qiáng)大的算力,、充足的數(shù)據(jù),、高水平的研材、新應(yīng)用的算法等諸多挑戰(zhàn),，這就需要大模型提供方與垂直行業(yè)緊密合作,。技術(shù)向善,，也能“向惡”“ChatGPT問世不到一年,，有關(guān)人工智能的風(fēng)險(xiǎn)預(yù)警，就在科學(xué)創(chuàng)新的前沿陣地率先觸發(fā),。它是典型的兩用性技術(shù)和雙刃劍特性,，人們擔(dān)心技術(shù)發(fā)展失控、道理倫理失范,、網(wǎng)絡(luò)安全失守,。”吳世忠談到這樣一組觀察體會(huì)——近年來,，OpenAI,、Meta、DeepMind等國外行業(yè)巨頭相繼加大安全技術(shù)和監(jiān)管措施的投入,，國內(nèi)的百度,、阿里,、華為、科大訊飛,、360,、智譜等，也在安全研究上布局投資,。這說明,，國內(nèi)外主流廠商逐漸認(rèn)識(shí)到安全研究的重要性,，大模型能力增長需要安全研究快速跟進(jìn)已成為業(yè)界共識(shí),。“AI浪潮勢(shì)不可當(dāng),。它既是一次工業(yè)革命,，又是對(duì)安全行業(yè)的一次機(jī)會(huì)?！敝茗櫟t認(rèn)為,，在大模型重塑所有行業(yè)、產(chǎn)品時(shí),，更多的思考應(yīng)該是能不能利用AI實(shí)現(xiàn)安全技術(shù)突破,、能不能助力降本增效。以前的“百模大戰(zhàn)”解決了大模型從無到有,、從0到1的發(fā)展過程,，如今我們不要再“卷”模型了 ，要重點(diǎn)關(guān)注應(yīng)用層面,，其中一個(gè)重要場(chǎng)景就是“安全”,。在業(yè)界看來，當(dāng)前AI的發(fā)展在基礎(chǔ)理論和具體應(yīng)用上存在諸多不足,?！吧墒紸I存在‘幻覺’缺陷，它會(huì)‘胡說八道’,，很多情況下還并不知道自己說錯(cuò)了,。它和機(jī)器產(chǎn)生的錯(cuò)誤不一樣，后者往往我們可以控制,，但前者是本身的錯(cuò)誤,，是一定會(huì)發(fā)生且不可控的。這是我們開發(fā)應(yīng)用中需要重點(diǎn)考慮的問題,?！睆堚撨@樣說?！癆I既有向善的一面,，也有向惡的一面,。”中國工程院院士,、國家數(shù)字交換系統(tǒng)工程技術(shù)研究中心主任鄔江興認(rèn)為,，AI應(yīng)用系統(tǒng)安全責(zé)任與風(fēng)險(xiǎn)存在嚴(yán)重失衡。AI應(yīng)用系統(tǒng)網(wǎng)絡(luò)內(nèi)生安全的共性問題,，在于計(jì)算機(jī)帶來了“娘胎的基因缺陷”,，如果不能杜絕軟硬件代碼設(shè)計(jì)中的脆弱性，就無法杜絕網(wǎng)絡(luò)問題,。鄔江興還提到,，內(nèi)生安全的個(gè)性問題是當(dāng)前AI推廣應(yīng)用中的最大障礙，存在著“三大問題”：一是不可解釋性,，指通過訓(xùn)練擬合階段的一些工作原理我們并不明確,；二是不可判識(shí)性，指訓(xùn)練AI的大數(shù)據(jù)質(zhì)量高低,，直接影響大模型判斷結(jié)果,；三是不可推論性，指AI目前對(duì)沒有經(jīng)歷過的未知事物無法理解和判斷,。吳世忠也坦言,，相對(duì)于大模型本身的研究，相關(guān)的安全研究剛剛開始,，不但任重道遠(yuǎn),，而且困難重重：一是對(duì)于大模型的解釋性和透明性不足；二是安全保障技術(shù)存在復(fù)雜性和多樣性,，比如,，攻擊手段形式多樣導(dǎo)致防御措施難以全面覆蓋，訓(xùn)練高效大模型既需要大量數(shù)據(jù)卻又難以有效保護(hù)數(shù)據(jù)隱私,；三是倫理和道德問題的復(fù)雜性,，也增加了制定統(tǒng)一標(biāo)準(zhǔn)的難度；四是安全測(cè)試和風(fēng)險(xiǎn)評(píng)估的復(fù)雜性,，包括測(cè)評(píng)標(biāo)準(zhǔn)多樣性,、方法不完備性、測(cè)試工具局限性等,?！耙阅Ｖ颇！?，用AI對(duì)抗AI多年來,，互聯(lián)網(wǎng)技術(shù)的攻防對(duì)抗，宛如一場(chǎng)從未停歇的“魔道較量”，并且隨著AI融入更多場(chǎng)景,，形勢(shì)愈發(fā)嚴(yán)峻,。“大模型在企業(yè)運(yùn)營中的應(yīng)用日益廣泛,，數(shù)字安全領(lǐng)域也在不斷進(jìn)步,，需要不斷探索新的防護(hù)策略來應(yīng)對(duì)日益復(fù)雜的數(shù)字化環(huán)境。AI等數(shù)字技術(shù)的應(yīng)用既是安全防御的重點(diǎn),，也是保障的有利手段,，需要將大數(shù)據(jù)、AI,、物聯(lián)網(wǎng)等技術(shù)結(jié)合,，提升保障能力,。”鄔賀銓說。他還建議,，要?jiǎng)?chuàng)新升級(jí)數(shù)字安全防護(hù)措施,。傳統(tǒng)安全防護(hù)手段需要向云化、服務(wù)化轉(zhuǎn)型,，數(shù)字安全企業(yè)應(yīng)構(gòu)建體系化的安全運(yùn)營服務(wù)框架,，為各行業(yè)提供安全能力，幫助構(gòu)建和維護(hù)安全防御體系,?！安话l(fā)展是最大的不安全，約束是為了發(fā)展,，沒有約束的發(fā)展是不可持續(xù)發(fā)展,。我們要明確這一思路?！敝袊ヂ?lián)網(wǎng)協(xié)會(huì)副理事長黃澄清呼吁,，鼓勵(lì)互聯(lián)網(wǎng)企業(yè)利用AI技術(shù)提升安全防御的智能化水平，持續(xù)加大在人工智能與數(shù)字安全領(lǐng)域的研發(fā)投入,，促進(jìn)產(chǎn)學(xué)研用深度融合,，加速技術(shù)成果向產(chǎn)業(yè)轉(zhuǎn)化。面對(duì)大模型帶來新的安全問題,，周鴻祎認(rèn)為,，之前的網(wǎng)絡(luò)安全是人與人的對(duì)抗，未來將變成人與機(jī)器的對(duì)抗,，最后會(huì)發(fā)展成機(jī)器與機(jī)器的對(duì)抗,。因此，用傳統(tǒng)安全思路解決AI帶來的安全問題是不行的,，必須用AI重塑安全,，“用魔法打敗魔法”“以模治模”,，用安全大模型解決大模型安全問題,，這樣既解決了傳統(tǒng)安全問題，又解決了安全的新問題,。比如,，360安全大模型不斷探尋“明星場(chǎng)景”，基于攻擊檢測(cè),、運(yùn)營處置,、追蹤溯源、知識(shí)管理,、數(shù)據(jù)保護(hù),、代碼安全等場(chǎng)景訓(xùn)練了六個(gè)專有大模型,，解決了網(wǎng)絡(luò)安全發(fā)現(xiàn)攻擊難、溯源難,、處置耗費(fèi)人力高,、漏洞發(fā)現(xiàn)難、大模型自身安全漏洞等行業(yè)普遍問題,。自今年8月1日起,，歐盟《人工智能法案》生效，這是全球首部全面監(jiān)管人工智能法規(guī),?！敖刂聊壳埃呀?jīng)有數(shù)十個(gè)國家先后發(fā)布了與人工智能相關(guān)的國家戰(zhàn)略和法規(guī)文件,。人工智能的核心關(guān)切主要是透明度,、公開性、非惡意,、負(fù)責(zé)任,、隱私、向善,、信任,、尊嚴(yán)等，治理研究是將這些落實(shí)到從大模型部署,、開發(fā),、計(jì)算推理,、數(shù)據(jù)輸入到推廣應(yīng)用的各個(gè)環(huán)節(jié),。”吳世忠說,?！癆I時(shí)代，確保網(wǎng)絡(luò)安全不僅是發(fā)揮互聯(lián)網(wǎng)作為全球紐帶的核心要素,，更是實(shí)現(xiàn)AI為人類社會(huì)帶來福祉的基礎(chǔ)前提,。”在國際合作方面,，世界互聯(lián)網(wǎng)大會(huì)秘書長任賢良表示,，我們要推動(dòng)協(xié)同共治，匯聚產(chǎn)學(xué)研用各方力量,，推動(dòng)數(shù)字安全與新一代信息技術(shù)協(xié)同創(chuàng)新,、示范應(yīng)用、融合發(fā)展,，構(gòu)建理論交流,、技術(shù)合作、人才培養(yǎng)的良好生態(tài)。（記者 李政葳,、劉昊）來源：光明網(wǎng)