光明網(wǎng)記者 李政葳 劉 昊“安全認知,，日見清晰,；安全研究，路阻且長,；安全行業(yè),，大有可為；緊跟創(chuàng)新,，保障發(fā)展……”在近日舉行的第十二屆互聯(lián)網(wǎng)安全大會上,，中國工程院院士吳世忠的一番總結，折射了AI（人工智能）時代安全大模型行業(yè)的發(fā)展現(xiàn)狀。一直以來,，技術發(fā)展伴生的安全挑戰(zhàn),、迭代防護，貫穿著行業(yè)發(fā)展始終,，也備受各界關注,。大會期間，多位院士,，中國互聯(lián)網(wǎng)協(xié)會,、中國信通院、世界互聯(lián)網(wǎng)大會等機構組織負責人,，以及國內(nèi)外企業(yè)代表齊聚,，圍繞“打造安全大模型”主題，分享來自政產(chǎn)學研用領域的各方觀點,。從“百模大戰(zhàn)”到探尋更多應用場景在過去的兩年里,，隨著ChatGPT在全球范圍內(nèi)爆紅，AI大模型熱潮在國內(nèi)急速升溫,，多家互聯(lián)網(wǎng)巨頭紛紛加速布局大模型應用,。記者從會上了解到，截至目前,，我國已完成備案并上線,、能為公眾提供服務的生成式人工智能服務大模型有180多個,，注冊用戶數(shù)已突破5.64億。會上專家介紹,，AI以激進式的科技創(chuàng)新,，全面推進新一輪科技革命和生活賦能,，以顛覆式的應用創(chuàng)新，激發(fā)出科技,、經(jīng)濟,、社會全方位的深刻變化。大模型的出現(xiàn)標志著AI發(fā)展進入新階段,，具備了強大的語言生成能力,、人機自然交互能力、遷移（舉一反三）能力,?！拔覀円殉醪綐嫿溯^為全面的AI技術產(chǎn)業(yè)體系，建成了2500多個數(shù)字化車間和智能工廠,，經(jīng)過AI改造研發(fā)周期平均縮短20％,，生產(chǎn)效率提升35％……”中國信息通信研究院副院長魏亮分享了這樣一組數(shù)據(jù)。他分析認為,，大模型技術發(fā)展帶來高質(zhì)量算力基礎設施和數(shù)據(jù)集語料庫的大量需求,，我們要加快推進大模型基礎設施化，促進行業(yè)應用和中小企業(yè)普惠使用,，不斷創(chuàng)新應用生態(tài),、推動縱深發(fā)展。從曾經(jīng)的“百模大戰(zhàn)”,，到持續(xù)賦能千行百業(yè),，再到如今發(fā)力探尋具體應用場景?！?024年應該是場景之年,，要結合業(yè)務找‘明星場景’，然后根據(jù)場景設計功能,，對大模型進行專項訓練,?！?60集團創(chuàng)始人周鴻祎認為,。有專家提到“協(xié)作”的重要性，基礎大模型是企業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型不可或缺的一環(huán),，需要應對包括強大的算力,、充足的數(shù)據(jù)、高水平的研材,、新應用的算法等諸多挑戰(zhàn),，這就需要大模型提供方與垂直行業(yè)緊密合作。大模型具有兩用性和雙刃劍特征“ChatGPT問世不到一年,，科研前沿就有了風險預警,。它是典型的兩用性技術,，具有雙刃劍特性，人們擔心技術發(fā)展失控,、道理倫理失范,、網(wǎng)絡安全失守?！眳鞘乐艺劦竭@樣一組觀察體會——近年來,，美國人工智能公司“開放人工智能研究中心”（OpenAI）等國外行業(yè)巨頭相繼加大安全技術和監(jiān)管措施的投入，國內(nèi)諸多企業(yè)也在安全研究上布局投資,。這說明,，大模型能力增長需要安全研究快速跟進，這已成為業(yè)界共識,。在業(yè)界看來,，當前AI的發(fā)展存在諸多不足?！吧墒紸I存在‘幻覺’缺陷,，它會‘胡說八道’，很多情況下還并不知道自己說錯了,。它和機器產(chǎn)生的錯誤不一樣,，后者往往我們可以控制，但前者是本身的錯誤,，是一定會發(fā)生且不可控的,。這是開發(fā)應用中需要重點考慮的問題?！敝袊茖W院院士,、清華大學計算機系教授張鈸說?！癆I既有向善的一面,，也有向惡的一面?！敝袊こ淘涸菏?、國家數(shù)字交換系統(tǒng)工程技術研究中心主任鄔江興認為，AI應用系統(tǒng)安全責任與風險存在嚴重失衡,。AI應用系統(tǒng)網(wǎng)絡內(nèi)生安全的共性問題,，在于計算機帶來了“娘胎的基因缺陷”，如果不能杜絕軟硬件代碼設計中的脆弱性,，就無法杜絕網(wǎng)絡問題,。據(jù)了解，相對于大模型本身的研究,，相關的安全研究才剛剛開始,，不但任重道遠,，而且困難重重：一是對于大模型的解釋性和透明性不足；二是安全保障技術存在復雜性和多樣性,；三是倫理和道德問題的復雜性,；四是安全測試和風險評估的復雜性。推動協(xié)同共治,，匯聚各方力量多年來,，互聯(lián)網(wǎng)技術的攻防對抗，宛如一場從未停歇的“正邪較量”,?！靶枰粩嗵剿餍碌姆雷o策略來應對日益復雜的數(shù)字化環(huán)境，數(shù)字技術應用既是安全防御的重點,，也是保障的有力手段,，需要將大數(shù)據(jù)、AI,、物聯(lián)網(wǎng)等技術結合,，提升保障能力?！敝袊こ淘涸菏苦w賀銓建議,，傳統(tǒng)安全防護手段需要向云化,、服務化轉(zhuǎn)型,，數(shù)字安全企業(yè)應構建體系化的安全運營服務框架,，為各行業(yè)提供安全能力,，幫助構建和維護安全防御體系,。“不發(fā)展是最大的不安全,，約束是為了發(fā)展，沒有約束的發(fā)展是不可持續(xù)發(fā)展,。我們要明確這一思路,。”中國互聯(lián)網(wǎng)協(xié)會副理事長黃澄清呼吁,，鼓勵互聯(lián)網(wǎng)企業(yè)利用AI技術提升安全防御的智能化水平，持續(xù)加大在人工智能與數(shù)字安全領域的研發(fā)投入,，促進產(chǎn)學研用深度融合,，加速技術成果向產(chǎn)業(yè)轉(zhuǎn)化,。據(jù)了解,，自今年8月1日起,，歐盟《人工智能法案》生效,，這是全球首部全面監(jiān)管人工智能法規(guī)。截至目前,，已經(jīng)有數(shù)十個國家先后發(fā)布了與人工智能相關的國家戰(zhàn)略和法規(guī)文件。人工智能的核心關切主要是透明度,、公開性,、非惡意,、負責任,、隱私、向善,、信任,、尊嚴等,，治理研究是將這些落實到從大模型部署、開發(fā),、計算推理、數(shù)據(jù)輸入到推廣應用的各個環(huán)節(jié),。“人工智能時代,，確保網(wǎng)絡安全不僅是發(fā)揮互聯(lián)網(wǎng)作為全球紐帶的核心要素，更是實現(xiàn)人工智能為人類社會帶來福祉的基礎前提,。”在國際合作方面,，世界互聯(lián)網(wǎng)大會秘書長任賢良表示，我們要推動協(xié)同共治,，匯聚各方力量，推動數(shù)字安全與新一代信息技術協(xié)同創(chuàng)新,、示范應用,、融合發(fā)展,，構建理論交流,、技術合作,、人才培養(yǎng)的良好生態(tài),。《光明日報》（2024年08月09日 09版）來源：光明網(wǎng)-《光明日報》