北京日報客戶端 | 實習(xí)記者 夏驊

18日,，2023中國互聯(lián)網(wǎng)大會AI安全論壇召開，記者會上獲悉,，北京人工智能核心企業(yè)數(shù)量和人工智能算力發(fā)展水平高居全國第一,。

近年來,，全球人工智能產(chǎn)業(yè)呈現(xiàn)蓬勃發(fā)展勢頭，一場難以阻擋的AI浪潮席卷而來,，AI在安全領(lǐng)域的應(yīng)用也將帶來一系列顛覆性的改變,。

“我國目前已建成全球規(guī)模最大，技術(shù)領(lǐng)先的網(wǎng)絡(luò)基礎(chǔ)設(shè)施,，數(shù)據(jù)資源價值加快釋放,，技術(shù)創(chuàng)新能力加速提升?！敝袊ヂ?lián)網(wǎng)協(xié)會副理事長黃澄清表示,，當(dāng)前的互聯(lián)網(wǎng)不僅進入了萬物互聯(lián)的3.0時代，也進入了到了一個萬物皆可AI的時代,。

從政策上來看,，國家已陸續(xù)出臺一系列的政策文件，為人工智能的發(fā)展提供更多的依據(jù)和制度保障,。國務(wù)院出臺的《新一代人工智能發(fā)展規(guī)劃》,，明確將人工智能作為國家的戰(zhàn)略。工信部等部委緊跟出臺文件落實,，具體到技術(shù)創(chuàng)新,、產(chǎn)業(yè)生態(tài)融合應(yīng)用等方面也取得積極的進展，尤其是隨著大模型帶來的產(chǎn)業(yè)發(fā)展變革,，我國已經(jīng)進入了全球第一梯隊,。

北京市通信管理局黨組成員、副局長王暉表示,，截止到2022年北京擁有人工智能核心企業(yè)數(shù)量,，人工智能算力發(fā)展水平，人工智能領(lǐng)域核心技術(shù)的人才占比和人工智能論文發(fā)展數(shù)量在全國均列第一,。

然而,，人工智能在賦能產(chǎn)業(yè)應(yīng)用,，提高生產(chǎn)效率、降低成本的同時,，也給帶來了一系列新的安全應(yīng)用風(fēng)險與挑戰(zhàn),。在數(shù)據(jù)安全方面，人工智能依賴大規(guī)模數(shù)據(jù),，數(shù)據(jù)中包含了有害和敏感信息,，在實際應(yīng)用中會導(dǎo)致數(shù)據(jù)隱私泄露，違規(guī)信息生成等安全風(fēng)險,。

在算法安全方面,，人工智能研發(fā)需要更大規(guī)模的算力及更專業(yè)的人才，目前國內(nèi)缺少相關(guān)理論研究與實踐經(jīng)驗,。應(yīng)用安全方面,，人工智能技術(shù)快速發(fā)展的同時虛假內(nèi)容侵害個人隱私，傳播違規(guī)信息和偏見歧視等問題也在不斷發(fā)生,，真實性,、合法性是人工智能應(yīng)用不可逃避的監(jiān)管難題。

從行業(yè)安全來看,，目前各行業(yè)的人工智能程度不盡相同,，某些行業(yè)已經(jīng)形成了規(guī)模化的應(yīng)用,，還有一些行業(yè)仍舊處于信息化轉(zhuǎn)型時期,，各個行業(yè)對技術(shù)的安全監(jiān)管能力參差不齊。

中國電信集團網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛表示,，隨著AI和大模型的廣泛應(yīng)用,，數(shù)據(jù)泄露等風(fēng)險日益凸顯，過度采集歧視性算法,，濫用深度偽造等問題需要引起注意,。

“當(dāng)前中國電信廣泛在網(wǎng)信安全領(lǐng)域應(yīng)用AI，主要集中在云網(wǎng)安全的防護以及反詐方面,?！惫燃t勛直言道，未來的網(wǎng)絡(luò)安全防守體系最終極有可能是比拼AI能力和算法,。

根據(jù)中國科學(xué)技術(shù)信息研究院《中國人工智能大模型地圖研究報告》,，截至5月28日，國內(nèi)10億級參數(shù)規(guī)模以上基礎(chǔ)大模型,，至少已經(jīng)發(fā)布了79個,。

大模型將會給網(wǎng)絡(luò)安全領(lǐng)域帶來哪些影響？清華大學(xué)教授李丹列舉出了三個大模型助力網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用場景,，如代碼的漏洞挖掘和通過大語言模型的能力做網(wǎng)絡(luò)安全運維機器人,、自主進化攻防演練等,。

為了推動AI安全產(chǎn)業(yè)的發(fā)展，論壇還發(fā)起《共建安全大模型高質(zhì)量數(shù)據(jù)集》的倡議,，鼓勵安全領(lǐng)域的組織共享其積累的高質(zhì)量安全數(shù)據(jù)集,，將"數(shù)據(jù)共享、質(zhì)量為先,、有效流通,、合法合規(guī)"作為整體指導(dǎo)方針，通過共建安全大模型高質(zhì)量數(shù)據(jù)集,，促進AI安全產(chǎn)業(yè)的合理有序發(fā)展,。