北京日?qǐng)?bào)客戶(hù)端 | 實(shí)習(xí)記者 夏驊

18日,，2023中國(guó)互聯(lián)網(wǎng)大會(huì)AI安全論壇召開(kāi),，記者會(huì)上獲悉，北京人工智能核心企業(yè)數(shù)量和人工智能算力發(fā)展水平高居全國(guó)第一。

近年來(lái),，全球人工智能產(chǎn)業(yè)呈現(xiàn)蓬勃發(fā)展勢(shì)頭,，一場(chǎng)難以阻擋的AI浪潮席卷而來(lái)，AI在安全領(lǐng)域的應(yīng)用也將帶來(lái)一系列顛覆性的改變,。

“我國(guó)目前已建成全球規(guī)模最大,，技術(shù)領(lǐng)先的網(wǎng)絡(luò)基礎(chǔ)設(shè)施，數(shù)據(jù)資源價(jià)值加快釋放,，技術(shù)創(chuàng)新能力加速提升,。”中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)副理事長(zhǎng)黃澄清表示,，當(dāng)前的互聯(lián)網(wǎng)不僅進(jìn)入了萬(wàn)物互聯(lián)的3.0時(shí)代,，也進(jìn)入了到了一個(gè)萬(wàn)物皆可AI的時(shí)代。

從政策上來(lái)看,，國(guó)家已陸續(xù)出臺(tái)一系列的政策文件,，為人工智能的發(fā)展提供更多的依據(jù)和制度保障。國(guó)務(wù)院出臺(tái)的《新一代人工智能發(fā)展規(guī)劃》,，明確將人工智能作為國(guó)家的戰(zhàn)略,。工信部等部委緊跟出臺(tái)文件落實(shí)，具體到技術(shù)創(chuàng)新、產(chǎn)業(yè)生態(tài)融合應(yīng)用等方面也取得積極的進(jìn)展,，尤其是隨著大模型帶來(lái)的產(chǎn)業(yè)發(fā)展變革,，我國(guó)已經(jīng)進(jìn)入了全球第一梯隊(duì)。

北京市通信管理局黨組成員,、副局長(zhǎng)王暉表示,，截止到2022年北京擁有人工智能核心企業(yè)數(shù)量，人工智能算力發(fā)展水平,，人工智能領(lǐng)域核心技術(shù)的人才占比和人工智能論文發(fā)展數(shù)量在全國(guó)均列第一,。

然而，人工智能在賦能產(chǎn)業(yè)應(yīng)用,，提高生產(chǎn)效率,、降低成本的同時(shí)，也給帶來(lái)了一系列新的安全應(yīng)用風(fēng)險(xiǎn)與挑戰(zhàn),。在數(shù)據(jù)安全方面,，人工智能依賴(lài)大規(guī)模數(shù)據(jù)，數(shù)據(jù)中包含了有害和敏感信息,，在實(shí)際應(yīng)用中會(huì)導(dǎo)致數(shù)據(jù)隱私泄露,，違規(guī)信息生成等安全風(fēng)險(xiǎn)。

在算法安全方面,，人工智能研發(fā)需要更大規(guī)模的算力及更專(zhuān)業(yè)的人才,，目前國(guó)內(nèi)缺少相關(guān)理論研究與實(shí)踐經(jīng)驗(yàn)。應(yīng)用安全方面,，人工智能技術(shù)快速發(fā)展的同時(shí)虛假內(nèi)容侵害個(gè)人隱私,，傳播違規(guī)信息和偏見(jiàn)歧視等問(wèn)題也在不斷發(fā)生，真實(shí)性,、合法性是人工智能應(yīng)用不可逃避的監(jiān)管難題,。

從行業(yè)安全來(lái)看，目前各行業(yè)的人工智能程度不盡相同,，某些行業(yè)已經(jīng)形成了規(guī)?；膽?yīng)用，還有一些行業(yè)仍舊處于信息化轉(zhuǎn)型時(shí)期,，各個(gè)行業(yè)對(duì)技術(shù)的安全監(jiān)管能力參差不齊,。

中國(guó)電信集團(tuán)網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛表示，隨著AI和大模型的廣泛應(yīng)用,，數(shù)據(jù)泄露等風(fēng)險(xiǎn)日益凸顯,，過(guò)度采集歧視性算法，濫用深度偽造等問(wèn)題需要引起注意,。

“當(dāng)前中國(guó)電信廣泛在網(wǎng)信安全領(lǐng)域應(yīng)用AI,，主要集中在云網(wǎng)安全的防護(hù)以及反詐方面,。”谷紅勛直言道,，未來(lái)的網(wǎng)絡(luò)安全防守體系最終極有可能是比拼AI能力和算法,。

根據(jù)中國(guó)科學(xué)技術(shù)信息研究院《中國(guó)人工智能大模型地圖研究報(bào)告》，截至5月28日,，國(guó)內(nèi)10億級(jí)參數(shù)規(guī)模以上基礎(chǔ)大模型,，至少已經(jīng)發(fā)布了79個(gè)。

大模型將會(huì)給網(wǎng)絡(luò)安全領(lǐng)域帶來(lái)哪些影響,？清華大學(xué)教授李丹列舉出了三個(gè)大模型助力網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用場(chǎng)景,，如代碼的漏洞挖掘和通過(guò)大語(yǔ)言模型的能力做網(wǎng)絡(luò)安全運(yùn)維機(jī)器人、自主進(jìn)化攻防演練等,。

為了推動(dòng)AI安全產(chǎn)業(yè)的發(fā)展,，論壇還發(fā)起《共建安全大模型高質(zhì)量數(shù)據(jù)集》的倡議，鼓勵(lì)安全領(lǐng)域的組織共享其積累的高質(zhì)量安全數(shù)據(jù)集,，將"數(shù)據(jù)共享,、質(zhì)量為先、有效流通,、合法合規(guī)"作為整體指導(dǎo)方針,，通過(guò)共建安全大模型高質(zhì)量數(shù)據(jù)集，促進(jìn)AI安全產(chǎn)業(yè)的合理有序發(fā)展,。