8月28日至29日舉辦的首屆網(wǎng)絡空間安全（天津）高峰論壇上，近800位來自網(wǎng)絡安全領域的官員,、專家學者和科研機構(gòu),、院校、企業(yè)代表齊聚一堂,，共話網(wǎng)絡空間安全形勢、共享網(wǎng)絡安全理念,、共商網(wǎng)絡安全對策,。

隨著人工智能的出現(xiàn),，網(wǎng)絡信息技術(shù)迭代升級加速,，網(wǎng)絡安全領域新情況,、新問題,、新挑戰(zhàn)層出不窮,，影響全球經(jīng)濟格局,、發(fā)展格局,、安全格局，也給網(wǎng)絡安全保障提出了更高要求,。部分業(yè)內(nèi)人士認為,，應強化風險意識,，建立有效的風險預警和應對機制,。同時,，各方應加強交流與合作，不斷提升網(wǎng)絡安全水平,。

人工智能產(chǎn)業(yè)在規(guī)范中發(fā)展,、發(fā)展中規(guī)范

今年,，生成式人工智能熱潮席卷全球。目前,，國內(nèi)的百度、科大訊飛等企業(yè)機構(gòu)已推出自己的大模型產(chǎn)品,。

部分專家判斷,，生成式人工智能將引發(fā)新一輪人工智能革命,，人類與機器,、技術(shù)與產(chǎn)業(yè),、虛擬與現(xiàn)實之間的關(guān)系正在發(fā)生廣泛而深刻的變化,，技術(shù)創(chuàng)新也給人類社會文明秩序帶來了挑戰(zhàn),。

對此,，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部,、科技部,、工業(yè)和信息化部、公安部,、國家廣播電視總局公布的《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）于8月15日起正式實施,。這是我國首個針對生成式人工智能產(chǎn)業(yè)的規(guī)范性政策,。《辦法》明確鼓勵生成式人工智能技術(shù)在各行業(yè),、各領域的創(chuàng)新應用,，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應用場景,，構(gòu)建應用生態(tài)體系。

360集團創(chuàng)始人周鴻祎認為,，《辦法》內(nèi)容表明了有關(guān)部門鼓勵創(chuàng)新，支持大模型發(fā)展的態(tài)度,，為科技企業(yè)創(chuàng)新提供了信心和保障,。《辦法》還明確了適用邊界,，既能夠規(guī)范大模型的公眾服務,，同時也有利于組織機構(gòu)的研發(fā)和應用,。

“產(chǎn)業(yè)數(shù)字化戰(zhàn)略背景下,，大模型作為工業(yè)革命級的生產(chǎn)力工具,，應當幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型,、智能化升級,。《辦法》對推動大模型在企業(yè)級場景的落地有積極意義,。”周鴻祎說,。

出席論壇的國家網(wǎng)信辦有關(guān)負責人表示,，生成式人工智能首先要統(tǒng)籌發(fā)展和安全,?！拔覀兩钪斯ぶ悄苁墙裉旒夹g(shù)發(fā)展方向,，生成式人工智能是人工智能的重要內(nèi)容,，它必將對我們的經(jīng)濟社會發(fā)展、人民群眾的生活發(fā)揮重要作用,；同時,，我們也要看到生成式人工智能可能帶來的安全風險，需要法律,、標準規(guī)范引領,。”他說,。

出席論壇的工業(yè)和信息化部有關(guān)負責人表示,，工信部系統(tǒng)推進網(wǎng)絡安全的保障體系和能力建設，取得積極成效,，關(guān)鍵信息基礎設施的保護,、工信領域的數(shù)據(jù)安全、新型基礎設施安全等一批標準陸續(xù)出臺,，網(wǎng)絡空間環(huán)境大幅改善,，人民群眾利益得到了切實保護。

“我國針對大模型的安全管理政策是科學且務實的,?！卑俣劝踩笨偨?jīng)理包沉浮說。

多位專家表示,，加強生成式人工智能的發(fā)展,、應用、管理,，目的是把技術(shù)轉(zhuǎn)變?yōu)樯a(chǎn)力,，讓人工智能技術(shù)在經(jīng)濟社會發(fā)展中發(fā)揮更大的作用。

人工智能為網(wǎng)絡安全治理帶來新挑戰(zhàn)

“人工智能在網(wǎng)絡安全領域給攻防雙方都帶來了變革,?！睔⒍拒浖髽I(yè)安博士中國區(qū)首席執(zhí)行官沈珉奎說。公安部網(wǎng)絡安全保衛(wèi)局楊骎博士也表示,，人工智能正在降低網(wǎng)絡犯罪的門檻,。

在個人層面，人工智能降低個人網(wǎng)絡犯罪門檻。美國專業(yè)安全技術(shù)公司邁克菲市場總監(jiān)泰勒·麥基說,，“我發(fā)現(xiàn)暗網(wǎng)上有很多暗黑版的GPT,，價格低廉，容易獲取,，有的每個月只需花90美元就能訂閱使用,。這些暗黑版GPT不但能寫釣魚郵件，還能編寫惡意程序代碼,?！?/p>

技術(shù)“小白”也能通過簡單的問答方式實施黑客攻擊，這相當于給了普通人一本“武林秘籍”,，讓不懂代碼,、不懂技術(shù)的普通人成為黑客。此外,，近期,，通過AI換臉和擬聲技術(shù)獲取信任進行詐騙的案例屢見不鮮?！爸恍枰獛酌腌姷恼Z音樣本或者一些視頻,，就可以假亂真，利用人工智能詐騙,，人們很難辨別,。”泰勒·麥基說,。

在社會層面,，人工智能偽造虛假信息會誤導社會公眾。人工智能深度偽造軟件簡單易用,，能輕松將面部表情,、技術(shù)動作和聲音三者融為一體，這種平民化和社會娛樂化的工具,，使得大規(guī)模,、低成本的針對個人的惡搞乃至污蔑成為可能。從娛樂到工作,，從新聞到科普,，無處不見人工智能的身影，它們以驚人的速度和數(shù)量回答問題,、發(fā)布文章,、制作圖片，但往往缺乏真實性,、準確性,。楊骎舉例說，利用人工智能技術(shù)制作虛假新聞事件,，對公眾人物制作虛假視頻,，容易造成不良引導，影響社會認知,，甚至破壞社會信任,、擾亂社會秩序。

今年6月,，浙江紹興警方在網(wǎng)上巡查時發(fā)現(xiàn)“紹興上虞化工廠發(fā)生重大火災”的視頻,，短時間內(nèi)瀏覽量迅速攀升。警方核實后確認視頻為人工智能技術(shù)深度合成,，并很快鎖定某科技網(wǎng)絡公司有較大作案嫌疑,。經(jīng)調(diào)查，5月以來,，該公司為牟取利益,，從網(wǎng)上非法收購一批視頻賬號，通過人工智能軟件,，自動生成或拼接制作虛假視頻發(fā)布,，以博取流量，并通過流量算法返款盈利,，造成了不良社會影響,。

聯(lián)合國安理會7月18日就人工智能與安全問題舉行高級別公開會。中國常駐聯(lián)合國代表張軍在會上指出,，國際社會要強化風險意識,，建立有效的風險預警和應對機制，確保不發(fā)生超出人類掌控的風險,，確保在關(guān)鍵時刻人類有能力按下停止鍵,。

呼喚網(wǎng)絡安全治理新格局

面對人工智能時代，網(wǎng)絡安全領域的新情況,、新問題,、新挑戰(zhàn)，業(yè)內(nèi)專家建議,，首先,，建立縱深化立體化防御體系。深信服科技股份有限公司首席安全官周欣認為,，針對多階段和定制化的攻擊,，可以建立縱深防御體系解決勒索病毒攻擊的行為。他建議以人工智能技術(shù)為核心,，持續(xù)對抗未知的樣本攻擊,?！拔覀兿Ｍ谩Хā瘜埂Хā萌斯ぶ悄艽驍∪斯ぶ悄?，我們企業(yè)也在進行有益嘗試,。”他說,。

其次,，建設一體化網(wǎng)絡安全運營中心。奇安信科技集團董事長齊向東表示,，做好安全合規(guī)不能只從簡單的產(chǎn)品堆砌入手,，要配合安全體系從管理、技術(shù),、運營三個角度開展安全運營治理和防護工作,，要建立“人+數(shù)據(jù)+智能”的運營體系，讓安全能力真正活起來,。

“只有這樣才能實現(xiàn)多元數(shù)據(jù)的匯聚,，對安全風險進行整體的態(tài)勢感知，在遭到威脅和網(wǎng)絡攻擊的時候能夠及時預警和響應,，完成對安全事件的閉環(huán)處置,。”齊向東說,。

此外,，還應深化國際交流，推進網(wǎng)絡安全技術(shù)新發(fā)展,。俄羅斯卡巴斯基實驗室創(chuàng)始人尤金·卡巴斯基表示,，要打擊散布全球的網(wǎng)絡罪犯，執(zhí)法部門之間的國際合作至關(guān)重要,。國家計算機病毒應急處理中心主任陳玉東說,，網(wǎng)絡安全是開放的而不是封閉的，只有立足開放環(huán)境,，加強交流合作,，吸收借鑒先進技術(shù)，網(wǎng)絡安全水平才會不斷提高,。

“推動網(wǎng)絡空間國際治理進程,，需要發(fā)揮信息化對經(jīng)濟社會發(fā)展的引領作用，積極利用法律法規(guī)和標準規(guī)范引導新技術(shù)應用,，自主創(chuàng)新推進網(wǎng)絡安全技術(shù)提升,，以技術(shù)創(chuàng)新夯實網(wǎng)絡安全基礎?！标愑駯|說,。

“各方應繼續(xù)努力,，進一步搭建合作交流的平臺，共同建立更加科學完善的網(wǎng)絡安全威脅應對處置機制,，攜手構(gòu)建網(wǎng)絡空間命運共同體,。” 天津市副市長,、市公安局長衡曉帆表示。（記者 李鯤 王井懷 張宇琪 黃江林 實習生 金梓純 天津報道）

責編：劉超