新華網(wǎng)北京7月16日電（向思敏 鄭然）國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委,、教育部、科技部,、工業(yè)和信息化部,、公安部,、廣電總局日前公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,，出臺《辦法》，旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護國家安全和社會公共利益，保護公民,、法人和其他組織的合法權(quán)益,。

網(wǎng)信辦官網(wǎng)公布《生成式人工智能服務(wù)管理暫行辦法》

據(jù)悉，在《辦法》公布前一周,，新華網(wǎng)召開了“生成式人工智能內(nèi)容安全與模型安全檢測平臺”（AIGC-Safe）邀請測試發(fā)布會,，測試發(fā)布由新華網(wǎng)聯(lián)合中國科學(xué)院計算技術(shù)研究所（簡稱“中科院計算所”）等行業(yè)機構(gòu)共同研發(fā)打造的AIGC安全治理平臺，以積極響應(yīng)國家數(shù)字經(jīng)濟戰(zhàn)略,，在監(jiān)管規(guī)范AIGC治理與應(yīng)用領(lǐng)域進行重要探索,。

深偽內(nèi)容安全治理為何迫在眉睫？

早在去年11月,，國家網(wǎng)信辦,、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,，于今年1月10日起施行,。今年4月11日，國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》,。7月13日,，七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》。一系列政策的密集出臺,，正是為了應(yīng)對生成式人工智能技術(shù)快速發(fā)展帶來的機遇與挑戰(zhàn),。

“國家非常鼓勵生成式人工智能的發(fā)展，但前提是安全,?！盇IGC-Safe平臺首席技術(shù)專家曹娟在發(fā)布會上說，“生成式人工智能（AIGC）包含三個部分：文本生成,、圖像生成,、音視頻生成。以ChatGPT-4為代表的大語言模型已出現(xiàn)智能‘涌現(xiàn)’現(xiàn)象,，圖像,、音視頻生成已能達到人類視覺聽覺難辨的逼真效果?！?/p>

“生成式人工智能帶來的風(fēng)險引發(fā)了社會擔(dān)憂,。”新華網(wǎng)相關(guān)業(yè)務(wù)負(fù)責(zé)人舉例說,，“未經(jīng)他人允許使用AI深度偽造其聲音,、動作,、姿勢、手勢,，甚至使用人工智能‘換臉’,、‘盜臉’；以虛假圖文,、音視頻等形式攻擊公眾人物,，侵犯組織及公民的權(quán)益和隱私；以深度偽造技術(shù)攻破支付身份認(rèn)證,，使風(fēng)險系統(tǒng)失效,，給電信詐騙、金融詐騙,、黃暴恐等違法犯罪活動帶來可趁之機,；運用虛擬助手生成論文等學(xué)術(shù)作弊行為，攪亂教育體系,；由于AIGC在知識產(chǎn)權(quán)方面的法律邊界一時難以厘清,，版權(quán)保護等文化傳媒領(lǐng)域也面臨前所未有的挑戰(zhàn)?！睂ι墒饺斯ぶ悄芊?wù)的監(jiān)管與治理已箭在弦上,。

新華網(wǎng)作為新華社主辦的中央重點新聞網(wǎng)站和具有強大創(chuàng)新實力的互聯(lián)網(wǎng)上市企業(yè)，服務(wù)國家戰(zhàn)略,，持續(xù)推進科技與傳媒的深度融合，此次測試發(fā)布AIGC-Safe,，探尋破解AIGC安全治理痛點,，引領(lǐng)行業(yè)健康發(fā)展，可謂恰逢其時,。

中科院計算所黨委委員王凡表示,，中科院計算所一直圍繞智能算法安全這一重大創(chuàng)新領(lǐng)域，籌建算法安全全國重點實驗室,，已形成引領(lǐng)算法安全基礎(chǔ)研究的戰(zhàn)略力量,。“中科院計算所將為AIGC-Safe平臺全力做好核心技術(shù)支撐,，通過和新華網(wǎng)的合作,，充分調(diào)動‘政、產(chǎn),、學(xué),、研、用’各方優(yōu)勢力量,，探索科學(xué)的治理機制,，為AIGC行業(yè)的健康發(fā)展貢獻力量,。”

AIGC-Safe平臺測試網(wǎng)頁截圖

行業(yè)呼吁,，企業(yè)關(guān)注,，AIGC-Safe解決哪些“痛點”？

曹娟現(xiàn)場測試發(fā)布AIGC-Safe,，重點介紹了內(nèi)容安全檢測功能,。該功能可覆蓋文本、圖像及音視頻的檢測,，能有效保障內(nèi)容的真實性與合規(guī)性,。檢測速度快、準(zhǔn)確率高,、易于部署,，在有效降低產(chǎn)業(yè)安全技術(shù)投入成本的同時提高安全保護效率，能夠廣泛應(yīng)用于虛假新聞,、AI換臉詐騙,、活體攻擊、版權(quán)內(nèi)容保護和學(xué)術(shù)誠信等多種檢測場景,，為媒體,、教育、金融,、公安等領(lǐng)域的AIGC安全治理保駕護航,。

與會嘉賓共話AIGC安全治理

“AIGC在提升效率的同時，對整個科研的生態(tài)提出了挑戰(zhàn),，如成果歸屬問題,、內(nèi)容來源問題、抄襲剽竊問題,、對科研基礎(chǔ)和真實性帶來的風(fēng)險等,。”中國科學(xué)學(xué)與科技政策研究會科研誠信與負(fù)責(zé)任創(chuàng)新專業(yè)委員會主任委員,、中國科學(xué)院文獻情報中心科研誠信研究中心副主任袁軍鵬認(rèn)為,，“AIGC-Safe可以協(xié)助檢測和識別虛假信息，維護學(xué)者的學(xué)術(shù)貢獻和知識產(chǎn)權(quán),?！?/p>

“AIGC-Safe是以‘道高一丈’去對抗‘魔高一尺’”，中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺運營中心總監(jiān)荊克表示,，中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺由中央網(wǎng)信辦違法和不良信息舉報中心主辦,、新華網(wǎng)承辦，目前已初步形成“聯(lián)動發(fā)現(xiàn),、聯(lián)動澄清,、聯(lián)動處置,、聯(lián)動辟謠”的工作體系，是網(wǎng)上權(quán)威辟謠信息的主信源,、主渠道,、主陣地?！癆IGC-Safe的發(fā)布,，有利于加強對AIGC多模態(tài)深偽內(nèi)容的檢測和防范，通過技術(shù)賦能的手段,，新華網(wǎng)將為除根‘春風(fēng)吹又生’的謠言等虛假信息提供極大助力,。”

騰訊智影生態(tài)負(fù)責(zé)人王輝表示,，平臺型互聯(lián)網(wǎng)企業(yè)服務(wù)著非常大體量的用戶,，高度重視對隱私的保護和技術(shù)的合規(guī)使用，“迫切需要制定標(biāo)準(zhǔn),，厘清邊界和提供安全治理,，讓AIGC在發(fā)展中不斷完善?！?/p>

中國南方航空公司信息中心中臺架構(gòu)部副經(jīng)理陳璟介紹,，目前很多業(yè)務(wù)場景會遇到AI合規(guī)的挑戰(zhàn)，“我們希望通過人工智能與旅客直接交互來提升服務(wù)質(zhì)量,，但這里面怎么做甄別,，確保信息是可靠的，我們一直在思考,?！标惌Z說，“在現(xiàn)場和大家一起測試了AIGC-Safe,，它的超快響應(yīng)效率和準(zhǔn)確性令人驚喜,。我相信南航的人機互動夢想很快就可以成真,?！?/p>

橙盾信息科技有限公司（阿里巴巴控股）信息安全產(chǎn)品總監(jiān)雷濤認(rèn)為，有了AIGC-Safe,，不僅可以在常規(guī)的網(wǎng)絡(luò)安全層面堵牢一些常見的供應(yīng)鏈“越權(quán)”等漏洞,，還能有效避免因大模型的污染引發(fā)的數(shù)據(jù)和個人隱私泄露等風(fēng)險。

用AI科技為AI行業(yè)健康發(fā)展護航

據(jù)量子位智庫今年4月發(fā)表的《2023中國AIGC產(chǎn)業(yè)全景報告》預(yù)測,，我國2023年AIGC市場規(guī)?？蛇_到170億人民幣，2030年市場規(guī)模超萬億人民幣,。AIGC蘊含著廣闊的應(yīng)用前景和市場潛力,，同時,，AIGC安全的邊界決定著其發(fā)展的邊界。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出,，生成式人工智能服務(wù)的發(fā)展與治理需要政府,、企業(yè)、社會,、網(wǎng)民等多方參與,。

《生成式人工智能服務(wù)管理暫行辦法》明確規(guī)定，支持行業(yè)組織,、企業(yè),、教育和科研機構(gòu)、公共文化機構(gòu),、有關(guān)專業(yè)機構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用,、風(fēng)險防范等方面開展協(xié)作,。

在陳璟看來，AIGC的安全治理應(yīng)在政策指引下通過全社會協(xié)力來完善,。

王輝認(rèn)為,，“用最小的投入產(chǎn)出最大的成果才是務(wù)實的，有可能落地的,?！彼J(rèn)為，應(yīng)加強與行業(yè)龍頭企業(yè)合作,，樹立標(biāo)桿模式,，形成合作示范效應(yīng)。

“AIGC安全治理主要面臨兩方面的巨大挑戰(zhàn),。一是技術(shù)挑戰(zhàn),，如生成式模型的快速迭代和強對抗環(huán)境的干擾；二是業(yè)務(wù)場景的挑戰(zhàn),，包括業(yè)務(wù)場景中的受限條件,、新業(yè)務(wù)場景不斷涌現(xiàn)等?！辈芫晏寡?，“如果大家各自為政做這個事情，需要耗費大量人力物力,?！币虼薃IGC安全治理應(yīng)該是一個長期路線，開放邀請更多伙伴加入,，不斷去迭代,。

“AIGC-Safe將聯(lián)合行業(yè)管理機構(gòu),、大模型研發(fā)機構(gòu)、新聞媒體單位,、數(shù)字場景應(yīng)用平臺等合作伙伴,，發(fā)起構(gòu)建生成式人工智能內(nèi)容安全與模型安全檢測平臺，共同應(yīng)對AIGC多模態(tài)深偽內(nèi)容的檢測和防范,，用AI守護AI,，護衛(wèi)行業(yè)更好發(fā)展?！毙氯A網(wǎng)相關(guān)業(yè)務(wù)負(fù)責(zé)人在活動現(xiàn)場發(fā)出共建生態(tài)矩陣的邀請,。