新華網(wǎng)北京7月16日電（向思敏 鄭然）國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委,、教育部、科技部,、工業(yè)和信息化部、公安部、廣電總局日前公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》）,，自2023年8月15日起施行,。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，出臺(tái)《辦法》,，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益,，保護(hù)公民,、法人和其他組織的合法權(quán)益。

網(wǎng)信辦官網(wǎng)公布《生成式人工智能服務(wù)管理暫行辦法》

據(jù)悉,，在《辦法》公布前一周,，新華網(wǎng)召開了“生成式人工智能內(nèi)容安全與模型安全檢測(cè)平臺(tái)”（AIGC-Safe）邀請(qǐng)測(cè)試發(fā)布會(huì)，測(cè)試發(fā)布由新華網(wǎng)聯(lián)合中國(guó)科學(xué)院計(jì)算技術(shù)研究所（簡(jiǎn)稱“中科院計(jì)算所”）等行業(yè)機(jī)構(gòu)共同研發(fā)打造的AIGC安全治理平臺(tái),，以積極響應(yīng)國(guó)家數(shù)字經(jīng)濟(jì)戰(zhàn)略,，在監(jiān)管規(guī)范AIGC治理與應(yīng)用領(lǐng)域進(jìn)行重要探索。

深偽內(nèi)容安全治理為何迫在眉睫,？

早在去年11月,，國(guó)家網(wǎng)信辦、工業(yè)和信息化部,、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,，于今年1月10日起施行。今年4月11日,，國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》,。7月13日，七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》。一系列政策的密集出臺(tái),，正是為了應(yīng)對(duì)生成式人工智能技術(shù)快速發(fā)展帶來的機(jī)遇與挑戰(zhàn),。

“國(guó)家非常鼓勵(lì)生成式人工智能的發(fā)展,，但前提是安全,?！盇IGC-Safe平臺(tái)首席技術(shù)專家曹娟在發(fā)布會(huì)上說,，“生成式人工智能（AIGC）包含三個(gè)部分：文本生成,、圖像生成,、音視頻生成,。以ChatGPT-4為代表的大語言模型已出現(xiàn)智能‘涌現(xiàn)’現(xiàn)象,，圖像,、音視頻生成已能達(dá)到人類視覺聽覺難辨的逼真效果,。”

“生成式人工智能帶來的風(fēng)險(xiǎn)引發(fā)了社會(huì)擔(dān)憂,?！毙氯A網(wǎng)相關(guān)業(yè)務(wù)負(fù)責(zé)人舉例說，“未經(jīng)他人允許使用AI深度偽造其聲音,、動(dòng)作,、姿勢(shì)、手勢(shì),，甚至使用人工智能‘換臉’,、‘盜臉’；以虛假圖文,、音視頻等形式攻擊公眾人物,，侵犯組織及公民的權(quán)益和隱私；以深度偽造技術(shù)攻破支付身份認(rèn)證,，使風(fēng)險(xiǎn)系統(tǒng)失效,，給電信詐騙、金融詐騙,、黃暴恐等違法犯罪活動(dòng)帶來可趁之機(jī),；運(yùn)用虛擬助手生成論文等學(xué)術(shù)作弊行為，攪亂教育體系,；由于AIGC在知識(shí)產(chǎn)權(quán)方面的法律邊界一時(shí)難以厘清,，版權(quán)保護(hù)等文化傳媒領(lǐng)域也面臨前所未有的挑戰(zhàn)?！睂?duì)生成式人工智能服務(wù)的監(jiān)管與治理已箭在弦上,。

新華網(wǎng)作為新華社主辦的中央重點(diǎn)新聞網(wǎng)站和具有強(qiáng)大創(chuàng)新實(shí)力的互聯(lián)網(wǎng)上市企業(yè)，服務(wù)國(guó)家戰(zhàn)略,，持續(xù)推進(jìn)科技與傳媒的深度融合,，此次測(cè)試發(fā)布AIGC-Safe,，探尋破解AIGC安全治理痛點(diǎn)，引領(lǐng)行業(yè)健康發(fā)展,，可謂恰逢其時(shí),。

中科院計(jì)算所黨委委員王凡表示，中科院計(jì)算所一直圍繞智能算法安全這一重大創(chuàng)新領(lǐng)域,，籌建算法安全全國(guó)重點(diǎn)實(shí)驗(yàn)室,，已形成引領(lǐng)算法安全基礎(chǔ)研究的戰(zhàn)略力量?！爸锌圃河?jì)算所將為AIGC-Safe平臺(tái)全力做好核心技術(shù)支撐,，通過和新華網(wǎng)的合作，充分調(diào)動(dòng)‘政,、產(chǎn),、學(xué)、研,、用’各方優(yōu)勢(shì)力量,，探索科學(xué)的治理機(jī)制，為AIGC行業(yè)的健康發(fā)展貢獻(xiàn)力量,?！?/p>

AIGC-Safe平臺(tái)測(cè)試網(wǎng)頁截圖

行業(yè)呼吁，企業(yè)關(guān)注,，AIGC-Safe解決哪些“痛點(diǎn)”？

曹娟現(xiàn)場(chǎng)測(cè)試發(fā)布AIGC-Safe,，重點(diǎn)介紹了內(nèi)容安全檢測(cè)功能,。該功能可覆蓋文本、圖像及音視頻的檢測(cè),，能有效保障內(nèi)容的真實(shí)性與合規(guī)性,。檢測(cè)速度快、準(zhǔn)確率高,、易于部署,，在有效降低產(chǎn)業(yè)安全技術(shù)投入成本的同時(shí)提高安全保護(hù)效率，能夠廣泛應(yīng)用于虛假新聞,、AI換臉詐騙,、活體攻擊、版權(quán)內(nèi)容保護(hù)和學(xué)術(shù)誠信等多種檢測(cè)場(chǎng)景,，為媒體,、教育、金融,、公安等領(lǐng)域的AIGC安全治理保駕護(hù)航,。

與會(huì)嘉賓共話AIGC安全治理

“AIGC在提升效率的同時(shí),，對(duì)整個(gè)科研的生態(tài)提出了挑戰(zhàn)，如成果歸屬問題,、內(nèi)容來源問題,、抄襲剽竊問題、對(duì)科研基礎(chǔ)和真實(shí)性帶來的風(fēng)險(xiǎn)等,?！敝袊?guó)科學(xué)學(xué)與科技政策研究會(huì)科研誠信與負(fù)責(zé)任創(chuàng)新專業(yè)委員會(huì)主任委員、中國(guó)科學(xué)院文獻(xiàn)情報(bào)中心科研誠信研究中心副主任袁軍鵬認(rèn)為,，“AIGC-Safe可以協(xié)助檢測(cè)和識(shí)別虛假信息,，維護(hù)學(xué)者的學(xué)術(shù)貢獻(xiàn)和知識(shí)產(chǎn)權(quán),?！?/p>

“AIGC-Safe是以‘道高一丈’去對(duì)抗‘魔高一尺’”,，中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)運(yùn)營(yíng)中心總監(jiān)荊克表示,，中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)由中央網(wǎng)信辦違法和不良信息舉報(bào)中心主辦、新華網(wǎng)承辦,，目前已初步形成“聯(lián)動(dòng)發(fā)現(xiàn),、聯(lián)動(dòng)澄清,、聯(lián)動(dòng)處置、聯(lián)動(dòng)辟謠”的工作體系,，是網(wǎng)上權(quán)威辟謠信息的主信源,、主渠道,、主陣地?！癆IGC-Safe的發(fā)布,，有利于加強(qiáng)對(duì)AIGC多模態(tài)深偽內(nèi)容的檢測(cè)和防范，通過技術(shù)賦能的手段,，新華網(wǎng)將為除根‘春風(fēng)吹又生’的謠言等虛假信息提供極大助力,。”

騰訊智影生態(tài)負(fù)責(zé)人王輝表示,，平臺(tái)型互聯(lián)網(wǎng)企業(yè)服務(wù)著非常大體量的用戶,，高度重視對(duì)隱私的保護(hù)和技術(shù)的合規(guī)使用，“迫切需要制定標(biāo)準(zhǔn),，厘清邊界和提供安全治理,，讓AIGC在發(fā)展中不斷完善?！?/p>

中國(guó)南方航空公司信息中心中臺(tái)架構(gòu)部副經(jīng)理陳璟介紹,，目前很多業(yè)務(wù)場(chǎng)景會(huì)遇到AI合規(guī)的挑戰(zhàn)，“我們希望通過人工智能與旅客直接交互來提升服務(wù)質(zhì)量,，但這里面怎么做甄別,，確保信息是可靠的，我們一直在思考,?！标惌Z說，“在現(xiàn)場(chǎng)和大家一起測(cè)試了AIGC-Safe,，它的超快響應(yīng)效率和準(zhǔn)確性令人驚喜,。我相信南航的人機(jī)互動(dòng)夢(mèng)想很快就可以成真?！?/p>

橙盾信息科技有限公司（阿里巴巴控股）信息安全產(chǎn)品總監(jiān)雷濤認(rèn)為，有了AIGC-Safe,，不僅可以在常規(guī)的網(wǎng)絡(luò)安全層面堵牢一些常見的供應(yīng)鏈“越權(quán)”等漏洞,，還能有效避免因大模型的污染引發(fā)的數(shù)據(jù)和個(gè)人隱私泄露等風(fēng)險(xiǎn)。

用AI科技為AI行業(yè)健康發(fā)展護(hù)航

據(jù)量子位智庫今年4月發(fā)表的《2023中國(guó)AIGC產(chǎn)業(yè)全景報(bào)告》預(yù)測(cè),，我國(guó)2023年AIGC市場(chǎng)規(guī)?？蛇_(dá)到170億人民幣，2030年市場(chǎng)規(guī)模超萬億人民幣,。AIGC蘊(yùn)含著廣闊的應(yīng)用前景和市場(chǎng)潛力,，同時(shí)，AIGC安全的邊界決定著其發(fā)展的邊界,。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出,，生成式人工智能服務(wù)的發(fā)展與治理需要政府,、企業(yè)、社會(huì),、網(wǎng)民等多方參與,。

《生成式人工智能服務(wù)管理暫行辦法》明確規(guī)定，支持行業(yè)組織,、企業(yè),、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面開展協(xié)作,。

在陳璟看來，AIGC的安全治理應(yīng)在政策指引下通過全社會(huì)協(xié)力來完善,。

王輝認(rèn)為,，“用最小的投入產(chǎn)出最大的成果才是務(wù)實(shí)的，有可能落地的,?！彼J(rèn)為，應(yīng)加強(qiáng)與行業(yè)龍頭企業(yè)合作,，樹立標(biāo)桿模式,，形成合作示范效應(yīng)。

“AIGC安全治理主要面臨兩方面的巨大挑戰(zhàn),。一是技術(shù)挑戰(zhàn),，如生成式模型的快速迭代和強(qiáng)對(duì)抗環(huán)境的干擾；二是業(yè)務(wù)場(chǎng)景的挑戰(zhàn),，包括業(yè)務(wù)場(chǎng)景中的受限條件,、新業(yè)務(wù)場(chǎng)景不斷涌現(xiàn)等?！辈芫晏寡?，“如果大家各自為政做這個(gè)事情，需要耗費(fèi)大量人力物力,?！币虼薃IGC安全治理應(yīng)該是一個(gè)長(zhǎng)期路線，開放邀請(qǐng)更多伙伴加入,，不斷去迭代,。

“AIGC-Safe將聯(lián)合行業(yè)管理機(jī)構(gòu)、大模型研發(fā)機(jī)構(gòu),、新聞媒體單位,、數(shù)字場(chǎng)景應(yīng)用平臺(tái)等合作伙伴，發(fā)起構(gòu)建生成式人工智能內(nèi)容安全與模型安全檢測(cè)平臺(tái),，共同應(yīng)對(duì)AIGC多模態(tài)深偽內(nèi)容的檢測(cè)和防范,，用AI守護(hù)AI,，護(hù)衛(wèi)行業(yè)更好發(fā)展,。”新華網(wǎng)相關(guān)業(yè)務(wù)負(fù)責(zé)人在活動(dòng)現(xiàn)場(chǎng)發(fā)出共建生態(tài)矩陣的邀請(qǐng),。