新華網(wǎng)北京7月16日電（向思敏 鄭然）國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委,、教育部,、科技部、工業(yè)和信息化部,、公安部,、廣電總局日前公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》），自2023年8月15日起施行,。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,，出臺(tái)《辦法》，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益,，保護(hù)公民,、法人和其他組織的合法權(quán)益。

網(wǎng)信辦官網(wǎng)公布《生成式人工智能服務(wù)管理暫行辦法》

據(jù)悉,，在《辦法》公布前一周,，新華網(wǎng)召開(kāi)了“生成式人工智能內(nèi)容安全與模型安全檢測(cè)平臺(tái)”（AIGC-Safe）邀請(qǐng)測(cè)試發(fā)布會(huì),，測(cè)試發(fā)布由新華網(wǎng)聯(lián)合中國(guó)科學(xué)院計(jì)算技術(shù)研究所（簡(jiǎn)稱(chēng)“中科院計(jì)算所”）等行業(yè)機(jī)構(gòu)共同研發(fā)打造的AIGC安全治理平臺(tái)，以積極響應(yīng)國(guó)家數(shù)字經(jīng)濟(jì)戰(zhàn)略,，在監(jiān)管規(guī)范AIGC治理與應(yīng)用領(lǐng)域進(jìn)行重要探索,。

深偽內(nèi)容安全治理為何迫在眉睫？

早在去年11月,，國(guó)家網(wǎng)信辦、工業(yè)和信息化部,、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,，于今年1月10日起施行。今年4月11日,，國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》,。7月13日，七部門(mén)聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》,。一系列政策的密集出臺(tái),，正是為了應(yīng)對(duì)生成式人工智能技術(shù)快速發(fā)展帶來(lái)的機(jī)遇與挑戰(zhàn)。

“國(guó)家非常鼓勵(lì)生成式人工智能的發(fā)展,，但前提是安全,。”AIGC-Safe平臺(tái)首席技術(shù)專(zhuān)家曹娟在發(fā)布會(huì)上說(shuō),，“生成式人工智能（AIGC）包含三個(gè)部分：文本生成,、圖像生成、音視頻生成,。以ChatGPT-4為代表的大語(yǔ)言模型已出現(xiàn)智能‘涌現(xiàn)’現(xiàn)象,，圖像、音視頻生成已能達(dá)到人類(lèi)視覺(jué)聽(tīng)覺(jué)難辨的逼真效果,?！?/p>

“生成式人工智能帶來(lái)的風(fēng)險(xiǎn)引發(fā)了社會(huì)擔(dān)憂(yōu)?！毙氯A網(wǎng)相關(guān)業(yè)務(wù)負(fù)責(zé)人舉例說(shuō),，“未經(jīng)他人允許使用AI深度偽造其聲音、動(dòng)作,、姿勢(shì),、手勢(shì)，甚至使用人工智能‘換臉’,、‘盜臉’,；以虛假圖文、音視頻等形式攻擊公眾人物,，侵犯組織及公民的權(quán)益和隱私,；以深度偽造技術(shù)攻破支付身份認(rèn)證,，使風(fēng)險(xiǎn)系統(tǒng)失效，給電信詐騙,、金融詐騙,、黃暴恐等違法犯罪活動(dòng)帶來(lái)可趁之機(jī)；運(yùn)用虛擬助手生成論文等學(xué)術(shù)作弊行為,，攪亂教育體系,；由于A(yíng)IGC在知識(shí)產(chǎn)權(quán)方面的法律邊界一時(shí)難以厘清，版權(quán)保護(hù)等文化傳媒領(lǐng)域也面臨前所未有的挑戰(zhàn),?！睂?duì)生成式人工智能服務(wù)的監(jiān)管與治理已箭在弦上。

新華網(wǎng)作為新華社主辦的中央重點(diǎn)新聞網(wǎng)站和具有強(qiáng)大創(chuàng)新實(shí)力的互聯(lián)網(wǎng)上市企業(yè),，服務(wù)國(guó)家戰(zhàn)略,，持續(xù)推進(jìn)科技與傳媒的深度融合，此次測(cè)試發(fā)布AIGC-Safe,，探尋破解AIGC安全治理痛點(diǎn),，引領(lǐng)行業(yè)健康發(fā)展，可謂恰逢其時(shí),。

中科院計(jì)算所黨委委員王凡表示,，中科院計(jì)算所一直圍繞智能算法安全這一重大創(chuàng)新領(lǐng)域，籌建算法安全全國(guó)重點(diǎn)實(shí)驗(yàn)室,，已形成引領(lǐng)算法安全基礎(chǔ)研究的戰(zhàn)略力量,。“中科院計(jì)算所將為AIGC-Safe平臺(tái)全力做好核心技術(shù)支撐,，通過(guò)和新華網(wǎng)的合作,，充分調(diào)動(dòng)‘政、產(chǎn),、學(xué),、研、用’各方優(yōu)勢(shì)力量,，探索科學(xué)的治理機(jī)制,，為AIGC行業(yè)的健康發(fā)展貢獻(xiàn)力量?！?/p>

AIGC-Safe平臺(tái)測(cè)試網(wǎng)頁(yè)截圖

行業(yè)呼吁,，企業(yè)關(guān)注，AIGC-Safe解決哪些“痛點(diǎn)”,？

曹娟現(xiàn)場(chǎng)測(cè)試發(fā)布AIGC-Safe,，重點(diǎn)介紹了內(nèi)容安全檢測(cè)功能。該功能可覆蓋文本,、圖像及音視頻的檢測(cè),，能有效保障內(nèi)容的真實(shí)性與合規(guī)性,。檢測(cè)速度快、準(zhǔn)確率高,、易于部署,，在有效降低產(chǎn)業(yè)安全技術(shù)投入成本的同時(shí)提高安全保護(hù)效率，能夠廣泛應(yīng)用于虛假新聞,、AI換臉詐騙,、活體攻擊、版權(quán)內(nèi)容保護(hù)和學(xué)術(shù)誠(chéng)信等多種檢測(cè)場(chǎng)景,，為媒體,、教育、金融,、公安等領(lǐng)域的AIGC安全治理保駕護(hù)航。

與會(huì)嘉賓共話(huà)AIGC安全治理

“AIGC在提升效率的同時(shí),，對(duì)整個(gè)科研的生態(tài)提出了挑戰(zhàn),，如成果歸屬問(wèn)題、內(nèi)容來(lái)源問(wèn)題,、抄襲剽竊問(wèn)題,、對(duì)科研基礎(chǔ)和真實(shí)性帶來(lái)的風(fēng)險(xiǎn)等?！敝袊?guó)科學(xué)學(xué)與科技政策研究會(huì)科研誠(chéng)信與負(fù)責(zé)任創(chuàng)新專(zhuān)業(yè)委員會(huì)主任委員,、中國(guó)科學(xué)院文獻(xiàn)情報(bào)中心科研誠(chéng)信研究中心副主任袁軍鵬認(rèn)為，“AIGC-Safe可以協(xié)助檢測(cè)和識(shí)別虛假信息,，維護(hù)學(xué)者的學(xué)術(shù)貢獻(xiàn)和知識(shí)產(chǎn)權(quán),。”

“AIGC-Safe是以‘道高一丈’去對(duì)抗‘魔高一尺’”,，中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)運(yùn)營(yíng)中心總監(jiān)荊克表示,，中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)由中央網(wǎng)信辦違法和不良信息舉報(bào)中心主辦、新華網(wǎng)承辦,，目前已初步形成“聯(lián)動(dòng)發(fā)現(xiàn),、聯(lián)動(dòng)澄清、聯(lián)動(dòng)處置,、聯(lián)動(dòng)辟謠”的工作體系,，是網(wǎng)上權(quán)威辟謠信息的主信源、主渠道,、主陣地,。“AIGC-Safe的發(fā)布,，有利于加強(qiáng)對(duì)AIGC多模態(tài)深偽內(nèi)容的檢測(cè)和防范,，通過(guò)技術(shù)賦能的手段,，新華網(wǎng)將為除根‘春風(fēng)吹又生’的謠言等虛假信息提供極大助力?！?/p>

騰訊智影生態(tài)負(fù)責(zé)人王輝表示,，平臺(tái)型互聯(lián)網(wǎng)企業(yè)服務(wù)著非常大體量的用戶(hù)，高度重視對(duì)隱私的保護(hù)和技術(shù)的合規(guī)使用,，“迫切需要制定標(biāo)準(zhǔn),，厘清邊界和提供安全治理，讓AIGC在發(fā)展中不斷完善,?！?/p>

中國(guó)南方航空公司信息中心中臺(tái)架構(gòu)部副經(jīng)理陳璟介紹，目前很多業(yè)務(wù)場(chǎng)景會(huì)遇到AI合規(guī)的挑戰(zhàn),，“我們希望通過(guò)人工智能與旅客直接交互來(lái)提升服務(wù)質(zhì)量,，但這里面怎么做甄別，確保信息是可靠的,，我們一直在思考,。”陳璟說(shuō),，“在現(xiàn)場(chǎng)和大家一起測(cè)試了AIGC-Safe,，它的超快響應(yīng)效率和準(zhǔn)確性令人驚喜。我相信南航的人機(jī)互動(dòng)夢(mèng)想很快就可以成真,?！?/p>

橙盾信息科技有限公司（阿里巴巴控股）信息安全產(chǎn)品總監(jiān)雷濤認(rèn)為，有了AIGC-Safe,，不僅可以在常規(guī)的網(wǎng)絡(luò)安全層面堵牢一些常見(jiàn)的供應(yīng)鏈“越權(quán)”等漏洞,，還能有效避免因大模型的污染引發(fā)的數(shù)據(jù)和個(gè)人隱私泄露等風(fēng)險(xiǎn)。

用AI科技為AI行業(yè)健康發(fā)展護(hù)航

據(jù)量子位智庫(kù)今年4月發(fā)表的《2023中國(guó)AIGC產(chǎn)業(yè)全景報(bào)告》預(yù)測(cè),，我國(guó)2023年AIGC市場(chǎng)規(guī)?？蛇_(dá)到170億人民幣，2030年市場(chǎng)規(guī)模超萬(wàn)億人民幣,。AIGC蘊(yùn)含著廣闊的應(yīng)用前景和市場(chǎng)潛力,，同時(shí)，AIGC安全的邊界決定著其發(fā)展的邊界,。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出,，生成式人工智能服務(wù)的發(fā)展與治理需要政府、企業(yè),、社會(huì),、網(wǎng)民等多方參與。

《生成式人工智能服務(wù)管理暫行辦法》明確規(guī)定,，支持行業(yè)組織,、企業(yè),、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu),、有關(guān)專(zhuān)業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作,。

在陳璟看來(lái)，AIGC的安全治理應(yīng)在政策指引下通過(guò)全社會(huì)協(xié)力來(lái)完善,。

王輝認(rèn)為,，“用最小的投入產(chǎn)出最大的成果才是務(wù)實(shí)的，有可能落地的,?！彼J(rèn)為，應(yīng)加強(qiáng)與行業(yè)龍頭企業(yè)合作,，樹(shù)立標(biāo)桿模式,，形成合作示范效應(yīng)。

“AIGC安全治理主要面臨兩方面的巨大挑戰(zhàn),。一是技術(shù)挑戰(zhàn)，如生成式模型的快速迭代和強(qiáng)對(duì)抗環(huán)境的干擾,；二是業(yè)務(wù)場(chǎng)景的挑戰(zhàn),，包括業(yè)務(wù)場(chǎng)景中的受限條件、新業(yè)務(wù)場(chǎng)景不斷涌現(xiàn)等,?！辈芫晏寡裕叭绻蠹腋髯詾檎鲞@個(gè)事情,，需要耗費(fèi)大量人力物力,。”因此AIGC安全治理應(yīng)該是一個(gè)長(zhǎng)期路線(xiàn),，開(kāi)放邀請(qǐng)更多伙伴加入,，不斷去迭代。

“AIGC-Safe將聯(lián)合行業(yè)管理機(jī)構(gòu),、大模型研發(fā)機(jī)構(gòu),、新聞媒體單位、數(shù)字場(chǎng)景應(yīng)用平臺(tái)等合作伙伴,，發(fā)起構(gòu)建生成式人工智能內(nèi)容安全與模型安全檢測(cè)平臺(tái),，共同應(yīng)對(duì)AIGC多模態(tài)深偽內(nèi)容的檢測(cè)和防范，用AI守護(hù)AI,，護(hù)衛(wèi)行業(yè)更好發(fā)展,?！毙氯A網(wǎng)相關(guān)業(yè)務(wù)負(fù)責(zé)人在活動(dòng)現(xiàn)場(chǎng)發(fā)出共建生態(tài)矩陣的邀請(qǐng)。