由新華網(wǎng)聯(lián)合中國(guó)科學(xué)院計(jì)算技術(shù)研究所（簡(jiǎn)稱“中科院計(jì)算所”）等行業(yè)機(jī)構(gòu)共同研發(fā)打造的“生成式人工智能內(nèi)容安全與模型安全檢測(cè)平臺(tái)”（AIGC-Safe）邀請(qǐng)測(cè)試發(fā)布會(huì)日前在北京舉行。該平臺(tái)旨在聯(lián)合行業(yè)權(quán)威生態(tài)伙伴共同加強(qiáng)AIGC行業(yè)監(jiān)管,，為AIGC產(chǎn)業(yè)安全治理和健康發(fā)展發(fā)揮重要作用,。

邀請(qǐng)測(cè)試發(fā)布會(huì)現(xiàn)場(chǎng)。新華網(wǎng) 劉廈 攝

在數(shù)字世界和物理世界加速融合的大背景下,，生成式人工智能正在重塑甚至顛覆數(shù)字內(nèi)容的生產(chǎn)方式和消費(fèi)模式,，越來(lái)越顯性地影響著各行各業(yè)的變革,，是未來(lái)邁入數(shù)字文明新時(shí)代不可或缺的支撐力量。今年以來(lái),，大模型技術(shù)與AIGC的快速融合發(fā)展,，從技術(shù)層面提供以低邊際成本、高工作效率滿足海量?jī)?nèi)容個(gè)性化生產(chǎn)的方案,，推動(dòng)內(nèi)容行業(yè)向更有創(chuàng)造力方向發(fā)展,。但因其濫用而導(dǎo)致的對(duì)國(guó)家安全、經(jīng)濟(jì)發(fā)展和社會(huì)穩(wěn)定的威脅與挑戰(zhàn)也隨之而來(lái),，對(duì)生成式人工智能服務(wù)的監(jiān)管已成為全球治理重大課題,。

新華網(wǎng)副總裁張芮寧致辭。新華網(wǎng) 劉廈 攝

新華網(wǎng)副總裁張芮寧在致辭中表示,，新華網(wǎng)作為新華社主辦的中央重點(diǎn)新聞網(wǎng)站和具有強(qiáng)大創(chuàng)新實(shí)力的互聯(lián)網(wǎng)上市企業(yè),，持續(xù)推進(jìn)科技與傳媒的深度融合，積極服務(wù)國(guó)家數(shù)字經(jīng)濟(jì)戰(zhàn)略,，踐行使命擔(dān)當(dāng)。由中央網(wǎng)信辦違法和不良信息舉報(bào)中心主辦,、新華網(wǎng)承辦的中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái),，以“發(fā)布權(quán)威辟謠信息，提升網(wǎng)民媒介素養(yǎng)，營(yíng)造清朗網(wǎng)絡(luò)空間”為宗旨,，初步形成“聯(lián)動(dòng)發(fā)現(xiàn),、聯(lián)動(dòng)澄清、聯(lián)動(dòng)處置,、聯(lián)動(dòng)辟謠”的工作體系,，已經(jīng)成為網(wǎng)上權(quán)威辟謠信息的主信源、主渠道,、主陣地,。此次測(cè)試發(fā)布的AIGC-Safe，是新華網(wǎng)在AIGC安全治理中的一次重要探索,。該平臺(tái)有利于加強(qiáng)對(duì)AIGC多模態(tài)深偽內(nèi)容的檢測(cè)和防范,，用AI守護(hù)AI，護(hù)衛(wèi)行業(yè)更好發(fā)展,。

中科院計(jì)算所黨委委員王凡致辭,。新華網(wǎng) 劉廈 攝

中科院計(jì)算所黨委委員王凡表示，新華網(wǎng)測(cè)試發(fā)布的AIGC-Safe,，是構(gòu)建“產(chǎn),、學(xué)、研,、用”科研模式的一種嘗試,，是通過(guò)行業(yè)落地來(lái)檢驗(yàn)科技的創(chuàng)新之舉。中科院計(jì)算所將為該平臺(tái)全力做好核心技術(shù)支撐,，為AIGC行業(yè)的健康發(fā)展貢獻(xiàn)力量,。

中國(guó)科學(xué)學(xué)與科技政策研究會(huì)科研誠(chéng)信與負(fù)責(zé)任創(chuàng)新專業(yè)委員會(huì)主任委員、中國(guó)科學(xué)院文獻(xiàn)情報(bào)中心科研誠(chéng)信研究中心副主任袁軍鵬致辭,。新華網(wǎng) 劉廈 攝

中國(guó)科學(xué)學(xué)與科技政策研究會(huì)科研誠(chéng)信與負(fù)責(zé)任創(chuàng)新專業(yè)委員會(huì)主任委員,、中國(guó)科學(xué)院文獻(xiàn)情報(bào)中心科研誠(chéng)信研究中心副主任袁軍鵬表示，AIGC在提升效率的同時(shí)也對(duì)科研生態(tài)造成了挑戰(zhàn),，期待與各界攜手,，以準(zhǔn)確、可靠的AIGC檢測(cè)產(chǎn)品,，共同推進(jìn)科研科學(xué)的發(fā)展,，營(yíng)造誠(chéng)信、公正,、透明的科研環(huán)境,。

AIGC-Safe平臺(tái)首席技術(shù)專家曹娟測(cè)試發(fā)布AIGC-Safe。新華網(wǎng) 劉廈 攝

AIGC-Safe平臺(tái)首席技術(shù)專家曹娟現(xiàn)場(chǎng)進(jìn)行了測(cè)試發(fā)布,。平臺(tái)產(chǎn)品基于國(guó)版鏈（國(guó)數(shù)鏈）的數(shù)字資產(chǎn)與數(shù)據(jù)要素管理技術(shù)底座,，依托中科院計(jì)算所的技術(shù)積累打造,，已形成AIGC深偽內(nèi)容檢測(cè)和模型檢測(cè)兩大核心能力，并可開(kāi)放賦能各類AIGC檢測(cè)業(yè)務(wù)場(chǎng)景,。模型安全從訓(xùn)練數(shù)據(jù)安全,、模型防攻擊、模型輸入安全三方面來(lái)保障從訓(xùn)練到推理的全過(guò)程,；內(nèi)容安全覆蓋文本,、圖像及音視頻的檢測(cè)，保障內(nèi)容的真實(shí)性與合規(guī)性,，實(shí)現(xiàn)雙重安全防護(hù),。

此次AIGC-Safe平臺(tái)測(cè)試發(fā)布，重磅上線內(nèi)容安全檢測(cè)功能,，以領(lǐng)先的檢測(cè)大模型和深度偽造內(nèi)容大數(shù)據(jù)為支撐,。文本檢測(cè)支持AI生成的鑒別；圖像與視頻檢測(cè)可覆蓋人臉生成,、人臉編輯,、人臉替換、表情遷移等深度合成偽造,，以及AI生成,、PS篡改檢測(cè)；音頻偽造檢測(cè)支持TTS和VC音頻合成檢測(cè),，覆蓋主流音頻合成算法,。AIGC-Safe平臺(tái)內(nèi)容安全功能檢測(cè)速度快、準(zhǔn)確率高,、易于部署,，有效降低產(chǎn)業(yè)安全技術(shù)投入成本，提高安全保護(hù)效率,，可廣泛應(yīng)用于虛假新聞,、AI換臉詐騙、活體攻擊,、版權(quán)內(nèi)容保護(hù)和學(xué)術(shù)誠(chéng)信等多種檢測(cè)場(chǎng)景,，可為媒體、教育,、金融,、公安等領(lǐng)域的AIGC安全治理保駕護(hù)航。

發(fā)布會(huì)現(xiàn)場(chǎng)設(shè)置了邀請(qǐng)測(cè)試環(huán)節(jié),，AIGC-Safe對(duì)參會(huì)嘉賓提供文本,、圖片、音頻,、視頻等多模態(tài)AI生成或偽造的素材進(jìn)行了在線實(shí)測(cè),，檢測(cè)范圍覆蓋主流AI生成算法,，準(zhǔn)確率、響應(yīng)時(shí)間等性能表現(xiàn)優(yōu)越,，獲得現(xiàn)場(chǎng)嘉賓一致認(rèn)可。

圓桌對(duì)話環(huán)節(jié),。新華網(wǎng) 劉廈 攝

發(fā)布會(huì)還舉行了以“用AI守護(hù)AI”為主題的圓桌對(duì)話,。曹娟、袁軍鵬及中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)運(yùn)營(yíng)中心總監(jiān)荊克,、中國(guó)南方航空公司信息中心中臺(tái)架構(gòu)部副經(jīng)理陳璟,、騰訊智影生態(tài)負(fù)責(zé)人王輝、橙盾信息科技有限公司（阿里巴巴控股）信息安全產(chǎn)品總監(jiān)雷濤分享了精彩觀點(diǎn),。行業(yè)專家及百度,、360、微博,、知乎,、知網(wǎng)、國(guó)版鏈（國(guó)數(shù)鏈）超級(jí)節(jié)點(diǎn)逸融科技,、中科睿鑒等機(jī)構(gòu)代表到場(chǎng)參會(huì),。

據(jù)介紹，面對(duì)AIGC領(lǐng)域技術(shù)快速迭代和新業(yè)務(wù)場(chǎng)景不斷涌現(xiàn)等多重挑戰(zhàn),，AIGC-Safe將聯(lián)合行業(yè)管理機(jī)構(gòu),、大模型研發(fā)機(jī)構(gòu)、新聞媒體單位,、數(shù)字場(chǎng)景應(yīng)用平臺(tái)等合作伙伴,，發(fā)起構(gòu)建“生成式人工智能內(nèi)容規(guī)范治理發(fā)展生態(tài)矩陣”，護(hù)航數(shù)字技術(shù)創(chuàng)新和應(yīng)用,，打造數(shù)字內(nèi)容安全治理“新范式”,。