由新華網(wǎng)聯(lián)合中國科學(xué)院計(jì)算技術(shù)研究所（簡稱“中科院計(jì)算所”）等行業(yè)機(jī)構(gòu)共同研發(fā)打造的“生成式人工智能內(nèi)容安全與模型安全檢測平臺”（AIGC-Safe）邀請測試發(fā)布會日前在北京舉行。該平臺旨在聯(lián)合行業(yè)權(quán)威生態(tài)伙伴共同加強(qiáng)AIGC行業(yè)監(jiān)管,，為AIGC產(chǎn)業(yè)安全治理和健康發(fā)展發(fā)揮重要作用,。

邀請測試發(fā)布會現(xiàn)場。新華網(wǎng) 劉廈 攝

在數(shù)字世界和物理世界加速融合的大背景下,，生成式人工智能正在重塑甚至顛覆數(shù)字內(nèi)容的生產(chǎn)方式和消費(fèi)模式，越來越顯性地影響著各行各業(yè)的變革,，是未來邁入數(shù)字文明新時(shí)代不可或缺的支撐力量,。今年以來，大模型技術(shù)與AIGC的快速融合發(fā)展,，從技術(shù)層面提供以低邊際成本,、高工作效率滿足海量內(nèi)容個(gè)性化生產(chǎn)的方案，推動(dòng)內(nèi)容行業(yè)向更有創(chuàng)造力方向發(fā)展,。但因其濫用而導(dǎo)致的對國家安全,、經(jīng)濟(jì)發(fā)展和社會穩(wěn)定的威脅與挑戰(zhàn)也隨之而來，對生成式人工智能服務(wù)的監(jiān)管已成為全球治理重大課題,。

新華網(wǎng)副總裁張芮寧致辭,。新華網(wǎng) 劉廈 攝

新華網(wǎng)副總裁張芮寧在致辭中表示，新華網(wǎng)作為新華社主辦的中央重點(diǎn)新聞網(wǎng)站和具有強(qiáng)大創(chuàng)新實(shí)力的互聯(lián)網(wǎng)上市企業(yè),，持續(xù)推進(jìn)科技與傳媒的深度融合,，積極服務(wù)國家數(shù)字經(jīng)濟(jì)戰(zhàn)略，踐行使命擔(dān)當(dāng),。由中央網(wǎng)信辦違法和不良信息舉報(bào)中心主辦,、新華網(wǎng)承辦的中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺，以“發(fā)布權(quán)威辟謠信息,，提升網(wǎng)民媒介素養(yǎng),，營造清朗網(wǎng)絡(luò)空間”為宗旨，初步形成“聯(lián)動(dòng)發(fā)現(xiàn),、聯(lián)動(dòng)澄清,、聯(lián)動(dòng)處置、聯(lián)動(dòng)辟謠”的工作體系,，已經(jīng)成為網(wǎng)上權(quán)威辟謠信息的主信源,、主渠道、主陣地,。此次測試發(fā)布的AIGC-Safe,，是新華網(wǎng)在AIGC安全治理中的一次重要探索,。該平臺有利于加強(qiáng)對AIGC多模態(tài)深偽內(nèi)容的檢測和防范，用AI守護(hù)AI,，護(hù)衛(wèi)行業(yè)更好發(fā)展,。

中科院計(jì)算所黨委委員王凡致辭。新華網(wǎng) 劉廈 攝

中科院計(jì)算所黨委委員王凡表示,，新華網(wǎng)測試發(fā)布的AIGC-Safe,，是構(gòu)建“產(chǎn)、學(xué),、研,、用”科研模式的一種嘗試，是通過行業(yè)落地來檢驗(yàn)科技的創(chuàng)新之舉,。中科院計(jì)算所將為該平臺全力做好核心技術(shù)支撐,，為AIGC行業(yè)的健康發(fā)展貢獻(xiàn)力量。

中國科學(xué)學(xué)與科技政策研究會科研誠信與負(fù)責(zé)任創(chuàng)新專業(yè)委員會主任委員,、中國科學(xué)院文獻(xiàn)情報(bào)中心科研誠信研究中心副主任袁軍鵬致辭,。新華網(wǎng) 劉廈 攝

中國科學(xué)學(xué)與科技政策研究會科研誠信與負(fù)責(zé)任創(chuàng)新專業(yè)委員會主任委員、中國科學(xué)院文獻(xiàn)情報(bào)中心科研誠信研究中心副主任袁軍鵬表示,，AIGC在提升效率的同時(shí)也對科研生態(tài)造成了挑戰(zhàn),，期待與各界攜手，以準(zhǔn)確,、可靠的AIGC檢測產(chǎn)品,，共同推進(jìn)科研科學(xué)的發(fā)展，營造誠信,、公正,、透明的科研環(huán)境。

AIGC-Safe平臺首席技術(shù)專家曹娟測試發(fā)布AIGC-Safe,。新華網(wǎng) 劉廈 攝

AIGC-Safe平臺首席技術(shù)專家曹娟現(xiàn)場進(jìn)行了測試發(fā)布,。平臺產(chǎn)品基于國版鏈（國數(shù)鏈）的數(shù)字資產(chǎn)與數(shù)據(jù)要素管理技術(shù)底座，依托中科院計(jì)算所的技術(shù)積累打造,，已形成AIGC深偽內(nèi)容檢測和模型檢測兩大核心能力,，并可開放賦能各類AIGC檢測業(yè)務(wù)場景。模型安全從訓(xùn)練數(shù)據(jù)安全,、模型防攻擊,、模型輸入安全三方面來保障從訓(xùn)練到推理的全過程,；內(nèi)容安全覆蓋文本,、圖像及音視頻的檢測，保障內(nèi)容的真實(shí)性與合規(guī)性,，實(shí)現(xiàn)雙重安全防護(hù),。

此次AIGC-Safe平臺測試發(fā)布,，重磅上線內(nèi)容安全檢測功能，以領(lǐng)先的檢測大模型和深度偽造內(nèi)容大數(shù)據(jù)為支撐,。文本檢測支持AI生成的鑒別,；圖像與視頻檢測可覆蓋人臉生成、人臉編輯,、人臉替換,、表情遷移等深度合成偽造，以及AI生成,、PS篡改檢測,；音頻偽造檢測支持TTS和VC音頻合成檢測，覆蓋主流音頻合成算法,。AIGC-Safe平臺內(nèi)容安全功能檢測速度快,、準(zhǔn)確率高、易于部署,，有效降低產(chǎn)業(yè)安全技術(shù)投入成本,，提高安全保護(hù)效率，可廣泛應(yīng)用于虛假新聞,、AI換臉詐騙,、活體攻擊、版權(quán)內(nèi)容保護(hù)和學(xué)術(shù)誠信等多種檢測場景,，可為媒體,、教育、金融,、公安等領(lǐng)域的AIGC安全治理保駕護(hù)航,。

發(fā)布會現(xiàn)場設(shè)置了邀請測試環(huán)節(jié)，AIGC-Safe對參會嘉賓提供文本,、圖片,、音頻、視頻等多模態(tài)AI生成或偽造的素材進(jìn)行了在線實(shí)測,，檢測范圍覆蓋主流AI生成算法,，準(zhǔn)確率、響應(yīng)時(shí)間等性能表現(xiàn)優(yōu)越,，獲得現(xiàn)場嘉賓一致認(rèn)可,。

圓桌對話環(huán)節(jié)。新華網(wǎng) 劉廈 攝

發(fā)布會還舉行了以“用AI守護(hù)AI”為主題的圓桌對話,。曹娟,、袁軍鵬及中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺運(yùn)營中心總監(jiān)荊克、中國南方航空公司信息中心中臺架構(gòu)部副經(jīng)理陳璟、騰訊智影生態(tài)負(fù)責(zé)人王輝,、橙盾信息科技有限公司（阿里巴巴控股）信息安全產(chǎn)品總監(jiān)雷濤分享了精彩觀點(diǎn),。行業(yè)專家及百度、360,、微博,、知乎、知網(wǎng),、國版鏈（國數(shù)鏈）超級節(jié)點(diǎn)逸融科技,、中科睿鑒等機(jī)構(gòu)代表到場參會。

據(jù)介紹,，面對AIGC領(lǐng)域技術(shù)快速迭代和新業(yè)務(wù)場景不斷涌現(xiàn)等多重挑戰(zhàn),，AIGC-Safe將聯(lián)合行業(yè)管理機(jī)構(gòu)、大模型研發(fā)機(jī)構(gòu),、新聞媒體單位,、數(shù)字場景應(yīng)用平臺等合作伙伴，發(fā)起構(gòu)建“生成式人工智能內(nèi)容規(guī)范治理發(fā)展生態(tài)矩陣”,，護(hù)航數(shù)字技術(shù)創(chuàng)新和應(yīng)用,，打造數(shù)字內(nèi)容安全治理“新范式”。