由新華網聯(lián)合中國科學院計算技術研究所（簡稱“中科院計算所”）等行業(yè)機構共同研發(fā)打造的“生成式人工智能內容安全與模型安全檢測平臺”（AIGC-Safe）邀請測試發(fā)布會日前在北京舉行。該平臺旨在聯(lián)合行業(yè)權威生態(tài)伙伴共同加強AIGC行業(yè)監(jiān)管,，為AIGC產業(yè)安全治理和健康發(fā)展發(fā)揮重要作用,。

邀請測試發(fā)布會現(xiàn)場,。新華網 劉廈 攝

在數(shù)字世界和物理世界加速融合的大背景下，生成式人工智能正在重塑甚至顛覆數(shù)字內容的生產方式和消費模式，越來越顯性地影響著各行各業(yè)的變革,，是未來邁入數(shù)字文明新時代不可或缺的支撐力量,。今年以來，大模型技術與AIGC的快速融合發(fā)展,，從技術層面提供以低邊際成本,、高工作效率滿足海量內容個性化生產的方案，推動內容行業(yè)向更有創(chuàng)造力方向發(fā)展,。但因其濫用而導致的對國家安全,、經濟發(fā)展和社會穩(wěn)定的威脅與挑戰(zhàn)也隨之而來,，對生成式人工智能服務的監(jiān)管已成為全球治理重大課題,。

新華網副總裁張芮寧致辭。新華網 劉廈 攝

新華網副總裁張芮寧在致辭中表示,，新華網作為新華社主辦的中央重點新聞網站和具有強大創(chuàng)新實力的互聯(lián)網上市企業(yè),，持續(xù)推進科技與傳媒的深度融合，積極服務國家數(shù)字經濟戰(zhàn)略,，踐行使命擔當,。由中央網信辦違法和不良信息舉報中心主辦、新華網承辦的中國互聯(lián)網聯(lián)合辟謠平臺,，以“發(fā)布權威辟謠信息,，提升網民媒介素養(yǎng)，營造清朗網絡空間”為宗旨,，初步形成“聯(lián)動發(fā)現(xiàn),、聯(lián)動澄清,、聯(lián)動處置、聯(lián)動辟謠”的工作體系,，已經成為網上權威辟謠信息的主信源,、主渠道、主陣地,。此次測試發(fā)布的AIGC-Safe,，是新華網在AIGC安全治理中的一次重要探索。該平臺有利于加強對AIGC多模態(tài)深偽內容的檢測和防范,，用AI守護AI,，護衛(wèi)行業(yè)更好發(fā)展。

中科院計算所黨委委員王凡致辭,。新華網 劉廈 攝

中科院計算所黨委委員王凡表示,，新華網測試發(fā)布的AIGC-Safe，是構建“產,、學,、研、用”科研模式的一種嘗試,，是通過行業(yè)落地來檢驗科技的創(chuàng)新之舉,。中科院計算所將為該平臺全力做好核心技術支撐，為AIGC行業(yè)的健康發(fā)展貢獻力量,。

中國科學學與科技政策研究會科研誠信與負責任創(chuàng)新專業(yè)委員會主任委員,、中國科學院文獻情報中心科研誠信研究中心副主任袁軍鵬致辭。新華網 劉廈 攝

中國科學學與科技政策研究會科研誠信與負責任創(chuàng)新專業(yè)委員會主任委員,、中國科學院文獻情報中心科研誠信研究中心副主任袁軍鵬表示,，AIGC在提升效率的同時也對科研生態(tài)造成了挑戰(zhàn)，期待與各界攜手,，以準確,、可靠的AIGC檢測產品，共同推進科研科學的發(fā)展,，營造誠信,、公正、透明的科研環(huán)境,。

AIGC-Safe平臺首席技術專家曹娟測試發(fā)布AIGC-Safe,。新華網 劉廈 攝

AIGC-Safe平臺首席技術專家曹娟現(xiàn)場進行了測試發(fā)布。平臺產品基于國版鏈（國數(shù)鏈）的數(shù)字資產與數(shù)據要素管理技術底座,，依托中科院計算所的技術積累打造,，已形成AIGC深偽內容檢測和模型檢測兩大核心能力，并可開放賦能各類AIGC檢測業(yè)務場景,。模型安全從訓練數(shù)據安全,、模型防攻擊,、模型輸入安全三方面來保障從訓練到推理的全過程；內容安全覆蓋文本,、圖像及音視頻的檢測,，保障內容的真實性與合規(guī)性，實現(xiàn)雙重安全防護,。

此次AIGC-Safe平臺測試發(fā)布,，重磅上線內容安全檢測功能，以領先的檢測大模型和深度偽造內容大數(shù)據為支撐,。文本檢測支持AI生成的鑒別,；圖像與視頻檢測可覆蓋人臉生成、人臉編輯,、人臉替換,、表情遷移等深度合成偽造，以及AI生成,、PS篡改檢測,；音頻偽造檢測支持TTS和VC音頻合成檢測，覆蓋主流音頻合成算法,。AIGC-Safe平臺內容安全功能檢測速度快,、準確率高、易于部署,，有效降低產業(yè)安全技術投入成本,，提高安全保護效率，可廣泛應用于虛假新聞,、AI換臉詐騙,、活體攻擊、版權內容保護和學術誠信等多種檢測場景,，可為媒體,、教育、金融,、公安等領域的AIGC安全治理保駕護航,。

發(fā)布會現(xiàn)場設置了邀請測試環(huán)節(jié),，AIGC-Safe對參會嘉賓提供文本,、圖片、音頻,、視頻等多模態(tài)AI生成或偽造的素材進行了在線實測,，檢測范圍覆蓋主流AI生成算法，準確率,、響應時間等性能表現(xiàn)優(yōu)越,，獲得現(xiàn)場嘉賓一致認可,。

圓桌對話環(huán)節(jié)。新華網 劉廈 攝

發(fā)布會還舉行了以“用AI守護AI”為主題的圓桌對話,。曹娟,、袁軍鵬及中國互聯(lián)網聯(lián)合辟謠平臺運營中心總監(jiān)荊克、中國南方航空公司信息中心中臺架構部副經理陳璟,、騰訊智影生態(tài)負責人王輝,、橙盾信息科技有限公司（阿里巴巴控股）信息安全產品總監(jiān)雷濤分享了精彩觀點。行業(yè)專家及百度,、360,、微博、知乎,、知網,、國版鏈（國數(shù)鏈）超級節(jié)點逸融科技、中科睿鑒等機構代表到場參會,。

據介紹,，面對AIGC領域技術快速迭代和新業(yè)務場景不斷涌現(xiàn)等多重挑戰(zhàn)，AIGC-Safe將聯(lián)合行業(yè)管理機構,、大模型研發(fā)機構,、新聞媒體單位、數(shù)字場景應用平臺等合作伙伴,，發(fā)起構建“生成式人工智能內容規(guī)范治理發(fā)展生態(tài)矩陣”,，護航數(shù)字技術創(chuàng)新和應用，打造數(shù)字內容安全治理“新范式”,。