國(guó)內(nèi)首個(gè)AI生成內(nèi)容檢測(cè)工具——AIGC-X官網(wǎng)截圖,。

人民網(wǎng)北京3月1日電 (記者申佳平)從AI繪畫,、AI作曲到虛擬人,，再到近期爆火的ChatGPT,， 伴隨人工智能生成內(nèi)容(AIGC)技術(shù)發(fā)展加速,，內(nèi)容生產(chǎn)方式迎來(lái)巨大變革,。與此同時(shí),，在不斷“生長(zhǎng)”的互聯(lián)網(wǎng)內(nèi)容世界，找到一把明晰虛實(shí),、分辨真假的技術(shù)標(biāo)尺,，也成為關(guān)乎行業(yè)長(zhǎng)遠(yuǎn)健康發(fā)展的關(guān)鍵。

人民日?qǐng)?bào)社傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室,、中國(guó)科學(xué)技術(shù)大學(xué),、合肥綜合性國(guó)家科學(xué)中心人工智能研究院聯(lián)合推出的國(guó)內(nèi)首個(gè)AI生成內(nèi)容檢測(cè)工具——AIGC-X今天正式開始全網(wǎng)公測(cè),，試用入口為http://ai.sklccc.com/AIGC-X/#/,。

據(jù)介紹,，AIGC-X可快速區(qū)分機(jī)器生成文本與人工生成文本,，目前對(duì)中文文本檢測(cè)的準(zhǔn)確率已超過(guò)90%。

人民日?qǐng)?bào)社傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室首席科學(xué)家張勇東表示,，因具有對(duì)話咨詢,、文章寫作、內(nèi)容潤(rùn)色等廣泛的應(yīng)用場(chǎng)景,，以ChatGPT為代表的AIGC技術(shù)迎來(lái)發(fā)展新階段,。隨之而來(lái)的倫理規(guī)范、內(nèi)容侵權(quán),、信息造假等風(fēng)險(xiǎn)挑戰(zhàn)同樣不容忽視,，迫切需要推出針對(duì)性的檢測(cè)產(chǎn)品，提升對(duì)內(nèi)容生產(chǎn)新范式的監(jiān)管治理技術(shù)能力,。

他介紹,，通過(guò)采用算法融合與知識(shí)驅(qū)動(dòng)的人工智能框架，使用深度建模來(lái)捕捉困惑度,、突現(xiàn)頻次等隱式特征,，AIGC-X可對(duì)AI技術(shù)生成的假新聞、內(nèi)容抄襲,、垃圾郵件進(jìn)行檢測(cè),，在內(nèi)容版權(quán)、網(wǎng)絡(luò)釣魚,、虛假信息和學(xué)術(shù)造假檢測(cè)等內(nèi)容安全,、內(nèi)容風(fēng)控方面有廣闊的應(yīng)用前景。未來(lái),，AIGC-X還會(huì)擴(kuò)展為對(duì)人工智能生成文本,、圖像乃至視頻的通用智能識(shí)別模型。

“AIGC迫切需要適當(dāng)?shù)囊龑?dǎo)和規(guī)范,?！眰鞑?nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室研究員靳國(guó)慶特別強(qiáng)調(diào)，要重視防范AIGC在虛假信息,、學(xué)術(shù)造假,、網(wǎng)絡(luò)釣魚等灰色領(lǐng)域的濫用?！癆IGC-X將推動(dòng)AI風(fēng)險(xiǎn)管理,、安全評(píng)測(cè)技術(shù)的發(fā)展，為建立安全可控的AIGC生態(tài)提供技術(shù)支撐,?！?/p>

據(jù)介紹,，在此次發(fā)布AIGC-X之前，傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室已推出基于人工智能開發(fā)的“智曉助”和“白澤”兩個(gè)內(nèi)容風(fēng)控系統(tǒng),，并在百余家機(jī)構(gòu)使用,。專注于內(nèi)容風(fēng)控業(yè)務(wù)的人民網(wǎng)信息技術(shù)公司已于AIGC-X開發(fā)了“捕獲AIGC”產(chǎn)品，通過(guò)“人民審?！蔽⑿殴娞?hào)對(duì)外發(fā)布,。

工業(yè)和信息化部公布的數(shù)據(jù)顯示，我國(guó)AI核心產(chǎn)業(yè)規(guī)模目前已超過(guò)4000億元,，企業(yè)數(shù)量接近4000家,，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超數(shù)萬(wàn)億元，并將持續(xù)快速增加,。行業(yè)專家預(yù)測(cè),，作為數(shù)字經(jīng)濟(jì)和實(shí)體經(jīng)濟(jì)深度融合的新模式，AIGC將在賦能產(chǎn)業(yè)創(chuàng)新發(fā)展方面大有作為,。

張勇東表示,，“AIGC-X不是一個(gè)靜態(tài)的技術(shù)，而是隨著AIGC的發(fā)展而發(fā)展的,?！蹦壳笆芟抻跁r(shí)間和資源，AIGC-X對(duì)非常規(guī)問(wèn)題和場(chǎng)景的支持還有待完善,。例如,，AIGC-X目前只支持中文內(nèi)容的檢測(cè)，對(duì)英文的支持有待提高,；還需要進(jìn)一步完善對(duì)圖像,、音視頻等內(nèi)容的檢測(cè)能力，支持全媒體的內(nèi)容檢測(cè),，為AIGC的健康發(fā)展保駕護(hù)航,。