今年以來(lái)，多個(gè)圖像生成軟件在全球迅速躥紅，其作畫(huà)逼真程度“技驚四座”,。AI一路“狂飆”，讓生成,、篡改等多形式的圖片偽造的門(mén)檻變得更低,，由此引發(fā)的隱患也令人憂慮。

圖像是信息的主要載體之一,，利用AI進(jìn)行圖像造假的行為,，是AI可信化發(fā)展需要應(yīng)對(duì)的重點(diǎn)問(wèn)題。在本屆世界人工智能大會(huì)（WAIC 2023）上,，中國(guó)信息通信研究院（簡(jiǎn)稱中國(guó)信通院）圍繞“多模態(tài)基礎(chǔ)大模型的可信AI”主題舉辦了專項(xiàng)論壇,。論壇上，合合信息AI圖像內(nèi)容安全技術(shù)方案獲得廣泛關(guān)注,。該方案可精準(zhǔn)定位截圖篡改痕跡,，對(duì)生成式圖片進(jìn)行智能判別，防止不法分子利用技術(shù)手段非法爬取圖片上的信息,。

圖說(shuō)：合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪現(xiàn)場(chǎng)介紹合合信息AI圖像安全技術(shù)應(yīng)用 采訪對(duì)象提供（下同）

用AI守護(hù)AI圖像內(nèi)容安全，新技術(shù)很“實(shí)用”

去年的人工智能大會(huì)上,，合合信息首次展示了“PS篡改檢測(cè)”技術(shù)，“像素級(jí)”的識(shí)別精確度讓現(xiàn)場(chǎng)參觀者感嘆,，在識(shí)別證件,、票據(jù)等各類重要的商業(yè)材料中的PS痕跡方面，AI真的是“火眼金睛”,。

今年,，AI圖像篡改檢測(cè)“黑科技”持續(xù)優(yōu)化升級(jí)，應(yīng)用面也拓展至“截圖篡改檢測(cè)”,。相較于去年的自然場(chǎng)景圖像,，對(duì)用戶生活影響更大的資質(zhì)證書(shū)、文檔合同,、銀行保單等截圖若被不法分子利用,，所承受的財(cái)產(chǎn)損失難以估量。

據(jù)了解,，升級(jí)后的AI圖像篡改檢測(cè)技術(shù)可檢測(cè)包括轉(zhuǎn)賬記錄,、交易記錄、聊天記錄等多種截圖,，無(wú)論是從原圖中“摳下”關(guān)鍵要素后移動(dòng)“粘貼”至另一處的“復(fù)制移動(dòng)”圖片篡改手段,，還是“擦除”“重打印”等方式，圖像篡改檢測(cè)技術(shù)均可“慧眼”識(shí)假,。

圖說(shuō)：“重打印”篡改圖片檢測(cè)示例：將一張圖片輸入到合合信息AI圖像篡改檢測(cè)模型中，模型便能夠判別這張圖像是否被篡改,，并且定位圖像的篡改區(qū)域

該技術(shù)的主要難點(diǎn)在于,，與證照篡改檢測(cè)相比，截圖的背景沒(méi)有紋路和底色，整個(gè)截圖沒(méi)有光照差異,，難以通過(guò)拍照時(shí)產(chǎn)生的成像差異進(jìn)行篡改痕跡判斷,，現(xiàn)有的視覺(jué)模型通常難以充分發(fā)掘原始圖像和篡改圖像的細(xì)粒度差異特征。

為此,，合合信息提出了一種基于HRNet的編碼器－解碼器結(jié)構(gòu)的圖像真實(shí)性鑒別模型,，結(jié)合圖像本身的信息，包括但不限于噪聲,、頻譜等,， 從而捕捉到細(xì)粒度的視覺(jué)差異，達(dá)到高精度鑒別效果,。

針對(duì)頻上“熱搜”的AIGC話題,，合合信息研發(fā)了關(guān)于AI生成圖片鑒別技術(shù)，用于判斷圖片是否由AI生成,。AIGC生成圖像識(shí)別的一大難點(diǎn)在于AI生成的圖像場(chǎng)景繁多,，機(jī)器難以判別。合合信息基于空域與頻域關(guān)系建模,，能夠利用多維度特征來(lái)分辨真實(shí)圖片和生成式圖片的細(xì)微差異,。

此外，合合信息對(duì)OCR對(duì)抗攻擊技術(shù)展開(kāi)了創(chuàng)新性的研究,。當(dāng)人們?cè)诰W(wǎng)上發(fā)送含有個(gè)人信息的圖片時(shí),，這些資料包含的信息很可能被不法分子使用OCR技術(shù)提取并泄露。OCR對(duì)抗攻擊技術(shù)可對(duì)場(chǎng)景文本或者文檔內(nèi)文本進(jìn)行擾動(dòng),，為個(gè)人或企業(yè)的重要文件“上鎖”,，防止第三方通過(guò)OCR系統(tǒng)讀取并保存圖像中所有的文字內(nèi)容，降低數(shù)據(jù)泄露的風(fēng)險(xiǎn),，達(dá)到保護(hù)隱私信息的目的,。

圖說(shuō)：合合信息OCR對(duì)抗攻擊技術(shù)應(yīng)用效果展示,，可對(duì)關(guān)鍵信息進(jìn)行遮蓋，在不影響肉眼觀看的情況下阻止機(jī)器自動(dòng)爬取

推動(dòng)圖像內(nèi)容安全行業(yè)發(fā)展標(biāo)準(zhǔn)建立,，助力可信AI系統(tǒng)化落地

中國(guó)信通院發(fā)布的《人工智能白皮書(shū)（2022年）》中提到,，人工智能正在邁入“創(chuàng)新驅(qū)動(dòng)、應(yīng)用深化,、規(guī)范發(fā)展”的新階段,。可信AI的實(shí)現(xiàn),，需要政府,、企業(yè)、高校等多方力量的協(xié)同。行業(yè)標(biāo)準(zhǔn)的制定,，或?qū)橹袊?guó)“可信AI”在機(jī)器視覺(jué),、圖像處理領(lǐng)域的體系建設(shè)提供有力支持。

為貫徹落實(shí)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》等文件中對(duì)于AI服務(wù)的規(guī)范性要求,，系統(tǒng)性建立圖像內(nèi)容安全行業(yè)發(fā)展秩序,，今年6月，中國(guó)信通院牽頭啟動(dòng)了《文檔圖像篡改檢測(cè)標(biāo)準(zhǔn)》制定工作,，合合信息,、中國(guó)圖像圖形學(xué)學(xué)會(huì)、中國(guó)科學(xué)技術(shù)大學(xué)等科技創(chuàng)新企業(yè)及知名學(xué)術(shù)機(jī)構(gòu)聯(lián)合參與編制,。

圖說(shuō)：合合信息AI圖像篡改檢測(cè)技術(shù)應(yīng)用效果展示

據(jù)悉，該項(xiàng)標(biāo)準(zhǔn)將基于產(chǎn)業(yè)現(xiàn)狀,，圍繞“細(xì)粒度”視覺(jué)差異偽造圖像鑒別,、生成式圖像判別、文檔圖像完整性保護(hù)等行業(yè)焦點(diǎn)議題,，凝聚行業(yè)共識(shí),，以期為行業(yè)提供有效指引。合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪在論壇分享中表示,，《文檔圖像篡改檢測(cè)標(biāo)準(zhǔn)》制定項(xiàng)目的啟動(dòng),，是AI圖像內(nèi)容安全體系建設(shè)之路上的重要的里程碑。期待更多研究機(jī)構(gòu),、企業(yè)主體參與進(jìn)來(lái),，共同推動(dòng)AI服務(wù)規(guī)范性的整體提升和行業(yè)發(fā)展秩序的建立，助力科技向上而行,，向善發(fā)展,。

可信AI的健康發(fā)展，除了標(biāo)準(zhǔn)引領(lǐng),，也需要“硬科技”支撐,。合合信息深耕智能文字識(shí)別、智能圖像處理領(lǐng)域,，技術(shù)成果獲權(quán)威機(jī)構(gòu)及市場(chǎng)認(rèn)可,。最近一個(gè)月內(nèi)，合合信息智能文檔處理產(chǎn)品通過(guò)中國(guó)信通院“可信AI—智能文檔處理系統(tǒng)”評(píng)估工作,，并獲得“5級(jí)”評(píng)定,。“5級(jí)”為該模塊最高評(píng)定等級(jí),。

新民晚報(bào)記者 金志剛