深度合成技術(shù)可生成人類肉眼無法識別的虛假圖像和視頻,，其“以假亂真”的特性在應(yīng)用中易引發(fā)侵害用戶合法權(quán)益,、傳播違法信息和操縱社會輿論等一系列問題，給個人隱私,、網(wǎng)絡(luò)安全,、社會穩(wěn)定和國家安全等帶來嚴重威脅。2022年12月,，國家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部和公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），旨在推進深度合成技術(shù)的依法合理有效利用,。目前深度合成技術(shù)治理仍存在多重困境,，亟需采用新手段助力。區(qū)塊鏈技術(shù)可通過提供可信標(biāo)識方法,、搭建可信多元監(jiān)管網(wǎng)絡(luò),、實現(xiàn)數(shù)字內(nèi)容溯源，大大增強不可信環(huán)境中的共識能力,，為深度合成技術(shù)的治理提供新思路,。賽迪研究院網(wǎng)絡(luò)安全研究所建議，可通過統(tǒng)籌基礎(chǔ)設(shè)施,、深化融合應(yīng)用,、完善技術(shù)治理環(huán)境等措施，加強區(qū)塊鏈技術(shù)在深度合成技術(shù)治理中的應(yīng)用,，以有效應(yīng)對深度合成技術(shù)帶來的風(fēng)險,。

一、當(dāng)前深度合成技術(shù)治理仍面臨三大困境

為加強互聯(lián)網(wǎng)信息服務(wù)深度合成管理,，《規(guī)定》細化了采取技術(shù)標(biāo)識溯源等合規(guī)義務(wù),，明確了懲罰手段，構(gòu)建了多方聯(lián)合監(jiān)管機制,。但由于缺乏有效治理工具,，導(dǎo)致上述要求在執(zhí)行過程中遇到阻礙。整體來看,，深度合成治理仍處于起步探索階段,，當(dāng)前治理仍面臨以下三重困境。

標(biāo)識管理體系缺陷增加了對深度合成服務(wù)的監(jiān)督協(xié)調(diào)和治理成本,。在深度合成服務(wù)治理中,，深度合成技術(shù)提供商需要在可能導(dǎo)致公眾混淆或誤認的深度合成信息內(nèi)容中加入顯著標(biāo)識，以提示公眾該內(nèi)容具有生成合成特性,。但當(dāng)前標(biāo)識體系由深度技術(shù)提供商集中式管理,，可能會出現(xiàn)為了自身利益，人為利用技術(shù)手段刪除,、篡改或隱匿相關(guān)標(biāo)識的行為,。這將大大增加管理人員的監(jiān)督和協(xié)調(diào)成本,，降低深度合成內(nèi)容治理效率,。

行業(yè)監(jiān)管部門缺乏對深度合成違法行為的有效固證及追責(zé)手段,。隨著深度合成技術(shù)應(yīng)用范圍的不斷擴大,，新型偽造方法層出不窮,，加之網(wǎng)絡(luò)環(huán)境日趨復(fù)雜,、深度合成檢測算法存在漏洞缺陷,，對深度合成內(nèi)容溯源十分困難,。一旦出現(xiàn)不法分子利用深度合成技術(shù)實施違法犯罪，一方面其相關(guān)偽造證據(jù)難以被及時掌握,，另一方面也缺乏有效技術(shù)手段,，對視頻內(nèi)容制作者,、深度合成技術(shù)提供商,、深度合成服務(wù)提供商和網(wǎng)絡(luò)平臺的違法行為所涉主體也難以進行責(zé)任追究。

多方聯(lián)合監(jiān)管機制不健全影響深度合成服務(wù)風(fēng)險管理效率,。推動深度合成服務(wù)相關(guān)產(chǎn)業(yè)的健康有序發(fā)展,，需要政府、從業(yè)者和公眾多方共同參與監(jiān)督,。目前，政府監(jiān)督管理部門之間，以及與服務(wù)提供者和技術(shù)支持者之間缺乏高效的協(xié)作監(jiān)督工具和手段，各主體在數(shù)據(jù)共享過程中存在信任環(huán)境缺失和信息孤島等問題，致使相關(guān)機構(gòu)無法及時,、準確和全方位地掌握深度合成違法行為的最新動態(tài),，也難以在第一時間進行聯(lián)合應(yīng)對和處臵,。

二、可利用區(qū)塊鏈技術(shù)賦能深度合成技術(shù)治理

利用區(qū)塊鏈技術(shù)建立可信標(biāo)識體系,，實現(xiàn)標(biāo)識的有效管理,。基于區(qū)塊鏈技術(shù)的虛假信息標(biāo)識與治理目前已有較成熟的商業(yè)應(yīng)用，比如,，廣告屏蔽插件Adblock Plus公司，通過將基于區(qū)塊鏈技術(shù)的信任標(biāo)識添加到瀏覽器擴展程序中來監(jiān)測虛假新聞。同樣，深度合成服務(wù)供應(yīng)商或社交媒體平臺也可利用區(qū)塊鏈技術(shù),，為深度合成內(nèi)容創(chuàng)建分布式標(biāo)識,，并生成標(biāo)識文檔；向分布式標(biāo)識區(qū)塊鏈節(jié)點申請可驗證的身份證明，并對證明進行哈希計算。通過智能合約記錄將標(biāo)識創(chuàng)建的時間,、人員、原始信息、身份證明等數(shù)據(jù)記錄在區(qū)塊鏈系統(tǒng)中，以保證標(biāo)識的可追溯,、不可篡改以及可驗證,。

利用區(qū)塊鏈技術(shù)進行深度合成內(nèi)容溯源，對違法行為進行追責(zé)認定,。基于區(qū)塊鏈系統(tǒng)發(fā)布深度合成內(nèi)容時，發(fā)布人身份及時間、地點和發(fā)布平臺等系列信息會被一并記錄下來,，且不可篡改。因此，可根據(jù)固化的深度合成內(nèi)容流動軌跡，追究擴散違法內(nèi)容、刻意隱匿非法內(nèi)容傳播等相關(guān)主體的法律責(zé)任,。實際上,，區(qū)塊鏈技術(shù)在司法存證領(lǐng)域已有較為廣泛的應(yīng)用,。自《最高人民法院關(guān)于互聯(lián)網(wǎng)法院審理案件若干問題的規(guī)定》首次對區(qū)塊鏈技術(shù)作為電子存證手段進行確認以來，截至2023年2月,，北京互聯(lián)網(wǎng)法院“天平鏈”采集數(shù)據(jù)已超1.9億條,，杭州互聯(lián)網(wǎng)法院司法區(qū)塊鏈存證量已超20億條。

利用區(qū)塊鏈技術(shù)構(gòu)建可信任監(jiān)管網(wǎng)絡(luò),，提升多方聯(lián)合監(jiān)管效率,。在本質(zhì)上，區(qū)塊鏈是由多主體參與的分布式數(shù)據(jù)系統(tǒng),，系統(tǒng)中的每個節(jié)點都可以進行單獨修改和維護,，并通過多方共識機制形成一個可信網(wǎng)絡(luò)，為數(shù)據(jù)流轉(zhuǎn)監(jiān)管提供了一個強信任的底層環(huán)境,。通過區(qū)塊鏈打造由深度合成服務(wù)提供者,、應(yīng)用商店、公眾,、政府部門等多方參與的監(jiān)管網(wǎng)絡(luò),，網(wǎng)信、工信和公安等部門作為節(jié)點參與其中,，在將監(jiān)管規(guī)則編寫成智能合約部署在區(qū)塊鏈上,，可實現(xiàn)多方參與的鏈上深度合成信息實時監(jiān)測，進而對數(shù)字內(nèi)容的生產(chǎn),、傳播和評價進行全方位監(jiān)督,，將大大促進多部門間的數(shù)據(jù)流通與共享，有效提升多方監(jiān)管協(xié)作效率,。目前,，金融,、科研誠信等領(lǐng)域已較為廣泛地使用了區(qū)塊鏈技術(shù)實現(xiàn)多方同時在線協(xié)同和交互監(jiān)管，實踐結(jié)果表明,，區(qū)塊鏈的應(yīng)用大大減少了監(jiān)管中的數(shù)據(jù)孤島,、多頭報送等現(xiàn)象,，提高了風(fēng)險發(fā)現(xiàn)和處臵效率,。

三、幾點建議

統(tǒng)籌規(guī)劃基于區(qū)塊鏈的深度合成治理基礎(chǔ)設(shè)施,。一是政府統(tǒng)籌搭建基于區(qū)塊鏈技術(shù)的深度合成服務(wù)監(jiān)管平臺,，推動完成全網(wǎng)深度合成內(nèi)容的實時采集，優(yōu)化和完善深度合成內(nèi)容檢測手段,，形成可視化數(shù)據(jù)結(jié)果呈現(xiàn),，促進部門間數(shù)據(jù)的可信互通，打造完善的聯(lián)合監(jiān)管網(wǎng)絡(luò),。二是加快推進深度合成服務(wù)提供商,、技術(shù)提供商和社交媒體將內(nèi)容合成前后、發(fā)布和傳播后的信息上鏈,，實現(xiàn)內(nèi)容合成全過程數(shù)據(jù)的完整,、真實和可追溯。三是組建由網(wǎng)信,、公安和工信以及第三方平臺組成的專業(yè)技術(shù)團隊,，利用區(qū)塊鏈系統(tǒng)和智能合約內(nèi)容對深度合成服務(wù)實行高效監(jiān)測，結(jié)合數(shù)字水印技術(shù)實現(xiàn)對深度合成內(nèi)容的持續(xù)追溯,。

深化區(qū)塊鏈與多種治理技術(shù)的融合應(yīng)用,。一是設(shè)計以圖像分析算法為核心的智能合約，將區(qū)塊鏈與人工智能結(jié)合以實現(xiàn)深度合成內(nèi)容的自動檢測,。二是利用“區(qū)塊鏈+神經(jīng)網(wǎng)絡(luò)”，實現(xiàn)新的深度合成內(nèi)容異常數(shù)據(jù)流量監(jiān)控體系,，主動對深度合成服務(wù)風(fēng)險進行監(jiān)控和預(yù)防,。三是引導(dǎo)政府管理部門、科研單位和相關(guān)企業(yè)研發(fā)基于“區(qū)塊鏈+數(shù)據(jù)挖掘分析”的風(fēng)險管理模型,，針對深度合成服務(wù)管控痛點和難點,，利用全新的深度合成技術(shù)提升風(fēng)險管理效能。

完善基于區(qū)塊鏈的深度合成技術(shù)治理環(huán)境,。一是加強區(qū)塊鏈治理深度合成技術(shù)的基礎(chǔ)理論研究與技術(shù)應(yīng)用,，制定相關(guān)扶持政策，激發(fā)區(qū)塊鏈研發(fā)企業(yè)參與深度合成技術(shù)風(fēng)險管理的積極性與主動性,。二是盡快開展基于區(qū)塊鏈的深度合成技術(shù)治理相關(guān)示范工程建設(shè),，加快技術(shù)成果轉(zhuǎn)化，利用試點驗證形成示范帶動效應(yīng),。三是鼓勵行業(yè)積極研制基于區(qū)塊鏈的深度合成治理標(biāo)準規(guī)范和行業(yè)公約等制度,，以產(chǎn)業(yè)自治方式，不斷推進深度合成技術(shù)應(yīng)用的安全有序發(fā)展,。

來源 | 賽迪智庫網(wǎng)絡(luò)安全研究所

編輯 | 辦公室