深度合成技術可生成人類肉眼無法識別的虛假圖像和視頻,，其“以假亂真”的特性在應用中易引發(fā)侵害用戶合法權益,、傳播違法信息和操縱社會輿論等一系列問題，給個人隱私,、網(wǎng)絡安全、社會穩(wěn)定和國家安全等帶來嚴重威脅,。2022年12月,，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部和公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》）,，旨在推進深度合成技術的依法合理有效利用,。目前深度合成技術治理仍存在多重困境，亟需采用新手段助力,。區(qū)塊鏈技術可通過提供可信標識方法,、搭建可信多元監(jiān)管網(wǎng)絡、實現(xiàn)數(shù)字內(nèi)容溯源,，大大增強不可信環(huán)境中的共識能力,，為深度合成技術的治理提供新思路。賽迪研究院網(wǎng)絡安全研究所建議，可通過統(tǒng)籌基礎設施,、深化融合應用,、完善技術治理環(huán)境等措施，加強區(qū)塊鏈技術在深度合成技術治理中的應用,，以有效應對深度合成技術帶來的風險。

一,、當前深度合成技術治理仍面臨三大困境

為加強互聯(lián)網(wǎng)信息服務深度合成管理,，《規(guī)定》細化了采取技術標識溯源等合規(guī)義務，明確了懲罰手段,，構建了多方聯(lián)合監(jiān)管機制,。但由于缺乏有效治理工具，導致上述要求在執(zhí)行過程中遇到阻礙,。整體來看,，深度合成治理仍處于起步探索階段，當前治理仍面臨以下三重困境,。

標識管理體系缺陷增加了對深度合成服務的監(jiān)督協(xié)調(diào)和治理成本,。在深度合成服務治理中，深度合成技術提供商需要在可能導致公眾混淆或誤認的深度合成信息內(nèi)容中加入顯著標識,，以提示公眾該內(nèi)容具有生成合成特性,。但當前標識體系由深度技術提供商集中式管理，可能會出現(xiàn)為了自身利益,，人為利用技術手段刪除,、篡改或隱匿相關標識的行為。這將大大增加管理人員的監(jiān)督和協(xié)調(diào)成本,，降低深度合成內(nèi)容治理效率,。

行業(yè)監(jiān)管部門缺乏對深度合成違法行為的有效固證及追責手段。隨著深度合成技術應用范圍的不斷擴大,，新型偽造方法層出不窮,，加之網(wǎng)絡環(huán)境日趨復雜、深度合成檢測算法存在漏洞缺陷，對深度合成內(nèi)容溯源十分困難,。一旦出現(xiàn)不法分子利用深度合成技術實施違法犯罪,，一方面其相關偽造證據(jù)難以被及時掌握，另一方面也缺乏有效技術手段,，對視頻內(nèi)容制作者,、深度合成技術提供商、深度合成服務提供商和網(wǎng)絡平臺的違法行為所涉主體也難以進行責任追究,。

多方聯(lián)合監(jiān)管機制不健全影響深度合成服務風險管理效率,。推動深度合成服務相關產(chǎn)業(yè)的健康有序發(fā)展，需要政府,、從業(yè)者和公眾多方共同參與監(jiān)督,。目前，政府監(jiān)督管理部門之間,，以及與服務提供者和技術支持者之間缺乏高效的協(xié)作監(jiān)督工具和手段,，各主體在數(shù)據(jù)共享過程中存在信任環(huán)境缺失和信息孤島等問題，致使相關機構無法及時,、準確和全方位地掌握深度合成違法行為的最新動態(tài),，也難以在第一時間進行聯(lián)合應對和處臵。

二,、可利用區(qū)塊鏈技術賦能深度合成技術治理

利用區(qū)塊鏈技術建立可信標識體系,，實現(xiàn)標識的有效管理?；趨^(qū)塊鏈技術的虛假信息標識與治理目前已有較成熟的商業(yè)應用,，比如，廣告屏蔽插件Adblock Plus公司,，通過將基于區(qū)塊鏈技術的信任標識添加到瀏覽器擴展程序中來監(jiān)測虛假新聞,。同樣，深度合成服務供應商或社交媒體平臺也可利用區(qū)塊鏈技術,，為深度合成內(nèi)容創(chuàng)建分布式標識,，并生成標識文檔；向分布式標識區(qū)塊鏈節(jié)點申請可驗證的身份證明,，并對證明進行哈希計算。通過智能合約記錄將標識創(chuàng)建的時間,、人員,、原始信息、身份證明等數(shù)據(jù)記錄在區(qū)塊鏈系統(tǒng)中,，以保證標識的可追溯,、不可篡改以及可驗證。

利用區(qū)塊鏈技術進行深度合成內(nèi)容溯源，對違法行為進行追責認定,?；趨^(qū)塊鏈系統(tǒng)發(fā)布深度合成內(nèi)容時，發(fā)布人身份及時間,、地點和發(fā)布平臺等系列信息會被一并記錄下來,，且不可篡改。因此,，可根據(jù)固化的深度合成內(nèi)容流動軌跡,，追究擴散違法內(nèi)容、刻意隱匿非法內(nèi)容傳播等相關主體的法律責任,。實際上,，區(qū)塊鏈技術在司法存證領域已有較為廣泛的應用。自《最高人民法院關于互聯(lián)網(wǎng)法院審理案件若干問題的規(guī)定》首次對區(qū)塊鏈技術作為電子存證手段進行確認以來,，截至2023年2月,，北京互聯(lián)網(wǎng)法院“天平鏈”采集數(shù)據(jù)已超1.9億條，杭州互聯(lián)網(wǎng)法院司法區(qū)塊鏈存證量已超20億條,。

利用區(qū)塊鏈技術構建可信任監(jiān)管網(wǎng)絡,，提升多方聯(lián)合監(jiān)管效率。在本質(zhì)上,，區(qū)塊鏈是由多主體參與的分布式數(shù)據(jù)系統(tǒng),，系統(tǒng)中的每個節(jié)點都可以進行單獨修改和維護，并通過多方共識機制形成一個可信網(wǎng)絡,，為數(shù)據(jù)流轉監(jiān)管提供了一個強信任的底層環(huán)境,。通過區(qū)塊鏈打造由深度合成服務提供者、應用商店,、公眾,、政府部門等多方參與的監(jiān)管網(wǎng)絡，網(wǎng)信,、工信和公安等部門作為節(jié)點參與其中,，在將監(jiān)管規(guī)則編寫成智能合約部署在區(qū)塊鏈上，可實現(xiàn)多方參與的鏈上深度合成信息實時監(jiān)測,，進而對數(shù)字內(nèi)容的生產(chǎn),、傳播和評價進行全方位監(jiān)督，將大大促進多部門間的數(shù)據(jù)流通與共享,，有效提升多方監(jiān)管協(xié)作效率,。目前，金融,、科研誠信等領域已較為廣泛地使用了區(qū)塊鏈技術實現(xiàn)多方同時在線協(xié)同和交互監(jiān)管,，實踐結果表明,，區(qū)塊鏈的應用大大減少了監(jiān)管中的數(shù)據(jù)孤島、多頭報送等現(xiàn)象,，提高了風險發(fā)現(xiàn)和處臵效率,。

三、幾點建議

統(tǒng)籌規(guī)劃基于區(qū)塊鏈的深度合成治理基礎設施,。一是政府統(tǒng)籌搭建基于區(qū)塊鏈技術的深度合成服務監(jiān)管平臺,，推動完成全網(wǎng)深度合成內(nèi)容的實時采集，優(yōu)化和完善深度合成內(nèi)容檢測手段,，形成可視化數(shù)據(jù)結果呈現(xiàn),，促進部門間數(shù)據(jù)的可信互通，打造完善的聯(lián)合監(jiān)管網(wǎng)絡,。二是加快推進深度合成服務提供商,、技術提供商和社交媒體將內(nèi)容合成前后、發(fā)布和傳播后的信息上鏈,，實現(xiàn)內(nèi)容合成全過程數(shù)據(jù)的完整,、真實和可追溯。三是組建由網(wǎng)信,、公安和工信以及第三方平臺組成的專業(yè)技術團隊,，利用區(qū)塊鏈系統(tǒng)和智能合約內(nèi)容對深度合成服務實行高效監(jiān)測，結合數(shù)字水印技術實現(xiàn)對深度合成內(nèi)容的持續(xù)追溯,。

深化區(qū)塊鏈與多種治理技術的融合應用,。一是設計以圖像分析算法為核心的智能合約，將區(qū)塊鏈與人工智能結合以實現(xiàn)深度合成內(nèi)容的自動檢測。二是利用“區(qū)塊鏈+神經(jīng)網(wǎng)絡”,，實現(xiàn)新的深度合成內(nèi)容異常數(shù)據(jù)流量監(jiān)控體系,，主動對深度合成服務風險進行監(jiān)控和預防。三是引導政府管理部門,、科研單位和相關企業(yè)研發(fā)基于“區(qū)塊鏈+數(shù)據(jù)挖掘分析”的風險管理模型,，針對深度合成服務管控痛點和難點，利用全新的深度合成技術提升風險管理效能,。

完善基于區(qū)塊鏈的深度合成技術治理環(huán)境,。一是加強區(qū)塊鏈治理深度合成技術的基礎理論研究與技術應用，制定相關扶持政策,，激發(fā)區(qū)塊鏈研發(fā)企業(yè)參與深度合成技術風險管理的積極性與主動性,。二是盡快開展基于區(qū)塊鏈的深度合成技術治理相關示范工程建設，加快技術成果轉化,，利用試點驗證形成示范帶動效應,。三是鼓勵行業(yè)積極研制基于區(qū)塊鏈的深度合成治理標準規(guī)范和行業(yè)公約等制度，以產(chǎn)業(yè)自治方式,，不斷推進深度合成技術應用的安全有序發(fā)展,。

來源 | 賽迪智庫網(wǎng)絡安全研究所

編輯 | 辦公室