□　趙精武

ChatGPT等生成式人工智能服務(wù)打破了社會(huì)公眾對人工智能技術(shù)應(yīng)用的傳統(tǒng)認(rèn)知,，其生成內(nèi)容具有高度的智能化,、仿真性特征，在特定情況下,，甚至能夠替代人工生成相關(guān)營銷文案等信息內(nèi)容,。倘若不事前標(biāo)注網(wǎng)絡(luò)信息內(nèi)容是通過人工智能技術(shù)所生成，一般人甚至無法直接區(qū)分是不是人工撰寫內(nèi)容,。在新聞出版行業(yè),，部分新聞媒體已經(jīng)在嘗試開設(shè)專版，該版面主要呈現(xiàn)人工智能技術(shù)生成的新聞內(nèi)容?？梢哉f,，一旦生成式人工智能技術(shù)得到廣泛普及，社會(huì)生產(chǎn)方式和分工架構(gòu)必然會(huì)發(fā)生顛覆性變化,。

然而,，技術(shù)雙刃劍的魔咒同樣存在于人工智能領(lǐng)域。生成式人工智能技術(shù)應(yīng)用的最大優(yōu)勢在于能夠在短時(shí)間內(nèi)批量生成同質(zhì)性的網(wǎng)絡(luò)信息內(nèi)容,，一旦這種技術(shù)優(yōu)勢被應(yīng)用于電信詐騙,、網(wǎng)絡(luò)造謠等違法犯罪活動(dòng)，既會(huì)對網(wǎng)絡(luò)輿論生態(tài)造成毀滅性破壞,，也會(huì)對國家安全和社會(huì)穩(wěn)定產(chǎn)生重大威脅,。事實(shí)上，在我國已經(jīng)出現(xiàn)了非法濫用生成式人工智能技術(shù)的案例：湖南省耒陽市公安局網(wǎng)安大隊(duì)發(fā)現(xiàn)犯罪嫌疑人利用AI智能工具制作,、傳播虛假新聞,；河南省鄭州市公安局航空港分局發(fā)現(xiàn)犯罪嫌疑人利用AI軟件渲染修改新聞報(bào)道；內(nèi)蒙古自治區(qū)包頭市公安局破獲一起利用“AI換臉”進(jìn)行電信詐騙的案件,，等等,。

面對日趨嚴(yán)峻的人工智能技術(shù)濫用風(fēng)險(xiǎn)，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合國家發(fā)展改革委,、教育部,、科技部、工業(yè)和信息化部,、公安部,、廣電總局公布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行,。

《辦法》囊括了監(jiān)管機(jī)構(gòu),、信息服務(wù)提供者、用戶等主體的法律義務(wù),。尤其在第三章“服務(wù)規(guī)范”中,，更是明確信息服務(wù)提供者應(yīng)當(dāng)采取顯著標(biāo)識、違法內(nèi)容應(yīng)急處置等措施,，控制違法不良信息惡意生成的風(fēng)險(xiǎn)水平,。《辦法》與《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)共同構(gòu)成了網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理體系,，在傳播網(wǎng)絡(luò)謠言,、網(wǎng)絡(luò)暴力、虛假信息等傳統(tǒng)網(wǎng)絡(luò)信息內(nèi)容治理路徑之外,，補(bǔ)全了機(jī)器批量生成違法不良信息的治理模式,。更重要的是，《辦法》不僅對用戶終端層面所生成的信息內(nèi)容類型作出了明確限定，更對相關(guān)產(chǎn)品或服務(wù)的研發(fā)設(shè)計(jì)階段提出具體的監(jiān)管要求,。例如,，《辦法》要求相關(guān)服務(wù)提供者在進(jìn)行預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)時(shí),，應(yīng)當(dāng)采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，以此提升生成內(nèi)容的合法性與合理性。

具體而言,，《辦法》在規(guī)范信息內(nèi)容生成層面提出了四個(gè)方面的監(jiān)管要求：第一,，繼續(xù)延續(xù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的既有規(guī)定,，信息服務(wù)提供者應(yīng)當(dāng)對圖片,、視頻等生成內(nèi)容進(jìn)行諸如“該圖片由人工智能自動(dòng)生成”等顯著標(biāo)識。之所以特別強(qiáng)調(diào)圖片,、視頻等信息類型,，是因?yàn)閳D片、視頻無法輕易修改以及“有圖有真相”的認(rèn)知邏輯使得傳統(tǒng)的辟謠難度和辟謠成本大大增加,，社會(huì)公眾也無法在足以以假亂真的圖片,、視頻等信息內(nèi)容中辨別真?zhèn)巍?/p>

第二，信息服務(wù)提供者應(yīng)當(dāng)設(shè)置違法內(nèi)容應(yīng)急處置機(jī)制,。一旦發(fā)現(xiàn)用戶有意生成違法不良信息或者相關(guān)人工智能服務(wù)可能會(huì)自動(dòng)生成違法不良信息時(shí),，提供者應(yīng)當(dāng)立即采取停止生成、停止傳輸,、消除等處置措施,，同時(shí)，也應(yīng)當(dāng)對算法模型進(jìn)行優(yōu)化訓(xùn)練,。這些處置措施主要根據(jù)實(shí)際情況,、整改成本以及技術(shù)可行性等要素予以確定，并不局限于前述措施,。此外,，提供者還需要及時(shí)就生成式人工智能服務(wù)可能生成違法不良信息以及準(zhǔn)確采取的處置措施向主管部門報(bào)告。

第三,，信息服務(wù)提供者應(yīng)當(dāng)對使用者的違法行為進(jìn)行及時(shí)處置,。從網(wǎng)絡(luò)信息傳播方式來看，從用戶端限制違法不良信息傳播的實(shí)際效果遠(yuǎn)遠(yuǎn)不如從服務(wù)端控制用戶使用行為的效果,。因此,，《辦法》明確要求信息服務(wù)提供者在發(fā)現(xiàn)用戶利用生成式人工智能服務(wù)從事違法活動(dòng)時(shí)，理應(yīng)對其賬號及其權(quán)限采取處置措施,，包括但不限于警示,、限制功能、暫停或者終止向其提供服務(wù)等,。同時(shí),，信息服務(wù)提供者還應(yīng)當(dāng)對違法行為以及采取的措施如實(shí)記錄并留存，向主管部門報(bào)告相關(guān)違法事實(shí),。

第四,，信息服務(wù)提供者還應(yīng)當(dāng)設(shè)置運(yùn)行有效的投訴、舉報(bào)機(jī)制,。投訴,、舉報(bào)的事項(xiàng)除了用戶個(gè)體權(quán)益受損的侵權(quán)事實(shí)之外，還應(yīng)當(dāng)包括用戶所發(fā)現(xiàn)的生成式人工智能服務(wù)被濫用的事實(shí),。并且,，《辦法》還強(qiáng)調(diào)信息服務(wù)提供者所設(shè)置的投訴、舉報(bào)入口應(yīng)當(dāng)便于公眾訪問,，且在合理期限內(nèi)及時(shí)向公眾反饋處理結(jié)果,。

預(yù)防技術(shù)濫用風(fēng)險(xiǎn)不能簡單等同于限制技術(shù)發(fā)展，規(guī)范網(wǎng)絡(luò)信息內(nèi)容生成的關(guān)鍵應(yīng)當(dāng)回歸至多方治理主體共同參與的話語體系之中,。在《辦法》中,，明確提及了立法目的是促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，而非以安全保障限制技術(shù)創(chuàng)新發(fā)展,?！掇k法》體現(xiàn)了協(xié)同治理和系統(tǒng)治理的創(chuàng)新性治理理念，一方面,，明確信息服務(wù)提供者在研發(fā)設(shè)計(jì),、技術(shù)應(yīng)用和服務(wù)反饋等各個(gè)階段的風(fēng)險(xiǎn)預(yù)防義務(wù)之外，形成全流程,、全環(huán)節(jié)的治理機(jī)制,；另一方面，明確監(jiān)管機(jī)構(gòu),、信息服務(wù)提供者,、信息服務(wù)使用者各自的法律義務(wù)，形成協(xié)同式,、系統(tǒng)性的治理架構(gòu),。

（作者系北京航空航天大學(xué)法學(xué)院副教授）

來源：法治日報(bào)