近日,，甘肅省平?jīng)鍪泄簿志W(wǎng)安大隊偵破一起利用AI人工智能技術炮制虛假不實信息的案件,。

4月25日,，平?jīng)鍪泄簿轴轻挤志志W(wǎng)安大隊對“今晨甘肅一火車撞上修路工人致9人死亡”的文章,，初步判斷為信息虛假不實,。網(wǎng)安民警隨即開展工作,，發(fā)現(xiàn)共計21個百度賬號均在同一時間段發(fā)布該文章,，文章內容地點除平?jīng)鍪嗅轻紖^(qū)外還涉及蘭州、隴南,、定西,、慶陽等地，文章點擊量已達1.5萬余次,。經(jīng)查,，涉案百度賬號均為廣東深圳某自媒體公司所有，公司法人代表洪某弟有重大作案嫌疑,。

5月5日，專案民警在廣東東莞嫌疑人住處對其使用的電腦及百家號進行取證,。經(jīng)審訊,，犯罪嫌疑人洪某弟通過微信好友獲知網(wǎng)絡賺取流量變現(xiàn)方法，并購買大量“百家號”,。同時使用“易撰”網(wǎng)頁版,，在全網(wǎng)搜索近幾年社會熱點新聞，為規(guī)避百家號查重功能,，洪某弟通過近期火爆的ChatGPT人工智能軟件將搜集到的新聞要素修改編輯后，使用“海豹科技”軟件上傳至其購買的百家號上非法獲利,。

洪某弟利用現(xiàn)代科技手段編造虛假信息，并散布在互聯(lián)網(wǎng)上,，被大量傳播瀏覽,，其行為已涉嫌尋釁滋事罪。

目前,，崆峒公安分局對犯罪嫌疑人洪某弟采取刑事強制措施,，案件正在進一步偵辦之中。

評論：AI不應成為謠言炮制機

近年來,，伴隨著人工智能技術的進步,，AI造假之風卻愈演愈烈。AI“一鍵換臉”,，一位無關人士可以變成當事人,，AI“視頻合成”，事故現(xiàn)場無中生有,。這些不法分子通過AI偽造假新聞,、假人物、假現(xiàn)場,，冠以突發(fā)新聞,、科普內容等名號在互聯(lián)網(wǎng)廣泛傳播，吸睛牟利,，不僅制造謠言,、混淆視聽，更擾亂網(wǎng)絡傳播秩序,，讓“眼見不再為實”的當下,，掀起更大的社會信任恐慌。

我國《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確,，深度合成服務提供者和使用者不得利用深度合成服務制作,、復制、發(fā)布,、傳播虛假新聞信息,。轉載基于深度合成服務制作發(fā)布的新聞信息的，應當依法轉載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息,。

“造謠一張嘴,，辟謠跑斷腿”，換臉,、換聲等AI造假亂象小到惡意抹黑他人名譽,，大至編造災害信息制造社會恐慌，不僅大大增加科普辟謠的難度,，更動搖了新聞真實性根基,，容易引發(fā)輿情危機，影響政府公信力,。一旦這些假新聞被大量傳播瀏覽,，造成網(wǎng)上公共秩序嚴重混亂，還會觸犯我國刑法,，涉嫌尋釁滋事罪,，可謂是后患無窮。

治理AI造假亂象,，首先必須厘清AI技術應用的底線和紅線,，絕不能縱容不法分子利用其侵害國家安全和社會公共利益、擾亂經(jīng)濟秩序和社會秩序,、侵犯他人合法權益,。其次，AI技術的提供者必須守土有責,，從技術源頭上加強數(shù)據(jù)和算法管理,，強化對合成技術使用者真實身份信息的認證和核查，避免不法者濫用技術牟利,，相關監(jiān)管部門也要加大監(jiān)管力度,，發(fā)現(xiàn)違法亂象，依法依規(guī)嚴懲,。

另外,，社交媒體、網(wǎng)站等內容發(fā)布平臺要保持內容合規(guī)意識,，加強對用戶賬號真實信息的核查,，杜絕“僵尸號”賬號買賣,。加大用戶內容巡查監(jiān)管頻次，提高檢測偽造行為的技術水平,，及時甄別違法違規(guī)合成內容,，避免給虛假信息引流，造成更大的傳謠風險,。

AI深度合成技術在數(shù)字仿真,、沉浸式擬真等創(chuàng)新場景應用前景廣闊，理應成為內容生產(chǎn)的好幫手,，而非假新聞的策源地,，更不是違法犯罪的推手。從AI造假亂象中應該看到,，我們在享受技術高速迭代紅利的同時,，應該有更加深刻的倫理道德考量，不讓AI成為烏龍事件和反轉新聞的制造機,，守護風清氣正的網(wǎng)絡生態(tài),，是每一個互聯(lián)網(wǎng)用戶的應有之責。（檢察日報何慧敏）

綜合甘肅公安微信,、檢察日報·法治新聞版

來源：檢察日報正義網(wǎng)