近日,，甘肅省平?jīng)鍪泄簿志W(wǎng)安大隊(duì)偵破一起利用AI人工智能技術(shù)炮制虛假不實(shí)信息的案件,。

4月25日,，平?jīng)鍪泄簿轴轻挤志志W(wǎng)安大隊(duì)對(duì)“今晨甘肅一火車撞上修路工人致9人死亡”的文章,，初步判斷為信息虛假不實(shí)。網(wǎng)安民警隨即開展工作,，發(fā)現(xiàn)共計(jì)21個(gè)百度賬號(hào)均在同一時(shí)間段發(fā)布該文章,，文章內(nèi)容地點(diǎn)除平?jīng)鍪嗅轻紖^(qū)外還涉及蘭州,、隴南、定西,、慶陽等地,，文章點(diǎn)擊量已達(dá)1.5萬余次。經(jīng)查,，涉案百度賬號(hào)均為廣東深圳某自媒體公司所有,，公司法人代表洪某弟有重大作案嫌疑。

5月5日,，專案民警在廣東東莞嫌疑人住處對(duì)其使用的電腦及百家號(hào)進(jìn)行取證。經(jīng)審訊,，犯罪嫌疑人洪某弟通過微信好友獲知網(wǎng)絡(luò)賺取流量變現(xiàn)方法,，并購(gòu)買大量“百家號(hào)”。同時(shí)使用“易撰”網(wǎng)頁版,，在全網(wǎng)搜索近幾年社會(huì)熱點(diǎn)新聞,，為規(guī)避百家號(hào)查重功能，洪某弟通過近期火爆的ChatGPT人工智能軟件將搜集到的新聞要素修改編輯后,，使用“海豹科技”軟件上傳至其購(gòu)買的百家號(hào)上非法獲利,。

洪某弟利用現(xiàn)代科技手段編造虛假信息,，并散布在互聯(lián)網(wǎng)上,，被大量傳播瀏覽，其行為已涉嫌尋釁滋事罪,。

目前,，崆峒公安分局對(duì)犯罪嫌疑人洪某弟采取刑事強(qiáng)制措施,，案件正在進(jìn)一步偵辦之中。

評(píng)論：AI不應(yīng)成為謠言炮制機(jī)

近年來,，伴隨著人工智能技術(shù)的進(jìn)步,，AI造假之風(fēng)卻愈演愈烈。AI“一鍵換臉”,，一位無關(guān)人士可以變成當(dāng)事人,，AI“視頻合成”，事故現(xiàn)場(chǎng)無中生有,。這些不法分子通過AI偽造假新聞,、假人物、假現(xiàn)場(chǎng),，冠以突發(fā)新聞,、科普內(nèi)容等名號(hào)在互聯(lián)網(wǎng)廣泛傳播，吸睛牟利,，不僅制造謠言,、混淆視聽，更擾亂網(wǎng)絡(luò)傳播秩序,，讓“眼見不再為實(shí)”的當(dāng)下,，掀起更大的社會(huì)信任恐慌。

我國(guó)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確,，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作,、復(fù)制、發(fā)布,、傳播虛假新聞信息,。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息,。

“造謠一張嘴,，辟謠跑斷腿”，換臉,、換聲等AI造假亂象小到惡意抹黑他人名譽(yù),，大至編造災(zāi)害信息制造社會(huì)恐慌，不僅大大增加科普辟謠的難度,，更動(dòng)搖了新聞?wù)鎸?shí)性根基,，容易引發(fā)輿情危機(jī)，影響政府公信力,。一旦這些假新聞被大量傳播瀏覽,，造成網(wǎng)上公共秩序嚴(yán)重混亂，還會(huì)觸犯我國(guó)刑法，涉嫌尋釁滋事罪,，可謂是后患無窮,。

治理AI造假亂象，首先必須厘清AI技術(shù)應(yīng)用的底線和紅線,，絕不能縱容不法分子利用其侵害國(guó)家安全和社會(huì)公共利益,、擾亂經(jīng)濟(jì)秩序和社會(huì)秩序、侵犯他人合法權(quán)益,。其次,，AI技術(shù)的提供者必須守土有責(zé)，從技術(shù)源頭上加強(qiáng)數(shù)據(jù)和算法管理,，強(qiáng)化對(duì)合成技術(shù)使用者真實(shí)身份信息的認(rèn)證和核查,，避免不法者濫用技術(shù)牟利，相關(guān)監(jiān)管部門也要加大監(jiān)管力度,，發(fā)現(xiàn)違法亂象,，依法依規(guī)嚴(yán)懲。

另外,，社交媒體,、網(wǎng)站等內(nèi)容發(fā)布平臺(tái)要保持內(nèi)容合規(guī)意識(shí)，加強(qiáng)對(duì)用戶賬號(hào)真實(shí)信息的核查,，杜絕“僵尸號(hào)”賬號(hào)買賣,。加大用戶內(nèi)容巡查監(jiān)管頻次，提高檢測(cè)偽造行為的技術(shù)水平,，及時(shí)甄別違法違規(guī)合成內(nèi)容,，避免給虛假信息引流，造成更大的傳謠風(fēng)險(xiǎn),。

AI深度合成技術(shù)在數(shù)字仿真,、沉浸式擬真等創(chuàng)新場(chǎng)景應(yīng)用前景廣闊，理應(yīng)成為內(nèi)容生產(chǎn)的好幫手,，而非假新聞的策源地,，更不是違法犯罪的推手。從AI造假亂象中應(yīng)該看到,，我們?cè)谙硎芗夹g(shù)高速迭代紅利的同時(shí),，應(yīng)該有更加深刻的倫理道德考量，不讓AI成為烏龍事件和反轉(zhuǎn)新聞的制造機(jī),，守護(hù)風(fēng)清氣正的網(wǎng)絡(luò)生態(tài),，是每一個(gè)互聯(lián)網(wǎng)用戶的應(yīng)有之責(zé)。（檢察日?qǐng)?bào)何慧敏）

綜合甘肅公安微信,、檢察日?qǐng)?bào)·法治新聞版

來源：檢察日?qǐng)?bào)正義網(wǎng)