據(jù)每日甘肅網(wǎng)5月8日消息,，5月5日,，甘肅平?jīng)鍪泄簿轴轻挤志謧善屏艘黄鹄?span id="a6otyhj" class="wpcom_tag_link">AI人工智能軟件炮制虛假新聞，賺取流量從中獲利的尋釁滋事案件,。這也是自1月10日《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》頒布實施以來甘肅省公安機(jī)關(guān)偵辦的首例利用AI人工智能技術(shù)炮制虛假不實信息的案件。

圖源每日甘肅網(wǎng)

案情信息透露,，在今年4月25日，崆峒分局在網(wǎng)絡(luò)巡查中發(fā)現(xiàn),，某平臺賬號中發(fā)布了一條標(biāo)題為“今晨甘肅一火車撞上修路工人 致9人死亡”的文章,，初步判斷為虛假不實新聞。隨后網(wǎng)警展開工作,，發(fā)現(xiàn)同一時段有22個平臺賬號發(fā)布了相關(guān)文章,，文章內(nèi)容地點除了平?jīng)鍪校€有蘭州,、定西,、酒泉等地，閱讀量已有1.5萬余次,。

經(jīng)查，發(fā)布不實信息的賬號均屬深圳某自媒體公司,，公司法人洪某有重大嫌疑,。5月5日，洪某在廣東東莞市被抓獲,，偵查發(fā)現(xiàn),，其購買了大量賬號用于網(wǎng)絡(luò)流量變現(xiàn)，他在全網(wǎng)搜索近年來社會熱點新聞,，通過人工智能文案生成平臺chatgpt將收集到的新聞要素進(jìn)行編輯生成,，上傳到平臺賬號進(jìn)行非法牟利。洪某利用現(xiàn)代技術(shù)手段編造,、散布虛假信息,，造成網(wǎng)絡(luò)公共秩序混亂，被認(rèn)為已涉嫌尋釁滋事罪,，當(dāng)前嫌疑人已被采取刑事強(qiáng)制措施,，案件也在進(jìn)一步偵辦中。

正所謂造謠一張嘴,，辟謠跑斷腿,，此前也已經(jīng)出現(xiàn)過AI炮制假新聞的事件，今年2月中旬,，網(wǎng)上曾流傳出一則所謂“浙江省杭州市政府3月1日取消機(jī)動車依尾號限行”的“新聞”,，引起了杭州本地居民的關(guān)注,，經(jīng)過警方調(diào)查后發(fā)現(xiàn)是杭州某小區(qū)業(yè)主隨手用chatgpt生成的假新聞，該業(yè)主將內(nèi)容發(fā)在了業(yè)主群里,，結(jié)果被廣泛傳播開來變成了一條假新聞,。與本案中有心利用AI技術(shù)非法牟利不同，這一烏龍事件尚且能說是業(yè)主的無心之失,，也因為群內(nèi)其他業(yè)主沒有注意聊天的上下文導(dǎo)致錯誤消息被傳播開來形成謠言,。

依照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理》規(guī)定，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作,、復(fù)制,、發(fā)布、傳播虛假新聞信息,。幾十秒炮制而成的虛假新聞輕則造成誤導(dǎo)性信息的傳播,，重則抹黑他人名譽(yù)，引起社會恐慌,，AI不僅能生成出虛假的文本,，還能生成出以假亂真的圖片，大大提高了大眾對于虛假信息辨識的難度,。AI虛假新聞動搖的是新聞?wù)鎸嵭缘母?，尤其是涉及社會事件的虛假新聞，被廣泛傳播后極易造成公眾恐慌,，嚴(yán)重影響正常的網(wǎng)絡(luò)秩序,，是對法律的挑釁。

早前就曾有新聞可信度評估機(jī)構(gòu)指出,，chatgpt或?qū)⒊蔀榛ヂ?lián)網(wǎng)有史以來最強(qiáng)大的傳播虛假信息的工具,，而從網(wǎng)友們與chatgpt樂此不疲的對話結(jié)果來看，其實時聊天生成的內(nèi)容極其流暢,，大多數(shù)時候也不曾出現(xiàn)邏輯缺失,，甚至?xí)憩F(xiàn)出令人細(xì)思恐極的“情感性”。面對具有超強(qiáng)造假能力的AI,，審核機(jī)制卻基本空白,，現(xiàn)有的互聯(lián)網(wǎng)平臺的審核機(jī)制并不能高效篩選出AI生成的謠言內(nèi)容。

AI在創(chuàng)新場景等方面應(yīng)用的未來還十分廣闊,，從積極的一面來看,，AI也能夠成為輔助人類生產(chǎn)生活、提高生產(chǎn)效率的工具,，但AI不應(yīng)成為假新聞生成的“搖籃”,。平臺方面更需要警惕，加強(qiáng)對平臺賬號真實性的審核,，避免讓虛假信息造成不必要的輿論漩渦,。

揚子晚報|紫牛新聞記者 沈昭

校對 徐珩