據(jù)每日甘肅網(wǎng)5月8日消息，5月5日,，甘肅平?jīng)鍪泄簿轴轻挤志謧善屏艘黄鹄?span id="a6otyhj" class="wpcom_tag_link">AI人工智能軟件炮制虛假新聞，賺取流量從中獲利的尋釁滋事案件。這也是自1月10日《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》頒布實施以來甘肅省公安機關(guān)偵辦的首例利用AI人工智能技術(shù)炮制虛假不實信息的案件。

圖源每日甘肅網(wǎng)

案情信息透露,，在今年4月25日，崆峒分局在網(wǎng)絡(luò)巡查中發(fā)現(xiàn),，某平臺賬號中發(fā)布了一條標(biāo)題為“今晨甘肅一火車撞上修路工人 致9人死亡”的文章,，初步判斷為虛假不實新聞。隨后網(wǎng)警展開工作,，發(fā)現(xiàn)同一時段有22個平臺賬號發(fā)布了相關(guān)文章,，文章內(nèi)容地點除了平?jīng)鍪校€有蘭州,、定西,、酒泉等地，閱讀量已有1.5萬余次,。

經(jīng)查,，發(fā)布不實信息的賬號均屬深圳某自媒體公司，公司法人洪某有重大嫌疑,。5月5日,，洪某在廣東東莞市被抓獲，偵查發(fā)現(xiàn)，其購買了大量賬號用于網(wǎng)絡(luò)流量變現(xiàn),，他在全網(wǎng)搜索近年來社會熱點新聞,，通過人工智能文案生成平臺chatgpt將收集到的新聞要素進行編輯生成，上傳到平臺賬號進行非法牟利,。洪某利用現(xiàn)代技術(shù)手段編造,、散布虛假信息，造成網(wǎng)絡(luò)公共秩序混亂,，被認為已涉嫌尋釁滋事罪,，當(dāng)前嫌疑人已被采取刑事強制措施，案件也在進一步偵辦中,。

正所謂造謠一張嘴,，辟謠跑斷腿，此前也已經(jīng)出現(xiàn)過AI炮制假新聞的事件,，今年2月中旬,，網(wǎng)上曾流傳出一則所謂“浙江省杭州市政府3月1日取消機動車依尾號限行”的“新聞”，引起了杭州本地居民的關(guān)注,，經(jīng)過警方調(diào)查后發(fā)現(xiàn)是杭州某小區(qū)業(yè)主隨手用chatgpt生成的假新聞,，該業(yè)主將內(nèi)容發(fā)在了業(yè)主群里，結(jié)果被廣泛傳播開來變成了一條假新聞,。與本案中有心利用AI技術(shù)非法牟利不同,，這一烏龍事件尚且能說是業(yè)主的無心之失，也因為群內(nèi)其他業(yè)主沒有注意聊天的上下文導(dǎo)致錯誤消息被傳播開來形成謠言,。

依照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理》規(guī)定,，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播虛假新聞信息。幾十秒炮制而成的虛假新聞輕則造成誤導(dǎo)性信息的傳播,，重則抹黑他人名譽,，引起社會恐慌，AI不僅能生成出虛假的文本,，還能生成出以假亂真的圖片,，大大提高了大眾對于虛假信息辨識的難度。AI虛假新聞動搖的是新聞?wù)鎸嵭缘母?，尤其是涉及社會事件的虛假新聞,，被廣泛傳播后極易造成公眾恐慌，嚴重影響正常的網(wǎng)絡(luò)秩序,，是對法律的挑釁,。

早前就曾有新聞可信度評估機構(gòu)指出,，chatgpt或?qū)⒊蔀榛ヂ?lián)網(wǎng)有史以來最強大的傳播虛假信息的工具，而從網(wǎng)友們與chatgpt樂此不疲的對話結(jié)果來看,，其實時聊天生成的內(nèi)容極其流暢,，大多數(shù)時候也不曾出現(xiàn)邏輯缺失，甚至?xí)憩F(xiàn)出令人細思恐極的“情感性”,。面對具有超強造假能力的AI,，審核機制卻基本空白，現(xiàn)有的互聯(lián)網(wǎng)平臺的審核機制并不能高效篩選出AI生成的謠言內(nèi)容,。

AI在創(chuàng)新場景等方面應(yīng)用的未來還十分廣闊,，從積極的一面來看，AI也能夠成為輔助人類生產(chǎn)生活,、提高生產(chǎn)效率的工具,，但AI不應(yīng)成為假新聞生成的“搖籃”。平臺方面更需要警惕,，加強對平臺賬號真實性的審核，避免讓虛假信息造成不必要的輿論漩渦,。

揚子晚報|紫牛新聞記者 沈昭

校對 徐珩