近日,，甘肅平?jīng)鍪泄簿轴轻挤志志W(wǎng)安大隊(duì)偵破一起利用AI炮制虛假不實(shí)信息的案件,。犯罪嫌疑人購(gòu)買(mǎi)大量賬號(hào),，全網(wǎng)搜索近年來(lái)熱點(diǎn)新聞,，再用ChatGPT加以編輯,、規(guī)避平臺(tái)查重功能,，進(jìn)而成功發(fā)布獲利。目前，嫌疑人涉嫌尋釁滋事罪,，已被采取刑事強(qiáng)制措施，相關(guān)案件正在進(jìn)一步偵辦之中,。

說(shuō)起來(lái),，這已不是ChatGPT第一次陷入假新聞風(fēng)波了。問(wèn)世伊始,，便有人見(jiàn)識(shí)到其“一本正經(jīng)胡說(shuō)八道”的高超本領(lǐng),。解釋高深物理理論，說(shuō)得有鼻子有眼,，結(jié)果附列論文一查均無(wú)出處,；讓推薦相關(guān)領(lǐng)域?qū)W者，瞬間就有人選,，人物履歷卻是七拼八湊,。出于其“天賦”的內(nèi)容生成能力，ChatGPT似乎比從前的人工智能都更“聰明”,，編出的內(nèi)容往往形真實(shí)假,、雜糅難辨。上述案件更直接展現(xiàn)出這種強(qiáng)大的造假能力,。僅僅一篇“火車(chē)撞上修路工人致9人死亡”的虛假文章,，就被套在了平?jīng)觥⑻m州,、隴南,、定西、慶陽(yáng)等多地上,，文章點(diǎn)擊量達(dá)1.5萬(wàn)余次,，造假成本之低與負(fù)面影響之大形成鮮明對(duì)比。

早有新聞可信度評(píng)估機(jī)構(gòu)提出,，“ChatGPT可能成為互聯(lián)網(wǎng)有史以來(lái)最強(qiáng)大的傳播虛假信息的工具,。”也有一些實(shí)驗(yàn)表明,，ChatGPT等個(gè)性化的實(shí)時(shí)聊天機(jī)器人在制造陰謀論方面甚至比人類更具優(yōu)勢(shì),，它能夠修正糟糕的語(yǔ)法或錯(cuò)誤的翻譯，并變換表達(dá)方式,，使陰謀論顯得更具說(shuō)服力和可信度,。一方面是超強(qiáng)的“造假能力”，另一方面卻是相對(duì)缺失的“審核門(mén)檻”——在算法邏輯中,，事實(shí)核查能力天然缺失,，來(lái)源不明的所謂“新聞”隨時(shí)可能成為輿論爆點(diǎn),，大眾在將信將疑中“且傳且圍觀”。對(duì)這樣的造假循環(huán),，如若不加治理限制,，任由人工智能隨性發(fā)展,，必將嚴(yán)重威脅我們的信息生態(tài)。

科技是把雙刃劍,，人工智能也是如此,。我們當(dāng)然不必視之為洪水猛獸，關(guān)鍵是在積極擁抱新技術(shù),、新事物的同時(shí),，注意規(guī)避潛在的問(wèn)題和風(fēng)險(xiǎn)。人工智能浪潮滾滾而來(lái),，相關(guān)法律與倫理框架不僅不能落后,，反而更要盡量趕在前面。目前,，世界各國(guó)皆在開(kāi)展相關(guān)工作,，以我國(guó)來(lái)說(shuō)，今年1月《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》頒布實(shí)施,；4月,，國(guó)家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》。相信隨著法律法規(guī)的逐漸完善,，相關(guān)權(quán)責(zé)會(huì)更加明晰，操作規(guī)范會(huì)更加具體,。與此同時(shí),，對(duì)待技術(shù)帶來(lái)的新問(wèn)題,，也要多多尋求“技術(shù)解”。比如,，對(duì)人工智能合成的文章進(jìn)行識(shí)別并打上不可抹掉的標(biāo)簽,。

ChatGPT在接受《時(shí)代》“專訪”時(shí)曾回答：我還有很多局限，但人類應(yīng)準(zhǔn)備好應(yīng)對(duì)AI,。確實(shí),，當(dāng)為ChatGPT打開(kāi)的新世界而激動(dòng)萬(wàn)分時(shí)，我們更應(yīng)該有一絲理性的冷靜,?！胺彩骂A(yù)則立”，構(gòu)建人工智能應(yīng)用的倫理和法律框架,，讓其與技術(shù)研發(fā)齊頭并進(jìn),，規(guī)定好人工智能締造者的義務(wù)，充分提醒用戶保持警覺(jué),。當(dāng)方方面面的準(zhǔn)備工作都力求扎實(shí),，我們方能更好應(yīng)對(duì)這一“內(nèi)容生產(chǎn)的新紀(jì)元”。

來(lái)源：北京日?qǐng)?bào)

作者：杜梨

流程編輯：嚴(yán)圣淼