有MCN機構利用人工智能程序日產上千篇虛假新聞,，導致大量不實信息在網(wǎng)上病毒式傳播；某小說平臺賬號依靠AI“創(chuàng)作”，每日更新十幾本電子書,，行文卻邏輯不通、辭藻空洞,；醫(yī)學論文因使用AI生成的虛假配圖而被撤稿……當前,，AI生成、偽造或篡改文本,、圖片,、音頻和視頻的現(xiàn)象越來越普遍，大量粗制濫造、真假難辨的“信息垃圾”,，引發(fā)了關于“AI污染”的討論,。去年以來，生成式人工智能在世界范圍內掀起一波接一波的熱潮，其顛覆性應用讓許多行業(yè)和網(wǎng)民受益,。然而,，一塊硬幣有兩面，伴隨生成式人工智能而來的也有一些負面問題,，由“信息垃圾”導致的“AI污染”越來越突出,。清華大學新聞與傳播學院新媒體研究中心今年4月發(fā)布的一份研究報告顯示，近一年來,，經濟與企業(yè)類AI謠言量增速達99.91%,。美國調查機構“新聞守衛(wèi)”稱，生成虛假文章的網(wǎng)站數(shù)量自2023年5月以來激增1000%以上,，涉及15種語言,。一些專家認為，AI制造的“信息垃圾”產量龐大,，且辨別難度較大,、篩選成本較高?！癆I污染”帶來的危害顯而易見,。“AI污染”會讓網(wǎng)民陷入認知幻覺,。在某知識分享平臺上,，看似“上知天文,，下曉地理”的AI，生成的內容卻空洞生硬,。在缺乏批判性思考的情況下,，AI快速編織的“知識體系”，一方面可能使人們的思辨能力產生退化,，另一方面也可能讓人陷入認知幻覺,，引發(fā)公眾認知困惑，進而扭曲公眾對現(xiàn)實和科學共識的集體理解,，最終讓人被AI“牽著走”,。尤其對于伴隨互聯(lián)網(wǎng)成長起來的年輕一代，一旦他們的認知被“信息垃圾”所塑造,，其后果不堪設想,。“AI污染”會反噬AI產業(yè)的發(fā)展,。眾所周知,，AI模型的準確性很大程度上取決于訓練數(shù)據(jù)的質量。若AI生成的虛假,、垃圾內容“回流”互聯(lián)網(wǎng),，成為訓練AI模型的新數(shù)據(jù)，這種“垃圾進,、垃圾出”的循環(huán)模式,，或使AI的輸出質量斷崖式下降，不利于整個AI產業(yè)的發(fā)展,。比如,，某互聯(lián)網(wǎng)企業(yè)通過搜索引擎優(yōu)化，將AI生成的文章優(yōu)先呈現(xiàn)于搜索結果中,，導致用戶難以檢索到高質量信息,，引發(fā)用戶廣泛批評。此外,，“AI污染”還涉及法律、倫理甚至社會穩(wěn)定等諸多問題,。AI制造的虛假內容,，或侵犯知識產權、動搖版權規(guī)則,，也涉嫌侵犯個人隱私,、泄露身份信息，且有濫用風險,，恐擾亂,、操控社會輿論，AI制造的違法行為還會加大社會治理難度。由此可見,，整治互聯(lián)網(wǎng)“AI污染”勢在必行,。據(jù)中國互聯(lián)網(wǎng)信息中心發(fā)布的第54次《中國互聯(lián)網(wǎng)絡發(fā)展狀況統(tǒng)計報告》，截至今年6月,，我國網(wǎng)民規(guī)模近11億人,。互聯(lián)網(wǎng)構筑著人類生存的新家園,，年輕一代已成為網(wǎng)絡“原住民”,，可以說，整治“AI污染”是打造清朗的網(wǎng)絡空間,、保障每個網(wǎng)民美好生活的必要行動,。首先，應加大對AI學習和生成機制的源頭治理,。明確AI平臺對源頭素材的把控責任和對生成內容的監(jiān)管責任,，完善AI內容生成規(guī)則，強制對AI生成內容打上顯著標識,，提升AI技術的透明度和可解釋性,。其二，加強對AI生成內容的篩查監(jiān)管,。有關部門及企業(yè)需將監(jiān)管重點放在對AI生成內容的篩查及審核上,，可開發(fā)相關的審查算法，規(guī)范生成內容向輿論場的流入及傳播途徑,，及時發(fā)現(xiàn)并刪除低質量或虛假內容,。其三，提高用戶對AI生成內容的辨別能力,。網(wǎng)民應理性對待互聯(lián)網(wǎng)信息,，增強防范意識和識別能力，可使用反向搜索工具,，檢查內容來源和作者信息,，分析內容的語言和結構特征，從而鑒“偽”鑒“劣”,。網(wǎng)絡空間不是亂扔亂堆的“垃圾場”,。整治“AI污染”、打造清朗安全的網(wǎng)絡家園,，需要各部門同抓共管和全社會共同參與,。來源：新華每日電訊作者: 宋瑞 柳媛