新華社北京10月22日電 10月22日,《新華每日電訊》發(fā)表題為《警惕“AI污染”亂象》的評(píng)論,。有MCN機(jī)構(gòu)利用人工智能程序日產(chǎn)上千篇虛假新聞，導(dǎo)致大量不實(shí)信息在網(wǎng)上病毒式傳播；某小說(shuō)平臺(tái)賬號(hào)依靠AI“創(chuàng)作”,，每日更新十幾本電子書(shū),，行文卻邏輯不通,、辭藻空洞,；醫(yī)學(xué)論文因使用AI生成的虛假配圖而被撤稿……當(dāng)前,，AI生成,、偽造或篡改文本、圖片,、音頻和視頻的現(xiàn)象越來(lái)越普遍,，大量粗制濫造、真假難辨的“信息垃圾”,，引發(fā)了關(guān)于“AI污染”的討論,。去年以來(lái)，生成式人工智能在世界范圍內(nèi)掀起一波接一波的熱潮,，其顛覆性應(yīng)用讓許多行業(yè)和網(wǎng)民受益。然而,，一塊硬幣有兩面,，伴隨生成式人工智能而來(lái)的也有一些負(fù)面問(wèn)題，由“信息垃圾”導(dǎo)致的“AI污染”越來(lái)越突出,。清華大學(xué)新聞與傳播學(xué)院新媒體研究中心今年4月發(fā)布的一份研究報(bào)告顯示,，近一年來(lái)，經(jīng)濟(jì)與企業(yè)類(lèi)AI謠言量增速達(dá)99.91%,。美國(guó)調(diào)查機(jī)構(gòu)“新聞守衛(wèi)”稱(chēng),，生成虛假文章的網(wǎng)站數(shù)量自2023年5月以來(lái)激增1000%以上,，涉及15種語(yǔ)言,。一些專(zhuān)家認(rèn)為，AI制造的“信息垃圾”產(chǎn)量龐大,，且辨別難度較大,、篩選成本較高?！癆I污染”帶來(lái)的危害顯而易見(jiàn),。“AI污染”會(huì)讓網(wǎng)民陷入認(rèn)知幻覺(jué),。在某知識(shí)分享平臺(tái)上,，看似“上知天文，下曉地理”的AI,，生成的內(nèi)容卻空洞生硬,。在缺乏批判性思考的情況下，AI快速編織的“知識(shí)體系”,，一方面可能使人們的思辨能力產(chǎn)生退化,，另一方面也可能讓人陷入認(rèn)知幻覺(jué),，引發(fā)公眾認(rèn)知困惑，進(jìn)而扭曲公眾對(duì)現(xiàn)實(shí)和科學(xué)共識(shí)的集體理解,，最終讓人被AI“牽著走”,。尤其對(duì)于伴隨互聯(lián)網(wǎng)成長(zhǎng)起來(lái)的年輕一代，一旦他們的認(rèn)知被“信息垃圾”所塑造,，其后果不堪設(shè)想,。“AI污染”會(huì)反噬AI產(chǎn)業(yè)的發(fā)展,。眾所周知,，AI模型的準(zhǔn)確性很大程度上取決于訓(xùn)練數(shù)據(jù)的質(zhì)量。若AI生成的虛假,、垃圾內(nèi)容“回流”互聯(lián)網(wǎng),，成為訓(xùn)練AI模型的新數(shù)據(jù)，這種“垃圾進(jìn),、垃圾出”的循環(huán)模式,，或使AI的輸出質(zhì)量斷崖式下降，不利于整個(gè)AI產(chǎn)業(yè)的發(fā)展,。比如,，某互聯(lián)網(wǎng)企業(yè)通過(guò)搜索引擎優(yōu)化，將AI生成的文章優(yōu)先呈現(xiàn)于搜索結(jié)果中,，導(dǎo)致用戶(hù)難以檢索到高質(zhì)量信息,，引發(fā)用戶(hù)廣泛批評(píng)。此外,，“AI污染”還涉及法律,、倫理甚至社會(huì)穩(wěn)定等諸多問(wèn)題。AI制造的虛假內(nèi)容,，或侵犯知識(shí)產(chǎn)權(quán),、動(dòng)搖版權(quán)規(guī)則，也涉嫌侵犯?jìng)€(gè)人隱私,、泄露身份信息,，且有濫用風(fēng)險(xiǎn)，恐?jǐn)_亂,、操控社會(huì)輿論,，AI制造的違法行為還會(huì)加大社會(huì)治理難度。由此可見(jiàn),，整治互聯(lián)網(wǎng)“AI污染”勢(shì)在必行,。據(jù)中國(guó)互聯(lián)網(wǎng)信息中心發(fā)布的第54次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，截至今年6月，我國(guó)網(wǎng)民規(guī)模近11億人,?；ヂ?lián)網(wǎng)構(gòu)筑著人類(lèi)生存的新家園，年輕一代已成為網(wǎng)絡(luò)“原住民”,，可以說(shuō),，整治“AI污染”是打造清朗的網(wǎng)絡(luò)空間、保障每個(gè)網(wǎng)民美好生活的必要行動(dòng),。首先,，應(yīng)加大對(duì)AI學(xué)習(xí)和生成機(jī)制的源頭治理。明確AI平臺(tái)對(duì)源頭素材的把控責(zé)任和對(duì)生成內(nèi)容的監(jiān)管責(zé)任,，完善AI內(nèi)容生成規(guī)則,，強(qiáng)制對(duì)AI生成內(nèi)容打上顯著標(biāo)識(shí)，提升AI技術(shù)的透明度和可解釋性,。其二,，加強(qiáng)對(duì)AI生成內(nèi)容的篩查監(jiān)管。有關(guān)部門(mén)及企業(yè)需將監(jiān)管重點(diǎn)放在對(duì)AI生成內(nèi)容的篩查及審核上,，可開(kāi)發(fā)相關(guān)的審查算法,，規(guī)范生成內(nèi)容向輿論場(chǎng)的流入及傳播途徑，及時(shí)發(fā)現(xiàn)并刪除低質(zhì)量或虛假內(nèi)容,。其三,，提高用戶(hù)對(duì)AI生成內(nèi)容的辨別能力。網(wǎng)民應(yīng)理性對(duì)待互聯(lián)網(wǎng)信息,，增強(qiáng)防范意識(shí)和識(shí)別能力,，可使用反向搜索工具，檢查內(nèi)容來(lái)源和作者信息,，分析內(nèi)容的語(yǔ)言和結(jié)構(gòu)特征,，從而鑒“偽”鑒“劣”。網(wǎng)絡(luò)空間不是亂扔亂堆的“垃圾場(chǎng)”,。整治“AI污染”,、打造清朗安全的網(wǎng)絡(luò)家園，需要各部門(mén)同抓共管和全社會(huì)共同參與,。