本報(bào)駐美國(guó)、加拿大,、德國(guó),、韓國(guó)特約記者 蕭達(dá) 陶短房 青木 林森 本報(bào)記者 丁雅梔 張蔚藍(lán) 陳康 柳玉鵬“2024年的美國(guó)大選將會(huì)出現(xiàn)人工智能（AI）生成的虛假信息海嘯。我們已看到這種情況,，且情況將會(huì)變得更糟,。”《今日美國(guó)報(bào)》當(dāng)?shù)貢r(shí)間19日在報(bào)道中引述布魯金斯學(xué)會(huì)技術(shù)創(chuàng)新中心高級(jí)研究員達(dá)雷爾·韋斯特的話表達(dá)擔(dān)憂,。這樣的擔(dān)憂不僅出現(xiàn)在美國(guó),。包括美國(guó)、俄羅#2月圖文動(dòng)態(tài)激勵(lì)計(jì)劃#斯,、印度、英國(guó),、墨西哥,、歐盟等70多個(gè)國(guó)家和地區(qū)今年將舉行重要選舉，覆蓋超過全球半數(shù)人口,。在全球地緣政治沖突和經(jīng)濟(jì)放緩的影響下,，這些選舉競(jìng)爭(zhēng)更加激烈，而AI生成的虛假信息（文本,、聲音,、照片,、視頻等）被認(rèn)為是這些選舉面臨的最主要威脅。日前,，全球多家科技企業(yè)在慕尼黑安全會(huì)議上簽署協(xié)議,，承諾在今年多國(guó)舉行的重要選舉中監(jiān)管和打擊濫用AI的行為。但AI的快速發(fā)展,，仍帶來了相關(guān)立法和監(jiān)管是否過慢的問題,。有中國(guó)學(xué)者20日對(duì)《環(huán)球時(shí)報(bào)》記者表示，雖然各國(guó)政府和科技巨頭都在努力應(yīng)對(duì)AI對(duì)選舉的潛在威脅,，但由于技術(shù),、監(jiān)管、利益以及全球地緣政治環(huán)境等多方面的因素,，目前還難以完全解決AI對(duì)選舉等政治和安全領(lǐng)域的負(fù)面影響,，世界需要持續(xù)的努力和國(guó)際合作來應(yīng)對(duì)這一挑戰(zhàn)。AI可能“決定選舉結(jié)果”在不久前美國(guó)新罕布什爾州共和黨初選的前兩天,，亨特利是接到拜登總統(tǒng)電話的數(shù)千名選民之一,。這通電話建議選民不要給特朗普投票，而是把選票留到11月大選時(shí)投給民主黨,。隨后,，美國(guó)政府澄清說，這是一則利用AI偽造拜登聲音的電話錄音,?！督袢彰绹?guó)報(bào)》19日用這一事件開頭報(bào)道了美國(guó)朝野對(duì)AI干擾選舉的擔(dān)憂。報(bào)道稱,，在新罕布什爾州初選受到干擾后,，美國(guó)聯(lián)邦通信委員會(huì)把使用AI生成的聲音進(jìn)行呼叫定性為非法，但美國(guó)沒有制定針對(duì)AI深度造假的聯(lián)邦法律,。報(bào)道引述布魯金斯學(xué)會(huì)專家韋斯特的話稱：“預(yù)計(jì)今年大選將是一場(chǎng)勢(shì)均力敵的激烈競(jìng)爭(zhēng),，只要能改變?nèi)膫€(gè)州5萬張選票就可能具有決定性作用?！狈菭I(yíng)利組織學(xué)者霍爾曼認(rèn)為,，AI就可能起到這樣的作用，并可能“決定這場(chǎng)選舉的結(jié)果”,。俄衛(wèi)星通訊社稱,，在各國(guó)日益激烈的政治競(jìng)爭(zhēng)中，AI已成為政黨和政客尋求在溝通,、戰(zhàn)略和決策方面獲得優(yōu)勢(shì)的強(qiáng)大工具,。AI在選舉中嶄露頭角，但它與政治的融合既帶來希望,，也帶來陷阱,。報(bào)道稱,，在巴基斯坦最近的選舉中，支持已入獄的前總理伊姆蘭·汗的候選人利用AI生成的視頻和音頻向支持者發(fā)表講話,，以吸引選票,。巴政治觀察家哈立德稱：“利用AI進(jìn)行深度造假在網(wǎng)絡(luò)上的傳播度迅速提升，可能引發(fā)錯(cuò)誤信息的完美風(fēng)暴,?！彪S著AI技術(shù)迅速進(jìn)步，不少國(guó)家政黨和政客在選舉中利用AI為自己拉選票,。美國(guó)有線電視新聞網(wǎng)（CNN）稱,，在日前結(jié)束的印尼大選期間，曾以鐵腕統(tǒng)治印尼30多年的前總統(tǒng)蘇哈托的一段講話視頻出現(xiàn)在網(wǎng)絡(luò)上,，吸引了許多選民的關(guān)注,。不過，這段視頻卻是AI生成的假視頻,。發(fā)布該視頻的印尼專業(yè)集團(tuán)黨副主席阿克薩稱,，此舉是“為了讓選民記住蘇哈托為印尼作出的貢獻(xiàn)”。該黨在本次選舉中支持當(dāng)選總統(tǒng)普拉博沃,，后者曾是蘇哈托女婿,。不過，此舉引發(fā)了巨大爭(zhēng)議,。報(bào)道稱,，網(wǎng)絡(luò)在印尼政治中扮演著重要的角色，許多政客為了吸引粉絲都開始利用AI,。許多候選人用AI聊天機(jī)器人來與選民互動(dòng),。普拉博沃的競(jìng)選團(tuán)隊(duì)用AI制作了他的卡通形象，并取名“可愛”,，吸引了眾多青年的喜愛,。據(jù)選后調(diào)查，普拉博沃在青年選民中以60%的得票率大幅領(lǐng)先,?！斑@永遠(yuǎn)是一場(chǎng)軍備競(jìng)賽”“AI不應(yīng)該成為選舉武器?！钡滦律?8日稱,，今年，世界有70多個(gè)國(guó)家或地區(qū)舉行重要選舉,，覆蓋40多億人口,，超過全球人口的一半,。關(guān)于AI可能被用來誤導(dǎo)選民和惡意歪曲選舉的擔(dān)憂在這個(gè)全球超級(jí)大選年急劇上升,。包括微軟,、Meta、谷歌,、亞馬遜,、X、OpenAI,、TikTok在內(nèi)的全球20家大型科技公司在慕尼黑安全會(huì)議上簽署了一項(xiàng)協(xié)議,，旨在降低AI干擾全球各地選舉的風(fēng)險(xiǎn)。盡管這份協(xié)議展現(xiàn)出國(guó)際科技巨頭在應(yīng)對(duì)AI挑戰(zhàn)時(shí)的合作,，但總體上只是勾勒出一系列最基本的原則和承諾,，包括開發(fā)出技術(shù)來為AI生成內(nèi)容打上水印、偵測(cè)并貼上非現(xiàn)實(shí)內(nèi)容標(biāo)簽,，設(shè)法檢測(cè)此類內(nèi)容的在線傳播情況,，提高公眾防范意識(shí)和媒體素養(yǎng)等，但協(xié)議并沒有說明如何履行這些承諾,。對(duì)于科技巨頭達(dá)成的新協(xié)議,，慕尼黑安全會(huì)議主席霍伊斯根表示，該協(xié)議是促進(jìn)選舉公正性,、增強(qiáng)社會(huì)復(fù)原力和創(chuàng)建值得信賴的技術(shù)實(shí)踐的關(guān)鍵一步,。谷歌全球事務(wù)總裁肯特·沃克稱：“我們不能允許AI濫用威脅改善經(jīng)濟(jì)、創(chuàng)造新就業(yè)機(jī)會(huì)以及推動(dòng)健康和科學(xué)進(jìn)步的能力,?！币恍﹪?guó)家則開始重拳出擊。韓聯(lián)社19日稱,，隨著4月份國(guó)會(huì)選舉臨近,，利用AI深度偽造的各種文本、圖片和視頻在網(wǎng)上日漸猖獗,。對(duì)此,，韓國(guó)國(guó)會(huì)去年12月通過了《公職人員選舉法》修正案，禁止利用AI深度偽造方式針對(duì)選民進(jìn)行非法競(jìng)選活動(dòng),，違法者將被處以最高7年有期徒刑及最高5000萬韓元的重罰,。目前，韓國(guó)國(guó)家選舉委員會(huì)針對(duì)此次國(guó)會(huì)選舉成立了由72人組成的打擊AI深度偽造專案組,。不過,，美國(guó)政治新聞網(wǎng)稱，AI技術(shù)已遠(yuǎn)遠(yuǎn)走在法律,、監(jiān)管和行業(yè)規(guī)范的前面,。美國(guó)國(guó)會(huì)至今未通過任何聯(lián)邦法律來規(guī)范AI在選舉中的使用。美國(guó)兩黨政策中心選舉項(xiàng)目高級(jí)副主任奧雷稱，AI生成的內(nèi)容一旦被創(chuàng)造出來,，就會(huì)在網(wǎng)絡(luò)上自由傳播,，非常難以監(jiān)管。微軟高級(jí)顧問巴丹尼斯稱：“人們的期望值不要太高,，現(xiàn)實(shí)是當(dāng)我們發(fā)展辨別和限制AI信息的同時(shí),，AI深度偽造技術(shù)也在飛速發(fā)展，這永遠(yuǎn)是一場(chǎng)軍備競(jìng)賽,?！崩肁I應(yīng)趨利避害“AI生成的錯(cuò)誤和虛假信息是2024年全球最大風(fēng)險(xiǎn)?！泵绹?guó)CNBC稱,，不久前達(dá)沃斯世界經(jīng)濟(jì)論壇發(fā)表《2024年全球風(fēng)險(xiǎn)報(bào)告》，將AI生成的錯(cuò)誤和虛假信息排在氣候變化,、戰(zhàn)爭(zhēng)和經(jīng)濟(jì)疲軟之前,，列為全球十大風(fēng)險(xiǎn)之首。該報(bào)告是對(duì)1400多名全球?qū)＜?、政策制定者和行業(yè)領(lǐng)導(dǎo)者進(jìn)行調(diào)查后撰寫的,。世界經(jīng)濟(jì)論壇執(zhí)行董事扎希迪表示：“這些錯(cuò)誤和虛假信息加速傳播，將加劇以兩極分化和不安全為特征的全球秩序和經(jīng)濟(jì)的不確定性,，各國(guó)領(lǐng)導(dǎo)人必須齊心協(xié)力應(yīng)對(duì)這些挑戰(zhàn),。”北京市社會(huì)科學(xué)院副研究員王鵬20日接受《環(huán)球時(shí)報(bào)》記者采訪時(shí)表示,，AI對(duì)多國(guó)選舉的潛在影響包括信息真實(shí)性受損,、選舉公正性受威脅。在如今全球地緣政治危機(jī)頻發(fā),、經(jīng)濟(jì)放緩的情況下,，可能影響一國(guó)對(duì)外政策走向，對(duì)全球穩(wěn)定也會(huì)產(chǎn)生影響,。王鵬說,，開發(fā)出能有效識(shí)別和過濾AI深度造假內(nèi)容的算法并不容易，需要大量的研發(fā)和持續(xù)的技術(shù)更新,。即使有了有效的技術(shù),，如何確保其在全球范圍內(nèi)得到廣泛應(yīng)用和有效執(zhí)行也是一個(gè)挑戰(zhàn)。這需要各國(guó)政府,、科技公司,、法律機(jī)構(gòu)和其他利益相關(guān)方的緊密合作。國(guó)際合作在防范AI對(duì)人類安全產(chǎn)生負(fù)面影響方面至關(guān)重要,。AI發(fā)展雖然帶來挑戰(zhàn),，但未來對(duì)人類的幫助更大,。2023年，以AI為基礎(chǔ)的華為盤古氣象大模型正式上線歐洲中期天氣預(yù)報(bào)官網(wǎng),。世界銀行估計(jì),，用AI改進(jìn)天氣預(yù)報(bào)和早期預(yù)警系統(tǒng)不僅每年可為世界帶來超過1600億美元的收益，還可挽救至少2.3萬人的生命,。此外，AI融入制造業(yè)和服務(wù)業(yè),，人類才能從繁重,、重復(fù)性工作中解脫出來?！俄n國(guó)經(jīng)濟(jì)》稱,，虛假信息在任何時(shí)代都存在，關(guān)鍵在于如何應(yīng)對(duì),。報(bào)道引述專家的話稱,，人類剛進(jìn)入AI時(shí)代，雖然AI引發(fā)不少安全擔(dān)憂,，但無須患上“AI恐懼癥”,，畢竟人類發(fā)明AI的本質(zhì)是為了幫助自己。如果人們無視AI能夠自主學(xué)習(xí)的巨大前景,，只關(guān)注其副作用,，那么人類技術(shù)進(jìn)步就變得不可能?！肮I(yè)革命時(shí)期破壞機(jī)器運(yùn)動(dòng)這樣的愚蠢行為不應(yīng)該重演”,。▲