【環(huán)球時(shí)報(bào)駐印度特約記者 曹沖 環(huán)球時(shí)報(bào)記者 苑基榮 陳子帥】5月20日，印度開(kāi)啟大選第五階段投票。此前不久,，一段“印度總理莫迪跟著孟加拉語(yǔ)流行音樂(lè)跳舞”的人工智能（AI）合成視頻在網(wǎng)上播放量突破千萬(wàn),，引發(fā)印度網(wǎng)民和媒體的廣泛討論,。事實(shí)上,，從去年開(kāi)始,，與政治相關(guān)的各類深度偽造視頻就接連出現(xiàn),，在印度這次世界規(guī)模最大的選舉中發(fā)揮著各種作用,，包括讓名人為政黨代言、惡搞政治對(duì)手,、“復(fù)活”已故政治家為政黨背書(shū)等等,。“如果說(shuō)2019年大選被稱為‘社交媒體選舉’,，那么2024年將見(jiàn)證‘AI選舉’的時(shí)代,。”據(jù)《印度教徒報(bào)》報(bào)道,，雖然在以前的印度大選中,，仇恨言論和虛假信息并不讓人陌生，但如今隨著AI技術(shù)的驚人發(fā)展帶來(lái)革命性變化,，2024年的印度大選將面臨新挑戰(zhàn),，AI深偽介入選舉可能會(huì)侵蝕印度的民主并深刻影響該國(guó)的政治生態(tài)。5月6日,，莫迪轉(zhuǎn)發(fā)了自己跳舞的AI合成視頻。（社交平臺(tái)X）　“分清每個(gè)視頻的真實(shí)性幾乎是不可能的”5月6日,，莫迪在社交平臺(tái)X上轉(zhuǎn)發(fā)了自己跳舞的AI合成視頻,，并配文稱：“和你們所有人一樣，我也喜歡看自己跳舞,。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂(lè),！”視頻顯示，“莫迪”隨著節(jié)奏感十足的孟加拉語(yǔ)歌曲跳躍著登上舞臺(tái),，一邊踢腿一邊揮舞手臂,。該視頻右下角有著“VIGGLE”字樣的水印，這是一個(gè)可以快速生成AI視頻的免費(fèi)網(wǎng)站,。然而,，這番表態(tài)并未給此事畫上句號(hào)。據(jù)印度《經(jīng)濟(jì)時(shí)報(bào)》報(bào)道，另一段視頻顯示,，“印度西孟加拉邦首席部長(zhǎng),、草根國(guó)大黨主席瑪瑪塔·班納吉”跳了同一段舞蹈，但背景音樂(lè)是她演講的一部分,，內(nèi)容是批評(píng)那些退出該黨轉(zhuǎn)而加入莫迪領(lǐng)導(dǎo)的印度人民黨（印人黨）的人,。視頻發(fā)布者遭到西孟加拉邦警方的警告。此后,，不少印度網(wǎng)民開(kāi)始將班納吉與莫迪進(jìn)行比較,，稱莫迪是“有史以來(lái)最酷的總理”。而且,，“莫迪跳舞”視頻制作者在發(fā)布視頻時(shí)的配文也頗具政治意味：“我發(fā)布這段視頻是因?yàn)槲抑浪^的‘獨(dú)裁者’不會(huì)讓我因此被捕,。”不過(guò),，不同于莫迪此次積極的表態(tài),，去年年底一段“莫迪跳傳統(tǒng)舞蹈”的視頻走紅時(shí)，莫迪公開(kāi)表示對(duì)深偽技術(shù)的擔(dān)憂,。他警告說(shuō)：“人們會(huì)誤以為自己看見(jiàn)的是真實(shí)的,，這會(huì)引發(fā)巨大危機(jī)?！睋?jù)法國(guó)《回聲報(bào)》報(bào)道,，印度正成為將AI應(yīng)用于政治領(lǐng)域的“先鋒”。全球安全軟件公司邁克菲今年4月的一份報(bào)告顯示,，近1/4受訪印度人曾接觸過(guò)帶有政治內(nèi)容的深度偽造產(chǎn)品,。印度大學(xué)生夏爾馬告訴《環(huán)球時(shí)報(bào)》記者：“昨天我看到我最喜歡的演員被人偽造了一個(gè)為政黨拉票的視頻，但他平時(shí)并沒(méi)有表現(xiàn)出任何政黨傾向,。我們應(yīng)該制定嚴(yán)格的法律來(lái)禁止這種造假行為,。”商人戈帕爾也對(duì)記者表示擔(dān)憂：“我們?cè)趺床拍芟嘈盼覀兛吹交蚵?tīng)到的事情呢,？現(xiàn)在網(wǎng)上有太多明星拉票的視頻了,，分清每個(gè)視頻的真實(shí)性幾乎是不可能的?！睋?jù)《印度斯坦時(shí)報(bào)》報(bào)道,，多名寶萊塢影星在大選期間陷入深偽視頻爭(zhēng)議。上個(gè)月,，一段“印度著名演員阿米爾·汗敦促選民小心空洞承諾”的視頻走紅,，似乎將矛頭直指印人黨。阿米爾·汗的發(fā)言人表示已向有關(guān)部門投訴,。有觀點(diǎn)認(rèn)為,，利用寶萊塢明星做政治宣傳是印度政黨“爭(zhēng)先恐后”吸引年輕選民的嘗試,。數(shù)據(jù)顯示，印度今年約有1800萬(wàn)名首次投票的選民和近2億名20歲至29歲的年輕選民,?！靶路f但危險(xiǎn)”,，卡塔爾半島電視臺(tái)報(bào)道稱,，印度各政黨正轉(zhuǎn)向AI競(jìng)選策略。其中,，“復(fù)活”仍有影響力的已故政治人物是一種常見(jiàn)方式,。報(bào)道舉例稱，曾領(lǐng)導(dǎo)德拉維達(dá)進(jìn)步聯(lián)盟的卡魯納尼迪于2018年去世,，但他今年1月出現(xiàn)在一段AI合成的視頻中,，對(duì)他的兒子、現(xiàn)任泰米爾納德邦首席部長(zhǎng)大加贊賞,。制作該視頻的印度媒體技術(shù)公司Muonium創(chuàng)始人森蒂爾·納亞加姆表示,，與耗時(shí)長(zhǎng)、花費(fèi)大的傳統(tǒng)集會(huì)相比,，讓已故領(lǐng)導(dǎo)人“復(fù)活”更新穎,、更具成本效益。還有一類AI視頻會(huì)通過(guò)惡意編輯來(lái)攻擊政治對(duì)手,。今年3月,，印人黨發(fā)布了最大反對(duì)黨國(guó)大黨領(lǐng)導(dǎo)人拉胡爾·甘地的一段深偽視頻，視頻中的“甘地”說(shuō)著一句他從未說(shuō)過(guò)的話：“我什么都不做,?！睋?jù)法新社報(bào)道，印人黨較早在競(jìng)選中使用新技術(shù),。早在莫迪當(dāng)選總理的2014年,，印人黨就用全息投影技術(shù)讓莫迪出現(xiàn)在集會(huì)上，擴(kuò)大其影響力,。今年2月,，國(guó)大黨制作了“莫迪”演唱歌曲《小偷》的深偽視頻，嘲諷莫迪偏袒該國(guó)富人的行為,。4月,，印度內(nèi)政部長(zhǎng)阿米特·沙阿也出現(xiàn)在一段深偽視頻中，“沙阿”聲稱要結(jié)束針對(duì)數(shù)百萬(wàn)貧困和低種姓印度人的平權(quán)行動(dòng)政策,。據(jù)《印度教徒報(bào)》報(bào)道,，因涉嫌傳播虛假視頻，警方已調(diào)查并逮捕多名國(guó)大黨工作人員,，其中包括該黨社交媒體全國(guó)協(xié)調(diào)員阿倫·雷迪,。雷迪被指控是沙阿深偽視頻的“幕后黑手”,，但現(xiàn)已被保釋。雷迪曾在接受采訪時(shí)表示：“政治就是創(chuàng)造認(rèn)知,。通過(guò)使用AI工具并促成點(diǎn)擊,，就可以在一分鐘內(nèi)徹底改變?nèi)藗兊目捶ā,！庇《日h今年將在AI助選上花費(fèi)超過(guò)5000萬(wàn)美元在今年大選期間,，多個(gè)政黨都在利用AI技術(shù)制作競(jìng)選材料。目前,，印度開(kāi)始涌現(xiàn)出專門為政治人物提供AI服務(wù)的企業(yè),，它們提供的服務(wù)包括制作政界人士談?wù)撍_(kāi)展項(xiàng)目的多語(yǔ)言版本視頻，或制作用于詢問(wèn)選民在當(dāng)?shù)孛媾R的問(wèn)題并尋求建議的電話音頻等,。但也有業(yè)內(nèi)人士表示：“我們會(huì)收到很多請(qǐng)求,，其中45%到50%的請(qǐng)求是不道德的。一種是將政治領(lǐng)導(dǎo)人的面孔替換到有爭(zhēng)議的視頻內(nèi)容中的,，這可能會(huì)損害他的形象,；另一種就是克隆政治對(duì)手的聲音，讓他說(shuō)一些他以前根本沒(méi)有說(shuō)過(guò)的話,?！睋?jù)國(guó)際科技新聞網(wǎng)站“余下的世界”4月報(bào)道，印度賈維斯咨詢集團(tuán)的數(shù)據(jù)顯示,，印度各政黨今年將在AI生成競(jìng)選材料上花費(fèi)超過(guò)5000萬(wàn)美元（1萬(wàn)美元約合7.2萬(wàn)元人民幣）,。合成媒體技術(shù)公司正加班加點(diǎn)滿足所有政黨的需求?！斑@是我們首次看到深偽視頻的大規(guī)模部署,。即使對(duì)我們來(lái)說(shuō)也是一件新鮮事?！奔{亞加姆說(shuō),，他的公司Muonium從今年1月開(kāi)始涉足政治領(lǐng)域業(yè)務(wù)，第一個(gè)項(xiàng)目就是“復(fù)活”卡魯納尼迪的視頻,。此后僅3個(gè)月,，這家公司就被此類合同“淹沒(méi)”了。由于帶寬不足,，該公司目前只與“可以信任并可以提供擔(dān)保的政黨”合作,。此外，此類公司也一般不會(huì)同時(shí)為在同邦競(jìng)選的兩個(gè)對(duì)手黨派提供服務(wù),。賈杜恩是印度AI合成媒體技術(shù)公司Polymath Solution的創(chuàng)始人,，該公司去年11月開(kāi)始為印度政界人士制作AI視頻內(nèi)容。在幾個(gè)月的時(shí)間里,，這家由9個(gè)人組成的小型公司,，已獲得6個(gè)競(jìng)選相關(guān)項(xiàng)目,，并正同時(shí)服務(wù)多個(gè)政黨，預(yù)計(jì)將于今年大選期間賺取超過(guò)24萬(wàn)美元,。關(guān)于深偽視頻的具體費(fèi)用,，以Polymath Solution為例，該公司收取6萬(wàn)盧比（1萬(wàn)盧比約合868元人民幣）的語(yǔ)音克隆費(fèi)和10萬(wàn)盧比的數(shù)字頭像創(chuàng)建費(fèi),。曾為莫迪制作3D全息圖的媒體技術(shù)公司Avantari Technologies收取100萬(wàn)盧比的語(yǔ)音克隆費(fèi),，其推送每條社交媒體WhatsApp消息的收費(fèi)為30盧比。印度政治學(xué)家維什諾伊表示：“印度主要政黨可能會(huì)為AI競(jìng)選活動(dòng)撥款超過(guò)100萬(wàn)美元……平均一位候選人可能有8萬(wàn)至9萬(wàn)美元,?！薄　案?jìng)選變得越來(lái)越奇怪了”據(jù)《印度教徒報(bào)》報(bào)道,，AI技術(shù)運(yùn)用到選舉中積極的一面在于,，AI技術(shù)正在降低制作競(jìng)選材料的成本和障礙。比如一段“莫迪”直接叫出選民名字并鼓勵(lì)選民參與投票的個(gè)性化視頻,，在WhatsApp上被一對(duì)一推送給數(shù)億名印度網(wǎng)民,，相比傳統(tǒng)手段節(jié)省了大量的時(shí)間和資金，因此也極有可能成為未來(lái)競(jìng)選的重要工具,。據(jù)新加坡《聯(lián)合早報(bào)》報(bào)道,，一些專家認(rèn)為，AI技術(shù)一方面有望改變印度大選歷時(shí)長(zhǎng),、耗費(fèi)大的現(xiàn)狀,，但另一方面，也會(huì)讓假消息變得更普遍,、更具針對(duì)性且更難被發(fā)現(xiàn),。印度選舉委員會(huì)表示：“在社交媒體平臺(tái)上使用被操縱、扭曲,、編輯的內(nèi)容,，可能錯(cuò)誤地影響選民意見(jiàn)，加深社會(huì)分歧,，侵蝕對(duì)選舉過(guò)程的信任,。”印度前首席選舉專員庫(kù)雷希稱：“謠言一直是競(jìng)選活動(dòng)的一部分,。但在社交媒體時(shí)代,，它可能會(huì)像野火一樣點(diǎn)燃這個(gè)國(guó)家?！辟Z杜恩告訴英國(guó)天空新聞臺(tái),，之前甚至有某個(gè)政黨希望該公司幫助對(duì)一段真實(shí)的視頻進(jìn)行處理，使其看起來(lái)像是深度偽造的,，并打算以此進(jìn)行“辟謠”,，因?yàn)樵曨l“有損候選人形象”,。對(duì)此，賈杜恩直言：“競(jìng)選變得越來(lái)越奇怪了,?！辈簧儆《让癖娨矒?dān)憂，深度偽造正讓“真相”變成一個(gè)可塑的概念,，公眾向領(lǐng)導(dǎo)人問(wèn)責(zé)的能力也會(huì)受到嚴(yán)重影響,。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)國(guó)際關(guān)系學(xué)院學(xué)者梁懷新對(duì)《環(huán)球時(shí)報(bào)》記者分析說(shuō)，“AI+政治”趨勢(shì)的成因主要有3個(gè)方面：一是AI技術(shù)躍遷提供了技術(shù)基礎(chǔ),，使深偽內(nèi)容達(dá)到真假難辨的程度,；二是在大國(guó)戰(zhàn)略競(jìng)爭(zhēng)的整體態(tài)勢(shì)下，近些年美西方或印度,、阿根廷等發(fā)展中國(guó)家出現(xiàn)明顯的政治極化趨勢(shì),，選民依賴網(wǎng)絡(luò)獲取信息而不過(guò)多考量其真實(shí)性，這被一些激進(jìn)政治勢(shì)力所利用,；第三,，關(guān)于AI生成產(chǎn)品的倫理道德問(wèn)題還存在極大爭(zhēng)議，相關(guān)監(jiān)管法規(guī)相對(duì)滯后,，客觀上助推了AI深偽在競(jìng)選中的應(yīng)用,。監(jiān)管法規(guī)滯后，印警方像在玩“打地鼠”游戲關(guān)于印度對(duì)AI深偽的相關(guān)法規(guī),，印度數(shù)字未來(lái)實(shí)驗(yàn)室政策研究員阿努什卡·賈因表示,，印度法律目前沒(méi)有對(duì)“深度偽造”作出明確定義。警方一直在使用針對(duì)誹謗或侵犯?jìng)€(gè)人隱私的法律,，并結(jié)合《信息技術(shù)法》,，解決個(gè)別案件。很多時(shí)候,，他們像在玩“打地鼠”的游戲,。《印度斯坦時(shí)報(bào)》報(bào)道稱,，雖然政治領(lǐng)域的虛假信息在印度不是一個(gè)新問(wèn)題,，但相關(guān)執(zhí)法行動(dòng)一直都處于起步階段，也并非持續(xù)性的?，F(xiàn)在最緊迫要解決的問(wèn)題是,，數(shù)字平臺(tái)該如何標(biāo)記、識(shí)別這些媒體內(nèi)容,。目前,，印度選舉委員會(huì)已致函所有政黨，要求他們?cè)诮拥酵ㄖ?小時(shí)內(nèi)刪除任何深度偽造內(nèi)容,。委員會(huì)還要求各政黨人員不要使用他們的社交媒體賬號(hào)發(fā)布深度偽造的視頻和音頻,，也不要傳播任何錯(cuò)誤信息或合成,、修改的信息?！癆I深度偽造可能顛覆很多國(guó)家的選舉,。”美國(guó)《華盛頓郵報(bào)》報(bào)道稱,，印度大選讓人們看到AI工具的爆炸式增長(zhǎng)如何使圍繞競(jìng)選打造虛假媒體內(nèi)容變得更容易,，并改變?cè)搰?guó)民主進(jìn)程。加利福尼亞大學(xué)伯克利分校的計(jì)算機(jī)專業(yè)教授法里德表示,，在多國(guó)的選舉中,，深偽內(nèi)容泛濫勢(shì)頭都很迅猛。比如美國(guó)有模仿總統(tǒng)拜登聲音的電話,，印尼大選期間戈?duì)柨h用AI技術(shù)“復(fù)活”前總統(tǒng)蘇哈托等,，都凸顯了解決該問(wèn)題的緊迫性。來(lái)源：環(huán)球網(wǎng)