【環(huán)球時(shí)報(bào)駐印度特約記者 曹沖 環(huán)球時(shí)報(bào)記者 苑基榮 陳子帥】5月20日,，印度開啟大選第五階段投票。此前不久，一段“印度總理莫迪跟著孟加拉語流行音樂跳舞”的人工智能（AI）合成視頻在網(wǎng)上播放量突破千萬,，引發(fā)印度網(wǎng)民和媒體的廣泛討論,。事實(shí)上,，從去年開始,，與政治相關(guān)的各類深度偽造視頻就接連出現(xiàn)，在印度這次世界規(guī)模最大的選舉中發(fā)揮著各種作用,，包括讓名人為政黨代言,、惡搞政治對手、“復(fù)活”已故政治家為政黨背書等等,?！叭绻f2019年大選被稱為‘社交媒體選舉’，那么2024年將見證‘AI選舉’的時(shí)代,?！睋?jù)《印度教徒報(bào)》報(bào)道，雖然在以前的印度大選中,，仇恨言論和虛假信息并不讓人陌生,，但如今隨著AI技術(shù)的驚人發(fā)展帶來革命性變化,，2024年的印度大選將面臨新挑戰(zhàn)，AI深偽介入選舉可能會侵蝕印度的民主并深刻影響該國的政治生態(tài),。5月6日，莫迪轉(zhuǎn)發(fā)了自己跳舞的AI合成視頻,。（社交平臺X）　“分清每個(gè)視頻的真實(shí)性幾乎是不可能的”5月6日,，莫迪在社交平臺X上轉(zhuǎn)發(fā)了自己跳舞的AI合成視頻，并配文稱：“和你們所有人一樣,，我也喜歡看自己跳舞,。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂！”視頻顯示,，“莫迪”隨著節(jié)奏感十足的孟加拉語歌曲跳躍著登上舞臺,，一邊踢腿一邊揮舞手臂。該視頻右下角有著“VIGGLE”字樣的水印,，這是一個(gè)可以快速生成AI視頻的免費(fèi)網(wǎng)站,。然而,，這番表態(tài)并未給此事畫上句號,。據(jù)印度《經(jīng)濟(jì)時(shí)報(bào)》報(bào)道，另一段視頻顯示,，“印度西孟加拉邦首席部長,、草根國大黨主席瑪瑪塔·班納吉”跳了同一段舞蹈，但背景音樂是她演講的一部分,，內(nèi)容是批評那些退出該黨轉(zhuǎn)而加入莫迪領(lǐng)導(dǎo)的印度人民黨（印人黨）的人,。視頻發(fā)布者遭到西孟加拉邦警方的警告。此后,，不少印度網(wǎng)民開始將班納吉與莫迪進(jìn)行比較,，稱莫迪是“有史以來最酷的總理”。而且,，“莫迪跳舞”視頻制作者在發(fā)布視頻時(shí)的配文也頗具政治意味：“我發(fā)布這段視頻是因?yàn)槲抑浪^的‘獨(dú)裁者’不會讓我因此被捕,。”不過,，不同于莫迪此次積極的表態(tài),，去年年底一段“莫迪跳傳統(tǒng)舞蹈”的視頻走紅時(shí)，莫迪公開表示對深偽技術(shù)的擔(dān)憂。他警告說：“人們會誤以為自己看見的是真實(shí)的,，這會引發(fā)巨大危機(jī),。”據(jù)法國《回聲報(bào)》報(bào)道,，印度正成為將AI應(yīng)用于政治領(lǐng)域的“先鋒”,。全球安全軟件公司邁克菲今年4月的一份報(bào)告顯示，近1/4受訪印度人曾接觸過帶有政治內(nèi)容的深度偽造產(chǎn)品,。印度大學(xué)生夏爾馬告訴《環(huán)球時(shí)報(bào)》記者：“昨天我看到我最喜歡的演員被人偽造了一個(gè)為政黨拉票的視頻,，但他平時(shí)并沒有表現(xiàn)出任何政黨傾向。我們應(yīng)該制定嚴(yán)格的法律來禁止這種造假行為,?！鄙倘烁昱翣栆矊τ浾弑硎緭?dān)憂：“我們怎么才能相信我們看到或聽到的事情呢？現(xiàn)在網(wǎng)上有太多明星拉票的視頻了,，分清每個(gè)視頻的真實(shí)性幾乎是不可能的,。”據(jù)《印度斯坦時(shí)報(bào)》報(bào)道,，多名寶萊塢影星在大選期間陷入深偽視頻爭議,。上個(gè)月，一段“印度著名演員阿米爾·汗敦促選民小心空洞承諾”的視頻走紅,，似乎將矛頭直指印人黨,。阿米爾·汗的發(fā)言人表示已向有關(guān)部門投訴。有觀點(diǎn)認(rèn)為,，利用寶萊塢明星做政治宣傳是印度政黨“爭先恐后”吸引年輕選民的嘗試,。數(shù)據(jù)顯示，印度今年約有1800萬名首次投票的選民和近2億名20歲至29歲的年輕選民,?！靶路f但危險(xiǎn)”，卡塔爾半島電視臺報(bào)道稱,，印度各政黨正轉(zhuǎn)向AI競選策略,。其中，“復(fù)活”仍有影響力的已故政治人物是一種常見方式,。報(bào)道舉例稱,，曾領(lǐng)導(dǎo)德拉維達(dá)進(jìn)步聯(lián)盟的卡魯納尼迪于2018年去世，但他今年1月出現(xiàn)在一段AI合成的視頻中,，對他的兒子,、現(xiàn)任泰米爾納德邦首席部長大加贊賞。制作該視頻的印度媒體技術(shù)公司Muonium創(chuàng)始人森蒂爾·納亞加姆表示,，與耗時(shí)長,、花費(fèi)大的傳統(tǒng)集會相比,，讓已故領(lǐng)導(dǎo)人“復(fù)活”更新穎、更具成本效益,。還有一類AI視頻會通過惡意編輯來攻擊政治對手,。今年3月，印人黨發(fā)布了最大反對黨國大黨領(lǐng)導(dǎo)人拉胡爾·甘地的一段深偽視頻,，視頻中的“甘地”說著一句他從未說過的話：“我什么都不做,。”據(jù)法新社報(bào)道,，印人黨較早在競選中使用新技術(shù),。早在莫迪當(dāng)選總理的2014年，印人黨就用全息投影技術(shù)讓莫迪出現(xiàn)在集會上,，擴(kuò)大其影響力,。今年2月，國大黨制作了“莫迪”演唱歌曲《小偷》的深偽視頻,，嘲諷莫迪偏袒該國富人的行為,。4月，印度內(nèi)政部長阿米特·沙阿也出現(xiàn)在一段深偽視頻中,，“沙阿”聲稱要結(jié)束針對數(shù)百萬貧困和低種姓印度人的平權(quán)行動(dòng)政策,。據(jù)《印度教徒報(bào)》報(bào)道，因涉嫌傳播虛假視頻,，警方已調(diào)查并逮捕多名國大黨工作人員,，其中包括該黨社交媒體全國協(xié)調(diào)員阿倫·雷迪。雷迪被指控是沙阿深偽視頻的“幕后黑手”,，但現(xiàn)已被保釋,。雷迪曾在接受采訪時(shí)表示：“政治就是創(chuàng)造認(rèn)知。通過使用AI工具并促成點(diǎn)擊,，就可以在一分鐘內(nèi)徹底改變?nèi)藗兊目捶??！庇《日h今年將在AI助選上花費(fèi)超過5000萬美元在今年大選期間,，多個(gè)政黨都在利用AI技術(shù)制作競選材料。目前,，印度開始涌現(xiàn)出專門為政治人物提供AI服務(wù)的企業(yè),，它們提供的服務(wù)包括制作政界人士談?wù)撍_展項(xiàng)目的多語言版本視頻，或制作用于詢問選民在當(dāng)?shù)孛媾R的問題并尋求建議的電話音頻等,。但也有業(yè)內(nèi)人士表示：“我們會收到很多請求,，其中45%到50%的請求是不道德的。一種是將政治領(lǐng)導(dǎo)人的面孔替換到有爭議的視頻內(nèi)容中的,，這可能會損害他的形象,；另一種就是克隆政治對手的聲音,，讓他說一些他以前根本沒有說過的話?！睋?jù)國際科技新聞網(wǎng)站“余下的世界”4月報(bào)道,，印度賈維斯咨詢集團(tuán)的數(shù)據(jù)顯示，印度各政黨今年將在AI生成競選材料上花費(fèi)超過5000萬美元（1萬美元約合7.2萬元人民幣）,。合成媒體技術(shù)公司正加班加點(diǎn)滿足所有政黨的需求,。“這是我們首次看到深偽視頻的大規(guī)模部署,。即使對我們來說也是一件新鮮事,。”納亞加姆說,，他的公司Muonium從今年1月開始涉足政治領(lǐng)域業(yè)務(wù),，第一個(gè)項(xiàng)目就是“復(fù)活”卡魯納尼迪的視頻。此后僅3個(gè)月,，這家公司就被此類合同“淹沒”了,。由于帶寬不足，該公司目前只與“可以信任并可以提供擔(dān)保的政黨”合作,。此外,，此類公司也一般不會同時(shí)為在同邦競選的兩個(gè)對手黨派提供服務(wù)。賈杜恩是印度AI合成媒體技術(shù)公司Polymath Solution的創(chuàng)始人,，該公司去年11月開始為印度政界人士制作AI視頻內(nèi)容,。在幾個(gè)月的時(shí)間里，這家由9個(gè)人組成的小型公司,，已獲得6個(gè)競選相關(guān)項(xiàng)目,，并正同時(shí)服務(wù)多個(gè)政黨，預(yù)計(jì)將于今年大選期間賺取超過24萬美元,。關(guān)于深偽視頻的具體費(fèi)用,，以Polymath Solution為例，該公司收取6萬盧比（1萬盧比約合868元人民幣）的語音克隆費(fèi)和10萬盧比的數(shù)字頭像創(chuàng)建費(fèi),。曾為莫迪制作3D全息圖的媒體技術(shù)公司Avantari Technologies收取100萬盧比的語音克隆費(fèi),，其推送每條社交媒體WhatsApp消息的收費(fèi)為30盧比。印度政治學(xué)家維什諾伊表示：“印度主要政黨可能會為AI競選活動(dòng)撥款超過100萬美元……平均一位候選人可能有8萬至9萬美元,?！薄　案傔x變得越來越奇怪了”據(jù)《印度教徒報(bào)》報(bào)道，AI技術(shù)運(yùn)用到選舉中積極的一面在于,，AI技術(shù)正在降低制作競選材料的成本和障礙,。比如一段“莫迪”直接叫出選民名字并鼓勵(lì)選民參與投票的個(gè)性化視頻，在WhatsApp上被一對一推送給數(shù)億名印度網(wǎng)民,，相比傳統(tǒng)手段節(jié)省了大量的時(shí)間和資金,，因此也極有可能成為未來競選的重要工具,。據(jù)新加坡《聯(lián)合早報(bào)》報(bào)道，一些專家認(rèn)為,，AI技術(shù)一方面有望改變印度大選歷時(shí)長,、耗費(fèi)大的現(xiàn)狀，但另一方面,，也會讓假消息變得更普遍,、更具針對性且更難被發(fā)現(xiàn)。印度選舉委員會表示：“在社交媒體平臺上使用被操縱,、扭曲,、編輯的內(nèi)容，可能錯(cuò)誤地影響選民意見,，加深社會分歧,，侵蝕對選舉過程的信任?！庇《惹笆紫x舉專員庫雷希稱：“謠言一直是競選活動(dòng)的一部分,。但在社交媒體時(shí)代，它可能會像野火一樣點(diǎn)燃這個(gè)國家,?！辟Z杜恩告訴英國天空新聞臺，之前甚至有某個(gè)政黨希望該公司幫助對一段真實(shí)的視頻進(jìn)行處理,，使其看起來像是深度偽造的,，并打算以此進(jìn)行“辟謠”，因?yàn)樵曨l“有損候選人形象”,。對此,，賈杜恩直言：“競選變得越來越奇怪了?！辈簧儆《让癖娨矒?dān)憂,，深度偽造正讓“真相”變成一個(gè)可塑的概念，公眾向領(lǐng)導(dǎo)人問責(zé)的能力也會受到嚴(yán)重影響,。對外經(jīng)濟(jì)貿(mào)易大學(xué)國際關(guān)系學(xué)院學(xué)者梁懷新對《環(huán)球時(shí)報(bào)》記者分析說,，“AI+政治”趨勢的成因主要有3個(gè)方面：一是AI技術(shù)躍遷提供了技術(shù)基礎(chǔ)，使深偽內(nèi)容達(dá)到真假難辨的程度,；二是在大國戰(zhàn)略競爭的整體態(tài)勢下,，近些年美西方或印度,、阿根廷等發(fā)展中國家出現(xiàn)明顯的政治極化趨勢,，選民依賴網(wǎng)絡(luò)獲取信息而不過多考量其真實(shí)性，這被一些激進(jìn)政治勢力所利用,；第三,，關(guān)于AI生成產(chǎn)品的倫理道德問題還存在極大爭議,，相關(guān)監(jiān)管法規(guī)相對滯后，客觀上助推了AI深偽在競選中的應(yīng)用,。監(jiān)管法規(guī)滯后,，印警方像在玩“打地鼠”游戲關(guān)于印度對AI深偽的相關(guān)法規(guī)，印度數(shù)字未來實(shí)驗(yàn)室政策研究員阿努什卡·賈因表示,，印度法律目前沒有對“深度偽造”作出明確定義,。警方一直在使用針對誹謗或侵犯個(gè)人隱私的法律，并結(jié)合《信息技術(shù)法》,，解決個(gè)別案件,。很多時(shí)候，他們像在玩“打地鼠”的游戲,?！队《人固箷r(shí)報(bào)》報(bào)道稱，雖然政治領(lǐng)域的虛假信息在印度不是一個(gè)新問題,，但相關(guān)執(zhí)法行動(dòng)一直都處于起步階段,，也并非持續(xù)性的。現(xiàn)在最緊迫要解決的問題是,，數(shù)字平臺該如何標(biāo)記,、識別這些媒體內(nèi)容。目前,，印度選舉委員會已致函所有政黨,，要求他們在接到通知后3小時(shí)內(nèi)刪除任何深度偽造內(nèi)容。委員會還要求各政黨人員不要使用他們的社交媒體賬號發(fā)布深度偽造的視頻和音頻,，也不要傳播任何錯(cuò)誤信息或合成,、修改的信息?！癆I深度偽造可能顛覆很多國家的選舉,。”美國《華盛頓郵報(bào)》報(bào)道稱,，印度大選讓人們看到AI工具的爆炸式增長如何使圍繞競選打造虛假媒體內(nèi)容變得更容易,，并改變該國民主進(jìn)程。加利福尼亞大學(xué)伯克利分校的計(jì)算機(jī)專業(yè)教授法里德表示,，在多國的選舉中,，深偽內(nèi)容泛濫勢頭都很迅猛。比如美國有模仿總統(tǒng)拜登聲音的電話,，印尼大選期間戈?duì)柨h用AI技術(shù)“復(fù)活”前總統(tǒng)蘇哈托等,，都凸顯了解決該問題的緊迫性。來源：環(huán)球網(wǎng)