本報(bào)駐印度特約記者 曹 沖 本報(bào)記者 苑基榮 陳子帥5月20日,，印度開啟大選第五階段投票,。此前不久,，一段“印度總理莫迪跟著孟加拉語(yǔ)流行音樂跳舞”的人工智能（AI）合成視頻在網(wǎng)上播放量突破千萬，引發(fā)印度網(wǎng)民和媒體的廣泛討論,。事實(shí)上,，從去年開始，與政治相關(guān)的各類深度偽造視頻就接連出現(xiàn),，在印度這次世界規(guī)模最大的選舉中發(fā)揮著各種作用,，包括讓名人為政黨代言、惡搞政治對(duì)手,、“復(fù)活”已故政治家為政黨背書等等,。“如果說2019年大選被稱為‘社交媒體選舉’,，那么2024年將見證‘AI選舉’的時(shí)代?！睋?jù)《印度教徒報(bào)》報(bào)道,，雖然在以前的印度大選中，仇恨言論和虛假信息并不讓人陌生,，但如今隨著AI技術(shù)的驚人發(fā)展帶來革命性變化,，2024年的印度大選將面臨新挑戰(zhàn)，AI深偽介入選舉可能會(huì)侵蝕印度的民主并深刻影響該國(guó)的政治生態(tài),?！胺智迕總€(gè)視頻的真實(shí)性幾乎是不可能的”5月6日，莫迪在社交平臺(tái)X上轉(zhuǎn)發(fā)了自己跳舞的AI合成視頻,，并配文稱：“和你們所有人一樣,，我也喜歡看自己跳舞。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂,！”視頻顯示,，“莫迪”隨著節(jié)奏感十足的孟加拉語(yǔ)歌曲跳躍著登上舞臺(tái)，一邊踢腿一邊揮舞手臂,。該視頻右下角有著“VIGGLE”字樣的水印,，這是一個(gè)可以快速生成AI視頻的免費(fèi)網(wǎng)站。然而,，這番表態(tài)并未給此事畫上句號(hào),。據(jù)印度《經(jīng)濟(jì)時(shí)報(bào)》報(bào)道，另一段視頻顯示,，“印度西孟加拉邦首席部長(zhǎng),、草根國(guó)大黨主席瑪瑪塔·班納吉”跳了同一段舞蹈，但背景音樂是她演講的一部分,，內(nèi)容是批評(píng)那些退出該黨轉(zhuǎn)而加入莫迪領(lǐng)導(dǎo)的印度人民黨（印人黨）的人,。視頻發(fā)布者遭到西孟加拉邦警方的警告,。此后，不少印度網(wǎng)民開始將班納吉與莫迪進(jìn)行比較,，稱莫迪是“有史以來最酷的總理”,。而且，“莫迪跳舞”視頻制作者在發(fā)布視頻時(shí)的配文也頗具政治意味：“我發(fā)布這段視頻是因?yàn)槲抑浪^的‘獨(dú)裁者’不會(huì)讓我因此被捕,?！辈贿^，不同于莫迪此次積極的表態(tài),，去年年底一段“莫迪跳傳統(tǒng)舞蹈”的視頻走紅時(shí),，莫迪公開表示對(duì)深偽技術(shù)的擔(dān)憂。他警告說：“人們會(huì)誤以為自己看見的是真實(shí)的,，這會(huì)引發(fā)巨大危機(jī),。”據(jù)法國(guó)《回聲報(bào)》報(bào)道,，印度正成為將AI應(yīng)用于政治領(lǐng)域的“先鋒”,。全球安全軟件公司邁克菲今年4月的一份報(bào)告顯示，近1/4受訪印度人曾接觸過帶有政治內(nèi)容的深度偽造產(chǎn)品,。印度大學(xué)生夏爾馬告訴《環(huán)球時(shí)報(bào)》記者：“昨天我看到我最喜歡的演員被人偽造了一個(gè)為政黨拉票的視頻,，但他平時(shí)并沒有表現(xiàn)出任何政黨傾向。我們應(yīng)該制定嚴(yán)格的法律來禁止這種造假行為,?！鄙倘烁昱翣栆矊?duì)記者表示擔(dān)憂：“我們?cè)趺床拍芟嘈盼覀兛吹交蚵牭降氖虑槟兀楷F(xiàn)在網(wǎng)上有太多明星拉票的視頻了,，分清每個(gè)視頻的真實(shí)性幾乎是不可能的,。”據(jù)《印度斯坦時(shí)報(bào)》報(bào)道,，多名寶萊塢影星在大選期間陷入深偽視頻爭(zhēng)議,。上個(gè)月，一段“印度著名演員阿米爾·汗敦促選民小心空洞承諾”的視頻走紅,，似乎將矛頭直指印人黨,。阿米爾·汗的發(fā)言人表示已向有關(guān)部門投訴。有觀點(diǎn)認(rèn)為,，利用寶萊塢明星做政治宣傳是印度政黨“爭(zhēng)先恐后”吸引年輕選民的嘗試,。數(shù)據(jù)顯示，印度今年約有1800萬名首次投票的選民和近2億名20歲至29歲的年輕選民,?！靶路f但危險(xiǎn)”，卡塔爾半島電視臺(tái)報(bào)道稱,，印度各政黨正轉(zhuǎn)向AI競(jìng)選策略,。其中,，“復(fù)活”仍有影響力的已故政治人物是一種常見方式。報(bào)道舉例稱,，曾領(lǐng)導(dǎo)德拉維達(dá)進(jìn)步聯(lián)盟的卡魯納尼迪于2018年去世,，但他今年1月出現(xiàn)在一段AI合成的視頻中，對(duì)他的兒子,、現(xiàn)任泰米爾納德邦首席部長(zhǎng)大加贊賞,。制作該視頻的印度媒體技術(shù)公司Muonium創(chuàng)始人森蒂爾·納亞加姆表示，與耗時(shí)長(zhǎng),、花費(fèi)大的傳統(tǒng)集會(huì)相比,，讓已故領(lǐng)導(dǎo)人“復(fù)活”更新穎、更具成本效益,。還有一類AI視頻會(huì)通過惡意編輯來攻擊政治對(duì)手,。今年3月，印人黨發(fā)布了最大反對(duì)黨國(guó)大黨領(lǐng)導(dǎo)人拉胡爾·甘地的一段深偽視頻,，視頻中的“甘地”說著一句他從未說過的話：“我什么都不做,。”據(jù)法新社報(bào)道,，印人黨較早在競(jìng)選中使用新技術(shù)。早在莫迪當(dāng)選總理的2014年,，印人黨就用全息投影技術(shù)讓莫迪出現(xiàn)在集會(huì)上,，擴(kuò)大其影響力。今年2月,，國(guó)大黨制作了“莫迪”演唱歌曲《小偷》的深偽視頻,，嘲諷莫迪偏袒該國(guó)富人的行為。4月,，印度內(nèi)政部長(zhǎng)阿米特·沙阿也出現(xiàn)在一段深偽視頻中,，“沙阿”聲稱要結(jié)束針對(duì)數(shù)百萬貧困和低種姓印度人的平權(quán)行動(dòng)政策。據(jù)《印度教徒報(bào)》報(bào)道,，因涉嫌傳播虛假視頻,，警方已調(diào)查并逮捕多名國(guó)大黨工作人員，其中包括該黨社交媒體全國(guó)協(xié)調(diào)員阿倫·雷迪,。雷迪被指控是沙阿深偽視頻的“幕后黑手”,，但現(xiàn)已被保釋。雷迪曾在接受采訪時(shí)表示：“政治就是創(chuàng)造認(rèn)知,。通過使用AI工具并促成點(diǎn)擊,，就可以在一分鐘內(nèi)徹底改變?nèi)藗兊目捶ā,！庇《日h今年將在AI助選上花費(fèi)超過5000萬美元在今年大選期間,，多個(gè)政黨都在利用AI技術(shù)制作競(jìng)選材料,。目前，印度開始涌現(xiàn)出專門為政治人物提供AI服務(wù)的企業(yè),，它們提供的服務(wù)包括制作政界人士談?wù)撍_展項(xiàng)目的多語(yǔ)言版本視頻,，或制作用于詢問選民在當(dāng)?shù)孛媾R的問題并尋求建議的電話音頻等。但也有業(yè)內(nèi)人士表示：“我們會(huì)收到很多請(qǐng)求,，其中45%到50%的請(qǐng)求是不道德的,。一種是將政治領(lǐng)導(dǎo)人的面孔替換到有爭(zhēng)議的視頻內(nèi)容中的，這可能會(huì)損害他的形象,；另一種就是克隆政治對(duì)手的聲音,，讓他說一些他以前根本沒有說過的話?！睋?jù)國(guó)際科技新聞網(wǎng)站“余下的世界”4月報(bào)道,，印度賈維斯咨詢集團(tuán)的數(shù)據(jù)顯示，印度各政黨今年將在AI生成競(jìng)選材料上花費(fèi)超過5000萬美元（1萬美元約合7.2萬元人民幣）,。合成媒體技術(shù)公司正加班加點(diǎn)滿足所有政黨的需求,。“這是我們首次看到深偽視頻的大規(guī)模部署,。即使對(duì)我們來說也是一件新鮮事,。”納亞加姆說,，他的公司Muonium從今年1月開始涉足政治領(lǐng)域業(yè)務(wù),，第一個(gè)項(xiàng)目就是“復(fù)活”卡魯納尼迪的視頻。此后僅3個(gè)月,，這家公司就被此類合同“淹沒”了,。由于帶寬不足，該公司目前只與“可以信任并可以提供擔(dān)保的政黨”合作,。此外,，此類公司也一般不會(huì)同時(shí)為在同邦競(jìng)選的兩個(gè)對(duì)手黨派提供服務(wù)。賈杜恩是印度AI合成媒體技術(shù)公司Polymath Solution的創(chuàng)始人,，該公司去年11月開始為印度政界人士制作AI視頻內(nèi)容,。在幾個(gè)月的時(shí)間里，這家由9個(gè)人組成的小型公司,，已獲得6個(gè)競(jìng)選相關(guān)項(xiàng)目,，并正同時(shí)服務(wù)多個(gè)政黨，預(yù)計(jì)將于今年大選期間賺取超過24萬美元,。關(guān)于深偽視頻的具體費(fèi)用,，以Polymath Solution為例，該公司收取6萬盧比（1萬盧比約合868元人民幣）的語(yǔ)音克隆費(fèi)和10萬盧比的數(shù)字頭像創(chuàng)建費(fèi)。曾為莫迪制作3D全息圖的媒體技術(shù)公司Avantari Technologies收取100萬盧比的語(yǔ)音克隆費(fèi),，其推送每條社交媒體WhatsApp消息的收費(fèi)為30盧比,。印度政治學(xué)家維什諾伊表示：“印度主要政黨可能會(huì)為AI競(jìng)選活動(dòng)撥款超過100萬美元……平均一位候選人可能有8萬至9萬美元?！薄案?jìng)選變得越來越奇怪了”據(jù)《印度教徒報(bào)》報(bào)道,，AI技術(shù)運(yùn)用到選舉中積極的一面在于，AI技術(shù)正在降低制作競(jìng)選材料的成本和障礙,。比如一段“莫迪”直接叫出選民名字并鼓勵(lì)選民參與投票的個(gè)性化視頻,，在WhatsApp上被一對(duì)一推送給數(shù)億名印度網(wǎng)民，相比傳統(tǒng)手段節(jié)省了大量的時(shí)間和資金,，因此也極有可能成為未來競(jìng)選的重要工具,。據(jù)新加坡《聯(lián)合早報(bào)》報(bào)道，一些專家認(rèn)為,，AI技術(shù)一方面有望改變印度大選歷時(shí)長(zhǎng),、耗費(fèi)大的現(xiàn)狀，但另一方面,，也會(huì)讓假消息變得更普遍,、更具針對(duì)性且更難被發(fā)現(xiàn)。印度選舉委員會(huì)表示：“在社交媒體平臺(tái)上使用被操縱,、扭曲,、編輯的內(nèi)容，可能錯(cuò)誤地影響選民意見,，加深社會(huì)分歧,，侵蝕對(duì)選舉過程的信任?！庇《惹笆紫x舉專員庫(kù)雷希稱：“謠言一直是競(jìng)選活動(dòng)的一部分。但在社交媒體時(shí)代,，它可能會(huì)像野火一樣點(diǎn)燃這個(gè)國(guó)家,。”賈杜恩告訴英國(guó)天空新聞臺(tái),，之前甚至有某個(gè)政黨希望該公司幫助對(duì)一段真實(shí)的視頻進(jìn)行處理,，使其看起來像是深度偽造的，并打算以此進(jìn)行“辟謠”,，因?yàn)樵曨l“有損候選人形象”,。對(duì)此，賈杜恩直言：“競(jìng)選變得越來越奇怪了,?！辈簧儆《让癖娨矒?dān)憂，深度偽造正讓“真相”變成一個(gè)可塑的概念，公眾向領(lǐng)導(dǎo)人問責(zé)的能力也會(huì)受到嚴(yán)重影響,。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)國(guó)際關(guān)系學(xué)院學(xué)者梁懷新對(duì)《環(huán)球時(shí)報(bào)》記者分析說,，“AI+政治”趨勢(shì)的成因主要有3個(gè)方面：一是AI技術(shù)躍遷提供了技術(shù)基礎(chǔ)，使深偽內(nèi)容達(dá)到真假難辨的程度,；二是在大國(guó)戰(zhàn)略競(jìng)爭(zhēng)的整體態(tài)勢(shì)下,，近些年美西方或印度、阿根廷等發(fā)展中國(guó)家出現(xiàn)明顯的政治極化趨勢(shì),，選民依賴網(wǎng)絡(luò)獲取信息而不過多考量其真實(shí)性,，這被一些激進(jìn)政治勢(shì)力所利用；第三,，關(guān)于AI生成產(chǎn)品的倫理道德問題還存在極大爭(zhēng)議,，相關(guān)監(jiān)管法規(guī)相對(duì)滯后，客觀上助推了AI深偽在競(jìng)選中的應(yīng)用,。監(jiān)管法規(guī)滯后,，印警方像在玩“打地鼠”游戲關(guān)于印度對(duì)AI深偽的相關(guān)法規(guī)，印度數(shù)字未來實(shí)驗(yàn)室政策研究員阿努什卡·賈因表示,，印度法律目前沒有對(duì)“深度偽造”作出明確定義,。警方一直在使用針對(duì)誹謗或侵犯?jìng)€(gè)人隱私的法律，并結(jié)合《信息技術(shù)法》,，解決個(gè)別案件,。很多時(shí)候，他們像在玩“打地鼠”的游戲,?！队《人固箷r(shí)報(bào)》報(bào)道稱，雖然政治領(lǐng)域的虛假信息在印度不是一個(gè)新問題,，但相關(guān)執(zhí)法行動(dòng)一直都處于起步階段,，也并非持續(xù)性的。現(xiàn)在最緊迫要解決的問題是,，數(shù)字平臺(tái)該如何標(biāo)記,、識(shí)別這些媒體內(nèi)容。目前,，印度選舉委員會(huì)已致函所有政黨,，要求他們?cè)诮拥酵ㄖ?小時(shí)內(nèi)刪除任何深度偽造內(nèi)容。委員會(huì)還要求各政黨人員不要使用他們的社交媒體賬號(hào)發(fā)布深度偽造的視頻和音頻,，也不要傳播任何錯(cuò)誤信息或合成,、修改的信息?！癆I深度偽造可能顛覆很多國(guó)家的選舉,?！泵绹?guó)《華盛頓郵報(bào)》報(bào)道稱，印度大選讓人們看到AI工具的爆炸式增長(zhǎng)如何使圍繞競(jìng)選打造虛假媒體內(nèi)容變得更容易,，并改變?cè)搰?guó)民主進(jìn)程,。加利福尼亞大學(xué)伯克利分校的計(jì)算機(jī)專業(yè)教授法里德表示，在多國(guó)的選舉中,，深偽內(nèi)容泛濫勢(shì)頭都很迅猛,。比如美國(guó)有模仿總統(tǒng)拜登聲音的電話，印尼大選期間戈?duì)柨h用AI技術(shù)“復(fù)活”前總統(tǒng)蘇哈托等,，都凸顯了解決該問題的緊迫性,。▲