【環(huán)球時報駐印度特約記者 曹沖 環(huán)球時報記者 苑基榮 陳子帥】5月20日，印度開啟大選第五階段投票,。此前不久,，一段“印度總理莫迪跟著孟加拉語流行音樂跳舞”的人工智能（AI）合成視頻在網(wǎng)上播放量突破千萬，引發(fā)印度網(wǎng)民和媒體的廣泛討論,。事實上,，從去年開始，與政治相關的各類深度偽造視頻就接連出現(xiàn),，在印度這次世界規(guī)模最大的選舉中發(fā)揮著各種作用,，包括讓名人為政黨代言、惡搞政治對手,、“復活”已故政治家為政黨背書等等,。“如果說2019年大選被稱為‘社交媒體選舉’,，那么2024年將見證‘AI選舉’的時代,。”據(jù)《印度教徒報》報道,，雖然在以前的印度大選中,，仇恨言論和虛假信息并不讓人陌生，但如今隨著AI技術的驚人發(fā)展帶來革命性變化,，2024年的印度大選將面臨新挑戰(zhàn),，AI深偽介入選舉可能會侵蝕印度的民主并深刻影響該國的政治生態(tài)。5月6日,，莫迪轉發(fā)了自己跳舞的AI合成視頻。（社交平臺X）　“分清每個視頻的真實性幾乎是不可能的”5月6日,，莫迪在社交平臺X上轉發(fā)了自己跳舞的AI合成視頻,，并配文稱：“和你們所有人一樣，我也喜歡看自己跳舞,。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂,！”視頻顯示，“莫迪”隨著節(jié)奏感十足的孟加拉語歌曲跳躍著登上舞臺,，一邊踢腿一邊揮舞手臂,。該視頻右下角有著“VIGGLE”字樣的水印，這是一個可以快速生成AI視頻的免費網(wǎng)站,。然而,，這番表態(tài)并未給此事畫上句號,。據(jù)印度《經(jīng)濟時報》報道，另一段視頻顯示,，“印度西孟加拉邦首席部長,、草根國大黨主席瑪瑪塔·班納吉”跳了同一段舞蹈，但背景音樂是她演講的一部分,，內(nèi)容是批評那些退出該黨轉而加入莫迪領導的印度人民黨（印人黨）的人,。視頻發(fā)布者遭到西孟加拉邦警方的警告。此后,，不少印度網(wǎng)民開始將班納吉與莫迪進行比較,，稱莫迪是“有史以來最酷的總理”。而且,，“莫迪跳舞”視頻制作者在發(fā)布視頻時的配文也頗具政治意味：“我發(fā)布這段視頻是因為我知道所謂的‘獨裁者’不會讓我因此被捕,。”不過,，不同于莫迪此次積極的表態(tài),，去年年底一段“莫迪跳傳統(tǒng)舞蹈”的視頻走紅時，莫迪公開表示對深偽技術的擔憂,。他警告說：“人們會誤以為自己看見的是真實的,，這會引發(fā)巨大危機?！睋?jù)法國《回聲報》報道,，印度正成為將AI應用于政治領域的“先鋒”。全球安全軟件公司邁克菲今年4月的一份報告顯示,，近1/4受訪印度人曾接觸過帶有政治內(nèi)容的深度偽造產(chǎn)品,。印度大學生夏爾馬告訴《環(huán)球時報》記者：“昨天我看到我最喜歡的演員被人偽造了一個為政黨拉票的視頻，但他平時并沒有表現(xiàn)出任何政黨傾向,。我們應該制定嚴格的法律來禁止這種造假行為,。”商人戈帕爾也對記者表示擔憂：“我們怎么才能相信我們看到或聽到的事情呢,？現(xiàn)在網(wǎng)上有太多明星拉票的視頻了,，分清每個視頻的真實性幾乎是不可能的?！睋?jù)《印度斯坦時報》報道,，多名寶萊塢影星在大選期間陷入深偽視頻爭議。上個月,，一段“印度著名演員阿米爾·汗敦促選民小心空洞承諾”的視頻走紅,，似乎將矛頭直指印人黨。阿米爾·汗的發(fā)言人表示已向有關部門投訴,。有觀點認為,，利用寶萊塢明星做政治宣傳是印度政黨“爭先恐后”吸引年輕選民的嘗試,。數(shù)據(jù)顯示，印度今年約有1800萬名首次投票的選民和近2億名20歲至29歲的年輕選民,?！靶路f但危險”,，卡塔爾半島電視臺報道稱,，印度各政黨正轉向AI競選策略。其中,，“復活”仍有影響力的已故政治人物是一種常見方式,。報道舉例稱，曾領導德拉維達進步聯(lián)盟的卡魯納尼迪于2018年去世,，但他今年1月出現(xiàn)在一段AI合成的視頻中,，對他的兒子、現(xiàn)任泰米爾納德邦首席部長大加贊賞,。制作該視頻的印度媒體技術公司Muonium創(chuàng)始人森蒂爾·納亞加姆表示,，與耗時長、花費大的傳統(tǒng)集會相比,，讓已故領導人“復活”更新穎,、更具成本效益。還有一類AI視頻會通過惡意編輯來攻擊政治對手,。今年3月,，印人黨發(fā)布了最大反對黨國大黨領導人拉胡爾·甘地的一段深偽視頻，視頻中的“甘地”說著一句他從未說過的話：“我什么都不做,?！睋?jù)法新社報道，印人黨較早在競選中使用新技術,。早在莫迪當選總理的2014年,，印人黨就用全息投影技術讓莫迪出現(xiàn)在集會上，擴大其影響力,。今年2月,，國大黨制作了“莫迪”演唱歌曲《小偷》的深偽視頻，嘲諷莫迪偏袒該國富人的行為,。4月,，印度內(nèi)政部長阿米特·沙阿也出現(xiàn)在一段深偽視頻中，“沙阿”聲稱要結束針對數(shù)百萬貧困和低種姓印度人的平權行動政策,。據(jù)《印度教徒報》報道,，因涉嫌傳播虛假視頻，警方已調(diào)查并逮捕多名國大黨工作人員,，其中包括該黨社交媒體全國協(xié)調(diào)員阿倫·雷迪,。雷迪被指控是沙阿深偽視頻的“幕后黑手”,，但現(xiàn)已被保釋。雷迪曾在接受采訪時表示：“政治就是創(chuàng)造認知,。通過使用AI工具并促成點擊,，就可以在一分鐘內(nèi)徹底改變?nèi)藗兊目捶ā,！庇《日h今年將在AI助選上花費超過5000萬美元在今年大選期間,，多個政黨都在利用AI技術制作競選材料。目前,，印度開始涌現(xiàn)出專門為政治人物提供AI服務的企業(yè),，它們提供的服務包括制作政界人士談論所開展項目的多語言版本視頻，或制作用于詢問選民在當?shù)孛媾R的問題并尋求建議的電話音頻等,。但也有業(yè)內(nèi)人士表示：“我們會收到很多請求,，其中45%到50%的請求是不道德的。一種是將政治領導人的面孔替換到有爭議的視頻內(nèi)容中的,，這可能會損害他的形象,；另一種就是克隆政治對手的聲音，讓他說一些他以前根本沒有說過的話,?！睋?jù)國際科技新聞網(wǎng)站“余下的世界”4月報道，印度賈維斯咨詢集團的數(shù)據(jù)顯示,，印度各政黨今年將在AI生成競選材料上花費超過5000萬美元（1萬美元約合7.2萬元人民幣）,。合成媒體技術公司正加班加點滿足所有政黨的需求?！斑@是我們首次看到深偽視頻的大規(guī)模部署,。即使對我們來說也是一件新鮮事?！奔{亞加姆說,，他的公司Muonium從今年1月開始涉足政治領域業(yè)務，第一個項目就是“復活”卡魯納尼迪的視頻,。此后僅3個月,，這家公司就被此類合同“淹沒”了。由于帶寬不足,，該公司目前只與“可以信任并可以提供擔保的政黨”合作,。此外，此類公司也一般不會同時為在同邦競選的兩個對手黨派提供服務,。賈杜恩是印度AI合成媒體技術公司Polymath Solution的創(chuàng)始人,，該公司去年11月開始為印度政界人士制作AI視頻內(nèi)容。在幾個月的時間里,，這家由9個人組成的小型公司,，已獲得6個競選相關項目,，并正同時服務多個政黨，預計將于今年大選期間賺取超過24萬美元,。關于深偽視頻的具體費用,，以Polymath Solution為例，該公司收取6萬盧比（1萬盧比約合868元人民幣）的語音克隆費和10萬盧比的數(shù)字頭像創(chuàng)建費,。曾為莫迪制作3D全息圖的媒體技術公司Avantari Technologies收取100萬盧比的語音克隆費,，其推送每條社交媒體WhatsApp消息的收費為30盧比。印度政治學家維什諾伊表示：“印度主要政黨可能會為AI競選活動撥款超過100萬美元……平均一位候選人可能有8萬至9萬美元,?！薄　案傔x變得越來越奇怪了”據(jù)《印度教徒報》報道,，AI技術運用到選舉中積極的一面在于,，AI技術正在降低制作競選材料的成本和障礙。比如一段“莫迪”直接叫出選民名字并鼓勵選民參與投票的個性化視頻,，在WhatsApp上被一對一推送給數(shù)億名印度網(wǎng)民,，相比傳統(tǒng)手段節(jié)省了大量的時間和資金，因此也極有可能成為未來競選的重要工具,。據(jù)新加坡《聯(lián)合早報》報道,，一些專家認為，AI技術一方面有望改變印度大選歷時長,、耗費大的現(xiàn)狀,，但另一方面，也會讓假消息變得更普遍,、更具針對性且更難被發(fā)現(xiàn),。印度選舉委員會表示：“在社交媒體平臺上使用被操縱、扭曲,、編輯的內(nèi)容,，可能錯誤地影響選民意見，加深社會分歧,，侵蝕對選舉過程的信任,。”印度前首席選舉專員庫雷希稱：“謠言一直是競選活動的一部分,。但在社交媒體時代,，它可能會像野火一樣點燃這個國家?！辟Z杜恩告訴英國天空新聞臺,，之前甚至有某個政黨希望該公司幫助對一段真實的視頻進行處理，使其看起來像是深度偽造的,，并打算以此進行“辟謠”,，因為原視頻“有損候選人形象”,。對此，賈杜恩直言：“競選變得越來越奇怪了,?！辈簧儆《让癖娨矒鷳n，深度偽造正讓“真相”變成一個可塑的概念,，公眾向領導人問責的能力也會受到嚴重影響,。對外經(jīng)濟貿(mào)易大學國際關系學院學者梁懷新對《環(huán)球時報》記者分析說，“AI+政治”趨勢的成因主要有3個方面：一是AI技術躍遷提供了技術基礎,，使深偽內(nèi)容達到真假難辨的程度,；二是在大國戰(zhàn)略競爭的整體態(tài)勢下，近些年美西方或印度,、阿根廷等發(fā)展中國家出現(xiàn)明顯的政治極化趨勢,，選民依賴網(wǎng)絡獲取信息而不過多考量其真實性，這被一些激進政治勢力所利用,；第三,，關于AI生成產(chǎn)品的倫理道德問題還存在極大爭議，相關監(jiān)管法規(guī)相對滯后,，客觀上助推了AI深偽在競選中的應用,。監(jiān)管法規(guī)滯后，印警方像在玩“打地鼠”游戲關于印度對AI深偽的相關法規(guī),，印度數(shù)字未來實驗室政策研究員阿努什卡·賈因表示,，印度法律目前沒有對“深度偽造”作出明確定義。警方一直在使用針對誹謗或侵犯個人隱私的法律,，并結合《信息技術法》,，解決個別案件。很多時候,，他們像在玩“打地鼠”的游戲,。《印度斯坦時報》報道稱,，雖然政治領域的虛假信息在印度不是一個新問題,，但相關執(zhí)法行動一直都處于起步階段，也并非持續(xù)性的?，F(xiàn)在最緊迫要解決的問題是,，數(shù)字平臺該如何標記、識別這些媒體內(nèi)容,。目前,，印度選舉委員會已致函所有政黨，要求他們在接到通知后3小時內(nèi)刪除任何深度偽造內(nèi)容。委員會還要求各政黨人員不要使用他們的社交媒體賬號發(fā)布深度偽造的視頻和音頻,，也不要傳播任何錯誤信息或合成,、修改的信息?！癆I深度偽造可能顛覆很多國家的選舉,。”美國《華盛頓郵報》報道稱,，印度大選讓人們看到AI工具的爆炸式增長如何使圍繞競選打造虛假媒體內(nèi)容變得更容易,，并改變該國民主進程。加利福尼亞大學伯克利分校的計算機專業(yè)教授法里德表示,，在多國的選舉中,，深偽內(nèi)容泛濫勢頭都很迅猛。比如美國有模仿總統(tǒng)拜登聲音的電話,，印尼大選期間戈爾卡黨用AI技術“復活”前總統(tǒng)蘇哈托等,，都凸顯了解決該問題的緊迫性。來源：環(huán)球網(wǎng)