或許,，在這個(gè)AI飛速發(fā)展的時(shí)代，在真實(shí)和AI營(yíng)造的虛幻之間,，我們應(yīng)該思考的,，是如何保持一個(gè)具備獨(dú)立思維和理智思辨的頭腦。

這是一個(gè)人工智能（AI）技術(shù)飛速發(fā)展的時(shí)代,，這是一個(gè)真實(shí)和虛假愈加難辨的時(shí)代,。一張美國(guó)前總統(tǒng)特朗普親吻前白宮首席醫(yī)療顧問(wèn)福奇的照片近日引發(fā)爭(zhēng)議，后經(jīng)網(wǎng)友仔細(xì)查證,，這是一張AI生成圖,，由特朗普的黨內(nèi)競(jìng)爭(zhēng)對(duì)手德桑蒂斯團(tuán)隊(duì)炮制，目的是抨擊特朗普在任時(shí)抗疫不力,?？寺÷曇簟⒁绘I換臉,、炮制假新聞……當(dāng)AI制造的謊言潛入現(xiàn)實(shí),，究竟該如何厘清真假的邊界？

擬聲換臉騙局頻現(xiàn)

當(dāng)電話(huà)另一端傳來(lái)親友的呼救聲,，誰(shuí)會(huì)想到這竟然是一個(gè)赤裸裸的AI騙局,。前段時(shí)間，一對(duì)加拿大夫婦就經(jīng)歷了這樣一場(chǎng)“聲音克隆噩夢(mèng)”,。

據(jù)《華盛頓郵報(bào)》報(bào)道,，這對(duì)夫婦3月接到一通電話(huà)，電話(huà)那頭一名自稱(chēng)律師的男子說(shuō),，他們的兒子珀金因在一場(chǎng)車(chē)禍中撞死一名美國(guó)外交官而入獄,，出庭前急需21000美元律師費(fèi)。讓故事顯得更為逼真的是,，電話(huà)中還傳來(lái)了近似珀金的聲音,。這對(duì)夫婦掛完電話(huà)慌作一團(tuán)，立刻跑去銀行將錢(qián)轉(zhuǎn)給“律師”,。直到兒子當(dāng)晚打電話(huà)過(guò)來(lái),，他們才發(fā)覺(jué)被騙。這家人迅速報(bào)警,，經(jīng)警方調(diào)查,，電話(huà)中“兒子”的聲音是詐騙集團(tuán)根據(jù)珀金在社交平臺(tái)發(fā)布的視頻，利用AI技術(shù)仿造他的聲音。盡管查明了事情真相,，被騙的錢(qián)財(cái)卻一去不復(fù)返,。美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）營(yíng)銷(xiāo)實(shí)踐部助理主任威爾·麥克森表示，追蹤語(yǔ)音詐騙者極為困難,，他們使用的電話(huà)可能位于世界上任何角落,。同樣在3月，美國(guó)的格雷格夫婦也接到了類(lèi)似的電話(huà),。詐騙者模擬他們孫子布蘭登的聲音,，稱(chēng)人在監(jiān)獄，需要一筆保釋金,。AI技術(shù)正在讓冒名詐騙變得更容易,，且成本更低。FTC最新統(tǒng)計(jì)結(jié)果顯示,，冒名詐騙已經(jīng)成為當(dāng)下美國(guó)第二大熱門(mén)詐騙類(lèi)型,。2022年此類(lèi)案件超過(guò)3.6萬(wàn)起，其中約5000起為電話(huà)詐騙,，損失金額超過(guò)1100萬(wàn)美元,。

AI軟件生成的特朗普福奇親吻圖,。圖源：GJ

加州大學(xué)伯克利分校數(shù)字取證學(xué)教授漢尼·法里德指出,，AI技術(shù)的進(jìn)步讓詐騙者能夠輕易地根據(jù)簡(jiǎn)短的音頻樣本來(lái)復(fù)制聲音?！皟赡昵?，你可能需要大量音頻來(lái)克隆一個(gè)人的聲音。但現(xiàn)在,，只要你在臉書(shū)或者TikTok發(fā)一段超過(guò)30秒的音頻,，復(fù)制聲音就可以迅速實(shí)現(xiàn)?！甭曇艨梢阅７?，面容也可以替換，AI換臉早已不是新鮮事,。美國(guó)游戲主播Atrioc就發(fā)現(xiàn)自己的臉被“偷”了，有不法分子利用AI換臉技術(shù)制作她的不雅視頻,，并發(fā)布在社交媒體上,。崩潰的Atrioc試著向警方求助，等來(lái)的答復(fù)卻是——她所在的州目前還沒(méi)有相關(guān)法律可約束或懲罰這樣的行為。

虛假信息混淆視聽(tīng)

不只是普通人,，在AI的騙術(shù)面前,，一些媒體也難以招架。英國(guó)《每日郵報(bào)》4月報(bào)道,，一名22歲的加拿大年輕人為了能在韓國(guó)娛樂(lè)圈出道,，以某韓國(guó)男團(tuán)成員的面容為模板，花了約22萬(wàn)美元整容了12次,，最后在韓國(guó)一家醫(yī)院不幸喪命,。這則新聞一出，便引發(fā)了《紐約郵報(bào)》八卦版“第六頁(yè)”,、加拿大媒體公司Postmedia等媒體的跟風(fēng)報(bào)道,。但沒(méi)過(guò)多久，一些媒體進(jìn)一步查證后發(fā)現(xiàn),，或許這根本就是個(gè)編造的故事,，主人公可能并不存在。因?yàn)轫n國(guó)媒體詢(xún)問(wèn)警方后得到的回答是——當(dāng)時(shí)并未收到類(lèi)似的死亡案例報(bào)告,。而檢測(cè)網(wǎng)站的結(jié)果顯示,，這名加拿大年輕人的照片有75%可能由AI生成。面對(duì)公眾質(zhì)疑,，《每日郵報(bào)》刪去了這則報(bào)道,。但意外的是，5月又有媒體報(bào)道,，這名年輕人的家人站出來(lái)證明他們兒子的死亡和報(bào)道的真實(shí)性,。不過(guò)，這篇報(bào)道沒(méi)有提供任何實(shí)質(zhì)性的證據(jù),，也沒(méi)有提供家人的真實(shí)信息和照片,。

AI軟件可以輕易生成“逼真”圖片,。圖源：GJ

如今,，這名年輕人的身份和報(bào)道的真?zhèn)我琅f成謎。在自由撰稿人拉斐爾·拉希德看來(lái),，這件事向媒體人發(fā)出了警示,，就是現(xiàn)在比以往任何時(shí)候都更需要在核查事實(shí)、揭穿謠言以及問(wèn)責(zé)方面發(fā)揮作用,，提升自己的媒體素養(yǎng)和批判性思維能力,。AI生成的虛假信息還廣泛出現(xiàn)在政治領(lǐng)域,。幾張?zhí)乩势赵诩~約街頭遭警察圍捕的圖片3月在社交平臺(tái)瘋傳，圖片中特朗普被警察抓住雙手摁倒在地,，場(chǎng)面十分混亂,。而事實(shí)上，這些圖片均出自開(kāi)源信息調(diào)查網(wǎng)站bellingcat創(chuàng)始人,、英國(guó)獨(dú)立記者艾略特·希金斯之手,。他利用AI繪圖軟件生成了特朗普被捕的圖片，“我只是在鬧著玩,，原以為只有幾個(gè)人會(huì)轉(zhuǎn)發(fā)”,。但令他沒(méi)有想到的是，這條推文的瀏覽量在兩天后就突破了500萬(wàn)次,。如果說(shuō)這些AI炮制的假新聞只是混淆了視聽(tīng),，那還有些假新聞則對(duì)社會(huì)產(chǎn)生了實(shí)實(shí)在在的影響。5月22日,，一張五角大樓爆炸的AI生成圖在網(wǎng)絡(luò)上引起軒然大波,。數(shù)字原創(chuàng)媒體Vox報(bào)道，在短短幾天內(nèi),，這一假圖片就引起了一陣恐慌,，甚至在短時(shí)間內(nèi)撼動(dòng)了美國(guó)金融市場(chǎng)。值得注意的是,，用AI技術(shù)抹黑政治對(duì)手并不只是民主黨的伎倆,。共和黨也曾使用AI制作一段30秒的視頻，呈現(xiàn)美國(guó)總統(tǒng)拜登連任后的場(chǎng)景：銀行紛紛倒閉,、金融市場(chǎng)崩盤(pán),、舊金山被封鎖……用虛假的圖片和報(bào)道描繪了一系列危機(jī)。人工智能公司“抱抱臉”安全和政策專(zhuān)家艾琳·索萊曼認(rèn)為,，AI已經(jīng)被廣泛用于政治宣傳和操縱選舉,，未來(lái)的道路將會(huì)十分艱難,。觀察人士擔(dān)心，AI技術(shù)的快速普及可能會(huì)加劇2024年美國(guó)大選中虛假信息的傳播,。美國(guó)聯(lián)邦眾議員伊維特·克拉克警告,，“如果AI技術(shù)在大選中被用來(lái)大規(guī)模操縱和欺騙選民，將會(huì)對(duì)美國(guó)的國(guó)家安全造成嚴(yán)重后果”,。

如何治理面臨挑戰(zhàn)

雖然自互聯(lián)網(wǎng)誕生以來(lái),，虛假信息就一直存在于網(wǎng)絡(luò)世界，但近年來(lái)隨著ChatGPT,、Midjourney等AI工具的出現(xiàn),，以及Photoshop等繪圖軟件功能的更新，大規(guī)模生產(chǎn)超逼真的假圖像,、視頻和文本變得更加容易便捷,。歐洲刑警組織一份報(bào)告預(yù)測(cè)，到2026年互聯(lián)網(wǎng)上多達(dá)90%的內(nèi)容可能由AI創(chuàng)建或編輯,。目前,，完全由AI生成的假新聞網(wǎng)站已經(jīng)出現(xiàn)，而且在短短幾周內(nèi)這些網(wǎng)站的數(shù)量就上漲了兩倍,。當(dāng)AI造假的浪潮日益逼近,，我們?cè)撊绾畏直嬲鎮(zhèn)巍⒄覍ふ鎸?shí),？有媒體分析認(rèn)為,，或許應(yīng)從技術(shù)研發(fā)、完善法律法規(guī)以及提高公眾意識(shí)和教育等層面入手,。

AI軟件生成的特朗普被捕圖。圖源：GJ

有業(yè)內(nèi)人士建議加強(qiáng)AI反制技術(shù)研究,。眼下確實(shí)有一些科技企業(yè)正在加強(qiáng)對(duì)圖像,、聲音偽造技術(shù)的反制研究，但到目前為止,，并沒(méi)有一個(gè)通用的標(biāo)準(zhǔn)來(lái)識(shí)別真實(shí)或虛假的內(nèi)容,，AI反制技術(shù)要隨著AI技術(shù)的進(jìn)步而不斷更新。也有分析指出,，AI技術(shù)的健康發(fā)展離不開(kāi)相關(guān)法律法規(guī)的完善,。例如,，對(duì)于流媒體平臺(tái)上AI高度模仿歌手的行為，完善版權(quán)法或許是一個(gè)相對(duì)有效的策略,。另有專(zhuān)家表示,，未來(lái)AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無(wú)比接近真實(shí)的“真實(shí)”，要通過(guò)不斷的教育改變大眾觀念,，讓人知道眼見(jiàn)不一定為實(shí),，有圖不一定有真相，對(duì)網(wǎng)絡(luò)信息提升辨識(shí)力,。盡管對(duì)“AI造假”的有效治理道阻且長(zhǎng),，但不少?lài)?guó)家和地區(qū)已經(jīng)開(kāi)始著手應(yīng)對(duì)。德國(guó)《世界報(bào)》近日?qǐng)?bào)道,，歐盟正在采取行動(dòng)打擊AI深度造假,。歐盟委員會(huì)委員薇拉·堯羅娃表示，識(shí)別深度造假的技術(shù)已經(jīng)存在,，希望臉書(shū),、谷歌、TikTok等社交媒體平臺(tái)能夠大規(guī)模使用這些技術(shù),，并且通過(guò)軟件發(fā)出警報(bào)提醒用戶(hù),，而這項(xiàng)規(guī)則以后也可能被納入歐盟正在制定的《人工智能法》。誠(chéng)然,，AI技術(shù)的發(fā)展是把雙刃劍,，一方面，它以驚人的速度在推進(jìn)醫(yī)療技術(shù),、改善人類(lèi)生活質(zhì)量等領(lǐng)域發(fā)揮著積極作用,；另一方面，它也帶來(lái)了一定的風(fēng)險(xiǎn)和挑戰(zhàn),。在5月召開(kāi)的伯克希爾-哈撒韋公司的年度股東大會(huì)上,，“股神”巴菲特談及對(duì)AI的看法時(shí)流露擔(dān)憂(yōu)。他表示,，盡管發(fā)明AI的初衷是好的,，“但當(dāng)某種事物可以做各種各樣的事情時(shí)，我有點(diǎn)擔(dān)心”,。他將人工智能比作原子彈：“在二戰(zhàn)期間,，我們基于充分的理由發(fā)明了原子彈，但這項(xiàng)發(fā)明對(duì)未來(lái)世界而言,，真的是件好事嗎,？”巴菲特認(rèn)為，AI將改變世界上的一切，除了人類(lèi)的思維和行為方式,?；蛟S，在這個(gè)AI飛速發(fā)展的時(shí)代,，在真實(shí)和AI營(yíng)造的虛幻之間,，我們應(yīng)該思考的，是如何保持一個(gè)具備獨(dú)立思維和理智思辨的頭腦,。

出品 深海區(qū)工作室

撰稿 王若弦

編輯 深海鹽