郭德綱飆英文說相聲、趙本山用流利的英文演小品,、外國歌星泰勒·斯威夫特操著一口地道的中文接受采訪……多個國內(nèi)外明星被AI(人工智能)換聲的視頻近日在網(wǎng)絡(luò)上爆火,，再次引發(fā)公眾對AI技術(shù)的熱議,。

無論是AI換聲還是換臉,，新技術(shù)的使用邊界亟待明確,，其背后的侵權(quán),、詐騙等隱憂更不容忽視。

飆外語以假亂真

“I have to take care of this matter,！(這事兒我得管)”在一條播放量達(dá)百萬次的短視頻中,，身著刺繡大褂的相聲演員郭德綱正像模像樣地用英文說著《濟(jì)公傳》。記者發(fā)現(xiàn),，視頻里的聲音不僅和郭德綱本人的音色沒有什么出入,，嘴型和英文發(fā)音也一一對應(yīng),，著實(shí)難辨真假。這段精彩的單口相聲秀引得網(wǎng)友發(fā)出驚嘆：“要不是看到視頻平臺上‘該視頻使用AI技術(shù)合成’的小字提示,，我差點(diǎn)就當(dāng)真了,！”

除了本土名人說英文，外國歌星泰勒·斯威夫特,、演員艾瑪·沃森等在訪談節(jié)目中用中文對答如流的視頻,，也引來網(wǎng)友圍觀。截至發(fā)稿前,，多個AI換聲視頻在B站,、微博、抖音的瀏覽量已達(dá)到數(shù)百萬,。

奇安信集團(tuán)行業(yè)安全研究中心主任裴智勇解釋,，無論聲音還是圖像，都可以通過特定的數(shù)學(xué)變換分解成若干個特征向量,，對每個向量賦予特定的一組參數(shù),，就可以形成特定的聲音或圖像。所謂AI換聲,，就是通過機(jī)器學(xué)習(xí)的方法,，用某個人以往的聲音作為樣本進(jìn)行學(xué)習(xí)，從而給聲音的每個特征向量賦予特定的參數(shù),，之后再用這組參數(shù)讀出新的內(nèi)容,，就可以做到語音、語氣甚至情感的模仿了,。

不過,，要想達(dá)到逼真的效果，據(jù)業(yè)內(nèi)人士介紹,，除了換聲以外，還需要地道的翻譯,、局部篡改人臉信息對口型等多個步驟后才能實(shí)現(xiàn),。

換聲網(wǎng)站走紅背后存爭議

隨著巨大流量涌入AI換聲視頻，其背后的公司也浮出水面——2022年7月在海外上線的AI換聲網(wǎng)站HeyGen,。從如今各大社交平臺上爆火的換聲短視頻自帶的水印來看,，其中有不少由該網(wǎng)站生成。在該平臺上,，制作一條換聲視頻十分簡單,，用戶只需要上傳視頻，選擇語言后,，它就能自動翻譯并調(diào)整音色,，生成嘴型匹配的外語視頻,。

目前，該網(wǎng)站已推出免費(fèi)版和付費(fèi)版兩種版本,，其中,，付費(fèi)版最低收費(fèi)為每月24美元，免費(fèi)版僅限于生成1分鐘時長視頻,。一位該網(wǎng)站用戶表示,，高峰期時排隊(duì)人數(shù)達(dá)上萬人。有數(shù)據(jù)顯示,，今年8至9月,，各大文生圖類AI網(wǎng)站的訪問量均開始呈現(xiàn)下降趨勢，但HeyGen的訪問量卻上升了92%,，流量躍居各大獨(dú)立AI網(wǎng)站之首,。

然而，與此前的爆款A(yù)I應(yīng)用妙鴨相機(jī)一樣,，HeyGen也面臨著爭議與熱度齊飛,。有律師提出，由于HeyGen用戶可以將任何人的視頻上傳并換聲,，這可能涉嫌著作權(quán),、肖像權(quán)、聲音權(quán)三個方面的侵權(quán),。比如,，相聲、小品等都屬于《中華人民共和國著作權(quán)法》保護(hù)的作品,，如未經(jīng)著作權(quán)人授權(quán)就擅自更改并傳播,，則存在侵權(quán)問題。

加強(qiáng)治理謹(jǐn)防技術(shù)濫用

面對爐火純青的AI生成技術(shù),，更有網(wǎng)友提出,，一旦相關(guān)技術(shù)被用于網(wǎng)絡(luò)詐騙，后果將難以想象,。裴智勇分析,，單純依靠AI技術(shù)是無法完成詐騙的，還必須將其與各種深度的網(wǎng)絡(luò)詐騙套路結(jié)合起來才能成功實(shí)施詐騙,。在裴智勇看來,，絕大多數(shù)的傳統(tǒng)防騙技巧對于AI詐騙同樣有效，“比如有人用視頻電話向您借錢,，您回?fù)芤粋€電話確認(rèn)一下就好了,。”

值得一提的是,，目前國內(nèi)外均有安全機(jī)構(gòu)嘗試研發(fā)技術(shù)手段來識別AI換臉或AI換聲,。以清華大學(xué)人工智能研究院孵化企業(yè)瑞萊智慧推出的能夠防范生成式人工智能惡意濫用的DeepReal2.0技術(shù)為例,，其相關(guān)技術(shù)能夠用于打擊網(wǎng)絡(luò)詐騙和聲譽(yù)侵害行為,、檢測網(wǎng)絡(luò)內(nèi)容合規(guī)性、檢測音視頻物證真實(shí)性等,，可對生成式人工智能技術(shù)濫用行為進(jìn)行管控和治理,。

記者也注意到，國家網(wǎng)信辦等三部門去年聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確,，深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容,，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識。但目前網(wǎng)絡(luò)上流傳的AI換臉圖片和AI換聲視頻中,，有些并未添加相應(yīng)標(biāo)識,。

來源：北京日報(bào)