郭德綱飆英文說(shuō)相聲,、趙本山用流利的英文演小品,、外國(guó)歌星泰勒·斯威夫特操著一口地道的中文接受采訪……多個(gè)國(guó)內(nèi)外明星被AI(人工智能)換聲的視頻近日在網(wǎng)絡(luò)上爆火，再次引發(fā)公眾對(duì)AI技術(shù)的熱議,。

無(wú)論是AI換聲還是換臉,，新技術(shù)的使用邊界亟待明確，其背后的侵權(quán),、詐騙等隱憂更不容忽視,。

飆外語(yǔ)以假亂真

“I have to take care of this matter！(這事兒我得管)”在一條播放量達(dá)百萬(wàn)次的短視頻中,，身著刺繡大褂的相聲演員郭德綱正像模像樣地用英文說(shuō)著《濟(jì)公傳》,。記者發(fā)現(xiàn),，視頻里的聲音不僅和郭德綱本人的音色沒(méi)有什么出入,，嘴型和英文發(fā)音也一一對(duì)應(yīng),，著實(shí)難辨真假,。這段精彩的單口相聲秀引得網(wǎng)友發(fā)出驚嘆：“要不是看到視頻平臺(tái)上‘該視頻使用AI技術(shù)合成’的小字提示，我差點(diǎn)就當(dāng)真了！”

除了本土名人說(shuō)英文,，外國(guó)歌星泰勒·斯威夫特,、演員艾瑪·沃森等在訪談節(jié)目中用中文對(duì)答如流的視頻,，也引來(lái)網(wǎng)友圍觀,。截至發(fā)稿前,，多個(gè)AI換聲視頻在B站,、微博,、抖音的瀏覽量已達(dá)到數(shù)百萬(wàn),。

奇安信集團(tuán)行業(yè)安全研究中心主任裴智勇解釋?zhuān)瑹o(wú)論聲音還是圖像,，都可以通過(guò)特定的數(shù)學(xué)變換分解成若干個(gè)特征向量，對(duì)每個(gè)向量賦予特定的一組參數(shù)，就可以形成特定的聲音或圖像,。所謂AI換聲,，就是通過(guò)機(jī)器學(xué)習(xí)的方法，用某個(gè)人以往的聲音作為樣本進(jìn)行學(xué)習(xí)，從而給聲音的每個(gè)特征向量賦予特定的參數(shù),，之后再用這組參數(shù)讀出新的內(nèi)容，就可以做到語(yǔ)音,、語(yǔ)氣甚至情感的模仿了,。

不過(guò)，要想達(dá)到逼真的效果,，據(jù)業(yè)內(nèi)人士介紹，除了換聲以外,，還需要地道的翻譯、局部篡改人臉信息對(duì)口型等多個(gè)步驟后才能實(shí)現(xiàn),。

換聲網(wǎng)站走紅背后存爭(zhēng)議

隨著巨大流量涌入AI換聲視頻,，其背后的公司也浮出水面——2022年7月在海外上線的AI換聲網(wǎng)站HeyGen。從如今各大社交平臺(tái)上爆火的換聲短視頻自帶的水印來(lái)看,，其中有不少由該網(wǎng)站生成,。在該平臺(tái)上，制作一條換聲視頻十分簡(jiǎn)單,，用戶只需要上傳視頻,，選擇語(yǔ)言后,，它就能自動(dòng)翻譯并調(diào)整音色,，生成嘴型匹配的外語(yǔ)視頻。

目前,，該網(wǎng)站已推出免費(fèi)版和付費(fèi)版兩種版本,，其中，付費(fèi)版最低收費(fèi)為每月24美元，免費(fèi)版僅限于生成1分鐘時(shí)長(zhǎng)視頻,。一位該網(wǎng)站用戶表示,，高峰期時(shí)排隊(duì)人數(shù)達(dá)上萬(wàn)人。有數(shù)據(jù)顯示,，今年8至9月,，各大文生圖類(lèi)AI網(wǎng)站的訪問(wèn)量均開(kāi)始呈現(xiàn)下降趨勢(shì)，但HeyGen的訪問(wèn)量卻上升了92%,，流量躍居各大獨(dú)立AI網(wǎng)站之首,。

然而，與此前的爆款A(yù)I應(yīng)用妙鴨相機(jī)一樣,，HeyGen也面臨著爭(zhēng)議與熱度齊飛。有律師提出,，由于HeyGen用戶可以將任何人的視頻上傳并換聲,，這可能涉嫌著作權(quán)、肖像權(quán),、聲音權(quán)三個(gè)方面的侵權(quán),。比如,，相聲,、小品等都屬于《中華人民共和國(guó)著作權(quán)法》保護(hù)的作品，如未經(jīng)著作權(quán)人授權(quán)就擅自更改并傳播,，則存在侵權(quán)問(wèn)題,。

加強(qiáng)治理謹(jǐn)防技術(shù)濫用

面對(duì)爐火純青的AI生成技術(shù)，更有網(wǎng)友提出,，一旦相關(guān)技術(shù)被用于網(wǎng)絡(luò)詐騙,，后果將難以想象,。裴智勇分析，單純依靠AI技術(shù)是無(wú)法完成詐騙的,，還必須將其與各種深度的網(wǎng)絡(luò)詐騙套路結(jié)合起來(lái)才能成功實(shí)施詐騙。在裴智勇看來(lái),，絕大多數(shù)的傳統(tǒng)防騙技巧對(duì)于AI詐騙同樣有效，“比如有人用視頻電話向您借錢(qián),，您回?fù)芤粋€(gè)電話確認(rèn)一下就好了,。”

值得一提的是,，目前國(guó)內(nèi)外均有安全機(jī)構(gòu)嘗試研發(fā)技術(shù)手段來(lái)識(shí)別AI換臉或AI換聲,。以清華大學(xué)人工智能研究院孵化企業(yè)瑞萊智慧推出的能夠防范生成式人工智能惡意濫用的DeepReal2.0技術(shù)為例，其相關(guān)技術(shù)能夠用于打擊網(wǎng)絡(luò)詐騙和聲譽(yù)侵害行為,、檢測(cè)網(wǎng)絡(luò)內(nèi)容合規(guī)性,、檢測(cè)音視頻物證真實(shí)性等，可對(duì)生成式人工智能技術(shù)濫用行為進(jìn)行管控和治理,。

記者也注意到,，國(guó)家網(wǎng)信辦等三部門(mén)去年聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容,，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí),。但目前網(wǎng)絡(luò)上流傳的AI換臉圖片和AI換聲視頻中，有些并未添加相應(yīng)標(biāo)識(shí),。

來(lái)源：北京日?qǐng)?bào)