郭德綱飆英文說相聲,、趙本山用流利的英文演小品、外國歌星泰勒·斯威夫特操著一口地道的中文接受采訪……多個國內(nèi)外明星被AI(人工智能)換聲的視頻近日在網(wǎng)絡上爆火,，再次引發(fā)公眾對AI技術的熱議,。

無論是AI換聲還是換臉，新技術的使用邊界亟待明確,，其背后的侵權,、詐騙等隱憂更不容忽視。

飆外語以假亂真

“I have to take care of this matter！(這事兒我得管)”在一條播放量達百萬次的短視頻中,，身著刺繡大褂的相聲演員郭德綱正像模像樣地用英文說著《濟公傳》,。記者發(fā)現(xiàn)，視頻里的聲音不僅和郭德綱本人的音色沒有什么出入,，嘴型和英文發(fā)音也一一對應,，著實難辨真假。這段精彩的單口相聲秀引得網(wǎng)友發(fā)出驚嘆：“要不是看到視頻平臺上‘該視頻使用AI技術合成’的小字提示,，我差點就當真了,！”

除了本土名人說英文，外國歌星泰勒·斯威夫特,、演員艾瑪·沃森等在訪談節(jié)目中用中文對答如流的視頻,，也引來網(wǎng)友圍觀。截至發(fā)稿前,，多個AI換聲視頻在B站,、微博、抖音的瀏覽量已達到數(shù)百萬,。

奇安信集團行業(yè)安全研究中心主任裴智勇解釋,，無論聲音還是圖像，都可以通過特定的數(shù)學變換分解成若干個特征向量,，對每個向量賦予特定的一組參數(shù),，就可以形成特定的聲音或圖像。所謂AI換聲,，就是通過機器學習的方法,，用某個人以往的聲音作為樣本進行學習,，從而給聲音的每個特征向量賦予特定的參數(shù)，之后再用這組參數(shù)讀出新的內(nèi)容,，就可以做到語音,、語氣甚至情感的模仿了。

不過,，要想達到逼真的效果,，據(jù)業(yè)內(nèi)人士介紹，除了換聲以外,，還需要地道的翻譯,、局部篡改人臉信息對口型等多個步驟后才能實現(xiàn)。

換聲網(wǎng)站走紅背后存爭議

隨著巨大流量涌入AI換聲視頻,，其背后的公司也浮出水面——2022年7月在海外上線的AI換聲網(wǎng)站HeyGen,。從如今各大社交平臺上爆火的換聲短視頻自帶的水印來看，其中有不少由該網(wǎng)站生成,。在該平臺上,，制作一條換聲視頻十分簡單，用戶只需要上傳視頻,，選擇語言后,，它就能自動翻譯并調(diào)整音色，生成嘴型匹配的外語視頻,。

目前,，該網(wǎng)站已推出免費版和付費版兩種版本，其中,，付費版最低收費為每月24美元,，免費版僅限于生成1分鐘時長視頻。一位該網(wǎng)站用戶表示,，高峰期時排隊人數(shù)達上萬人,。有數(shù)據(jù)顯示，今年8至9月,，各大文生圖類AI網(wǎng)站的訪問量均開始呈現(xiàn)下降趨勢,，但HeyGen的訪問量卻上升了92%，流量躍居各大獨立AI網(wǎng)站之首,。

然而,，與此前的爆款AI應用妙鴨相機一樣，HeyGen也面臨著爭議與熱度齊飛,。有律師提出,，由于HeyGen用戶可以將任何人的視頻上傳并換聲，這可能涉嫌著作權,、肖像權,、聲音權三個方面的侵權,。比如，相聲,、小品等都屬于《中華人民共和國著作權法》保護的作品,，如未經(jīng)著作權人授權就擅自更改并傳播，則存在侵權問題,。

加強治理謹防技術濫用

面對爐火純青的AI生成技術,，更有網(wǎng)友提出，一旦相關技術被用于網(wǎng)絡詐騙,，后果將難以想象,。裴智勇分析，單純依靠AI技術是無法完成詐騙的,，還必須將其與各種深度的網(wǎng)絡詐騙套路結合起來才能成功實施詐騙,。在裴智勇看來，絕大多數(shù)的傳統(tǒng)防騙技巧對于AI詐騙同樣有效,，“比如有人用視頻電話向您借錢,，您回撥一個電話確認一下就好了?！?/p>

值得一提的是,，目前國內(nèi)外均有安全機構嘗試研發(fā)技術手段來識別AI換臉或AI換聲。以清華大學人工智能研究院孵化企業(yè)瑞萊智慧推出的能夠防范生成式人工智能惡意濫用的DeepReal2.0技術為例,，其相關技術能夠用于打擊網(wǎng)絡詐騙和聲譽侵害行為,、檢測網(wǎng)絡內(nèi)容合規(guī)性、檢測音視頻物證真實性等,，可對生成式人工智能技術濫用行為進行管控和治理,。

記者也注意到,，國家網(wǎng)信辦等三部門去年聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確，深度合成服務提供者對使用其服務生成或者編輯的信息內(nèi)容,，應當采取技術措施添加不影響用戶使用的標識,。但目前網(wǎng)絡上流傳的AI換臉圖片和AI換聲視頻中，有些并未添加相應標識,。

來源：北京日報