AI換臉技術(shù)應(yīng)用邊界在哪里

專家：給AI換臉視頻預(yù)留“技術(shù)水印”

調(diào)查動機

浙江杭州檢察機關(guān)曝光了一個“女神群”,，群里發(fā)送的淫穢視頻有不少是犯罪嫌疑人使用“AI換臉”技術(shù)合成的，還可以根據(jù)顧客需要“私人定制”,；河北高陽警方破獲了一起制作,、販賣、傳播淫穢物品牟利案,，犯罪嫌疑人通過社交群自學(xué)“AI換臉”技術(shù),，用明星形象制作淫穢視頻在網(wǎng)上以每10分鐘300元的價格售賣……近期，有關(guān)“AI換臉”的案件和新聞引發(fā)社會關(guān)注和擔(dān)憂,。

隨著人工智能的發(fā)展,，“AI換臉”技術(shù)門檻逐漸降低，應(yīng)用場景越來越多,，在滿足人們獵奇,、美顏、社交等需求的同時,，因“AI換臉”引發(fā)的爭議乃至違法犯罪行為屢見不鮮,，其背后隱藏的黑灰產(chǎn)業(yè)鏈也逐漸浮出水面。

“AI換臉”存在哪些亂象,？用明星形象“AI換臉”是否合法,？技術(shù)應(yīng)用的邊界在哪里？圍繞這些問題,，記者進行了調(diào)查采訪,。

“能教教我這個怎么拍嗎？”

“視頻左下角點擊進入有全套教程,?！?/p>

“豈不是想親誰就親誰？”

“學(xué)會我的教程就可以,?！?/p>

這是一名短視頻平臺博主與粉絲的對話。這位號稱特效師的博主,，發(fā)布了多個影視劇親熱畫面的短視頻,，并把男主角“換”成了自己,，引來不少流量。面對粉絲的討教,，博主稱提供“手機版影視合拍教程”,，售價99.99元。

類似出售“AI換臉”技術(shù)的博主,，以及提供“AI換臉”技術(shù)的App和小程序不在少數(shù),。《法治日報》記者近日調(diào)查發(fā)現(xiàn),，目前在網(wǎng)絡(luò)平臺上,，教授“AI換臉”技術(shù)、提供視頻定制“換臉”服務(wù)乃至售賣明星“換臉”的淫穢視頻等已經(jīng)成為一門生意,。

受訪專家認為,，技術(shù)發(fā)展是不可阻擋的趨勢，技術(shù)應(yīng)用也往往超前于風(fēng)險應(yīng)對手段的產(chǎn)生,，要遏制“AI換臉”等人工智能領(lǐng)域的深度合成技術(shù)應(yīng)用亂象,，還得監(jiān)管部門,、平臺、網(wǎng)民多方形成合力,，多管齊下,。此外，針對技術(shù)研究與應(yīng)用的法律規(guī)制和執(zhí)行效能還需進一步完善,。

相關(guān)應(yīng)用下載便捷

提供肖像即可定制

在電商平臺,，記者以“人臉替換”“deepfake”“專業(yè)定制換臉”等作為關(guān)鍵詞搜索看到，不少商家宣稱可以提供影視劇“換臉”,、“AI換臉”等服務(wù),，售價基本在10元至200元之間。

關(guān)于“AI換臉”的用途,，電商平臺上某商家這樣表述：“您可以成為《倚天屠龍記》中的張無忌,，也可以成為《陳情令》中的藍忘機，抑或成為《紅樓夢》中的林黛玉……您只需錄制一個短視頻發(fā)給客服,，這邊就可以為您合成同款視頻,，為您的青春，增添一份風(fēng)采,?！贝隧椃?wù)，領(lǐng)券購買只需23.8元起,。

在手機應(yīng)用商城,，記者以“AI換臉”作為關(guān)鍵詞搜索看到，多款“AI換臉”App映入眼簾,。在某社交平臺上,，記者搜索“換臉”，也看到了不少關(guān)于“AI換臉”的小程序,。

記者下載了熱度最高的一款A(yù)pp,。該App有多款“換臉”模板可供選擇，包括AI繪畫,、影視劇,、氣質(zhì)美女、男士專屬等,，一鍵上傳照片便可生成“換臉”視頻,。

如果想在這些App和小程序上使用“AI換臉”功能，則需要付費,。以記者試用的這款A(yù)pp為例,，周會員17元、年會員398元,。記者購買了17元的周會員,，在登記手機號碼并表示同意遵守相關(guān)合成規(guī)定后，導(dǎo)入視頻素材,，按“點擊制作”和“開始制作”鍵,，就可以將視頻素材中的人臉進行互換。

一些賣家不僅提供“AI換臉”服務(wù),，還提供“換臉”技術(shù)教學(xué)服務(wù),，進一步降低這類技術(shù)的應(yīng)用門檻。

在某電商平臺,，記者聯(lián)系了一個經(jīng)營“AI換臉”業(yè)務(wù)的商家,，在其“智能換臉”的商品詳情面有這樣一段描述：“你可以花費最低的成本,，來優(yōu)化工作簡歷的展示……讓你初出江湖就有大佬一般豐厚的資歷，在就業(yè)的競爭對手中一騎絕塵,?！?/p>

據(jù)該商家客服介紹，想要“換臉”,，只需準備兩部分素材,，即包含面部信息的人臉素材以及提供身體、背景的內(nèi)容素材,，商家操作后,，最終“兩者結(jié)合形成成品”。至于價格,，商家將根據(jù)工作量和難度進行最終定價,，參考價格是1分鐘以內(nèi)60元，超過1分鐘則根據(jù)區(qū)間按秒計算,，如3分鐘以上每秒0.9元,、10分鐘以上每秒0.7元。

同時,，該商家還為“有心”學(xué)習(xí)的客戶提供“AI換臉”教學(xué)套餐：一份自學(xué)套餐180元,、輔導(dǎo)套餐360元、教學(xué)套餐則需720元,。根據(jù)消費者的需求,，商家提供相應(yīng)等級和價格的教學(xué)服務(wù)。

教學(xué)內(nèi)容百元到手

技術(shù)傳播或涉侵權(quán)

“AI換臉”技術(shù)教學(xué)服務(wù)具體包括哪些,？記者花99.99元在那名號稱特效師的博主處購買了相關(guān)套餐,，共7節(jié)課，每節(jié)課程時長在1分9秒至3分45秒,，課程總時長在20分鐘以內(nèi),，核心課程包括“擦除視頻中的人物、如何運用蒙版,、如何摳出人物合成”,，這些課程均為手機屏幕錄制。

據(jù)授課者介紹,，制作一條“換臉”視頻,，需要用到多個手機端應(yīng)用，但并不復(fù)雜——從影視劇片段中截取一幀人物畫面,，用消除筆把想要替換的人物涂抹掉,，將照片保存后便可進行剪輯。不過，在正式剪輯前還需要再準備一段素材,，那就是本人在綠幕中錄制好相關(guān)片段中人物的動作,、臺詞,。

經(jīng)過這一系列操作,，特效師可以代替周星馳與《賭俠》中的女主角張敏欲語還休；成為《狂飆》中的徐江與高啟強在公路飆戲,；取代周潤發(fā)成為《英雄本色》中的小馬哥；在一條19秒的影視劇片段中,，甚至取代郭京飛被迪麗熱巴親了一口,。

購買完課程，特效師邀請記者加入課程群聊,，與其宣稱的上萬人參與學(xué)習(xí)的盛況不同,，群里加上群主只有18人。群內(nèi)無人發(fā)言,，只顯示一位普通群友被管理員“禁言30天”,。

特效師告訴記者，課程學(xué)習(xí)完就可以去制作了,。電腦端可以制作更加豐富的“換臉”視頻,，不過價格比手機端貴4倍。

記者注意到,，評論區(qū)有用戶提出疑問：“換臉”技術(shù)教學(xué)服務(wù)是否涉嫌侵權(quán),？博主不置可否。

對此,，武漢大學(xué)法學(xué)院副教授申晨說：“通過網(wǎng)絡(luò)平臺賣課,、社交平臺教學(xué)等形式傳播‘AI換臉’技術(shù)，如果技術(shù)傳播者明顯知道這個技術(shù)很可能被用于制作淫穢物品,，這樣的情境是可以判斷其構(gòu)成幫助侵權(quán)的,。”

申晨進一步分析,，民法典第1169條規(guī)定了教唆、幫助他人實施侵權(quán)行為的,，承擔(dān)連帶侵權(quán)責(zé)任,。相較于幫助侵權(quán)，教唆侵權(quán)的主觀惡性更嚴重,，如果一些人利用網(wǎng)絡(luò)平臺主動誘導(dǎo)他人學(xué)習(xí)“AI換臉”技術(shù)去實施侵權(quán),，可以認定為教唆侵權(quán)行為。

換臉背后暗藏風(fēng)險

應(yīng)用邊界亟待厘清

還有一個問題是：擅自使用他人肖像制作“換臉”視頻，背后暗藏什么法律風(fēng)險和侵權(quán)糾紛,？

記者就此咨詢前述特效師博主,，對方回復(fù)稱“視頻‘換臉’不涉及侵權(quán)，因為影視劇都是公開的,，如果侵權(quán),，那么那些影視剪輯和影視解說都侵權(quán)了”,，并稱自己從業(yè)以來沒有遇到過相關(guān)糾紛,。

然而，受訪專家給出的法律分析正好相反,。

中國傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系主任鄭寧告訴記者,，擅自使用他人肖像制作“換臉”視頻，可能會涉嫌構(gòu)成侵犯他人肖像權(quán),、名譽權(quán)等,。無論是“換臉”App的經(jīng)營者還是普通網(wǎng)友，凡未經(jīng)影視劇著作權(quán)人的授權(quán)和許可,，擅自將“換臉”后的影視片段通過網(wǎng)絡(luò)提供給公眾,，使公眾可以在其個人選定的時間和地點進行在線播放甚至下載等,，都可能涉嫌侵害影視劇著作權(quán)人的信息網(wǎng)絡(luò)傳播權(quán),。同時，如果“換臉”后對原影視劇片段的主旨進行歪曲篡改,，最常見的形式就是惡搞,，還有可能侵害影視劇著作權(quán)人的保護作品完整權(quán)等,。

鄭寧認為，如果“AI換臉”技術(shù)被不法分子利用,，被用于詐騙,、色情、盜竊,、惡搞,、非法逐利等，則會產(chǎn)生極大危害,，不僅侵害他人合法權(quán)益,，還可能危害社會公共安全,。

鄭寧介紹，目前沒有相關(guān)行業(yè)規(guī)范明確“AI換臉”的特定應(yīng)用場合,，但規(guī)定了“AI換臉”行為應(yīng)當(dāng)遵守的邊界,。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱《規(guī)定》)明確,，任何組織和個人不得利用深度合成服務(wù)制作,、復(fù)制、發(fā)布,、傳播法律,、行政法規(guī)禁止的信息，并要求深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機制,。這為深度合成服務(wù)的技術(shù)應(yīng)用劃定了“底線”和“紅線”,。

“《規(guī)定》出臺，表明有關(guān)部門已經(jīng)在有意識地規(guī)制包括‘AI換臉’在內(nèi)的人工智能深度合成技術(shù),，但該文件并未針對人臉更換技術(shù)的應(yīng)用范圍、目的進行限制,?！痹谏瓿靠磥恚癆I換臉”涉及人的肖像,，其相對于其他個人信息更具特殊性,，也更為敏感?！癆I換臉”技術(shù)會導(dǎo)致對個人身份信息識別的混淆,，繼而導(dǎo)致信息傳播秩序混亂。所以,，需要對這種潛在的危害進行使用范圍的限制,。

那么，“AI換臉”技術(shù)的應(yīng)用邊界在哪里,？

申晨認為,，可以從兩個應(yīng)用場景考慮：專業(yè)的影視制作，在獲得演員授權(quán)的前提下,，可以合法應(yīng)用該技術(shù),；網(wǎng)民娛樂性的使用，例如熟人之間做一些“換臉”視頻進行娛樂等,。

“這就涉及如何理解其中的授權(quán)問題,，根據(jù)相關(guān)規(guī)定，‘AI換臉’需要獲得對方的肖像權(quán)授權(quán),。肖像權(quán)授權(quán)形式可以有兩種理解：第一種,，只要不反對你使用我的肖像，就完成了知情同意的過程；第二種,，必須由肖像本人實施明示的意思表示,，才能得到制作‘AI換臉’視頻的授權(quán)?！鄙瓿空f,，對授權(quán)形式的兩種理解可能要做一個價值判斷，通過主動同意的方式獲得“AI換臉”的權(quán)限,，雖然有利于保護肖像權(quán),，但不太符合社會交往中的觀念，但若采用第一種理解,，可能會帶來事后規(guī)制的成本,，因此“AI換臉”的應(yīng)用邊界還需要通過社會實踐進一步摸索。

建立安全評估系統(tǒng)

完善監(jiān)管防范體系

針對“AI換臉”亂象,，近年來,，國家網(wǎng)信辦、各地網(wǎng)警,、檢察機關(guān)等協(xié)調(diào)配合,，加大整治打擊力度，辦理了不少民事和刑事案件,，出臺了多項政策法規(guī)加強治理,。

我國刑法、民法典以及國家有關(guān)部門出臺的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等多部法律法規(guī)及政策規(guī)定,，均涉及深度合成應(yīng)用的規(guī)范,、侵權(quán)責(zé)任等內(nèi)容。

4月11日,，國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》,，對生成式人工智能產(chǎn)業(yè)給出較為詳盡的規(guī)定，其中包括定義,、準入資格,、責(zé)任義務(wù)和處罰措施等。

“尤其是《規(guī)定》對防范深度合成技術(shù)所帶來的社會危害和法律風(fēng)險,，邁出了非常重要的一步,，實現(xiàn)了從無到有，讓深度合成技術(shù)的應(yīng)用有了專門的監(jiān)督體系,?！鄙瓿空f，不過一些具體措施還有待細化,，比如《規(guī)定》要求的安全評估體系怎么做,，誰來做評估,，評估的標準是什么？這些需要結(jié)合產(chǎn)業(yè)發(fā)展,、技術(shù)背景和專業(yè)知識進行細化,。

在鄭寧看來，我國缺乏對人工智能的總體立法以及人工智能倫理的行業(yè)規(guī)范,，雖然目前的相關(guān)法律對于“AI換臉”可能侵犯隱私權(quán),、名譽權(quán)、肖像權(quán),、個人信息,、著作權(quán)，以及對網(wǎng)絡(luò)安全,、數(shù)據(jù)安全的危害也有相應(yīng)規(guī)定,，網(wǎng)信辦的相關(guān)規(guī)定對于算法、深度合成技術(shù),、安全評估也有規(guī)范,，但是如何在AI產(chǎn)業(yè)創(chuàng)新以及國家安全、個人權(quán)益保護之間實現(xiàn)平衡,，如何劃定各方主體的權(quán)利義務(wù)責(zé)任邊界,，仍有一些模糊不清的地方。

“‘AI換臉’技術(shù)侵犯的權(quán)益十分敏感,，經(jīng)由網(wǎng)絡(luò)傳播速度快、范圍大,、影響廣,，讓人防不勝防，僅通過事后的責(zé)任追究很難達到理想的規(guī)制效果,。因此,，應(yīng)該從技術(shù)開發(fā)者、網(wǎng)絡(luò)服務(wù)提供者,、用戶三個層面,，設(shè)計一套獨特的監(jiān)管體系?！鄙瓿空f,。

申晨建議，對“AI換臉”技術(shù)的開發(fā)者以及相應(yīng)的科技公司建立嚴格的備案手續(xù)和安全評估系統(tǒng),。目前“AI換臉”技術(shù)還比較粗糙,，但通過優(yōu)化迭代，未來肯定會高效且逼真,，因此一定要合理限制傳播范圍,。未來的監(jiān)管體系要控制住技術(shù)源頭,，可以嘗試要求技術(shù)開發(fā)者在技術(shù)中預(yù)留一個“技術(shù)水印”，即用戶如果應(yīng)用該技術(shù)制作視頻,，視頻文件中會留下痕跡,，那么網(wǎng)絡(luò)平臺可以迅速識別出該視頻是使用“AI換臉”技術(shù)進行制作的。

對于網(wǎng)絡(luò)服務(wù)平臺,，申晨建議對使用上傳視頻服務(wù)的用戶信息進行審核,，即要把握AI合成視頻制作者的身份，以便在后期產(chǎn)生法律風(fēng)險時確定責(zé)任人,。平臺還要通過技術(shù)方法審核視頻內(nèi)容,，識別其中是否有人工合成的要素，并進行標注,。同時,，平臺在接到人工合成視頻存在法律風(fēng)險的通知時，需根據(jù)民法典規(guī)定的網(wǎng)絡(luò)服務(wù)提供者義務(wù),，建立一套完善的應(yīng)對機制,。此外，用戶在使用網(wǎng)絡(luò)平臺服務(wù)的過程中,，如果發(fā)現(xiàn)有“AI換臉”視頻涉嫌存在法律風(fēng)險,，一定要有舉報意識。

“當(dāng)上述三個環(huán)節(jié)都建立起監(jiān)管機制,，再結(jié)合對違法者法律責(zé)任的追究,，將會形成一個較為有效的、應(yīng)對‘AI換臉’技術(shù)法律風(fēng)險的防范體系,?！鄙瓿空f。

曾參與電子商務(wù)法立法工作的浙江墾丁律師事務(wù)所主任張延來提出,，治理“AI換臉”技術(shù)濫用現(xiàn)象,，除了法律途徑，還需引入社會力量尤其是商業(yè)力量,，就像計算機病毒需要引入殺毒軟件來遏制一樣,。不過，更應(yīng)該關(guān)注技術(shù)本身所帶來的有利效果,，對于濫用行為可以依法打擊,，不必過于恐懼技術(shù)本身，而是應(yīng)該學(xué)習(xí)和擁抱新技術(shù),。

“任何技術(shù)都是雙刃劍,，還是取決于誰來用、怎么用,、用了違法怎么追責(zé),?！瓵I換臉’在一些場景具有積極意義，比如影視制作,、廣告等,，不應(yīng)全盤否定，但是也要對其風(fēng)險有充分認識,?！编崒幙偨Y(jié)說。

（來源：法治日報）