上傳照片，15秒內生成“換臉”視頻；提供一段人臉視頻,，3到5天訓練出一套高清定制模型——

“AI換臉”被濫用,，有商家提供一條龍服務

近日,，“AI詐騙”“AI造謠”等話題頻頻登上微博熱搜,，再次引發(fā)公眾對于“AI換臉”等合成技術的關注。早在2019年,，一款名為“ZAO”的AI換臉軟件就曾火爆一時,，只需上傳一張人臉圖片，它就可將影視作品中的明星臉替換成自己的臉,，這著實讓很多用戶過了一把癮,。然而，這款軟件很快就因為隱私,、版權風險等問題引發(fā)爭議,，最終被下架處理。

如今,，隨著AI技術的迅速發(fā)展,，“AI換臉”正進入越來越多的生活場景中?！豆と巳請蟆酚浾咴诰W(wǎng)絡上搜索發(fā)現(xiàn),，AI換臉軟件的獲取非常容易，有商家提供各類“換臉服務”,。律師表示,，若對該技術使用不當，可能會涉嫌行政違法,、民事侵權甚至刑事犯罪,。

“朋友”視頻借錢騙走430萬元

朋友打來視頻電話借錢，你還會懷疑對方身份的真實性嗎,？

據(jù)媒體報道,，今年4月，福州市郭先生的好友突然通過視頻電話聯(lián)系他,，想通過郭先生公司賬戶走賬430萬元,。由于通過視頻聊天已“確認”了朋友身份，郭先生便放心轉賬,。事后,，郭先生通過和好友溝通才得知自己被騙,，原來對方竟通過AI換臉和擬聲技術,，佯裝好友對其實施了詐騙,。

事實上，除了被應用于電信詐騙外,，“AI換臉”還常被用于影視劇二次創(chuàng)作,、趣味惡搞小視頻，甚至淫穢色情影像的合成生產中,。比如,，多名演員就遭遇過“AI換臉”，被人制作私人視頻并對外傳播,。某網(wǎng)紅博主也曾發(fā)文稱,，有人盜用她的“臉”制作了色情視頻。

AI換臉容易操作嗎,？在某手機應用商城,，《工人日報》記者以“換臉”作為關鍵詞搜索到多款“AI換臉”的App，在其他網(wǎng)絡平臺上,，用戶也能搜索到部分“AI換臉”的小程序,。

記者下載了某款App使用，其中有多款“換臉”模板可以選擇,，包括型男,、古風視頻、美女視頻等,。如果想“解鎖”更多模版,，則需要額外付費。以記者試用的這款App為例,，其月會員29元,、季會員59元，終身會員98元,。根據(jù)提示,，用戶充值后只需一鍵上傳照片，便可在15秒內生成對應模版的“換臉”視頻,。

網(wǎng)上各類“換臉服務”涌出

記者通過調查發(fā)現(xiàn),，除了直接提供“AI換臉”服務，還有不少賣家會提供“換臉”技術教程,。

記者在網(wǎng)上聯(lián)系到一名賣家,，他向記者展示了一段利用AI換臉軟件實現(xiàn)主播換臉的樣本視頻。視頻中主播的人臉已被替換成一位金發(fā)碧眼的外國女性,，而且表情自然,，幾乎看不出破綻,。

“只需要提供一段人臉視頻，3到5天就可以訓練出一套高清定制模型,，以后直播可以隨便用,。如果需要明星換臉的素材，我們這里都有,，在軟件使用上我們包教包會,。”這名賣家說,，這樣一套模型收費3500元,。

賣家還提醒記者，如果要進行直播換臉,，最好配備上配置較高的電腦系統(tǒng),，“這樣我們完全可以做到防遮擋，觀眾基本分不出來真假,，‘換臉’會更加靈動,。”他說,。而當記者詢問能否直接幫忙做“換臉”視頻時,，對方則顯得很謹慎，“現(xiàn)在查得嚴,，用途不當?shù)牟蛔?，其他的時長半小時內收費1500元?！?/p>

“正是由于相關技術門檻的降低,，才使得如今‘AI換臉’技術被濫用?！睂τ谌缃裼砍龅母黝悺皳Q臉”服務,，北方工業(yè)大學信息學院副教授張遠說。

張遠分析認為,，“一方面,，隨著AI技術代碼的開源，很多人可以直接拿到成熟模型的源代碼,，有編程基礎的人在此基礎上稍加修改,，便可以制作成一款AI換臉軟件。另一方面,，由于GPU算力的進步,，軟件實時換臉能力相較于之前也大幅提升，這就令AI換臉更容易實施,?！?/p>

治理技術濫用應引入多方力量

“這種換臉視頻是否涉嫌侵權,？”在換臉相關短視頻的評論區(qū)里，有不少人提出這樣的疑問,。

對此,，北京市京都律師事務所律師張雁峰指出，從娛樂“玩?！钡竭`法犯罪,，藏在“面具”背后的用戶若對該技術不當使用，會涉嫌行政違法,、民事侵權甚至刑事犯罪，面臨多項法律風險,。

“從行政違法的角度來說,，雖然現(xiàn)行法律沒有明確‘AI換臉’必然會受到行政處罰，但如果使用場景涉及到尋釁滋事,、捏造誹謗,、不正當競爭等，則可能因此而受到警告,、罰款,、拘留等行政處罰；從民事侵權的角度來說,，未經他人允許便擅自使用AI換臉技術可能侵犯如肖像權,、隱私權、名譽權和知識產權等一系列權利,?！睆堁惴逭f。

對此,，互聯(lián)網(wǎng)分析師張孝容則認為,，伴隨著AI大模型的發(fā)展，聲音合成,、人臉交換越發(fā)逼真,，AI換臉技術的不當應用，不僅涉及法律問題,，還可能造成新型社會危害,。

“因此，AI作品制作需要強制實施主動識別原則,，令軟件生成的所有作品加上AI水印,。”張孝榮說,，“另外,，傳播平臺也需提供相應的說明字樣,。”

事實上,，2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》已提出,，服務者若提供智能對話、合成人聲,、仿聲,、人臉生成、替換等深度合成服務時,，應當進行顯著標識,，避免公眾混淆或者誤認。4月11日國家網(wǎng)信辦發(fā)布的《生成式人工智能服務管理辦法（征求意見稿）》,，也對生成式人工智能產業(yè)做出了包括定義,、提供者的合規(guī)義務在內等多方面的詳盡規(guī)定,。

“治理AI換臉技術濫用現(xiàn)象，除了法律途徑,，還需引入多方力量,。”在張遠看來,，“企業(yè)和高?？梢院献鏖_展更多‘反AI換臉’的技術研發(fā)工作，就像計算機病毒需要引入殺毒軟件來查殺一樣,，我們也可以研發(fā)更多的‘假臉克星’,，例如現(xiàn)在技能競賽DFDC（人臉偽造檢測挑戰(zhàn)賽）就在做相關嘗試?！?/p>

張遠還提出,，網(wǎng)絡服務平臺作為大數(shù)據(jù)采集端,，可以提高識別能力，主動通過技術方法分析,、研判,、定位存在有法律風險的合成視頻，嚴控問題視頻的傳播,，完善事前處理機制,。

來源：工人日報 工人日報記者王宇

相關新聞

“AI換臉”軟件公開網(wǎng)售，法律邊界在哪,？

微信群“互懟”,，可能會侵犯他人名譽權；女子地鐵照被AI一鍵脫衣傳播,；女兒不是親生的,，前夫能要求賠償嗎？

本期編輯：趙晨晨