“AI換臉”技術(shù)被濫用的新聞近日登上熱搜,。除了被應(yīng)用于電信詐騙,，“AI換臉”還常被用于影視劇二次創(chuàng)作,、趣味惡搞小視頻，甚至淫穢色情影像的合成中,，而在網(wǎng)絡(luò)上有商家提供各類(lèi)“換臉?lè)?wù)”,。律師指出，從娛樂(lè)“玩?！钡竭`法犯罪,，藏在“面具”背后的用戶(hù)若對(duì)該技術(shù)不當(dāng)使用，會(huì)承擔(dān)多項(xiàng)法律責(zé)任,。

近日,，“AI詐騙”“AI造謠”等話題頻頻登上微博熱搜，再次引發(fā)公眾對(duì)于“AI換臉”等合成技術(shù)的關(guān)注,。早在2019年,，一款名為“ZAO”的AI換臉軟件就曾火爆一時(shí)，只需上傳一張人臉圖片，它就可將影視作品中的明星臉替換成自己的臉,，這著實(shí)讓很多用戶(hù)過(guò)了一把癮,。然而，這款軟件很快就因?yàn)殡[私,、版權(quán)風(fēng)險(xiǎn)等問(wèn)題引發(fā)爭(zhēng)議,，最終被下架處理。

如今,，隨著AI技術(shù)的迅速發(fā)展,，“AI換臉”正進(jìn)入越來(lái)越多的生活場(chǎng)景中?！豆と巳?qǐng)?bào)》記者在網(wǎng)絡(luò)上搜索發(fā)現(xiàn),，AI換臉軟件的獲取非常容易，有商家提供各類(lèi)“換臉?lè)?wù)”,。律師表示,，若對(duì)該技術(shù)使用不當(dāng)，可能會(huì)涉嫌行政違法,、民事侵權(quán)甚至刑事犯罪,。

“朋友”視頻借錢(qián)騙走430萬(wàn)元

朋友打來(lái)視頻電話借錢(qián)，你還會(huì)懷疑對(duì)方身份的真實(shí)性嗎,？

據(jù)媒體報(bào)道,，今年4月，福州市郭先生的好友突然通過(guò)視頻電話聯(lián)系他,，想通過(guò)郭先生公司賬戶(hù)走賬430萬(wàn)元,。由于通過(guò)視頻聊天已“確認(rèn)”了朋友身份，郭先生便放心轉(zhuǎn)賬,。事后,，郭先生通過(guò)和好友溝通才得知自己被騙，原來(lái)對(duì)方竟通過(guò)AI換臉和擬聲技術(shù),，佯裝好友對(duì)其實(shí)施了詐騙,。

事實(shí)上，除了被應(yīng)用于電信詐騙外,，“AI換臉”還常被用于影視劇二次創(chuàng)作,、趣味惡搞小視頻，甚至淫穢色情影像的合成生產(chǎn)中,。比如,，多名演員就遭遇過(guò)“AI換臉”，被人制作私人視頻并對(duì)外傳播,。某網(wǎng)紅博主也曾發(fā)文稱(chēng),，有人盜用她的“臉”制作了色情視頻,。

AI換臉容易操作嗎？在某手機(jī)應(yīng)用商城,，《工人日?qǐng)?bào)》記者以“換臉”作為關(guān)鍵詞搜索到多款“AI換臉”的App,，在其他網(wǎng)絡(luò)平臺(tái)上，用戶(hù)也能搜索到部分“AI換臉”的小程序,。

記者下載了某款A(yù)pp使用,，其中有多款“換臉”模板可以選擇，包括型男,、古風(fēng)視頻,、美女視頻等。如果想“解鎖”更多模版,，則需要額外付費(fèi),。以記者試用的這款A(yù)pp為例，其月會(huì)員29元,、季會(huì)員59元,，終身會(huì)員98元。根據(jù)提示,，用戶(hù)充值后只需一鍵上傳照片,，便可在15秒內(nèi)生成對(duì)應(yīng)模版的“換臉”視頻。

網(wǎng)上各類(lèi)“換臉?lè)?wù)”涌出

記者通過(guò)調(diào)查發(fā)現(xiàn),，除了直接提供“AI換臉”服務(wù),，還有不少賣(mài)家會(huì)提供“換臉”技術(shù)教程。

記者在網(wǎng)上聯(lián)系到一名賣(mài)家,，他向記者展示了一段利用AI換臉軟件實(shí)現(xiàn)主播換臉的樣本視頻,。視頻中主播的人臉已被替換成一位金發(fā)碧眼的外國(guó)女性，而且表情自然,，幾乎看不出破綻。

“只需要提供一段人臉視頻,，3到5天就可以訓(xùn)練出一套高清定制模型,，以后直播可以隨便用。如果需要明星換臉的素材,，我們這里都有,，在軟件使用上我們包教包會(huì)?！边@名賣(mài)家說(shuō),，這樣一套模型收費(fèi)3500元。

賣(mài)家還提醒記者,，如果要進(jìn)行直播換臉,，最好配備上配置較高的電腦系統(tǒng),，“這樣我們完全可以做到防遮擋，觀眾基本分不出來(lái)真假,，‘換臉’會(huì)更加靈動(dòng),。”他說(shuō),。而當(dāng)記者詢(xún)問(wèn)能否直接幫忙做“換臉”視頻時(shí),，對(duì)方則顯得很謹(jǐn)慎，“現(xiàn)在查得嚴(yán),，用途不當(dāng)?shù)牟蛔?，其他的時(shí)長(zhǎng)半小時(shí)內(nèi)收費(fèi)1500元?！?/p>

“正是由于相關(guān)技術(shù)門(mén)檻的降低,，才使得如今‘AI換臉’技術(shù)被濫用?！睂?duì)于如今涌出的各類(lèi)“換臉”服務(wù),，北方工業(yè)大學(xué)信息學(xué)院副教授張遠(yuǎn)說(shuō)。

張遠(yuǎn)分析認(rèn)為,，“一方面,，隨著AI技術(shù)代碼的開(kāi)源，很多人可以直接拿到成熟模型的源代碼,，有編程基礎(chǔ)的人在此基礎(chǔ)上稍加修改,，便可以制作成一款A(yù)I換臉軟件。另一方面,，由于GPU算力的進(jìn)步,，軟件實(shí)時(shí)換臉能力相較于之前也大幅提升，這就令A(yù)I換臉更容易實(shí)施,?！?/p>

治理技術(shù)濫用應(yīng)引入多方力量

“這種換臉視頻是否涉嫌侵權(quán)？”在換臉相關(guān)短視頻的評(píng)論區(qū)里,，有不少人提出這樣的疑問(wèn),。

對(duì)此，北京市京都律師事務(wù)所律師張雁峰指出,，從娛樂(lè)“玩?！钡竭`法犯罪，藏在“面具”背后的用戶(hù)若對(duì)該技術(shù)不當(dāng)使用,，會(huì)涉嫌行政違法,、民事侵權(quán)甚至刑事犯罪，面臨多項(xiàng)法律風(fēng)險(xiǎn),。

“從行政違法的角度來(lái)說(shuō),，雖然現(xiàn)行法律沒(méi)有明確‘AI換臉’必然會(huì)受到行政處罰,，但如果使用場(chǎng)景涉及到尋釁滋事、捏造誹謗,、不正當(dāng)競(jìng)爭(zhēng)等,，則可能因此而受到警告、罰款,、拘留等行政處罰,；從民事侵權(quán)的角度來(lái)說(shuō)，未經(jīng)他人允許便擅自使用AI換臉技術(shù)可能侵犯如肖像權(quán),、隱私權(quán),、名譽(yù)權(quán)和知識(shí)產(chǎn)權(quán)等一系列權(quán)利?！睆堁惴逭f(shuō),。

對(duì)此，互聯(lián)網(wǎng)分析師張孝容則認(rèn)為,，伴隨著AI大模型的發(fā)展,，聲音合成、人臉交換越發(fā)逼真,，AI換臉技術(shù)的不當(dāng)應(yīng)用,，不僅涉及法律問(wèn)題，還可能造成新型社會(huì)危害,。

“因此,，AI作品制作需要強(qiáng)制實(shí)施主動(dòng)識(shí)別原則，令軟件生成的所有作品加上AI水印,?！睆埿s說(shuō)，“另外,，傳播平臺(tái)也需提供相應(yīng)的說(shuō)明字樣,。”

事實(shí)上,，2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已提出,，服務(wù)者若提供智能對(duì)話、合成人聲,、仿聲、人臉生成,、替換等深度合成服務(wù)時(shí),，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn),。4月11日國(guó)家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》,，也對(duì)生成式人工智能產(chǎn)業(yè)做出了包括定義,、提供者的合規(guī)義務(wù)在內(nèi)等多方面的詳盡規(guī)定,。

“治理AI換臉技術(shù)濫用現(xiàn)象，除了法律途徑,，還需引入多方力量,。”在張遠(yuǎn)看來(lái),，“企業(yè)和高?？梢院献鏖_(kāi)展更多‘反AI換臉’的技術(shù)研發(fā)工作，就像計(jì)算機(jī)病毒需要引入殺毒軟件來(lái)查殺一樣,，我們也可以研發(fā)更多的‘假臉克星’,，例如現(xiàn)在技能競(jìng)賽DFDC（人臉偽造檢測(cè)挑戰(zhàn)賽）就在做相關(guān)嘗試?！?/p>

張遠(yuǎn)還提出,，網(wǎng)絡(luò)服務(wù)平臺(tái)作為大數(shù)據(jù)采集端，可以提高識(shí)別能力,，主動(dòng)通過(guò)技術(shù)方法分析,、研判、定位存在有法律風(fēng)險(xiǎn)的合成視頻,，嚴(yán)控問(wèn)題視頻的傳播,，完善事前處理機(jī)制。

（來(lái)源：工人日?qǐng)?bào)）