上傳一張照片,，就可以把歌手換成自己；一鍵制作,，就可以變成視頻中的經(jīng)典角色……一段時(shí)間以來(lái),，“AI（人工智能）換臉”技術(shù)被廣泛應(yīng)用于短視頻的二次創(chuàng)作，給社會(huì)公眾帶來(lái)了新鮮體驗(yàn),。不少網(wǎng)友感嘆,，“AI換臉”生成的視頻，惟妙惟肖,，很有意思,。但也有網(wǎng)友認(rèn)為“AI換臉”技術(shù)存在不小的安全隱患,，應(yīng)當(dāng)加強(qiáng)監(jiān)管,。

近日,，河北石家莊一位律師在來(lái)信中反映，有的地方企業(yè)注冊(cè)需要人臉識(shí)別,，易被人利用“AI換臉”技術(shù)冒名注冊(cè),，一旦發(fā)生這樣的情況，需要花費(fèi)大量的時(shí)間精力去維權(quán),，“建議提升人臉識(shí)別準(zhǔn)確性的同時(shí),，增加多種驗(yàn)證方式，同時(shí)仔細(xì)審查身份證等信息,?！?/p>

近年來(lái)，有不法分子為了牟利,，利用“AI換臉”技術(shù)冒充熟人實(shí)施詐騙或者盜取個(gè)人信息等,，侵害群眾權(quán)益。據(jù)內(nèi)蒙古包頭警方通報(bào),，某公司法人代表郭先生10分鐘內(nèi)被騙430萬(wàn)元,，犯罪分子的詐騙手法就是通過(guò)“AI換臉”和擬聲技術(shù)佯裝熟人，盡管郭先生通過(guò)視頻聊天“核實(shí)”身份,，但其“好友”卻是犯罪分子用“AI換臉”技術(shù)假冒的,。

此外，“AI換臉”技術(shù)還可能侵害公民的個(gè)人信息安全甚至公共信息安全,。浙江杭州蕭山區(qū)檢察院曾對(duì)一起利用“AI換臉”技術(shù)侵害公民個(gè)人信息案向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟,。虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術(shù)非法處理,、制作視頻后,，在社交軟件上傳播并獲利，甚至還提供換臉視頻定制服務(wù),，使不特定群體成為潛在的被侵害對(duì)象,。最終，杭州互聯(lián)網(wǎng)法院認(rèn)定虞某某侵害公共信息安全,，還應(yīng)承擔(dān)相應(yīng)的民事侵權(quán)責(zé)任,。

“AI換臉”技術(shù)是把雙刃劍?！霸跒槿罕娚钐峁┍憷耐瑫r(shí),，也將人們從真實(shí)場(chǎng)景中抽離出來(lái)，打破了‘人臉即真實(shí)’的傳統(tǒng)認(rèn)知和社會(huì)共識(shí),，造成視覺(jué)效果失真,，生物識(shí)別信息的真實(shí)性被一定程度消解,，存在信息安全和人身權(quán)利被侵害的風(fēng)險(xiǎn)?！敝袊?guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任,、中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)常務(wù)副秘書(shū)長(zhǎng)周輝說(shuō)。

“從司法實(shí)踐來(lái)看,，目前已有不少因‘AI換臉’生成短視頻侵犯知識(shí)產(chǎn)權(quán)或是人格權(quán)的案件進(jìn)入到訴訟程序,。”北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長(zhǎng)朱閣介紹,，例如相聲,、影視劇等都屬于著作權(quán)法保護(hù)的作品，短視頻平臺(tái)用戶(hù)用“AI換臉”技術(shù)將相聲,、影視劇等換臉上傳,，可能面臨侵犯著作權(quán)的法律風(fēng)險(xiǎn)。

我國(guó)民法典將人格權(quán)獨(dú)立成編,，規(guī)定任何組織或者個(gè)人不得以丑化,、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán),?！岸桃曨l平臺(tái)未征得當(dāng)事人同意，提供他人形象模板讓用戶(hù)使用‘AI換臉’技術(shù)制作圖片或視頻并發(fā)布,，平臺(tái)和用戶(hù)都面臨侵犯他人肖像權(quán)的法律風(fēng)險(xiǎn),。”朱閣提示,，即使用戶(hù)基于對(duì)平臺(tái)的信賴(lài)或者已經(jīng)付費(fèi),，也可能構(gòu)成侵權(quán)。

根據(jù)相關(guān)規(guī)定,，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)尊重他人合法權(quán)益,，不得危害他人身心健康,，不得侵害他人肖像權(quán)、名譽(yù)權(quán),、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益,?！啊瓵I換臉’等新技術(shù)本身是中性的，但應(yīng)規(guī)范使用,?！敝茌x表示，短視頻平臺(tái)等深度合成服務(wù)提供者在投入使用相關(guān)應(yīng)用時(shí),，應(yīng)充分考慮法律風(fēng)險(xiǎn)和市場(chǎng)風(fēng)險(xiǎn),，履行法律規(guī)定的顯著標(biāo)識(shí)義務(wù)，向公眾提示深度合成后果,，促使技術(shù)健康合規(guī)發(fā)展,。

“社會(huì)公眾既要增強(qiáng)個(gè)人信息特別是人臉等生物特征等信息的保護(hù)意識(shí)，同時(shí)使用新技術(shù)也要尊重他人的知識(shí)產(chǎn)權(quán)和人格權(quán),，盡到審慎的注意義務(wù),，避免陷入不必要的訴訟糾紛?！敝扉w提醒,。

來(lái)源：人民日?qǐng)?bào) | 作者 魏哲哲

編輯：謝永利

流程編輯：郭丹