北京日?qǐng)?bào)客戶(hù)端 | 記者 袁京

人工智能技術(shù)近些年悄無(wú)聲息地融入到我們生活中的各個(gè)角落：智能語(yǔ)音客服、AI主播,、語(yǔ)音轉(zhuǎn)文字等常見(jiàn)功能極大地提高了工作生活的便利性,，眾多AI換臉,、AI繪畫(huà)App或小程序也因上手簡(jiǎn)單而讓普通人一秒鐘實(shí)現(xiàn)明星夢(mèng)、畫(huà)家夢(mèng),，去年年底美國(guó)研發(fā)的聊天工具ChatGPT一經(jīng)問(wèn)世更是火爆全球,。不過(guò)，技術(shù)永遠(yuǎn)是把雙刃劍,，繼“AI孫燕姿”翻唱事件后,，近日,，福建一男子被騙子通過(guò)AI換臉和擬聲技術(shù)佯裝成其好友,，并通過(guò)視頻聊天10分鐘詐騙430萬(wàn)元一事,，讓人們更加深刻地思考：AI技術(shù)應(yīng)怎樣服務(wù)人類(lèi),？技術(shù)濫用會(huì)帶來(lái)哪些法律風(fēng)險(xiǎn),，又會(huì)造成怎樣的信任危機(jī)呢,？

1,、AI“創(chuàng)作”存在侵權(quán)風(fēng)險(xiǎn)

AI技術(shù)的發(fā)展初衷在于改善人類(lèi)生活，近年來(lái),，其對(duì)于視頻,、音頻,、圖像、文字的處理逐漸從實(shí)驗(yàn)室走向大眾,，改變著人們的生產(chǎn)生活方式,，且應(yīng)用場(chǎng)景廣泛，玩法多元,，在降本增效,、解放生產(chǎn)力方面有著不凡表現(xiàn)。

以AI視頻技術(shù)為例,。以往,，某位演員的失德失范可能導(dǎo)致其參演的整部作品無(wú)法播出，給拍攝方造成經(jīng)濟(jì)損失,。通過(guò)AI技術(shù),，就可以在作品已經(jīng)拍攝完成后對(duì)問(wèn)題演員進(jìn)行“換臉”，及時(shí)止損,。在特效制作方面,，過(guò)去的AI還只是特效師的輔助,，但是目前已經(jīng)有多個(gè)軟件可以“傻瓜式”生成大片特效,，電影特效進(jìn)入“平民時(shí)代”,，普通人也能擁有自制特效的奇妙體驗(yàn)。另外,，AI技術(shù)還能夠在僅有文案而不添加其他圖片視頻素材的基礎(chǔ)上“無(wú)中生有”創(chuàng)作視頻,，滿(mǎn)足了創(chuàng)作者們更加多元化的需求。

今年春節(jié)期間,，一組紅色背景,、毛茸茸的卡通兔子圖片風(fēng)靡朋友圈，成為了很多人的屏保壁紙和頭像,，這些圖片均是由AI繪圖技術(shù)生成,。眾多AI繪圖工具已經(jīng)在設(shè)計(jì),、繪畫(huà)領(lǐng)域嶄露頭角，使用者只需要輸入文字指令,，就可以實(shí)現(xiàn)“以文生圖”,，在幾分鐘內(nèi)得到一張不錯(cuò)的作品，極大地提高了生產(chǎn)效率,。不過(guò),，這可能會(huì)對(duì)圖片版權(quán)行業(yè)產(chǎn)生沖擊,。

一般來(lái)講,，想要使用一張有版權(quán)的圖片，包括繪畫(huà)和攝影作品等,，需要付費(fèi)才能夠合法使用,，否則便會(huì)引發(fā)版權(quán)侵權(quán)案件,，在自媒體領(lǐng)域相關(guān)糾紛尤其明顯,。有些自媒體賬號(hào)在發(fā)布的廣告宣傳中未經(jīng)許可,，使用了他人的版權(quán)圖片作為配圖,，被權(quán)利人起訴索賠,，有些版權(quán)代理公司還可能刻意隱瞞并誘導(dǎo)別人使用版權(quán)圖片，等握取侵權(quán)事實(shí)后再向?qū)Ψ剿饕r償,、逼迫簽訂包年合同或提起訴訟,，將維權(quán)變成了牟利手段。而AI繪圖技術(shù)的出現(xiàn)，在一定程度上能夠幫助自媒體運(yùn)營(yíng)者控制成本,，降低因不當(dāng)使用圖片作品引發(fā)的涉訴風(fēng)險(xiǎn),，另一方面，也對(duì)圖片作品商業(yè)化維權(quán)產(chǎn)業(yè)鏈擾亂市場(chǎng)經(jīng)營(yíng)秩序的行為構(gòu)成打擊,。

上述AI視頻,、AI繪圖技術(shù)，以及能夠幫助人們寫(xiě)論文,、郵件,、腳本、詩(shī)歌,、代碼的“全能”聊天工具ChatGPT，都是深度合成技術(shù)的具體應(yīng)用,，不論人們是否具有專(zhuān)業(yè)背景和相關(guān)經(jīng)驗(yàn),，只要具備簡(jiǎn)單的表達(dá)能力,，都可以借助這些AI工具進(jìn)行“創(chuàng)作”,。那么，這些生成的視頻,、圖片、文字作品版權(quán)歸屬如何呢,？事實(shí)上,，我國(guó)著作權(quán)法對(duì)于利用AI生成的作品版權(quán)歸屬尚無(wú)明確規(guī)定，不過(guò),，眾多的AI工具均對(duì)產(chǎn)出作品的權(quán)利歸屬設(shè)置了相應(yīng)的使用規(guī)則,，有些軟件還對(duì)免費(fèi)用戶(hù)和付費(fèi)用戶(hù)生成作品的權(quán)利歸屬以及是否可商用進(jìn)行了區(qū)分,，可視為雙方就生成作品版權(quán)問(wèn)題達(dá)成了一致，用戶(hù)對(duì)作品的處分應(yīng)當(dāng)遵照約定執(zhí)行,。

此外，也有人質(zhì)疑AI通過(guò)對(duì)海量樣本的學(xué)習(xí)、模仿后生成的作品,，是否會(huì)侵犯在先作品版權(quán)人的合法權(quán)利,？對(duì)此,，北京市第四中級(jí)人民法院法官認(rèn)為,，要看AI作品對(duì)他人作品的借鑒,、使用程度是否構(gòu)成實(shí)質(zhì)性相似,。如果只是對(duì)他人創(chuàng)作的手法,、規(guī)則、技巧,、風(fēng)格的學(xué)習(xí)模仿，很難認(rèn)定為“抄襲”,，但如果是機(jī)械地照搬,、拼接了他人作品，則有可能構(gòu)成侵權(quán),。因此,，在前期利用AI獲取靈感創(chuàng)意的基礎(chǔ)上,，創(chuàng)作者應(yīng)注入自己的思想觀點(diǎn)、人文情感等,，使其內(nèi)容具備實(shí)質(zhì)性的改動(dòng),，讓作品的權(quán)屬問(wèn)題和后續(xù)使用更加穩(wěn)妥。

2,、AI“換臉”可能侵害肖像權(quán)

技術(shù)的迭代讓很多不可能成為了可能,，近日爆火網(wǎng)絡(luò)的“AI孫燕姿”就是如此,。很多創(chuàng)作者以孫燕姿的音色來(lái)訓(xùn)練AI,，并以合成的音色翻唱其他歌手的作品，讓多年不出專(zhuān)輯的孫燕姿瞬間多出了千余首翻唱作品,，連她本人都表示“人類(lèi)無(wú)法超越它已指日可待”,。那么，這些AI翻唱的作品是否合法呢,？

事實(shí)上，歌手的唱腔,、音色本身不屬于著作權(quán)法的保護(hù)范疇,，但是民法典第一千零二十三條規(guī)定，對(duì)自然人聲音的保護(hù)參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定，也就是說(shuō),，不得利用信息技術(shù)手段偽造的方式侵犯他人對(duì)聲音的權(quán)利,。

此外,，有人以“僅供娛樂(lè)并非商用”為由來(lái)聲明免責(zé),，但是根據(jù)著作權(quán)法第四十二條的規(guī)定,，錄音制作者使用他人已經(jīng)合法錄制為錄音制品的音樂(lè)作品來(lái)制作錄音制品,，可以不經(jīng)著作權(quán)人許可,，但應(yīng)當(dāng)按照規(guī)定支付報(bào)酬，免責(zé)聲明并不是其著作權(quán)侵權(quán)的阻卻事由,。而且有些人上傳AI翻唱作品后會(huì)獲得平臺(tái)收益或用戶(hù)打賞,，雖然并非必須付費(fèi)才能收聽(tīng),，但制作者也的確因此獲得了收益,，所以也很難將其作品定義為著作權(quán)法合理使用制度中的“免費(fèi)表演”,。

可見(jiàn)，AI技術(shù)雖好,，但必須謹(jǐn)防濫用,。曾有一段時(shí)間,，“楊冪”“熱巴”等明星頻頻現(xiàn)身帶貨直播間，被眼尖的網(wǎng)友一眼識(shí)破，原來(lái)這些都是AI換臉技術(shù),，某些人妄圖頂著一張“明星臉”吸引更多用戶(hù)走進(jìn)直播間。這樣做，雖然有了流量,，卻也侵犯了他人合法權(quán)益,。根據(jù)民法典第一千零一十九條規(guī)定,，任何組織或者個(gè)人不得以丑化,、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán),。未經(jīng)肖像權(quán)人同意,，不得制作,、使用,、公開(kāi)肖像權(quán)人的肖像,，但是法律另有規(guī)定的除外。未經(jīng)肖像權(quán)人同意,，肖像作品權(quán)利人不得以發(fā)表,、復(fù)制、發(fā)行,、出租,、展覽等方式使用或者公開(kāi)肖像權(quán)人的肖像。明星的肖像相較于普通人更具商業(yè)價(jià)值,，非法將名人肖像“移植”到主播身上,，相當(dāng)于零成本獲取名人效應(yīng)，不僅侵害了被換臉明星的肖像權(quán)及其代表的經(jīng)濟(jì)利益,，對(duì)其他依法付費(fèi)使用名人肖像的經(jīng)營(yíng)者也明顯不公,。

此外，還有網(wǎng)友曾上傳自己的照片,，用自己的臉替換影視劇中演員的臉,，此種行為也存在法律風(fēng)險(xiǎn)。根據(jù)肖像權(quán)的法律規(guī)定,，“反向換臉”也屬于利用信息技術(shù)手段偽造的方式侵害他人肖像權(quán)的行為,。特別是換臉影視劇人物并將視頻上傳網(wǎng)絡(luò)發(fā)布，還可能構(gòu)成對(duì)影視作品信息網(wǎng)絡(luò)傳播權(quán),、保護(hù)作品完整權(quán)等著作權(quán)的侵害,，相關(guān)著作權(quán)人可保留追究其責(zé)任并獲取賠償?shù)臋?quán)利。

北京市第四中級(jí)人民法院法官提醒,，“換臉”還可能引發(fā)其他人格權(quán)方面的糾紛,。有視頻博主近期通過(guò)AI換臉技術(shù)將影視劇中親密戲部分男主角的臉換成了自己，造成了很多網(wǎng)友及演員粉絲的不適,。演員在劇中的親密戲份屬于表演需要,，在合同、劇本中有所體現(xiàn),，是在演員本人知情,、同意的基礎(chǔ)上對(duì)劇情的必要演繹。但是該博主的行為不僅構(gòu)成了對(duì)女演員的無(wú)禮和冒犯,，還可能因符合民法典第一千零一十條所述“違背他人意愿,，以語(yǔ)言、文字,、圖像,、肢體行為等方式對(duì)他人實(shí)施性騷擾”的情形而承擔(dān)民事責(zé)任。更有甚者為了“造黃謠”或非法牟利,，將女明星或者普通女性的肖像換臉到黃色視頻中,，嚴(yán)重侵害了他人的名譽(yù)權(quán)，給當(dāng)事人造成了極大的精神痛苦,，應(yīng)依法予以懲處,。

3、重點(diǎn)防范利用AI實(shí)施犯罪

在人們還在拓展AI的各種便利時(shí),，犯罪分子早已盯上了這項(xiàng)技術(shù),。據(jù)報(bào)道，福建郭先生的微信“好友”通過(guò)視頻聯(lián)系他，稱(chēng)要借430萬(wàn)元保證金,?；趯?duì)視頻通話(huà)的信任，郭先生在10分鐘內(nèi)完成了轉(zhuǎn)賬,，不久之后發(fā)現(xiàn)被騙,。原來(lái)，騙子先是盜取了郭先生好友的微信,，知曉了郭先生的經(jīng)濟(jì)實(shí)力,，又獲取了“好友”的臉孔、聲音等信息用于后期合成,，最終完成了詐騙,，讓人防不勝防。原本遠(yuǎn)程通信是為便利而生,，但AI技術(shù)的濫用反而降低了人們對(duì)于線(xiàn)上交往的信任,。試想一下，如果有人將AI技術(shù)用于制作非法視頻,、虛假新聞等,，這對(duì)社會(huì)信任體系無(wú)疑是不利的,。

誠(chéng)信對(duì)于保障交易安全至關(guān)重要,，但是深度合成技術(shù)的不當(dāng)使用可能增加違約風(fēng)險(xiǎn),，尤其是在以對(duì)方智力成果為標(biāo)的的交易領(lǐng)域。當(dāng)創(chuàng)作者的作品是通過(guò)ChatGPT,、Midjourney等AI工具生成的文字或圖片時(shí),，其作品的獨(dú)創(chuàng)性或?qū)⒋嬖阼Υ谩＠缭谥鳈?quán)許可或轉(zhuǎn)讓合同方面,，除非合同雙方就使用AI進(jìn)行創(chuàng)作達(dá)成了一致,，否則這種合成的作品可能因獨(dú)創(chuàng)性不足而構(gòu)成瑕疵履行，或者因侵犯他人著作權(quán)而存在權(quán)利瑕疵,，給被許可方或受讓方在后續(xù)商業(yè)化使用作品過(guò)程中造成不必要的損失,。

另外，AI技術(shù)的觸手可及也將提升道德風(fēng)險(xiǎn),。北京市第四中級(jí)人民法院法官表示,，利用AI完成工作所需的工作量與個(gè)人開(kāi)展獨(dú)立智力勞動(dòng)所需的工作量相比，無(wú)論時(shí)間,、經(jīng)濟(jì),、精力成本都相差甚遠(yuǎn)，如果寫(xiě)作,、繪畫(huà)等方面的從業(yè)者大量借助AI完成工作卻不予告知付費(fèi)客戶(hù),，仍然按照個(gè)人獨(dú)立完成的標(biāo)準(zhǔn)報(bào)價(jià),，則相關(guān)行業(yè)良性競(jìng)爭(zhēng)的秩序?qū)⒈淮蚱疲殬I(yè)道德也將出現(xiàn)危機(jī),。當(dāng)然,，高風(fēng)險(xiǎn)的還有學(xué)術(shù)領(lǐng)域。學(xué)生用ChatGPT等人工智能工具輔助寫(xiě)論文已經(jīng)不是什么新鮮事,，但是就現(xiàn)階段來(lái)講,，AI創(chuàng)作的論文還存在很多弊端，或是缺乏新穎性,，或是缺乏邏輯性表達(dá),，甚至連參考文獻(xiàn)都可能是AI胡編濫造，這樣的學(xué)術(shù)成果不僅沒(méi)有任何價(jià)值可言,，反而加劇了學(xué)術(shù)不端現(xiàn)象,。

面對(duì)相關(guān)風(fēng)險(xiǎn)，我們既要做好補(bǔ)救,，也要做好防范,。國(guó)家網(wǎng)信辦出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》于今年1月10日正式施行，主要針對(duì)深度合成服務(wù)者的義務(wù)進(jìn)行了規(guī)定,，其中要求深度合成服務(wù)提供者提供智能對(duì)話(huà),、合成人聲、人臉生成,、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的,，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn),?？梢?jiàn)，做好風(fēng)險(xiǎn)防范首先要從技術(shù)開(kāi)發(fā)者、服務(wù)提供者入手,。

對(duì)于個(gè)人而言,，人臉、指紋,、聲音等生物信息以及身份證,、銀行卡、社交媒體賬號(hào)等個(gè)人信息的保護(hù)則變得愈發(fā)重要,。假如遇到熟人在線(xiàn)上提出轉(zhuǎn)賬需求時(shí),，要通過(guò)多重驗(yàn)證來(lái)確認(rèn)其身份，特別是對(duì)AI技術(shù)了解不多的老年人更要重點(diǎn)防范,。

供圖：視覺(jué)中國(guó)