北京日報客戶端 | 記者 袁京

人工智能技術(shù)近些年悄無聲息地融入到我們生活中的各個角落：智能語音客服,、AI主播,、語音轉(zhuǎn)文字等常見功能極大地提高了工作生活的便利性，眾多AI換臉,、AI繪畫App或小程序也因上手簡單而讓普通人一秒鐘實現(xiàn)明星夢,、畫家夢，去年年底美國研發(fā)的聊天工具ChatGPT一經(jīng)問世更是火爆全球,。不過,，技術(shù)永遠(yuǎn)是把雙刃劍，繼“AI孫燕姿”翻唱事件后,，近日,，福建一男子被騙子通過AI換臉和擬聲技術(shù)佯裝成其好友，并通過視頻聊天10分鐘詐騙430萬元一事,，讓人們更加深刻地思考：AI技術(shù)應(yīng)怎樣服務(wù)人類,？技術(shù)濫用會帶來哪些法律風(fēng)險，又會造成怎樣的信任危機(jī)呢,？

1,、AI“創(chuàng)作”存在侵權(quán)風(fēng)險

AI技術(shù)的發(fā)展初衷在于改善人類生活，近年來,，其對于視頻,、音頻、圖像,、文字的處理逐漸從實驗室走向大眾,，改變著人們的生產(chǎn)生活方式，且應(yīng)用場景廣泛,，玩法多元,，在降本增效、解放生產(chǎn)力方面有著不凡表現(xiàn)。

以AI視頻技術(shù)為例,。以往,，某位演員的失德失范可能導(dǎo)致其參演的整部作品無法播出,，給拍攝方造成經(jīng)濟(jì)損失,。通過AI技術(shù)，就可以在作品已經(jīng)拍攝完成后對問題演員進(jìn)行“換臉”,，及時止損,。在特效制作方面，過去的AI還只是特效師的輔助,，但是目前已經(jīng)有多個軟件可以“傻瓜式”生成大片特效,，電影特效進(jìn)入“平民時代”，普通人也能擁有自制特效的奇妙體驗,。另外,，AI技術(shù)還能夠在僅有文案而不添加其他圖片視頻素材的基礎(chǔ)上“無中生有”創(chuàng)作視頻，滿足了創(chuàng)作者們更加多元化的需求,。

今年春節(jié)期間,，一組紅色背景、毛茸茸的卡通兔子圖片風(fēng)靡朋友圈,，成為了很多人的屏保壁紙和頭像,，這些圖片均是由AI繪圖技術(shù)生成。眾多AI繪圖工具已經(jīng)在設(shè)計,、繪畫領(lǐng)域嶄露頭角,，使用者只需要輸入文字指令，就可以實現(xiàn)“以文生圖”,，在幾分鐘內(nèi)得到一張不錯的作品,，極大地提高了生產(chǎn)效率。不過,，這可能會對圖片版權(quán)行業(yè)產(chǎn)生沖擊,。

一般來講，想要使用一張有版權(quán)的圖片,，包括繪畫和攝影作品等,，需要付費(fèi)才能夠合法使用，否則便會引發(fā)版權(quán)侵權(quán)案件,，在自媒體領(lǐng)域相關(guān)糾紛尤其明顯,。有些自媒體賬號在發(fā)布的廣告宣傳中未經(jīng)許可，使用了他人的版權(quán)圖片作為配圖,，被權(quán)利人起訴索賠,，有些版權(quán)代理公司還可能刻意隱瞞并誘導(dǎo)別人使用版權(quán)圖片，等握取侵權(quán)事實后再向?qū)Ψ剿饕r償、逼迫簽訂包年合同或提起訴訟,，將維權(quán)變成了牟利手段,。而AI繪圖技術(shù)的出現(xiàn)，在一定程度上能夠幫助自媒體運(yùn)營者控制成本,，降低因不當(dāng)使用圖片作品引發(fā)的涉訴風(fēng)險,，另一方面，也對圖片作品商業(yè)化維權(quán)產(chǎn)業(yè)鏈擾亂市場經(jīng)營秩序的行為構(gòu)成打擊,。

上述AI視頻,、AI繪圖技術(shù)，以及能夠幫助人們寫論文,、郵件,、腳本、詩歌,、代碼的“全能”聊天工具ChatGPT,，都是深度合成技術(shù)的具體應(yīng)用，不論人們是否具有專業(yè)背景和相關(guān)經(jīng)驗,，只要具備簡單的表達(dá)能力,，都可以借助這些AI工具進(jìn)行“創(chuàng)作”。那么,，這些生成的視頻,、圖片、文字作品版權(quán)歸屬如何呢,？事實上,，我國著作權(quán)法對于利用AI生成的作品版權(quán)歸屬尚無明確規(guī)定，不過,，眾多的AI工具均對產(chǎn)出作品的權(quán)利歸屬設(shè)置了相應(yīng)的使用規(guī)則,，有些軟件還對免費(fèi)用戶和付費(fèi)用戶生成作品的權(quán)利歸屬以及是否可商用進(jìn)行了區(qū)分，可視為雙方就生成作品版權(quán)問題達(dá)成了一致,，用戶對作品的處分應(yīng)當(dāng)遵照約定執(zhí)行,。

此外，也有人質(zhì)疑AI通過對海量樣本的學(xué)習(xí),、模仿后生成的作品,，是否會侵犯在先作品版權(quán)人的合法權(quán)利？對此,，北京市第四中級人民法院法官認(rèn)為,，要看AI作品對他人作品的借鑒、使用程度是否構(gòu)成實質(zhì)性相似,。如果只是對他人創(chuàng)作的手法,、規(guī)則,、技巧、風(fēng)格的學(xué)習(xí)模仿,，很難認(rèn)定為“抄襲”,，但如果是機(jī)械地照搬、拼接了他人作品,，則有可能構(gòu)成侵權(quán),。因此，在前期利用AI獲取靈感創(chuàng)意的基礎(chǔ)上,，創(chuàng)作者應(yīng)注入自己的思想觀點(diǎn),、人文情感等,，使其內(nèi)容具備實質(zhì)性的改動,，讓作品的權(quán)屬問題和后續(xù)使用更加穩(wěn)妥。

2,、AI“換臉”可能侵害肖像權(quán)

技術(shù)的迭代讓很多不可能成為了可能,，近日爆火網(wǎng)絡(luò)的“AI孫燕姿”就是如此。很多創(chuàng)作者以孫燕姿的音色來訓(xùn)練AI,，并以合成的音色翻唱其他歌手的作品,，讓多年不出專輯的孫燕姿瞬間多出了千余首翻唱作品，連她本人都表示“人類無法超越它已指日可待”,。那么,，這些AI翻唱的作品是否合法呢？

事實上,，歌手的唱腔,、音色本身不屬于著作權(quán)法的保護(hù)范疇，但是民法典第一千零二十三條規(guī)定,，對自然人聲音的保護(hù)參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定,，也就是說，不得利用信息技術(shù)手段偽造的方式侵犯他人對聲音的權(quán)利,。

此外,，有人以“僅供娛樂并非商用”為由來聲明免責(zé)，但是根據(jù)著作權(quán)法第四十二條的規(guī)定,，錄音制作者使用他人已經(jīng)合法錄制為錄音制品的音樂作品來制作錄音制品,，可以不經(jīng)著作權(quán)人許可，但應(yīng)當(dāng)按照規(guī)定支付報酬,，免責(zé)聲明并不是其著作權(quán)侵權(quán)的阻卻事由,。而且有些人上傳AI翻唱作品后會獲得平臺收益或用戶打賞，雖然并非必須付費(fèi)才能收聽,，但制作者也的確因此獲得了收益,，所以也很難將其作品定義為著作權(quán)法合理使用制度中的“免費(fèi)表演”,。

可見，AI技術(shù)雖好,，但必須謹(jǐn)防濫用,。曾有一段時間，“楊冪”“熱巴”等明星頻頻現(xiàn)身帶貨直播間,，被眼尖的網(wǎng)友一眼識破,，原來這些都是AI換臉技術(shù)，某些人妄圖頂著一張“明星臉”吸引更多用戶走進(jìn)直播間,。這樣做,，雖然有了流量，卻也侵犯了他人合法權(quán)益,。根據(jù)民法典第一千零一十九條規(guī)定,，任何組織或者個人不得以丑化、污損,，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán),。未經(jīng)肖像權(quán)人同意，不得制作,、使用,、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外,。未經(jīng)肖像權(quán)人同意,，肖像作品權(quán)利人不得以發(fā)表、復(fù)制,、發(fā)行,、出租、展覽等方式使用或者公開肖像權(quán)人的肖像,。明星的肖像相較于普通人更具商業(yè)價值,，非法將名人肖像“移植”到主播身上，相當(dāng)于零成本獲取名人效應(yīng),，不僅侵害了被換臉明星的肖像權(quán)及其代表的經(jīng)濟(jì)利益,，對其他依法付費(fèi)使用名人肖像的經(jīng)營者也明顯不公。

此外,，還有網(wǎng)友曾上傳自己的照片,，用自己的臉替換影視劇中演員的臉，此種行為也存在法律風(fēng)險,。根據(jù)肖像權(quán)的法律規(guī)定,，“反向換臉”也屬于利用信息技術(shù)手段偽造的方式侵害他人肖像權(quán)的行為。特別是換臉影視劇人物并將視頻上傳網(wǎng)絡(luò)發(fā)布,，還可能構(gòu)成對影視作品信息網(wǎng)絡(luò)傳播權(quán),、保護(hù)作品完整權(quán)等著作權(quán)的侵害,，相關(guān)著作權(quán)人可保留追究其責(zé)任并獲取賠償?shù)臋?quán)利。

北京市第四中級人民法院法官提醒,，“換臉”還可能引發(fā)其他人格權(quán)方面的糾紛,。有視頻博主近期通過AI換臉技術(shù)將影視劇中親密戲部分男主角的臉換成了自己，造成了很多網(wǎng)友及演員粉絲的不適,。演員在劇中的親密戲份屬于表演需要,，在合同、劇本中有所體現(xiàn),，是在演員本人知情,、同意的基礎(chǔ)上對劇情的必要演繹。但是該博主的行為不僅構(gòu)成了對女演員的無禮和冒犯,，還可能因符合民法典第一千零一十條所述“違背他人意愿,，以語言、文字,、圖像,、肢體行為等方式對他人實施性騷擾”的情形而承擔(dān)民事責(zé)任。更有甚者為了“造黃謠”或非法牟利,，將女明星或者普通女性的肖像換臉到黃色視頻中，嚴(yán)重侵害了他人的名譽(yù)權(quán),，給當(dāng)事人造成了極大的精神痛苦,，應(yīng)依法予以懲處。

3,、重點(diǎn)防范利用AI實施犯罪

在人們還在拓展AI的各種便利時,，犯罪分子早已盯上了這項技術(shù)。據(jù)報道,，福建郭先生的微信“好友”通過視頻聯(lián)系他,，稱要借430萬元保證金?；趯σ曨l通話的信任,，郭先生在10分鐘內(nèi)完成了轉(zhuǎn)賬，不久之后發(fā)現(xiàn)被騙,。原來,，騙子先是盜取了郭先生好友的微信，知曉了郭先生的經(jīng)濟(jì)實力,，又獲取了“好友”的臉孔,、聲音等信息用于后期合成，最終完成了詐騙,，讓人防不勝防,。原本遠(yuǎn)程通信是為便利而生,，但AI技術(shù)的濫用反而降低了人們對于線上交往的信任。試想一下,，如果有人將AI技術(shù)用于制作非法視頻,、虛假新聞等，這對社會信任體系無疑是不利的,。

誠信對于保障交易安全至關(guān)重要,，但是深度合成技術(shù)的不當(dāng)使用可能增加違約風(fēng)險，尤其是在以對方智力成果為標(biāo)的的交易領(lǐng)域,。當(dāng)創(chuàng)作者的作品是通過ChatGPT,、Midjourney等AI工具生成的文字或圖片時，其作品的獨(dú)創(chuàng)性或?qū)⒋嬖阼Υ?。例如在著作?quán)許可或轉(zhuǎn)讓合同方面,，除非合同雙方就使用AI進(jìn)行創(chuàng)作達(dá)成了一致，否則這種合成的作品可能因獨(dú)創(chuàng)性不足而構(gòu)成瑕疵履行,，或者因侵犯他人著作權(quán)而存在權(quán)利瑕疵,，給被許可方或受讓方在后續(xù)商業(yè)化使用作品過程中造成不必要的損失。

另外,，AI技術(shù)的觸手可及也將提升道德風(fēng)險,。北京市第四中級人民法院法官表示，利用AI完成工作所需的工作量與個人開展獨(dú)立智力勞動所需的工作量相比,，無論時間,、經(jīng)濟(jì)、精力成本都相差甚遠(yuǎn),，如果寫作,、繪畫等方面的從業(yè)者大量借助AI完成工作卻不予告知付費(fèi)客戶，仍然按照個人獨(dú)立完成的標(biāo)準(zhǔn)報價,，則相關(guān)行業(yè)良性競爭的秩序?qū)⒈淮蚱?，職業(yè)道德也將出現(xiàn)危機(jī)。當(dāng)然,，高風(fēng)險的還有學(xué)術(shù)領(lǐng)域,。學(xué)生用ChatGPT等人工智能工具輔助寫論文已經(jīng)不是什么新鮮事,，但是就現(xiàn)階段來講,，AI創(chuàng)作的論文還存在很多弊端，或是缺乏新穎性,，或是缺乏邏輯性表達(dá),，甚至連參考文獻(xiàn)都可能是AI胡編濫造，這樣的學(xué)術(shù)成果不僅沒有任何價值可言,，反而加劇了學(xué)術(shù)不端現(xiàn)象,。

面對相關(guān)風(fēng)險，我們既要做好補(bǔ)救,，也要做好防范,。國家網(wǎng)信辦出臺的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》于今年1月10日正式施行，主要針對深度合成服務(wù)者的義務(wù)進(jìn)行了規(guī)定,，其中要求深度合成服務(wù)提供者提供智能對話,、合成人聲、人臉生成,、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的,，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn),。可見,，做好風(fēng)險防范首先要從技術(shù)開發(fā)者,、服務(wù)提供者入手。

對于個人而言,，人臉,、指紋、聲音等生物信息以及身份證,、銀行卡,、社交媒體賬號等個人信息的保護(hù)則變得愈發(fā)重要。假如遇到熟人在線上提出轉(zhuǎn)賬需求時,，要通過多重驗證來確認(rèn)其身份,，特別是對AI技術(shù)了解不多的老年人更要重點(diǎn)防范。

供圖：視覺中國