央視新聞客戶端 | 作者 張李彬 金軼丹 何潔人工智能,，也就是“AI”,，這個(gè)詞一直非?；馃?，隨著科技浪潮席卷而來(lái),，不斷有一些AI技術(shù)走進(jìn)大眾視野,，比如“AI換臉”“AI換聲”等：視頻中的角色可以變成你想替換的任何人；比如一些生成式AI,，你只需要輸入一些提示詞,，它就能幫你寫作、畫圖……不過,，AI技術(shù)為人們生產(chǎn)生活帶來(lái)便利的同時(shí),，也會(huì)產(chǎn)生一些法律方面的風(fēng)險(xiǎn)。人工智能亦會(huì)產(chǎn)生法律風(fēng)險(xiǎn)記者在街頭采訪了解到,，一些市民平日里會(huì)關(guān)注人工智能相關(guān)的話題,，有的還會(huì)利用一些AI軟件來(lái)幫助自己提高工作和學(xué)習(xí)效率,。而同時(shí)，對(duì)于此類應(yīng)用,，人們也有一些擔(dān)憂,。AI時(shí)代下，耳聽未必為真,、眼見未必為實(shí),，你接收到的文字、圖片,、音視頻信息可能是AI技術(shù)的產(chǎn)物,。畫面中可以看到,，視頻中和演示人員進(jìn)行視訊的男生面部表情非常自然,，看不出有什么蹊蹺之處。不過實(shí)際上,，這并非他的真實(shí)樣貌,。人工智能安全技術(shù)從業(yè)人員 張?zhí)燹龋捍蠹铱吹降漠嬅嫫鋵?shí)都是通過AI實(shí)時(shí)換臉,，經(jīng)過修改篡改后呈現(xiàn)出來(lái)的一個(gè)效果,。演示人員介紹，要想制作一個(gè)換臉人物的模型,，目前通過一張照片就能夠?qū)崿F(xiàn),。但如果想要達(dá)到非常逼真、自然的效果,，則需要換臉人物各個(gè)角度的圖像,，在萬(wàn)量級(jí)左右。AI技術(shù)在各領(lǐng)域應(yīng)用可能產(chǎn)生侵權(quán)糾紛這種AI合成技術(shù)在影視制作,、廣告營(yíng)銷,、社交娛樂等領(lǐng)域廣泛應(yīng)用，人們?nèi)粘Ｖ幸材芙佑|到一些操作簡(jiǎn)易的“AI換臉”等應(yīng)用軟件,，不過這給大家?guī)?lái)了新鮮體驗(yàn)的同時(shí),，也可能會(huì)產(chǎn)生人格權(quán)方面的侵權(quán)糾紛。中國(guó)政法大學(xué)傳播法研究中心副主任 朱?。褐饕菍?duì)人格權(quán)領(lǐng)域產(chǎn)生了巨大的安全隱患,。比如說(shuō)一個(gè)人他的形象，他的聲音在互聯(lián)網(wǎng)上通過各種渠道發(fā)布出來(lái)了,。未經(jīng)他的允許,，別人把他的聲音，把他的圖像,，把他的肖像做出了深度合成,。有的時(shí)候是為了詐騙使用,，有的時(shí)候就是為了純粹的娛樂，有的時(shí)候是為了惡搞,，有的時(shí)候是為了發(fā)布一些虛假信息,。專家認(rèn)為，未經(jīng)授權(quán)使用他人形象進(jìn)行AI合成,，可能會(huì)侵犯他人的肖像權(quán),、名譽(yù)權(quán)、隱私權(quán)等,。此外,，AI合成技術(shù)降低了虛假視頻的制作門檻，這也可能給不法行為人可乘之機(jī)——比如用來(lái)炮制,、傳播虛假信息以及詐騙等,。人工智能安全技術(shù)從業(yè)人員 朱萌：我覺得最大的風(fēng)險(xiǎn)其實(shí)還是隱私的泄露,，比如說(shuō)一些不法分子用你的照片合成視頻去做一些詐騙的行為,。其實(shí)你身邊的人，或者接到照片視頻的人,，其實(shí)很難去判斷到底是真的還是假的,。中國(guó)政法大學(xué)傳播法研究中心副主任 朱?。含F(xiàn)在確實(shí)已經(jīng)出現(xiàn)了利用生成式人工智能,，搞的這種深度合成的精準(zhǔn)詐騙。兩人都已經(jīng)視頻通話了,，發(fā)現(xiàn)對(duì)面那個(gè)人長(zhǎng)相,、聲音、說(shuō)話的語(yǔ)氣跟另外一個(gè)人非常像,，結(jié)果是騙子用AI合成的,，這就導(dǎo)致當(dāng)事人被騙了。陜西西安警方就偵破了一起類似的案件,，2023年11月2日,，財(cái)務(wù)人員張女士收到了老板發(fā)來(lái)的信息，讓她轉(zhuǎn)賬186萬(wàn)元到一個(gè)指定賬戶,。并且收到信息沒多久,，她還接到了老板打來(lái)的視頻通話。轉(zhuǎn)賬之后,，張女士按照往日的習(xí)慣將電子憑證發(fā)到了他們公司的一個(gè)內(nèi)部群里,。然而出乎意料的是，群里包括和她視頻的老板在內(nèi)的不少人都對(duì)這筆轉(zhuǎn)賬感到很奇怪。意識(shí)到被騙的張女士連忙報(bào)警求助,，西安市公安局大明宮派出所的民警迅速行動(dòng)起來(lái),，核查涉案賬戶的同時(shí),，對(duì)接反詐中心,、聯(lián)系相關(guān)銀行進(jìn)行緊急止付，最終保住了被騙資金156萬(wàn)元,。西安市公安局未央分局大明宮派出所民警 丁鼎：然后我對(duì)她的工作電腦也進(jìn)行一個(gè)簡(jiǎn)單的檢查，初步判斷這是可能她前幾天點(diǎn)擊一些釣魚網(wǎng)站,，電腦中了病毒,，隨后被電詐團(tuán)伙竊取一些信息，最后用一些AI技術(shù)跟她微信視頻,，最后騙取公司的財(cái)物,。什么是生成式AI是否受法律保護(hù)警方提醒，面對(duì)資金往來(lái)或是可能泄露個(gè)人信息的情況,，還需要多方核實(shí),。自從2022年底，聊天機(jī)器人程序ChatGPT橫空出世,，生成式AI引發(fā)眾人關(guān)注,。利用這一類生成式AI，你可能通過輸入提示詞就得到你想要的文字,、圖片等內(nèi)容,。不過，這種新穎的創(chuàng)作方式也帶來(lái)了知識(shí)產(chǎn)權(quán)方面的爭(zhēng)議：人們利用這種越來(lái)越“聰明”的AI生成的內(nèi)容,，還是“原創(chuàng)”作品嗎,？受到法律保護(hù)嗎？人工智能安全技術(shù)從業(yè)人員 朱萌：那就是具備文本,、圖片、音頻,、視頻等內(nèi)容生成能力的大模型或者相關(guān)的技術(shù),。所有這些技術(shù)的總和，我們都可以叫它生成式人工智能,。它的生成能力還是非常巨大的,，可以極大地提升生產(chǎn)力。專家介紹,，生成式AI利用復(fù)雜的算法、模型和規(guī)則,，從大規(guī)模數(shù)據(jù)集中學(xué)習(xí),，并生成文本,、圖片、聲音,、視頻等多種類型的內(nèi)容,。在文本內(nèi)容生成、藝術(shù)創(chuàng)作與設(shè)計(jì),、音頻處理,、游戲開發(fā)、藥物研發(fā)等領(lǐng)域有著廣泛的應(yīng)用前景,。人工智能安全技術(shù)從業(yè)人員 朱萌：像珠寶設(shè)計(jì),、服裝設(shè)計(jì)等等這種藝術(shù)設(shè)計(jì)的領(lǐng)域，或者包括一些市場(chǎng)文案的制作,，這些都是在感性領(lǐng)域,，生成式人工智能可以做得非常好。因?yàn)檫@些領(lǐng)域沒有標(biāo)準(zhǔn)答案,，它的答案是多重的,，不是唯一的。另外一個(gè)就是像代碼生成這樣的理性領(lǐng)域,，它的結(jié)果它的功能就很容易被判別,，所以也非常適用于生成式人工智能?？梢哉f(shuō),，生成式AI讓人們的創(chuàng)作更加便捷，不過隨之而來(lái)的,，也是法律界飽受爭(zhēng)議的話題,，那就是，利用AI生成的內(nèi)容,，構(gòu)成作品嗎,？受到著作權(quán)法的保護(hù)嗎？2023年11月,，北京互聯(lián)網(wǎng)法院審結(jié)了一起“AI文生圖”著作權(quán)案件，李先生使用AI繪畫軟件生成了一張AI圖片,，之后他發(fā)現(xiàn),，這張圖片被一位劉女士去掉署名水印、擅自發(fā)布在網(wǎng)絡(luò)文章里,。李先生認(rèn)為,，劉女士的行為侵犯了他享有的署名權(quán)和信息網(wǎng)絡(luò)傳播權(quán)，于是將對(duì)方訴至法院，要求其賠償經(jīng)濟(jì)損失5000元,，并賠禮道歉,。北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長(zhǎng) 朱閣：原告因?yàn)槭褂玫倪@種繪畫大模型,，跟以往的繪畫工具就有很大的不同,。咱們以往的繪畫工具，你還是要去畫線條,、色彩,、造型,，還是一個(gè)動(dòng)手去畫的過程,。但是這個(gè)工具它就比較智能，通過輸入提示詞,、設(shè)置一下參數(shù),、時(shí)長(zhǎng)線條和色彩，它就自動(dòng)完成,，它比以往用的任何的繪畫工具都要更智能,。法院審理認(rèn)為,，涉案圖片符合作品的定義,，屬于作品，并且它是以線條,、色彩構(gòu)成的有審美意義的平面造型藝術(shù)作品,，屬于美術(shù)作品。在原告所使用AI繪畫軟件設(shè)計(jì)者不主張對(duì)輸出內(nèi)容權(quán)利的情況下,，涉案圖片是基于原告的智力投入直接產(chǎn)生,，且體現(xiàn)出了原告的個(gè)性化表達(dá)，因此原告是涉案圖片的作者,，享有涉案圖片的著作權(quán),。北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長(zhǎng) 朱閣：被告的行為，一個(gè)是去掉了圖片的署名水印,，還有一個(gè)在互聯(lián)網(wǎng)上傳播,，是落入到了中國(guó)著作權(quán)法上規(guī)定的署名權(quán)和信息網(wǎng)絡(luò)傳播權(quán)的控制的范圍的，所以我們認(rèn)為侵權(quán)是成立的,。法院判決被告向原告道歉并賠償經(jīng)濟(jì)損失北京互聯(lián)網(wǎng)法院判決被告劉女士在社交媒體平臺(tái)道歉,，并賠償李先生經(jīng)濟(jì)損失500元，駁回原告其他訴訟請(qǐng)求,。北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長(zhǎng) 朱閣：隨著這種技術(shù)的發(fā)展，我們的傳播渠道就是不斷地拓展。我們?cè)瓉?lái)可能就是拿筆去畫,，后來(lái)我們有了照相機(jī),，我們有了手機(jī)，后來(lái)我們有了繪圖的軟件,，現(xiàn)在我們有了更智能的軟件,。在這個(gè)過程中人的智力投入就是越來(lái)越少的，但是這并不妨礙我們繼續(xù)使用著作權(quán)法,，來(lái)保護(hù)這樣的創(chuàng)作,，保護(hù)這樣的傳播?！吨腥A人民共和國(guó)著作權(quán)法》第三條規(guī)定,，本法所稱的作品，是指文學(xué),、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨(dú)創(chuàng)性并能以一定形式表現(xiàn)的智力成果,。專家認(rèn)為，判斷利用AI軟件生成的內(nèi)容是否構(gòu)成作品,、受到著作權(quán)法的保護(hù),，其中，“智力成果”及“獨(dú)創(chuàng)性”這兩個(gè)需要考量的要素是最關(guān)鍵也是最難認(rèn)定的,。中國(guó)政法大學(xué)傳播法研究中心副主任 朱巍：只要是屬于智力成果,，都可以歸納到著作權(quán)的范圍,，另外一點(diǎn)，這個(gè)智力成果有可能是人產(chǎn)生的,，有可能是機(jī)器產(chǎn)生的,。中國(guó)人民大學(xué)法學(xué)院教授,、知識(shí)產(chǎn)權(quán)法教研室主任 萬(wàn)勇：但是在這個(gè)機(jī)器生成的過程當(dāng)中,，它又有人的參與。什么樣的情況下具有獨(dú)創(chuàng)性,，以及在什么樣的情況下它是智力成果,，這個(gè)法律并沒有明確地給出規(guī)定。這個(gè)也是目前AI生成的內(nèi)容是否具有著作權(quán),、是否能夠成為作品,，成為一個(gè)世界性、具有爭(zhēng)議性問題的原因所在,。此外,，生成式AI在開發(fā)階段也面臨著侵權(quán)的爭(zhēng)議,。當(dāng)?shù)貢r(shí)間2023年12月20日，11名美國(guó)作家在紐約曼哈頓聯(lián)邦法院起訴美國(guó)人工智能公司“開放人工智能研究中心”O(jiān)penAI和微軟,，指控其濫用他們的作品來(lái)訓(xùn)練ChatGPT——這是由OpenAI開發(fā)的基于大語(yǔ)言模型的聊天機(jī)器人程序,。這些作家向法庭表示，OpenAI在未經(jīng)許可的情況下,，從互聯(lián)網(wǎng)上批量復(fù)制了他們的作品,，并將這些作品納入ChatGPT的訓(xùn)練數(shù)據(jù)里，侵犯了他們的作品版權(quán),。他們還表示,，由于微軟公司“深度參與”了訓(xùn)練和開發(fā)人工智能模型，也應(yīng)承擔(dān)侵權(quán)責(zé)任,。作家們向法院提出了金額不詳?shù)馁r償要求,，并要求法院下令這些公司停止侵犯版權(quán)。中國(guó)人民大學(xué)法學(xué)院教授,、知識(shí)產(chǎn)權(quán)法教研室主任 萬(wàn)勇：AI在設(shè)計(jì)的過程當(dāng)中,，或者換句話說(shuō)機(jī)器學(xué)習(xí)的過程當(dāng)中,，它需要使用大量的享有版權(quán)的內(nèi)容,，它才可以不斷地去完善,?；蛘邠Q句話說(shuō),，那么AI使用享有版權(quán)的內(nèi)容構(gòu)不構(gòu)成侵權(quán)，那么這個(gè)也是目前法律上面一個(gè)具有爭(zhēng)議性的問題,。北京互聯(lián)網(wǎng)法院也受理了一起類似的案件：4名繪畫創(chuàng)作者將某社交平臺(tái)公司訴至法院,，原因是，該公司推出了一款A(yù)I繪畫圖片生成模型,，其生成的圖片,，畫風(fēng)及一些元素與一些畫師的作品相似。畫師們認(rèn)為,，公司方面涉嫌用他們的作品提供給AI模型進(jìn)行學(xué)習(xí)并生成高度相似的作品,，侵犯了創(chuàng)作者的合法權(quán)益。如何化解AI所帶來(lái)的法律挑戰(zhàn)如今,，人工智能越來(lái)越多地融入我們的生產(chǎn)生活中，那么,，要如何化解人工智能所帶來(lái)的法律挑戰(zhàn),？又該如何運(yùn)用法治的力量保障人工智能產(chǎn)業(yè)健康發(fā)展,？對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：事實(shí)上我們看到新的技術(shù)的出現(xiàn)，誠(chéng)然改變了侵權(quán)的方式和表現(xiàn),，但是對(duì)于人的侵害的事實(shí)以及人的權(quán)利本身并沒有改變,。使用者出于一些不同的意圖去使用它所帶來(lái)的問題，其實(shí)在傳統(tǒng)的法律中都有很多的表述,，無(wú)論是對(duì)于我們講的知識(shí)產(chǎn)權(quán),，對(duì)于我們的人的肖像權(quán)、個(gè)人信息權(quán)利,，還有這種名譽(yù)權(quán),，我們的民法典、個(gè)人信息保護(hù)法都有所保護(hù),。專家認(rèn)為，對(duì)于人工智能帶來(lái)的一些新的侵權(quán)形式,，一方面，現(xiàn)行法律仍然可以作為處理和解決糾紛的依據(jù),；另一方面，相關(guān)部門也在陸續(xù)出臺(tái)法律法規(guī),，從而更好地預(yù)防各種侵權(quán)風(fēng)險(xiǎn)，有效地保障民事主體的合法權(quán)益,，促進(jìn)人工智能產(chǎn)業(yè)的健康發(fā)展,。比如，2022年12月,，國(guó)家網(wǎng)信辦等三部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，旨在加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理,。2023年7月,，國(guó)家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》,，在鼓勵(lì)創(chuàng)新與發(fā)展的同時(shí)，進(jìn)一步完善人工智能管理體系,。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：那么最重要的一個(gè)表現(xiàn)就是開創(chuàng)了分層次的治理,。分層次的治理指的是我們要根據(jù)相關(guān)主體在整個(gè)行業(yè)中的位置和功能設(shè)定不同的義務(wù)和責(zé)任。對(duì)于生成人工智能來(lái)說(shuō),，它是一個(gè)非常復(fù)雜的生態(tài)。在生態(tài)之中既有技術(shù)的提供者,，又有服務(wù)的提供者,，又有普遍的用戶，又有非常多的產(chǎn)業(yè)的各方參與者,。如何確定好各方的義務(wù),、責(zé)任,、權(quán)利,，恰恰是這部法律非常重要的一個(gè)立法上的創(chuàng)新。專家認(rèn)為,，人工智能的發(fā)展為社會(huì)進(jìn)步帶來(lái)了前所未有的推動(dòng)力,，同時(shí)也伴隨著一系列亟待解決的法律風(fēng)險(xiǎn),。正因如此,，在推動(dòng)人工智能產(chǎn)業(yè)高速發(fā)展的過程中，確保其安全性,、可控性顯得尤為重要,。如何去平衡好發(fā)展與安全的關(guān)系,，引導(dǎo)科技向善而行,，這將是一個(gè)具有挑戰(zhàn)性的議題。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：但是這么一種發(fā)展和安全的平衡,，不只依賴于我們的監(jiān)管者,、我們的立法者,。它依賴于各個(gè)產(chǎn)業(yè)的共同參與,，依賴于我們每個(gè)人的共同參與。塑造出一個(gè)既開放有活力,，同時(shí)又有秩序的人工智能生態(tài),，我想這是未來(lái)需要進(jìn)一步做的工作。法治熱評(píng)：AI技術(shù)快速發(fā)展 需有關(guān)部門完善法規(guī)近年來(lái),，人工智能產(chǎn)業(yè)快速發(fā)展,，隨著AI技術(shù)在越來(lái)越多領(lǐng)域的應(yīng)用，也衍生出一系列的法律風(fēng)險(xiǎn),。如何協(xié)調(diào)這種技術(shù)的發(fā)展與法律邊界之間的關(guān)系，是一個(gè)充滿挑戰(zhàn)的議題,。面對(duì)日新月異的數(shù)字化技術(shù),，一方面，需要秉持科技向善的原則,，盡量避免侵權(quán)風(fēng)險(xiǎn)、不利用技術(shù)從事違法犯罪行為,，另一方面,，也需要有關(guān)部門完善法律法規(guī),，加強(qiáng)引導(dǎo)和監(jiān)管,，新技術(shù)安全、合規(guī),、可控，才能迎來(lái)更廣闊的發(fā)展空間,。