視頻里那張臉正對(duì)著鏡頭,，幾乎不動(dòng),，臉上的表情和平常沒什么不一樣。

7秒視頻通話后,，濟(jì)南人方楊宥就給對(duì)方指定賬戶轉(zhuǎn)了30萬,。等到報(bào)了警,，他才知道，原來視頻里那張熟悉的臉是“假”的,，屏幕另一端根本不是自己的親戚,，而是詐騙人員利用AI技術(shù)合成的影像視頻。

這樁發(fā)生在今年5月的AI詐騙事件,，并非孤例,。山東省商河縣公安局刑警大隊(duì)中隊(duì)長(zhǎng)張振華向新京報(bào)記者介紹，隨著深度合成技術(shù)的開放開源,，深度合成產(chǎn)品和服務(wù)逐漸增多,，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為日益增多,。此前,，已有哈爾濱、福州等多地警方通報(bào)過有關(guān)AI換臉的詐騙事件,。

北京市社會(huì)科學(xué)院法治研究所副所長(zhǎng),、副研究員王潔長(zhǎng)期從事反電詐研究，他認(rèn)為,，步入人工智能時(shí)代,，人臉和聲音已經(jīng)成為一種亟須保護(hù)的信息。然而當(dāng)下隨著AI技術(shù)發(fā)展,，利用AI換臉技術(shù)進(jìn)行詐騙,、造謠、侵犯肖像權(quán)或知識(shí)產(chǎn)權(quán)的行為屢屢發(fā)生,，這意味著技術(shù)正被濫用,，人臉這一重要信息極易“丟失”。

AI實(shí)時(shí)換臉技術(shù)發(fā)展的同時(shí)，也在迅速“平民化”,。新京報(bào)記者調(diào)查發(fā)現(xiàn),，AI實(shí)時(shí)換臉技術(shù)在多個(gè)平臺(tái)以百元左右的價(jià)格售賣，其中一位商家表示,，368元便能購買其自己研發(fā)的實(shí)時(shí)換臉程序,，50年內(nèi)可以無限次使用?？捎^的利益驅(qū)動(dòng)著AI灰色市場(chǎng)的發(fā)展,，有商家自稱月收入高達(dá)20萬元，他宣稱自己什么視頻都能做,，任意將一張臉換至色情視頻里,，也僅需150元一分鐘。

“我們的未來一定是會(huì)和AI共存共生長(zhǎng)的”,，王潔說,，這意味著人類也將和AI相關(guān)的侵權(quán)事件共生共存。如何讓技術(shù)向善發(fā)展,，成為當(dāng)下一個(gè)非常重要的問題,。

方楊宥報(bào)案后，商河刑警奔赴廣東,，將涉嫌幫信罪嫌疑人謝某等3人抓獲,。目前該案正在進(jìn)一步偵查中。來源：“濟(jì)南公安”微信公眾號(hào)

AI騙局

視頻連線只持續(xù)了7秒,，看著屏幕里那張熟悉的臉,，聽著手機(jī)傳出熟悉的聲音，方楊宥相信了這個(gè)剛剛添加自己為好友的新賬號(hào)所說的——他確實(shí)是自己的親戚,，30萬元就這樣轉(zhuǎn)賬到了對(duì)方提供的銀行賬戶上,。

“結(jié)果一切都是假的?！?023年6月底,，商河縣公安局刑警大隊(duì)中隊(duì)長(zhǎng)張振華向新京報(bào)記者介紹了這個(gè)案子，“這就是近期流行的‘AI詐騙’,，一種利用智能AI技術(shù)實(shí)施詐騙的詐騙手段,。”

事情發(fā)生在今年5月29日,，濟(jì)南人方楊宥在家刷短視頻時(shí),，突然收到一條陌生人發(fā)來的消息。對(duì)方自稱是方楊宥的親戚,，他發(fā)來一串新的QQ號(hào),，希望方楊宥添加。剛一加上好友，對(duì)方就給方楊宥撥來視頻電話,，7秒的視頻連線有些卡頓,，但那張熟悉的臉和那個(gè)熟悉的聲音，讓方楊宥相信確實(shí)這就是自己的“大哥”,。

沒說幾句話,，對(duì)方就以網(wǎng)絡(luò)質(zhì)量不好為由,，將視頻掛斷,。在隨后的文字聊天中，這位“大哥”稱自己急需轉(zhuǎn)一筆錢,，但沒法直接打款,，想要先轉(zhuǎn)賬給方楊宥，然后拜托他幫忙轉(zhuǎn)到指定的銀行卡里去,。

“那邊急用,，你現(xiàn)在馬上安排過去?！眱蓮埑晒D(zhuǎn)賬的截圖是發(fā)來了,，可方楊宥一直沒收到這筆款項(xiàng)?！按蟾纭睂⒃颉八﹀仭苯o銀行,，“那應(yīng)該就是24小時(shí)到了，銀行的信息不會(huì)錯(cuò),?！币灾庇缅X為由，“大哥”反復(fù)催促方楊宥先行墊付,。

經(jīng)不住一再催促,，方楊宥向其指定賬戶轉(zhuǎn)賬了30萬元。沒過多久,，對(duì)方又讓方楊宥再轉(zhuǎn)35萬元,。這時(shí)，方楊宥猛然想起曾經(jīng)看過的反詐宣傳,，趕緊打電話給自己的親戚,，這才知道，一切都是假的,。

濟(jì)南人方楊宥遭遇的AI詐騙,，7秒視頻后，他給對(duì)方指定賬戶轉(zhuǎn)賬30萬元,。來源：“濟(jì)南公安”微信公眾號(hào)

當(dāng)晚,，方楊宥便報(bào)了案。根據(jù)轉(zhuǎn)賬卡號(hào)的流水，張振華和同事們發(fā)現(xiàn)該銀行卡在廣東的一家金店有過消費(fèi),。次日,，商河刑警便奔赴廣東東莞，抓獲了犯罪嫌疑人謝某等三人,。之后,，又有三名犯罪嫌疑人被警方抓獲。

在后續(xù)的調(diào)查中,，警方發(fā)現(xiàn),，這起AI詐騙真正的源頭在緬北。境內(nèi)的這伙人,，是一個(gè)專門幫助境外詐騙分子進(jìn)行洗錢的犯罪團(tuán)隊(duì),，他們分工明晰，買金,、打款,、對(duì)接上線等都由不同的人操作。目前他們因涉嫌幫信罪,，正在接受后續(xù)調(diào)查,。

事實(shí)上，利用AI技術(shù)進(jìn)行詐騙的案例已在全國多地發(fā)生,。王潔第一次知道AI詐騙,，是在2019年，當(dāng)時(shí)一位留學(xué)生看到詐騙人員利用技術(shù)合成其父母的視頻之后,，便信以為真,。此前，已經(jīng)有哈爾濱,、福州等多地網(wǎng)警通報(bào)過有關(guān)AI換臉的詐騙事件,，他們的手段并非完全相同。

5月20日,，包頭市公安局的官方微信公眾號(hào)“平安包頭”發(fā)文稱,，今年4月，因犯罪團(tuán)伙使用AI換臉技術(shù),，通過視頻聊天的形式獲取了受害者的信任,，使其在10分鐘內(nèi)給騙子的指定賬戶打去430萬元。受害者報(bào)案后,，包頭市警銀聯(lián)動(dòng),，成功緊急止付涉嫌電信詐騙資金330多萬元。

6月15日,，“大連市銀行業(yè)協(xié)會(huì)”的官方微信公眾號(hào)也發(fā)文稱,，詐騙人員獲取了一位男士的身份證影像信息后,，通過AI技術(shù)手段合成了短視頻，并使用該視頻成功應(yīng)對(duì)了銀行大額資金轉(zhuǎn)賬時(shí)的人臉識(shí)別驗(yàn)證,，將其卡中的定期存款銷戶,，隨后轉(zhuǎn)出部分資金。好在這位男士對(duì)銀行非柜面渠道設(shè)置了日累計(jì)交易限額,，超限額部分資金無法實(shí)時(shí)轉(zhuǎn)出,，有效避免了部分資金損失。

也有詐騙人員盯上的是“聲音”,。

2022年,，律師馬俊哲在短視頻里自曝被電信詐騙3萬元的經(jīng)歷。騙子使用AI技術(shù),，合成了馬俊哲母親的聲音,，假冒其母親的身份給他打去電話,，稱其父親因出車禍而骨折,，急需3萬元的醫(yī)藥費(fèi)，希望馬俊哲將錢打入她朋友的賬戶,。

就在轉(zhuǎn)錢的那一刻,，馬俊哲發(fā)現(xiàn)這個(gè)銀行卡歸屬地并非父母的所在地，馬俊哲立刻回?fù)芰四赣H打來的這串電話,，經(jīng)過母親確認(rèn)之后,，馬俊哲又給父親打了個(gè)電話，但是父親電話打不通,。他以為父親正在做檢查,，便直接將錢打了過去。

可次日馬俊哲再次給母親打電話時(shí),，母親卻說沒有這一回事,。馬俊哲百思不得其解，“聲音是我媽的,，我不可能聽錯(cuò),。號(hào)碼是我媽的，我不可能看錯(cuò),?！眻?bào)警后，他才從警方那里得知,，這是一種新型的詐騙方式,，詐騙團(tuán)伙利用技術(shù)合成了母親的聲音，又使用技術(shù)復(fù)制了一串和母親號(hào)碼完全一樣的虛擬號(hào)碼打來電話,，并使用技術(shù)手段在行騙期間將親屬號(hào)碼屏蔽,，讓他們切斷聯(lián)系,，從而增加騙錢的可信度。

誰在“丟臉”

“AI詐騙的背后,，還是人們的信息泄露問題,。”王潔說,，隨著人工智能時(shí)代的到來,，人的臉和聲音也成了一種可以獲取利益的信息,，很多人在不知不覺中就“丟了臉”。人臉信息作為個(gè)體生物信息,，屬于敏感個(gè)人信息,，具有直接識(shí)別性、獨(dú)特性和唯一性,，一旦泄露會(huì)令信息主體人格尊嚴(yán)受到侵害或人身財(cái)產(chǎn)安全受到傷害,，其危害性較一般個(gè)人信息泄露更為嚴(yán)重。

安徽人潘子平親身體驗(yàn)過,，僅需幾秒鐘的視頻通話,，自己的人臉信息就丟失了。

3月24日晚上,，潘子平在手機(jī)上看仙俠小說正著迷,。翻頁時(shí)，他誤觸了一旁的廣告,，一款游戲開始在手機(jī)后臺(tái)自動(dòng)下載,。下載完成后，潘子平點(diǎn)開看了看,，也是一款和仙俠有關(guān)的游戲,，他玩了一會(huì)兒覺得沒意思,，便直接卸載了。

幾秒鐘之后,，一個(gè)來自境外的電話撥了過來,，對(duì)方說已經(jīng)獲取潘子平手機(jī)里的所有信息，包括相冊(cè)和通訊錄,，要加QQ詳談,。潘子平?jīng)]想太多，便添加了好友,。剛一加上,，一個(gè)視頻聊天直接打來，對(duì)方的臉始終沒有出現(xiàn)在鏡頭前,，一個(gè)男聲簡(jiǎn)單報(bào)了幾個(gè)潘子平通訊錄的人名,，便掛斷視頻。

雖然兩個(gè)電話都沒有提到錢的事,，但潘子平心里開始有所警惕,，他立刻將錢提現(xiàn)至銀行卡，并將銀行卡與支付寶和微信解綁,。

沒幾分鐘,，一條QQ消息發(fā)來,。這次是一段視頻,，約有十幾秒，畫面里是一個(gè)赤身裸體的男子,，他頭上頂著潘子平的臉,，正在做一些不雅的動(dòng)作。潘子平驚呆了,，“現(xiàn)在的技術(shù)都已經(jīng)這么厲害了嗎,？”還來不及反應(yīng)，電話又來了,，“你給我三萬八,，否則我就把你的‘小視頻’發(fā)給你通訊錄里的所有人?！?/p>

對(duì)方還發(fā)來一張截圖,，這段視頻已經(jīng)在對(duì)話框準(zhǔn)備就緒，只要點(diǎn)擊發(fā)送,，潘子平通訊錄里的親朋好友就能收到,。視頻再次打來時(shí)，對(duì)方開啟了屏幕共享功能,，潘子平將支付寶和微信余額展示給對(duì)方,，說自己拿不出這么多錢,，雙方便從三萬八開始砍價(jià)，砍到兩萬八,、一萬八,，直至八千元，潘子平也說自己拿不出來,。之后,，對(duì)方便開始指使潘子平打開借唄等網(wǎng)貸平臺(tái)，企圖讓潘子平通過借網(wǎng)貸的方式給他們錢,。

就在轉(zhuǎn)賬前一秒,，潘子平幡然醒悟，他立刻掛斷視頻,，撥打110報(bào)警,。由于未造成實(shí)際損失，警方并未立案,。潘子平問警察,，那段利用AI技術(shù)實(shí)時(shí)換臉的淫穢視頻怎么辦？警方也無法將這段視頻銷毀,，只能告訴他,，編輯信息群發(fā)給通訊錄告知此事。

潘子平認(rèn)為,，就是那款游戲讓自己的信息泄露,，他趕緊檢查每項(xiàng)APP的手機(jī)權(quán)限，以免再次遇到“危險(xiǎn)”,。

在王潔的調(diào)研中,，不乏有人因閱覽不正規(guī)網(wǎng)站而丟失個(gè)人信息，乃至遭到詐騙,。他指出,，要采集人臉信息，對(duì)于現(xiàn)有技術(shù)而言是一件非常簡(jiǎn)單的事情,。遍地可見的攝像頭,、手機(jī)里因身份驗(yàn)證而做的面部檢測(cè)、擁有相冊(cè)讀取權(quán)限的APP等,，都在悄無聲息地獲取人臉信息,。

濟(jì)南人方楊宥遭遇的AI詐騙，對(duì)方僅和他視頻通話7秒,。來源：“濟(jì)南公安”微信公眾號(hào)

2021年,，《焦點(diǎn)訪談》曾報(bào)道，在公安部“凈網(wǎng)2021”專項(xiàng)行動(dòng)中,，合肥市公安局網(wǎng)安支隊(duì)聯(lián)手包河分局打掉一個(gè)犯罪團(tuán)伙,，該團(tuán)伙非法利用AI人工智能技術(shù),，偽造他人人臉動(dòng)態(tài)視頻，為黑灰產(chǎn)業(yè)鏈提供注冊(cè)手機(jī)卡等技術(shù)支撐,。犯罪嫌疑人電腦中有10G左右的人臉數(shù)據(jù)信息,，這些信息在網(wǎng)上轉(zhuǎn)手多次，而它們的主人對(duì)此毫不知情,。

活躍在屏幕上的明星網(wǎng)紅,，相比普通人則更易丟失臉部信息。2021年8月,，劉昊然工作室發(fā)布聲明稱,，由于網(wǎng)絡(luò)上出現(xiàn)大量用AI換臉技術(shù)對(duì)演員劉昊然進(jìn)行侮辱的視頻、視頻截圖及含有侮辱誹謗言論的聊天記錄,，上述視頻,、截圖還被不斷販?zhǔn)郏ぷ魇蚁蚓綀?bào)案,。近期,，還有商家利用AI換臉技術(shù)，將演員迪麗熱巴和楊冪的臉部特征應(yīng)用到他們的電商平臺(tái)直播間,。

擁有130萬微博粉絲的網(wǎng)紅“Caro賴賴”,，則因AI換臉技術(shù)，陷入了黃色謠言的困境,。今年4月她在微博發(fā)文稱,，她的臉被盜用在一些淫穢視頻里。有人在境外社交平臺(tái)上冒充其身份注冊(cè)了賬號(hào),，先是搬運(yùn)她的日常內(nèi)容,，等粉絲人數(shù)差不多時(shí)，就開始以會(huì)員訂閱的方式販賣這些頂著她的臉的色情視頻,。

“AI技術(shù)存在被人類濫用的情況?！比A東政法大學(xué)刑事法學(xué)研究院院長(zhǎng),、上海市法學(xué)會(huì)刑法學(xué)研究會(huì)會(huì)長(zhǎng)劉憲權(quán)認(rèn)為，如今人們已經(jīng)走入“弱人工智能時(shí)代”,，即技術(shù)仍是被人類使用的一種工具,。隨著人工智能技術(shù)的發(fā)展，侵權(quán)事件屢屢發(fā)生,，除了詐騙,、造黃謠之外，還有不少人們肖像權(quán),、知識(shí)產(chǎn)權(quán)受到侵害的案例,。

“護(hù)臉”難題

技術(shù)持續(xù)更新?lián)Q代,，大眾接觸到AI實(shí)時(shí)換臉技術(shù)的門檻日漸降低。

早在2019年,，就有一款名叫“ZAO”的AI換臉APP走紅,，用戶只需提供一張照片，就能成為影視劇中的角色,。但沒過多久,，因涉及侵犯版權(quán)、隱私等方面的問題,，這款A(yù)PP就被下架,。

“事實(shí)上AI換臉技術(shù)本身沒有問題，關(guān)鍵是使用方式,?！眲棛?quán)說，一旦技術(shù)被濫用,，就隱含了巨大的風(fēng)險(xiǎn),。于2023年1月10日施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中也提到，提供深度合成服務(wù),，應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能,，并提示深度合成服務(wù)使用者可以進(jìn)行顯著標(biāo)識(shí)。深度合成服務(wù)提供者和技術(shù)支持者提供人臉,、人聲等生物識(shí)別信息編輯功能的,，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意,。

然而AI實(shí)時(shí)換臉技術(shù),，仍在互聯(lián)網(wǎng)上悄悄販賣，這為“顯著標(biāo)識(shí)”以及“告知被編輯的個(gè)人”增加了難度,。

以“AI換臉”為關(guān)鍵詞在淘寶平臺(tái)上檢索,，并無產(chǎn)品出現(xiàn)。但若替換為“AI換頭”“AI換人臉”等相近詞語,，即可檢索到產(chǎn)品,。對(duì)照片進(jìn)行換臉的售價(jià)在35、50,、100元不等,，而視頻換臉則以分鐘計(jì)費(fèi)，收費(fèi)為一分鐘70元,、150元,、400元不等。

“可以換成任何人的臉”，店家“工程師老張”稱,，只需客戶提供原視頻和任意一張人臉照片,，就能實(shí)現(xiàn)百分之百無痕換臉。不但能與當(dāng)紅明星更換面孔,，還能讓已去世的故人在視頻中“復(fù)活”,。

“工程師老張”不僅提供AI換臉服務(wù)，還教換臉技術(shù),?！翱梢栽谖覀冞@兒買程序，自學(xué)自做”,，他宣稱自己研發(fā)了算法進(jìn)行換臉,，并將相關(guān)程序插件在淘寶平臺(tái)售賣，價(jià)值368元,。程序采用卡密激活的方式,，產(chǎn)品有效期50年，其間可以無限次使用該程序,。

若想將臉換得更加自然,，多位商家均表示，需要買家提供與原照片相近或完全相同角度的人臉照片,。不過也有一位商家表示,，只需要買家提供一張正臉的照片，他們便能做到“以假亂真”的效果,，“我們根據(jù)正臉照片自動(dòng)建模,，就可以算出另外幾個(gè)角度的樣子?！?/p>

不少商家會(huì)引導(dǎo)用戶添加微信詳談,。新京報(bào)記者加了店鋪“杰倫視頻設(shè)計(jì)站”老板的微信，截止今年7月,，該商家售賣產(chǎn)品在淘寶的月銷量顯示為23,，但在聊天過程中，對(duì)方為說服新京報(bào)記者下單,，屢次強(qiáng)調(diào)其營(yíng)業(yè)收入一個(gè)月20萬,。他還展示了自己的支付寶截圖，顯示總資產(chǎn)16萬元,。咨詢當(dāng)日下午14點(diǎn)36分，該商家表示,，當(dāng)日營(yíng)收已經(jīng)將近1000元,。

這位商家自稱是AI實(shí)時(shí)換臉領(lǐng)域的高手，發(fā)布的朋友圈均為相關(guān)案例。5月9日,，他在朋友圈發(fā)布了一條19秒的視頻,，一位女主播穿著露肩上衣和超短裙，搭配著黑色絲襪,，對(duì)著鏡頭扭動(dòng)舞蹈,，她的臉看起來和明星楊冪別無二致，唯有在低頭,、側(cè)身時(shí),，畫面看起來不太協(xié)調(diào)。

他告訴新京報(bào)記者,，普通視頻收費(fèi)為70元一分鐘,，色情視頻收費(fèi)為150元一分鐘。他展示了一張截圖,，里面均為淫穢圖像和視頻,，而后又迅速撤回。當(dāng)新京報(bào)記者詢問是否均為換臉視頻,，他回答稱,，“不要問那么多，跟你說能換就行了,，不宜多說,。”

新京報(bào)記者調(diào)查發(fā)現(xiàn),，上述商家確實(shí)在兩小時(shí)內(nèi)就能依據(jù)客戶需求,，成功制作一條一分鐘的換臉淫穢視頻，完成交易,。交談間,，他多次撤回他認(rèn)為“敏感”的信息，從未提及要告知“被編輯的個(gè)人”,，而后發(fā)來的視頻,，也無任何關(guān)于AI換臉的標(biāo)識(shí)。但該商家附帶發(fā)送一段“免責(zé)聲明”,，稱“任何圖和視頻資料禁止傳播,，任何后果與制作方無關(guān)，僅供娛樂,，本人不對(duì)圖片和視頻用途負(fù)責(zé),，不承擔(dān)任何責(zé)任風(fēng)險(xiǎn)?！?/p>

一名淘寶商家向新京報(bào)記者展示了一份截圖,，上面均為淫穢色情圖片或視頻，以此證明自己“什么視頻都能做”。記者調(diào)查截圖

除了淘寶之外,，抖音也有多款A(yù)I換臉軟件產(chǎn)品,，售價(jià)在1元至196元不等。此外,，小紅書平臺(tái)也有售賣AI換臉課程的賬號(hào),，這些賬號(hào)通過發(fā)布AI換臉視頻，配上“最近很火”“快速學(xué)會(huì)”等文案,，引導(dǎo)用戶關(guān)注和購買,。

也有的AI換臉軟件是免費(fèi)的。在抖音以“AI換臉”為關(guān)鍵詞進(jìn)行檢索,，會(huì)彈出大量相關(guān)的短視頻廣告,，下附AI換臉軟件的鏈接。在一款叫“AI隨拍”軟件的鏈接后,，各式各樣的明星,、素人短視頻浮現(xiàn)在主頁上。只需觀看25秒的廣告,，就可以用這款A(yù)PP免費(fèi)制作一個(gè)十多秒的視頻,。

“就像人們買刀一樣，難道買刀殺人之后,，怪這把刀或者賣刀的人嗎,？”北京市華城律師事務(wù)所合伙人甘仕榮指出，技術(shù)本身沒有問題,，關(guān)鍵在于使用者是否做出違法行為,，如惡意丑化，涉嫌侵犯他人的名譽(yù)權(quán),，出售換臉色情視頻,，涉嫌制作、傳播淫穢物品,，可能構(gòu)成刑事犯罪等,。只是，任意售賣這一技術(shù),，增加了違法風(fēng)險(xiǎn),，也加大了執(zhí)法監(jiān)督的難度。

怎樣保護(hù)我們的“臉”

“AI的出現(xiàn),，讓原本就易受騙的人群更容易上當(dāng)了,。”王潔說,，AI只是一個(gè)工具,，詐騙人員將其用來增強(qiáng)騙局里的可信度,，從而提高他們?cè)p騙的成功率,。隨著網(wǎng)絡(luò)成為人們生活的一部分,，AI換臉騙局不僅是侵占他人財(cái)產(chǎn)那么簡(jiǎn)單的事情了，劉憲權(quán)認(rèn)為,，這一技術(shù)若再發(fā)展下去,，詐騙方式將更加逼真和多樣，讓人們防不勝防,。

根據(jù)張振華的辦案經(jīng)驗(yàn),，目前的AI詐騙案件中，這一技術(shù)并不是“完美”的,，如果視頻通話時(shí)間長(zhǎng)一些,，或者將臉放置于復(fù)雜、不穩(wěn)定的場(chǎng)景中,，就可能露出蛛絲馬跡,。然而人們?cè)诰o急狀況下，面對(duì)熟悉面孔和聲音,，很難多次對(duì)聲畫進(jìn)行試探和觀察,。

兩位專家均表示，要針對(duì)AI侵權(quán)事件進(jìn)行維權(quán),，并非一件易事,。劉憲權(quán)指出，目前在法律層面沒有關(guān)于AI技術(shù)使用和發(fā)展過程中的相關(guān)規(guī)制,。

王潔則認(rèn)為,，當(dāng)利用AI技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙等侵權(quán)事件已經(jīng)發(fā)生，再去追究的難度太大,。他曾調(diào)研過多位反詐警察,，當(dāng)他們花費(fèi)大量時(shí)間和金錢之后，卻發(fā)現(xiàn)犯罪源頭在境外,。對(duì)于受害人而言,，也不是所有人都能付出足夠的時(shí)間、金錢和精力去追究侵權(quán)事件的責(zé)任,。

淘寶平臺(tái)上,，依然有商家對(duì)AI換臉技術(shù)進(jìn)行售賣。網(wǎng)絡(luò)截圖

潘子平的臉被盜用在黃色視頻后,，由于沒有被騙錢,，報(bào)警后沒有立案。他既找不到是誰盜用了他的臉,，也無法讓對(duì)方停止傳播,，只能編輯一條短信群發(fā)給每位好友,，提醒他們不要傳播，也不要相信視頻內(nèi)容,。

“一心只想化妝的阿蕾”是小紅書平臺(tái)上擁有兩百多萬粉絲的美妝博主,，她發(fā)布了很多國風(fēng)妝造的圖片。去年4月,，她發(fā)文自述稱其主頁視頻被盜用至換臉APP成為換臉模板,。她并不清楚是誰上傳了這些模板，“一個(gè)APP可能有幾十個(gè)甚至上百個(gè)上傳者,，這給維權(quán)增添了不少難度,。”

“我沒那個(gè)錢和精力去搞,，這不是我的原罪,。”有人在評(píng)論區(qū)提醒她維權(quán),，她無奈道,，維權(quán)首先要從起訴APP開始，定位到每位上傳者,，再起訴個(gè)人,，這樣的時(shí)間和金錢成本都很高，前后時(shí)間線拉得很長(zhǎng),，勝訴得到的賠款卻沒多少,。

“核心問題是個(gè)人信息保護(hù)?！蓖鯘嵳J(rèn)為,，詐騙事件背后都存在個(gè)人信息泄露的情況，隨著深度偽造技術(shù)不斷更新?lián)Q代,，保護(hù)人臉等個(gè)人隱私成為不可輕視的問題,。因此公安機(jī)關(guān)在查案辦案時(shí)，應(yīng)該更加關(guān)注信息泄露的渠道,，從源頭來進(jìn)行治理,。政府應(yīng)該加強(qiáng)對(duì)個(gè)人信息保護(hù)的監(jiān)管，而APP開發(fā)商運(yùn)營(yíng)商等各環(huán)節(jié)也應(yīng)該共同協(xié)力,，在人臉信息的存儲(chǔ),、讀取、使用,、清除等方面依法管理,，促進(jìn)企業(yè)個(gè)人信息保護(hù)合規(guī)自律。

人工智能技術(shù)飛速發(fā)展,，劉憲權(quán)提出應(yīng)該探討如何做到違法侵權(quán)的事前防范,。他認(rèn)為,，目前人工智能技術(shù)還未發(fā)展到成為獨(dú)立責(zé)任主體的地步，技術(shù)仍是一種被人利用的工具,，只是因其有一定的智能部分,，被不法分子利用時(shí)可能加大對(duì)社會(huì)的危害。因此,，除了完善對(duì)于新技術(shù)的相關(guān)法律法規(guī),，還應(yīng)該對(duì)于人類使用和發(fā)展該技術(shù)的過程進(jìn)行相關(guān)限制，比如某一領(lǐng)域是否準(zhǔn)入,，又有什么人可以使用相關(guān)技術(shù)等。

與人工智能技術(shù)相關(guān)的法律法規(guī)也在不斷完善,。4月11日,，國家網(wǎng)信辦發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，對(duì)提供生成式人工智能服務(wù)做出較為詳盡的規(guī)定,，其中包括準(zhǔn)入資格,、內(nèi)容生產(chǎn)者和個(gè)人信息處理者等各方責(zé)任義務(wù)和相關(guān)處罰措施等。

“我們的未來一定是會(huì)和AI共存共生長(zhǎng)的”,，王潔說,，這意味著人類也將和AI侵權(quán)事件共生共存。他認(rèn)為,，今后的立法要及時(shí)關(guān)注技術(shù)發(fā)展過程中出現(xiàn)的新現(xiàn)象和新問題,，普通網(wǎng)民要提升對(duì)網(wǎng)絡(luò)高風(fēng)險(xiǎn)的認(rèn)識(shí)，而執(zhí)法監(jiān)督部門則更應(yīng)加快技術(shù)升級(jí),，研發(fā)“反換臉”等檢測(cè)技術(shù),，利用人工智能技術(shù)提高辦案能力。

他說,，“唯有全社會(huì)各方通力合作”,，才能讓技術(shù)的應(yīng)用向善發(fā)展。

（方楊宥,、潘子平為化名）

新京報(bào)記者 汪暢 實(shí)習(xí)生 鄒冰倩

編輯 陳曉舒

校對(duì) 賈寧