“AI換臉”相信大家都不陌生,。只需要一張照片,，通過(guò)人工智能深度合成技術(shù)，任何人都能成為視頻中的主人公,，甚至連表情和動(dòng)作都能以假亂真,。然而，不少人利用這項(xiàng)技術(shù)實(shí)施違法犯罪行為,。2020年,，浙江杭州的虞某接觸了“AI換臉”軟件。為吸引流量,，他利用該軟件制作大量淫穢視頻并傳播,，被換臉的有不少是女明星。虞某聲稱(chēng),，“只要能看到臉的都能換,。”有人甚至要定制暗戀女生的換臉視頻,。最終,，虞某犯制作、傳播淫穢物品牟利罪,，被判有期徒刑七年三個(gè)月,，并處罰金6萬(wàn)元。“AI換臉”偽造女明星涉黃視頻2022年8月,，杭州市蕭山警方在網(wǎng)上巡查中獲取一條線(xiàn)索，轄區(qū)內(nèi)有人利用AI技術(shù)制作淫穢視頻在網(wǎng)上進(jìn)行大量傳播,，警方依法對(duì)此立案?jìng)刹?，并迅速抓獲了犯罪嫌疑人虞某，隨后該案被移送至杭州市蕭山區(qū)人民檢察院審查起訴,。杭州市蕭山區(qū)人民檢察院檢察委員會(huì)專(zhuān)職委員章蕾：虞某通過(guò)在互聯(lián)網(wǎng)上發(fā)現(xiàn)了有一個(gè)AI換臉的技術(shù)軟件，他自己通過(guò)學(xué)習(xí)這個(gè)軟件,，掌握了使用技能,，從此開(kāi)始利用AI換臉的技術(shù)去牟利。檢察機(jī)關(guān)調(diào)查發(fā)現(xiàn),，虞某從2020年開(kāi)始接觸“AI換臉”軟件,，起初，他想通過(guò)在網(wǎng)上推廣該項(xiàng)技術(shù)以及相關(guān)的軟件來(lái)獲利,，但是,，一段時(shí)間過(guò)后關(guān)注他的人卻很少，一次偶然的機(jī)會(huì),，虞某看到有人在社交群組中發(fā)布淫穢信息來(lái)吸引他人關(guān)注,，于是他也動(dòng)起了類(lèi)似念頭。杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理陳禹堯：他可能發(fā)現(xiàn)僅僅通過(guò)販賣(mài)軟件的方式,，可能很難獲取到一般人的關(guān)注。因?yàn)樗诰W(wǎng)絡(luò)上看到有一些網(wǎng)絡(luò)群組在傳播一些淫穢色情視頻,，他就想到說(shuō)通過(guò)換臉軟件制作一些淫穢色情視頻,，然后先放在互聯(lián)網(wǎng)群組上，從而吸引流量,，吸引大家來(lái)關(guān)注這個(gè)軟件或者換臉視頻,。據(jù)虞某供述,，為了吸引更多的關(guān)注和流量,，他在社交軟件上創(chuàng)建了“瀏覽群”和“私人定制群”，“瀏覽群”主要用來(lái)傳播“AI換臉”的淫穢視頻吸引,、招攬觀看者,，其中包括一些經(jīng)過(guò)虞某換臉的視頻，當(dāng)有人提出“定制換臉”的需求,，虞某會(huì)將這些人引入所謂“私人定制群”,。杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理陳禹堯：通過(guò)收取入（瀏覽）群費(fèi)用的方式,，一個(gè)198元、298元或者398元,。另外一個(gè)就是虞某還提供人臉視頻定制服務(wù),，相當(dāng)于客戶(hù)如果需要定制一個(gè)換臉的視頻，他可以根據(jù)時(shí)長(zhǎng),，根據(jù)視頻的難度大小收取相應(yīng)的費(fèi)用,。據(jù)蕭山檢察，截至案發(fā),，公安機(jī)關(guān)共在虞某某所組建的公開(kāi)群內(nèi)查獲淫穢視頻1200余部,、圖片1600余張。私人定制→“只要能看到臉的都能換”據(jù)檢察機(jī)關(guān)調(diào)查,，虞某一邊通過(guò)傳播換臉的淫穢視頻來(lái)“吸粉引流”,，同時(shí)又通過(guò)出售“AI換臉”軟件和提供所謂“AI換臉”的私人定制服務(wù)，在不到半年的時(shí)間里就獲利數(shù)萬(wàn)元,。而被“AI換臉”侵害人臉敏感信息的受害者，不僅包括多位知名公眾人物,，還有很多不特定的普通人,。據(jù)檢察機(jī)關(guān)調(diào)查，虞某根據(jù)“AI換臉”視頻的長(zhǎng)度,、清晰度等難易條件,，按照5分鐘300元、10分鐘500元等標(biāo)準(zhǔn)來(lái)收取定制的費(fèi)用,。虞某聲稱(chēng),，“只要能看到臉的都能換”。杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理陳禹堯：首先這個(gè)價(jià)格也是他自己定的,，再一個(gè)初級(jí)、中級(jí),、高級(jí),，可能在這個(gè)視頻最后完成換臉的效果上有一定的區(qū)別。有些人可能一開(kāi)始購(gòu)買(mǎi)了初級(jí)的教程,，初級(jí)的一些素材和材料,，發(fā)現(xiàn)最后達(dá)到的效果不能達(dá)到他所期望的效果，那么有可能會(huì)繼續(xù)付費(fèi)去購(gòu)買(mǎi)一些高級(jí)的視頻,，包括高級(jí)教程,。杭州市蕭山區(qū)人民檢察院檢察委員會(huì)專(zhuān)職委員章蕾：他通過(guò)VIP定制,，就是客戶(hù)提要求“我今天想要把臉換成是誰(shuí)的臉,，你幫我定制一下，我支付相應(yīng)的報(bào)酬”,，通過(guò)這樣牟利的方式,。“定制”換臉對(duì)象既有公眾人物也有普通人據(jù)檢察機(jī)關(guān)了解,，虞某的客戶(hù)要求“定制”換臉的對(duì)象不僅包括一些知名的公眾人物，也有生活中的普通人,，其中就有人提出想要定制自己暗戀女生的換臉視頻,，而對(duì)于這些未經(jīng)同意就擅自侵犯他人敏感信息的違法行為，虞某也是來(lái)者不拒。另外,，虞某除了進(jìn)行定制化的換臉?lè)?wù)，還將“AI換臉”軟件分為初級(jí),、中級(jí)和高級(jí)三個(gè)等級(jí)進(jìn)行銷(xiāo)售并傳授使用教程,，同時(shí)還提供網(wǎng)上非法收集的他人人臉?biāo)夭摹：贾菔惺捝絽^(qū)人民檢察院第七檢察部檢察官助理陳禹堯：這個(gè)軟件的入門(mén)的門(mén)檻其實(shí)是比較低的,，它的操作相當(dāng)于通過(guò)一些已經(jīng)設(shè)定好了的運(yùn)行的程序和代碼,，相當(dāng)于我只要按照你的步驟，把需要進(jìn)行換臉的視頻放在它規(guī)定的一個(gè)文件夾里,，或者是按照步驟來(lái)進(jìn)行操作,，它自動(dòng)對(duì)你所要替換的人臉視頻里面的人臉信息，或者照片里的信息是自動(dòng)提取,，自動(dòng)建立學(xué)習(xí)模型進(jìn)行學(xué)習(xí),，然后下一步是自動(dòng)進(jìn)行合成的。據(jù)檢察機(jī)關(guān)收集的證據(jù)顯示,，虞某創(chuàng)建的眾多社交群組中，最少的成員95人,，最多的成員達(dá)2053人,，通過(guò)銷(xiāo)售換臉淫穢視頻以及定制換臉淫穢視頻等違法行為，虞某先后收取口令紅包200余次,，總金額共計(jì)6萬(wàn)余元,。除追究刑責(zé)檢察機(jī)關(guān)還提起民事公益訴訟檢察機(jī)關(guān)認(rèn)為，作為“AI換臉”技術(shù)的使用者,，虞某通過(guò)傳播侵犯公民個(gè)人信息的方法和手段,，使得更多“不特定主體”個(gè)人信息被侵害的社會(huì)危險(xiǎn)性進(jìn)一步擴(kuò)大。因此,，杭州市蕭山區(qū)人民檢察院在依法追究虞某刑事責(zé)任外,，同時(shí)還提起民事公益訴訟。2023年7月,，杭州互聯(lián)網(wǎng)法院對(duì)這起公益訴訟案進(jìn)行審理,，這也是我國(guó)首例關(guān)于“AI換臉”侵犯公民個(gè)人信息公益訴訟案的審理判決。2023年4月14日,，杭州蕭山區(qū)人民檢察院決定對(duì)虞某“AI換臉”侵犯公民個(gè)人信息公益訴訟案立案,，當(dāng)日履行公告程序，公告期滿(mǎn),，無(wú)適格主體提起訴訟,。6月9日,，檢察機(jī)關(guān)依法對(duì)虞某提起民事公益訴訟。7月28日,，該案在杭州互聯(lián)網(wǎng)法院一審公開(kāi)審理,。在庭審中,，檢察機(jī)關(guān)出示了虞某侵犯公民個(gè)人信息,、損害社會(huì)公共利益的詳細(xì)證據(jù)，包括公安機(jī)關(guān)對(duì)虞某所作的訊問(wèn),、詢(xún)問(wèn)筆錄,、勘驗(yàn)記錄、檢查記錄,、鑒定意見(jiàn)，以及淫穢視頻1200多部,、圖片1600多張等電子數(shù)據(jù),。杭州互聯(lián)網(wǎng)法院互聯(lián)網(wǎng)審判第一庭庭長(zhǎng)肖芄：過(guò)去我們常常認(rèn)為眼見(jiàn)為實(shí),，耳聽(tīng)為實(shí),，但是隨著深度合成技術(shù)以及新技術(shù)的運(yùn)用，我們眼見(jiàn)也不一定為實(shí),，新技術(shù)的不當(dāng)應(yīng)用或者是一種濫用,，實(shí)際上沖擊了我們社會(huì)公眾主體相互之間的信任關(guān)系，特別是在互聯(lián)網(wǎng)空間這樣一種建立起來(lái)的信任關(guān)系,。那么對(duì)于這種信任關(guān)系,、社會(huì)關(guān)系的一種侵害，其實(shí)本身也是對(duì)社會(huì)秩序的一種損害,。杭州互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)為，虞某利用“AI換臉”技術(shù)侵犯公民個(gè)人信息的違法事實(shí)確鑿,，因此支持檢察機(jī)關(guān)作為公益訴訟起訴人的全部訴訟請(qǐng)求：判令被告虞某刪除非法獲取的個(gè)人信息,，公開(kāi)賠禮道歉、消除影響并賠償損失共60000元,，這些款項(xiàng)將專(zhuān)門(mén)用于個(gè)人信息保護(hù),、人臉深度合成技術(shù)不當(dāng)應(yīng)用的治理等公益事項(xiàng)。杭州互聯(lián)網(wǎng)法院常務(wù)副院長(zhǎng)朱敏明：任何一項(xiàng)新技術(shù),，首先這個(gè)技術(shù)它總是有中立性的，那么在技術(shù)本身我們是持接納支持的這種態(tài)度,，但是技術(shù)開(kāi)發(fā)應(yīng)用的目的,，它必須是有利于全人類(lèi)的公益，不能是為了這個(gè)技術(shù)，用于個(gè)人的非法牟利,，然后侵犯其他公民,、集體、國(guó)家,、社會(huì)的合法權(quán)益,，一旦越界了就要承擔(dān)相應(yīng)的責(zé)任。那么這個(gè)案子中因?yàn)橛蓹z察院來(lái)提起公益訴訟,，然后法院來(lái)依法審判,，充分發(fā)揮審判司法職能對(duì)新技術(shù)的規(guī)范。技術(shù)無(wú)善惡但有邊界須在法律規(guī)制內(nèi)使用2023年11月,，杭州市蕭山區(qū)人民法院判決被告人虞某犯制作,、傳播淫穢物品牟利罪，判處有期徒刑七年三個(gè)月,，并處罰金6萬(wàn)元,。“僅憑幾張照片,，任何人都可能成為受害者,。”從網(wǎng)絡(luò)主播換臉女明星直播帶貨,，再到換臉被嫁接到淫穢視頻中,，濫用“AI換臉”技術(shù)實(shí)施各類(lèi)侵犯?jìng)€(gè)人信息的行為時(shí)有發(fā)生，甚至在灰色領(lǐng)域甚至違法犯罪領(lǐng)域?yàn)E用,。那么,，“AI換臉”技術(shù)的法律邊界在哪里，又該如何規(guī)范和治理呢,？杭州互聯(lián)網(wǎng)法院互聯(lián)網(wǎng)審判第一庭庭長(zhǎng)肖芄：我們國(guó)家的民法典對(duì)于侵害他人,，通過(guò)深度偽造方式侵害他人人身權(quán)益是有明確的規(guī)定的，禁止通過(guò)深度合成的方式去侵害公民的人身財(cái)產(chǎn)權(quán)益,，這是民法典的規(guī)定,。隨著技術(shù)的發(fā)展，個(gè)人信息保護(hù)法對(duì)于深度合成也有相關(guān)的規(guī)定,，因?yàn)椴还苁敲娌康囊粋€(gè)替換還是聲音的替換,，它實(shí)際上都需要收集公民的個(gè)人信息，那么這些都是屬于個(gè)人信息保護(hù)法特別保護(hù)的敏感的生物識(shí)別信息,。我國(guó)目前除了“民法典”“個(gè)人信息保護(hù)法”，2023年正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》中也明確規(guī)定,，強(qiáng)調(diào)使用者不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng),，要求深度合成服務(wù)提供者要落實(shí)信息安全主體責(zé)任,。注意！“AI換臉”用來(lái)搞笑也存法律風(fēng)險(xiǎn)法官認(rèn)為,，“AI換臉”技術(shù)即便只是用來(lái)搞笑或者制作惡搞照片,，也有可能涉及侵犯肖像權(quán),、名譽(yù)權(quán),，造成嚴(yán)重后果的，還可能構(gòu)成侮辱罪或者誹謗罪,。而“AI換臉”技術(shù)的濫用,，看似是對(duì)被侵害的個(gè)人的人格權(quán)、肖像權(quán),、名譽(yù)權(quán),、隱私權(quán)的侵害，實(shí)際上更是對(duì)社會(huì)公序良俗的踐踏,，是對(duì)穩(wěn)定的社會(huì)環(huán)境和清朗的網(wǎng)絡(luò)空間的挑戰(zhàn),。杭州互聯(lián)網(wǎng)法院常務(wù)副院長(zhǎng)朱敏明：一項(xiàng)新技術(shù)的產(chǎn)生往往專(zhuān)門(mén)針對(duì)這項(xiàng)新技術(shù)的法律法規(guī)會(huì)有所滯后,，但是總的來(lái)說(shuō)我們現(xiàn)在國(guó)家整個(gè)的法治體系已經(jīng)相當(dāng)完善,，每個(gè)人你哪些行為是可以做的，哪些行為是不可以做的,，它的原則性規(guī)定都是已經(jīng)比較健全了,。我想正常人都是能夠判斷得出來(lái)的，你去運(yùn)用這項(xiàng)新技術(shù),，你的目的是有益于整個(gè)人類(lèi),，有利于就是人民生活水平的提升,，福祉的提升，還是說(shuō)為了個(gè)人謀取不當(dāng)?shù)睦?。那么我就想把握好這個(gè)界限,，這些新技術(shù)都是能夠?yàn)槲覀兠篮蒙罘?wù)的。綜合：錢(qián)江視頻,、央視新聞,、蕭山檢察來(lái)源：小強(qiáng)熱線(xiàn)浙江教科