擅自使用他人人臉信息,，制作換臉視頻,，不僅會(huì)侵犯他人的私益，還可能侵害公共信息安全,，危害社會(huì)公共利益,。

換臉，不是想換就換

——透視“AI換臉”侵犯?jìng)€(gè)人信息公益訴訟案

“AI換臉”,，相信大家都不陌生，只需要一張照片,，通過(guò)深度合成技術(shù),，任何人都能成為熱播影視作品中的主角,，甚至表情、神態(tài)都足以以假亂真,。然而,，近年來(lái),，伴隨著技術(shù)門(mén)檻的降低和應(yīng)用場(chǎng)景的增多,，“換臉技術(shù)”的應(yīng)用早已突破原來(lái)的娛樂(lè)范圍,，甚至成為不法分子牟利的手段,。

今年6月,，浙江省杭州市蕭山區(qū)檢察院對(duì)一起利用“AI換臉”技術(shù)侵犯公民個(gè)人信息案依法提起民事公益訴訟,。圖為庭審現(xiàn)場(chǎng),。

今年6月,，浙江省杭州市蕭山區(qū)檢察院對(duì)一起利用“AI換臉”技術(shù)侵犯公民個(gè)人信息案依法提起民事公益訴訟,。8月4日,，杭州互聯(lián)網(wǎng)法院經(jīng)過(guò)審理后依法對(duì)該案作出判決,，支持檢察機(jī)關(guān)作為公益訴訟起訴人的全部訴訟請(qǐng)求：判令被告虞某立即停止侵權(quán)，刪除其在社交軟件群組中留存的所有涉案?jìng)€(gè)人信息,；在國(guó)家級(jí)媒體上刊發(fā)向社會(huì)公眾賠禮道歉的聲明,，以消除影響、進(jìn)行警示并支付侵害社會(huì)公共利益的損害賠償款6萬(wàn)元,。8月22日,，這一判決正式生效,。

“換臉,，不能隨心就換,！我們希望通過(guò)該案的辦理提醒社會(huì)公眾,，在使用新興技術(shù)時(shí),，不能忘記法律的規(guī)制和道德倫理的約束，這是所有技術(shù)發(fā)展應(yīng)有的邊界?！背修k該案的杭州市蕭山區(qū)檢察院檢委會(huì)專職委員章蕾告訴記者,。

僅憑幾張照片

任何人都可能成為受害者

“真是后悔莫及??！”對(duì)于現(xiàn)年36歲的虞某來(lái)說(shuō)，當(dāng)初對(duì)“換臉”的好奇換來(lái)的除了刑罰,，還要承擔(dān)相應(yīng)的民事責(zé)任。

“想換誰(shuí)的臉就換誰(shuí)的臉,，好玩,、刺激！”2020年過(guò)年前后,，虞某第一次從互聯(lián)網(wǎng)上接觸到“AI換臉”技術(shù)時(shí),，十分好奇，莫名的興奮,。隨后,，虞某便從網(wǎng)上下載了換臉軟件并熟練掌握了相關(guān)視頻合成的技術(shù),。在使用這項(xiàng)技術(shù)時(shí)，虞某發(fā)現(xiàn)了其中的“商機(jī)”：利用“AI換臉”軟件,，制作生成虛假的換臉淫穢視頻,，在網(wǎng)絡(luò)社交軟件上進(jìn)行傳播，能夠吸引較多關(guān)注,。從2021年6月開(kāi)始,，虞某以牟利為目的，在未取得被編輯人同意的情況下,，利用上述“AI換臉”軟件,，將從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進(jìn)行替換合成，制作生成虛假的換臉視頻,，在網(wǎng)絡(luò)社交軟件上進(jìn)行傳播,。與此同時(shí)，虞某還在社交軟件上創(chuàng)建了多個(gè)群組為他人提供換臉視頻定制服務(wù),，根據(jù)客戶提供的視頻或照片,，制作換臉視頻。此外,，虞某在網(wǎng)絡(luò)社交軟件上銷售“AI換臉”軟件,、提供換臉?biāo)夭牟魇谑褂媒坛獭?/p>

“讓一切遮擋消失！手機(jī)就可操作,，明星網(wǎng)紅素人都可,，30秒內(nèi)出結(jié)果！購(gòu)買(mǎi)軟件私信聯(lián)系,！”“只要是能看到臉的都能換,！”“請(qǐng)問(wèn)有提供定制換臉視頻嗎？想把我暗戀的女生換上,。如何收費(fèi),？”“沒(méi)問(wèn)題，費(fèi)用……通過(guò)口令紅包發(fā)我,！”……一段時(shí)間,，在虞某的社交軟件群組內(nèi)熱鬧非凡，生意紅火,?？诹罴t包收了200余次，總金額共計(jì)6萬(wàn)余元,。2022年8月,，公安機(jī)關(guān)發(fā)現(xiàn)了虞某在網(wǎng)上制作、傳播淫穢物品牟利的犯罪行為,，依法對(duì)其立案?jìng)刹椤?022年11月,，虞某被移送蕭山區(qū)檢察院審查起訴。今年3月28日,，該院依法對(duì)虞某以涉嫌制作,、傳播淫穢物品牟利罪提起公訴。

“引起我們注意的是,，虞某在傳播淫穢物品牟利的同時(shí),，還會(huì)為他人提供換臉視頻‘定制’服務(wù)，并傳授換臉軟件的使用方法?！痹趨⑴c虞某刑事案件的討論時(shí),，兼任該院公益訴訟檢察部門(mén)負(fù)責(zé)人的章蕾了解到，虞某會(huì)根據(jù)客戶提供的視頻或照片,，制作,、生成特定的換臉視頻。除此之外,，虞某還會(huì)在網(wǎng)絡(luò)社交軟件上直接銷售“AI換臉”軟件,，傳授客戶使用軟件的方法并且提供相應(yīng)的素材。而客戶要求“定制”換臉的對(duì)象不僅包括一些我們熟知的公眾人物,，也有生活中的普通人,。

“僅憑幾張照片，任何人都可能成為受害者,?！闭吕僬f(shuō)，近年來(lái),，濫用“AI換臉”技術(shù)實(shí)施各類侵犯?jìng)€(gè)人信息的行為并不鮮見(jiàn),，僅憑一張換臉照片或者一段換臉視頻，或編造新聞,、炒作熱點(diǎn),，或侮辱誹謗,、實(shí)施勒索詐騙,，“該類行為在網(wǎng)絡(luò)傳播的疊加下，危害結(jié)果會(huì)產(chǎn)生裂變,，對(duì)被侵權(quán)人造成的傷害往往是長(zhǎng)久的,、持續(xù)的、難以彌補(bǔ)的,?！?/p>

要捍衛(wèi)隱藏在私益背后的公益

擅自使用他人人臉信息，制作換臉視頻,，侵犯的到底是被害人的私益,，還是公共利益？“要看到隱藏在每一個(gè)被害人的個(gè)人權(quán)益的背后,，是網(wǎng)絡(luò)正常的公共秩序,，是承載在不特定多數(shù)社會(huì)主體個(gè)人之上的公共利益?！庇懻撨@一案件時(shí),，章蕾說(shuō)。

從女子地鐵照被“一鍵脫衣”到該案中普通人的形象被嫁接到淫穢視頻中，“AI換臉”技術(shù)的濫用,，看似是對(duì)被侵害的個(gè)人的人格權(quán),、肖像權(quán)、名譽(yù)權(quán),、隱私權(quán)的侵害,，實(shí)際上更是對(duì)社會(huì)公序良俗的踐踏，是對(duì)穩(wěn)定的社會(huì)環(huán)境和清朗的網(wǎng)絡(luò)空間的挑戰(zhàn),。

該案中,，虞某作為“AI換臉”技術(shù)的使用者，不僅在互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息,，利用深度合成技術(shù)非法處理后,，制作淫穢視頻在超過(guò)2000人的網(wǎng)絡(luò)社交軟件群組中進(jìn)行傳播，違反了法律法規(guī)和社會(huì)公德,，侵害了公共信息安全,，破壞社會(huì)公共秩序，還在明知他人可能將“AI換臉”軟件用于侵犯?jìng)€(gè)人信息等不正當(dāng)目的的情況下,，向他人銷售“AI換臉”軟件,、提供換臉?biāo)夭牟魇谑褂媒坛蹋瑐鞑デ址腹駛€(gè)人信息的方法和手段,，使得更多不特定主體個(gè)人信息被侵害的社會(huì)危險(xiǎn)性進(jìn)一步擴(kuò)大,。“因此在依法追究其刑事責(zé)任外,，我們認(rèn)為有必要提起民事公益訴訟對(duì)該類侵犯公民個(gè)人信息的行為予以規(guī)制,。”

經(jīng)過(guò)討論,，大家一致認(rèn)為有必要提起公益訴訟,。隨后，該院又向杭州市檢察院作了匯報(bào)并獲得了支持,。

“其實(shí),，個(gè)人信息被泄露的危害，我們或多或少都有體會(huì),。不堪其擾的推銷電話,、未經(jīng)同意的數(shù)據(jù)收集、精準(zhǔn)實(shí)施的網(wǎng)絡(luò)詐騙等等,，個(gè)人信息一旦被過(guò)度收集,、泄露和非法利用，造成的危害難以估量,。而人臉信息作為其中具有高度識(shí)別性和強(qiáng)關(guān)聯(lián)性的敏感個(gè)人信息,，更應(yīng)當(dāng)是法律重點(diǎn)保護(hù)的對(duì)象,。”杭州市檢察院第八檢察部主任畢克來(lái)聽(tīng)取匯報(bào)后表示,。

今年4月14日,，蕭山區(qū)檢察院決定對(duì)虞某“AI換臉”侵犯?jìng)€(gè)人信息公益訴訟案立案，當(dāng)日履行公告程序,，公告期滿,，無(wú)適格主體提起訴訟。6月9日,，該院依法對(duì)虞某提起民事公益訴訟,。6月12日，杭州互聯(lián)網(wǎng)法院正式立案,。

技術(shù)本無(wú)善惡

但技術(shù)的使用需要規(guī)制

7月28日,，該案在杭州互聯(lián)網(wǎng)法院一審公開(kāi)審理。

庭審中,，蕭山區(qū)檢察院作為公益訴訟起訴人派章蕾出庭,。檢察機(jī)關(guān)結(jié)合案件事實(shí)、危害后果,、法律責(zé)任等對(duì)被告虞某進(jìn)行法庭教育,，虞某通過(guò)其訴訟代理人表示真誠(chéng)悔過(guò)，并表達(dá)了履行賠償?shù)囊庀颉?/p>

庭審過(guò)程中,，章蕾在法庭上發(fā)表的一段話令人印象深刻：“技術(shù)本身是中立無(wú)害的,，只是技術(shù)中立并不意味著價(jià)值中立，特別是開(kāi)發(fā),、應(yīng)用者的價(jià)值中立,，更不等于‘深度合成’的參與者不應(yīng)當(dāng)受到來(lái)自法律的規(guī)制、道德倫理的約束,?！?/p>

經(jīng)過(guò)審理,，法院認(rèn)定,，虞某對(duì)于人臉深度合成技術(shù)的濫用行為損害了社會(huì)公共利益，依法判決其承擔(dān)停止侵害,、賠償損失,、賠禮道歉的民事責(zé)任。被告虞某服從法院判決,，現(xiàn)判決已生效,。虞某已履行道歉及賠償義務(wù)。賠償金額將專門(mén)用于個(gè)人信息保護(hù),、人臉深度合成技術(shù)不當(dāng)應(yīng)用的治理等公益事項(xiàng),。

“技術(shù)的運(yùn)用是把雙刃劍，用之為善可以造福社會(huì)，不當(dāng)濫用則會(huì)造成社會(huì)風(fēng)險(xiǎn)和損害,。對(duì)于換臉軟件等深度合成技術(shù)應(yīng)用的規(guī)制應(yīng)當(dāng)從其參與者入手,，包括發(fā)明者、應(yīng)用者,、傳播者等方面,，以規(guī)制深度合成技術(shù)使用目的為路徑，實(shí)現(xiàn)深度合成技術(shù)的合理使用,，避免該技術(shù)對(duì)個(gè)人,、社會(huì)、國(guó)家造成諸多方面的風(fēng)險(xiǎn),。同時(shí),，也需要引導(dǎo)技術(shù)開(kāi)發(fā)、應(yīng)用者自覺(jué)遵守法律規(guī)定和科技倫理道德,，培育積極健康,、向上向善的研發(fā)、應(yīng)用環(huán)境,，保護(hù)和鼓勵(lì)新興智能技術(shù)的有益探索,。”承辦此案的法官肖芄在該案宣判后說(shuō),。

記者注意到,，今年1月，國(guó)家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部,、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式實(shí)施，為深度合成服務(wù)劃定了“底線”和“紅線”,，強(qiáng)調(diào)不得利用深度合成服務(wù)從事法律,、行政法規(guī)禁止的活動(dòng)，要求深度合成服務(wù)提供者要落實(shí)信息安全主體責(zé)任,。

8月15日,，國(guó)家網(wǎng)信辦聯(lián)合多部門(mén)公布的《生成式人工智能服務(wù)管理暫行辦法》正式施行，對(duì)生成式人工智能產(chǎn)業(yè)作出了較為詳盡的規(guī)定?！暗诜梢?guī)定不斷完善的同時(shí)，技術(shù)的迭代也在不斷加速,，如何克服法律對(duì)技術(shù)規(guī)制的天然滯后性,，如何應(yīng)對(duì)技術(shù)發(fā)展過(guò)程中的新現(xiàn)象、新問(wèn)題,，是監(jiān)管部門(mén)和司法機(jī)關(guān)共同需要面對(duì)的新難題,。”審判長(zhǎng)、杭州互聯(lián)網(wǎng)法院常務(wù)副院長(zhǎng)朱敏明表示,。

“在辦理該案的過(guò)程中，我們也深刻地體會(huì)到,，技術(shù)的迭代背后,，‘侵權(quán)易’‘維權(quán)難’的矛盾更為突出,?！闭吕僬f(shuō),，以往在司法實(shí)踐中,，關(guān)于公民個(gè)人提起的保護(hù)個(gè)人信息之訴少之又少，其中維權(quán)成本高,、專業(yè)性強(qiáng),、舉證困難是主要原因。以本案為例,，如何證明人臉信息侵權(quán)事實(shí)的存在,，可能需要對(duì)信息處理者,、處理方式,、信息獲取,、信息處理加工是否違法等進(jìn)行舉證,，而上述證據(jù)普通的公眾很難僅憑自身力量完成初步舉證,，即便是司法機(jī)關(guān)，在調(diào)查取證的過(guò)程中也耗費(fèi)了大量的時(shí)間和精力。而公民個(gè)人遇到該情況往往會(huì)基于無(wú)奈,，放棄以訴訟方式維權(quán),，這將會(huì)間接導(dǎo)致對(duì)侵權(quán)行為肆意侵害公共利益的放任,，使技術(shù)違法行為始終游走在法律底線之外。

據(jù)悉,，今年6月,，在最高檢第八檢察廳的直接指導(dǎo)和推動(dòng)下，杭州互聯(lián)網(wǎng)法院與杭州市余杭區(qū)檢察院會(huì)簽《關(guān)于推進(jìn)互聯(lián)網(wǎng)檢察公益訴訟案件辦理的協(xié)作辦法（試行）》,，旨在通過(guò)探索互聯(lián)網(wǎng)檢察公益訴訟新型辦案模式,，攜手蹚出一條網(wǎng)絡(luò)空間司法協(xié)同治理的新路。

各方聲音

深入推進(jìn)互聯(lián)網(wǎng)檢察公益訴訟

全國(guó)人大代表

浙江省檢察公益訴訟形象大使

浙江省永康市陽(yáng)光愛(ài)心義工協(xié)會(huì)

名譽(yù)會(huì)長(zhǎng) 黃美媚

檢察機(jī)關(guān)作為公共利益的代表,，針對(duì)該類關(guān)于民生,、關(guān)于普通群眾切身利益的問(wèn)題，更要立足檢察職能,，依法能動(dòng)履職,，沖破私益保護(hù)的局限性，更好地破解司法實(shí)踐當(dāng)中的困難,，以司法實(shí)踐來(lái)提升公眾對(duì)國(guó)家法治,、個(gè)人安全、社會(huì)治理的信心,?；ヂ?lián)網(wǎng)檢察公益訴訟已成為依法治網(wǎng)體系建設(shè)的重要內(nèi)容，深入推進(jìn)互聯(lián)網(wǎng)檢察公益訴訟的時(shí)機(jī)已經(jīng)成熟,。建議推動(dòng)在互聯(lián)網(wǎng)相關(guān)領(lǐng)域立法中增設(shè)檢察公益訴訟條款,。

推動(dòng)實(shí)現(xiàn)“善治”與“善智”的雙贏

浙江理工大學(xué)數(shù)據(jù)法治研究院副院長(zhǎng)

數(shù)據(jù)法學(xué)創(chuàng)新團(tuán)隊(duì)負(fù)責(zé)人 郭兵

我一直關(guān)注人臉信息安全，也關(guān)注著該案的辦理進(jìn)展,。一方面,，人臉信息如果被隨意收集、存儲(chǔ),、使用,，勢(shì)必會(huì)給個(gè)人帶來(lái)嚴(yán)重的安全風(fēng)險(xiǎn)，進(jìn)而造成網(wǎng)絡(luò)空間的失序,，任何個(gè)人都可能成為人臉信息濫用的受害者,，身處網(wǎng)絡(luò)空間的每一個(gè)人都將難以獲得安全感，這對(duì)正常的網(wǎng)絡(luò)秩序無(wú)疑具有極大的破壞力；另一方面,，隨著人臉識(shí)別技術(shù)在我們的日常生活中被越來(lái)越廣泛地使用,，類似“AI換臉”的技術(shù)應(yīng)用也層出不窮，不法分子可以非常便利地通過(guò)“AI換臉”技術(shù)實(shí)施電信網(wǎng)絡(luò)詐騙,、敲詐勒索等違法犯罪活動(dòng),，對(duì)公眾的人身、財(cái)產(chǎn)安全具有極大危害,。通過(guò)引導(dǎo)和規(guī)范新技術(shù)應(yīng)用,，強(qiáng)化源頭治理，加強(qiáng)包括人臉信息在內(nèi)的公民個(gè)人信息保護(hù),，既需要以檢察履職推動(dòng)實(shí)現(xiàn)“善治”與“善智”的雙贏,，更需要各方合力共治。

深化“AI換臉”系統(tǒng)治理源頭治理

最高人民檢察院第八檢察廳副廳長(zhǎng)

邱景輝

針對(duì)利用生成式人工智能技術(shù)生成淫穢色情,、虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容，危害他人身心健康,，侵害他人肖像權(quán),、名譽(yù)權(quán)、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益的犯罪行為,，杭州檢察機(jī)關(guān)協(xié)同公安機(jī)關(guān)、審判機(jī)關(guān),，在進(jìn)行刑事追訴的基礎(chǔ)上,，通過(guò)民事公益訴訟以“訴”的確認(rèn)體現(xiàn)司法價(jià)值引領(lǐng)，與今年8月15日起實(shí)施的《生成式人工智能服務(wù)管理暫行辦法》同向發(fā)力,，彰顯了國(guó)家為了促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民,、法人和其他組織的合法權(quán)益,，進(jìn)一步加大執(zhí)法司法力度的信心和決心。

本案的啟示還在于,，結(jié)合反電信網(wǎng)絡(luò)詐騙工作,，對(duì)于利用生成式人工智能技術(shù)向公眾提供生成圖片、視頻等內(nèi)容的服務(wù)中出現(xiàn)的公益損害違法行為,，檢察機(jī)關(guān)可以協(xié)同公安機(jī)關(guān)和行政監(jiān)管部門(mén),，對(duì)境內(nèi)用戶量大、問(wèn)題隱患突出的即時(shí)通訊,、網(wǎng)絡(luò)直播,、網(wǎng)絡(luò)社交、電商平臺(tái)、金融支付等重點(diǎn)App加強(qiáng)治理,，及時(shí)發(fā)現(xiàn)人臉識(shí)別驗(yàn)證系統(tǒng)存在的風(fēng)險(xiǎn)隱患,，督促服務(wù)提供者按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》進(jìn)行查糾整改，督促服務(wù)提供者嚴(yán)格履行法律責(zé)任,。同時(shí),，依據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)于《境內(nèi)深度合成服務(wù)算法備案清單（2023年6月）》中列明的應(yīng)用于人臉圖像,、視頻生成場(chǎng)景,，將用戶上傳的照片與特定形象進(jìn)行面部融合,，生成融合后的人臉圖像,、視頻等主要用途的算法，檢察機(jī)關(guān)可以會(huì)同相關(guān)職能部門(mén)強(qiáng)化對(duì)技術(shù)支持者的監(jiān)督,，積極探索算法監(jiān)督檢察公益訴訟,，深化“AI換臉”問(wèn)題的系統(tǒng)治理、源頭治理,。（檢察日?qǐng)?bào)）