美國(guó)知名歌手泰勒·斯威夫特再度成為了AI深度偽造的受害者,，近日,，大量由人工智能生成的泰勒虛假色情,、血腥照片在多個(gè)社交平臺(tái)瘋傳，瀏覽量已超過(guò)千萬(wàn),，引發(fā)社交媒體震動(dòng),，這也引發(fā)了美國(guó)白宮的注意。深度偽造的“泰勒·斯威夫特”在網(wǎng)上瘋傳泰勒?qǐng)F(tuán)隊(duì)或?qū)⑵鹪V相關(guān)網(wǎng)站據(jù)報(bào)道1月26日,，白宮發(fā)言人皮埃爾在記者會(huì)上回應(yīng)了這一事件，并表示：“我們對(duì)這種圖片的流傳感到震驚,。雖然社交媒體公司在內(nèi)容管理方面作出了自己的獨(dú)立決定,，但我們認(rèn)為他們?cè)趫?zhí)行自己規(guī)則方面可以發(fā)揮重要作用,，以防止錯(cuò)誤信息和未經(jīng)同意的真實(shí)人物的私密圖像傳播,。”她還尤其補(bǔ)充了執(zhí)法不嚴(yán)對(duì)女性的影響更大,，她們是網(wǎng)絡(luò)騷擾的主要目標(biāo),。據(jù)了解，這些深度偽造的泰勒照片是由某人或某些人使用AI生成并上傳到了一家不良網(wǎng)站上,，這一網(wǎng)站上充斥了眾多以名人為主角的不雅照,，虛假照片很快傳播到了主流社交媒體并在網(wǎng)友之間迅速傳播，這也引起了泰勒數(shù)以千萬(wàn)粉絲的強(qiáng)烈不滿和憤怒,，粉絲們發(fā)起了“保護(hù)泰勒”的話題,，“這太惡心了，這是非法的,?！薄巴Ｖ箓鞑ニ雇蛱氐?span id="a6otyhj" class="wpcom_keyword_link">人工智能圖片,，她是一個(gè)有感情的人,，她會(huì)受傷?！薄白鹬靥├铡に雇蛱?，尊重所有女性?！蹦壳安糠謪⑴c傳播的賬號(hào)已被社交平臺(tái)封禁,，各社交平臺(tái)也在清除流傳的圖片，但是漏網(wǎng)之魚依然存在,，有人自建網(wǎng)站或者通過(guò)匿名群組售賣這些深度偽造的照片,。實(shí)際上這不是泰勒第一次成為AI深度偽造的受害者，就在不久前,，有人使用人工智能技術(shù)仿造了她的聲音和形象來(lái)為商品進(jìn)行推廣,，讓消費(fèi)者誤以為這是泰勒代言的商品。據(jù)報(bào)道,，目前泰勒的團(tuán)隊(duì)已在考慮通過(guò)法律手段來(lái)應(yīng)對(duì)這一事件,，傳播虛假照片的網(wǎng)站可能會(huì)面臨法律訴訟。AI深度偽造技術(shù)引大眾不安立法約束迫在眉睫在粉絲們?yōu)樘├盏脑庥龆罡袘嵟耐瑫r(shí),，其他網(wǎng)民則傳達(dá)出了對(duì)AI深度偽造技術(shù)的發(fā)展感到強(qiáng)烈不安的聲音,，“泰勒是影響力很大的明星，要是我們普通人也被深度偽造了不雅照可怎么辦,？”“AI發(fā)展的太快太恐怖了,，我都不敢想如果是我那真的要跳進(jìn)黃河洗不清了?！薄爸С諥I立法,，濫用危害太大了?！薄斑@真的和我們的生活息息相關(guān),，ai照片視頻的人類面部表情已經(jīng)很像真人了，聲音也能模仿得一樣,，這樣的騙局普通人難以分辨,。”從2023年起,，國(guó)內(nèi)已發(fā)生多起AI深度偽造詐騙案件,，中招率相當(dāng)高，叫人防不勝防,，也已出現(xiàn)了多起利用AI技術(shù)造黃謠,、傳播不良信息的惡性事件。面對(duì)以假亂真的AI偽造技術(shù)，國(guó)內(nèi)外的專家學(xué)者,、相關(guān)領(lǐng)域的企業(yè)機(jī)構(gòu)也想過(guò)不少應(yīng)對(duì)辦法,，比如在去年12月，一款名為mist的隱形圖片水印在網(wǎng)上開源發(fā)布,，該水印用于抵抗AI模型對(duì)圖片的訓(xùn)練和抓取,，這一水印能夠極大程度的干擾AI模型，使之生成的圖片遭受不同程度的破壞,。此外,，也有開發(fā)者建議讓AI生成平臺(tái)、公司給相關(guān)的AI生成軟件加上隱形水印機(jī)制,，以快速識(shí)別AI并進(jìn)行溯源,，各個(gè)社交平臺(tái)也應(yīng)以技術(shù)手段加強(qiáng)對(duì)于疑似AI生成圖、文,、視頻內(nèi)容的識(shí)別功能,。在國(guó)內(nèi)抖音、小紅書等平臺(tái)也已對(duì)疑似為AI生成的圖文視頻內(nèi)容進(jìn)行標(biāo)識(shí)以提示用戶小心分辨真假,。然而說(shuō)到底,，這些防止AI,、識(shí)別AI的技術(shù)手段是治標(biāo)不治本的,，對(duì)AI深度偽造只能起到有限的阻止、震懾作用,，深度偽造技術(shù)的泛濫根源之一在于其中有利可圖,，制造傳播這些深度偽造圖片、視頻的人不僅僅是出于個(gè)人的獵奇心態(tài),，還可能從中獲得高額回報(bào),，即便國(guó)家法律認(rèn)定AI深度偽造是不合法的行為，也無(wú)法阻止利欲熏心者繼續(xù)濫用這一技術(shù),。對(duì)AI技術(shù)的管控已經(jīng)不能僅停留在倡議,、呼吁的階段，規(guī)范的立法和相應(yīng)的懲處制度的推行也迫在眉睫,，Ai技術(shù)不是洪水猛獸,，但確實(shí)需要一個(gè)能約束它的鐵籠。揚(yáng)子晚報(bào)|紫牛新聞?dòng)浾?沈昭校對(duì) 徐珩