美國知名歌手泰勒·斯威夫特再度成為了AI深度偽造的受害者，近日,，大量由人工智能生成的泰勒虛假色情,、血腥照片在多個社交平臺瘋傳,，瀏覽量已超過千萬，引發(fā)社交媒體震動,，這也引發(fā)了美國白宮的注意,。深度偽造的“泰勒·斯威夫特”在網(wǎng)上瘋傳泰勒團隊或?qū)⑵鹪V相關網(wǎng)站據(jù)報道1月26日,，白宮發(fā)言人皮埃爾在記者會上回應了這一事件,，并表示：“我們對這種圖片的流傳感到震驚。雖然社交媒體公司在內(nèi)容管理方面作出了自己的獨立決定,，但我們認為他們在執(zhí)行自己規(guī)則方面可以發(fā)揮重要作用,，以防止錯誤信息和未經(jīng)同意的真實人物的私密圖像傳播?！彼€尤其補充了執(zhí)法不嚴對女性的影響更大,，她們是網(wǎng)絡騷擾的主要目標,。據(jù)了解,，這些深度偽造的泰勒照片是由某人或某些人使用AI生成并上傳到了一家不良網(wǎng)站上，這一網(wǎng)站上充斥了眾多以名人為主角的不雅照,，虛假照片很快傳播到了主流社交媒體并在網(wǎng)友之間迅速傳播,，這也引起了泰勒數(shù)以千萬粉絲的強烈不滿和憤怒，粉絲們發(fā)起了“保護泰勒”的話題,，“這太惡心了,，這是非法的?！薄巴Ｖ箓鞑ニ雇蛱氐?span id="a6otyhj" class="wpcom_keyword_link">人工智能圖片，她是一個有感情的人,，她會受傷,。”“尊重泰勒·斯威夫特,，尊重所有女性,。”目前部分參與傳播的賬號已被社交平臺封禁,，各社交平臺也在清除流傳的圖片,，但是漏網(wǎng)之魚依然存在，有人自建網(wǎng)站或者通過匿名群組售賣這些深度偽造的照片,。實際上這不是泰勒第一次成為AI深度偽造的受害者,，就在不久前，有人使用人工智能技術仿造了她的聲音和形象來為商品進行推廣,，讓消費者誤以為這是泰勒代言的商品,。據(jù)報道，目前泰勒的團隊已在考慮通過法律手段來應對這一事件,，傳播虛假照片的網(wǎng)站可能會面臨法律訴訟,。AI深度偽造技術引大眾不安立法約束迫在眉睫在粉絲們?yōu)樘├盏脑庥龆罡袘嵟耐瑫r，其他網(wǎng)民則傳達出了對AI深度偽造技術的發(fā)展感到強烈不安的聲音,，“泰勒是影響力很大的明星,，要是我們普通人也被深度偽造了不雅照可怎么辦？”“AI發(fā)展的太快太恐怖了,，我都不敢想如果是我那真的要跳進黃河洗不清了,。”“支持AI立法,，濫用危害太大了,。”“這真的和我們的生活息息相關,，ai照片視頻的人類面部表情已經(jīng)很像真人了,，聲音也能模仿得一樣，這樣的騙局普通人難以分辨?！睆?023年起,，國內(nèi)已發(fā)生多起AI深度偽造詐騙案件，中招率相當高,，叫人防不勝防,，也已出現(xiàn)了多起利用AI技術造黃謠、傳播不良信息的惡性事件,。面對以假亂真的AI偽造技術,，國內(nèi)外的專家學者、相關領域的企業(yè)機構也想過不少應對辦法,，比如在去年12月,，一款名為mist的隱形圖片水印在網(wǎng)上開源發(fā)布，該水印用于抵抗AI模型對圖片的訓練和抓取,，這一水印能夠極大程度的干擾AI模型,，使之生成的圖片遭受不同程度的破壞。此外,，也有開發(fā)者建議讓AI生成平臺,、公司給相關的AI生成軟件加上隱形水印機制，以快速識別AI并進行溯源,，各個社交平臺也應以技術手段加強對于疑似AI生成圖,、文、視頻內(nèi)容的識別功能,。在國內(nèi)抖音,、小紅書等平臺也已對疑似為AI生成的圖文視頻內(nèi)容進行標識以提示用戶小心分辨真假。然而說到底,，這些防止AI,、識別AI的技術手段是治標不治本的，對AI深度偽造只能起到有限的阻止,、震懾作用,，深度偽造技術的泛濫根源之一在于其中有利可圖,，制造傳播這些深度偽造圖片,、視頻的人不僅僅是出于個人的獵奇心態(tài)，還可能從中獲得高額回報,，即便國家法律認定AI深度偽造是不合法的行為,，也無法阻止利欲熏心者繼續(xù)濫用這一技術。對AI技術的管控已經(jīng)不能僅停留在倡議,、呼吁的階段,，規(guī)范的立法和相應的懲處制度的推行也迫在眉睫，Ai技術不是洪水猛獸，但確實需要一個能約束它的鐵籠,。揚子晚報|紫牛新聞記者 沈昭校對 徐珩