當(dāng)?shù)貢r(shí)間1月21日美國(guó)新罕布什爾州一些選民接到了由機(jī)器人撥打的語(yǔ)音電話(huà)在神秘電話(huà)中“拜登總統(tǒng)”以經(jīng)典口頭禪開(kāi)頭對(duì)他們發(fā)出見(jiàn)解“拜登”給我打電話(huà),？真的假的,？當(dāng)?shù)貢r(shí)間22日美國(guó)白宮方面緊急澄清語(yǔ)音疑似由AI“深度偽造”（Deepfake）技術(shù)合成《紐約雜志》網(wǎng)站報(bào)道截圖從AI擬聲,、合成虛假照片再到生成視頻隨著人工智能技術(shù)的快速發(fā)展各種以假亂真的情況在世界多地頻頻上演近期，美國(guó)流行樂(lè)歌星泰勒·斯威夫特的“AI偽造照片”事件掀起軒然大波甚至驚動(dòng)了美國(guó)白宮這種生成合成圖像,、音頻或視頻的技術(shù)引發(fā)了人們對(duì)虛假信息傳播的思考圖源：澎湃新聞怎么防止AI“深度偽造”的事故再三發(fā)生,？各界人士在積極行動(dòng)美國(guó)白宮發(fā)言人卡琳·讓-皮埃爾表示雖然社交媒體公司在內(nèi)容管理方面有獨(dú)立決策權(quán)但它們?cè)趪?yán)格落實(shí)其監(jiān)管制度上應(yīng)起到重要作用圖源：訊飛星火生成生成式人工智能公司OpenAI日前表示在競(jìng)選活動(dòng)中政界人士及其競(jìng)選團(tuán)隊(duì)不得使用該公司的AI工具用戶(hù)也被禁止創(chuàng)建假扮政治候選人或政府機(jī)構(gòu)和官員的聊天機(jī)器人此次偽造拜登語(yǔ)音所用的工具背后是語(yǔ)音克隆初創(chuàng)公司ElevenLabs該公司也已暫停利用AI“深度偽造”技術(shù)發(fā)布信息的賬戶(hù)并警告不得將克隆聲音用于欺詐,、歧視、發(fā)表仇恨言論或任何觸犯法律之事圖源：訊飛星火生成美國(guó)消費(fèi)者技術(shù)協(xié)會(huì)首席執(zhí)行官夏皮羅提出政府需要在AI領(lǐng)域扮演重要角色確保設(shè)置安全屏障和護(hù)欄讓產(chǎn)業(yè)內(nèi)人士知道哪些能做、哪些不能做針對(duì)近期的AI“深度偽造”事件當(dāng)?shù)貢r(shí)間2月1日美國(guó)聯(lián)邦通信委員會(huì)（FCC）主席杰西卡·羅森沃塞爾提議把使用AI生成的語(yǔ)音撥打機(jī)器人電話(huà)（robocall）定為非法FCC的委員們將在未來(lái)幾周內(nèi)對(duì)該提案進(jìn)行表決圖源：訊飛星火生成盡管AI技術(shù)給我們帶來(lái)了新挑戰(zhàn)但國(guó)際社會(huì)普遍認(rèn)為不能“因噎廢食”不能拒絕發(fā)展相關(guān)技術(shù)畢竟，在技術(shù)進(jìn)步的過(guò)程中AI技術(shù)本身就可用來(lái)對(duì)抗AI“深度偽造”行為比如有開(kāi)發(fā)者建議平臺(tái)給AI生成軟件加上隱形水印以快速識(shí)別AI并進(jìn)行溯源去年12月發(fā)布的一款名為mist的隱形圖片水印則能極大程度干擾AI模型使之生成的圖片遭受不同程度的破壞圖源：訊飛星火生成還有專(zhuān)家認(rèn)為法律手段也要有所作為對(duì)一些技術(shù)解決不了的問(wèn)題進(jìn)行立法追責(zé)中國(guó)發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已于2023年1月10日起施行《規(guī)定》強(qiáng)調(diào)深度合成服務(wù)提供者需要對(duì)深度合成內(nèi)容進(jìn)行顯著標(biāo)識(shí)任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改,、隱匿相關(guān)標(biāo)識(shí)作為普通用戶(hù)假如接到來(lái)自名人的電話(huà)你能識(shí)別出真假嗎,？面對(duì)AI的“深度偽造”我們?cè)撊绾伪苊馕：δ兀繀⒖钾ㄖ稳請(qǐng)?bào),、央視財(cái)經(jīng),、南方都市報(bào)、羊城晚報(bào),、澎湃新聞,、新浪科技撰文：孔繁鑫 編輯/排版：李汶鍵 統(tǒng)籌：李政葳來(lái)源：世界互聯(lián)網(wǎng)大會(huì)