據(jù)央視新聞消息,，據(jù)美國(guó)媒體日前披露，上周,，很多人接到了通過一家人工智能初創(chuàng)公司的技術(shù)“深度偽造”的美國(guó)總統(tǒng)拜登電話呼叫,，“假拜登來(lái)電”迅速成為美國(guó)多家媒體的熱門話題,，也再度引發(fā)了美國(guó)社會(huì)關(guān)于人工智能“深度偽造”可能影響大選的討論,。冒充拜登的機(jī)器人語(yǔ)音電話錄音：把你們的選票留在11月份再投很重要。在這周二（23日）投票,，只會(huì)讓共和黨人得逞,，讓特朗普再次當(dāng)選為共和黨候選人。上周美國(guó)總統(tǒng)大選共和黨黨內(nèi)初選在新罕布什爾州舉行前,，部分選民接到了這樣一通來(lái)電,。白宮新聞秘書卡里娜·讓-皮埃爾22日證實(shí)，這一來(lái)電是“偽造,，不是由總統(tǒng)錄制”,。美國(guó)媒體日前援引消息人士的話報(bào)道稱，美國(guó)人工智能初創(chuàng)公司“十一實(shí)驗(yàn)室”暫時(shí)關(guān)閉了一名用戶的賬戶,。美國(guó)語(yǔ)音欺詐檢測(cè)公司——“靜默”公司稱,，分析發(fā)現(xiàn)，“十一實(shí)驗(yàn)室”公司的科技被用于制作冒充拜登的機(jī)器人語(yǔ)音電話錄音,?！笆粚?shí)驗(yàn)室”公司在一份聲明中稱將嚴(yán)肅對(duì)待人工智能技術(shù)被濫用的情況，但對(duì)近日引發(fā)關(guān)注的“假拜登來(lái)電”事件不予置評(píng),。新罕布什爾州總檢察長(zhǎng)表示,，正在調(diào)查這一事件，并呼吁選民忽視這類假消息,。OpenAI?？偨y(tǒng)參選人仿真聊天機(jī)器人賬戶事實(shí)上，人工智能已經(jīng)滲入美國(guó)總統(tǒng)競(jìng)選活動(dòng),。不久前,，硅谷的科技開發(fā)者為民主黨總統(tǒng)參選人迪恩·菲利普斯創(chuàng)造了一個(gè)仿真聊天機(jī)器人,，稱用戶可以與模仿菲利普斯的人工智能產(chǎn)品對(duì)話。本月20日,，美國(guó)人工智能公司OpenAI表示,，已經(jīng)停用了該開發(fā)者賬戶，稱這一做法違反了該公司禁止在競(jìng)選活動(dòng)中濫用人工智能技術(shù)的政策,?！吧疃葌卧臁蹦７赂?jìng)選人士 欺騙選民此前，人工智能生成的虛假信息也已多次干擾美國(guó)政治活動(dòng),。在去年2月舉行的芝加哥市長(zhǎng)選舉第一輪投票前夕,，社交媒體上出現(xiàn)了一段關(guān)于候選人保羅·瓦拉斯的視頻，偽造瓦拉斯的聲音發(fā)表言論,，聲稱“警察隨隨便便就可以射殺嫌疑人”,，并呼吁削減警察經(jīng)費(fèi),。冒充瓦拉斯的機(jī)器人語(yǔ)音錄音：人們卻對(duì)這些情況視而不見,。在瓦拉斯向社交媒體平臺(tái)發(fā)出投訴之后,，社交媒體刪除了這段視頻,，但該視頻在下架前已經(jīng)被瀏覽了數(shù)千次。人工智能帶來(lái)“深度偽造”立法慢引擔(dān)憂當(dāng)前,，人工智能的興起推動(dòng)了各行業(yè)的變革創(chuàng)新,，但同時(shí)也引發(fā)了人們的不少擔(dān)憂。其中,，基于人工智能技術(shù)的“深度偽造”現(xiàn)象受到廣泛關(guān)注?！吧疃葌卧臁笔侵笇?duì)一個(gè)人的聲音或圖像進(jìn)行數(shù)字更改并意圖造成傷害,。這種行為目前不僅出現(xiàn)在美國(guó)政治中，也波及美國(guó)娛樂圈乃至人們生活的方方面面,，引發(fā)美國(guó)輿論的擔(dān)憂和批評(píng),。美國(guó)媒體“微軟—全國(guó)廣播公司”在報(bào)道中提出疑問，2024年將是“深度偽造”的大選年嗎,？冒充拜登的機(jī)器人語(yǔ)音電話錄音：把你們的選票留在11月份再投很重要,。美國(guó)網(wǎng)絡(luò)安全專家 克里斯·克雷布斯：生成這類內(nèi)容非常容易，這就是所謂的20秒規(guī)則,。只需要一個(gè)人20秒的聲紋,，就能生成這樣的內(nèi)容。我認(rèn)為執(zhí)法部門,、聯(lián)邦調(diào)查局和司法部長(zhǎng)辦公室將面臨一些挑戰(zhàn),。不幸的是，我認(rèn)為這只是我們將在選舉季看到的冰山一角,。美國(guó)政府監(jiān)管組織“捍衛(wèi)公眾利益組織”負(fù)責(zé)人羅伯特·韋斯曼批評(píng)稱,，政治“深度偽造”時(shí)刻已經(jīng)到來(lái),，政策制定者必須盡快采取保護(hù)措施，否則將面臨選舉混亂,?！吧疃葌卧臁睍?huì)播下混亂的種子，使欺詐行為永久化,。近日,，美國(guó)流行樂歌手泰勒·斯威夫特也成為“深度偽造”技術(shù)的又一受害者，虛假合成的不雅照在社交網(wǎng)絡(luò)瘋狂傳播,，引發(fā)美國(guó)媒體對(duì)人工智能技術(shù)被濫用的質(zhì)疑,。記者：對(duì)這種技術(shù)被濫用的情況白宮有多擔(dān)心？白宮發(fā)言人 卡里娜·讓－皮埃爾：雖然社交媒體公司在內(nèi)容管理方面有獨(dú)立決策權(quán),。但我們認(rèn)為,，它們?cè)趪?yán)格落實(shí)其監(jiān)管制度上應(yīng)起到重要作用，以防止錯(cuò)誤信息和未經(jīng)本人允許的私密圖像傳播,。令人遺憾的是,，我們都知道，執(zhí)法不嚴(yán)對(duì)婦女和女孩的影響更為惡劣,。人工智能技術(shù)飛速發(fā)展,，但美國(guó)相關(guān)的監(jiān)管政策和立法卻跟進(jìn)遲緩。業(yè)內(nèi)人士指出,，科技發(fā)展的雙刃劍僅靠企業(yè)的自律是無(wú)法掌控的,，人工智能技術(shù)的濫用迫切需要政府監(jiān)管。美國(guó)消費(fèi)者技術(shù)協(xié)會(huì)首席執(zhí)行官 夏皮羅：政府需要在人工智能領(lǐng)域扮演重要角色,，確保設(shè)置安全屏障和護(hù)欄,，讓產(chǎn)業(yè)內(nèi)人士知道，哪些能做,，哪些不能做,。2023年10月，美國(guó)總統(tǒng)拜登簽署行政令,，為本國(guó)人工智能安全制定新標(biāo)準(zhǔn),，要求美國(guó)人工智能系統(tǒng)的研發(fā)人員與政府分享其安全測(cè)試結(jié)果及其他關(guān)鍵信息、完善相關(guān)標(biāo)準(zhǔn)和測(cè)試工具等,，但該行政令缺乏強(qiáng)制執(zhí)行效能,。密爾沃基工程學(xué)院計(jì)算機(jī)科學(xué)項(xiàng)目主任 德里克·賴?yán)何覀兊恼袆?dòng)不夠快，跟不上正在發(fā)生的變化,。所以我認(rèn)為,，我們不太可能看到有效的監(jiān)管。編輯 陳艷婷