新聞背景：國(guó)慶上網(wǎng)被“雷軍”罵了整整7天？有媒體報(bào)道,，剛剛過(guò)去的國(guó)慶假期里,，短視頻平臺(tái)出現(xiàn)了大量“雷軍”的發(fā)言視頻，涉及堵車(chē),、調(diào)休,、游戲等熱門(mén)話(huà)題，時(shí)而言辭犀利,，時(shí)而爆出粗口,。據(jù)悉，這些發(fā)言與知名企業(yè)家雷軍并無(wú)關(guān)系,，而是由AI合成,。目前，相關(guān)短視頻已被各大平臺(tái)下架,。AI技術(shù)怎能不斷“試探”底線(xiàn),？從“AI孫燕姿”“AI周杰倫”翻唱歌曲，到“郭德綱”講英文段子,、“霉霉”講流利中文,，再到如今“雷軍”七天罵翻全網(wǎng)，AI配音在網(wǎng)絡(luò)世界的應(yīng)用并不鮮見(jiàn),。原本,，制作者只是在小范圍玩梗逗樂(lè)，卻逐漸變?yōu)樵谶`法,、悖德的邊緣瘋狂“試探”：有人利用AI語(yǔ)音招搖撞騙,、有人未經(jīng)允許利用AI技術(shù)“重現(xiàn)”已故明星聲音……凡此種種，皆提示我們?cè)谙硎芗夹g(shù)便利的同時(shí),，也要格外關(guān)注潛藏的風(fēng)險(xiǎn),。AI流水線(xiàn)式造假，不僅侵犯公民的合法權(quán)益,、混淆大眾認(rèn)知,，更帶來(lái)巨大的風(fēng)險(xiǎn)隱患?！?024人工智能安全報(bào)告》顯示,，僅今年上半年，AI詐騙案案值已超過(guò)1.85億元,。深度偽造已成滋生亂象溫床從彼雷軍到此“雷軍”,，使用“AI配音”就可以“一鍵直達(dá)”,。近年來(lái)，通過(guò)AI實(shí)現(xiàn)聲音和畫(huà)面深度偽造的技術(shù)門(mén)檻不斷降低,，為這種“一鍵變聲”“一鍵變臉”泛濫提供了可能,。目前，市面上已有大量的AI配音小程序,，用戶(hù)只需在程序內(nèi)選擇相應(yīng)的人物聲音并輸入文字,，便可借用他人的聲音發(fā)表言論。有的軟件免費(fèi)向用戶(hù)開(kāi)放部分使用權(quán)限,，收費(fèi)版本價(jià)格也并不高,。在深度偽造技術(shù)之下，我們?cè)絹?lái)越無(wú)法區(qū)別真假,，過(guò)去崇尚的“眼見(jiàn)為實(shí)”受到?jīng)_擊,，只能信以為真。而真?zhèn)坞y辨的混沌地帶,，也很可能成為滋生各種亂象的溫床,。更甚之，不法人員憑借一段原始語(yǔ)音,、照片等就能編造謠言甚至設(shè)置陷阱,，并借此實(shí)施詐騙。該給AI生成套上韁繩了當(dāng)深度偽造嵌入我們的數(shù)字生活,，該怎么辦,？這并非無(wú)病呻吟強(qiáng)說(shuō)愁。一方面,，要推動(dòng)反深偽檢測(cè)技術(shù)持續(xù)更新迭代,，以應(yīng)對(duì)層出不窮的深度偽造騙局；另一方面,，要加強(qiáng)技術(shù)監(jiān)管,，明確生成式人工智能服務(wù)合法與非法的邊界,，對(duì)相關(guān)違法行為進(jìn)行嚴(yán)肅懲處,，以“前車(chē)之鑒”構(gòu)筑其參照坐標(biāo)。就防止AI合成內(nèi)容侵權(quán)的問(wèn)題而言,，我們能做的還有很多,。比如，作為傳播鏈條中的重要一環(huán),，社交平臺(tái)需負(fù)起相應(yīng)的治理責(zé)任，并注意識(shí)別AI生成音視頻的真?zhèn)?，?duì)侵權(quán)素材作出及時(shí)處理,，必要時(shí)標(biāo)注“疑似AI合成”之類(lèi)的提醒。再比如,，網(wǎng)絡(luò)惡搞不能沒(méi)有邊界,，廣大網(wǎng)友也要注重尊重他人的合法權(quán)益，絕不能突破法律和道德的底線(xiàn),。（以上綜合光明網(wǎng),、北京日?qǐng)?bào)、南方日?qǐng)?bào)）V視角：@小小鹿同學(xué)：玩梗要適度,，這樣惡搞知名企業(yè)家不太好吧,？@笑逐顏開(kāi)：這種AI換聲已經(jīng)涉嫌侵權(quán)了。@心隨風(fēng)動(dòng)：雷軍都被侵權(quán),，那我們普通人要遭到侵權(quán)就更難辦了,。@是不是笑一笑就好了：為了流量啥都干，真是沒(méi)有底線(xiàn)了,。@我是布布：支持雷總維權(quán),。中國(guó)經(jīng)濟(jì)網(wǎng)編后語(yǔ)：如今，AI換臉或配音,、文生文,、文生圖、文生視頻等應(yīng)用的發(fā)展如火如荼,，但越來(lái)越多的質(zhì)疑聲也隨著侵權(quán),、泄露個(gè)人信息、詐騙等問(wèn)題到來(lái),。雷軍遭遇AI侵權(quán),，或許這次只是惡搞，倘若互聯(lián)網(wǎng)應(yīng)用的場(chǎng)景中謠言和詐騙橫行,，我們又該如何應(yīng)對(duì),？規(guī)范生成式人工智能技術(shù)的發(fā)展,，不該止于“平臺(tái)下架相關(guān)內(nèi)容”，而應(yīng)當(dāng)最大力度強(qiáng)化監(jiān)管和處罰,，同時(shí),，還應(yīng)厘清AI生成的邊界，更好引導(dǎo)“科技向善”,。來(lái)源：中國(guó)經(jīng)濟(jì)網(wǎng)