國(guó)慶假期期間,，短視頻平臺(tái)上出現(xiàn)了大量“雷軍AI配音”的惡搞視頻。在視頻中,，“雷軍”銳評(píng)了堵車(chē),、假期等熱門(mén)話(huà)題，其中還有一些不雅謾罵,。有網(wǎng)友調(diào)侃稱(chēng)：“國(guó)慶上網(wǎng)被雷軍罵了整整7天,。”

除了吐槽外，視頻里的“雷軍”還稱(chēng)要投資某某大學(xué),。截至目前,，平臺(tái)上相關(guān)話(huà)題瀏覽量過(guò)億。10月7日晚,，針對(duì)網(wǎng)友“為何罵人”的詢(xún)問(wèn),，雷軍回復(fù)了3個(gè)發(fā)怒的表情。

“雷軍AI配音”惡搞相關(guān)話(huà)題瀏覽量過(guò)億

客觀來(lái)說(shuō)，部分“雷軍AI配音”惡搞視頻,，也許沒(méi)有太大的惡意,。鑒于雷軍的公眾人物身份，一些網(wǎng)友用AI配音玩梗未必就完全不能容忍,。但凡事得有度,，像這次大量的雷軍視頻中，不乏不雅謾罵,，甚至還有疑似謠言的內(nèi)容,，如“投資某某大學(xué)”，這就越過(guò)了開(kāi)玩笑,、玩梗的界限,。雷軍的“怒”，也足見(jiàn)這些行為已給本人帶來(lái)困擾,。

近年來(lái),，人工智能深度合成技術(shù)已在多個(gè)領(lǐng)域廣泛應(yīng)用，從圖文,、視頻生成到在線問(wèn)答,，可謂層出不窮。當(dāng)普通人也能輕松利用AI惡搞名人,、大量生成音視頻,，肯定會(huì)給社會(huì)帶來(lái)信息失真、認(rèn)知混亂等問(wèn)題,。

而且,，由AI換臉、變音等催生的侵權(quán)甚至犯罪行為,，也變得多起來(lái),。前段時(shí)間，鬧得沸沸揚(yáng)揚(yáng)的“三只羊盧某”錄音事件,，最終被警方證實(shí)系嫌疑人通過(guò)AI配音大模型平臺(tái)偽造,。今年7月,，國(guó)家金融監(jiān)管部門(mén)發(fā)布《關(guān)于防范新型電信網(wǎng)絡(luò)詐騙的風(fēng)險(xiǎn)提示》，明確提醒公眾警惕“AI換臉擬聲”類(lèi)新型電信網(wǎng)絡(luò)詐騙,。

在此背景下,，雷軍等公眾人物遭遇AI配音惡搞帶來(lái)的“困擾”，再次說(shuō)明規(guī)范AI合成技術(shù)的應(yīng)用和傳播邊界,，已非常迫切,。

事實(shí)上，為AI立法已成為各國(guó)監(jiān)管部門(mén)的共識(shí),。我國(guó)《生成式人工智能服務(wù)管理暫行辦法》規(guī)定,，提供和使用生成式人工智能服務(wù),，應(yīng)當(dāng)遵守法律、行政法規(guī),，尊重社會(huì)公德和倫理道德,。其中就包括尊重他人合法權(quán)益，不得危害他人身心健康,，不得侵害他人肖像權(quán),、名譽(yù)權(quán)、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益,。

但是，落到實(shí)踐中,，這樣的原則性要求,，如何形成具體的指導(dǎo)、給各方帶來(lái)明確預(yù)期，還有待進(jìn)一步厘清,。比如,，提供生成式人工智能服務(wù)的大模型平臺(tái)，對(duì)這類(lèi)侵權(quán)行為到底該承擔(dān)怎樣的責(zé)任,？相關(guān)網(wǎng)絡(luò)平臺(tái)若未能及時(shí)阻止侵權(quán)行為的發(fā)生,，是否應(yīng)該承擔(dān)連帶責(zé)任？

值得注意的是,，就在上個(gè)月,，國(guó)家網(wǎng)信辦就人工智能生成合成內(nèi)容標(biāo)識(shí)辦法公開(kāi)征求意見(jiàn)，征求意見(jiàn)稿提出,，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施,，規(guī)范生成合成內(nèi)容傳播活動(dòng)，包括提供必要的標(biāo)識(shí)功能,，并提醒用戶(hù)主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容等,。

就此次事件來(lái)看，不少視頻確實(shí)標(biāo)注了“AI合成”的字樣,，但從實(shí)際效果來(lái)看，還是對(duì)雷軍本人的形象造成了一定損害,。對(duì)于名人,，是不是進(jìn)行了標(biāo)注就可以隨意合成、隨意惡搞,？這個(gè)問(wèn)題也值得探討,。

因此,，此次雷軍之“怒”能否轉(zhuǎn)化為一個(gè)依法處置AI合成侵權(quán)的樣本，進(jìn)而發(fā)揮“以案釋法”的價(jià)值,，并推動(dòng)相關(guān)規(guī)范舉措和風(fēng)險(xiǎn)責(zé)任的落實(shí)，或是一個(gè)值得觀察的后續(xù),。隨著技術(shù)的不斷進(jìn)步,，AI合成技術(shù)的門(mén)檻越來(lái)越低，正因如此,，對(duì)其應(yīng)用的規(guī)范就應(yīng)該越嚴(yán)格,。

來(lái)源：澎湃新聞