吳迪近日,，一些短視頻平臺(tái)涌現(xiàn)了大量某知名企業(yè)家吐槽的視頻。在視頻中,，該企業(yè)家對(duì)堵車,、調(diào)休、游戲等熱門話題進(jìn)行調(diào)侃,，甚至還有不雅詞匯穿插其間,，引發(fā)熱議。事實(shí)上,，這是由網(wǎng)友利用AI軟件采集該企業(yè)家原音生成的配音,，但逼真的效果讓不少人信以為真。（見(jiàn)10月28日《工人日?qǐng)?bào)》）AI生成信息從“一眼假”到“深度偽造”,，僅僅過(guò)了幾年時(shí)間。幾年前,，網(wǎng)絡(luò)上流行上傳個(gè)人照片生成各類主題海報(bào)或視頻的游戲,，令人們對(duì)AI融入生活抱有了更多期待。比如,，通過(guò)AI換臉實(shí)現(xiàn)的“螞蟻呀嘿”搞笑視頻,，曾一度霸榜熱搜,。同時(shí)，AI技術(shù)應(yīng)用于天氣預(yù)報(bào),、新聞播報(bào),、醫(yī)療、手機(jī)地圖等領(lǐng)域,，讓生活更加便利,。然而，也產(chǎn)生了一些新的問(wèn)題,。有人用自己的照片與某女星素材合成親密視頻,，引發(fā)爭(zhēng)議；某知名辦公軟件將用戶文檔用作AI訓(xùn)練文本,，引發(fā)反對(duì)聲浪,；還有一些人的聲音、人臉被AI學(xué)習(xí),，生成虛假信息用于電信詐騙,、造謠……AI為人們提供新體驗(yàn)的同時(shí)，伴隨的風(fēng)險(xiǎn)成本越來(lái)越高,，不僅侵犯了一些人的合法權(quán)益,，也擾亂了網(wǎng)絡(luò)空間秩序。比如,，AI生成音頻技術(shù)的濫用可能侵犯?jìng)€(gè)人的人格權(quán),。自然人的聲音具有唯一性、獨(dú)特性,，是自然人人格的重要組成部分,。今年4月，北京互聯(lián)網(wǎng)法院宣判的全國(guó)首例AI生成聲音侵權(quán)案,，判決侵權(quán)方賠償原告25萬(wàn)元,。又如，AI生成的虛假音視頻很容易引發(fā)誤解,，甚至造成惡劣影響,，破壞網(wǎng)絡(luò)信息的可信度和網(wǎng)絡(luò)空間的秩序。今年9月,，網(wǎng)上流傳某網(wǎng)絡(luò)平臺(tái)負(fù)責(zé)人的負(fù)面“酒后”音頻,，給該平臺(tái)招致風(fēng)波，結(jié)果警方調(diào)查發(fā)現(xiàn),，音頻內(nèi)容系A(chǔ)I偽造,。規(guī)范AI技術(shù)發(fā)展是公眾的共同呼聲。為此，社會(huì)各界提出建議,，如完善法律法規(guī),，明確AI生成技術(shù)的使用范圍，加大對(duì)濫用AI技術(shù)的打擊和處罰,；技術(shù)研發(fā)應(yīng)用者要在識(shí)別和過(guò)濾虛假內(nèi)容上有所作為,，建立有效的甄別、審核機(jī)制,，防止技術(shù)被濫用,，等等。這些“追著AI跑”的規(guī)范手段必不可少,，但從AI生成內(nèi)容的邏輯看,，還需從前端發(fā)力，即在“投喂”素材訓(xùn)練AI大模型環(huán)節(jié)做好必要的規(guī)制,。AI自主學(xué)習(xí)需要有大量的“學(xué)習(xí)對(duì)象”作為基礎(chǔ),，包括聲音、文字,、語(yǔ)法,、圖像、熱力分布等,，這些素材越豐富,，AI就“吃”得越飽，生成的內(nèi)容就越自然逼真,。當(dāng)前,，網(wǎng)友使用AI軟件上傳聲音、人臉等個(gè)人生物信息時(shí),，幾乎是不設(shè)防狀態(tài),。此外，AI在獲取訓(xùn)練素材時(shí)還缺乏一定的規(guī)范,，比如用戶為一次娛樂(lè)活動(dòng)而上傳的素材能不能被儲(chǔ)存和多次利用,？相關(guān)信息該如何使用？都應(yīng)有明確的說(shuō)法,。以手機(jī)APP過(guò)度索權(quán)為例,，近年來(lái)，很多APP開(kāi)發(fā)運(yùn)營(yíng)者為了獲取更豐富的用戶數(shù)據(jù),，后臺(tái)過(guò)度索權(quán)問(wèn)題飽受詬病,。2021年初，工信部出臺(tái)文件,，明確了“知情同意”和“最小必要”兩項(xiàng)個(gè)人信息保護(hù)基本原則,，要求從事APP個(gè)人信息處理活動(dòng)，應(yīng)當(dāng)由用戶作出自愿、明確的意思表示,，同時(shí)不得從事超出用戶同意范圍或者與服務(wù)場(chǎng)景無(wú)關(guān)的個(gè)人信息處理活動(dòng)。同理,，AI自主學(xué)習(xí)也應(yīng)被劃定明確,、具體的邊界范圍。比如,，用戶上傳的信息將被用于什么用途,、如何儲(chǔ)存及使用，要有類似“知情同意”“最小必要”的規(guī)定,。簡(jiǎn)言之,，從源頭“投喂”素材的環(huán)節(jié)做到丁是丁卯是卯，AI自主學(xué)習(xí)及應(yīng)用才會(huì)更加向上向善,。眼下,，AI技術(shù)發(fā)展如火如荼，未來(lái)充滿無(wú)限機(jī)遇和可能,。正因如此,，技術(shù)別被玩壞、信任別被玩丟,，與技術(shù)本身的發(fā)展同等重要,。（來(lái)源：中工網(wǎng)）