在AI正加速滲透現(xiàn)代人生活的當(dāng)下,，Bard,、ChatGPT、Chinchilla和LLaMA等生成式AI正迎來(lái)裂變式增長(zhǎng)的用戶,。

通過(guò)將智能的機(jī)器學(xué)習(xí)算法與數(shù)十億條人類生成的內(nèi)容相結(jié)合，這些系統(tǒng)似乎可以做任何事情：根據(jù)字幕創(chuàng)建一個(gè)極度逼真的圖像,，或是通過(guò)已公開(kāi)的用戶照片合成一張新的自拍照，用視頻中的一個(gè)人的肖像替換另一個(gè)人也只需要?jiǎng)觿?dòng)手指,。

在這個(gè)由AI構(gòu)成的“新世界”中，生成式AI創(chuàng)建的內(nèi)容高度逼真,，普通人越來(lái)越難準(zhǔn)確區(qū)分真人和AI生成內(nèi)容,，偽造,、扭曲現(xiàn)實(shí),、造謠將變得越來(lái)越容易，有圖也不是真相,，有視頻可能也不是真相——它們需要先證明自己是真的才行。

AI寫(xiě)真能精準(zhǔn)復(fù)制你的樣子

人工智能技術(shù)日益發(fā)展,，深偽技術(shù)(deepfake，即基于人工智能的人體圖像合成技術(shù))也在人們生活中更加常見(jiàn)，而且更常被濫用,。

最近，喜歡拍照的王洛奇(化名)迷上了AI寫(xiě)真,。“給自己拍照,，老公怎么訓(xùn)練也練不出來(lái)，自從用上了AI生成軟件,，‘喂了’大概50張自己之前拍過(guò)的照片進(jìn)行訓(xùn)練,，寫(xiě)真再也不愁沒(méi)有好的攝影師拍了,?！?/p>

王洛奇告訴記者，使用AI生成的寫(xiě)真相似度應(yīng)該在95%以上,。“我拿了一張AI生成的寫(xiě)真去問(wèn)女兒照片中的人是誰(shuí),？孩子表示這就是媽媽呀，還問(wèn)我什么時(shí)候拍的?！?/p>

因?yàn)樵谕趼迤孢M(jìn)行AI寫(xiě)真訓(xùn)練時(shí)，使用的照片大多是在泰國(guó)旅行時(shí)拍的,，還有幾張穿泰服的，結(jié)果AI生成的寫(xiě)真極具異域色彩,。

當(dāng)被問(wèn)到AI生成的照片是否有明顯的缺點(diǎn)時(shí)，王洛奇想了想告訴記者：“其實(shí)AI寫(xiě)真的近景和中景都很無(wú)敵了,，非要說(shuō)缺點(diǎn),，就是遠(yuǎn)景的全身照臉部會(huì)有點(diǎn)垮,，不知道是不是訓(xùn)練素材數(shù)量不太夠還是生成照片的像素太低導(dǎo)致的,。”

制作真實(shí)人物的虛假視頻技術(shù)正變得越來(lái)越容易獲得,。生成人工智能的進(jìn)步，將很快意味著虛假但視覺(jué)上令人信服的內(nèi)容將在網(wǎng)上激增,，從而導(dǎo)致信息生態(tài)系統(tǒng)更加混亂。

近日,，一位女網(wǎng)友在網(wǎng)上曬出自己在地鐵列車(chē)的照片被別有用心的網(wǎng)友下載,，并用AI技術(shù)“一鍵脫衣”，造謠圖隨后在網(wǎng)上廣泛傳播,。此事沖上熱搜。

更為嚴(yán)重的是,，如果AIGC(生成式AI)內(nèi)容不斷被訓(xùn)練后，可能導(dǎo)致生成的視頻或圖片成了讓人難以分辨的偽證,，進(jìn)而損害當(dāng)事人的利益和名譽(yù)。

　加水印能保護(hù)用戶隱私嗎,？

專門(mén)研究圖像取證的計(jì)算機(jī)科學(xué)家,、伯克利計(jì)算機(jī)科學(xué)教授Hany Farid主張對(duì)AI圖像進(jìn)行視覺(jué)指定：是時(shí)候該給這些數(shù)字照片貼上可識(shí)別的標(biāo)簽。Hany Farid在接受記者采訪時(shí)表示：“我認(rèn)為解決這個(gè)問(wèn)題的有效方法之一,，就是添加水印,。”

標(biāo)記文件和其他物品以證明其真實(shí)性,、表明所有權(quán)和反偽造的歷史由來(lái)已久,。以龐大的圖像檔案庫(kù)Getty Images為例，它為其目錄中的所有數(shù)字圖像添加了可見(jiàn)水印,，允許客戶在保護(hù)公司資產(chǎn)的同時(shí)自由瀏覽圖像,。

根據(jù)OpenAI公開(kāi)發(fā)布的內(nèi)容顯示，該公司正在試驗(yàn)一個(gè)系統(tǒng)來(lái)為ChatGPT的創(chuàng)作添加水印,，但段落中的字符不能像數(shù)值那樣進(jìn)行調(diào)整，因此文本水印采用不同的形式,。

抵御AI濫用是場(chǎng)“持久戰(zhàn)”

高水準(zhǔn)“AI畫(huà)師”Stable Diffusion曾為自己設(shè)置了一個(gè)自動(dòng)審核圖片安全性的程序，一旦監(jiān)測(cè)到生成的圖像涉嫌違規(guī),，即它在內(nèi)容政策里寫(xiě)明的不得用來(lái)生成“引人不適的、色情,、仇恨,、暴力等圖像”，機(jī)器就會(huì)攔下這張圖片,。

據(jù)外媒報(bào)道,，C2PA聯(lián)盟(內(nèi)容來(lái)源和認(rèn)證聯(lián)盟)最近發(fā)布了一個(gè)開(kāi)放規(guī)范來(lái)支持視聽(tīng)內(nèi)容可以被驗(yàn)證為人工生成。隨著Adobe,、微軟,、英特爾,、BBC等多家技術(shù)公司加入這項(xiàng)工作，C2PA已做好充分準(zhǔn)備,，以生產(chǎn)有效且廣泛部署的身份驗(yàn)證技術(shù),。

對(duì)人類生成的內(nèi)容和人工智能生成的內(nèi)容進(jìn)行聯(lián)合簽名和水印處理，雖然不能防止一切形式的濫用,，但可以提供一定程度的保護(hù),。任何安全措施都必須不斷調(diào)整和完善，因?yàn)椤皩?duì)手”會(huì)找到將最新技術(shù)武器化的新方法,。

近日,，江蘇首例“人臉解封”侵犯公民個(gè)人信息案公開(kāi)審理，鄭某在被害人不知情的情況下從他人處購(gòu)買(mǎi)包含姓名,、身份證號(hào)碼,、照片、視頻等個(gè)人信息,，然后操作圖片形成動(dòng)態(tài)視頻來(lái)進(jìn)行人臉核驗(yàn)解封他人賬號(hào),，幫助詐騙團(tuán)伙實(shí)施犯罪,。

被告人鄭某因犯侵犯公民個(gè)人信息罪被判有期徒刑八個(gè)月,、緩刑一年，并處罰金人民幣40000元,，作案工具予以沒(méi)收,。該案判決目前已生效,。

“要遏制AI合成的亂象,，得政府監(jiān)管部門(mén)、平臺(tái),、網(wǎng)民多方形成合力，多管齊下,。”北京航空航天大學(xué)法學(xué)院副教授,、北京科技創(chuàng)新中心研究基地副主任趙精武曾表示，作為服務(wù)的提供者,，AI合成平臺(tái)必須承擔(dān)主體責(zé)任,。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)AI合成的服務(wù)提供方作出了多項(xiàng)規(guī)定,，比如，AI合成平臺(tái)必須要求內(nèi)容創(chuàng)作者實(shí)名認(rèn)證，監(jiān)督創(chuàng)作者標(biāo)明“這是由AI合成”之類的標(biāo)識(shí),，以免誤導(dǎo)公眾；在提供“換臉”技術(shù)前,，應(yīng)該征得“被換臉”者的同意,；完善數(shù)據(jù)管理、保障個(gè)人信息安全,。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，深度合成服務(wù)提供者和技術(shù)支持者必須加強(qiáng)訓(xùn)練數(shù)據(jù)管理和技術(shù)管理,。

如同垃圾郵件,、釣魚(yú)網(wǎng)站伴隨著互聯(lián)網(wǎng)的誕生而難以清除，在AIGC逐漸普及的當(dāng)下,，抵御使用生成AI的各種形式的濫用，何為現(xiàn)實(shí)何為AI生成的“真假之辯”,，似乎也是一場(chǎng)“持久戰(zhàn)”。

華西都市報(bào)-封面新聞?dòng)浾?邊雪

來(lái)源：華西都市報(bào)