隨著人工智能技術(shù)的發(fā)展“AI換臉”技術(shù)的應(yīng)用在生活中越來越常見但需要注意的是有一些不法分子也開始用上了這項(xiàng)技術(shù)以此來實(shí)施網(wǎng)絡(luò)詐騙這類AI“深度造假”是如何實(shí)現(xiàn)的？來看記者調(diào)查面部特征瞬時抓取“AI換臉”一鍵即成為了深入了解AI換臉的技術(shù)原理,，記者找到了南京“超級頭腦”團(tuán)隊(duì),。這是一家致力于AI教育,、數(shù)字療愈和數(shù)字陪伴的人工智能技術(shù)服務(wù)公司。去年,，他們制作的一條反詐短視頻在網(wǎng)絡(luò)平臺上引發(fā)了熱議,。這樣逼真的互動視頻是如何實(shí)現(xiàn)的？在專業(yè)人員的指導(dǎo)下,，記者體驗(yàn)了一次AI換臉,。記者坐到“超級頭腦”工作室的電腦前,，在這套系統(tǒng)上，“AI換臉”幾乎是“一鍵”實(shí)現(xiàn)的,。只要記者坐在這個攝像頭前,，自己的臉就會被立刻替換成一張陌生人的臉。這一切是怎么做到的呢,？南京超級頭腦信息技術(shù)有限公司創(chuàng)始人張澤偉介紹,，攝像頭會照出你的真實(shí)臉部畫面,，人臉檢測器會抓取臉上特征點(diǎn)，特征點(diǎn)越多抓取的數(shù)據(jù)越詳細(xì),，換臉的效果越好,。據(jù)張澤偉介紹，這張臉就是他們通過大量照片或視頻數(shù)據(jù)訓(xùn)練出來的,，訓(xùn)練了兩百萬次,，“目前想要生成一個相似度比較高，或者質(zhì)量比較好的模型,，一般需要1分鐘左右的視頻,。如果視頻時間很短，其實(shí)也是能生成的,，但是效果不一定會達(dá)到這個級別,。”技術(shù)人員表示,，如果以詐騙為目的,，進(jìn)行點(diǎn)對點(diǎn)視頻通話，還需要對當(dāng)事人的聲音進(jìn)行采集,，而音色的模仿也僅需要1分鐘左右的音頻素材,。無論是面部特征抓取還是音色模仿學(xué)習(xí),，所需要的素材并不多，但要想做得逼真,，也不是一件簡單的事,。“這其中還是有一定技術(shù)門檻的,，更多的是需要去訓(xùn)練模型，在普通硬件設(shè)備上是很難去訓(xùn)練的,，不僅需要硬件支持,，也需要對軟件各方面有所掌握?！薄癆I換臉”以假亂真,，該如何進(jìn)行辨別和自我防范呢？網(wǎng)絡(luò)上曾流行一種判斷方法,，就是通過遮擋面部來看面部是否會變形,，但技術(shù)人員表示，隨著技術(shù)的更迭,，這樣的技術(shù)缺陷已逐漸被修復(fù),。建議大家跟親友之間設(shè)計(jì)一些特定的“暗號”，來應(yīng)對特殊情況,。另外,，技術(shù)人員建議大家盡量不要把個人的隱私數(shù)據(jù)隨意發(fā)到公共互聯(lián)網(wǎng)上，如果有一些不法分子想要對你的家人實(shí)施詐騙,，采集到數(shù)據(jù)以后還是比較容易實(shí)現(xiàn)的,。娛樂產(chǎn)品也應(yīng)警惕隨意發(fā)布也會侵權(quán)除了一些不法分子企圖利用AI技術(shù)實(shí)施詐騙，近年來,，AI技術(shù)還被廣泛應(yīng)用于短視頻的二次創(chuàng)作,。越來越多的名人“AI換臉換聲”視頻出現(xiàn)在網(wǎng)絡(luò)上。這類視頻嘴型,、手勢都對得上,，十分自然。記者發(fā)現(xiàn),，在手機(jī)應(yīng)用商店中,，有數(shù)十款軟件可以實(shí)現(xiàn)“AI換臉換聲”的效果，且基本都在用戶協(xié)議中標(biāo)明“僅供娛樂使用”,。這類軟件的換臉效果并不逼真,，相似度只能達(dá)到5到6分。比如這款軟件,，拍下記者面部照片后,，就能生成出一段記者變身“特種戰(zhàn)士”的視頻,。張澤偉認(rèn)為,，這種軟件其實(shí)是“傻瓜式”的，用戶直接上傳一張照片,，拿一段視頻去實(shí)現(xiàn)視頻換臉,。但是，目前這類軟件在移動端一般不能實(shí)現(xiàn)實(shí)時換臉,。制作,、發(fā)布此類視頻是否存在法律風(fēng)險(xiǎn)呢？法律專家表示,，用AI技術(shù)為他人換臉換聲甚至翻譯成其他語言并發(fā)布視頻,，可能涉嫌害當(dāng)事人的著作權(quán)、肖像權(quán)和聲音權(quán),。江蘇蘇博律師事務(wù)所主任律師吳波說,，本段視頻或者本段音頻是由AI產(chǎn)生的,，在視頻或音頻的生成軟件上面一定要有類似的提醒。侵權(quán)的認(rèn)定是根據(jù)傳播的閱讀量,，或者是觀看量來確定侵權(quán)的程度,。江蘇廣電融媒體新聞中心記者｜朱瑞 張中玄來源：江蘇新聞