當(dāng)科技博主畢導(dǎo)看到數(shù)字人“畢導(dǎo)”大言不慚地?fù)屪约旱娘埻霑r(shí),，再一次直呼Amazing。

9月6日下午,，外灘大會(huì)AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽的表演賽拉開(kāi)帷幕，用AI技術(shù)對(duì)抗Deepfake的TOP選手代表,，在全網(wǎng)期待中亮相,。室外40度的天氣，室內(nèi)400度的熱情,。

來(lái)自上海的觀眾朱先生表示,，第一次肉眼看到生成式AI與deepfake檢測(cè)技術(shù)的正面交鋒，比賽太有意思了,。

人工PK人工智能，哪家強(qiáng),？

在簡(jiǎn)短的Top選手頒獎(jiǎng)之后,，選手之間的比拼再次打響,。中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院和螞蟻數(shù)科天璣實(shí)驗(yàn)室聯(lián)合出題，對(duì)選手模型進(jìn)行終極考察,。和線上賽一樣,，表演賽現(xiàn)場(chǎng)分為圖像賽道和音視頻賽道，各賽道TOP3選手兩兩PK,。

圖像賽道一開(kāi)始,，臺(tái)下立即躁動(dòng)起來(lái)。主持人畢導(dǎo)喚出了9張瑪麗蓮夢(mèng)露的照片,，其中2張是AIGC偽造的。肉眼真假難辨的9張圖,，選手卻需要用自己的參賽模型給出每張圖片的偽造概率值,，并對(duì)概率值最高的2張照片與正確答案進(jìn)行比對(duì)。

“本來(lái)以為只需要隔岸觀火,，不曾想到,，自己也被卷進(jìn)了戰(zhàn)斗狀態(tài)，試圖用肉眼與AI一較高下”,，來(lái)自一家科技公司的觀眾小張說(shuō),。觀眾互動(dòng)環(huán)節(jié)，臺(tái)下不服氣的視覺(jué)設(shè)計(jì)師甚至請(qǐng)戰(zhàn)AI,，希望展示自己的專(zhuān)業(yè)敏感度,。

偽造概率值的問(wèn)題，引發(fā)了畢導(dǎo)的追問(wèn),，到底AI能否100%識(shí)別偽造,。賽事出題人之一、ZOLOZ技術(shù)總監(jiān)姚偉斌介紹道,，讓AI百分百識(shí)別偽造圖像是否偽造,，是十分困難的。偽造技術(shù)也在不斷迭代更新,，對(duì)抗需要不斷地提升,。這也是我們今天做比賽的一大意義。在實(shí)際應(yīng)用中,，通常是將識(shí)別算法與其他檢測(cè)手段結(jié)合使用,，綜合判斷風(fēng)險(xiǎn)。

視頻賽道環(huán)節(jié),，畢導(dǎo)數(shù)字分身出演了多部經(jīng)典電影名場(chǎng)面,，選手同樣要通過(guò)AI模型來(lái)辨別真?zhèn)巍，F(xiàn)場(chǎng)選手比分上,，在一些難度一般的賽題上,，表演賽的結(jié)果比分接近,，偽造識(shí)別率幾乎都在80%以上，但是在一些高難度賽題上,，模型結(jié)果差異懸殊,。

畢導(dǎo)向新加坡科技研究局天異教授發(fā)出靈魂拷問(wèn)，為什么肉眼覺(jué)得一眼假的畫(huà)面,，AI卻不能完全答對(duì),？而肉眼難以辨別的畫(huà)面，AI反而1秒識(shí)別,？

對(duì)此,，周天異認(rèn)為人類(lèi)在判斷圖像是否偽造會(huì)依賴(lài)直覺(jué)和邏輯，比如畢導(dǎo)的人臉換到了哈利波特身上,，人類(lèi)一眼便知,，AI卻不了解背后的故事。而人類(lèi)會(huì)下意識(shí)地偷懶,，AI是最稱(chēng)職的工具人,，AI不受情緒干擾，他會(huì)一絲不茍,、勤勤懇懇地完成人類(lèi)的指令,。所以，AI在工作效率和穩(wěn)定性上,，都是大大高于人類(lèi)的,。

近百名選手參與開(kāi)源模型代碼接力

近日,，Deepfake惡性事件牽動(dòng)人心。8月30日,，賽事組委會(huì)發(fā)起開(kāi)源倡議：“支持并鼓勵(lì)優(yōu)秀參與者開(kāi)源比賽模型，降低技術(shù)門(mén)檻,、加強(qiáng)技術(shù)交流，進(jìn)而幫助更多人檢測(cè)偽造內(nèi)容,，助力AI向善,。參賽者自主開(kāi)源后,，大賽組委會(huì)將在官方Github主頁(yè)上匯總所有開(kāi)源存儲(chǔ)庫(kù),?！?/p>

倡議一經(jīng)發(fā)出,，就得到中國(guó)科學(xué)院自動(dòng)化研究所VisionRush隊(duì)伍和澳門(mén)大學(xué)JT Group的積極相應(yīng),。開(kāi)源不僅僅是免費(fèi)分享，還意味著在技術(shù)社區(qū)開(kāi)展代碼接力,，任何人都可以參與完善開(kāi)源模型,。

姚偉斌表示,，截至目前，已有近百名選手及所在隊(duì)伍表示愿意參與代碼接力,，希望通過(guò)技術(shù)手段,，為每一個(gè)可能受到傷害的人提供保護(hù)。參與選手還在不斷增加,。

研發(fā)檢測(cè)算法，只是遏制Deepfake技術(shù)濫用的方式之一,。姚偉斌坦言,，這種方式是相對(duì)滯后的。如果要從根源上防范欺詐行為,，姚偉斌認(rèn)為應(yīng)在標(biāo)準(zhǔn)和立法角度,，要求給AIGC內(nèi)容建立通用標(biāo)識(shí)，比如每一張AIGC生成的視頻/圖片都在文件信息里帶一個(gè)簽名或水印,，這樣平臺(tái)管理更有依據(jù),，也能讓AIGC可以更可信。

會(huì)上,，十余家機(jī)構(gòu)聯(lián)合發(fā)布國(guó)內(nèi)首個(gè)面向金融場(chǎng)景的“AI 換臉”檢測(cè)標(biāo)準(zhǔn),。該標(biāo)準(zhǔn)的發(fā)布為金融場(chǎng)景下的虛假數(shù)字人臉安全檢測(cè)和評(píng)估提供了依據(jù)，也填補(bǔ)了這一領(lǐng)域的空白,。這場(chǎng)Deepfake 攻防挑戰(zhàn)賽,，正是應(yīng)用了此標(biāo)準(zhǔn)的框架和指標(biāo)，進(jìn)行賽題的制定和答案的評(píng)價(jià),。

全球Deepfake攻防挑戰(zhàn)賽針對(duì)“AI換臉”的欺詐風(fēng)險(xiǎn)進(jìn)行攻防實(shí)戰(zhàn)演練,，并設(shè)立100萬(wàn)元人民幣的獎(jiǎng)金池，鼓勵(lì)推動(dòng)AI向善的技術(shù)人才,。大賽吸引了全球2200多名選手,，1500多支隊(duì)伍報(bào)名，覆蓋中國(guó),、美國(guó),、印度,、澳大利亞、日本,、印尼,、馬來(lái)、新加坡,、香港,、越南等26個(gè)國(guó)家和地區(qū)。

據(jù)了解,，外灘大會(huì)AI創(chuàng)新賽包括 “AFAC2024 金融智能創(chuàng)新大賽”和“全球 Deepfake攻防挑戰(zhàn)賽”兩大子賽事,。全面展示了人工智能在多個(gè)領(lǐng)域的最新應(yīng)用與前沿探索,，也彰顯出了科技創(chuàng)新的無(wú)限活力。同時(shí),，Inclusion外灘大會(huì)第二屆AI創(chuàng)新賽· “全球AI攻防挑戰(zhàn)賽”也正式啟動(dòng),。賽事聚焦AI大模型產(chǎn)業(yè)實(shí)踐，設(shè)有攻防雙向賽道,。