當(dāng)科技博主畢導(dǎo)看到數(shù)字人“畢導(dǎo)”大言不慚地?fù)屪约旱娘埻霑r(shí),，再一次直呼Amazing。

9月6日下午,，外灘大會(huì)AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽的表演賽拉開(kāi)帷幕,，用AI技術(shù)對(duì)抗Deepfake的TOP選手代表，在全網(wǎng)期待中亮相,。室外40度的天氣,，室內(nèi)400度的熱情。

來(lái)自上海的觀眾朱先生表示，第一次肉眼看到生成式AI與deepfake檢測(cè)技術(shù)的正面交鋒,，比賽太有意思了,。

人工PK人工智能,，哪家強(qiáng),？

在簡(jiǎn)短的Top選手頒獎(jiǎng)之后，選手之間的比拼再次打響,。中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院和螞蟻數(shù)科天璣實(shí)驗(yàn)室聯(lián)合出題,，對(duì)選手模型進(jìn)行終極考察。和線上賽一樣,，表演賽現(xiàn)場(chǎng)分為圖像賽道和音視頻賽道,，各賽道TOP3選手兩兩PK。

圖像賽道一開(kāi)始,，臺(tái)下立即躁動(dòng)起來(lái),。主持人畢導(dǎo)喚出了9張瑪麗蓮夢(mèng)露的照片，其中2張是AIGC偽造的,。肉眼真假難辨的9張圖,，選手卻需要用自己的參賽模型給出每張圖片的偽造概率值，并對(duì)概率值最高的2張照片與正確答案進(jìn)行比對(duì),。

“本來(lái)以為只需要隔岸觀火,，不曾想到，自己也被卷進(jìn)了戰(zhàn)斗狀態(tài),，試圖用肉眼與AI一較高下”,，來(lái)自一家科技公司的觀眾小張說(shuō)。觀眾互動(dòng)環(huán)節(jié),，臺(tái)下不服氣的視覺(jué)設(shè)計(jì)師甚至請(qǐng)戰(zhàn)AI,，希望展示自己的專業(yè)敏感度。

偽造概率值的問(wèn)題,，引發(fā)了畢導(dǎo)的追問(wèn),，到底AI能否100%識(shí)別偽造。賽事出題人之一,、ZOLOZ技術(shù)總監(jiān)姚偉斌介紹道,，讓AI百分百識(shí)別偽造圖像是否偽造，是十分困難的,。偽造技術(shù)也在不斷迭代更新,，對(duì)抗需要不斷地提升。這也是我們今天做比賽的一大意義,。在實(shí)際應(yīng)用中,，通常是將識(shí)別算法與其他檢測(cè)手段結(jié)合使用，綜合判斷風(fēng)險(xiǎn)。

視頻賽道環(huán)節(jié),，畢導(dǎo)數(shù)字分身出演了多部經(jīng)典電影名場(chǎng)面,，選手同樣要通過(guò)AI模型來(lái)辨別真?zhèn)巍，F(xiàn)場(chǎng)選手比分上,，在一些難度一般的賽題上,，表演賽的結(jié)果比分接近，偽造識(shí)別率幾乎都在80%以上,，但是在一些高難度賽題上,，模型結(jié)果差異懸殊。

畢導(dǎo)向新加坡科技研究局天異教授發(fā)出靈魂拷問(wèn),，為什么肉眼覺(jué)得一眼假的畫(huà)面,，AI卻不能完全答對(duì)？而肉眼難以辨別的畫(huà)面,，AI反而1秒識(shí)別,？

對(duì)此，周天異認(rèn)為人類在判斷圖像是否偽造會(huì)依賴直覺(jué)和邏輯,，比如畢導(dǎo)的人臉換到了哈利波特身上,，人類一眼便知，AI卻不了解背后的故事,。而人類會(huì)下意識(shí)地偷懶，AI是最稱職的工具人,，AI不受情緒干擾,，他會(huì)一絲不茍、勤勤懇懇地完成人類的指令,。所以,，AI在工作效率和穩(wěn)定性上，都是大大高于人類的,。

近百名選手參與開(kāi)源模型代碼接力

近日,，Deepfake惡性事件牽動(dòng)人心。8月30日,，賽事組委會(huì)發(fā)起開(kāi)源倡議：“支持并鼓勵(lì)優(yōu)秀參與者開(kāi)源比賽模型,，降低技術(shù)門(mén)檻、加強(qiáng)技術(shù)交流,，進(jìn)而幫助更多人檢測(cè)偽造內(nèi)容,，助力AI向善。參賽者自主開(kāi)源后,，大賽組委會(huì)將在官方Github主頁(yè)上匯總所有開(kāi)源存儲(chǔ)庫(kù),。”

倡議一經(jīng)發(fā)出，就得到中國(guó)科學(xué)院自動(dòng)化研究所VisionRush隊(duì)伍和澳門(mén)大學(xué)JT Group的積極相應(yīng),。開(kāi)源不僅僅是免費(fèi)分享,，還意味著在技術(shù)社區(qū)開(kāi)展代碼接力，任何人都可以參與完善開(kāi)源模型,。

姚偉斌表示,，截至目前，已有近百名選手及所在隊(duì)伍表示愿意參與代碼接力,，希望通過(guò)技術(shù)手段,，為每一個(gè)可能受到傷害的人提供保護(hù)。參與選手還在不斷增加,。

研發(fā)檢測(cè)算法,，只是遏制Deepfake技術(shù)濫用的方式之一。姚偉斌坦言,，這種方式是相對(duì)滯后的,。如果要從根源上防范欺詐行為，姚偉斌認(rèn)為應(yīng)在標(biāo)準(zhǔn)和立法角度,，要求給AIGC內(nèi)容建立通用標(biāo)識(shí),，比如每一張AIGC生成的視頻/圖片都在文件信息里帶一個(gè)簽名或水印，這樣平臺(tái)管理更有依據(jù),，也能讓AIGC可以更可信,。

會(huì)上，十余家機(jī)構(gòu)聯(lián)合發(fā)布國(guó)內(nèi)首個(gè)面向金融場(chǎng)景的“AI 換臉”檢測(cè)標(biāo)準(zhǔn),。該標(biāo)準(zhǔn)的發(fā)布為金融場(chǎng)景下的虛假數(shù)字人臉安全檢測(cè)和評(píng)估提供了依據(jù),，也填補(bǔ)了這一領(lǐng)域的空白。這場(chǎng)Deepfake 攻防挑戰(zhàn)賽,，正是應(yīng)用了此標(biāo)準(zhǔn)的框架和指標(biāo),，進(jìn)行賽題的制定和答案的評(píng)價(jià)。

全球Deepfake攻防挑戰(zhàn)賽針對(duì)“AI換臉”的欺詐風(fēng)險(xiǎn)進(jìn)行攻防實(shí)戰(zhàn)演練,，并設(shè)立100萬(wàn)元人民幣的獎(jiǎng)金池,，鼓勵(lì)推動(dòng)AI向善的技術(shù)人才。大賽吸引了全球2200多名選手,，1500多支隊(duì)伍報(bào)名,，覆蓋中國(guó)、美國(guó),、印度,、澳大利亞、日本,、印尼,、馬來(lái),、新加坡、香港,、越南等26個(gè)國(guó)家和地區(qū),。

據(jù)了解，外灘大會(huì)AI創(chuàng)新賽包括 “AFAC2024 金融智能創(chuàng)新大賽”和“全球 Deepfake攻防挑戰(zhàn)賽”兩大子賽事,。全面展示了人工智能在多個(gè)領(lǐng)域的最新應(yīng)用與前沿探索,，也彰顯出了科技創(chuàng)新的無(wú)限活力,。同時(shí)，Inclusion外灘大會(huì)第二屆AI創(chuàng)新賽· “全球AI攻防挑戰(zhàn)賽”也正式啟動(dòng),。賽事聚焦AI大模型產(chǎn)業(yè)實(shí)踐,，設(shè)有攻防雙向賽道。