清華大學(xué)研究員興軍亮、螞蟻數(shù)科CEO趙聞飆為全球Deepfake攻防挑戰(zhàn)賽選手頒獎(jiǎng)

圖像賽道一開始，臺(tái)下立即躁動(dòng)起來(lái)。主持人畢導(dǎo)喚出了9張瑪麗蓮夢(mèng)露的照片，其中2張是AIGC偽造的。肉眼真假難辨的9張圖，選手卻需要用自己的參賽模型給出每張圖片的偽造概率值，并對(duì)概率值最高的2張照片與正確答案進(jìn)行比對(duì)。“本來(lái)以為只需要隔岸觀火，不曾想到，自己也被卷進(jìn)了戰(zhàn)斗狀態(tài)，試圖用肉眼與AI一較高下”，來(lái)自一家科技公司的觀眾小張說(shuō)。觀眾互動(dòng)環(huán)節(jié)，臺(tái)下不服氣的視覺設(shè)計(jì)師甚至請(qǐng)戰(zhàn)AI，希望展示自己的專業(yè)敏感度。

偽造概率值的問(wèn)題，引發(fā)了畢導(dǎo)的追問(wèn)，到底AI能否100%識(shí)別偽造。賽事出題人之一、ZOLOZ技術(shù)總監(jiān)姚偉斌介紹道，讓AI百分百識(shí)別偽造圖像是否偽造，是十分困難的。偽造技術(shù)也在不斷迭代更新，對(duì)抗需要不斷地提升。這也是我們今天做比賽的一大意義。在實(shí)際應(yīng)用中，通常是將識(shí)別算法與其他檢測(cè)手段結(jié)合使用，綜合判斷風(fēng)險(xiǎn)。

視頻賽道環(huán)節(jié)，畢導(dǎo)數(shù)字分身出演了多部經(jīng)典電影名場(chǎng)面，選手同樣要通過(guò)AI模型來(lái)辨別真?zhèn)巍，F(xiàn)場(chǎng)選手比分上，在一些難度一般的賽題上，表演賽的結(jié)果比分接近，偽造識(shí)別率幾乎都在80%以上，但是在一些高難度賽題上，模型結(jié)果差異懸殊。

畢導(dǎo)向新加坡科技研究局天異教授發(fā)出靈魂拷問(wèn)，為什么肉眼覺得一眼假的畫面，AI卻不能完全答對(duì)？而肉眼難以辨別的畫面，AI反而1秒識(shí)別？對(duì)此，周天異認(rèn)為人類在判斷圖像是否偽造會(huì)依賴直覺和邏輯，比如畢導(dǎo)的人臉換到了哈利波特身上，人類一眼便知，AI卻不了解背后的故事。而人類會(huì)下意識(shí)地偷懶，AI是最稱職的工具人，AI不受情緒干擾，他會(huì)一絲不茍、勤勤懇懇地完成人類的指令。所以，AI在工作效率和穩(wěn)定性上，都是大大高于人類的。

近百名選手參與開源模型代碼接力

近日，Deepfake惡性事件牽動(dòng)人心。8月30日，賽事組委會(huì)發(fā)起開源倡議：“支持并鼓勵(lì)優(yōu)秀參與者開源比賽模型，降低技術(shù)門檻、加強(qiáng)技術(shù)交流，進(jìn)而幫助更多人檢測(cè)偽造內(nèi)容，助力AI向善。參賽者自主開源后，大賽組委會(huì)將在官方Github主頁(yè)上匯總所有開源存儲(chǔ)庫(kù)?！背h一經(jīng)發(fā)出，就得到中國(guó)科學(xué)院自動(dòng)化研究所VisionRush隊(duì)伍和澳門大學(xué)JT Group的積極相應(yīng)。開源不僅僅是免費(fèi)分享，還意味著在技術(shù)社區(qū)開展代碼接力，任何人都可以參與完善開源模型。姚偉斌表示，截至目前，已有近百名選手及所在隊(duì)伍表示愿意參與代碼接力，希望通過(guò)技術(shù)手段，為每一個(gè)可能受到傷害的人提供保護(hù)。參與選手還在不斷增加。

全球Deepfake攻防挑戰(zhàn)賽 “DeepFakeDefenders”代碼接力行動(dòng)

研發(fā)檢測(cè)算法，只是遏制Deepfake技術(shù)濫用的方式之一。姚偉斌坦言，這種方式是相對(duì)滯后的。如果要從根源上防范欺詐行為，姚偉斌認(rèn)為應(yīng)在標(biāo)準(zhǔn)和立法角度，要求給AIGC內(nèi)容建立通用標(biāo)識(shí)，比如每一張AIGC生成的視頻/圖片都在文件信息里帶一個(gè)簽名或水印，這樣平臺(tái)管理更有依據(jù)，也能讓AIGC可以更可信。

會(huì)上，十余家機(jī)構(gòu)聯(lián)合發(fā)布國(guó)內(nèi)首個(gè)面向金融場(chǎng)景的“AI 換臉”檢測(cè)標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)的發(fā)布為金融場(chǎng)景下的虛假數(shù)字人臉安全檢測(cè)和評(píng)估提供了依據(jù)，也填補(bǔ)了這一領(lǐng)域的空白。這場(chǎng)Deepfake 攻防挑戰(zhàn)賽，正是應(yīng)用了此標(biāo)準(zhǔn)的框架和指標(biāo)，進(jìn)行賽題的制定和答案的評(píng)價(jià)。

國(guó)內(nèi)首個(gè)金融領(lǐng)域“AI 換臉”檢測(cè)標(biāo)準(zhǔn)正式發(fā)布

全球Deepfake攻防挑戰(zhàn)賽針對(duì)“AI換臉”的欺詐風(fēng)險(xiǎn)進(jìn)行攻防實(shí)戰(zhàn)演練，并設(shè)立100萬(wàn)元人民幣的獎(jiǎng)金池，鼓勵(lì)推動(dòng)AI向善的技術(shù)人才。大賽吸引了全球2200多名選手，1500多支隊(duì)伍報(bào)名，覆蓋中國(guó)、美國(guó)、印度、澳大利亞、日本、印尼、馬來(lái)、新加坡、香港、越南等26個(gè)國(guó)家和地區(qū)。

據(jù)了解，外灘大會(huì)AI創(chuàng)新賽包括 “AFAC2024 金融智能創(chuàng)新大賽”和“全球 Deepfake攻防挑戰(zhàn)賽”兩大子賽事。全面展示了人工智能在多個(gè)領(lǐng)域的最新應(yīng)用與前沿探索，也彰顯出了科技創(chuàng)新的無(wú)限活力。同時(shí)，Inclusion外灘大會(huì)第二屆AI創(chuàng)新賽? “全球AI攻防挑戰(zhàn)賽”也正式啟動(dòng)。賽事聚焦AI大模型產(chǎn)業(yè)實(shí)踐，設(shè)有攻防雙向賽道。

xiesc