為應對AI偽造技術帶來的新型安全挑戰(zhàn)，近日，全球人工智能頂會IJCAI 2025“深度偽造檢測、定位、可解釋性”學術研討會暨挑戰(zhàn)賽”正式啟動報名。研討會將匯聚全球頂尖學者及產(chǎn)業(yè)人士，共同攻克多模態(tài)偽造、弱監(jiān)督偽造定位、偽造可解釋性、生成式AI對抗與防御等核心技術挑戰(zhàn)，同時，挑戰(zhàn)賽還提供超180萬數(shù)據(jù)集，針對AI欺詐風險進行攻防實戰(zhàn)演練，助力AI安全研究。

研討會與挑戰(zhàn)賽由螞蟻數(shù)科主辦，新加坡科技研究局人工智能前沿研究中心，南洋理工大學，清華大學，中科院自動化所，合肥工業(yè)大學，安徽省數(shù)字安全重點實驗室，羅切斯特大學，布法羅大學，坎皮納斯大學等多家機構聯(lián)合舉辦。

挑戰(zhàn)賽分設圖片賽道和音視頻賽道，通過“以賽促防”的方式，彌補現(xiàn)有檢測算法在精準定位偽造區(qū)域與多模態(tài)音視頻協(xié)同偽造識別方面的不足，提升AI時代內(nèi)容安全水位。值得一提的是，面向挑戰(zhàn)賽，螞蟻數(shù)科開放了超過180萬偽造樣本的多模態(tài)深度偽造數(shù)據(jù)集，共涵蓋88種偽造技術，推動建立可驗證、可追溯的生成式AI內(nèi)容安全分析體系。

選手需訓練AI模型，給出數(shù)據(jù)偽造概率值以及偽造區(qū)域/片段，準確率TOP3戰(zhàn)隊將獲得賽事組委會頒發(fā)的證書及獎金。目前賽事報名已正式啟動，將于5月19日完成比賽，5月26日完成技術報告提交。選手提交的技術方案報告，賽事組委會將結合方案創(chuàng)新性、泛化性、實用性、可解釋性等多維度評選接收至研討會，優(yōu)秀團隊將受邀參加研討會并作學術報告。選手可前往研討會官網(wǎng)查看賽事日程及研討會詳細話題https://deepfake-workshop-ijcai2025.github.io/main/index.html

公開信息顯示，螞蟻數(shù)科長期關注并持續(xù)投入AI安全及風險防范，推動AI時代的安全水位不斷提升。去年4月份，螞蟻數(shù)科發(fā)布了反深偽產(chǎn)品ZOLOZ Deeper，以防范用戶刷臉認證場景中的“AI換臉”風險。螞蟻數(shù)科還加入新加坡人工智能倫理與治理倡議（AI E&G BoK），與行業(yè)機構共建健康、穩(wěn)健、合乎道德的人工智能生態(tài)。

xiesc