螞蟻集團(tuán)大安全技術(shù)部總裁李俊奎介紹，該平臺內(nèi)嵌了自研的AI安全計(jì)算引擎，計(jì)算性能提升了數(shù)十倍；內(nèi)置了40余種國內(nèi)外主流及自研的攻擊算法模型，通過模擬黑產(chǎn)及自動進(jìn)化攻擊手段，對AI模型“檢測—防御—升級”，可有效發(fā)現(xiàn)AI模型漏洞，減少系統(tǒng)性風(fēng)險；此外，該平臺覆蓋了對模型未知情況下的“隨機(jī)噪聲”、“遷移攻擊”等攻擊樣本，更符合工業(yè)界應(yīng)用的攻擊評測基準(zhǔn)。

李俊奎說，該平臺支持零編碼測評，用戶上傳待測模型，選擇攻擊算法后，平臺可自動化評估AI安全風(fēng)險，全面加固模型算法。該平臺現(xiàn)已開放AI模型魯棒性測評，未來持續(xù)增加模型可解釋性、算法公平性、隱私保護(hù)等特性的檢測服務(wù)。

據(jù)介紹，“蟻鑒”AI安全檢測平臺搭載的技術(shù)能力，已在螞蟻的交易安全、核身安全、內(nèi)容安全等多個場景有效應(yīng)用實(shí)踐。例如，在垃圾賬號治理場景上，通過平臺基于深度神經(jīng)網(wǎng)絡(luò)的博弈攻防模型，模擬黑產(chǎn)攻擊手段提前防御，風(fēng)險賬號漏過減少2成多；在內(nèi)容安全文本場景，基于文本對抗訓(xùn)練的模型，降低風(fēng)險漏過38%；在憑證認(rèn)證場景，基于平臺提前發(fā)現(xiàn)的模型問題和對抗訓(xùn)練增強(qiáng)方案，消除23%的潛在黑產(chǎn)攻擊威脅項(xiàng)。

中國信通院云計(jì)算與大數(shù)據(jù)研究所內(nèi)容科技部副主任石霖表示，人工智能技術(shù)與制造、醫(yī)療、能源、交通、城市建設(shè)等領(lǐng)域深度融合，AI算法問題也在不斷出現(xiàn)。算法黑箱、算法設(shè)計(jì)缺陷、數(shù)據(jù)依賴、對抗樣本攻擊等問題對智能技術(shù)的產(chǎn)業(yè)化應(yīng)用帶來較大安全隱患。AI面向工業(yè)場景大規(guī)模應(yīng)用，要實(shí)現(xiàn)全鏈路安全可信，持續(xù)加強(qiáng)模型魯棒性。

清華大學(xué)副教授李琦表示，人工智能算法的通用自動化檢測是研究和解決人工智能安全問題的核心。此次推出的AI安全檢測平臺，首次全面解決了不同場景下AI算法的系統(tǒng)化和自動化評測，并提供了AI工業(yè)級應(yīng)用的安全量化評價指標(biāo)，有助于為人工智能算法在工業(yè)界的大規(guī)模應(yīng)用提供安全保障。

公開資料顯示，今年8月份，這項(xiàng)AI安全檢測平臺獲評信通院“2022年可信人工智能實(shí)踐案例”標(biāo)桿案例。螞蟻集團(tuán)自2015年起投入可信AI技術(shù)研究，擁有全球范圍內(nèi)數(shù)量最多的“AI安全可信關(guān)鍵技術(shù)”專利，已在反欺詐、反洗錢、反盜用、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護(hù)等場景落地。

xiesc