中國(guó)信息通信研究院于2017年起開(kāi)始內(nèi)容審核技術(shù)方面的研究，依托中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)、國(guó)內(nèi)頭部互聯(lián)網(wǎng)公司、重點(diǎn)行業(yè)企業(yè)共同研究制定了《網(wǎng)絡(luò)治理能力評(píng)估規(guī)范：第2部分-有害信息內(nèi)容識(shí)別服務(wù)系統(tǒng)》，從內(nèi)容識(shí)別系統(tǒng)的圖像、文本、音頻、視頻的智能識(shí)別基礎(chǔ)功能、性能兩個(gè)維度進(jìn)行評(píng)測(cè)。2022年信通院針對(duì)當(dāng)前內(nèi)容測(cè)評(píng)技術(shù)發(fā)展情況，更新和豐富了測(cè)試數(shù)據(jù)集，該內(nèi)容審核服務(wù)測(cè)評(píng)具有較高的行業(yè)認(rèn)可度與標(biāo)桿性質(zhì)，在國(guó)內(nèi)具有領(lǐng)先性和代表性。

螞蟻天鑒內(nèi)容風(fēng)控體系依托億級(jí)數(shù)據(jù)構(gòu)建底層算法模型，告別傳統(tǒng)的基于人工或靜態(tài)識(shí)別技術(shù)的內(nèi)容過(guò)濾方式，實(shí)現(xiàn)“圖、文、音、視、行”綜合感知融合互補(bǔ)，打造出智能高效的多模態(tài)內(nèi)容風(fēng)控引擎，滿足平臺(tái)對(duì)海量?jī)?nèi)容的實(shí)時(shí)風(fēng)控需求，為網(wǎng)絡(luò)空間安全保駕護(hù)航。

其中，文本算法依托領(lǐng)域知識(shí)沉淀和風(fēng)險(xiǎn)語(yǔ)料積累，通過(guò)自然語(yǔ)言理解、知識(shí)圖譜、對(duì)抗魯棒性增強(qiáng)等技術(shù)手段，準(zhǔn)確識(shí)別非常規(guī)內(nèi)容如機(jī)器合成、異體字、卡通異化、隱晦表達(dá)等；圖像算法則采用強(qiáng)化混排、多模態(tài)預(yù)訓(xùn)練框架、多標(biāo)簽圖像分類(lèi)算法等技術(shù)，沉淀針對(duì)內(nèi)容風(fēng)險(xiǎn)事實(shí)標(biāo)簽體系的通用事實(shí)類(lèi)識(shí)別能力，可在應(yīng)用端進(jìn)行靈活組合適配不同場(chǎng)景的需求。

未來(lái)，天鑒內(nèi)容風(fēng)控體系將加強(qiáng)多模態(tài)內(nèi)容理解能力的建設(shè)，研發(fā)面向安全多模異構(gòu)數(shù)據(jù)理解的多模融合、跨模關(guān)聯(lián)和可控生成等技術(shù)，創(chuàng)研易于擴(kuò)展的算法框架，快速響應(yīng)開(kāi)放場(chǎng)景新內(nèi)容和新風(fēng)險(xiǎn)的識(shí)別，打造適合不同行業(yè)場(chǎng)景的內(nèi)容風(fēng)控應(yīng)用。從而為構(gòu)建互利多贏、開(kāi)放包容的內(nèi)容生態(tài)貢獻(xiàn)一份力量。

xiesc