數(shù)字時(shí)代，隨著人工智能技術(shù)的廣泛應(yīng)用，為了更好地規(guī)范人工智能領(lǐng)域的科技活動(dòng)，我國(guó)陸續(xù)發(fā)布了一系列法律和行政法規(guī)；在要求確保模型決策的安全可靠和公平公正的同時(shí)，也對(duì)企業(yè)內(nèi)針對(duì)模型的風(fēng)險(xiǎn)管理和內(nèi)控制度提出了具體要求。

9月16日，九部委聯(lián)合制定的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》發(fā)布，針對(duì)算法治理提出要利用三年時(shí)間，逐步建立“治理機(jī)制健全”、“監(jiān)管體系完善”、“算法生態(tài)規(guī)范”的算法安全綜合治理格局。人工智能模型風(fēng)險(xiǎn)治理作為“可信人工智能”技術(shù)發(fā)展中的重要環(huán)節(jié)，已經(jīng)成為企業(yè)可信人工智能研究和應(yīng)用的必要工作之一，企業(yè)應(yīng)該實(shí)施切實(shí)有效的治理措施，快速靈活應(yīng)對(duì)模型風(fēng)險(xiǎn)。

據(jù)悉，此次測(cè)評(píng)參照的標(biāo)準(zhǔn)是由中國(guó)信通院聯(lián)合20余家行業(yè)優(yōu)秀企業(yè)和專家依托中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)平臺(tái)聯(lián)合制定的《人工智能模型風(fēng)險(xiǎn)治理能力成熟度模型》。該標(biāo)準(zhǔn)聚焦企業(yè)人工智能模型風(fēng)險(xiǎn)治理，建立了一套圍繞人工智能模型的風(fēng)險(xiǎn)治理能力成熟度的治理框架。

測(cè)評(píng)圍繞“AI模型全生命周期管理”、“應(yīng)急響應(yīng)”、“決策透明”、“專利保護(hù)”、“模型安全影響評(píng)估”、“交互與溝通”、“外部合作”等板塊展開；對(duì)參評(píng)企業(yè)在可信人工智能領(lǐng)域，包括魯棒性、可解釋性、公平性、數(shù)據(jù)隱私保護(hù)等不同維度的技術(shù)能力及技術(shù)治理方案都做出了規(guī)范和要求。

作為首批通過測(cè)試的參評(píng)單位，螞蟻集團(tuán)全面風(fēng)險(xiǎn)管理部高級(jí)專家楊舟也受邀參與了論壇分享。他表示，螞蟻集團(tuán)本次送測(cè)的“智能金融犯罪風(fēng)險(xiǎn)防控模型”，此前已廣泛應(yīng)用于反欺詐等金融犯罪風(fēng)險(xiǎn)防控領(lǐng)域，不僅在魯棒性、可解釋性、隱私保護(hù)、公平性等領(lǐng)域的技術(shù)創(chuàng)新及實(shí)踐應(yīng)用上積累了豐富的經(jīng)驗(yàn)，在操作風(fēng)險(xiǎn)防控、模型全生命周期質(zhì)量管控、模型使用管理等模型治理方面，也做出了許多積極探索?？尚?、智能模型風(fēng)險(xiǎn)管理體系已成為螞蟻全面風(fēng)險(xiǎn)管理的核心模塊。

xiesc