與會(huì)的聯(lián)合國(guó)科學(xué)和技術(shù)促進(jìn)發(fā)展委員會(huì)執(zhí)行主席、世界數(shù)字技術(shù)院創(chuàng)始理事長(zhǎng)Peter Major表示，隨著人工智能不斷發(fā)展并影響全球各個(gè)行業(yè)，人工智能相關(guān)標(biāo)準(zhǔn)的國(guó)際合作變得越來(lái)越重要。制定全球公認(rèn)的人工智能國(guó)際標(biāo)準(zhǔn)，有助于培養(yǎng)對(duì)人工智能的信任、促進(jìn)創(chuàng)新，并確保人工智能系統(tǒng)在不同行業(yè)和地區(qū)可靠運(yùn)行。

針對(duì)此次發(fā)布的標(biāo)準(zhǔn)，云安全聯(lián)盟（CSA）大中華區(qū)主席李雨航表示大模型系統(tǒng)的運(yùn)行依賴于分布在全球相互聯(lián)系的供應(yīng)鏈生態(tài)系統(tǒng)。全球人工智能大模型的廣泛應(yīng)用帶來(lái)了前所未有的機(jī)遇，同時(shí)也暴露出供應(yīng)鏈安全的巨大挑戰(zhàn)。WDTA發(fā)布該標(biāo)準(zhǔn)為大模型的全生命周期安全提供了系統(tǒng)性管理框架，解決了供應(yīng)鏈中的安全挑戰(zhàn)，支持全球人工智能技術(shù)的安全和可持續(xù)發(fā)展，提升了行業(yè)的整體可信度。

信息顯示，《大模型供應(yīng)鏈安全要求》是WDTA人工智能安全、可信、負(fù)責(zé)任（AI STR）系列標(biāo)準(zhǔn)之一。該標(biāo)準(zhǔn)給出了大語(yǔ)言模型的供應(yīng)鏈安全保護(hù)框架，從數(shù)據(jù)準(zhǔn)備、大模型開發(fā)到部署運(yùn)維各個(gè)環(huán)節(jié)涉及的供應(yīng)鏈相關(guān)安全風(fēng)險(xiǎn)和供應(yīng)活動(dòng)管理給出了要求，并給出了常見的供應(yīng)鏈安全風(fēng)險(xiǎn)、典型安全案例等相關(guān)信息。通過(guò)這一標(biāo)準(zhǔn)，可有效識(shí)別和評(píng)估大模型系統(tǒng)生命周期中面臨的供應(yīng)鏈潛在安全風(fēng)險(xiǎn)，如數(shù)據(jù)泄露、模型篡改及供應(yīng)商不合規(guī)等問(wèn)題，確保供應(yīng)鏈的完整性、可用性、保密性，從而提升大模型系統(tǒng)的安全性。

據(jù)了解，這一標(biāo)準(zhǔn)不僅為大模型供應(yīng)鏈中的供需雙方提供了系統(tǒng)性的安全管理框架，也為第三方機(jī)構(gòu)和權(quán)威部門的安全審查和合規(guī)管理提供了可靠依據(jù)，進(jìn)一步增強(qiáng)了大模型系統(tǒng)的整體安全可信發(fā)展。

世界數(shù)字技術(shù)院（WDTA）成立于2023年4月，是在日內(nèi)瓦注冊(cè)的國(guó)際非政府組織。該組織致力于在全球范圍內(nèi)推進(jìn)數(shù)字技術(shù)，促進(jìn)國(guó)際合作。AI STR計(jì)劃是WDTA的核心倡議，旨在確保人工智能系統(tǒng)的安全性、可信性和責(zé)任性，微軟、谷歌、Anthropic、螞蟻集團(tuán)、百度等均為其成員單位。今年4月聯(lián)合國(guó)科技大會(huì)上，WDTA發(fā)布了由OpenAI、螞蟻集團(tuán)、科大訊飛、谷歌等數(shù)十家單位參編的兩項(xiàng)大模型安全國(guó)際標(biāo)準(zhǔn)，均為AI STR系列標(biāo)準(zhǔn)。

在全球人工智能發(fā)展和治理廣受關(guān)注的今天，如何平衡AI的發(fā)展與安全，已成為國(guó)際社會(huì)面臨的共同話題。我國(guó)也在積極推動(dòng)人工智能治理體系優(yōu)化完善，推出了《全球人工智能治理倡議》《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》等一系列政策。本次論壇上，與會(huì)嘉賓各自分享了觀點(diǎn)與展望，致力推動(dòng)形成全球人工智能安全治理共識(shí)和創(chuàng)新合作。

全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)委員/WG7副組長(zhǎng)閔京華表示，AI治理的根本目的在于保障AI的價(jià)值實(shí)現(xiàn)與風(fēng)險(xiǎn)的平衡。實(shí)現(xiàn)這一目的，從政策法規(guī)、技術(shù)標(biāo)準(zhǔn)到安全產(chǎn)品及服務(wù)等各個(gè)層面都需要行業(yè)共同努力協(xié)作。技術(shù)標(biāo)準(zhǔn)作為其中不可或缺的環(huán)節(jié)，凝聚了不同組織的專家共識(shí)，可確保人工智能系統(tǒng)是安全、可信賴和對(duì)所有人都有益的。

AI安全也是科技企業(yè)需解決的重要社會(huì)責(zé)任議題。螞蟻集團(tuán)機(jī)器智能部總經(jīng)理、安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)表示，螞蟻集團(tuán)長(zhǎng)期關(guān)注AI安全，一方面積極參與技術(shù)標(biāo)準(zhǔn)規(guī)范建設(shè)，另一方面在研發(fā)大模型技術(shù)中時(shí)刻關(guān)注風(fēng)險(xiǎn)評(píng)估結(jié)果，實(shí)施并提升大模型的安全性、可靠性、可控性技術(shù)。螞蟻集團(tuán)是較早布局可信AI技術(shù)的科技企業(yè)之一，其自主研發(fā)的大模型安全一體化解決方案“蟻天鑒”，相關(guān)檢測(cè)和防御產(chǎn)品已開放給20余家外部機(jī)構(gòu)和企業(yè)使用。

除了標(biāo)準(zhǔn)發(fā)布，論壇現(xiàn)場(chǎng)宣布了國(guó)內(nèi)首個(gè)大模型攻防主題的科技賽事—“全球AI攻防挑戰(zhàn)賽”正式啟動(dòng)。該賽事聚焦AI大模型產(chǎn)業(yè)實(shí)踐，設(shè)計(jì)了“攻擊”與“防守”雙向賽道，邀請(qǐng)各路技術(shù)人才進(jìn)行大模型自身安全和大模型生成內(nèi)容的防偽檢測(cè)及大模型濫用風(fēng)險(xiǎn)檢測(cè)競(jìng)賽，角逐百萬(wàn)元科技獎(jiǎng)金。

據(jù)了解，這一賽事由中國(guó)圖象圖形學(xué)會(huì)、螞蟻集團(tuán)、云安全聯(lián)盟（CSA）大中華區(qū)聯(lián)合主辦，廣泛聯(lián)合清華大學(xué)、上海交通大學(xué)、浙江大學(xué)等C9高校及多家產(chǎn)學(xué)研組織共同發(fā)起，上海人工智能實(shí)驗(yàn)室作為技術(shù)合作單位，旨在凝聚學(xué)界、行業(yè)力量，直面并解決大模型應(yīng)用中潛藏的風(fēng)險(xiǎn)，助力全球AI產(chǎn)業(yè)健康可持續(xù)發(fā)展。

最后，本次論壇還發(fā)布了《AI可信度分析》報(bào)告。該報(bào)告由云安全聯(lián)盟（CSA）大中華區(qū)發(fā)布，其成員單位中國(guó)電信、西安電子科技大學(xué)、廣州大學(xué)、螞蟻集團(tuán)、百度及天翼云等共同編制，不僅深入剖析了人工智能技術(shù)在實(shí)際應(yīng)用中的可信性問(wèn)題，從可靠性、安全性、透明性和公平性等關(guān)鍵維度，對(duì)當(dāng)前AI技術(shù)的優(yōu)勢(shì)與挑戰(zhàn)進(jìn)行了全面評(píng)估，并提出了AI系統(tǒng)可信度的策略，涵蓋技術(shù)措施、政策建議及行業(yè)最佳實(shí)踐。

xiesc