思科正式發(fā)布思科人工智能防御系統(tǒng)（Cisco AI Defense），這一開創(chuàng)性解決方案旨在助力企業(yè)的AI轉(zhuǎn)型進程

人工智能技術出錯的風險極高。根據(jù)思科發(fā)布的《2024年人工智能就緒指數(shù)》，僅有29%的中國大陸受訪企業(yè)能夠全面檢測并防止未經(jīng)授權(quán)的篡改。由于AI應用呈現(xiàn)多云、多模型的態(tài)勢，其面臨的安全挑戰(zhàn)也是全新且復雜的。漏洞可能出現(xiàn)在模型層或應用層，而開發(fā)者、終端用戶及供應商的責任難以明確。隨著企業(yè)逐漸從利用公共數(shù)據(jù)轉(zhuǎn)向在自有專有數(shù)據(jù)上訓練模型，相關風險也在不斷攀升。

為釋放AI的創(chuàng)新潛力并推動其廣泛應用，企業(yè)亟需構(gòu)建一個通用的安全防護層，保護每位用戶和每項應用。思科人工智能防御系統(tǒng)通過解決以下兩大緊迫風險，助力企業(yè)推進人工智能轉(zhuǎn)型：

開發(fā)與部署安全的AI應用：隨著人工智能技術的普及，企業(yè)將使用并開發(fā)成百上千種AI應用程序。開發(fā)者需要一套適用于所有應用的AI安全防護措施。思科人工智能防御系統(tǒng)能夠助力開發(fā)者加速創(chuàng)新進程并創(chuàng)造更大價值，通過全方位保護人工智能系統(tǒng)免受攻擊，并保障模型行為的穩(wěn)定性，實現(xiàn)跨平臺的安全防護。該系統(tǒng)具備以下功能：

?AI檢測：安全團隊需要了解構(gòu)建應用的主體以及其使用的訓練源。思科人工智能防御系統(tǒng)能夠在公有云和私有云中檢測到未授權(quán)和已授權(quán)的AI應用。

?模型驗證：模型調(diào)整可能導致有害或意外結(jié)果。思科人工智能防御系統(tǒng)的自動化測試可檢查人工智能模型中數(shù)百種潛在的安全問題。這支由人工智能驅(qū)動的算法紅隊能夠識別潛在漏洞，并為安全團隊推薦思科人工智能防御系統(tǒng)中的防護措施。

?運行時安全：持續(xù)驗證能夠防范潛在的安全威脅，如提示注入、拒絕服務和敏感數(shù)據(jù)泄露等。

確保AI應用的訪問安全：隨著終端用戶紛紛采用總結(jié)工具等AI應用來提高工作效率，安全團隊需要防范數(shù)據(jù)泄露以及專有數(shù)據(jù)污染的風險。思科人工智能防御系統(tǒng)為安全團隊賦予以下能力：

?可視化：全面了解員工使用的未授權(quán)和已授權(quán)的AI應用。

?訪問控制：通過實施策略限制員工訪問未授權(quán)的AI工具。

?數(shù)據(jù)與威脅防護：持續(xù)防范威脅和機密數(shù)據(jù)丟失，同時確保合規(guī)性。

思科人工智能防御系統(tǒng)解決方案可驗證網(wǎng)絡安全威脅

不同于嵌入在單個AI模型中的安全措施，思科提供的是適用于多模型環(huán)境的一致性控制。思科人工智能防御系統(tǒng)具備自我優(yōu)化能力，可基于思科獨有的機器學習模型，并利用思科Talos的威脅情報數(shù)據(jù)檢測不斷演變的AI安全問題。使用思科人工智能防御系統(tǒng)的Splunk客戶將收到來自整個生態(tài)系統(tǒng)的附加上下文的豐富警報。思科人工智能防御系統(tǒng)能夠無縫對接現(xiàn)有的數(shù)據(jù)流，實現(xiàn)卓越的可視化與控制力，并深度集成于思科推出的統(tǒng)一化、由人工智能驅(qū)動的跨領域安全平臺——思科安全云中。通過利用思科廣泛的執(zhí)行點網(wǎng)絡，思科人工智能防御系統(tǒng)在網(wǎng)絡層面實現(xiàn)AI安全，其能力是思科獨有的優(yōu)化結(jié)果。準確性和可信度對于保護企業(yè)AI應用至關重要，思科一直積極參與制定人工智能安全行業(yè)標準，其中包括與MITRE、OWASP以及NIST等權(quán)威機構(gòu)合作開發(fā)的相關標準。

思科人工智能防御系統(tǒng)解決方案提供卓越的可視性

World Wide Technology全球AI與網(wǎng)絡創(chuàng)新負責人Kent Noyes表示：“人工智能的廣泛應用使企業(yè)暴露在傳統(tǒng)網(wǎng)絡安全解決方案無法覆蓋的新風險中。思科人工智能防御系統(tǒng)在AI安全領域?qū)崿F(xiàn)了重大突破，為企業(yè)AI資產(chǎn)提供了全方位的可視化管理，并有效抵御不斷演進的各類威脅?！?/p>

繼思科Hypershield后，思科人工智能防御系統(tǒng)是思科AI驅(qū)動安全創(chuàng)新系列的最新成果。該系統(tǒng)將于3月正式向企業(yè)用戶開放，助力企業(yè)的人工智能轉(zhuǎn)型進程。

xiesc