1月16日, 思科發(fā)布人工智能防御系統(tǒng)（Cisco AI Defense）。將于今年3月上線的這一開創(chuàng)性解決方案旨在助力企業(yè)的AI轉(zhuǎn)型進(jìn)程。思科亞太、日本及大中華區(qū)總裁Dave West相信，此舉將為思科自身及客戶塑造未來數(shù)十年的世界。

在Dave West看來，不久的將來只有兩類企業(yè)存在：一類是以AI為驅(qū)動(dòng)、為前沿的公司，另一類是視AI無關(guān)緊要的公司，由于前者份額的不斷增長，意味著人工智能的安全保障將成為未來最大的挑戰(zhàn)之一。Cisco AI Defense就是針對這一挑戰(zhàn)的思考與應(yīng)對措施。

兼顧速度與安全，護(hù)航組織和模型以及傳統(tǒng)三層架構(gòu)

談及架構(gòu)，思科亞太、日本及大中華區(qū)網(wǎng)絡(luò)銷售和解決方案工程副總裁Raymond Janse van Rensburg指出，傳統(tǒng)的應(yīng)用程序有三層架構(gòu)，分別是基礎(chǔ)設(shè)施、數(shù)據(jù)和應(yīng)用程序，而AI的誕生豐富了這一內(nèi)容——架構(gòu)被拓展至四層，那就是模型。大量的模型往往處于多個(gè)云當(dāng)中，其非確定性決定了人類難以知曉其輸出的內(nèi)容，其不斷發(fā)展變化的動(dòng)態(tài)特性，也在不斷創(chuàng)造新的風(fēng)險(xiǎn)。因此，保護(hù)組織和模型以及傳統(tǒng)三層架構(gòu)免受各類風(fēng)險(xiǎn)的影響十分重要。

Raymond Janse van Rensburg表示，所有問題及對策均與安全（Safety）、保障（Security）兩個(gè)概念相關(guān)，前者是指類似偏差的注入問題，也就是模型是否做應(yīng)該做或者人們期望它做的事情，后者是指保護(hù)保護(hù)模型免受來自于外部的威脅與攻擊，并導(dǎo)致模型中的行為發(fā)生變更。

盡管模型的供應(yīng)商在模型中納入了安全相關(guān)的性能，但這些安全的標(biāo)準(zhǔn)可能與使用者所在組織中的安全標(biāo)準(zhǔn)存在差異。因此，安全要有共同的基礎(chǔ)，在所有的AI模型以及應(yīng)用程序和智能體中，實(shí)施相同的安全護(hù)欄。

在市場發(fā)展快速變化的情況下，絕不能夠以犧牲安全為代價(jià)來追求速度，也不能夠犧牲速度來確保安全。思科從根本上重新構(gòu)想人工智能時(shí)代的安全和保障，有效兼顧了速度和安全；Cisco AI Defense并不是單點(diǎn)解決方案，而是集成的安全平臺的一部分。

兩大舉措支持企業(yè)無縫創(chuàng)新并保障安全

思科全球人工智能軟件和平臺副總裁DJ Sampath表示，Cisco AI Defense通過兩大舉措支持企業(yè)無縫創(chuàng)新并保障安全：

一是以包括可視化方式了解員工、用戶以及使用ChatGPT等各類AI工具與應(yīng)用程序任何人員的過程，無需任何額外安裝。對于AI應(yīng)用程序的用戶而言，學(xué)習(xí)曲線也很簡單。如在上傳保密信息的時(shí)候，他們會(huì)收到類似 “這些信息可能會(huì)包含個(gè)人數(shù)據(jù)，最好不要上傳”等提示信息，如果他們試著復(fù)制粘貼一些惡意代碼，也會(huì)收到警告。鑒于需求來自全球、法規(guī)各自不同且在不斷變化，思科為不同地區(qū)定制保護(hù)措施，并確保它們符合相關(guān)地區(qū)的法規(guī)要求。所有這些操作都提供了極大的靈活性，使用的方便性。僅需點(diǎn)擊思科AI助手，即可輕松化解任何疑惑。

二是為正在開發(fā)AI應(yīng)用程序或AI智能體的任何人提供相應(yīng)的安全。比如通過在公有云或私有云上執(zhí)行安全護(hù)欄，監(jiān)控這些工具正在做什么、哪些模型能夠驅(qū)動(dòng)它們，需要哪些數(shù)據(jù)來做訓(xùn)練、需要什么樣的可視性以及提供足夠高的可視性支持。

二者都是在大規(guī)模驗(yàn)證和大規(guī)模保護(hù)兩個(gè)重要的創(chuàng)新基礎(chǔ)上來推動(dòng)的。

對于模型的驗(yàn)證過程，思科采用人工智能的算法紅隊(duì)來操控模型一系列問題，這些問題可能是如何非法啟動(dòng)或者偷竊一輛汽車等等，整個(gè)過程以目的為導(dǎo)向來建構(gòu)，并且不斷提高其效率或速度。思科采用了去年夏天推出的名為“攻擊樹”或 “剪制”的技術(shù)并將其整合，通過匯集的海量數(shù)據(jù)以可視化方式來驗(yàn)證效果。同時(shí)還與Scale AI等行業(yè)頂尖公司進(jìn)行合作，利用數(shù)據(jù)進(jìn)行更好的模型建設(shè)。

此外，思科還提出大量建議，比如因不同的護(hù)欄及結(jié)果對AI安全進(jìn)行分類，研究團(tuán)隊(duì)進(jìn)行認(rèn)知超載攻擊進(jìn)行相關(guān)研究，進(jìn)一步能夠提升安全的等級，速度非?？?，效率也非常高。

DJ Sampath認(rèn)為這些舉措在業(yè)界獨(dú)一無二。他演示了Cisco AI Defense應(yīng)用全過程及其效果，模型的驗(yàn)證快捷、高效，護(hù)欄的操作簡便、可靠，風(fēng)險(xiǎn)的攔截及時(shí)可見。

思科正在推進(jìn)其在不同的平臺上應(yīng)用，使得跟用戶與應(yīng)用連接更加緊密，提供更好的保護(hù)。該系統(tǒng)的核心點(diǎn)是基于早期推出的版本提供的海量反饋。

簡單、便捷、高效、易操作

在業(yè)務(wù)管理中，負(fù)責(zé)運(yùn)營安全的員工已經(jīng)在使用多種監(jiān)測工具，監(jiān)督情況也變得相當(dāng)復(fù)雜。思科不斷地創(chuàng)新AI應(yīng)用，提供多種方法讓安全操作更加簡單。如XDR AI助手可管理提示，減少警報(bào)疲勞的產(chǎn)生，技術(shù)插件TA可將人工智能防御系統(tǒng)無縫集成到Splunk中，讓用戶可使用SplunkAI助手來減輕可能從警報(bào)中看到的任何過載，從而簡化修復(fù)響應(yīng)。Cisco AI Defense還具有非常高的保真度，自動(dòng)過濾大量誤報(bào)。

DJ Sampath表示，思科在設(shè)計(jì)時(shí)就考慮到了良好的用戶體驗(yàn)和可用性，讓開發(fā)者無障礙地去使用，并支持其不斷構(gòu)建應(yīng)用程序；Cisco AI Defense因?yàn)槟軌蛱峁┧蠥I工具的可見性，因而能夠?qū)I的管理進(jìn)行進(jìn)一步的簡化，也意味著進(jìn)一步提升AI應(yīng)用的安全性。

對于即將部署Cisco AI Defense的新用戶，最低的設(shè)置就是AI的云可見性解決方案，最多只需要5分鐘就能夠完成部署。由于思科的解決方案處于出口網(wǎng)關(guān)或代理服務(wù)器內(nèi)部，對應(yīng)的大部分是未加密流量；即使是加密的流量，也能終止SSL，然后通過查看請求響應(yīng)提示提供所需要的安全性，確保護(hù)欄不會(huì)影響到系統(tǒng)性能。雖然可能導(dǎo)致數(shù)百毫秒的延遲，但在生成式AI用例中是可接受的。

強(qiáng)化與合作伙伴的密切關(guān)系

思科一直與合作伙伴緊密合作。Dave West表示，97%的業(yè)務(wù)是與合作伙伴共同進(jìn)行合作完成的并在保證安全性方面取得巨大成功。DJ Sampath補(bǔ)充道，Cisco AI Defense面世之前，思科已面向主要的合作伙伴和渠道介紹了整個(gè)內(nèi)容，并根據(jù)他們的反饋進(jìn)行優(yōu)化；思科將所有解決方案整合到思科安全云中，使MSSP能夠通過該控制臺配置和管理所有這些安全功能，進(jìn)一步提升服務(wù)能力。

進(jìn)入2025年，越來越多的AI智能體正在出現(xiàn)，這意味著人們需要了解當(dāng)前環(huán)境所運(yùn)行的AI到底是什么，并提供合適的治理以及管理政策，保護(hù)用戶數(shù)據(jù)與隱私以及知識產(chǎn)權(quán)。思科持續(xù)與更多用戶訪談，了解并保證其不斷升級的需求，進(jìn)行針對性的開發(fā)。

“在2022年，我們無法想象到2025年將會(huì)發(fā)生什么。如今已經(jīng)是2025年了，AI的快速發(fā)展讓人有點(diǎn)恐懼，但同時(shí)也讓人感到興奮。也許再過兩年，AI可能會(huì)無處不在了?！癉ave West總結(jié)說。

xiesc