F5亞太區(qū)副總裁、北亞區(qū)總裁黃彥文解釋了何為“AI for ADC，ADC for AI”，面對AI熱潮，F(xiàn)5提出將AI技術(shù)整合到ADC中，提升應(yīng)用交付和安全性能（AI for ADC），同時利用ADC又為客戶的AI應(yīng)用提供支持（ADC for AI）。通過這種方式，助力客戶更好地應(yīng)對AI帶來的機(jī)遇和挑戰(zhàn)，打造更安全、高效的數(shù)字世界。

三大策略則是，完善適合中國區(qū)的AI解決方案組合，強(qiáng)調(diào)AI技術(shù)在不同行業(yè)的落地應(yīng)用。另一方面，縱深拓展新行業(yè)應(yīng)用，會有針對不同行業(yè)的解決方案。還有就是深化生態(tài)合作與渠道伙伴整合，通過合作伙伴關(guān)系，F(xiàn)5將AI技術(shù)與本地化需求相結(jié)合，推動AI在數(shù)據(jù)中心、工廠和車聯(lián)網(wǎng)等領(lǐng)域的應(yīng)用。

F5中國區(qū)產(chǎn)品及解決方案總經(jīng)理陳亮分享了六大AI解決方案，面向存儲的高性能數(shù)據(jù)流量管理；面向AI推理/大模型的四款解決方案，包括高效安全的AI應(yīng)用與模型推理K8S入口控制，基于DPU的高性能K8S入口控制，化解大模型風(fēng)險和降本增效的F5 AI網(wǎng)關(guān)，AI時代下的應(yīng)用與API安全防護(hù)；面向出海業(yè)務(wù)的AI/大模型的分布式快速部署與安全互聯(lián)。

F5 AI網(wǎng)關(guān)降低大模型風(fēng)險還有實現(xiàn)降本增效怎么理解？

好嘞，這是一個小編覺得有意思的點(diǎn)，F(xiàn)5的AI網(wǎng)關(guān)如何降低大模型風(fēng)險還有實現(xiàn)降本增效？

它的設(shè)計聚焦于大模型應(yīng)用中的三大關(guān)鍵需求：模型安全防護(hù)、風(fēng)險輸出攔截和全鏈路成本優(yōu)化。首先，AI模型的安全性至關(guān)重要，F(xiàn)5 AI網(wǎng)關(guān)提供了針對提示詞注入、數(shù)據(jù)泄露和模型竊取等攻擊的防護(hù)措施。

其次，AI網(wǎng)關(guān)通過強(qiáng)大的風(fēng)險輸出攔截機(jī)制，能夠阻止幻覺輸出、偏見內(nèi)容等不合規(guī)的模型結(jié)果。

此外，AI模型調(diào)用的成本逐漸成為企業(yè)關(guān)注的焦點(diǎn)，F(xiàn)5 AI網(wǎng)關(guān)通過智能路由和流量拆分等策略，幫助企業(yè)降低模型調(diào)用的開支。

簡單理解就是防止黑客亂改提示詞，誘導(dǎo)AI倒反天罡，加拿大航空公司就因為AI客服出現(xiàn)幻覺說出本不存在的虛假折扣不得不進(jìn)行客戶賠償。還有防止數(shù)據(jù)泄露，就是守住關(guān)鍵數(shù)據(jù)不被錯誤投喂給大模型，另一個就是防止大模型被竊取。

針對AI大模型的幻覺問題，AI網(wǎng)關(guān)設(shè)置了內(nèi)容審核，攔截胡編亂造的信息，幫忙過濾過激言論，自動打碼敏感詞。而陳亮也把這一行為貼切的比作是“壞孩子”和“熊孩子”的教化過程。

智能路由和流量拆分等策略就更能體現(xiàn)出精打細(xì)算了，模型調(diào)度上，同時連接多個AI接口，需求簡單的就用便宜但好用的模型，不用找比如GPT-4o這種貴的，需求復(fù)雜的才用貴且精準(zhǔn)的模型，還有就是幫忙限流，可以把企業(yè)內(nèi)部的AI使用理解為手機(jī)流量管理。當(dāng)AI網(wǎng)關(guān)檢測到某個部門大量進(jìn)行非必要的大模型調(diào)用，就會自動觸發(fā)限流機(jī)制，就像手機(jī)套餐超額后降速一樣確保整體成本可控。

F5如何助力汽車行業(yè)的創(chuàng)新與轉(zhuǎn)型

在會上，F(xiàn)5中國區(qū)新行業(yè)解決方案總監(jiān)、資深架構(gòu)師謝乾屹還分享了F5如何助力汽車行業(yè)的創(chuàng)新與轉(zhuǎn)型。

車聯(lián)網(wǎng)的普及和發(fā)展，使得汽車行業(yè)面臨巨大的數(shù)據(jù)流量和安全問題。F5通過高效的應(yīng)用交付和安全防護(hù)解決方案，在車輛的生產(chǎn)、銷售以及使用過程中為汽車行業(yè)提供技術(shù)支持，確保車聯(lián)網(wǎng)的數(shù)據(jù)傳輸和操作的安全性。

比如通過F5的分布式云服務(wù)，汽車企業(yè)可以實現(xiàn)跨地域、跨平臺的數(shù)據(jù)連接和安全保障，為車聯(lián)網(wǎng)提供更加可靠的支撐。F5的AI加速解決方案還能幫助車企提升車聯(lián)網(wǎng)的響應(yīng)速度，使駕駛員能夠更快地獲取實時交通信息、導(dǎo)航數(shù)據(jù)等。

在智能工廠里，F(xiàn)5還通過實時監(jiān)控生產(chǎn)數(shù)據(jù)流量，并根據(jù)生產(chǎn)需求動態(tài)調(diào)整資源分配，確保每個生產(chǎn)環(huán)節(jié)的高效運(yùn)作。F5的高可用性和災(zāi)難恢復(fù)能力還能確保智能工廠在任何情況下的生產(chǎn)持續(xù)性。

最后

在數(shù)據(jù)流量管理、容器化部署、AI推理優(yōu)化以及汽車行業(yè)的智能制造和車聯(lián)網(wǎng)應(yīng)用等諸多領(lǐng)域，F(xiàn)5的技術(shù)始終發(fā)揮著關(guān)鍵作用，為企業(yè)在瞬息萬變的市場環(huán)境中提供了堅實支撐，助力其保持強(qiáng)勁的競爭力。展望未來，期待F5能夠持續(xù)深化AI技術(shù)與應(yīng)用交付的融合，不斷突破創(chuàng)新，為行業(yè)發(fā)展注入更多活力。

崔歡歡