一、Akamai Cloud Inference:重塑AI推理格局
Akamai Cloud Inference的推出,是此次發(fā)布的核心亮點(diǎn)之一。該服務(wù)運(yùn)行在Akamai全球最分布式的網(wǎng)絡(luò)上,致力于解決集中式云模型在AI數(shù)據(jù)處理方面日益凸顯的局限性。
對于平臺工程師和開發(fā)人員而言,Akamai Cloud Inference提供了強(qiáng)大的工具,幫助他們將AI應(yīng)用程序和數(shù)據(jù)密集型工作負(fù)載部署到離終端用戶更近的地方。在性能提升上,其吞吐量比傳統(tǒng)大規(guī)模云基礎(chǔ)設(shè)施提高了3倍,延遲最多可減少2.5倍。成本方面,企業(yè)在AI推理和代理式AI工作負(fù)載上,相比傳統(tǒng)方式節(jié)省多達(dá)86%的成本。
Akamai Cloud Inference能有如此出色的表現(xiàn),得益于其全面且先進(jìn)的架構(gòu)。在計(jì)算資源上,Akamai Cloud提供從經(jīng)典CPU到GPU、定制ASIC VPU等多樣化選擇,還與Nvidia的AI企業(yè)生態(tài)系統(tǒng)深度集成,利用Triton、Tao Toolkit等優(yōu)化AI推理性能。數(shù)據(jù)管理層面,Akamai與VAST Data合作,實(shí)現(xiàn)流暢的實(shí)時(shí)數(shù)據(jù)訪問,并通過可擴(kuò)展的對象存儲和與領(lǐng)先向量數(shù)據(jù)庫供應(yīng)商集成,支持增強(qiáng)生成檢索(RAG),安全存儲模型數(shù)據(jù)和訓(xùn)練工件,在全球范圍內(nèi)提供低延遲的AI推理。此外,借助Kubernetes進(jìn)行容器化,利用Linode Kubernetes Engine企業(yè)版和Akamai App Platform,集成開源Kubernetes項(xiàng)目,快速部署AI就緒平臺,簡化AI模型推理部署流程。同時(shí),通過與WASM提供商合作,支持開發(fā)者在邊緣執(zhí)行輕量級代碼,滿足延遲敏感型應(yīng)用程序的需求。
隨著AI應(yīng)用的普及,企業(yè)逐漸意識到大型語言模型(LLM)訓(xùn)練與實(shí)際推理應(yīng)用的差異。許多企業(yè)開始將重點(diǎn)轉(zhuǎn)向利用數(shù)據(jù)做出更快速、更智能的決策,投資更個(gè)性化的體驗(yàn)。Akamai Cloud Inference正好順應(yīng)這一趨勢,其早期客戶已在車載語音助手、AI驅(qū)動(dòng)的農(nóng)作物管理等多個(gè)領(lǐng)域取得了良好的應(yīng)用成果。
二、Akamai Cloud Accelerated Compute Instances:革新視頻處理體驗(yàn)
Akamai推出的云加速計(jì)算實(shí)例,是基于NETINT視頻處理單元(VPU)的全新計(jì)算類別,這使得Akamai成為首家在云端提供VPU的云服務(wù)商。
NETINT VPU專為優(yōu)化高質(zhì)量視頻流傳輸而設(shè)計(jì),能夠在降低成本和減少能耗方面發(fā)揮顯著作用。Akamai的加速實(shí)例由Quadra T1U VPU提供支持,這款單芯片解決方案具備強(qiáng)大的性能,支持最高8Kp60的編碼分辨率,兼容多種行業(yè)標(biāo)準(zhǔn)格式,可編碼32個(gè)1080p30廣播質(zhì)量的實(shí)時(shí)流,且在不同分辨率下容量呈線性擴(kuò)展。
在視頻流業(yè)務(wù)蓬勃發(fā)展的當(dāng)下,企業(yè)對優(yōu)化硬件和云解決方案的需求愈發(fā)迫切。此前,部署NETINT VPU硬件的方式受限,而Akamai的加速計(jì)算實(shí)例為媒體公司帶來了新的希望。它不僅提供了所需的可擴(kuò)展性,還不會增加IT預(yù)算負(fù)擔(dān)。借助VPU,企業(yè)可將計(jì)算密集型的視頻處理任務(wù)卸載,讓CPU執(zhí)行其他任務(wù),如動(dòng)態(tài)打包、實(shí)時(shí)語音轉(zhuǎn)文本字幕等。相比僅使用CPU的解決方案,VPU架構(gòu)的吞吐量提升了20倍。
Akamai憑借這一創(chuàng)新,在媒體行業(yè)的云服務(wù)領(lǐng)域獲得了新的競爭優(yōu)勢,其媒體服務(wù)已得到全球前十大視頻流媒體服務(wù)商的信任,提供從內(nèi)容貢獻(xiàn)、傳輸?shù)睫D(zhuǎn)碼、保護(hù)等全流程解決方案。
三、支持Kernel.org:助力開源生態(tài)發(fā)展
Akamai與Linux內(nèi)核組織簽署多年協(xié)議,為Kernel.org提供關(guān)鍵基礎(chǔ)設(shè)施支持,這一舉措彰顯了Akamai對開源開發(fā)和全球協(xié)作的堅(jiān)定承諾。
Kernel.org作為Linux內(nèi)核源代碼的主要分發(fā)系統(tǒng),以及全球開發(fā)者網(wǎng)絡(luò)的核心協(xié)調(diào)平臺,對于Linux操作系統(tǒng)的開發(fā)和維護(hù)至關(guān)重要。Linux內(nèi)核代碼量龐大,約有2800萬行,自2005年以來,眾多開發(fā)者為其做出了貢獻(xiàn)。Akamai提供的支持完全免費(fèi),幫助開發(fā)者無論身處何地,都能快速訪問內(nèi)核源代碼的Git環(huán)境。
Akamai自身的云平臺基礎(chǔ)建立在Linux和開源技術(shù)之上,此次支持Kernel.org,是其回饋開源社區(qū)的重要行動(dòng)。同時(shí),Akamai作為云原生計(jì)算基金會(CNCF)的金會員、KubeCon的白金贊助商,積極參與多個(gè)開源項(xiàng)目,此前還為CNCF項(xiàng)目捐贈(zèng)了100萬美元的基礎(chǔ)設(shè)施積分。此外,Akamai還宣布為Alpine Linux提供基礎(chǔ)設(shè)施和交付支持,進(jìn)一步推動(dòng)開源生態(tài)的發(fā)展。
四、與Fermyon合作:開啟邊緣計(jì)算新篇章
Akamai攜手Fermyon,首次推出基于WebAssembly(WASM)的邊緣原生無服務(wù)器和AI應(yīng)用程序,這一合作將為客戶帶來前所未有的應(yīng)用體驗(yàn)。
Fermyon的分布式引擎與Akamai的全球最大分布式網(wǎng)絡(luò)相結(jié)合,全新的Fermyon Wasm Functions引擎運(yùn)行在Akamai的網(wǎng)絡(luò)上,為Akamai客戶提供了強(qiáng)大的功能。客戶可以開發(fā)WebAssembly應(yīng)用程序,并通過該引擎進(jìn)行部署,構(gòu)建邊緣原生分布式應(yīng)用程序,降低出口成本;開發(fā)成本效益高的AI推理應(yīng)用程序,在離用戶更近的地方執(zhí)行;將邊緣原生應(yīng)用程序與Akamai的現(xiàn)有服務(wù),如CDN、EdgeWorker和對象存儲集成。并且,應(yīng)用程序的冷啟動(dòng)時(shí)間可縮短到不到毫秒級別,結(jié)合Akamai的網(wǎng)絡(luò),能快速響應(yīng)終端用戶。
對于開發(fā)者來說,這一合作極大地提升了開發(fā)和部署效率。Fermyon再次兌現(xiàn)承諾,將開發(fā)者從開始構(gòu)建到部署應(yīng)用程序的時(shí)間縮短到2分鐘或更少。Akamai客戶可直接通過Akamai采購Fermyon Wasm Functions,并在有限時(shí)間內(nèi)獲得試用積分,用于實(shí)驗(yàn)性用量。
五、Scalstrm加入QCP計(jì)劃:強(qiáng)化媒體處理生態(tài)
Scalstrm加入Akamai的Qualified Compute Partner(QCP)計(jì)劃,為Akamai在高性能、媒體中心工作負(fù)載領(lǐng)域的生態(tài)系統(tǒng)注入新的活力。
在NAB 2025上,Scalstrm將與Akamai和NETINT合作,展示按需轉(zhuǎn)碼(Just-In-Time,JIT)技術(shù)的卓越性能。依托Akamai Connected Cloud和NETINT VPUs,結(jié)合Scalstrm的先進(jìn)JIT媒體處理應(yīng)用,他們將建立新的性能和運(yùn)營成本基準(zhǔn),揭示NETINT上的JIT轉(zhuǎn)碼與傳統(tǒng)CPU處理之間的性能差距。
Scalstrm的JIT轉(zhuǎn)碼技術(shù)為媒體處理設(shè)立了新的行業(yè)標(biāo)準(zhǔn),解決了預(yù)先轉(zhuǎn)碼的低效問題,只在需要時(shí)將內(nèi)容轉(zhuǎn)換為正確格式,減少存儲、處理成本和延遲。作為Akamai QCP的一員,Scalstrm的JIT轉(zhuǎn)碼解決方案已為Akamai Connected Cloud全面優(yōu)化,支持動(dòng)態(tài)重新封裝實(shí)時(shí)和點(diǎn)播內(nèi)容、實(shí)時(shí)內(nèi)容轉(zhuǎn)換、集成錄制和字幕功能以及可擴(kuò)展部署等功能。這使得Akamai客戶能夠獲得更靈活、更具成本效益且面向未來的媒體處理管道。
此次發(fā)布,Akamai在邊緣AI、云計(jì)算、開源支持以及媒體處理等多個(gè)關(guān)鍵領(lǐng)域取得了重大突破。這些創(chuàng)新不僅展現(xiàn)了Akamai在技術(shù)領(lǐng)域的領(lǐng)先地位,更為行業(yè)發(fā)展指明了方向。隨著技術(shù)的不斷落地應(yīng)用,Akamai有望重塑行業(yè)格局,推動(dòng)全球企業(yè)在數(shù)字化轉(zhuǎn)型和智能化發(fā)展的道路上加速前進(jìn)。