全新的 NVIDIA Spectrum-X 網絡平臺結合了 NVIDIA Spectrum-4、BlueField-3 DPU 和加速軟件;全球頭部云服務提供商采用該平臺來橫向擴展其生成式 AI 服務
COMPUTEX — 2023 年 5 月 29 日NVIDIA 于今日宣布推出 NVIDIA Spectrum-X 網絡平臺,該平臺是一個加速網絡平臺,致力于提高基于以太網 AI 云的性能與效率。
NVIDIA Spectrum-X? 是基于網絡創(chuàng)新的新成果而構建 —— 將 NVIDIA Spectrum-4 以太網交換機與 NVIDIA BlueField?-3 DPU 緊密結合,取得了 1.7 倍的整體 AI 性能和能效提升,同時可在多租戶環(huán)境中提供一致、可預測的性能。Spectrum-X 還提供 NVIDIA 加速軟件和軟件開發(fā)套件(SDK),使開發(fā)人員能夠構建軟件定義的云原生AI應用。
這種端到端的功能交付,可以減少基于transformer的大規(guī)模生成式AI模型的運行時間,助力網絡工程師、AI數(shù)據(jù)科學家和云服務商及時取得更好的結果,并更快做出明智的決策。
全球頭部超大規(guī)模云服務商正在采用 NVIDIA Spectrum-X,包括領先的云創(chuàng)新企業(yè)。
作為 NVIDIA Spectrum-X 參考設計的藍圖和測試平臺,NVIDIA 正在構建一臺超大規(guī)模生成式 AI 超級計算機,命名為 Israel-1。它將被部署在 NVIDIA 以色列數(shù)據(jù)中心,由基于 NVIDIA HGX? 平臺的戴爾 PowerEdge XE9680 服務器, BlueField-3 DPU 和 Spectrum-4 交換機等打造而成。
NVIDIA 網絡高級副總裁 Gilad Shainer 表示:“諸如生成式 AI 等革命性技術正在推動各家企業(yè)提升數(shù)據(jù)中心性能的極限,從而獲得更多競爭優(yōu)勢。作為新一代以太網絡,NVIDIA Spectrum-X 為新一代 AI 工作負載掃清障礙,將會徹底改變整個行業(yè)?!?/p>
NVIDIA Spectrum-X 網絡平臺具有高度的通用性,可用于各種 AI 應用。它采用完全標準的以太網,與現(xiàn)有以太網的堆棧實現(xiàn)互通。
該平臺起步于 Spectrum-4 ,這是全球首款專為 AI 網絡打造的 51Tb/s 以太網交換機。先進的 RoCE 擴展功能可以跨 Spectrum-4 交換機、BlueField-3 DPU 和 NVIDIA LinkX 光纖相互協(xié)同,共同構建了一個專為 AI 云優(yōu)化的端到端 400GbE 網絡。
NVIDIA Spectrum-X 通過性能隔離增強了多租戶環(huán)境,確保租戶的 AI 工作負載能以最佳性能持續(xù)運行。NVIDIA Spectrum-X 還提供了更好的 AI 性能可見性,它可以識別性能瓶頸,而且具有全自動網絡驗證功能。
驅動 Spectrum-X 的加速軟件包括Cumulus Linux、純 SONiC 和 NetQ 等性能強大的 NVIDIA SDK,共同助力該網絡平臺實現(xiàn)極致性能。另外,Spectrum-X 還包括 BlueField DPU 的核心軟件——NVIDIA DOCA? 軟件框架。
NVIDIA Spectrum-X 單臺交換機即可實現(xiàn)突破性的 256 個 200Gb/s 端口的連接,使用兩層葉脊拓撲可以連接 16,000 個端口,以支持 AI 云的增長和擴展,同時保持極高的性能和極低的網絡延時。
生態(tài)采用情況
提供 NVIDIA Spectrum-X 方案的公司包括戴爾科技、聯(lián)想和超微。
供貨情況
NVIDIA Spectrum-X、Spectrum-4 交換機、BlueField-3 DPU 和 400G LinkX 光纖現(xiàn)已上市。
聆聽 COMPUTEX 主題演講,進一步了解 NVIDIA Spectrum-X。
關于 NVIDIA自1993年成立以來,NVIDIA (NASDAQ: NVDA) 一直是加速計算領域的先驅。NVIDIA 1999年發(fā)明的GPU驅動了PC游戲市場的增長,并重新定義了現(xiàn)代計算機圖形,開啟了現(xiàn)代AI時代,正在推動工業(yè)元宇宙的創(chuàng)造。NVIDIA現(xiàn)在是一家全棧計算公司,其數(shù)據(jù)中心規(guī)模的產品正在重塑整個行業(yè)。更多信息,請訪問 https://nvidianews.nvidia.com/ 。