NVIDIA Quantum-X800 InfiniBand 網(wǎng)絡(luò)和 NVIDIA Spectrum?-X800 以太網(wǎng)絡(luò)是全球首批高達 800Gb/s 端到端吞吐量的網(wǎng)絡(luò)平臺,將計算和 AI 工作負載的網(wǎng)絡(luò)性能提升到了一個新的水平,與其配套軟件強強聯(lián)手可進一步加速各種數(shù)據(jù)中心中的 AI、云、數(shù)據(jù)處理和高性能計算(HPC)應(yīng)用,包括基于最新的 NVIDIA Blackwell 架構(gòu)產(chǎn)品的數(shù)據(jù)中心。
NVIDIA 網(wǎng)絡(luò)高級副總裁 Gilad Shainer 表示:“NVIDIA 網(wǎng)絡(luò)平臺是 AI 超級計算基礎(chǔ)設(shè)施實現(xiàn)大規(guī)??蓴U展的核心。基于 NVIDIA X800 交換機的端到端網(wǎng)絡(luò)平臺,使新型 AI 基礎(chǔ)設(shè)施輕松運行萬億參數(shù)級生成式 AI 業(yè)務(wù)?!?/p>
Quantum InfiniBand 和 Spectrum-X 以太網(wǎng)的早期用戶包括微軟 Azure 、Oracle Cloud Infrastructure 和 Coreweave 等。
微軟 Azure AI 基礎(chǔ)設(shè)施副總裁 Nidhi Chappell 表示:“AI 是一個將數(shù)據(jù)轉(zhuǎn)化為知識的強大工具,支撐這種轉(zhuǎn)化的基礎(chǔ)就是數(shù)據(jù)中心演進成為了高性能的 AI 引擎,這個演進又對網(wǎng)絡(luò)基礎(chǔ)設(shè)施提出了更大的需求。通過與 NVIDIA 網(wǎng)絡(luò)解決方案的全新整合,微軟 Azure云將持續(xù)構(gòu)建我們的基礎(chǔ)設(shè)施,推動 AI 云走向新的臺階。”
樹立極致性能的新標(biāo)桿
Quantum-X800 平臺樹立了 AI 專用基礎(chǔ)設(shè)施極致性能的新標(biāo)桿,該平臺包含了 NVIDIA Quantum Q3400 交換機和 NVIDIA ConnectX?-8 SuperNIC,二者互連達到了業(yè)界領(lǐng)先的端到端 800Gb/s 吞吐量,交換帶寬容量較上一代產(chǎn)品提高了 5 倍,網(wǎng)絡(luò)計算能力更是憑借 NVIDIA 的 SHARP? 技術(shù)(SHARPv4)提高了 9 倍,達到了 14.4Tflops。
Spectrum-X800 平臺為 AI 云和企業(yè)級基礎(chǔ)設(shè)施帶來優(yōu)化的網(wǎng)絡(luò)性能。借助 800Gb/s 的 Spectrum SN5600 交換機和 NVIDIA BlueField-3 SuperNIC,Spectrum-X800 平臺為多租戶生成式 AI 云和大型企業(yè)級用戶提供各種至關(guān)重要的先進功能。
Spectrum-X800 通過優(yōu)化網(wǎng)絡(luò)性能,加快 AI 工作負載的處理、分析和執(zhí)行速度,進而縮短 AI 解決方案的開發(fā)、部署和上市時間。Spectrum-X800 專為多租戶環(huán)境打造,實現(xiàn)了每個租戶的 AI 工作負載的性能隔離,使業(yè)務(wù)性能能夠持續(xù)保持在最佳狀態(tài),提升客戶滿意度和服務(wù)質(zhì)量。
NVIDIA 軟件助一臂之力
NVIDIA 提供面向萬億參數(shù)級 AI 模型性能優(yōu)化的網(wǎng)絡(luò)加速通信庫、軟件開發(fā)套件和管理軟件等全套軟件方案。
其中的 NVIDIA 集合通信庫(NCCL)可將 GPU 的并行計算任務(wù)擴展到 Quantum-X800 網(wǎng)絡(luò),利用其基于 SHARPv4 的強大網(wǎng)絡(luò)計算能力和對 FP8 的支持,為大模型訓(xùn)練和生成式 AI 提供超強的性能。
NVIDIA 的全棧軟件方案帶來了先進的可編程性,使數(shù)據(jù)中心網(wǎng)絡(luò)變得更加靈活、可靠和靈敏,既提高了整體運營效率,又滿足了現(xiàn)代應(yīng)用和服務(wù)的需求。
生態(tài)里程碑
全球多家頭部基礎(chǔ)設(shè)施供應(yīng)商和系統(tǒng)廠商將在明年開始提供基于 Quantum-X800 和Spectrum-X800 的網(wǎng)絡(luò)平臺,包括 Aivres、DDN、戴爾科技、Eviden、Hitachi Vantara、慧與、聯(lián)想、超微和 VAST Data 等。