浪潮服務(wù)器聚合了浪潮卓越的AI軟硬協(xié)同優(yōu)化能力，不僅通過硬件性能的精細校準和全面優(yōu)化，更在軟件層面進行優(yōu)化，綜合造就強大的AI性能。
在硬件層面，就通信速度而言，浪潮服務(wù)器NF5488M6是業(yè)界同類產(chǎn)品中唯一實現(xiàn)CPU-GPU間通道免中繼設(shè)計(PCI-E Retimer Free)的AI服務(wù)器，通信延遲較以往產(chǎn)品有了大幅度的降低。同時，為了穩(wěn)定快捷的數(shù)據(jù)吞吐，此浪潮服務(wù)器配有最高可達10TB的RDIMM/LRDIMM/BarlowPass DDR4 3200MT/s內(nèi)存，8塊NVMe SSD實現(xiàn)CPU直通設(shè)計，進一步降低I/O延遲。配置2顆最先進的Intel IceLake處理器和8顆A100 GPU，充分釋放強大AI算力，并且配置了4張200Gb/s Infiniband網(wǎng)卡，支持多節(jié)點線性擴展，可通過GPU Direct RDMA實現(xiàn)大規(guī)模集群極致互聯(lián)，打造強大的AI算力。
浪潮服務(wù)器NF5488M6在軟件層面也有了新的突破，結(jié)合GPU硬件拓撲對多GPU的輪詢調(diào)度優(yōu)化使單卡至多卡性能達到了近似線性擴展。配置浪潮領(lǐng)先的算力資源管理平臺AIStation，NF5488M6實現(xiàn)生產(chǎn)、調(diào)度一站式算力平臺，可充分釋放AI計算力。
此外，浪潮服務(wù)器NF5488M6支持業(yè)內(nèi)最成熟廣泛的AI開發(fā)生態(tài)，完美支持TensorFlow、PyTorch、MXnet、飛槳等業(yè)界主流深度學(xué)習(xí)框架，并結(jié)合GPU Tensor Core 單元的計算特征，通過自研通道壓縮算法成功可實現(xiàn)模型的極致性能優(yōu)化，在精度無損的情況下顯著提升AI訓(xùn)練性能。
浪潮服務(wù)器NF5488M6是浪潮發(fā)展30余年的經(jīng)驗和技術(shù)體系的沉淀，更是浪潮堅持以客戶應(yīng)用為導(dǎo)向的體現(xiàn)。在未來的發(fā)展當中，浪潮將繼續(xù)密切關(guān)注算力行業(yè)發(fā)展，加速擴大產(chǎn)業(yè)布局，為數(shù)字經(jīng)濟的發(fā)展貢獻力量。
