在硬件層面，浪潮服務(wù)器NF5488M6是業(yè)內(nèi)同類產(chǎn)品當(dāng)中首先突破CPU-GPU間通道免中繼設(shè)計(jì)的AI服務(wù)器，通信延遲有了大幅度降低。2個(gè)最先進(jìn)的Intel IceLake處理器和8個(gè)A100 GPU相得益彰，可以提供強(qiáng)大的AI計(jì)算力。為了實(shí)現(xiàn)穩(wěn)定快捷的數(shù)據(jù)吞吐，浪潮服務(wù)器NF5488M6擁有最高可達(dá)10TB的RDIMM/LRDIMM/BarlowPass DDR4 3200MT/s內(nèi)存配置，同時(shí)采用8塊NVMe SSD實(shí)現(xiàn)CPU直通設(shè)計(jì)，進(jìn)一步降低了I/O延遲。另外，此款浪潮服務(wù)器配有4張200Gb/s Infiniband網(wǎng)卡，支持多節(jié)點(diǎn)線性擴(kuò)展，通過(guò)GPU Direct RDMA實(shí)現(xiàn)大規(guī)模集群極致互聯(lián)，提供強(qiáng)大的AI算力。

在軟件層面，浪潮服務(wù)器NF5488M6通過(guò)GPU硬件拓?fù)鋵?duì)GPU的輪詢調(diào)度進(jìn)行優(yōu)化，使單卡至多卡性能達(dá)到了近似線性擴(kuò)展，同時(shí)配置浪潮領(lǐng)先的算力資源管理平臺(tái)AIStation，使浪潮服務(wù)器NF5488M6得以實(shí)現(xiàn)生產(chǎn)、調(diào)度一站式算力平臺(tái)，充分釋放AI計(jì)算力。

此外，浪潮服務(wù)器NF5488M6支持業(yè)內(nèi)最成熟廣泛的AI開(kāi)發(fā)生態(tài)，完美支持TensorFlow、PyTorch、MXnet、飛槳等業(yè)界主流深度學(xué)習(xí)框架，并結(jié)合GPU Tensor Core 單元的計(jì)算特征，通過(guò)自研通道壓縮算法成功可實(shí)現(xiàn)模型的極致性能優(yōu)化，在精度無(wú)損的情況下顯著提升AI訓(xùn)練性能。

作為領(lǐng)先的算力基礎(chǔ)設(shè)施供應(yīng)商，浪潮在多年的發(fā)展過(guò)程中積累了豐富的經(jīng)驗(yàn)和技術(shù)體系，此次推出的浪潮服務(wù)器NF5488M6就是其經(jīng)驗(yàn)和技術(shù)的沉淀，為用戶帶來(lái)可靠高效的算力支撐。在未來(lái)的發(fā)展當(dāng)中，浪潮將繼續(xù)密切關(guān)注行業(yè)發(fā)展，以客戶應(yīng)用為導(dǎo)向研發(fā)高新產(chǎn)品。

分享到

xiesc

相關(guān)推薦