MLPerf是用于衡量AI、邊緣計算等設(shè)備性能的基準(zhǔn)測試平臺，由云服務(wù)廠商、OEM廠商、大學(xué)、軟件公司等超14個組織、50余家知名IT企業(yè)共同驅(qū)動。該基準(zhǔn)測試包括可代表生產(chǎn)級別的測試用例，測試結(jié)果在行業(yè)內(nèi)具有較高權(quán)威性。
同配置測試獲16項世界第一
寧暢工程師介紹，參加MLPerf Inference（推理）基準(zhǔn)測試的X640 G30 AI服務(wù)器，最高可支持10張NVIDIA A100 PCIe卡或21張NVIDIA T4 PCIe卡，堪稱“性能猛獸”。
寧暢AI服務(wù)器X640 G30
對比行業(yè)同配置AI服務(wù)器，X640 G30搭配四張A100 GPU卡的情況下，在Resnet50、SSD、RNN-T、BERT、DLRM等10項測試中分?jǐn)?shù)值取得世界第一；搭配16張T4 GPU卡配置的情況下，X640 G30打破六項世界紀(jì)錄，性能一騎絕塵。
16卡配置X640 G30部分測試分?jǐn)?shù)對比圖
相同配置下取得第一的MLPerf分?jǐn)?shù)，意味著X640 G30 在圖像分類、目標(biāo)檢測、醫(yī)學(xué)影像、翻譯、推薦、自然語言處理等AI應(yīng)用場景中有更好性能表現(xiàn)，可為用戶帶來多高價值。
將多卡性能發(fā)揮到極致”
AI服務(wù)器所能支持異構(gòu)計算GPU卡數(shù)量，是決定其AI吞吐量的首要因素。依托團(tuán)隊10余年行業(yè)經(jīng)驗，寧暢在全國率先在4U標(biāo)準(zhǔn)機(jī)箱中實現(xiàn)21張GPU卡配置，將多GPU卡性能優(yōu)勢發(fā)揮到極致。
搭配21張T4 GPU卡的X640 G30，在圖像分類、語義識別等眾多AI基準(zhǔn)測試中，超越搭配20張T4 GPU卡配置的服務(wù)器，測試分?jǐn)?shù)斬獲14項世界第一。
21卡配置X640 G30 MLPerf測試成績表
不僅多GPU卡的性能優(yōu)越，在單GPU卡平均性能方面（單卡平均性能=整機(jī)測試結(jié)果/搭載GPU卡個數(shù)），橫向比較13家服務(wù)器廠商提交MLPerf 的53個配置測試結(jié)果顯示，X640 G30服務(wù)器平均單卡性能獲得11項性能第一成績。
X640 G30平均單卡測試分?jǐn)?shù)對比
寧暢工程師表示，寧暢服務(wù)器不僅在MLPerf平臺取得多項世界第一成績，今年早先時候?qū)帟畴p路服務(wù)器R620 G30，曾在反映服務(wù)器性能的SPEC CPU2017測試中，刷新24項世界紀(jì)錄。
世界紀(jì)錄的背后，是寧暢工程師為用戶提供更優(yōu)性價比產(chǎn)品，將CPU、GPU等服務(wù)器核心部件性能發(fā)揮到極致，所做的不懈努力。通過提供硬件、軟件等定制化服務(wù)，寧暢服務(wù)器將有效降低用戶TCO（總體擁有成本）。
