MLPerf基準測試在國際AI領域有極高知名度,其基準聯盟已有Intel、NVIDIA、微軟等超50家成員。
AI服務器2U推理“冠軍”誕生
美國太平洋時間9月22日10點,采用最新InferenceV1.1標準的MLPerf 推理測試成績發(fā)布,總計超過10家國際知名服務器廠商的數十種產品參與了本次測試。
搭載8顆NVIDIA? A10 Tensor Core GPU寧暢X620 G40分別以3D-UNet99模型高低精度 179;ResNet-50離線模型97016;SSD-large在線、離線模型2500、2051的測試分數,取得2U人工智能服務器的五項第一成績,成為本次測試中獲得第一成績最多的2U高度AI服務器。
第一成績背后是寧暢X620 G40每秒可完成170余次三維醫(yī)學圖像分割推理,且精度高達99.9%;以及每秒完成近10萬張各類事物圖像的海量識別推理;SSD-large得分代表了離線場景下每秒可完成2500張圖片中信息的分類、定位與精準檢測,在線場景下每秒可應答2000余次實時目標檢測的推理任務。
X620 G40作為一款2U高度人工智能服務器,支持PCIe4.0高速總線技術,適配NVIDIA? A10 / NVIDIA A30等各類GPU加速卡,是理想AI推理計算平臺,同時還可勝任桌面虛擬化、云游戲和視頻流轉碼等多IT行業(yè)用途需求,在邊緣計算等應用場景X620 G40可充分支持客戶多元計算需求,提供強大算力支撐。
此外,X620 G40還具備關鍵部件健康狀態(tài)監(jiān)控和上報功能,可以為數據中心運維保駕護航,其綠色節(jié)能設計、高效節(jié)能智能調速,尤其針對GPU的不同運行特性和環(huán)境提供優(yōu)化超頻、功耗平衡、綠色節(jié)能等多種工作模式,以達到服務器的智能管理、綠色節(jié)能。
多卡性能強勁,獲16項第一成績
除X620 G40外,搭載10顆NVIDIA? A30 Tensor Core GPU的寧暢X640 G40人工智能服務器,相比較其他搭載8顆NVIDIA? A30 GPU的產品,不僅整體AI性能取得全部16個推理模型第一成績,平均單卡性能也取得12個模型的最好成績。
寧暢X640 G40人工智能服務器兼?zhèn)溆柧毰c推理功能,搭載高速互聯芯片加速AI開發(fā),支持多種不同的GPU拓撲結構,針對不同的應用場景和訓練模型進行GPU互聯優(yōu)化,釋放全部潛在算力。
值得一提的,自2020年以來至今,寧暢AI服務器在參加的三次MLPerf推理與訓練測試中,已取得了53項第一成績,并曾打破AI服務器世界性能紀錄。
目前,寧暢X620 G40、X640 G40人工智能服務器已通過“NVIDIA-Certified Servers”認證,在滿足常規(guī)AI推理、在線推薦系統(tǒng)需求的同時,還能針對如對話式人工智能等要求更高的工作負載,搭建GPU高速集群。
作為智能算力定制專家,寧暢核心團隊成員專注服務器研發(fā)、生產已有15年之久,擁近百萬臺服務器生產部署經驗,可為用戶提供全棧服務器定制化服務。在公司創(chuàng)立的2020年便已有近千家企業(yè)、用戶采購寧暢服務器產品,收到定制咨詢350余次,累計落地服務器定制方案170項。
如今,寧暢用戶已覆蓋互聯網、金融、電信等數十個行業(yè),出貨量數以萬計,國內互聯網行業(yè)頭部企業(yè)均已與寧暢達成采購協議,借助定制化的人工智能服務器產品,深耕云計算、無人駕駛、搜索引擎、社交媒體等領域。
