最新MLPerf結果表明,持續(xù)的投入和資源配置對于提高AI性能至關重要??v觀MLPerf的測試結果,過去四年,英特爾至強處理器的AI性能提升了高達17倍之多。步入今年下半年,隨著至強6處理器具備廣泛可應用性時,我們期待能與客戶、合作伙伴一道持續(xù)加速其出貨和市場應用。

重要意義:AI系統(tǒng)在跨多種場景的解決方案的順利部署,都離不開CPU這一關鍵的硬件。英特爾至強處理器為AI推理提供了出色的解決方案,包括經典的機器學習和向量搜索嵌入。

在MLPerf推理v4.1中,英特爾提交了第五代英特爾至強處理器和至強6能效核處理器在ResNet50、RetinaNet、3DUNet、BERT、DLRM v2和GPT-J上的結果。與第五代英特爾至強相比,至強6在這六個基準測試中展現(xiàn)出平均約1.9倍的AI推理性能提升。英特爾仍是唯一向MLPerf提交CPU結果的服務器處理器供應商。

自四年前首次提交MLPerf結果以來,英特爾CPU的AI性能表現(xiàn)具備顯著提升。與2021年發(fā)布的第三代英特爾至強可擴展處理器相比,至強6在自然語言處理(BERT)上的性能提升高達17倍,在計算機視覺(ResNet50)工作負載上的性能提升高達15倍。英特爾將持續(xù)推進AI在CPU路線圖中的進展。例如,通過新的數(shù)據類型和效率提升,繼續(xù)推進英特爾? 高級矩陣擴展 (AMX) 創(chuàng)新。

支持AI客戶:最新的MLCommons基準測試突顯了至強處理器正在為OEM廠商提供強大的CPU AI服務器解決方案。隨著AI計算需求的增長,且諸多客戶同時運行AI和企業(yè)工作負載,OEM廠商正在優(yōu)先考慮通過提交MLPerf的方式,彰顯其向客戶提供的、搭載至強處理器的系統(tǒng)具備高性能且針對AI工作負載而優(yōu)化。

英特爾在本輪MLPerf中支持了思科、戴爾科技、慧與、廣達和超微五個OEM合作伙伴分別提交的測試結果。每個客戶都提交了使用第五代至強可擴展處理器的MLPerf結果,展示了其系統(tǒng)對各種AI工作負載和部署的支持。

后續(xù)進展:英特爾將在9月的發(fā)布會上帶來更多英特爾至強6性能核處理器的信息。

分享到

zhupb

相關推薦