豐富的至強6產(chǎn)品組合

英特爾至強6性能核處理器專為計算密集型工作負(fù)載而設(shè)計,提供高度靈活的配置選項。從最低16個核心到最高128個核心,客戶可根據(jù)實際應(yīng)用選擇最佳配置。針對傳統(tǒng)大型數(shù)據(jù)庫等對連接速度和多核并行處理能力有較高要求的場景,全新至強6700/6500性能核處理器不僅在核心數(shù)量、I/O帶寬和內(nèi)存容量上帶來了顯著提升,還新增了對四路和八路服務(wù)器運行的支持,通過高速UPI互聯(lián),充分釋放多核性能,更好地滿足客戶對高性能數(shù)據(jù)庫應(yīng)用的需求。

與最高配備128個核心的至強6900性能核處理器一樣,至強6700/6500性能核處理器也支持高達(dá)6400MT/s的DDR5內(nèi)存、8800MT/s的MRDIMM內(nèi)存和64條CXL 2.0通道,CXL擴(kuò)展內(nèi)存讓用戶能以更低的成本拓展服務(wù)器的內(nèi)存空間。通過CXL 2.0技術(shù),英特爾還提供了“Flat Memory Mode”功能,可以自動切換熱數(shù)據(jù)和存儲在CXL內(nèi)存上的溫數(shù)據(jù),實現(xiàn)性能和容量之間的平衡。

對于需要大規(guī)模存儲解決方案(SSD)的企業(yè),以及依賴內(nèi)容分發(fā)網(wǎng)絡(luò)(CDN)提供流暢視頻體驗的平臺,I/O連接能力非常重要。此外,AI服務(wù)器需要連接多個GPU,也對CPU和平臺的I/O擴(kuò)展性提出了更高要求。至強6700/6500性能核處理器支持多達(dá)136條PCIe通道的單插槽平臺,提供強大的可擴(kuò)展性,滿足了對高連接性的需求。

數(shù)據(jù)中心的機頭節(jié)點

在現(xiàn)代AI系統(tǒng)中,GPU與CPU都發(fā)揮著非常重要的作用。機頭節(jié)點CPU不僅需要具備卓越的 I/O 速度、強大的單線程性能以及高內(nèi)存帶寬和容量,還需要滿足大型系統(tǒng)全天候運行所必需的可靠性、可用性的可維護(hù)性( RAS)需求。此外,靈活支持各種不同的外形和配置,對于優(yōu)化數(shù)據(jù)中心的空間利用率、提升散熱效率、以及適應(yīng)多樣化的工作負(fù)載也很重要。

作為AI系統(tǒng)的機頭節(jié)點CPU,至強6可與GPU搭配,通過提供更快的I/O速度和更好的單核性能,充分發(fā)揮GPU的潛力。在典型的雙路CPU機頭節(jié)點配置下,至強6700性能核處理器平臺最高可提供172個CPU核心(344線程),并配備16個DDR5高速內(nèi)存通道(32個內(nèi)存插槽)、176條PCIe 5.0鏈路(其中128條可配置為CXL 2.0鏈路)。

強大的AI推理性能

在AI推理方面,至強6處理器憑借內(nèi)置的AI加速引擎AMX(英特爾高級矩陣擴(kuò)展)的出色能力,可以讓系統(tǒng)以更少的核心,獲取高達(dá)1.5倍的AI推理性能提升1。這一優(yōu)勢使其在傳統(tǒng)機器學(xué)習(xí)、小型生成式AI模型和GPU加速工作負(fù)載中表現(xiàn)出色。對于傳統(tǒng)的AI應(yīng)用,如推薦引擎、語音助手、圖像識別等,至強6可以提供強大的計算支持。即使面對參數(shù)小于20B的小型生成式AI模型,至強6依然能展現(xiàn)出色的性能。

此外,對于小型語言模型的AI推理來說,不僅在生成首個Token時需要高強度計算,后續(xù)推理過程同樣對內(nèi)存帶寬有著極高的要求。至強6處理器率先在業(yè)界支持MRDIMM技術(shù),提供高達(dá)8800MT/s的超高速內(nèi)存。在MRDIMM技術(shù)的加持下,帶寬實現(xiàn)倍增,使得小型LLM、傳統(tǒng)深度學(xué)習(xí)和推薦系統(tǒng)等AI工作負(fù)載能夠在至強平臺上流暢運行,極大釋放了至強6性能核處理器的潛力。

以卓越的性能與能效,助力數(shù)據(jù)中心整合升級

在AI驅(qū)動下,算力需求以前所未有的速度增長,與此同時,數(shù)據(jù)中心對CPU算力的需求也在同步增長,且亟需以整合升級的方式迎接新挑戰(zhàn)。與通常側(cè)重于升級硬件的典型更新周期不同,數(shù)據(jù)中心整合更深入,更側(cè)重于優(yōu)化現(xiàn)有資源以降低成本、提高可擴(kuò)展性,實現(xiàn)可持續(xù)發(fā)展。因此企業(yè)在進(jìn)行基礎(chǔ)設(shè)施煥新時,不僅關(guān)注性能提升,同時也非常注重空間、能耗和成本的節(jié)省。

至強6處理器以卓越性能和能效,為數(shù)據(jù)中心整合升級提供了理想的解決方案,不僅能以更少的服務(wù)器提供更高的算力,還能顯著降低能耗和總體擁有成本(TCO)。以五年為更新周期、應(yīng)用最廣泛的第二代至強為例,至強6處理器憑借出色的每瓦性能效率,在數(shù)據(jù)服務(wù)工作負(fù)載中,平均可實現(xiàn)一臺新服務(wù)器替代五臺舊服務(wù)器2,在圖像識別和網(wǎng)絡(luò)服務(wù)工作負(fù)載中,甚至可實現(xiàn)一臺新服務(wù)器替代十臺舊服務(wù)器,從而幫助降低高達(dá)68%的TCO3

面對日益多樣化和海量化的算力需求,英特爾至強6系列處理器以卓越性能和出色能效,已經(jīng)在數(shù)據(jù)中心生態(tài)系統(tǒng)中得到廣泛應(yīng)用。目前,已有超過500款基于至強6處理器的產(chǎn)品設(shè)計推出或正在開發(fā)中。英特爾不僅通過基于x86架構(gòu)、橫跨軟硬件的開放解決方案,為企業(yè)提供強大易用的AI系統(tǒng),更與廣泛的生態(tài)合作伙伴攜手,共建AI生態(tài)系統(tǒng),以更佳的每瓦性能和更低的TCO,加速從數(shù)據(jù)中心到云、邊緣、PC的各種工作負(fù)載。

注釋:

  1. 詳情請訪問?intel.com/processorclaims??[7A220]:英特爾??至強??6,結(jié)果可能不同?。
  2. 詳情請訪問?intel.com/processorclaims??[Geomean 7T21-7T26]:英特爾??至強??6,結(jié)果可能不同。
  3. 詳情請訪問?intel.com/processorclaims??[7T21]:英特爾??至強??6,結(jié)果可能不同?。
分享到

lixiangjing

算力豹主編

相關(guān)推薦