從英特爾數(shù)據(jù)中心與人工智能集團副總裁兼中國區(qū)總經(jīng)理陳葆立的介紹中了解到,第五代英特爾至強可擴展處理器,其性能相較于上一代提升了21%,AI推理性能提高了42%,內(nèi)存帶寬也提升了16%。此外,它是目前最綠色的至強處理器。

2023年1月10日,第四代英特爾至強可擴展處理器“Sapphire Rapids”發(fā)布,它支持DDR5、PCIe Gen5代,也支持CXL的Type1和Type兩類設(shè)備,內(nèi)置了多個加速器,最高60個核心。

一年發(fā)布兩代處理器的操作,幾年前在酷睿的11和12代上也發(fā)生過。而第五代至強也可以看做是第四代的一個升級版,它帶來的變化沒有第四代那么大。并且,現(xiàn)在第四代的主板升級一下BIOS就可以用直接第五代。

第五代至強的核心數(shù)從原來的最高60核提高到了64核,而L3緩存則從原來最多105MB提高到了320MB。內(nèi)存雖然還是8通道,但內(nèi)存提高到了DDR5-5600。負(fù)責(zé)CPU之間通信的UPI最高速度達(dá)20GT/s。

第五代的制造工藝跟第四代有較大變化,設(shè)計有所簡化。從上圖可見,第五代只有兩個die,die間也只有三個連接橋。而第四代則有四個小芯片組成,芯片之間的橋接數(shù)是4個,兩兩互聯(lián),對角線沒有直連。

第五代兩個die的設(shè)計最大的好處是可以降低延遲,如上圖所示,在XCC(特別多核心)SKU下的大部分延遲數(shù)據(jù)中,它的延遲都更低,為性能提升打下了基礎(chǔ)。

雖然還是支持CXL 1.1,但這次第五代至強可擴展處理器正式支持CXL Type 3設(shè)備了,也就是用作內(nèi)存擴展的設(shè)備。

這意味著,除了用原來的DDR內(nèi)存,也能通過CXL連接額外四個CXL內(nèi)存設(shè)備了,加起來就是12個通道。

不過,由于CXL 1.1標(biāo)準(zhǔn)還只是在單機范疇內(nèi)擴展內(nèi)存,到了CXL 2.0才能引入CXL交換機的概念,才能跨系統(tǒng)設(shè)備實現(xiàn)內(nèi)存池的共享。

第四代英特爾至強可擴展處理器提供了SGX(Intel Software Guard Extensions-軟件防護擴展),這是一種能保護代碼和數(shù)據(jù)的技術(shù),即使在系統(tǒng)的其余部分被攻破的情況下,敏感數(shù)據(jù)也能得到安全保護。

而第五代在此基礎(chǔ)上新增了TDX(Intel Trust Domain Extensions-可信域拓展),這是一個虛擬機隔離技術(shù)。從上圖可見,它相較于原來保護應(yīng)用數(shù)據(jù)的SGX的基礎(chǔ)上,又往下走了幾層,使虛擬機也能在受保護的范圍里運行。

陳葆立介紹稱,英特爾SGX在過去的一年里得到了許多中國客戶的采用,它提供了一個隔離用戶應(yīng)用軟件的可信空間,而TDX則為用戶提供更大的可信空間,使得它在操作系統(tǒng)層面就擁有安全隔離,這將為用戶提供更為安全的保障。

陳葆立表示,第五代英特爾至強可擴展處理器在每個內(nèi)核上都具備了加速器功能,可以用來處理包括大模型在內(nèi)的AI工作負(fù)載。與合作伙伴合作的測試中,已經(jīng)成功在第五代至強可擴展處理器上運行高達(dá)200億參數(shù)的模型推理。

英特爾率先開始在至強里內(nèi)置AVX-512指令集,而后,在第四代英特爾至強可擴展處理器里加入了內(nèi)置的AMX加速器。新的五代則讓AMX light和AVX512 heavy可以支持更高的Turbo頻率,從而提高AI推理性能表現(xiàn)。

此外,英特爾還分享了一些資料,展示了第五代至強可擴展處理器,與此前的第四代和第三代相比,所帶來的巨大的提升。與第三代相比,平均性能提升了1.84倍,而AI推理和訓(xùn)練性能提高了最高14倍。

https://download.intel.com/newsroom/2023/data-center-hpc/Intel-4th-Gen-Xeon_product_SKUs.jpg

此外,這次第五代至強可擴展處理器的SKU數(shù)要比第四代少很多,這次只有32個,而第四代大約有50多個SKU。

對比之下,一些XCC(核特多)型號的第五代至強更有性價比。以同樣56核的來對比,上一代的8480+對比這一代的8570,前者價格是10710美元,后者則為9595美元。而且,前者的L3緩存僅為105MB,后者則為320MB。同時,后者在主頻以及內(nèi)存方面規(guī)格更高。

以32核為分界線,32核以及以下的SKU,大部分MCC(核一般多)SKU價格都與上一代一樣。同樣的價格下,一些SKU的主頻或者L3緩存也有所提升,整體上,第五代至強還是更有性價比。

32個SKU當(dāng)中也有很多定制型號,其中,以P和V結(jié)尾的都是給云廠商準(zhǔn)備的,N結(jié)尾的是給網(wǎng)絡(luò)場景準(zhǔn)備的,S結(jié)尾的面向存儲場景,Q結(jié)尾的是給液冷場景準(zhǔn)備的。

第五代英特爾至強可擴展處理器相較于上一代,在Web應(yīng)用,數(shù)據(jù)服務(wù),HPC,AI以及網(wǎng)絡(luò)方面,性能表現(xiàn)均有所提升。

在每瓦性能方面也都有所提升。

在TDX的加持下,第五代英特爾至強可擴展處理器的虛擬機性能最高可提升11%。

最后,在AI訓(xùn)練,AI實時推理以及AI批量推理場景中,第五代英特爾至強可擴展處理器也有較為明顯的提升。

有業(yè)內(nèi)人士反饋,因為DDR5成本原因,在一定程度上阻礙著新平臺的采用。

而現(xiàn)在,英特爾甩出了這樣一組數(shù)據(jù),幫助用戶看清楚新平臺在降低TCO方面的優(yōu)勢,還在使用舊平臺的用戶可以了解一下。

分享到

zhupb

相關(guān)推薦