IPU帶來的優(yōu)勢(shì)有很多,最核心的點(diǎn)就在于,將負(fù)載分離和卸載(Offload),原本都由CPU來完成的工作,有一部分遷移到了IPU上,IPU負(fù)責(zé)運(yùn)行云服務(wù)商的管理軟件,以及網(wǎng)絡(luò)和存儲(chǔ)功能,CPU全交給用戶運(yùn)行業(yè)務(wù)代碼,而且,IPU在安全性、性能和效率上會(huì)有較大提升。
上圖是Facebook在生產(chǎn)環(huán)境中,運(yùn)行微服務(wù)時(shí)候的CPU周期的分布情況,藍(lán)色的部分是編排之類的開銷,而灰色部分是真正用于運(yùn)行業(yè)務(wù)邏輯的部分,看來真正給用戶業(yè)務(wù)用的部分占比非常低。
而IPU要做的就是默默地扛下這些開銷。
優(yōu)化過的IPU具有加速功能,更擅長(zhǎng)處理存儲(chǔ)協(xié)議,壓縮,解壓縮,加密校驗(yàn)等事務(wù),由于CPU不用管這些了,所以,云服務(wù)提供商可以把整個(gè)CPU都給用戶。
英特爾的IPU提供存儲(chǔ)管理功能,而要管理的硬盤不在服務(wù)器內(nèi)部,而是在通過網(wǎng)絡(luò)連接的外部共享存儲(chǔ)上,這里說的是所有硬盤都不在服務(wù)器上,甚至連系統(tǒng)啟動(dòng)盤也不在服務(wù)器內(nèi)部,創(chuàng)建云主機(jī)的時(shí)候才在共享存儲(chǔ)上創(chuàng)建個(gè)虛擬的NVMe固態(tài)盤。
這種服務(wù)器上沒有硬盤的架構(gòu)被稱作是Diskless架構(gòu),服務(wù)器架構(gòu)得以簡(jiǎn)化,意味著成本降低,整個(gè)存儲(chǔ)的管理無需CPU進(jìn)行任何干預(yù),意味著CPU開銷的降低。而且,英特爾表示無需擔(dān)心性能表現(xiàn),時(shí)延和抖動(dòng)都非常低,性能很高。
英特爾提到,目前業(yè)內(nèi)在用的IPU主要都是基于FPGA來打造的,但趨勢(shì)是都在往ASIC方案上轉(zhuǎn)型,兩者各有優(yōu)勢(shì),英特爾選擇的技術(shù)路線是:兩個(gè)都要!
英特爾的IPU既有基于FPGA的方案,也有基于ASIC的方案。
第一款是Oak Springs Canyon,它基于Intel的Agilex FPGA和Xeon-D片上處理器,Agilex FPGA擁有業(yè)界領(lǐng)先的功率、效率和性能。Oak Springs Canyon支持PCIe Gen 4 x16、2 x 100Gbit以太網(wǎng),并且可通過Intel OFS來進(jìn)行一些定制化開發(fā)。
第二款I(lǐng)PU叫Mount Evans,英特爾表示,Mount Evans是與云服務(wù)商共同設(shè)計(jì)的,擁有同類產(chǎn)品中最好的數(shù)據(jù)包處理引擎。
Mount Evans包含左側(cè)的IO子系統(tǒng)和右側(cè)計(jì)算子系統(tǒng)兩部分。
網(wǎng)絡(luò)部分用ASIC芯片進(jìn)行數(shù)據(jù)包處理,ASIC面向特定負(fù)載而設(shè)計(jì),在執(zhí)行效率上比FPGA要高得多。性能方面,其200Gbit/sec全雙工網(wǎng)絡(luò)可以支持最多四臺(tái)至強(qiáng)主機(jī)。支持的ROCEv2可以提供更強(qiáng)的網(wǎng)絡(luò)傳輸性能。
計(jì)算部分使用的是16個(gè)ARM Neoverse N1核心,此外,計(jì)算部分還配有Lookaside加密與壓縮引擎,該引擎源自英特爾的QAT技術(shù)。
有人說Mount Evans最大的亮點(diǎn)是用上了ARM核心,對(duì)于英特爾來說,或許是最合理的選擇吧。
評(píng)論
英特爾雖然是DPU領(lǐng)域的新人,但一入場(chǎng)就帶著自己的思考:比如,英特爾認(rèn)為IPU是更合理的叫法,比如說,在FPGA方案和ASIC方案上的全面布局,并且認(rèn)為兩種方案將長(zhǎng)期共存。
IPU(DPU)這類產(chǎn)品起源于超大規(guī)模數(shù)據(jù)中心,最早大范圍應(yīng)用的就是AWS的Nitro,憑借專用設(shè)備Offload替代昂貴的通用處理器,從而帶來更大的額外收益,而隨著英特爾入局這一領(lǐng)域,或?qū)⒏淖僆PU(DPU)超大規(guī)模數(shù)據(jù)中心專屬的局面。
Guido認(rèn)為,IPU適合任何擁有類似于云的數(shù)據(jù)中心的客戶,并非必須是大型云,也可以是小型云和企業(yè)數(shù)據(jù)中心,只要運(yùn)營(yíng)模式類似于云,IPU就非常適合。
單單是在超大規(guī)模數(shù)據(jù)中心應(yīng)用已經(jīng)決定了IPU有龐大市場(chǎng)規(guī)模,如果未來進(jìn)一步普及,IPU的市場(chǎng)規(guī)模必然會(huì)引起更大關(guān)注,Guido表示,雖然市場(chǎng)上有一些創(chuàng)新公司,但總體上,IPU還是大公司主導(dǎo)的市場(chǎng)。
提起英特爾,普通人首先能想到的是CPU,英特爾有許多方案都是圍繞至強(qiáng)而打造的,而英特爾的IPU則不是英特爾至強(qiáng)的專屬,雖然面向英特爾面向IPU有一些優(yōu)化,但沒有任何綁定關(guān)系,保持了很好的開放性。
從本質(zhì)上來講,IPU釋放了CPU的工作負(fù)擔(dān),在一定工作負(fù)載下,可以減少CPU和服務(wù)器的采購(gòu)量,但在數(shù)據(jù)爆炸和計(jì)算需求不斷增加的背景下,對(duì)CPU的需求還會(huì)繼續(xù)增長(zhǎng),英特爾也完全不擔(dān)心IPU業(yè)務(wù)會(huì)影響CPU業(yè)務(wù)。
這種不必要的擔(dān)心就好比當(dāng)年VMware虛擬化技術(shù)剛開始流行時(shí)的擔(dān)憂,有人說一臺(tái)服務(wù)器虛擬化成多臺(tái)服務(wù)器,是否就意味著減少服務(wù)器的采購(gòu)量,但事實(shí)證明,虛擬化推動(dòng)著服務(wù)器市場(chǎng)的發(fā)展和技術(shù)進(jìn)步。
英特爾目前沒有公布IPU的技術(shù)演進(jìn)路線,但可以肯定的是,未來肯定會(huì)將Hypervisior也放到IPU來運(yùn)行,從而給用戶交付更足量的通用CPU資源,英特爾的專家表示已經(jīng)在進(jìn)行一些探索,未來也不排除在IPU上集成x86核心的可能。