基于浪潮K1 Power的極速交易系統(tǒng)采用了超低延時(shí)的RDMA IB網(wǎng)卡設(shè)備加速,相比于傳統(tǒng)的以太網(wǎng)卡,延時(shí)更低。傳統(tǒng)以太網(wǎng)模式下,兩臺(tái)服務(wù)器之間傳輸數(shù)據(jù)時(shí),須先把數(shù)據(jù)從應(yīng)用緩存拷貝到Kernel中的TCP協(xié)議棧緩存,然后再拷貝到驅(qū)動(dòng)層,最后拷貝到網(wǎng)卡緩存,多次內(nèi)存拷貝需要CPU多次介入,導(dǎo)致處理延時(shí)高達(dá)數(shù)十微秒,整個(gè)過(guò)程中CPU過(guò)多參與也大量消耗了CPU性能,影響正常的數(shù)據(jù)計(jì)算。而在RDMA模式下,應(yīng)用數(shù)據(jù)可以繞過(guò)Kernel協(xié)議棧而直接向網(wǎng)卡寫數(shù)據(jù),即網(wǎng)卡可以直接讀取用戶態(tài)的數(shù)據(jù)。由于浪潮K1 Power服務(wù)器支持PCIe Gen4,從而使得處理延時(shí)由數(shù)十微秒降低到1微秒內(nèi),且整個(gè)過(guò)程幾乎不需要CPU參與,節(jié)省了性能。

浪潮K1 Power采用RDMA IB卡加速效果相比x86方案延時(shí)更低,實(shí)測(cè)數(shù)據(jù)顯示,浪潮K1 Power搭配Gen4 RDMA IB卡,32字節(jié)延遲為0.80微秒,在1K字節(jié)時(shí)浪潮K1 Power/x86延遲比約為54%,即延時(shí)降低46%。浪潮K1 Power支持PCIe 4.0,又進(jìn)一步降低了延時(shí)水平,在32K字節(jié)以下時(shí),隨著數(shù)據(jù)包增大,Gen4低延遲優(yōu)勢(shì)越明顯,Gen4/Gen3延遲比最大約為85%;在512字節(jié)時(shí),Gen4/Gen3延遲比約為92%。

為提高IB卡的易用性,浪潮商用機(jī)器封裝了IB傳輸必須的建立連接和讀寫調(diào)用接口,用戶無(wú)需了解IB API復(fù)雜的編程模型及細(xì)節(jié),即可使用IB接口通信,體驗(yàn)IB RDMA的低延遲特性。

未來(lái)將集合處理器和CAPI特性優(yōu)勢(shì) 系統(tǒng)延時(shí)有望進(jìn)一步降低

浪潮K1 Power服務(wù)器搭載的全新POWER9處理器,相比x86服務(wù)器,在降低系統(tǒng)延時(shí)方面擁有諸多優(yōu)勢(shì)。多核多線程、CPU單核4線程的優(yōu)勢(shì),能夠輕松應(yīng)對(duì)高并發(fā)狀況,且主頻高達(dá)3.8GHz,擁有更快的時(shí)鐘周期;支持PCIe 4.0,將IO帶寬提高了2倍,延時(shí)降低了1/2;高達(dá)110M的L3緩存,大幅提高了數(shù)據(jù)命中率;支持CAPI,將FPGA獲取數(shù)據(jù)的延時(shí)降低至傳統(tǒng)I/O架構(gòu)的1/36。

根據(jù)未來(lái)發(fā)展規(guī)劃,基于浪潮K1 Power的極速交易系統(tǒng)將探索基于CAPI的FPGA加速方案,在該方案中,CAPI將能夠使異構(gòu)設(shè)備使用虛擬地址直接訪問(wèn)系統(tǒng)內(nèi)存。眾所周知,NVLink技術(shù)使得CPU和GPU之間可以共享內(nèi)存并可互相直接訪問(wèn)對(duì)方內(nèi)存,從而極大地提高了CPU和GPU之間的協(xié)同工作效率,與此類似,CAPI作為FPGA和處理器的接口,將允許設(shè)備內(nèi)存成為系統(tǒng)內(nèi)存映射的一部分,從而使FPGA和CPU上運(yùn)行的軟件可以看到相同的虛擬內(nèi)存地址,即內(nèi)存共享。這些鏈路及帶寬優(yōu)勢(shì),結(jié)合數(shù)據(jù)傳輸路徑上的優(yōu)勢(shì),使得浪潮K1 Power的傳輸速率高而IO路徑更短,從而使數(shù)據(jù)獲取的延時(shí)降低至300納秒級(jí)別。

傳統(tǒng)的IO Flow需要驅(qū)動(dòng)程序,需要內(nèi)存搬移,需要從用戶態(tài)切到內(nèi)核態(tài)做設(shè)備驅(qū)動(dòng),要累計(jì)運(yùn)行一萬(wàn)多條指令,而通過(guò)CAPI技術(shù),一次IO Flow運(yùn)行指令數(shù)量降低至500條以內(nèi),指令的大量精簡(jiǎn)進(jìn)一步降低了延時(shí)。

數(shù)字經(jīng)濟(jì)時(shí)代,隨著資本市場(chǎng)改革的加速,衍生品業(yè)務(wù)政策創(chuàng)新、新產(chǎn)品品種不斷豐富,期貨市場(chǎng)成交量和客戶權(quán)益屢創(chuàng)新高,投資者結(jié)構(gòu)和交易方式正在發(fā)生著結(jié)構(gòu)性調(diào)整,機(jī)構(gòu)化大勢(shì)方興未艾。快速增長(zhǎng)的機(jī)構(gòu)投資者對(duì)券商提出了更高要求,以極限降低時(shí)延為目標(biāo)的極速交易系統(tǒng)為代表的金融科技迭代創(chuàng)新勢(shì)在必行?；诶顺盞1 Power的低延時(shí)網(wǎng)卡方案,以更低的延時(shí),結(jié)合浪潮K1 Power服務(wù)器高可靠、高安全及性能優(yōu)勢(shì),將引領(lǐng)新一輪交易基礎(chǔ)設(shè)施建設(shè)創(chuàng)新浪潮,加速行業(yè)數(shù)字化轉(zhuǎn)型步伐。

songjy