以3月4日發(fā)布的Alveo SmartNIC SN1000為例,其既包括網(wǎng)絡功能的卸載,還可以進行計算的卸載與加速。這一創(chuàng)新既縮短了上市時間,而且具備很強的競爭力,因此填補了傳統(tǒng)算法交易中的市場空白。

除此之外,當天上午,賽靈思還發(fā)布了Smart World視頻分析及相關(guān)的高度可擴展的VMSS平臺等解決方案,并介紹了其應用商店(Xilinx App Store)相關(guān)細節(jié)。

加速算法交易:推出Alveo SN1000智能NIC

當今的算法交易主要是軟硬件算法交易兩大路徑:使用CPU來驅(qū)動算法交易,雖然部署簡便,但由于CPU發(fā)展面臨瓶頸,時延難以突破,因此缺乏市場競爭力,硬件算法交易方式需要專業(yè)開發(fā)商基于IT系統(tǒng)進行設計和架構(gòu),雖然因一定程度解決時延問題具備較強的競爭力,但成本高且交付周期長,潛在風險大;而從軟件算法交易轉(zhuǎn)換成硬件方式,門檻則非常高。

如何化解困擾當今眾多廠商面臨的這些挑戰(zhàn)、幫助客戶無需硬件開發(fā)就可以達到微秒級的低時延要求?

賽靈思推出的 Alveo SmartNIC SN1000加速卡就是這樣一個開箱即用的加速算法交易解決方案。

2×100GB的Alveo SN1000是業(yè)界首款硬件可組合式SmartNIC,符合數(shù)據(jù)中心封裝的尺寸需求,而功耗僅為75瓦。SN1000采用16核NXP Arm SoC構(gòu)建,UltraScale+ FPGA架構(gòu)、ARM的子系統(tǒng)以及可編程的Viits Networking等特性,可滿足市場不斷變化的需求。

由于預先進行了硬件加速,SN1000 SmartNIC稍加配置即可對遠程存儲、NVMe或其他流量以及安全和防火墻進行加速,實現(xiàn)了開箱即用、即插即用,同時維持相關(guān)性能不變。

SN1000 的另一個特性是,可以非常方便地移除預制某些功能,然后基于其統(tǒng)一軟件平臺Vitis全新打造的Vitis Networking,使用類似P4這樣的高級語言對數(shù)據(jù)面進行編程,也可以使用C和C++的語言對于ARM進行控制和流量的管理,滿足客戶自認為非常重要的應用領(lǐng)域。無論是配置還是加速,均可由賽靈思或客戶來實現(xiàn),亦可由客戶的客戶或獨立的軟件和IP合作伙伴來實現(xiàn)。這體現(xiàn)了賽靈思所提供的強大的可編程的靈活性。

Vitis Networking是此次發(fā)布的另一個全新品牌,其特點是囊括過去和現(xiàn)今所有編程技術(shù)。

上述硬件加速的功能可以在賽靈思的App商店 (Xilinx App Store)獲得。

作為業(yè)界首款可組合式SmartNIC,SN1000能夠滿足不同應用的需求:首先可為所有的卸載提供”軟件定義的硬件加速”,其次是以線速性能提供特定應用數(shù)據(jù)路徑,第三可以用P4、C、C++編程語言實現(xiàn)快速靈活應變的硬件加速,并且所擁有的控制面和數(shù)據(jù)面分離的異構(gòu)架構(gòu)。賽靈思數(shù)據(jù)中心事業(yè)部網(wǎng)絡與存儲產(chǎn)品管理總監(jiān)Kartik Srinivasa認為,SmartNIC SN1000代表了行業(yè)趨勢。

模塊化、組合式的特點,使得其支持非常廣泛的算法交易用例,并且還可以非常方便地把內(nèi)部和第三方的應用進行集成,便于再部署算法交易的框架和IP,方便包括經(jīng)紀人、交易所,市場數(shù)據(jù)廠商,銷售側(cè)的廠商和自營交易商等在內(nèi)的更多機構(gòu)用戶使用。

基于Vitis人工智能平臺的神經(jīng)網(wǎng)絡元素正在不斷優(yōu)化和更新,以幫助生態(tài)系統(tǒng)伙伴、客戶能更好的進行開發(fā)。

賽靈思數(shù)據(jù)中心事業(yè)部網(wǎng)絡與存儲產(chǎn)品管理總監(jiān)Kartik Srinivasa在回顧NIC產(chǎn)品的歷史演變后說,SmartNIC可以用于更廣泛類別的卸載,還可以基于ASIC Arm和FPGA,因此受到包括百度、阿里、騰訊在內(nèi)對性能要求最高,特別是對加速網(wǎng)絡、安全和存儲卸載功能需求各不相同的超大規(guī)模數(shù)據(jù)中心和云服務提供商的青睞。

關(guān)于SN1000之后的路線圖, Karitik表示,雖然現(xiàn)在不方便透露細節(jié),但是賽靈思正在積極研究下一代的加速、下一代的協(xié)議。

智能視頻分析解決方案和開發(fā)框架:Smart world已經(jīng)廣泛應用

當下市場上各種不同應用的數(shù)據(jù)分析,大都是針對相應的場景用最短的時間獲取最豐富的信息,而與人們的生命財產(chǎn)安全攸關(guān)的病患監(jiān)控、事故警告、工業(yè)安全、智能零售等場景,對應的是應用非常復雜,需要同時運行多種算法,其時延也必須要足夠低;一旦發(fā)生意外,就必須要能迅速并且穩(wěn)定地進行偵測,數(shù)據(jù)分析的性能必須是高效的和確定性的。

例如,由于欺詐,全球零售業(yè)每年損失超過1000億美元;由于工傷造成的誤工時間,每年也給工業(yè)領(lǐng)域造成了不小的損失;在醫(yī)學領(lǐng)域,護理成本占比約為30%……這些行業(yè)迫切希望能夠通過技術(shù)手段來降低各種成本。

要維護這樣一個復雜的應用,以前的對策就是不斷地擴充硬件,否則日常的設備部署和運行成本會越來越高。想象一下,按照2040年全球人口新增15億的預測,這樣的解決方案將難以大規(guī)模部署。

賽靈思專門為此打造的智能世界視頻分析解決方案 Smart Word可以整體支持網(wǎng)絡、存儲、計算加速,并且擁有業(yè)經(jīng)驗證的案例。

據(jù)賽靈思數(shù)據(jù)中心事業(yè)部亞太區(qū)的數(shù)據(jù)中心戰(zhàn)略營銷經(jīng)理Guruprasad介紹,Smart world是一套人工智能視頻分析解決方案和開發(fā)框架。面向其中的關(guān)鍵應用,賽靈思還進行了優(yōu)化,時延低至100毫秒且為各種復雜算法提供確定性的性能,以及可編程的Alveo器件支持和行業(yè)最低成本。

1.雙管齊下同時解決企業(yè)和開發(fā)者的痛點

Smart world解決方案雙管齊下同時解決企業(yè)和開發(fā)者的痛點。

面向開發(fā)者,優(yōu)化后的賽靈思解決方案提供了一個具有參考設計的框架——Xilinx視頻機器學習流媒體服務器(VMSS),實現(xiàn)了類似工作流的軟件開發(fā),無需任何FPGA開發(fā);面向客戶關(guān)注的方案部署,賽靈思聯(lián)合合作伙伴提供了隨時可部署的視頻分析解決方案,支持智慧城市、智能醫(yī)療、智能零售等重要領(lǐng)域的部署。

2.高度可擴展的VMSS平臺

作為一個高度可擴展的平臺,首次亮相的Xilinx視頻機器學習流媒體服務器(VMSS)可以方便地增加信道的數(shù)量而不影響總體時延,,即使是面對復雜性不斷增加的機器學習和人工智能應用同時并行多種模型和算法。

VMSS設計非常靈活,可以變更用途。例如,如果在晚上沒有視頻推斷的任務,可以去做比如說訓練、視頻和數(shù)據(jù)庫的處理。

這個平臺已經(jīng)也被客戶采用。如Mipsology提供高性能推斷的解決方案,并以即插即用的方法實現(xiàn)從GPU到FPGA的遷移;DeeppAI是在邊緣用FPGA進行訓練、大大提升性價比的首個成功進行商業(yè)部署的開發(fā)企業(yè)。

賽靈思的VMSS平臺在智能世界的視頻分析具有獨特的價值定位:非常低的總體擁有成本、確定性的性能、支持非常廣泛的部署,并且隨著生態(tài)系統(tǒng)不斷的擴展獲得更加廣泛的部署。

3.性能遠超對手,應用成果突出

在智慧城市領(lǐng)域,騰訊以WeLink檢測控制和管理樓宇中全部聯(lián)網(wǎng)設備。過去主要是把數(shù)據(jù)傳輸?shù)津v訊云,既占用成本,帶寬占用也很高,因為所有推斷都在云端進行,所以性能也非常低、耗時費力。Aupera采取本地的邊緣來進行推斷的方式,大大降低了時延,帶寬成本也降低了90%,目前已部署了超過5000個攝像頭,而且還有人臉識別、口罩監(jiān)測等額外的功能,比如說,即使戴著口罩也可以完成人臉識別。

與全球最主要的零售業(yè)巨頭合作試行的一個防零售欺詐對策,也是一個成功的例子。在這個案例中,某零售點通過32個攝像頭提供的視頻來找出在收銀臺發(fā)生的欺詐行為。

在同樣的測試條件下(TinyYoloV3 + RESNET50),由于賽靈思的器件對于流量的處理速度是英偉達的兩倍,而且功耗、散熱性能也更加優(yōu)越,形象地說,一臺服務器就可以頂對手兩臺使用,這大大降低了資本支出。與英偉達的T4 GPU相比,賽靈思的解決方案在時延方面降低75%到80%,總擁有成本方面降低近30%,確定性、一致性表現(xiàn)也十分出色。

賽靈思在關(guān)鍵應用領(lǐng)域表現(xiàn)遠遠超出對手,成為眾多合作伙伴青睞的根本原因。

圍繞智能世界解決方案,賽靈思當下正著重打造平臺和提供基本的要素,方便客戶和生態(tài)系統(tǒng)的合作伙伴更快的推出垂直整合的解決方案,并且在已有平臺的基礎(chǔ)上不斷的推陳出新,來滿足客戶需求,縮短上市時間。

賽靈思應用商城 ( Xilinx App Store):料成年內(nèi)客戶優(yōu)選

賽靈思應用商店(Xilinx App Store)是客戶能夠消費上述解決方案和應用的一種全新的方式,可非常輕松地幫助他們?nèi)ピu估、購買并且部署有關(guān)應用,同時還能夠幫助合作伙伴方便地管理許可證,更方便地通過數(shù)字、知識產(chǎn)權(quán)的管理計劃來獲取相關(guān)數(shù)據(jù),更好地推送給客戶。

這個應用是一項重要突破,尤其體現(xiàn)在客戶對于解決方案和應用的可獲得性和易用性方面。

例如,在Xilinx App Store上,開發(fā)者就可以免費使用VMSS框架,還可免費下載 開源的P4、C或者C++語言等。

賽靈思數(shù)據(jù)中心市場營銷總監(jiān)Ed Wright預計,新推出的賽靈思應用商店將會成為今年客戶評估并且部署加速解決方案和應用的優(yōu)選方式。


賽靈思數(shù)據(jù)中心春季媒體溝通會演講嘉賓

豐富且可組合的解決方案:更好地服務于中國新基建

對于賽靈思來說,中國的數(shù)據(jù)中心市場是非常重要的一個目標市場,無論是超大規(guī)模的數(shù)據(jù)中心,還是邊緣到企業(yè)。而賽靈思解決方案的差異化優(yōu)勢,就是可編程、可組合的智能網(wǎng)卡產(chǎn)品,這是包括SmartNIC和人工智能產(chǎn)品,以及金融加速產(chǎn)品在內(nèi)的所有產(chǎn)品系列的共性。

Kartik強調(diào),賽靈思不僅僅是有直接提供的器件、工具,還聯(lián)手合作伙伴共同推出的豐富和優(yōu)秀的垂直整合的解決方案,相信能夠大幅縮短產(chǎn)品的上市時間,服務于中國的新基建建設。

分享到

xiesc

相關(guān)推薦