3月23日,在曙光舉辦的技術(shù)圓桌派上,來自業(yè)內(nèi)的多位大咖和專家就數(shù)字化轉(zhuǎn)型與分布式存儲發(fā)展趨勢展開討論。
從左至右依次為《海峰看科技》創(chuàng)始人-黃海峰、賽迪顧問業(yè)務(wù)總監(jiān)-高丹、中科天璣區(qū)域拓展部總經(jīng)理-劉維秦、中科曙光存儲事業(yè)部副總經(jīng)理-張新鳳,以及遠(yuǎn)程連線的中國石油化工股份有限公司石油物探技術(shù)研究院信息中心技術(shù)主管-葛鑫
支撐海量數(shù)據(jù) 分布式存儲該如何應(yīng)戰(zhàn)
伴隨著云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)等信息技術(shù)的快速發(fā)展和傳統(tǒng)產(chǎn)業(yè)數(shù)字化的轉(zhuǎn)型,新技術(shù)的應(yīng)用與推廣帶來海量數(shù)據(jù)的規(guī)模化聚集。用戶對存儲系統(tǒng)的穩(wěn)定性、性能和彈性擴(kuò)展能力有著更高的期待,而傳統(tǒng)集中式存儲煙囪式的部署模式在擴(kuò)展性和管理上都遇到非常多的挑戰(zhàn),主持人黃海峰在圓桌派一開始向嘉賓們提出了這一問題。
“2021年,分布式存儲和云存儲在量和銷售額方面的增速分別達(dá)到30%和20%,相較于傳統(tǒng)存儲的20%和8%,分布式存儲遠(yuǎn)遠(yuǎn)勝于傳統(tǒng)存儲?!辟惖项檰枠I(yè)務(wù)總監(jiān)高丹對2021年的存儲市場格局做出了總結(jié)。
“面對海量爆發(fā)的數(shù)據(jù),以前傳統(tǒng)集中式的存儲已經(jīng)不是最優(yōu)選了?!敝锌剖锕獯鎯κ聵I(yè)部副總經(jīng)理張新鳳表示,“對分布式存儲本身來說,破解海量數(shù)據(jù)存儲難題,也是有非常多的挑戰(zhàn)?!?/p>
首先,就是解決海量數(shù)據(jù)的存儲。海量不簡簡單單的是設(shè)備的堆集,技術(shù)難度是指數(shù)級的增長。要看廠商是否有豐富的超大部署規(guī)模和實(shí)施經(jīng)驗(yàn);第二是能對5G、AI、區(qū)塊鏈等新技術(shù)有更好的支持。這就需要統(tǒng)一協(xié)議的支持,打通從數(shù)據(jù)的采集、應(yīng)用、分析到歸檔的鏈路,做到異構(gòu)數(shù)據(jù)的融合;第三,針對用戶實(shí)際應(yīng)用,在產(chǎn)品性能和功能上做到深度的定制。
自研優(yōu)勢盡顯 曙光分布式存儲領(lǐng)跑市場
“存儲的市場,是一個需要很深的技術(shù)積累和很大資金投入的市場。曙光推出的產(chǎn)品是自研的。自研的路線,對客戶節(jié)約成本角度來說,還是對我們自己安全的角度來說,都是一套比較好的技術(shù)路線,我也希望我們自己國家的自研路線走的越來越好?!备叩け硎?。
“曙光做存儲,一開始就選擇了分布式存儲路線?!睆埿馒P介紹,2009年,曙光推出第一代全自主研發(fā)的分布式存儲系統(tǒng)ParaStor,基于POSIX協(xié)議,在做數(shù)據(jù)處理的時候有很好的性能體驗(yàn);2013年,數(shù)據(jù)中心已經(jīng)開始比較規(guī)?;牟渴?,這個時候我們完成了對NAS共享的支持;2019年,基本各個行業(yè)都在普及云化,我們?yōu)榱私鉀Q業(yè)務(wù)上云的問題,又推出分布式塊協(xié)議?,F(xiàn)在, 曙光分布式存儲系統(tǒng)ParaStor完成了對文件、塊、對象和大數(shù)據(jù)協(xié)議的支持,基本覆蓋所有應(yīng)用場景。
基于自研優(yōu)勢,曙光可根據(jù)不同行業(yè)用戶的不同需求,進(jìn)行代碼級的定制化設(shè)計(jì)與開發(fā),產(chǎn)品功能和性能指標(biāo)可大大優(yōu)于同類產(chǎn)品?!氨热缥覀兊姆植际綄ο?,單桶就可以實(shí)現(xiàn)4K小文件千億級別的存儲,一個系統(tǒng)TPS的聚合性能可以達(dá)到百萬級,這種水平是業(yè)內(nèi)一流的?!睆埿馒P說。
曙光成就產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型最佳實(shí)踐
“分布式的應(yīng)用越來越廣泛,但細(xì)化到具體的應(yīng)用場景里,又會發(fā)現(xiàn)應(yīng)用需求是千差萬別的?!泵鎸Ξ?dāng)前分布式存儲多樣化的應(yīng)用需求,張新鳳表示“要快速的響應(yīng)市場需求,推出合適的產(chǎn)品,首先要有強(qiáng)有力的團(tuán)隊(duì)支撐,其次是對行業(yè)的深耕和理解,基于以上兩者的優(yōu)勢,對用戶推出定制化的產(chǎn)品及運(yùn)維服務(wù)?!?/p>
張新鳳介紹,在某科研機(jī)構(gòu)氣候模擬和科學(xué)研究項(xiàng)目中,為了幫助用戶解決業(yè)務(wù)流程時間過長的問題,曙光集結(jié)專業(yè)研發(fā)團(tuán)隊(duì)為客戶定制加速技術(shù)。在計(jì)算和存儲節(jié)點(diǎn)之間,配備了大內(nèi)存和高速NVMe的性能加速節(jié)點(diǎn),把大量4K非對齊IO在這個節(jié)點(diǎn)上先做聚合,再到存儲上面。最后用戶實(shí)測使用性能提升8到10倍?!皩Υ鎯夹g(shù)有了一定的積累,對應(yīng)用有相當(dāng)?shù)睦斫?,才能迅速抓到用戶需求痛點(diǎn),快速響應(yīng)?!?/p>
“在石油勘探過程中,數(shù)據(jù)存儲和分析處理的需求呈幾何倍增長,對存儲容量以及擴(kuò)展性都提了很高的要求;石油勘探領(lǐng)域?qū)κ占蟻淼臄?shù)據(jù),需要提供TB級及PB級的讀寫性能,來滿足我們現(xiàn)在前端的密集計(jì)算和模擬?!?,中石化石油物探技術(shù)研究院信息中心技術(shù)主管葛鑫提及。
“在輿情數(shù)據(jù)智能分析時,客戶要求系統(tǒng)架構(gòu)能融合訓(xùn)練、分析及推理,傳統(tǒng)存算一體化的模式就不太適用?!敝锌铺飙^區(qū)域拓展部總經(jīng)理劉維秦在分布式存儲應(yīng)用中談到,“曙光原生HDFS協(xié)議的支持,在存算分離的基礎(chǔ)上,保證了性能的指數(shù)級提升,還可以支持更多大數(shù)據(jù)高級功能?!?/p>
“未來的存儲系統(tǒng)要很好地支撐應(yīng)用,無論是性能的極致優(yōu)化,或者是功能的定制”,張新鳳對存儲市場的未來發(fā)展演進(jìn)做出判斷,“沒有一蹴而就的捷徑可以走,更多的是天長日久的積累和演進(jìn)”,作為國內(nèi)第一批做自研分布式存儲的廠商,曙光將以更扎實(shí)的科研技術(shù)、更先進(jìn)的存儲產(chǎn)品、更優(yōu)質(zhì)的存儲服務(wù),助力產(chǎn)業(yè)升級和數(shù)字化轉(zhuǎn)型。
曙光技術(shù)圓桌派精彩回顧:https://live.vhall.com/v3/lives/watch/556380469