談到為什么要堅(jiān)持自研時(shí),QingStor存儲產(chǎn)品線研發(fā)負(fù)責(zé)人王煜表示,企業(yè)核心業(yè)務(wù)上云,對于存儲的要求不只是性能和穩(wěn)定性這么簡單,還需要滿足云計(jì)算在安全性、隔離性、大規(guī)模水平擴(kuò)展能力的要求。而主流開源存儲中,沒有一款能夠完全滿足上述所有要求,包括Ceph和HDFS都有問題。(不要Ceph,青云自己做了一套QingStor文件存儲系統(tǒng)

青云QingCloud成立于2012年,2013年曝出的斯諾登事件讓很多人滿臉錯(cuò)愕地表示長了見識,也提了醒,不知道這跟青云現(xiàn)在的“技術(shù)潔癖”有多大關(guān)系。在外人看來,青云很技術(shù),凡事都喜歡自己來,要搞懂代碼的含義,在青云看來,是希望用全棧自主可控來消除企業(yè)對數(shù)據(jù)安全的顧慮。

自研需要勇氣,需要長期、大量的投入,效果可能還不盡如人意,不過,青云QingCloud存儲的市場表現(xiàn)不錯(cuò),而且,還經(jīng)常有新東西拿出來,可以說自研之路是成功的。

QingStor存儲家族總共有四款產(chǎn)品:QingStor NeonSAN(分布式塊存儲)、QingStor對象存儲、QingStor文件存儲、QingStor融合存儲,每一都款是獨(dú)立進(jìn)行架構(gòu)設(shè)計(jì)和開發(fā)的,每一款都面向不同的場景。

QingStor存儲家族追求的不是一步到位的通用性,青云QingCloud認(rèn)為通用性會(huì)在許多方面做出弱化和妥協(xié),于是先后發(fā)布了強(qiáng)調(diào)性能的QingStor NeonSAN(分布式塊存儲)、支撐海量非結(jié)構(gòu)化數(shù)據(jù)存儲的QingStor對象存儲,以及可對接各種系統(tǒng)的QingStor文件存儲。

考慮到市場上還是有融合存儲的需求,需要一套存儲支持多種存儲類型和存儲接口,于是,青云QingCloud也發(fā)布了QingStor融合存儲。所以,青云這是妥協(xié)了嗎?

不是的,原來,融合存儲融合的三款專業(yè)存儲只是在部署層面上做了整合,在架構(gòu)層面上依然保持各部分原來的特性。該快的還是快,該海量的還是海量,誰也不影響誰,這與Ceph架構(gòu)完全不一樣。

過去幾年來,青云QingCloud的存儲保持每年一次大更新的節(jié)奏,最近,青云存儲的全系產(chǎn)品又迎來了一次更新,正是一年一度的大更新,在這里做一個(gè)簡單的介紹,看到這些更新,真的會(huì)感覺青云存儲自研之路是必然的,也是必須的。

QingStor NeonSAN:支撐全閃存架構(gòu)和容器平臺

QingStor 存儲產(chǎn)品線產(chǎn)品經(jīng)理馮相東介紹了QingStor NeonSAN 3.0新增的四大功能,包括在同一個(gè)集群內(nèi)支持不同配置的硬件,包括支持卷粒度的QoS,包括在物理機(jī)、虛擬機(jī)和容器平臺上都支持用RDMA 互聯(lián)。

特別值得注意的是,新版本還新增了對于NVMe-oF協(xié)議的支持,NVMe-oF是為閃存而生的協(xié)議,果不其然,青云QingCloud做起了全閃存,發(fā)布了QingStor NF6000分布式全閃存儲一體機(jī)。

只需三節(jié)點(diǎn)的x86服務(wù)器即可,標(biāo)準(zhǔn)的硬件配置下能提供100萬IOPS和0.5毫秒的低延遲,青云QingCloud是要打造極具性價(jià)比的全閃存,要破除分布式存儲性能低的固有印象,按照分布式存儲隨節(jié)點(diǎn)擴(kuò)展提升性能的特性,分布式全閃存的性能還是有很大發(fā)展空間的,當(dāng)然,對于技術(shù)要求也非常高。

QingStor NeonSAN的版本迭代不斷強(qiáng)化在核心應(yīng)用場景上的能力,比如在云平臺/虛擬化場景中不斷豐富支持的虛擬化平臺,在大數(shù)據(jù)場景中優(yōu)化副本策略提升存儲空間利用率,在業(yè)務(wù)連續(xù)性場景中簡化管理的復(fù)雜度。

另外,新版本的QingStor NeonSAN新增了對于容器/云原生場景的支持,提供標(biāo)準(zhǔn)的容器存儲接口和各種企業(yè)級特性,可為KubeSphere和Kubernetes這樣的容器平臺提供持久化存儲能力。

考慮到企業(yè)落地容器平臺的復(fù)雜度,青云QingCloud開源了K8s發(fā)行版KubeSphere容器平臺,結(jié)合上支持容器存儲的QingStor NeonSAN,最終推出了KubeSphere KF3000一體機(jī),三部分整合優(yōu)化后可提供商用級服務(wù),免去了用戶安裝配置的麻煩,并且在性能上能達(dá)到很高的水平。

QingStor對象存儲:兼?zhèn)浜A繑?shù)據(jù)和高性能

QingStor對象存儲產(chǎn)品經(jīng)理賈斌介紹說,QingStor 對象存儲在海量數(shù)據(jù)存儲能力、高性能方面花了很大精力。特別是在一些小文件并發(fā)場景中,性能提升達(dá)52%,而且,QingStor對象存儲的單桶(Bucket)數(shù)據(jù)超過百億時(shí),性能仍然非常穩(wěn)定。最終,讓QingStor對象存儲兼?zhèn)浜A繑?shù)據(jù)和高性能。

除了基礎(chǔ)特性外,QingStor對象存儲3.0新增了幾個(gè)重要功能,并且強(qiáng)化了部分場景適用性。

首先,版本控制功能強(qiáng)化數(shù)據(jù)保護(hù)能力。版本控制功能可以記錄數(shù)據(jù)的歷史版本,需要的時(shí)候可以回溯,解決了企業(yè)級用戶的數(shù)據(jù)保護(hù)需求,在意外刪除、意外覆蓋、惡意篡改后能找回?cái)?shù)據(jù),對于政務(wù)、金融、保險(xiǎn)、公共安全行業(yè)特別有意義。

其次,數(shù)據(jù)追加寫入功能強(qiáng)化視頻監(jiān)控場景,以應(yīng)對諸如視頻監(jiān)控這類需要實(shí)時(shí)數(shù)據(jù)存儲的場景。說到視頻監(jiān)控場景,對于數(shù)據(jù)并發(fā)存儲的需求越來越高,對于結(jié)合AI大數(shù)據(jù)分析能力的要求也越來越多,這點(diǎn),QingStor對象存儲也都能很好的支持。

再一個(gè)是數(shù)據(jù)跨區(qū)域復(fù)制功能,結(jié)合官方工具qsctl和qscamel,可以讓用戶以可視化的方式對海量數(shù)據(jù)進(jìn)行遷移,支持從傳統(tǒng)存儲遷移到分布式對象存儲,支持跨云服務(wù)商、跨云服務(wù)區(qū)的復(fù)雜數(shù)據(jù)遷移,支持各種常見的遷移操作。

QingStor對象存儲的一大優(yōu)勢場景是做數(shù)據(jù)備份,相比之下,傳統(tǒng)備份方案的數(shù)據(jù)恢復(fù)緩慢、整體成本高昂、運(yùn)維管理復(fù)雜,而基于對象存儲的數(shù)據(jù)備份則非常的現(xiàn)代化,不僅運(yùn)維友好,而且成本更低。

QingStor文件存儲:強(qiáng)化通用性

QingStor文件存儲研發(fā)負(fù)責(zé)人黃蒙表示,新版本首先通過優(yōu)化架構(gòu)和改用Rust編程語言來優(yōu)化了性能,更重要的是,青云QingCloud對于文件存儲也提出了新的想法,青云希望打造一款云計(jì)算基礎(chǔ)架構(gòu)下,更加通用的文件存儲產(chǎn)品。

具體要在文件接口、擴(kuò)展性和適應(yīng)差異化需求這三方面下手。

在接口方面,經(jīng)典的HDFS只支持部分接口類型,所以,通用性不夠。對象存儲本身就是為互聯(lián)網(wǎng)設(shè)計(jì)的,雖然也可以通過協(xié)議轉(zhuǎn)換支持文件協(xié)議,但性能額外損耗直接導(dǎo)致應(yīng)用場景受限。QingStor文件存儲的設(shè)計(jì)目標(biāo)是要在支持通用文件接口和通用網(wǎng)絡(luò)文件協(xié)議的前提下,提供一個(gè)可擴(kuò)展,且高可用的分布式文件存儲系統(tǒng),以此來擴(kuò)展使用場景。

在可擴(kuò)展性方面,QingStor文件存儲不僅能實(shí)現(xiàn)統(tǒng)一命名空間下的可擴(kuò)展性,而且每個(gè)目錄都具有可擴(kuò)展性。而別的常見的方案中,單個(gè)目錄不具備擴(kuò)展性,這種方案的統(tǒng)一命名空間是通過將多個(gè)獨(dú)立的本地文件系統(tǒng)組織起來,通過增加一個(gè)個(gè)本地文件系統(tǒng)來實(shí)現(xiàn)擴(kuò)展。

后者最大的問題在于,當(dāng)某個(gè)目錄下的某個(gè)文件成為熱點(diǎn)數(shù)據(jù)后,所有對它的訪問都只能通過一個(gè)網(wǎng)關(guān)節(jié)點(diǎn)來進(jìn)行,很容易出現(xiàn)性能瓶頸。QingStor文件存儲的每個(gè)目錄都可以真正擴(kuò)展,而且允許多個(gè)邏輯接入節(jié)點(diǎn)同時(shí)訪問相同數(shù)據(jù),也就是說,數(shù)據(jù)訪問的性能也具有擴(kuò)展性。

在可擴(kuò)展性方面,QingStor文件存儲才是真正的可擴(kuò)展性。

在滿足應(yīng)用的差異化需求方面,QingStor文件存儲也有新操作,它支持為每一個(gè)文件系統(tǒng)提供差異化設(shè)置的能力,比如,用戶可以按照需求選擇副本數(shù),還可以選擇數(shù)據(jù)塊大小,總之是給了用戶更多自己選擇的空間,以此實(shí)現(xiàn)靈活性,提升通用性。

一點(diǎn)感受

如前文所言,青云QingCloud對存儲的想法是非常多的,而且執(zhí)行力也很不錯(cuò),比如跟KuberSphere容器結(jié)合做出的一體機(jī),比如支持NVMe-oF的全閃存,又比如對于文件存儲通用性的設(shè)計(jì),都令人眼前一亮。許多細(xì)致入微的更新在技術(shù)應(yīng)該很難,但對用戶都非常有價(jià)值,行百里者半九十,不斷打磨產(chǎn)品的心,只有自研才能放得下。

分享到

zhupb

相關(guān)推薦