噜噜噜综合,又色又爽又高潮免费观看,综合无码一区二区三区四区五区,中文字幕无码人妻aaa片,四虎成人精品永久网站

李帆:富士通大數(shù)據(jù)基礎(chǔ)設(shè)施平臺(tái)解決方案

IT邵年 發(fā)表于:13年12月11日 22:10 [原創(chuàng)] DOIT.com.cn

  • 分享:
[導(dǎo)讀]在大數(shù)據(jù)與行業(yè)應(yīng)用碰撞出精彩火花之前,企業(yè)首先需要面對(duì)的是,大數(shù)據(jù)存儲(chǔ)數(shù)據(jù)容量、種類和處理速度的驟增,對(duì)原有基礎(chǔ)設(shè)施帶來(lái)的壓力。

今日,以“數(shù)據(jù)造化 智見(jiàn)未來(lái)”為主題的2013中國(guó)存儲(chǔ)峰會(huì)在北京盛大開(kāi)幕。今年是DOIT正式成立十周年,也是中國(guó)存儲(chǔ)峰會(huì)連續(xù)舉辦第九年。分論壇作為中國(guó)存儲(chǔ)峰會(huì)的經(jīng)典環(huán)節(jié),再次引來(lái)現(xiàn)場(chǎng)嘉賓的熱烈參與。此次的大會(huì)分論壇包括:軟件定義與數(shù)據(jù)中心論壇、云存儲(chǔ)與數(shù)據(jù)保護(hù)論壇、大數(shù)據(jù)與行業(yè)應(yīng)用論壇、2013中國(guó)閃存高峰論壇。其中大數(shù)據(jù)論壇作為當(dāng)下的熱點(diǎn)話題,加之其接地氣的行業(yè)應(yīng)用分享,現(xiàn)場(chǎng)氣氛再次引爆。

在大數(shù)據(jù)與行業(yè)應(yīng)用碰撞出精彩火花之前,企業(yè)首先需要面對(duì)的是,大數(shù)據(jù)存儲(chǔ)數(shù)據(jù)容量、種類和處理速度的驟增,對(duì)原有基礎(chǔ)設(shè)施帶來(lái)的壓力。富士通信息系統(tǒng)有限公司產(chǎn)品戰(zhàn)略事業(yè)部總監(jiān)李帆為現(xiàn)場(chǎng)嘉賓帶來(lái)了富士通的解決之道——《富士通大數(shù)據(jù)基礎(chǔ)設(shè)施平臺(tái)解決方案》。

 

 

下面是李帆老師的現(xiàn)場(chǎng)演講文字實(shí)錄:

非常高興有這樣一個(gè)機(jī)會(huì)在這個(gè)2013年中國(guó)存儲(chǔ)峰會(huì)跟大家分享一下關(guān)于大數(shù)據(jù)的觀點(diǎn)和看法。我們富士通是廠商,我們存儲(chǔ)峰會(huì)拿出我們大數(shù)據(jù)平臺(tái)基礎(chǔ)設(shè)施的解決方案,這里我們一起分享一下。

我們首先跟大家談一下大數(shù)據(jù)時(shí)代,這個(gè)時(shí)代到底有什么不一樣,有什么在變化?在我來(lái)參加展會(huì)之前有一個(gè)朋友問(wèn)我你愿意到存儲(chǔ)峰會(huì)演講主要是談什么?談服務(wù)器存儲(chǔ)、云計(jì)算還是什么?我跟他說(shuō)談大數(shù)據(jù)。好像所有人都在談?wù)摯髷?shù)據(jù),為什么?看起來(lái)數(shù)據(jù)這個(gè)東西我們?cè)谡麄(gè)大會(huì)中我們看到,這個(gè)數(shù)據(jù)是真正有價(jià)值的。對(duì)數(shù)據(jù)的挖掘和分析做一些探討,如何看海量數(shù)據(jù)當(dāng)中有一些業(yè)務(wù)方向和哪些新的商機(jī)存在的,這個(gè)是我們考慮的一點(diǎn)。

第二點(diǎn)所有人想我們做大數(shù)據(jù)的平臺(tái)做大數(shù)據(jù)整個(gè)的解決方案跟以前有什么不一樣。同時(shí)我們也要看到做大數(shù)據(jù)的時(shí)候有很多方面跟原來(lái)實(shí)際上是一樣的都需要做分析,都需要有一個(gè)很高效、可靠這樣大數(shù)據(jù)的平臺(tái)。變化在哪里?不一樣的地方在于大數(shù)據(jù)時(shí)代用戶和業(yè)務(wù)所產(chǎn)生的數(shù)據(jù)總量在變大,這個(gè)海量增加會(huì)使你看到數(shù)據(jù)發(fā)生了一個(gè)變化,原來(lái)是TB級(jí)現(xiàn)在馬上到PB級(jí),這個(gè)總量在變大。由于技術(shù)革新帶來(lái)我們現(xiàn)代的系統(tǒng)、服務(wù)器、設(shè)施帶來(lái)挖掘的數(shù)據(jù)種類變多了,用戶日志、交易的包,這個(gè)包由于你技術(shù)不達(dá)標(biāo),處理手段不夠先進(jìn),我不能處理,F(xiàn)在有大量非結(jié)構(gòu)化數(shù)據(jù)出現(xiàn),同時(shí)我們有一些很好的軟件框架去部署到整個(gè)開(kāi)源市場(chǎng),也部署到商業(yè)市場(chǎng),這時(shí)候我們處理種類變多了。

還有一部分由于大數(shù)據(jù)到來(lái)之后,由于計(jì)算領(lǐng)域提高,我們分析數(shù)據(jù)時(shí)效性提高了,有的用戶做一個(gè)復(fù)雜的報(bào)告有時(shí)候運(yùn)行幾個(gè)小時(shí)甚至幾天才能看到一個(gè)報(bào)表,現(xiàn)在領(lǐng)導(dǎo)要求我只需要在這么多用戶當(dāng)中我用戶下一個(gè)節(jié)點(diǎn)使用什么樣的數(shù)據(jù)包,什么樣的流量,這時(shí)候時(shí)效性被提高。大數(shù)據(jù)歸根到底我們看到整個(gè)大數(shù)據(jù)對(duì)基礎(chǔ)設(shè)施的變化是存在的。

我們特別看到數(shù)據(jù)的時(shí)候我們想提到一點(diǎn),整個(gè)數(shù)據(jù)對(duì)大數(shù)據(jù)時(shí)代,這個(gè)數(shù)據(jù)存儲(chǔ)方式發(fā)生了顯著變化,這個(gè)變化體現(xiàn)在哪里?這個(gè)數(shù)據(jù)層次變多了。怎么叫變多了?以前我們大多數(shù)業(yè)務(wù)系統(tǒng)從硬盤出來(lái)之后弄過(guò)內(nèi)存到CPU,摩爾定律發(fā)展很快,整個(gè)磁盤的技術(shù)和存儲(chǔ)技術(shù)屬于提升不是那么明顯?這時(shí)候?qū)τ谟?jì)算能力要求,希望就是說(shuō)我這個(gè)系統(tǒng)能夠有更高的計(jì)算能力,所以我們看到從毫秒級(jí)納秒級(jí)我們希望有更多內(nèi)存技術(shù)提升我整個(gè)大數(shù)據(jù)處理效率。在處理整個(gè)金字塔尖是內(nèi)存計(jì)算,你業(yè)務(wù)你的系統(tǒng)需要有一套機(jī)制實(shí)現(xiàn)并存高計(jì)算運(yùn)行計(jì)算的引擎,這是我們大數(shù)據(jù)時(shí)代看到第一個(gè)變化。

第二個(gè)變化當(dāng)中中間層次,我們叫做橫向拓展的存儲(chǔ),以前存儲(chǔ)是集中式的,我們要求集中式縱向擴(kuò)展有很高集成能力,現(xiàn)在很多存儲(chǔ)是碎片化,分布式,我們要求這個(gè)節(jié)點(diǎn)在北京,這個(gè)節(jié)點(diǎn)在上;蛘咴诔啥,這時(shí)候這個(gè)分布式的計(jì)算要求我們處理能力速度提高和我們數(shù)據(jù)要跟上,我數(shù)據(jù)還是在集中式的我,我數(shù)據(jù)和我分散能力碎片化的計(jì)算相離非常遠(yuǎn),延時(shí)很大。所以我們中間層次叫做橫向擴(kuò)展的存儲(chǔ),既是存儲(chǔ)也是計(jì)算的處理服務(wù)器我們叫做一體機(jī)。

我們還有需要有一個(gè)金字塔機(jī),我們之前幾個(gè)演講當(dāng)中我們看到數(shù)據(jù)始終是很珍貴的,用戶希望不管我數(shù)據(jù)怎么分布計(jì)算,我們始終有一個(gè)地方對(duì)它進(jìn)行統(tǒng)一的存儲(chǔ),統(tǒng)一存儲(chǔ)和備份在這個(gè)基礎(chǔ)之上我們看到整個(gè)存儲(chǔ)計(jì)算考慮結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化的數(shù)據(jù),我們對(duì)整個(gè)大數(shù)據(jù)的存儲(chǔ)這樣一個(gè)方式變化的非常明顯。講到這個(gè)情況下我們看到大數(shù)據(jù)與現(xiàn)有的基礎(chǔ)設(shè)施并不意味著云計(jì)算來(lái)了,大數(shù)據(jù)來(lái)了,原有基礎(chǔ)設(shè)施沒(méi)有用了,或者架構(gòu)發(fā)生翻天覆地的變化,不再需要縱向擴(kuò)展,不再需要高性能不是這樣的,用戶始終需要高可靠性,而且用戶有很多生產(chǎn)系統(tǒng),生產(chǎn)系統(tǒng)都是包括它的關(guān)鍵數(shù)據(jù)庫(kù)。更多的存儲(chǔ)的層次,結(jié)構(gòu)化和非結(jié)構(gòu)化都能處理。

第三更簡(jiǎn)單的應(yīng)用,各行各業(yè)都有數(shù)據(jù)挖掘,需要有一體機(jī)的平臺(tái)解決我大數(shù)據(jù)的時(shí)代對(duì)hadoop和甲骨文這些硬件軟硬兼施的處理。

未來(lái)大數(shù)據(jù)中心的布局,我認(rèn)為始終存在一個(gè)節(jié)點(diǎn)是一個(gè)高可靠的關(guān)鍵業(yè)務(wù)系統(tǒng),它要求有縱向擴(kuò)展,高性能,節(jié)點(diǎn)數(shù)比較少,對(duì)廠商的技術(shù)能力要求非常大。

第二塊如果你發(fā)現(xiàn)你的計(jì)算和你存儲(chǔ)再一個(gè)節(jié)點(diǎn)縱向擴(kuò)展還不能滿足你需要橫向擴(kuò)展還需要分布式,這時(shí)候我們需要軟件和硬件充分的調(diào)優(yōu)和集成,這誕生了我們整體一體機(jī),對(duì)于一體機(jī)的市場(chǎng)我們看到高性能專門做橫向擴(kuò)展和處理的。

你應(yīng)用很多,你想到我這臺(tái)服務(wù)器性能跑不滿,有時(shí)候我過(guò)了這個(gè)口我就不需要了,這時(shí)候你需要做虛擬化把你基礎(chǔ)設(shè)施統(tǒng)一的調(diào)度管理。

第二我們看一下富士通在大數(shù)據(jù)上的布局,我們對(duì)于大數(shù)據(jù)談了很多,既有現(xiàn)有關(guān)系性的系統(tǒng)也有橫向擴(kuò)展還有虛擬化。我們?nèi)蛟谧鑫覀兏皇客▌?chuàng)建以人為本的智能社會(huì),所以我們?cè)谌、信息和科技上面總體做一個(gè)集成,很多地方尋找IDC集成給大家?guī)?lái)的創(chuàng)新。對(duì)于大數(shù)據(jù)設(shè)施整體布局我們基本上分為三個(gè)部分。

中間部分是對(duì)傳統(tǒng)關(guān)系性數(shù)據(jù)庫(kù)處理所帶來(lái)的變化,我們提供可縱向擴(kuò)展數(shù)據(jù)庫(kù)服務(wù)器,同時(shí)提供高性能數(shù)據(jù)計(jì)算。針對(duì)于新的業(yè)務(wù)類型很多非結(jié)構(gòu)化數(shù)據(jù),我們提供針對(duì)與非結(jié)構(gòu)化內(nèi)存計(jì)算hadoop的平臺(tái),基于我們商業(yè)版本的hadoop平臺(tái)加上我們內(nèi)存平臺(tái)。我們?nèi)峦瞥鲆詷I(yè)務(wù)為中心的存儲(chǔ)它可以實(shí)現(xiàn)結(jié)構(gòu)化系統(tǒng)的處理,也可以實(shí)現(xiàn)非結(jié)構(gòu)化數(shù)據(jù)備份。對(duì)于傳統(tǒng)的關(guān)系性數(shù)據(jù)庫(kù)的話我們提供M10的小型機(jī)這個(gè)我們和oracle合作的產(chǎn)物,可拔插縱向擴(kuò)展動(dòng)態(tài)調(diào)整M10的服務(wù)器。如果說(shuō)你現(xiàn)有行業(yè)應(yīng)用中需要對(duì)于原來(lái)關(guān)系性數(shù)據(jù)庫(kù)做一個(gè)優(yōu)化做一個(gè)革新這個(gè)是我們提供的一個(gè)選擇。

然后在第二部分針對(duì)于非結(jié)構(gòu)化數(shù)據(jù)的并行處理,我們提供基于hadoop大數(shù)據(jù)分析處理平臺(tái),主要針對(duì)于四個(gè)方面給客戶提供價(jià)值。一、離線分析挖掘數(shù)據(jù)庫(kù)。二、針對(duì)于實(shí)時(shí)計(jì)算數(shù)據(jù)庫(kù)。三、針對(duì)內(nèi)存分析。四、針對(duì)復(fù)雜事物的流處理。在不同場(chǎng)景下面給用戶提供非結(jié)構(gòu)化數(shù)據(jù)處理的價(jià)值。我們hadoop相比開(kāi)源的hadoop超過(guò)10倍的數(shù)據(jù)提升,這個(gè)我們使用我們自己專利內(nèi)存計(jì)算技術(shù),我們達(dá)到50到100倍的提升。我們提供整體在線的數(shù)據(jù)庫(kù)和內(nèi)存分析數(shù)據(jù)庫(kù)這樣一個(gè)分析的能力。

在它后面是我們大數(shù)據(jù)統(tǒng)一存儲(chǔ)的管理,我們都知道對(duì)于集中式的傳統(tǒng),傳統(tǒng)是基于san關(guān)系性數(shù)據(jù)庫(kù),在我們最全新的存儲(chǔ)當(dāng)中我們同時(shí)提供基于NAS和自動(dòng)生成的系統(tǒng),我們都可以提供統(tǒng)一的結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的管理。它具備一些高可靠、高性能和高密度。

第三部分我們來(lái)看一下一些典型的場(chǎng)景和我們富士通對(duì)應(yīng)的一些產(chǎn)品明確的場(chǎng)景。這是我們?nèi)毡疽粋(gè)實(shí)際的案例,這個(gè)在零售行業(yè)之中,他們客戶最早他們只是在一個(gè)很關(guān)系特別區(qū)域里面做一些零售方面的服務(wù),需要富士通幫他提供整體的解決方案,這個(gè)整體方案我們分成兩部分,一部分是大數(shù)據(jù)的基礎(chǔ)設(shè)施,第二部分結(jié)合客戶做一些客戶化,這個(gè)客戶化當(dāng)中包含了客戶自己的用戶分析系統(tǒng)。這個(gè)客戶的案例主要是他們的數(shù)據(jù)量非常非常大,然后通過(guò)實(shí)施這個(gè)項(xiàng)目,他們把他們從某一個(gè)片區(qū)商戶擴(kuò)展到整個(gè)全島之內(nèi)的商戶,使用每日分析和用戶信息提供。這是多樣性的體現(xiàn)在制造業(yè)中,我們的一個(gè)客戶他們同時(shí)會(huì)考慮接他們800的電話抱怨用戶投訴處理,還有社交網(wǎng)絡(luò)上的監(jiān)控,監(jiān)控之后他可以發(fā)現(xiàn)哪些用戶在一些什么時(shí)間段,對(duì)什么產(chǎn)品提出一些抱怨和投訴。我們提供多元化數(shù)據(jù)分析之后,然后它在上面針對(duì)海量數(shù)據(jù)提供預(yù)防測(cè)試和海量交易,使得用戶在同樣問(wèn)題的復(fù)發(fā),同時(shí)它可以監(jiān)控整個(gè)的狀態(tài),這是在制造業(yè)上面一個(gè)明確的案例。

同時(shí)我們還提到我們對(duì)于復(fù)雜事物特別是在一些跟移動(dòng)互聯(lián)網(wǎng)相關(guān),還有在一些高端制造行業(yè)里面我們都存在這種應(yīng)用,它是復(fù)雜事務(wù)流處理,這個(gè)在我們基礎(chǔ)平臺(tái)之上的軟件模塊,這個(gè)模塊在內(nèi)存中接收一些規(guī)則,在規(guī)則設(shè)定基礎(chǔ)下用戶到我這里來(lái)我做一些出發(fā),我數(shù)據(jù)庫(kù)存儲(chǔ)了很多會(huì)員信息,這些會(huì)員信息和商戶信息當(dāng)中有一個(gè)動(dòng)態(tài)的信息,中間匹配隨著客戶位置信息在不斷發(fā)生變化,這個(gè)時(shí)候我們按照原來(lái)的模式處理,把它收集上來(lái)入到oracle的數(shù)據(jù)庫(kù)當(dāng)中,在表圖提取出來(lái)做分析基本上很慢,客戶走過(guò)就走過(guò)了不會(huì)快。

但是有了我們復(fù)雜事務(wù)流處理,可以做到只要是我會(huì)員經(jīng)過(guò)我目標(biāo)當(dāng)中我可以動(dòng)態(tài)找我商鋪有什么優(yōu)惠券把這個(gè)優(yōu)惠券puch到手機(jī)上面。前面講了速度、整個(gè)流量還有多樣性,F(xiàn)在整個(gè)移動(dòng)互聯(lián)網(wǎng)如火如荼,整個(gè)大家使用微信或者其他一些即時(shí)通訊的設(shè)備軟件產(chǎn)生的數(shù)據(jù)庫(kù)都非常大。在我們客戶之中我們有一些電信的設(shè)備制造商會(huì)做一些設(shè)備的探偵,這些探偵在網(wǎng)絡(luò)部署,在所有網(wǎng)源當(dāng)中截取它的信息,包括大家發(fā)的微信這些消息,運(yùn)營(yíng)商通過(guò)部署這些探偵,它只要想做都是可以查得到的,這個(gè)設(shè)備是電信制造的專用設(shè)備不是開(kāi)放的計(jì)算平臺(tái),所以客戶應(yīng)用之中會(huì)發(fā)現(xiàn)說(shuō)我提取到你信息之后,干啥?我有什么用?你給我之后還放在這里,你要給我處理分析報(bào)表,客戶跟我們合作,我們合作以后我們給他提供一個(gè)大數(shù)據(jù)處理的設(shè)備,我們?nèi)ブ翱蛻粞邪l(fā)自己做一些開(kāi)源軟件的研究和調(diào)配,這個(gè)當(dāng)中他們會(huì)發(fā)現(xiàn)說(shuō)說(shuō)都是做hadoop,但是存在很多的問(wèn)題不能解決,有很多問(wèn)題不能處理。但是我們把我們的預(yù)警機(jī)設(shè)備拿過(guò)去之后,用戶發(fā)現(xiàn)很好,他專門寫他算法程序和報(bào)表程序就可以。

最極端情況他有一個(gè)報(bào)表他預(yù)計(jì)兩個(gè)小時(shí),換成我們系統(tǒng)運(yùn)行只要15苗種就可以搞定,這是典型的綜合案例,這個(gè)數(shù)據(jù)量也很大,要求速度也很快,但是通過(guò)這樣一個(gè)整體平臺(tái)介入進(jìn)去,能夠?qū)崿F(xiàn)幫助客戶快速實(shí)現(xiàn)價(jià)值,幫助客戶把他想要花的力氣專注于自己的算法之上,把基礎(chǔ)設(shè)施以下的部分交給專業(yè)廠商去做。我們來(lái)看一下我們做了一個(gè)分析,從2012年到2013年我們富士通總部在全球做了一個(gè)分析,我們把大體上我們現(xiàn)在案例分成三種類型。一種類型針對(duì)于現(xiàn)有的業(yè)務(wù)領(lǐng)域需要提升數(shù)據(jù)處理效率,有在線的系統(tǒng),有是關(guān)系性的數(shù)據(jù)庫(kù),還有若干個(gè)其他自己算法的東西,它要求你產(chǎn)品和設(shè)備來(lái)了以后可以幫助它提升現(xiàn)有數(shù)據(jù)處理的效率,這是一種類型。

第二類型是處理被埋葬的數(shù)據(jù),或者被埋沒(méi)的數(shù)據(jù),我們以前沒(méi)有大數(shù)據(jù)技術(shù)之前有很多數(shù)據(jù)是你無(wú)法處理,太快,太多看也看不過(guò)來(lái),都是劣質(zhì)信息,海量數(shù)據(jù)無(wú)法處理,有了大數(shù)據(jù)之后,利用海量數(shù)據(jù)被掩埋的數(shù)據(jù),在這個(gè)數(shù)據(jù)中尋找相應(yīng)價(jià)值,這是第二種類型。

第三類型利用數(shù)據(jù)尋找新的價(jià)值,我原來(lái)的數(shù)據(jù)我自己很清楚,但是我需要尋找下一個(gè)價(jià)值。你下一個(gè)10塊錢在哪里,你能不能多收三五個(gè),這個(gè)是我們認(rèn)為是三類場(chǎng)景。這三類場(chǎng)景我們以前的占比A類47%,B類40%,C類14%,說(shuō)明什么?說(shuō)明大部分客戶的原來(lái)設(shè)施要改善,速度不夠快,同時(shí)有接近40%的客戶會(huì)看到我原來(lái)數(shù)據(jù)好多是沒(méi)有被利用的,是可以從中了解我客戶在干什么?這種情況下以前沒(méi)有考慮現(xiàn)在有考慮了。這幾個(gè)情況下我們整個(gè)場(chǎng)景分析下,我們看到整個(gè)大數(shù)據(jù)的布局相應(yīng)做一個(gè)匹配,所以說(shuō)現(xiàn)在我們看一下我們富士通的產(chǎn)品。舊的數(shù)據(jù)是這種模式,分離服務(wù)器、分離內(nèi)存進(jìn)程和數(shù)據(jù)庫(kù)進(jìn)程,在數(shù)據(jù)庫(kù)M10發(fā)布之后,圍繞oracle我們打造全新關(guān)鍵數(shù)據(jù)庫(kù)平臺(tái),我們打造可拔插數(shù)據(jù)庫(kù)和可動(dòng)態(tài)擴(kuò)展拔插的服務(wù)器,這個(gè)在中國(guó)市場(chǎng)銷售面向市場(chǎng)銷售,提供三個(gè)型號(hào),入門級(jí)是M10-1提供56個(gè)空。中間是m10-4是提供64個(gè)空,M10-4S堆疊16BB,可以做24個(gè)空和84個(gè)TB的內(nèi)存,在這樣的一個(gè)系統(tǒng)上面你可以做一個(gè)動(dòng)態(tài)的重新配置。這個(gè)我們針對(duì)于如果客戶需要關(guān)鍵數(shù)據(jù)庫(kù)需要革新我們可以提供這樣一個(gè)組合產(chǎn)品提供給客戶。對(duì)大數(shù)據(jù)的平臺(tái)里面非結(jié)構(gòu)化是其中很重要一環(huán)但不是全部,我們富士通理念我們利用原生的開(kāi)源平臺(tái)提供商業(yè)優(yōu)化的版本,我們現(xiàn)在基于hadoop2.0提供了這樣一個(gè)版本,同時(shí)我們?cè)谶@樣一個(gè)版本上面我們?cè)黾恿宋覀儗@麅?nèi)涵的計(jì)算技術(shù)和非結(jié)構(gòu)化數(shù)據(jù)的備份。這一塊是一個(gè)高處理緩存,可以做到在我緩存弄到我的內(nèi)存當(dāng)中如果你數(shù)據(jù)庫(kù)表很重要要求很快,或者說(shuō)你原來(lái)沒(méi)有優(yōu)化過(guò)需要自動(dòng)的KICH,我當(dāng)中內(nèi)存數(shù)據(jù)庫(kù)可以做到這一點(diǎn)。這個(gè)好處就是說(shuō)可以做到你原來(lái)基于HBS的方式,做基于優(yōu)盤的計(jì)算,你對(duì)普通計(jì)算做這樣一個(gè)開(kāi)發(fā),同時(shí)你可以把我數(shù)據(jù)一些表格有選擇或者是自動(dòng)的放到內(nèi)存中計(jì)算這樣可以獲得上10倍或者更多數(shù)量級(jí)性能的提升。

同時(shí)我們集成的系統(tǒng)還提供一套非結(jié)構(gòu)化數(shù)據(jù)的備份。我們碰到交通行業(yè)的客戶他們說(shuō)我這個(gè)卡口這個(gè)數(shù)據(jù)的確要快,如果當(dāng)我關(guān)鍵的車子過(guò)來(lái)的時(shí)候,很快要算出結(jié)果,但是算過(guò)就算過(guò)了,它計(jì)算要求在一個(gè)瞬間之內(nèi)會(huì)非常高,但是過(guò)去之后它也不見(jiàn)得把這套數(shù)據(jù)反反復(fù)復(fù)給計(jì)算。也就是說(shuō)我們談上PB海量的數(shù)據(jù),在這個(gè)數(shù)據(jù)之中要看數(shù)據(jù)冷熱程度不一樣,有很多數(shù)據(jù)不需要馬上計(jì)算的,如果我們把這些海量的數(shù)據(jù)全部放在橫向擴(kuò)展存儲(chǔ)之中,我們的客戶就跟我們抱怨了,他說(shuō)我這樣放我現(xiàn)在計(jì)算能力飽和了,你橫向擴(kuò)展存儲(chǔ),這個(gè)服務(wù)器兩個(gè)CPU所能處理的設(shè)備是有限的,我不能擴(kuò)展下去了,我計(jì)算領(lǐng)域過(guò)剩我不停的去買服務(wù)器,這時(shí)候我告訴他,其實(shí)這種情況你計(jì)算能力已經(jīng)飽和了,其實(shí)你沒(méi)必要無(wú)限的擴(kuò)展你中間層,而是看一下你非結(jié)構(gòu)化數(shù)據(jù)在金字塔最底層我們?cè)趺礃犹峁┙y(tǒng)一專業(yè)存儲(chǔ)高可靠的東西保存和歸檔你的數(shù)據(jù)。當(dāng)然我們提供歸檔備份也提供存儲(chǔ)功能,我看到我過(guò)去一個(gè)月或者半年之前的數(shù)據(jù),我們提供一個(gè)功能把冷數(shù)據(jù)重新調(diào)到我分布式的存儲(chǔ)當(dāng)中來(lái),這樣很好解決整個(gè)數(shù)據(jù)層次化部署的方式。圍繞它我們涉及到的硬件產(chǎn)品一個(gè)prmergy,是專門針對(duì)于橫向擴(kuò)展CX系列的服務(wù)器。第二是基于英特爾架構(gòu)的小型機(jī),你構(gòu)建一個(gè)hadoop的節(jié)點(diǎn),你需要高可用高可靠的時(shí)候,你有計(jì)算,我們建議你在整個(gè)hadoop集群最核心一環(huán)使用好可靠可用的服務(wù)器。第三我們提供存儲(chǔ)提供面向存儲(chǔ)數(shù)據(jù)的保護(hù)。

針對(duì)非結(jié)構(gòu)化構(gòu)建一個(gè)數(shù)據(jù)平臺(tái)我們需要哪些設(shè)備?我需要構(gòu)建我整個(gè)系統(tǒng)全局的命名節(jié)點(diǎn),這些是相對(duì)來(lái)講我部署幾個(gè)不需要大量橫向擴(kuò)展,這是我整個(gè)系統(tǒng)中心節(jié)點(diǎn)。第二部分如果說(shuō)我一個(gè)中心節(jié)點(diǎn)不能滿足計(jì)算需要,我們需要大量橫向擴(kuò)展節(jié)點(diǎn),這個(gè)橫向節(jié)點(diǎn)基于非結(jié)構(gòu)化內(nèi)存計(jì)算做集群擴(kuò)展節(jié)點(diǎn)。這兩個(gè)滿足了你擴(kuò)展需要,這時(shí)候你需要有一個(gè)統(tǒng)一的數(shù)據(jù)平臺(tái),這是金字塔尖的部分,我橫向擴(kuò)展到一定程度,我們形容放數(shù)據(jù)的水平,一個(gè)小水瓶我們需要一個(gè)大水瓶,一個(gè)大水水瓶,這需要高容量的文件歸檔。我們選擇有哪些?我們基于四節(jié)點(diǎn)hadoop處理器,可以提供兩優(yōu)的空間提供四個(gè)節(jié)點(diǎn),這是構(gòu)建高密度計(jì)算的基石。這是八路的服務(wù)器,可以實(shí)現(xiàn)六個(gè)九的可靠性。在這個(gè)之后如果你擴(kuò)展的時(shí)候你說(shuō)我計(jì)算能力我不需要這么高但是存儲(chǔ)能力要這么高,我們可以提供我們CX400兩配置,存儲(chǔ)技能三倍,計(jì)算能力減倍,兩塊高性能的計(jì)算單元。

最后是第三代的存儲(chǔ),能夠?qū)崿F(xiàn)結(jié)構(gòu)化和非結(jié)構(gòu)化的存儲(chǔ),橫向熱門、熱數(shù)據(jù)和冷數(shù)據(jù)的調(diào)配,我們核心基礎(chǔ)是hadoop,之上是我們高性能的計(jì)算,中間是分布式存儲(chǔ),最后一部分是數(shù)據(jù)備份。這個(gè)三代我們?cè)?2月份發(fā)布我們產(chǎn)品,這個(gè)產(chǎn)品有這么幾個(gè)特色,主要是我們系列當(dāng)中的四款,所有設(shè)備可以實(shí)現(xiàn)動(dòng)態(tài)無(wú)縫控制器的升級(jí),同時(shí)相比中間橫向擴(kuò)展的服務(wù)器它的好處是它可以實(shí)現(xiàn)六個(gè)口的高可靠性,統(tǒng)一數(shù)據(jù)管理高性能,5倍LPS的成長(zhǎng),整個(gè)空間節(jié)省50%,容量提高40%,這是我們富士通整個(gè)統(tǒng)一設(shè)計(jì)的。

最后我們看一下我們富士通整個(gè)優(yōu)勢(shì),我們高性能,高密度,高可靠性,預(yù)集成優(yōu)化系統(tǒng),易于安裝部署和使用。源自大型機(jī)IT系統(tǒng)產(chǎn)品技術(shù)的集成。

我們強(qiáng)調(diào)的觀點(diǎn)是整個(gè)大數(shù)據(jù)時(shí)代,大數(shù)據(jù)是舊瓶裝新酒,新酒是里面科技的創(chuàng)新,科技創(chuàng)新量變帶來(lái)質(zhì)變,整個(gè)行業(yè)信息數(shù)據(jù)分析帶到全新的高度。彈性化、可擴(kuò)展的大數(shù)據(jù)基礎(chǔ)設(shè)施,對(duì)數(shù)據(jù)安全和可靠性的追求同等重要。

大數(shù)據(jù)處理方式高度多元化,我們富士通致力于構(gòu)建最佳的大數(shù)據(jù)系統(tǒng)平臺(tái),建立以人為本的智能社會(huì),我演講就到這里,謝謝大家!

[責(zé)任編輯:邵海宏]
IT邵年
很多人都認(rèn)為大數(shù)據(jù)是最近兩年的事情,其實(shí),很多公司前幾年就開(kāi)始了這方面的工作。北京賽思信安公司的周游先生與參加大數(shù)據(jù)分論壇的觀眾分享了自己公司為企業(yè)大數(shù)據(jù)應(yīng)用提供一體化解決方案。
官方微信
weixin
精彩專題更多
存儲(chǔ)風(fēng)云榜”是由DOIT傳媒主辦的年度大型活動(dòng);仡2014年,存儲(chǔ)作為IT系統(tǒng)架構(gòu)中最基礎(chǔ)的元素,已經(jīng)成為了推動(dòng)信息產(chǎn)業(yè)發(fā)展的核心動(dòng)力,存儲(chǔ)產(chǎn)業(yè)的發(fā)展邁向成熟,數(shù)據(jù)經(jīng)濟(jì)的概念順勢(shì)而為的提出。
華為OceanStor V3系列存儲(chǔ)系統(tǒng)是面向企業(yè)級(jí)應(yīng)用的新一代統(tǒng)一存儲(chǔ)產(chǎn)品。在功能、性能、效率、可靠性和易用性上都達(dá)到業(yè)界領(lǐng)先水平,很好的滿足了大型數(shù)據(jù)庫(kù)OLTP/OLAP、文件共享、云計(jì)算等各種應(yīng)用下的數(shù)據(jù)存儲(chǔ)需求。
聯(lián)想攜ThinkServer+System+七大行業(yè)解決方案驚艷第十六屆高交會(huì)
 

公司簡(jiǎn)介 | 媒體優(yōu)勢(shì) | 廣告服務(wù) | 客戶寄語(yǔ) | DOIT歷程 | 誠(chéng)聘英才 | 聯(lián)系我們 | 會(huì)員注冊(cè) | 訂閱中心

Copyright © 2013 DOIT Media, All rights Reserved. 北京楚科信息技術(shù)有限公司 版權(quán)所有.