企業(yè)IT大數(shù)據(jù)現(xiàn)狀及問題分析
咸師 發(fā)表于:13年03月20日 09:36 [原創(chuàng)] DOIT.com.cn
去年我們可能還在討論大數(shù)據(jù)這個概念,今年我想很多企業(yè)和廠商已經(jīng)開始行動了。大數(shù)據(jù)能掘到多少金子,我覺得這都是后話,目前緊要關(guān)頭是迎接大數(shù)據(jù)的到來,如果你接不住大數(shù)據(jù)那么你在未來的企業(yè)市場將會被淘汰。這不是危言聳聽,我們看到現(xiàn)在生成數(shù)據(jù)的設(shè)備在增加,個人數(shù)字設(shè)備、企業(yè)計算系統(tǒng)產(chǎn)生的數(shù)據(jù)量遠(yuǎn)遠(yuǎn)超過10年前,是1996年的180倍。文件(非結(jié)構(gòu)化數(shù)據(jù))本身的大小在發(fā)生變化,從600MB的RMVB到了30GB的藍(lán)光1080P視頻,企業(yè)數(shù)據(jù)量增加,造成的數(shù)據(jù)庫龐大。這三點(diǎn)無疑都是迫使企業(yè)進(jìn)入大數(shù)據(jù)時代的原因。
我們知道大數(shù)據(jù)的4v理論,數(shù)量(Volume)、多樣性(Variety)、速度(Velocity)和真實(shí)性(Veracity),為我們制定大數(shù)據(jù)的策略提供了很好的方向。但同時我們在處理大數(shù)據(jù)的時候還是面臨著很多問題,就目前大數(shù)據(jù)處理的現(xiàn)狀來看,基本上處于以下幾種狀態(tài)。
大數(shù)據(jù)處理現(xiàn)狀
1、大數(shù)據(jù)處理平臺以Hadoop為主
目前大數(shù)據(jù)的處理平臺以Hadoop為主,都是自建Hadoop集群或使用Amazon Elastic MapReduce服務(wù),而Google的BigQuery由于種種限制推廣得并不理想。微軟的Cosmos/Dryad/Scope由于體系僅限于內(nèi)部使用,也不能成為大數(shù)據(jù)的平臺,同時微軟對外也支持hosting Hadoop。
2、大數(shù)據(jù)處理技術(shù)復(fù)雜
大數(shù)據(jù)的處理技術(shù)紛繁復(fù)雜,仍然處于產(chǎn)業(yè)變革早期的戰(zhàn)國時代。由于傳統(tǒng)的OLAP和數(shù)倉的延續(xù)性,Hive SQL有很大市場,但Hive的數(shù)據(jù)正確性和Bug仍然比較多。而Hadoop MapReduce又過于復(fù)雜靈活,寫出高效Job比較困難。Pig、FlumeJava等分布式編程模型技術(shù)的門檻較高,所以推廣起來也比較困難。在數(shù)據(jù)挖掘和圖算法領(lǐng)域雖然涌現(xiàn)出了Mahout、Hama、GoldenOrb等大量開源平臺,但都不夠成熟。至于基于Hadoop的工作流系統(tǒng)Oozie和數(shù)據(jù)傳輸系統(tǒng)Sqoop都需要開發(fā)人員單獨(dú)部署。都是各有利弊,還沒有一個很好的完美的解決方案。
3、Hadoop尚難成為公共云服務(wù)
為什么說Hadoop很難成為公共云服務(wù)呢,原因有以下幾個方面,第一Hadoop的安全體系局限在企業(yè)內(nèi)網(wǎng),缺乏多租戶的支持。第二直接暴露HDFS文件系統(tǒng),MapReduce和Hive很難做到多用戶數(shù)據(jù)安全。第三數(shù)據(jù)文件格式過于復(fù)雜多樣,維護(hù)成本高,保持?jǐn)?shù)據(jù)兼容比較困難。
綜上三點(diǎn)目前大數(shù)據(jù)的現(xiàn)狀,我們可以看出,大數(shù)據(jù)處理系統(tǒng)的技術(shù)門檻很高,從自備發(fā)電機(jī)到公共電網(wǎng)還有很長的路要走。而市場則需要安全性、可用性、數(shù)據(jù)正確性都有保障,并且功能完整的一體化大數(shù)據(jù)處理服務(wù)。
公司簡介 | 媒體優(yōu)勢 | 廣告服務(wù) | 客戶寄語 | DOIT歷程 | 誠聘英才 | 聯(lián)系我們 | 會員注冊 | 訂閱中心
Copyright © 2013 DOIT Media, All rights Reserved. 北京楚科信息技術(shù)有限公司 版權(quán)所有.