面對這些巨變,傳統(tǒng)的IT技術(shù)并不足以應(yīng)對這種新挑戰(zhàn),傳統(tǒng)的關(guān)系型數(shù)據(jù)庫以及桌面BI分析軟件處理的結(jié)構(gòu)化數(shù)據(jù),其容量一般都在GB級別,無法從更大的數(shù)據(jù)集中發(fā)現(xiàn)有意義的信息。另外,需要處理的目標(biāo)數(shù)據(jù)也一直在增長,傳統(tǒng)技術(shù)無法適應(yīng)這種擴(kuò)展性。
那么,究竟什么樣的技術(shù)和解決方案才能勝任這種挑戰(zhàn)呢,我們認(rèn)為,適合大數(shù)據(jù)時代需求的解決方案,一般要具備以下條件:
支持PB級別數(shù)據(jù)的處理和分析
支持結(jié)構(gòu)和非結(jié)構(gòu)化數(shù)據(jù)
支持萬級每秒數(shù)據(jù)查詢
支持高可靠性系統(tǒng)
支持高頻率統(tǒng)計(jì)分析
也就是說,對于大量的結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù),支持可變的數(shù)據(jù)結(jié)構(gòu)和高效的數(shù)據(jù)導(dǎo)入、查詢、統(tǒng)計(jì)分析。作為引領(lǐng)服務(wù)器發(fā)展方向的英特爾來說,目前它擁有在Apache開源版基礎(chǔ)上修訂的發(fā)行版和免費(fèi)版兩個Hadoop版本,并在GitHub維護(hù)著Project Panthera開源項(xiàng)目,其中包括即時分析、基于HBase的文檔存儲、基于Hive/MapReduce的分析SQL引擎、HiBench和 HiTune等子項(xiàng)目。
英特爾Hadoop發(fā)行版組成
為何談大數(shù)據(jù)的時候我們要重點(diǎn)談Hadoop呢?因?yàn)镠adoop是目前為止大數(shù)據(jù)解決方案的主流平臺,也是順應(yīng)未來大數(shù)據(jù)和云計(jì)算環(huán)境的平臺。接下來,我們將為大家介紹英特爾發(fā)行版Hadoop在應(yīng)對大數(shù)據(jù)挑戰(zhàn)方面的獨(dú)特優(yōu)勢。
相比其他版本的Hadoop,英特爾Hadoop發(fā)行版有何優(yōu)勢呢?眾所周知,英特爾在開放服務(wù)器領(lǐng)域有著豐富而又完整的解決方案,在云計(jì)算、數(shù)據(jù)中心領(lǐng)域積累了大量實(shí)踐經(jīng)驗(yàn)。而Hadoop無疑是云計(jì)算領(lǐng)域中最炙手可熱的技術(shù),也是商業(yè)價值最突出的大數(shù)據(jù)處理平臺。英特爾結(jié)合自己的硬件技術(shù)和成熟經(jīng)驗(yàn),打造面向大數(shù)據(jù)應(yīng)用的Hadoop平臺,有助于提供相比其他Hadoop平臺更可靠、更高性能、更多和更易于管理的大數(shù)據(jù)解決方案:
更高性能
基于Hadoop底層的大量優(yōu)化算法,使應(yīng)用效率更高、計(jì)算存儲分布更均衡。系統(tǒng)安裝程序計(jì)算得出的參數(shù)配置,適合目前主流平臺的大多數(shù)應(yīng)用情況。而且,它與硬件技術(shù)深度結(jié)合,可幫助提高平臺性能,實(shí)現(xiàn)軟硬一體的大數(shù)據(jù)高效率解決方案。
更可靠
全面測試的企業(yè)級發(fā)行版,保證長期穩(wěn)定運(yùn)行。集成最新開源的和自行開發(fā)的補(bǔ)丁,用戶可以及時修正漏洞。保證各個部件之間的一致性,使應(yīng)用順滑運(yùn)行。
更易于管理
提供獨(dú)有的基于瀏覽器的集群安裝和管理界面,解決開源版本管理困難的問題。提供網(wǎng)頁、郵件方式的系統(tǒng)異常報(bào)警。
更多功能
提供跨數(shù)據(jù)中心的HBase數(shù)據(jù)庫虛擬大表功能。實(shí)現(xiàn)HBase數(shù)據(jù)庫復(fù)制和備份功能。其他針對企業(yè)用戶需要的增強(qiáng)功能。
英特爾Hadoop發(fā)行版與開源版本功能對比
目前,英特爾發(fā)行版Hadoop在電信、視頻監(jiān)控、生產(chǎn)制造等行業(yè)都有廣泛應(yīng)用。另外,去年英特爾推出發(fā)行版Hadoop的免費(fèi)版。免費(fèi)版本除了在支持的節(jié)點(diǎn)數(shù)量和存儲容量上和發(fā)行版不同外,其核心代碼和核心功能都相同。它有助于讓更多的用戶試用和體驗(yàn)Hadoop在大數(shù)據(jù)處理上的性能和優(yōu)勢,降低大數(shù)據(jù)應(yīng)用的門檻。從而將大數(shù)據(jù)Hadoop解決方案惠及更多用戶。