圖一:Spark內(nèi)存計算框架。
“Spark記錄著數(shù)據(jù)產(chǎn)生的每一個操作,能夠可靠地將這些數(shù)據(jù)存儲在內(nèi)存之中,這使得它非常適用于第掩飾的計算和有效的迭代算法。”Cloudera表示。
據(jù)悉,Cloudera Enterprise Data Hub版本提供多種先進的組件的無限支持,如交互式SQL分析的Impala、交互式搜索、導(dǎo)航數(shù)據(jù)管理以及Hbase NoSQL。Enterprise Flex版本則提供可選擇組件版本,Enterprise Basic版本則是僅僅提供Hadoop基礎(chǔ)核心組件。
根據(jù)Cloudera介紹,Cloudera將會在兩個版本中安裝支持Spark組件。用戶可以利用它作為Enterprise Flex版本中一個可選組件,或者作為Enterprise Data Hub版本中包含的組件。
圖二:Spark On YARN
據(jù)悉,該產(chǎn)品采用了Spark 0.9.0,Spark獨立模式已經(jīng)在Cloudera Enterprise Data Hub4.4.0中測試過。在不久的將來,Cloudera表示Enterprise 5.0和YARN中也將支持Spark。
延伸閱讀:敢為人先 優(yōu)酷土豆用Spark完善大數(shù)據(jù)分析