王雪楊 發(fā)表于:13年12月02日 13:17 [綜述] DOIT.com.cn
向上,大數(shù)據(jù)正在成為智慧城市落地的支點(diǎn);向下,大數(shù)據(jù)匯聚的各項(xiàng)創(chuàng)新應(yīng)用已經(jīng)創(chuàng)造出巨大的商業(yè)價(jià)值、經(jīng)濟(jì)價(jià)值和社會(huì)價(jià)值。作為高性能計(jì)算領(lǐng)導(dǎo)者和云計(jì)算領(lǐng)先企業(yè),中國(guó)行業(yè)大數(shù)據(jù)的先行者和解決方案提供商,2013年的曙光公司,在“平臺(tái)一體,智匯應(yīng)用”的行業(yè)大數(shù)據(jù)戰(zhàn)略指引下,通過XData大數(shù)據(jù)一體機(jī)、XData-Hadoop大數(shù)據(jù)處理軟件等自主可控的創(chuàng)新產(chǎn)品,從數(shù)據(jù)收集、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)分析、數(shù)據(jù)應(yīng)用等方面構(gòu)建了完整的大數(shù)據(jù)生態(tài)環(huán)境,攜手政府、金融、電信、軍工、教育開拓實(shí)踐,在大數(shù)據(jù)“元年”共享碩果。
某公安部門輿情分析系統(tǒng):海量存儲(chǔ),實(shí)現(xiàn)數(shù)據(jù)分析智能化
圖1:曙光XData大數(shù)據(jù)處理平臺(tái)
信息社會(huì)的不斷進(jìn)步讓政府部門越來越依賴數(shù)據(jù)的分析進(jìn)行決策,而在大數(shù)據(jù)“試水”中的國(guó)家某安全部門,通過曙光大數(shù)據(jù)解決方案構(gòu)建的輿情分析系統(tǒng),采用社會(huì)化行為分析技術(shù)實(shí)現(xiàn)了大規(guī)模群體信息的統(tǒng)計(jì)分析、趨勢(shì)研判。通過XData對(duì)海量文本、圖片、視音頻等數(shù)字化內(nèi)容進(jìn)行集中存儲(chǔ)和智能檢索,實(shí)現(xiàn)公安業(yè)務(wù)信息數(shù)據(jù)的深層次挖掘。另外,利用大數(shù)據(jù)技術(shù)的碰撞比對(duì)、頻率分析、語(yǔ)義分析、多維融合、深度挖掘等創(chuàng)新特性,改變了傳統(tǒng)情報(bào)分析中的邏輯推理、綜合統(tǒng)計(jì)、比較聯(lián)系、特征解釋等相對(duì)落后的技術(shù)手段,實(shí)現(xiàn)了各要素之間的深度關(guān)聯(lián)和智能判斷。
某大型信息安全中心監(jiān)控系統(tǒng):快速分析,第一時(shí)間預(yù)警
圖2:某大型信息安全監(jiān)控系統(tǒng)
該中心的信息安全監(jiān)控系統(tǒng)當(dāng)前運(yùn)行規(guī)模超過600TB,每天負(fù)責(zé)收集分析數(shù)十億條短信息。這在當(dāng)前人口大流動(dòng),跨省市、跨地區(qū)之間的流竄犯罪活躍,恐怖組織活動(dòng)增多的情況下,發(fā)揮了大數(shù)據(jù)數(shù)據(jù)分析的速度優(yōu)勢(shì),第一時(shí)間預(yù)警,成為了提升破案效率和維護(hù)國(guó)家安全穩(wěn)定的關(guān)鍵支點(diǎn)。
中國(guó)某銀行大數(shù)據(jù)平臺(tái):實(shí)現(xiàn)PB級(jí)跨越,歷史數(shù)據(jù)再獲新生
圖3:某銀行的大數(shù)據(jù)處理平臺(tái)
之前,該銀行運(yùn)營(yíng)多年累積下的數(shù)據(jù)量早已經(jīng)過PB,但規(guī)劃的存儲(chǔ)量則是500TB,在傳統(tǒng)架構(gòu)下只能直接將數(shù)據(jù)備份到磁帶庫(kù),數(shù)據(jù)的價(jià)值無法體現(xiàn)。但若采用傳統(tǒng)的數(shù)據(jù)倉(cāng)庫(kù)技術(shù)讓然無法快速、智能的處理這些數(shù)據(jù),并且其投入成本也超出了預(yù)算。為此,基于XData-Hadoop構(gòu)建的大數(shù)據(jù)處理平臺(tái),曙光為該行提供了海量記錄快速查詢能力,完成了歷史數(shù)據(jù)查詢系統(tǒng)的應(yīng)用落地。在利用XData替代了傳統(tǒng)數(shù)據(jù)倉(cāng)庫(kù)架構(gòu)之后,成功實(shí)現(xiàn)了歷史數(shù)據(jù)從TB向PB級(jí)的跨越式發(fā)展,而其海量數(shù)據(jù)分析能力更支撐了該銀行反洗錢系統(tǒng)的成功應(yīng)用。
中國(guó)銀聯(lián)離線數(shù)據(jù)分析系統(tǒng):數(shù)據(jù)保存時(shí)限提升一倍,大數(shù)據(jù)發(fā)揮“毫秒級(jí)”查詢
圖4:基于曙光XData大數(shù)據(jù)一體機(jī)的離線數(shù)據(jù)分析系統(tǒng)
銀聯(lián)之前的關(guān)系型數(shù)據(jù)庫(kù)存儲(chǔ)能力非常有限,只能保存三個(gè)月的數(shù)據(jù),造成大量歷史數(shù)據(jù)堆積且管理困難。面對(duì)刷卡交易量激增,商戶評(píng)分,持卡用戶興趣分析等新業(yè)務(wù)需求,銀聯(lián)構(gòu)建了50臺(tái)雙路x86服務(wù)器規(guī)模的XData大數(shù)據(jù)一體機(jī)。利用支持海量數(shù)據(jù)訪問的Hbase和分布式文件系統(tǒng)(HDFS)打造了高并發(fā)、高可靠的網(wǎng)絡(luò)傳輸和存儲(chǔ)層,并將數(shù)據(jù)保存時(shí)限提升了一倍。另外,該系統(tǒng)還支撐了350TB原始刷卡信息存儲(chǔ)容量、實(shí)現(xiàn)了50萬(wàn)每秒的記錄穩(wěn)定導(dǎo)入速度,以及隨機(jī)單條記錄“毫秒級(jí)”返回,萬(wàn)級(jí)別查詢5秒內(nèi)返回的驚人速度。
河南移動(dòng)經(jīng)分與流量運(yùn)營(yíng)系統(tǒng):改善用戶體驗(yàn),實(shí)現(xiàn)精準(zhǔn)營(yíng)銷
圖5:基于曙光大數(shù)據(jù)技術(shù)的流量運(yùn)營(yíng)分析平臺(tái)
在以O(shè)LTP為核心的傳統(tǒng)架構(gòu)中,河南移動(dòng)在創(chuàng)新業(yè)務(wù)推進(jìn)過程中的技術(shù)難題不斷出現(xiàn):系統(tǒng)分散建設(shè),難以實(shí)現(xiàn)資源和應(yīng)用共享;數(shù)據(jù)分散存儲(chǔ),標(biāo)準(zhǔn)化程度低;大部分業(yè)務(wù)只對(duì)內(nèi)提供服務(wù),未能有效地進(jìn)行規(guī);虡I(yè)利用。為此,河南移動(dòng)與曙光公司合作進(jìn)行的經(jīng)分系統(tǒng)和流量經(jīng)營(yíng)分析工程,采用基于IB網(wǎng)的XData-Hadoop分布式計(jì)算平臺(tái)的方案。該系統(tǒng)實(shí)現(xiàn)了Ethernet、Fibre channel、Infiniband 三網(wǎng)融合,最大可能的滿足Xdata-Hadoop 集群和數(shù)據(jù)庫(kù)處理平臺(tái)的高速通訊需要。
大數(shù)據(jù)讓河南移動(dòng)可以根據(jù)競(jìng)爭(zhēng)情況和客戶需求,加快實(shí)現(xiàn)流量的實(shí)時(shí)計(jì)費(fèi)和提醒,優(yōu)化了數(shù)據(jù)流量資費(fèi)體系,降低了套餐內(nèi)外的資費(fèi)水平差距。而精細(xì)化營(yíng)銷能力的全面提升,不斷提高了客戶的滿意度和大幅度降低流量投訴,還為整個(gè)移動(dòng)集團(tuán)的戰(zhàn)略目標(biāo)落地提供了支撐力。
軍工某所熱點(diǎn)信息監(jiān)控系統(tǒng):“三位一體”,構(gòu)建大數(shù)據(jù)生態(tài)環(huán)
該系統(tǒng)負(fù)責(zé)數(shù)十萬(wàn)個(gè)熱點(diǎn)的同時(shí)監(jiān)控,借助曙光云平臺(tái)和大數(shù)據(jù)產(chǎn)品形成了數(shù)據(jù)分析、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)檢索“三位一體”的大數(shù)據(jù)生態(tài)環(huán),并利用XData-Hadoop索引器將Heritrix爬蟲器、Solr/Lucence查詢器對(duì)關(guān)鍵信息進(jìn)行聚集,實(shí)現(xiàn)了安全、個(gè)性、高效、智能的查詢功能。
同濟(jì)大學(xué)大數(shù)據(jù)柔性處理平臺(tái):教育資源整合,XData-Hadoop構(gòu)建彈性數(shù)據(jù)管理
該平臺(tái)涵蓋三個(gè)服務(wù)分區(qū)和一個(gè)共享存儲(chǔ)中心,即網(wǎng)絡(luò)信息服務(wù)、交通信息分析、醫(yī)療數(shù)據(jù)分析和存儲(chǔ)中心。同濟(jì)大學(xué)以數(shù)據(jù)為中心,利用XData-Hadoop 分析集群和集中存儲(chǔ)系統(tǒng)來搭建,消除了資源孤島,各點(diǎn)按照業(yè)務(wù)強(qiáng)度均衡互聯(lián),同時(shí)其可伸縮性能夠隨著數(shù)據(jù)膨脹而隨需擴(kuò)展,達(dá)到真正柔性計(jì)算平臺(tái)的標(biāo)準(zhǔn)。另外,由于實(shí)現(xiàn)了數(shù)據(jù)網(wǎng)和業(yè)務(wù)網(wǎng)的分離,進(jìn)而達(dá)到了數(shù)據(jù)通信和業(yè)務(wù)通信運(yùn)行時(shí)互不影響的建設(shè)目標(biāo)。
行業(yè)應(yīng)用日漸成熟 智慧之城觸手可及
隨著中國(guó)的行業(yè)用戶信息化水平不斷攀升,人們面對(duì)著大量的沉積數(shù)據(jù),繼續(xù)尋找一條挖掘數(shù)據(jù)價(jià)值的捷徑,而曙光的行業(yè)大數(shù)據(jù)戰(zhàn)略則抓住了這個(gè)切口,為以上這些用戶的大數(shù)據(jù)價(jià)值挖掘提供了產(chǎn)品和需求的接口。其次,在“棱鏡門”陰霾籠罩的2013年,政府、金融等重要民生領(lǐng)域更將采購(gòu)方向調(diào)整到了自主可控的創(chuàng)新產(chǎn)品上,而曙光大數(shù)據(jù)解決方案憑借對(duì)客戶需求的深度剖析,和專業(yè)、便捷、安全、高效的品牌表現(xiàn),贏得了眾多客戶的認(rèn)可和信賴。
在大數(shù)據(jù)時(shí)代,行業(yè)大數(shù)據(jù)應(yīng)用已然構(gòu)建出一張四通八達(dá)的智慧網(wǎng)絡(luò),并賦予城市建設(shè)和管理者擁有大規(guī)模數(shù)據(jù)存儲(chǔ)、活性以及解釋、運(yùn)用數(shù)據(jù)的能力。那么,中國(guó)的大數(shù)據(jù)不僅需要繼續(xù)支撐智慧的民生,更有責(zé)任成為城市的守護(hù)者。而曙光的大數(shù)據(jù)不但幫助用戶完成了信息系統(tǒng)架構(gòu)的演變,更以行業(yè)大數(shù)據(jù)的應(yīng)用效果作為支撐點(diǎn),在“智能終端——云——大數(shù)據(jù)”的新應(yīng)用格局下,讓智慧之城觸手可及。
公司簡(jiǎn)介 | 媒體優(yōu)勢(shì) | 廣告服務(wù) | 客戶寄語(yǔ) | DOIT歷程 | 誠(chéng)聘英才 | 聯(lián)系我們 | 會(huì)員注冊(cè) | 訂閱中心
Copyright © 2013 DOIT Media, All rights Reserved. 北京楚科信息技術(shù)有限公司 版權(quán)所有.