因為,前不久金山云與英特爾宣布了彼此的深度合作,金山云托管Hadoop(Kingsoft MapReduce,簡稱KMR)解決方案是結合雙方技術優(yōu)勢共同打造的、基于英特爾架構的大數(shù)據(jù)解決方案。對此,金山云大數(shù)據(jù)和AI技術總監(jiān)張東進、金山云大數(shù)據(jù)產品經(jīng)理楊亮分享了該解決方案目前的部署情況與為用戶帶來的實際應用價值。
一般具有顯著劃時代的科技創(chuàng)新都會有個規(guī)律,最初萌芽的時候帶來人類的無盡暢想,認為其甫出便無所不能,但產業(yè)的狂躁過后便是冷靜,落地的層級表現(xiàn)也就逐步清晰了。
例如無人機,剛出現(xiàn)的時候就被很多專家看出要重塑快遞、交通、代價等多個行業(yè),待到后來率先被亞馬遜及同行證實其僅在送貨上進步還有巨大的空間。
人工智能也一樣。大數(shù)據(jù)時代的數(shù)據(jù)澆灌,讓人們覺得其是拯救企業(yè)走出數(shù)據(jù)創(chuàng)新樊籠最為得心應手的殺手锏。但玩轉了一圈Hadoop后,認識到,駕馭離夢想還是有點遠。所以,公有云廠商們相信,這會是市場在很長的時間范圍內都會有的藍海。
為此,金山云認為,企業(yè)從云計算走到人工智能,他們的深度學習平臺KDL價值不可或缺?!拔覀冞@個平臺(KDL)可以深度助力企業(yè)擁抱AI。它是一個機器學習,尤其是深度學習的任務托管平臺,底層是基于金山云高性能的異構計算集群,融合了英特爾等頂級合作伙伴的領先技術,將為我們的客戶帶來非常高的價值?!睆垨|進這樣介紹KMR。
看看熱詞曲線,云計算、大數(shù)據(jù)與AI相繼而出。產業(yè)界討論也逐漸認為,大數(shù)據(jù)是云計算走向人工智能必不可少的中間路徑。張東進介紹,金山云多年的發(fā)展,也是很好地遵循了這個發(fā)展路徑需求。初期投入IaaS虛擬化,“讓企業(yè)將其業(yè)務放到云端,降低企業(yè)的部署成本,并且加速企業(yè)業(yè)務的發(fā)展?!边M而玩轉大數(shù)據(jù),讓數(shù)據(jù)變現(xiàn),“要有利用這些數(shù)據(jù)驅動企業(yè)進行決策的能力,以Hadoop為代表。” 現(xiàn)在看到人工智能是接下來的未來,“人工智能的需求也在快速增長,我們發(fā)現(xiàn)人工智能本身其實是一個對性能和規(guī)模有非常大要求的行業(yè),這就是非常適合我們天然上云的一個行業(yè)?!?/p>
簡單理解,玩轉Hadoop就是要解決實現(xiàn)AI的成本、效率、安全、性能等方面的巨大挑戰(zhàn)。例如張東進強調,金山云提供的全功能的深度學習集成環(huán)境,全流程優(yōu)化,所以從整個物料的預處理、物料的存儲、物料的訓練、評估、上線預測等等方面都提供完整的支持。還有,人工智能的一個訓練任務可能長達一周或者是半個月,而金山云可以提供一個企業(yè)級的數(shù)據(jù)加密和企業(yè)級HPC集群的安全、最穩(wěn)定環(huán)境,并且可以做到分鐘級的自動恢復,不耽誤人工智能出活兒。
除了KDL,金山云還為行業(yè)提供了各種中間層,包括提供基礎的視覺、聽覺、自然語言、VR/AR等等技術能力。同時,金山云還有一些上層行業(yè)的AI解決方案,針對醫(yī)療、金融、交通、物聯(lián)網(wǎng)等行業(yè)提供解決方案。
而這一切一切的背后,英特爾“inside”出力不小。金山云KMR,該解決方案采用基于英特爾? 至強? 處理器E5 v4產品家族的硬件平臺,是一個可伸縮的通用數(shù)據(jù)計算和分析平臺。它以Apache Hadoop和Apache Spark兩大數(shù)據(jù)計算系統(tǒng)為基礎,通過自動調度彈性計算服務(KEC),能夠幫助企業(yè)用戶快速構建分布式數(shù)據(jù)分析系統(tǒng)。此外,結合金山云所提供的多種云服務產品,還可形成端到端的數(shù)據(jù)分析處理解決方案,進而幫助用戶更加靈活方便地收集和管理數(shù)據(jù),花費更低的成本,獲得更高的數(shù)據(jù)可靠性。
基于英特爾與金山云一直以來的緊密合作,在KMR大數(shù)據(jù)解決方案的構建過程中,英特爾不僅為金山云提供了性能強勁的硬件平臺,在針對Apache Hadoop、Apache Spark等開源數(shù)據(jù)分析技術的優(yōu)化、創(chuàng)新與應用等方面也提供了有力的支持與幫助。目前,該解決方案已經(jīng)在當當、WPS等多家行業(yè)用戶中應用部署。以當當為例,KMR大數(shù)據(jù)解決方案幫助其有效緩解促銷期間IT系統(tǒng)的壓力、大幅減少系統(tǒng)維護的工作和資源擁有成本,并根據(jù)業(yè)務需求實現(xiàn)了資源配置的靈活調配。
楊亮透露,當當網(wǎng)已經(jīng)是KMR的受益者了?!爱敭斁W(wǎng)在電商大促的時候,通過專線把實時數(shù)據(jù)流打到我們的KMR集群做處理和分析。處理的結果相對來說數(shù)據(jù)量會比較小,也會通過我們的專線寫回到當當網(wǎng)的數(shù)據(jù)中心。所以對于用戶來說,首先它的數(shù)據(jù)是不需要搬遷的,第二個,他的核心數(shù)據(jù)也可以保留在自己的數(shù)據(jù)中心,在數(shù)據(jù)安全方面也會更加放心。”