期間,英特爾技術(shù)專家還分享了第四范式如何應(yīng)用英特爾傲騰持久內(nèi)存加速AI應(yīng)用。為構(gòu)建高質(zhì)量在線推理服務(wù),第四范式基于自有的SageOne AI算力平臺,引入英特爾?傲騰?持久內(nèi)存,為企業(yè)用戶打造了新一代HyperCycle Machine Learning全流程AI系統(tǒng)。一方面,得益于傲騰持久內(nèi)存提供接近純DRAM內(nèi)存配置的性能,能夠?qū)崿F(xiàn)每秒億級KV的查詢能力;同時,傲騰持久內(nèi)存具備數(shù)據(jù)持久性優(yōu)勢,能夠使數(shù)據(jù)恢復(fù)時??s短至分鐘級,以更好地保障線上服務(wù)的連續(xù)性;此外,其更高的存儲密度,能夠大大降低內(nèi)存資源的單位價格,幫助企業(yè)用戶有效降低系統(tǒng)采購、部署、運(yùn)維和管理等費(fèi)用,大幅降低TCO。

此外,由于現(xiàn)有的商用內(nèi)存數(shù)據(jù)庫并不能滿足在線實時決策系統(tǒng)等應(yīng)用高時效的要求,第四范式自研了針對人工智能在線實時決策系統(tǒng)的開源機(jī)器學(xué)習(xí)數(shù)據(jù)庫OpenMLDB中,并在此基礎(chǔ)上引入英特爾傲騰持久內(nèi)存以重新設(shè)計OpenMLDB 的存儲引擎,以解決在線預(yù)估系統(tǒng)內(nèi)存消耗大、離線后恢復(fù)慢、長尾延遲的問題。傲騰持久內(nèi)存除了帶來更低TCO和更持久化特性,得益于其軟件架構(gòu)的優(yōu)化,亦實現(xiàn)了長尾延遲接近20%的改善。

分享到

zhupb

相關(guān)推薦