期間,英特爾技術(shù)專家還分享了第四范式如何應(yīng)用英特爾傲騰持久內(nèi)存加速AI應(yīng)用。為構(gòu)建高質(zhì)量在線推理服務(wù),第四范式基于自有的SageOne AI算力平臺(tái),引入英特爾?傲騰?持久內(nèi)存,為企業(yè)用戶打造了新一代HyperCycle Machine Learning全流程AI系統(tǒng)。一方面,得益于傲騰持久內(nèi)存提供接近純DRAM內(nèi)存配置的性能,能夠?qū)崿F(xiàn)每秒億級(jí)KV的查詢能力;同時(shí),傲騰持久內(nèi)存具備數(shù)據(jù)持久性優(yōu)勢(shì),能夠使數(shù)據(jù)恢復(fù)時(shí)??s短至分鐘級(jí),以更好地保障線上服務(wù)的連續(xù)性;此外,其更高的存儲(chǔ)密度,能夠大大降低內(nèi)存資源的單位價(jià)格,幫助企業(yè)用戶有效降低系統(tǒng)采購(gòu)、部署、運(yùn)維和管理等費(fèi)用,大幅降低TCO。
此外,由于現(xiàn)有的商用內(nèi)存數(shù)據(jù)庫(kù)并不能滿足在線實(shí)時(shí)決策系統(tǒng)等應(yīng)用高時(shí)效的要求,第四范式自研了針對(duì)人工智能在線實(shí)時(shí)決策系統(tǒng)的開(kāi)源機(jī)器學(xué)習(xí)數(shù)據(jù)庫(kù)OpenMLDB中,并在此基礎(chǔ)上引入英特爾傲騰持久內(nèi)存以重新設(shè)計(jì)OpenMLDB 的存儲(chǔ)引擎,以解決在線預(yù)估系統(tǒng)內(nèi)存消耗大、離線后恢復(fù)慢、長(zhǎng)尾延遲的問(wèn)題。傲騰持久內(nèi)存除了帶來(lái)更低TCO和更持久化特性,得益于其軟件架構(gòu)的優(yōu)化,亦實(shí)現(xiàn)了長(zhǎng)尾延遲接近20%的改善。