CXL技術(shù)在市場中獨(dú)具優(yōu)勢
伴隨大內(nèi)存技術(shù)在企業(yè)應(yīng)用中的推廣和加速,如何將先進(jìn)的技術(shù)與實(shí)際應(yīng)用相結(jié)合是企業(yè)關(guān)注的問題。CXL技術(shù)在市場上獨(dú)具競爭優(yōu)勢,在軟件平臺方面的應(yīng)用大有潛力。如何將產(chǎn)品優(yōu)勢和技術(shù)優(yōu)勢轉(zhuǎn)化為應(yīng)用優(yōu)勢,以滿足用戶業(yè)務(wù)需求成為話題核心。
趙玥老師提到,CXL三個功能點(diǎn):內(nèi)存擴(kuò)展、內(nèi)存池化和內(nèi)存共享。這三個功能點(diǎn)為上層應(yīng)用提供了最新的差異化降低點(diǎn)。MemVerge從這三個點(diǎn)進(jìn)行了技術(shù)探索,并已落地。今年可以落地的從整個產(chǎn)業(yè)鏈來看,包括生物制藥應(yīng)用和設(shè)計仿真等。隨著內(nèi)存容量要求的增加,傳統(tǒng)底層已經(jīng)滿足不了,可以通過PCIe擴(kuò)展解決內(nèi)部容量擴(kuò)展。同時,通過自動化數(shù)據(jù)分級,使得內(nèi)存擴(kuò)展無感知,性能接近傳統(tǒng)DDR總線。此外,正在探索如何讓應(yīng)用無感知地實(shí)現(xiàn)內(nèi)存擴(kuò)展,以及如何在全局內(nèi)存管理分配服務(wù)下實(shí)現(xiàn)高效的動態(tài)分配和回縮。
CXL技術(shù)在生成式AI中的應(yīng)用
直播中提到CXL技術(shù)在當(dāng)前技術(shù)發(fā)展中的重要性,以及生成式AI技術(shù)的發(fā)展。CXL是一個標(biāo)準(zhǔn)化的東西,有助于整個產(chǎn)業(yè)生態(tài)的發(fā)展。生成式AI技術(shù)發(fā)展的一個重要原因是GPU和內(nèi)存之間的通訊,通過NVLink協(xié)議連接。然而,私有協(xié)議無法滿足更多需求,因此需要標(biāo)準(zhǔn)化框架。此外,內(nèi)存資源池化可以提高內(nèi)存資源利用率,降低成本。
內(nèi)存利舊與虛擬化系統(tǒng)的優(yōu)化
對話中我們提到內(nèi)存利舊的問題,以及通過CXL擴(kuò)展遠(yuǎn)端內(nèi)存的優(yōu)勢。同時,提到了通過CXL2.0將DDR4內(nèi)存作為二級內(nèi)存來使用的可能性。此外,還探討了如何提高內(nèi)存利用率,降低運(yùn)維成本。還提到關(guān)于虛擬化系統(tǒng)中的CPU和內(nèi)存利用率等問題引發(fā)大家的熱議。
內(nèi)存容量與價格的關(guān)系及其解決策略
有關(guān)內(nèi)存容量與價格之間的關(guān)系。隨著單條內(nèi)存容量的增加,價格也會相應(yīng)提高。為了解決這個問題,未來可能會通過PCIe等方式來拓展內(nèi)存容量,降低成本。同時,會議也提到了AI領(lǐng)域?qū)?nèi)存的需求較大,主要來自于帶寬。雖然DDR4在性能上可能不如DDR5,但在大帶寬應(yīng)用場景下,足夠使用。因此,價格問題仍然是一個需要關(guān)注的問題,尤其在SSD產(chǎn)品方面,價格也可能會成為應(yīng)用推廣的瓶頸。
宋家雨老師表示,未來CXL技術(shù)會逐漸成熟發(fā)展為大規(guī)模應(yīng)用,這也是CXL技術(shù)應(yīng)用俱樂部成立的初衷。
CXL計算架構(gòu)帶來了哪些影響和變化?為什么CXL值得關(guān)注?歡迎識別下方海報二維碼關(guān)注DOIT視頻號,查看直播回放。
關(guān)于CXL技術(shù)應(yīng)用俱樂部:
CXL技術(shù)應(yīng)用俱樂部由DOIT傳媒、Intel、MemVerge、瀾起科技、紫光國芯聯(lián)合發(fā)起,并已聚集數(shù)十家成員單位。俱樂部旨在促進(jìn)CXL技術(shù)的研究、開發(fā)和應(yīng)用,推動國內(nèi)外產(chǎn)業(yè)界的合作與交流,加快CXL技術(shù)的標(biāo)準(zhǔn)化進(jìn)程,為產(chǎn)業(yè)生態(tài)的建設(shè)提供支持。俱樂部目標(biāo)是通過聯(lián)合各成員單位的力量,推動CXL技術(shù)在各個行業(yè)的創(chuàng)新應(yīng)用,打造一個開放、共享、共贏的技術(shù)生態(tài)圈。