圖片來自網(wǎng)絡(luò)
回顧一下什么是HBM
High Bandwidth Memory (HBM) 是一種基于3D堆疊工藝的DRAM內(nèi)存芯片，緩存和內(nèi)存組CP，利用TSV（硅通孔技術(shù)）實現(xiàn)垂直堆疊，這樣的設(shè)計能讓交換數(shù)據(jù)的時間大大縮短，但要適配不同型號的芯片帶還要匹配大小，成本高，現(xiàn)在主流應該使用的是2.5D封裝，都很適用于AI，機器學習和數(shù)據(jù)中心等規(guī)模型應用。
圖片來自網(wǎng)絡(luò)
與平面板級連線不同，通過interposer的特殊有機材料（線寬，節(jié)點間距優(yōu)于電路板）作為中間轉(zhuǎn)接層，就像一個有底座的硅芯片，連接多個DRAM芯片堆棧，實現(xiàn)高密度和高帶寬。目前HBM主要安裝在GPU、網(wǎng)絡(luò)交換設(shè)備（如路由器和交換機）、AI加速器、超級計算機和高效服務(wù)器上。
未來隨著DRAM與存儲器之間的價格和速度差距不斷縮小，圍繞DRAM和SRAM的近內(nèi)存計算更符合AI應用需求，2.5D封裝是過渡期的最優(yōu)選。當然除了HBM，CXL（Compute Fast Linking）等新存儲技術(shù)與軟件優(yōu)化相結(jié)合，也會提高應用中存儲容量和性能。
這不，現(xiàn)在三星也推出了自己首款支持CXL 2.0的CXL DRAM。基于CXL 2.0的128GB CXL DRAM將在今年量產(chǎn)，為高性能服務(wù)器系統(tǒng)中和CPU一起使用的加速器、DRAM和存儲設(shè)備提高效率，滿足人工智能和機器學習應用高速處理數(shù)據(jù)的需求。所以諸位，CXL連接要繼續(xù)加油呀！
圖片來自網(wǎng)絡(luò)
除了HBM和CXL，還有企業(yè)在用自然語言實時查詢其組織的數(shù)據(jù)庫/數(shù)據(jù)湖，國外有家數(shù)據(jù)庫初創(chuàng)公司SingleStore就通過投喂給ChatGPT矢量函數(shù)實現(xiàn)SQL查詢功能，但通用基礎(chǔ)的功能很好用，再深入一些還會有結(jié)合點嗎？
該怎么和ChatGPT玩耍，該怎么和生成式AI應用玩耍，這是個問題。在5月26日，百易傳媒（DOIT）即將在蘇州中茵皇冠假日酒店召開的2023數(shù)據(jù)基礎(chǔ)設(shè)施技術(shù)峰會上，這也是話題之一，聚焦AIGC帶來的數(shù)據(jù)變革以及行業(yè)的創(chuàng)變之道，我們匯集了來自眾多業(yè)內(nèi)專家學者、企業(yè)代表，還有制造、互聯(lián)網(wǎng)等領(lǐng)域用戶代表，以期了解最新行業(yè)動態(tài)，增進交流，加快行業(yè)創(chuàng)新。
蘇州紫藤花盡開，靜待眾人來~
