圖片來(lái)自網(wǎng)絡(luò)

回顧一下什么是HBM

High Bandwidth Memory (HBM) 是一種基于3D堆疊工藝的DRAM內(nèi)存芯片，緩存和內(nèi)存組CP，利用TSV（硅通孔技術(shù)）實(shí)現(xiàn)垂直堆疊，這樣的設(shè)計(jì)能讓交換數(shù)據(jù)的時(shí)間大大縮短，但要適配不同型號(hào)的芯片帶還要匹配大小，成本高，現(xiàn)在主流應(yīng)該使用的是2.5D封裝，都很適用于AI，機(jī)器學(xué)習(xí)和數(shù)據(jù)中心等規(guī)模型應(yīng)用。

圖片來(lái)自網(wǎng)絡(luò)

與平面板級(jí)連線不同，通過(guò)interposer的特殊有機(jī)材料（線寬，節(jié)點(diǎn)間距優(yōu)于電路板）作為中間轉(zhuǎn)接層，就像一個(gè)有底座的硅芯片，連接多個(gè)DRAM芯片堆棧，實(shí)現(xiàn)高密度和高帶寬。目前HBM主要安裝在GPU、網(wǎng)絡(luò)交換設(shè)備（如路由器和交換機(jī)）、AI加速器、超級(jí)計(jì)算機(jī)和高效服務(wù)器上。

未來(lái)隨著DRAM與存儲(chǔ)器之間的價(jià)格和速度差距不斷縮小，圍繞DRAM和SRAM的近內(nèi)存計(jì)算更符合AI應(yīng)用需求，2.5D封裝是過(guò)渡期的最優(yōu)選。當(dāng)然除了HBM，CXL（Compute Fast Linking）等新存儲(chǔ)技術(shù)與軟件優(yōu)化相結(jié)合，也會(huì)提高應(yīng)用中存儲(chǔ)容量和性能。

這不，現(xiàn)在三星也推出了自己首款支持CXL 2.0的CXL DRAM?；贑XL 2.0的128GB CXL DRAM將在今年量產(chǎn)，為高性能服務(wù)器系統(tǒng)中和CPU一起使用的加速器、DRAM和存儲(chǔ)設(shè)備提高效率，滿(mǎn)足人工智能和機(jī)器學(xué)習(xí)應(yīng)用高速處理數(shù)據(jù)的需求。所以諸位，CXL連接要繼續(xù)加油呀！

圖片來(lái)自網(wǎng)絡(luò)

除了HBM和CXL，還有企業(yè)在用自然語(yǔ)言實(shí)時(shí)查詢(xún)其組織的數(shù)據(jù)庫(kù)/數(shù)據(jù)湖，國(guó)外有家數(shù)據(jù)庫(kù)初創(chuàng)公司SingleStore就通過(guò)投喂給ChatGPT矢量函數(shù)實(shí)現(xiàn)SQL查詢(xún)功能，但通用基礎(chǔ)的功能很好用，再深入一些還會(huì)有結(jié)合點(diǎn)嗎？

該怎么和ChatGPT玩耍，該怎么和生成式AI應(yīng)用玩耍，這是個(gè)問(wèn)題。在5月26日，百易傳媒（DOIT）即將在蘇州中茵皇冠假日酒店召開(kāi)的2023數(shù)據(jù)基礎(chǔ)設(shè)施技術(shù)峰會(huì)上，這也是話(huà)題之一，聚焦AIGC帶來(lái)的數(shù)據(jù)變革以及行業(yè)的創(chuàng)變之道，我們匯集了來(lái)自眾多業(yè)內(nèi)專(zhuān)家學(xué)者、企業(yè)代表，還有制造、互聯(lián)網(wǎng)等領(lǐng)域用戶(hù)代表，以期了解最新行業(yè)動(dòng)態(tài)，增進(jìn)交流，加快行業(yè)創(chuàng)新。

蘇州紫藤花盡開(kāi)，靜待眾人來(lái)~

崔歡歡