SK海力士表示,GDDR內(nèi)存在AI和大數(shù)據(jù)場(chǎng)景中用的非常多

在CPU加GPU的組合方案中運(yùn)行某些運(yùn)算,使用GDDR6-AiM的方案比使用DRAM的方案快16倍,究其原因在于,SK海力士的PIM減少了到CPU和GPU的數(shù)據(jù)遷移動(dòng)作,而且,還減少了80%的電量消耗。

GDDR6-AiM的工作電壓是1.25V,而SK海力士現(xiàn)有GDDR6的工作電壓是1.35V。

SK海力士沒(méi)有透露用的是什么處理指令,也沒(méi)有透露處理單元在內(nèi)存里是如何分布的。而三星基于MRAM的PIM技術(shù)公布的信息更多一些,眾所周知,MRAM比DRAM的速度更快,而且運(yùn)行時(shí)更省電。

EE Times上的一篇文章提到了更多細(xì)節(jié):

下圖展示了CPU處理數(shù)據(jù)的各個(gè)過(guò)程中的功耗情況,如圖可見(jiàn),把數(shù)據(jù)從DRAM挪到CPU緩存的操作需要的功耗最高。

下圖是神經(jīng)網(wǎng)絡(luò)運(yùn)算中使用的典型數(shù)學(xué)運(yùn)算,在計(jì)算多輸出神經(jīng)元運(yùn)算時(shí),選擇了矩陣的乘法和加法。

單輸出 vs 多輸出的神經(jīng)元運(yùn)算

文章表示,如果把負(fù)責(zé)這些運(yùn)算的電路添加到內(nèi)存中,數(shù)據(jù)就不需要再傳輸?shù)教幚砥鳎趦?nèi)存中就能進(jìn)行運(yùn)算并將運(yùn)算結(jié)果發(fā)送給處理器。

文章表示,如果在RNN等吃內(nèi)存的場(chǎng)景中使用內(nèi)置了計(jì)算電路的DRAM,那么性能和電源效率將顯著提高,當(dāng)需要處理的數(shù)據(jù)量越來(lái)越大時(shí),PIM將成為突破現(xiàn)有計(jì)算機(jī)性能瓶頸的重要手段。

SK海力士希望GDDR6 AiM芯片能用于機(jī)器學(xué)習(xí)、高性能計(jì)算、大數(shù)據(jù)計(jì)算和存儲(chǔ)應(yīng)用等領(lǐng)域。

SK海力士的相關(guān)負(fù)責(zé)人表示,SK海力士將圍繞GDDR6-AiM建立新的內(nèi)存解決方案生態(tài)系統(tǒng),與SAPEON合作,引入一種新的神經(jīng)網(wǎng)絡(luò)技術(shù)。

在AI芯片中使用GDDR6-AiM內(nèi)存技術(shù),對(duì)于最大化數(shù)據(jù)運(yùn)算效率,降低成本,提高能效方面的表現(xiàn)表示期待。

分享到

zhupb

相關(guān)推薦