他提到將深度神經(jīng)網(wǎng)絡(luò)（DNN）映射到模擬交叉點(diǎn)陣列（模擬AI核心）。它們在陣列交叉點(diǎn)處擁有非易失性存儲(chǔ)材料來存儲(chǔ)權(quán)重。

為了提高訓(xùn)練過程中決策的準(zhǔn)確性，DNN計(jì)算中的數(shù)值進(jìn)行了加權(quán)。

這些因素?zé)o需主機(jī)服務(wù)器CPU干預(yù)，就可以直接用交叉點(diǎn)PCM陣列實(shí)現(xiàn)，從而提供內(nèi)存計(jì)算，無需數(shù)據(jù)移動(dòng)。相比英特爾XPoint SSD或DIMM等，這是一個(gè)模擬陣列。

PCM單元沿著非晶態(tài)和晶態(tài)之間的8步梯度記錄突觸權(quán)重。每個(gè)步驟的電導(dǎo)或電阻可以用電脈沖改變。這8個(gè)步驟在DNN計(jì)算中提供了8位精度。

非易失性存儲(chǔ)的交叉陣列可以通過在數(shù)據(jù)位置處執(zhí)行計(jì)算來加速完全連接的神經(jīng)網(wǎng)絡(luò)訓(xùn)練。

模擬存儲(chǔ)器芯片內(nèi)部的計(jì)算

IBM的研究論文指出：“模擬非易失性存儲(chǔ)器（NVM）可以有效地加速”反向傳播“算法，這是許多最新AI技術(shù)進(jìn)步的核心。這些存儲(chǔ)器允許使用的“累積乘法”運(yùn)算，在模擬域中權(quán)重?cái)?shù)據(jù)的位置上，用基礎(chǔ)物理學(xué)進(jìn)行并行化。

我們只需將一個(gè)小電流通過一個(gè)電阻器連接到一根電線上，然后將許多這樣的電線連接在一起，讓電流積聚起來。這樣我們不需要一個(gè)接一個(gè)地執(zhí)行計(jì)算，而是可以同時(shí)執(zhí)行許多計(jì)算。并且相比在數(shù)字存儲(chǔ)芯片和處理芯片之間花時(shí)間傳輸數(shù)據(jù)，我們可以在模擬存儲(chǔ)芯片內(nèi)執(zhí)行所有計(jì)算?！?/p>

PS：昨天對(duì)單身狗來說不是情人節(jié)，而是IBM從Computing Tabulating Recording計(jì)算列表紀(jì)錄公司改名為國際商業(yè)機(jī)器公司International Business Machines的日子——1924年2月14日。

崔歡歡