在演講中,針對馮諾依曼存算分離架構設計中,因為存力、算力不均衡發(fā)展所導致的訪存墻的問題,馮丹院長論述并介紹了PCM、RRAM、MRAM等新型非易失存儲介質的特點,及其通過存算一體方式,破解訪存墻問題的可行性。馮丹院長介紹了存算一體的原理及其與基于傳統(tǒng)DRAM內存存內計算技術的對比。
馮丹院長指出:存算一體原理簡單,但是在工程實踐中,還有很多的難題需要解決,如單元陣列線電阻與寄生電容的RC延遲問題,IR drop效應,也就是電流通過電阻時產生的壓降問題,這些問題需要借助模擬和仿真軟件進行判斷和研究,為此,華中科技大學做出了“ PIMTorch ” 存算一體仿真軟件 。
該軟件可以支持對架構設計方案的快速探索與驗證,可以對“器件-陣列-架構”跨層次協(xié)同評估、優(yōu)化進行支撐;支持快捷方便的存算一體架構設計與驗證。在此,馮丹院長也分享了該軟件用于陣列內磨損不均衡、C2C變化性下的訓練、陣列單元有效電壓等問題的仿真驗證結果。
“我們的陣列級和算法級實驗證明了所提出方法的準確性、性能和通用性。對于節(jié)點分析模型和自定義迭代模型,分別可實現(xiàn)232.9和63.2倍的加速比。我們設計的通用、穩(wěn)健和高性能的模擬器能夠供系統(tǒng)架構師在廣闊的早期架構設計空間中快速探索最優(yōu)設計方案。”她說。
在演講中,馮丹院長詳細論述了基于陣列分區(qū)的行列協(xié)同時序優(yōu)化機制,以及IR drop的低開銷分區(qū)補償方法。新的機制可以有效提升存內計算系統(tǒng)性能,而新的方法則可以提升推理準確度,減少計算迭代次數(shù)。
馮丹院長表示:PIMTorch存算一體仿真軟件可用于芯片設計,也可以結合電路特性做一些優(yōu)化的辦法,從而推動技術發(fā)展、普及和實用化,加速AI的現(xiàn)代化進程。
希望有更多的公司們能夠關注到存算一體化的發(fā)展和進程!