韓國(guó)初創(chuàng)公司Panmnesia正在開(kāi)發(fā)一種技術(shù)，可以在多個(gè)服務(wù)器之間連接數(shù)百個(gè)內(nèi)存設(shè)備。 Panmnesia支持CXL 3.1標(biāo)準(zhǔn)，該標(biāo)準(zhǔn)解決了遠(yuǎn)程內(nèi)存池化和PCIe 6.0互連問(wèn)題，使基于CPU和GPU的服務(wù)器能夠共享外部?jī)?nèi)存，并與其自身...

朱 朋博2024-08-02業(yè)界動(dòng)態(tài)

說(shuō)到顯卡，算力固然重要，懂行的AI專(zhuān)家也都知道顯存的重要性，尤其是HBM在處理復(fù)雜AI模型和大數(shù)據(jù)集時(shí)的關(guān)鍵作用。 然而，現(xiàn)代顯卡內(nèi)置的顯存容量有限，常常限制了它們?cè)贏I訓(xùn)練和高性能計(jì)算中的表現(xiàn)。 為了解決這個(gè)問(wèn)題，有一家公司想通過(guò)PCIe...

朱 朋博2024-07-08AI與大模型

韓國(guó)的Panmnesia公司在2023年閃存峰會(huì)（FMS）上也展示了池化的CXL內(nèi)存系統(tǒng)解決方案，該方案同時(shí)包含軟件和硬件。 在閃存峰會(huì)的現(xiàn)場(chǎng)演示中，該系統(tǒng)運(yùn)行了類(lèi)似Meta的推薦應(yīng)用，結(jié)果發(fā)現(xiàn)，其性能比基于RDMA的系統(tǒng)快了三倍以上。 據(jù)...

朱 朋博2023-08-16AI與大模型