。
3月18日，在英偉達(dá)舉辦的GTC?2024大會?上，群聯(lián)電子宣布與技嘉?(GIGABYTE)、華碩?(ASUS)、MAINGEAR、臺灣大哥大?(Taiwan?Mobile)?及聯(lián)發(fā)科技?(MediaTek)?建立?aiDAPTIV+技術(shù)合作伙伴關(guān)系，它和合作伙伴還展示了aiDAPTIV+技術(shù)方案——一種整合軟硬件的AI模型微調(diào)訓(xùn)練解決方案，讓企業(yè)進行AI模型微調(diào)運算的過程中保證數(shù)據(jù)的安全性與不外流。
AI模型的預(yù)訓(xùn)練可提供AI對語言或圖形等的通用理解，但群聯(lián)的「aiDAPTIV+」可賦能AI模型微調(diào)運算，將預(yù)訓(xùn)練的AI模型塑造成能理解特定領(lǐng)域的專業(yè)工具?(例如符合律師、會計師、醫(yī)師、工程師等特殊領(lǐng)域的AI助理)，以提供符合各種專業(yè)領(lǐng)域所需的精確服務(wù)。
通用型工作站硬件透過 「aiDAPTIV+」軟件中間件和群聯(lián)獨家專利設(shè)計的aiDAPTIVCache系列ai100?SSD，將可讓現(xiàn)行的工作站計算機或是AI服務(wù)器訓(xùn)練更大的AI模型。
這里，MAINGEAR 創(chuàng)始人兼執(zhí)行長 Wallace Santos 稱MAINGEAR 的 Pro AI 系列工作站采用群聯(lián)「aiDAPTIV+」技術(shù)，讓使用者能夠在不大幅增加成本的情況下，擁有大型AI語言模型微調(diào)訓(xùn)練能力。技嘉科技執(zhí)行長李宜泰指出，aiDAPTIV+協(xié)助技嘉透過整合 SSD 至 AI 運算架構(gòu)，將 SSD 當(dāng)作 DRAM 來使用，大幅降低 AI 模型微調(diào)運算的成本。
什么叫做?把SSD?當(dāng)作?DRAM?來使用？
在AI模型訓(xùn)練等高性能計算任務(wù)中，經(jīng)常需要處理的數(shù)據(jù)量遠(yuǎn)超過GPU內(nèi)存的容量，需要頻繁地在GPU內(nèi)存和主存儲（如SSD）之間交換數(shù)據(jù)，影響計算效率。群聯(lián)的解決方案是在GPU內(nèi)存和SSD之間創(chuàng)造了一個“緩存層”，這個緩存層能部分承擔(dān)原本由GPU內(nèi)存要做的任務(wù)，從而在不顯著增加成本的情況下，間接擴大GPU的“工作內(nèi)存”，使其能夠處理更大的數(shù)據(jù)集，提高AI訓(xùn)練的效率和規(guī)模。
群聯(lián)電子「aiDAPTIV+」還和聯(lián)發(fā)科技最新的人工智能平臺「MediaTek DaVinci」合作，使企業(yè)從訓(xùn)練階段到實際運作大型AI模型的過程，都能維持對本地敏感信息的控制能力。
在 GTC 上，群聯(lián)電子還將展示全系列的 PCIe Gen5 生態(tài)系統(tǒng)產(chǎn)品，包括 X200 SSD、PS7100 系列 Redrivers 和 PS7200 系列 Retimers。
PCIe Gen5 SSD X200： 最高效能超過 14GB/s，在 U.2/U.3 和 E3.S 外形尺寸中，最高儲存容量達(dá) 32TB，能滿足數(shù)據(jù)中心和服務(wù)器的高效能與高容量需求。
PS7100 系列 Redrivers：采用 PHiTUNE AI 技術(shù)的 Redrivers，信號調(diào)節(jié)能力高達(dá) 20dB，可最大化主板布線，支持更長的走線長度。
PS7200 系列 Retimers：適用于企業(yè)和汽車應(yīng)用的高階 Retimers，支持 CXL 2.0 和link分叉 (link bifurcation)，可在較長的訊號在線進行 PCIe Gen5 信號調(diào)節(jié)。
