有意思的是,這座耗資數(shù)十億美元的AI集群不僅規(guī)模龐大,其建設(shè)速度也堪稱一絕,從開始到完工僅用122天。xAI Colossus已被視作一次工程奇跡,黃仁勛不吝嗇溢美之詞,也稱這是“超人般的成就”,“此前從未有過這樣的項(xiàng)目”。

據(jù)黃仁勛透露,xAI工程師們?cè)?9天內(nèi)完成了xAI Colossus超算的搭建。通常來說,這種規(guī)模和復(fù)雜度的項(xiàng)目可能需要長達(dá)一年時(shí)間才行。熟悉馬斯克的人肯定知道,這肯定是馬斯克又一次在內(nèi)部開啟了狂飆模式,完成了不可能完成的任務(wù)。

目前完成的工作,還只是Colossus超算的第一階段,馬斯克表示,接下來,這臺(tái)超算還會(huì)增加5萬塊H100和5萬塊H200。在同一建筑里構(gòu)建起擁有20萬塊H100/H200 GPU的訓(xùn)練集群。這距離此前說的30萬塊H200還是有差距的。

根據(jù)英偉達(dá)所說,xAI Colossus是目前全球最大的AI超算。與許多用于氣象、疾病研究等復(fù)雜計(jì)算任務(wù)的超算不同,Colossus專門用于訓(xùn)練X平臺(tái)的各類AI模型,主要包括Grok 3。據(jù)了解,Colossus還在訓(xùn)練未來各種AI模型。

除了Colossus超算,特斯拉的超級(jí)工廠里還有一個(gè)叫Cortex的超級(jí)計(jì)算機(jī),里面有5萬塊GPU,這臺(tái)超算主要用來訓(xùn)練基于視覺的自動(dòng)駕駛AI。此外,特斯拉還計(jì)劃在紐約州建設(shè)一臺(tái)名為Dojo的超算,這一項(xiàng)目價(jià)值5億美元。

分享到

zhupb

相關(guān)推薦