擁有10萬(wàn)塊英偉達(dá)H100的數(shù)據(jù)中心長(zhǎng)什么樣？
近日，經(jīng)由馬斯克和xAI團(tuán)隊(duì)的特別批準(zhǔn)，外媒STH的Patrick Kennedy進(jìn)入到了這個(gè)有較多敏感信息的數(shù)據(jù)中心內(nèi)部，拍了很多照片和視頻，一定程度上，滿足了很多人對(duì)于這種奇觀級(jí)別的超算的好奇心。 Colossus的4U液冷服務(wù)器，強(qiáng)調(diào)...
共 4 篇文章
標(biāo)簽：H100
英偉達(dá)以太網(wǎng)加速 xAI 構(gòu)建的全球最大 AI 超算，10萬(wàn)塊H100
2024 年 10 月 28 日—英偉達(dá)宣布，xAI 位于田納西州孟菲斯市的 Colossus 超級(jí)計(jì)算機(jī)集群達(dá)到了 10 萬(wàn)顆 NVIDIA Hopper GPU 的巨大規(guī)模。該集群使用了 NVIDIA Spectrum-X 以太網(wǎng)網(wǎng)絡(luò)平...
MLCommons推理測(cè)試：英特爾Gaudi 2險(xiǎn)勝英偉達(dá)H100
今天，MLCommons公布針對(duì) 60 億參數(shù)GPT-J的 MLPerf推理v3.1 性能基準(zhǔn)測(cè)試結(jié)果，測(cè)試結(jié)果中，有的是Habana Gaudi 2 加速器的，有的是第四代英特爾至強(qiáng)可擴(kuò)展處理器的。 根據(jù)6月披露的MLCommons驗(yàn)證了...
朱 朋博AI與大模型 
英特爾面向中國(guó)市場(chǎng)發(fā)布Gaudi2，可作為H100的替代方案
2023年7月11日，英特爾正式面向中國(guó)市場(chǎng)發(fā)布AI加速器Gaudi2，作為市場(chǎng)上為數(shù)不多的英偉達(dá)H100加速器的替代品，Gaudi2有著更高的性?xún)r(jià)比。 Gaudi2可用于AI訓(xùn)練及推理，此次發(fā)布，將為中國(guó)用戶(hù)帶來(lái)更高的深度學(xué)習(xí)性能和效率，...
朱 朋博AI與大模型