IDC所定義的智算服務是指以GPU、FPGA、ASIC等AI專用算力為主的基礎(chǔ)設(shè)施服務，主要包括智算集成服務、智算基礎(chǔ)設(shè)施即服務（AI Infrastructure as a service, 簡稱AI IaaS）。智算集成服務主要是指廠商在幫助客戶建設(shè)私有智算基礎(chǔ)設(shè)施過程中提供的咨詢、集成、開發(fā)、運維等專業(yè)和管理服務；AI IaaS是指供應商以租賃形式為客戶提供一站式智能算力服務，并由供應商提供后續(xù)的運營及運維保障。其中AI IaaS市場又分為面向生成式AI的GenAI IaaS和Other AI IaaS（如傳統(tǒng)渲染、仿真、視聯(lián)網(wǎng)推理等業(yè)務場景）兩個細分市場。

市場概況

新舊動能快速切換，面向GenAI的算力支出已經(jīng)成為智算服務市場主陣地：以AI IaaS市場為例，GenAI IaaS市場經(jīng)歷短短的一年半發(fā)展時間，市場規(guī)模已經(jīng)超過Other AI IaaS市場，占比AI IaaS市場達58%。智算集成市場，增量新建的智算中心均是以GenAI的未來需求為導向而設(shè)計的。

頭部客戶飽和式投入，智能算力支出快速增長：頭部客戶智能力算力支出在2024年迎來大幅度增長。如頭部基礎(chǔ)大模型公司整體算力規(guī)模向10EFlops進發(fā)，最大單集群規(guī)模已經(jīng)升級到256臺服務器（H系列）；自動駕駛客戶更是迎來新一輪算力軍備競賽，如理想汽車，截至2023年9月，云端算力規(guī)模僅750PFlops，到2024年11月，云端算力規(guī)模已達到6830PFlops。

互聯(lián)網(wǎng)業(yè)務向GenAI融合，GenAI IaaS推理算力支出快速增長：2024上半年，GenAI開始向行業(yè)落地，尤其是互聯(lián)網(wǎng)行業(yè)（主要是互聯(lián)網(wǎng)音視頻、游戲、教育）在GenAI與業(yè)務的融合實踐方面一馬當先，GenAI IaaS推理算力支出快速增長。2023年，客戶在GenAI IaaS上的推理支出占比僅為5%，2024上半年，這一推理支出占比已經(jīng)上升到23%。

智算中心建設(shè)提速，專業(yè)服務和商業(yè)化運營成為關(guān)注重點：據(jù)不完全統(tǒng)計，上半年智算中心項目已過百，但其中相當數(shù)量仍處于規(guī)劃/開工/在建等狀態(tài)。相關(guān)項目中：

• 各地新建智算中心正向大算力規(guī)模演進，其中單個政府智算中心整體算力規(guī)劃已接近千P及以上，而運營商/互聯(lián)網(wǎng)智算中心算力規(guī)模基本達到萬卡及以上規(guī)模，呈現(xiàn)出資金投入大、算力密度大、建設(shè)難度高等特征。如何通過專業(yè)服務實現(xiàn)大規(guī)模集群系統(tǒng)架構(gòu)部署優(yōu)化、大規(guī)模計算穩(wěn)定性保障以及集群高效運維越來越受到算力使用方以及相關(guān)服務商重視。
• 與此同時，現(xiàn)階段部分投產(chǎn)上線智算中心面臨缺乏商業(yè)化運營能力，如何實現(xiàn)零散算力整合售賣并完成與最終用戶的對接使用正成為算力建設(shè)方、運營方關(guān)注重點。

智算服務市場不斷吸引新入玩家：社會各類資本通過各種合作方式以彌補自身的不足，以搶抓時代的黃金機會點。一是傳統(tǒng)企業(yè)通過資本布局跨界而來，如并購NV系精英合作伙伴、與有技術(shù)沉淀的服務商共建等方式以彌補自身技術(shù)的不足；二是業(yè)界的各類ICT企業(yè)通過算力納管、整合生態(tài)、算力共建等方式，謀求以輕資產(chǎn)、重解決方案能力在智算服務市場立足。

市場格局

智算集成服務市場：

智算集成服務市場在2024上半年逐漸迎來爆發(fā)，市場格局繼續(xù)維持一超多強特征，頭部以及中腰部玩家憑借技術(shù)優(yōu)勢擴大市場份額。其中，華為智算集成服務為客戶提供算力集成解決方案，覆蓋數(shù)據(jù)中心Facility集成、IT基礎(chǔ)設(shè)施集成等，包括咨詢規(guī)劃、集成部署及輔助運營的全周期服務；此外，針對AI開發(fā)門檻高、模型遷移開發(fā)能力不足等通用挑戰(zhàn)，華為為客戶推出AI計算使能、AI計算優(yōu)化等專業(yè)服務，助力“建好、管好、用好”算力集群；本期H3C重點推動傲飛算力平臺落地，為政企、智算中心集群提供多元異構(gòu)算力支持，滿足最終用戶不同AI負載和業(yè)務場景需求；百度繼續(xù)依托芯片、算力、軟件等基礎(chǔ)設(shè)施以及產(chǎn)業(yè)鏈優(yōu)勢，參與西北等多個地區(qū)智算中心項目建設(shè)；中國電信憑借“息壤”算力網(wǎng)絡(luò)平臺、算網(wǎng)/機房資源以及相關(guān)算力模型開發(fā)經(jīng)驗，本期在私有化智算集群項目中有所建樹，排名上升至第四；中國電子云圍繞CECSTACK一體化算力平臺，在北京、石家莊、武漢等地完成多個智算項目交付，同時在商業(yè)客戶和高校市場實現(xiàn)突破，目前算力規(guī)模已超過3300P。

AI IaaS市場

客戶需求向GenAI轉(zhuǎn)移，Other AI IaaS市場規(guī)模逐步縮減，繼續(xù)延續(xù)之前的市場格局。GenAI IaaS市場，云巨頭快速調(diào)整，引發(fā)市場變局.阿里云在2024年快速調(diào)整市場策略，市場份額躍居市場第一，一是內(nèi)部快速調(diào)整釋放出大量資源向客戶側(cè)供給；二是借助優(yōu)秀的資本布局聚焦算力消耗大戶；三是技術(shù)體系快速適配Gen-AI時代，憑借優(yōu)秀的技術(shù)功底獲得頭部客戶認可。運營商在今年大舉發(fā)力智算市場，紛紛建立萬卡級智算中心，中國電信作為率先落地的服務商，上海及北京萬卡智算中心已經(jīng)商用，率先在市場取得突破。同時，省公司亦在積極響應客戶對于GenAI IaaS需求，通過外部合作擴充智能算力規(guī)模，市場份額躍居市場第五。新勢力服務商在2024上半年的表現(xiàn)呈現(xiàn)兩級分化，以商湯科技為代表的技術(shù)實力派，成功立足市場，商湯科技繼續(xù)保持市場第三位置。并行科技、首都在線、藍耘科技等公司的GenAI IaaS業(yè)務亦取得了高速增長。

IDC中國企業(yè)級研究部研究經(jīng)理楊洋表示，回顧IDC在2023H2的預測，我們已經(jīng)對智算服務市場的增長充分樂觀，而從2024年市場的實際情況來看，我們過往的預測仍偏于保守，智算服務市場以遠超預期的增速在高速成長。從智算服務的增長態(tài)勢來看，IDC認為智算服務市場在未來五年內(nèi)仍將保持超高增速高速成長，一是頭部客戶對于訓練算力的需求仍呈現(xiàn)量級躍遷的特征，二是從產(chǎn)業(yè)階段和算力結(jié)構(gòu)上來看，GenAI仍處于早期階段，推理側(cè)算力支出仍占較小比例，以終局來看，推理側(cè)算力應占到算力支出的6-7成，意味著推理側(cè)算力支出將有百倍以上的增長空間；三是算力成本在逐步下降，2024上半年，IDC觀測到更多的中腰部組織/企業(yè)在展開GenAI實踐，未來，大量的中腰部組織/企業(yè)將成為智算服務市場的優(yōu)質(zhì)增量。GenAI同樣在重塑整個ICT市場的技術(shù)體系和競爭均勢，而智算服務市場將處于價值鏈的核心環(huán)節(jié)，成為ICT巨頭的必爭之地。

zhupb