關(guān)于「算力豹」（微信公眾號(hào)搜索：dethinktank）

▲算力豹·算力先鋒計(jì)劃以“算力創(chuàng)變，致勝未來(lái)”為主題，采訪對(duì)象覆蓋多數(shù)國(guó)內(nèi)服務(wù)器、云服務(wù)、GPU、CPU、大模型等創(chuàng)企，邀請(qǐng)企業(yè)核心人物講述創(chuàng)業(yè)故事和產(chǎn)業(yè)見(jiàn)解。

算力先鋒本期邀請(qǐng)嘉賓：

近期，OpenAI的Sora和谷歌Gemini 1.5的推出使得AI技術(shù)的應(yīng)用場(chǎng)景進(jìn)一步拓寬，無(wú)論是多模態(tài)模型的訓(xùn)練還是應(yīng)用側(cè)推理都將對(duì)算力及其基礎(chǔ)設(shè)施提出更高要求，加劇了市場(chǎng)對(duì)“硬通貨”——AI服務(wù)器的爭(zhēng)搶，產(chǎn)業(yè)中涌現(xiàn)出了一大批有技術(shù)、有實(shí)力的國(guó)產(chǎn)服務(wù)器品牌。

作為中國(guó)領(lǐng)先的計(jì)算產(chǎn)品方案提供商和AI服務(wù)器市場(chǎng)TOP3，寶德計(jì)算機(jī)系統(tǒng)股份有限公司（以下簡(jiǎn)稱“寶德計(jì)算”），在這AI熱潮中是第一線受益者，據(jù)寶德計(jì)算IA BU總經(jīng)理和紅星研究院總經(jīng)理黃文杰介紹，寶德計(jì)算2023年在英偉達(dá)企業(yè)級(jí)業(yè)務(wù)出貨同比增長(zhǎng)的幅度達(dá)到接近200%。

當(dāng)前AI行業(yè)面對(duì)巨大的算力缺口無(wú)非兩條出路：一是力大出奇跡，暴力囤積新設(shè)備，靠增量來(lái)提升算力；二是持續(xù)的創(chuàng)新服務(wù)器，靠提質(zhì)來(lái)提升算力。寶德計(jì)算黃文杰談道，他認(rèn)為身處AI狂潮中的廠家需要對(duì)市場(chǎng)有判斷能力，還要找準(zhǔn)自己在行業(yè)中的定位，這意味著企業(yè)需要具備研發(fā)力來(lái)“造血”，以及將產(chǎn)品競(jìng)爭(zhēng)力作為“硬功底”。最后他提出，企業(yè)需打造差異定制化來(lái)為客戶場(chǎng)景找到綜合最優(yōu)解。

01 發(fā)力多元算力，演繹賦能故事

從1993年中國(guó)第一臺(tái)服務(wù)器誕生至今，國(guó)產(chǎn)服務(wù)器的發(fā)展已走過(guò)31個(gè)年頭?；ヂ?lián)網(wǎng)是IT產(chǎn)業(yè)的第一波大熱潮持續(xù)了50年， AI是接替甚至是超過(guò)互聯(lián)網(wǎng)的第二波大熱潮。黃文杰介紹說(shuō)，在2016年GPU的性價(jià)比突破了臨界點(diǎn)，算力、數(shù)據(jù)、算法三個(gè)方面都達(dá)到一個(gè)臨界點(diǎn)，AI便駛上了快車(chē)道。

早在1997年，寶德計(jì)算便進(jìn)入服務(wù)器領(lǐng)域，經(jīng)20多年的技術(shù)沉淀和市場(chǎng)經(jīng)驗(yàn)，目前已完整布局了AI訓(xùn)練、AI推理、AI邊緣以及AI集群等全棧算力產(chǎn)品解決方案。“經(jīng)歷了互聯(lián)網(wǎng)和AI兩個(gè)時(shí)代，寶德計(jì)算始終以滿足客戶的需求來(lái)為導(dǎo)向規(guī)劃自己的產(chǎn)品圖譜。”黃文杰談道。

在互聯(lián)網(wǎng)時(shí)代，寶德計(jì)算2014年開(kāi)始用AI服務(wù)器來(lái)做高性能計(jì)算（HPC）的加速節(jié)點(diǎn)。2016年起，AI服務(wù)器在互聯(lián)網(wǎng)行業(yè)快速發(fā)展，彼時(shí)寶德計(jì)算大批量出貨AI服務(wù)器，專注互聯(lián)網(wǎng)領(lǐng)域的兩大應(yīng)用——智能推薦和在線內(nèi)容審核，滿足互聯(lián)網(wǎng)客戶對(duì)于視頻的需求。當(dāng)大模型場(chǎng)景在去年初爆發(fā)，預(yù)示AI大模型時(shí)代接替互聯(lián)網(wǎng)時(shí)代，寶德計(jì)算提前推出AI大模型需要的服務(wù)器產(chǎn)品，積極擁抱大模型的發(fā)展需求。

為應(yīng)對(duì)AIGC和大模型的AI算力困局，寶德與NVIDIA GPU、英特爾?GPU和英特爾?至強(qiáng)CPU Max系列等業(yè)界領(lǐng)先產(chǎn)品加速適配和測(cè)試，迅速整機(jī)化和系統(tǒng)化，為大模型訓(xùn)練和推理夯實(shí)算力根基。

以寶德自研AI服務(wù)器PR4910E為例，它搭載了第五代/四代英特爾?至強(qiáng)?可擴(kuò)展處理器，最大核心數(shù)高達(dá)64，支持10張GPU加速卡，能為大模型訓(xùn)練和推理提供強(qiáng)有力的算力支撐。該產(chǎn)品可以滿足完成文本生成圖像、數(shù)據(jù)傳輸、復(fù)雜的圖形渲染、視頻解碼等需求。 

02 定制化需求下沉，加速滲透行業(yè)解決方案

傳統(tǒng)的按需定制都體現(xiàn)在應(yīng)用層，如今隨著AI勢(shì)頭洶涌，在操作系統(tǒng)以及芯片級(jí)方面的定制化與標(biāo)準(zhǔn)化結(jié)合成為趨勢(shì)。黃文杰認(rèn)為，AI最主要的場(chǎng)景是訓(xùn)練、推理以及邊緣端，所以不同應(yīng)用場(chǎng)景對(duì)算力和技術(shù)的需求側(cè)重點(diǎn)不同，需要靈活地調(diào)整和重新構(gòu)建系統(tǒng)的各個(gè)方面。

黃文杰在訪談中聊到，他剛畢業(yè)便投身進(jìn)了計(jì)算機(jī)硬件產(chǎn)品和解決方案的工作，2008年加入寶德計(jì)算，歷任研發(fā)、產(chǎn)品、市場(chǎng)等核心崗位。作為一個(gè)資深產(chǎn)品人，黃文杰深知服務(wù)對(duì)于AI服務(wù)器市場(chǎng)競(jìng)爭(zhēng)的重要性，抓住AI基礎(chǔ)設(shè)施的定制化趨勢(shì)，堅(jiān)持為寶德計(jì)算打造產(chǎn)品差異定制化。據(jù)他描述，寶德計(jì)算在AI服務(wù)器差異定制化方面已與競(jìng)爭(zhēng)對(duì)手拉開(kāi)差距。寶德計(jì)算的產(chǎn)品覆蓋高中低端，已達(dá)到高度的靈活性，根據(jù)不同的應(yīng)用場(chǎng)景推出不同的產(chǎn)品，進(jìn)而找到實(shí)現(xiàn)AI的最佳途徑。

如今，不少AI公司爭(zhēng)相采購(gòu)AI服務(wù)器，尤其是大型互聯(lián)網(wǎng)公司如百度、阿里、騰訊、字節(jié)跳動(dòng)等等，也有“扎堆跨界”AI服務(wù)器的公司。黃文杰分享到，互聯(lián)網(wǎng)大廠在GPU方面，有豐富的技術(shù)經(jīng)驗(yàn)積累，懂應(yīng)用，也有大量的數(shù)據(jù)，而跨界公司大部分著力點(diǎn)在算力租賃，與寶德計(jì)算是合作關(guān)系。寶德計(jì)算這類廠商在過(guò)去被稱作設(shè)備商，黃文杰談到，在AI行業(yè)的發(fā)展中，有定制化需求的客戶逐漸不滿足于只購(gòu)買(mǎi)設(shè)備，希望得到一體化的解決方案，以集成的解決方案來(lái)體現(xiàn)自己的品牌，這就給了寶德計(jì)算探索AI解決方案的動(dòng)力。

基于客戶和行業(yè)的具體需求來(lái)做延伸，寶德計(jì)算在軟硬件方面都有加強(qiáng)投入。

在硬件方面，黃文杰表示，一方面，寶德計(jì)算將成立新的項(xiàng)目組，持續(xù)投入到如4U16卡液冷、4u8卡風(fēng)冷、8U16卡風(fēng)冷等AI產(chǎn)品的研發(fā)創(chuàng)新。同時(shí)，加強(qiáng)在單機(jī)性能方面的研發(fā)和技術(shù)創(chuàng)新，通過(guò)更高帶寬、更低延遲、更快計(jì)算來(lái)提升整機(jī)性能。在軟件方面，英特爾今年將在北京啟動(dòng)創(chuàng)新中心，寶德計(jì)算攜手英特爾AI軟硬件基礎(chǔ)技術(shù)，推出AI數(shù)字人，為數(shù)據(jù)中心打造高效便利、普惠的AI基礎(chǔ)設(shè)施。

03 算力需求匹配，液冷降低能耗

AI服務(wù)器的建設(shè)并非純粹的堆積，在產(chǎn)業(yè)發(fā)展過(guò)程中，技術(shù)創(chuàng)新應(yīng)用與算力需求之間也出現(xiàn)了某些不和諧，如硬件可用性、算力成本、系統(tǒng)集成和擴(kuò)展等原因，都可能致使某些工作負(fù)載過(guò)度浪費(fèi)GPU資源。

注重算力對(duì)應(yīng)供求關(guān)系的匹配，促進(jìn)數(shù)字經(jīng)濟(jì)和實(shí)體經(jīng)濟(jì)深度融合成為最廣泛的共識(shí)。據(jù)黃文杰描述，寶德計(jì)算積極攜手產(chǎn)業(yè)鏈上下游生態(tài)伙伴，加強(qiáng)軟硬件生態(tài)測(cè)試、適配以及方案創(chuàng)新，加強(qiáng)更多細(xì)分應(yīng)用場(chǎng)景的豐富和深化。

黃文杰分享到，寶德計(jì)算兄弟公司中青寶旗下子公司寶騰互聯(lián)在深圳觀瀾和四川樂(lè)山擁有兩座自建高等級(jí)數(shù)據(jù)中心，并且投資建設(shè)運(yùn)營(yíng)成都智算中心B區(qū)云數(shù)據(jù)中心部分，提供機(jī)柜租賃等服務(wù)，具備云計(jì)算數(shù)據(jù)基礎(chǔ)架構(gòu)環(huán)境，可提供機(jī)架1500個(gè)，按國(guó)標(biāo)GB50174 A級(jí)標(biāo)準(zhǔn)和國(guó)際標(biāo)準(zhǔn)T3+以上標(biāo)準(zhǔn)設(shè)計(jì)。

【為深入探討算力、存力與數(shù)據(jù)要素如何共同促進(jìn)數(shù)字經(jīng)濟(jì)的發(fā)展，DOIT將于4月24日在成都舉辦“2024數(shù)據(jù)基礎(chǔ)設(shè)施技術(shù)峰會(huì)”。此次峰會(huì)將匯集業(yè)界專家、學(xué)者、技術(shù)開(kāi)發(fā)者和企業(yè)決策者，共同探討數(shù)據(jù)基礎(chǔ)設(shè)施技術(shù)的未來(lái)趨勢(shì)，以及如何利用這些關(guān)鍵要素共塑企業(yè)和社會(huì)的未來(lái)】

寶德計(jì)算在北京也有智能生產(chǎn)基地布局，旗下昌平工廠采取“京牌京造”+“京產(chǎn)京銷(xiāo)”模式，產(chǎn)品覆蓋信創(chuàng)和通用領(lǐng)域，預(yù)計(jì)年產(chǎn)能15萬(wàn)臺(tái)PC和2萬(wàn)臺(tái)服務(wù)器、存儲(chǔ)。

AI算力提升也帶動(dòng)液冷行業(yè)需求快速增長(zhǎng)，目前業(yè)界已經(jīng)開(kāi)始試點(diǎn)采用液冷技術(shù)以及綠色電力等技術(shù)降低算力能耗。黃文杰談道，液冷在2023年和2024年相對(duì)前一年的同比增長(zhǎng)均在50%左右，液冷在數(shù)據(jù)中心里的比例將來(lái)會(huì)逐漸地提升。寶德研發(fā)推出單機(jī)、機(jī)柜級(jí)和數(shù)據(jù)中心級(jí)一體化液冷解決方案，產(chǎn)品覆蓋全線，包括冷板、浸沒(méi)等。黃文杰分享說(shuō)，寶德計(jì)算液冷業(yè)務(wù)在2023年有上億元的出貨，發(fā)展勢(shì)頭強(qiáng)勁。

據(jù)介紹，寶德計(jì)算單機(jī)液冷首推PR2715WL/PR2715EL，分別采用第三代/第四代英特爾?至強(qiáng)?可擴(kuò)展處理器，基于冷板式液冷技術(shù)，部件級(jí)精確制冷、降低制冷成本和提升制冷效率等優(yōu)勢(shì)。整機(jī)柜液冷以寶德液冷整機(jī)柜系統(tǒng)Poseidon1000E為優(yōu)選，依據(jù)不同液冷規(guī)模分別提供風(fēng)冷-液冷和液冷-液冷的機(jī)柜液冷方案。前者改造成本低，即買(mǎi)即用，適用于小規(guī)模，后者散熱功率范圍大，適用大規(guī)模散熱集群。

結(jié)語(yǔ)：算力建設(shè)熱度持續(xù)，AI服務(wù)器奇貨可居

IT產(chǎn)業(yè)發(fā)展長(zhǎng)期以芯片為主導(dǎo)，算力設(shè)備的上游現(xiàn)今受AI芯片供應(yīng)限制，如CoWoS制程產(chǎn)能和HBM高速顯存產(chǎn)能有限，而服務(wù)器產(chǎn)品的更新基本與芯片發(fā)布同頻，高端AI服務(wù)器供不應(yīng)求的局面短期難有緩解的跡象。

“服務(wù)器公司看到需求是爆發(fā)的，但是供應(yīng)極度緊缺。”黃文杰坦言，各個(gè)廠家如果想抓住機(jī)會(huì)，首先是對(duì)市場(chǎng)有一個(gè)正確的判斷，第二個(gè)是提前做好備貨、周轉(zhuǎn)的準(zhǔn)備。若沒(méi)有足夠的產(chǎn)出準(zhǔn)備來(lái)迎接機(jī)遇，那就只能跟在后面“吃土”?！?strong>我們是幾乎每天都在研判趨勢(shì)”，黃文杰說(shuō)，而通用服務(wù)器則是看每個(gè)公司的產(chǎn)品競(jìng)爭(zhēng)力。

據(jù)了解，寶德計(jì)算的產(chǎn)品備貨覆蓋當(dāng)下大部分需求，對(duì)于市面上缺貨產(chǎn)品制定了半年的備貨計(jì)劃，其他產(chǎn)品有三個(gè)月以內(nèi)的備貨計(jì)劃，保障滾動(dòng)出貨。“整個(gè)產(chǎn)業(yè)快速發(fā)展，我相信寶德計(jì)算的業(yè)績(jī)能夠持續(xù)保持快速增長(zhǎng)?！秉S文杰坦言。

如同黃文杰描述的那樣，寶德計(jì)算坐擁20多年的技術(shù)沉淀和寶貴市場(chǎng)經(jīng)驗(yàn)，在技術(shù)創(chuàng)新中深度融合人工智能、機(jī)器學(xué)習(xí)等新技術(shù)，將AI的能力帶到更接近數(shù)據(jù)和終端用戶的地方。另一方面，寶德計(jì)算協(xié)同操作系統(tǒng)和中間件等生態(tài)伙伴完善算力布局，未來(lái)在賦能AI、云計(jì)算、大數(shù)據(jù)等新興技術(shù)創(chuàng)新和應(yīng)用，推動(dòng)金融、電力、醫(yī)療、教育等行業(yè)數(shù)字化轉(zhuǎn)型發(fā)展的道路上，寶德計(jì)算或?qū)⑹斋@滿滿。

*為深入探討算力、存力與數(shù)據(jù)要素如何共同促進(jìn)數(shù)字經(jīng)濟(jì)的發(fā)展，DOIT將于4月24日在成都舉辦“2024數(shù)據(jù)基礎(chǔ)設(shè)施技術(shù)峰會(huì)”，寶德計(jì)算將在峰會(huì)分論壇智算中心創(chuàng)新論壇進(jìn)行主題分享，敬請(qǐng)期待！

關(guān)于「算力豹」（微信公眾號(hào)搜索：dethinktank）

·END·

yunlang