寶德計(jì)算IA BU副總經(jīng)理鄔鴻表示，寶德AI計(jì)算持續(xù)為構(gòu)建智慧化社會(huì)提供堅(jiān)實(shí)的算力支撐，助力實(shí)現(xiàn)人、機(jī)、物的深度協(xié)同與融合，共同塑造一個(gè)更加美好的未來世界。

AIGC產(chǎn)業(yè)發(fā)展進(jìn)入“加速度”時(shí)代，交互虛擬人、Al繪畫、營銷文本生成、個(gè)性頭像生成等多模態(tài)內(nèi)容服務(wù)，正賦能傳統(tǒng)產(chǎn)業(yè)的數(shù)字轉(zhuǎn)型。隨著產(chǎn)業(yè)鏈的逐步完善和商業(yè)化場景的進(jìn)一步拓展，預(yù)計(jì)到2030年，AIGC市場規(guī)模將超萬億。

隨著AI及大模型技術(shù)的飛速發(fā)展，算力需求呈現(xiàn)指數(shù)級(jí)增長態(tài)勢。大模型算力需求每兩年以750倍增長，而硬件算力供給每兩年僅增長3倍。比如，從ResNet-50（2500萬參數(shù)），到GPT-1（1.7億參數(shù)），再到GPT-4（萬億級(jí)參數(shù)），計(jì)算需求需要十倍，到千倍的增長，存儲(chǔ)需求經(jīng)歷百倍，到千倍的增長。AI算力和數(shù)據(jù)中心集群發(fā)展，可以加速產(chǎn)業(yè)創(chuàng)新。

算力、存力與數(shù)據(jù)要素已成為推動(dòng)行業(yè)變革和社會(huì)進(jìn)步的關(guān)鍵力量。作為國內(nèi)領(lǐng)先的AI算力提供商和AI服務(wù)器TOP3企業(yè)，寶德計(jì)算充分發(fā)揮其自身在人工智能算力底座和智能算力中心建設(shè)方面的技術(shù)經(jīng)驗(yàn)和優(yōu)勢，匠心打磨了涵蓋AI訓(xùn)練、AI推理、AI邊緣、AI終端以及AI集群、AICA、AIGC、AI大模型等應(yīng)用場景的多元算力產(chǎn)品和解決方案，并積極在軟硬件層面不斷進(jìn)行調(diào)優(yōu)創(chuàng)新，致力于賦能千行百業(yè)數(shù)智化轉(zhuǎn)型，加速推動(dòng)社會(huì)向智能化時(shí)代邁進(jìn)。

在硬件層面，以寶德大模型AI訓(xùn)練服務(wù)器PR8908EV為例，它采用2顆第四/五代英特爾?至強(qiáng)?可擴(kuò)展處理器，支持8張GPU加速卡，能為大模型訓(xùn)練和推理提供強(qiáng)有力的算力支撐；它最大支持12個(gè)PCIE插槽，支持8個(gè) NVMe SSD，提供了充足的擴(kuò)展空間和高速的存儲(chǔ)性能，確保大模型數(shù)據(jù)的快速讀寫。同時(shí)具有CPU到GPU的端到端無阻塞帶寬靈活的配置，支持32個(gè) DIMM / DDR5內(nèi)存插槽，以及最新的400Gb ETH和 IB高速智能網(wǎng)卡，輕松滿足大內(nèi)存容量需求，實(shí)現(xiàn)了高速、低延遲的數(shù)據(jù)傳輸。此外，8U空間的整機(jī)模塊化設(shè)計(jì)，更有利于方便維護(hù)管理，是大模型訓(xùn)練和推理應(yīng)用的不二選擇。

在軟件層面，寶德智算平臺(tái)PLStack是基于 Docker + K8s技術(shù)實(shí)現(xiàn)整合現(xiàn)有計(jì)算設(shè)備資源，實(shí)現(xiàn)更好的對資源的分配、管理、調(diào)度和監(jiān)控的能力。緩解深度學(xué)習(xí)算法訓(xùn)練的瓶頸，提高資源利用率，從而釋放人工智能的全新能力，降低 AI 技術(shù)門檻，釋放AI 技術(shù)潛力，幫助用戶將更多的精力集中到垂直應(yīng)用的工作領(lǐng)域。而且，PLStack平臺(tái)支持多種主流深度學(xué)習(xí)框架方便快速部署訓(xùn)練環(huán)境，并且支持多人在線實(shí)驗(yàn)，并能夠通過更直觀的UI 界面對資源進(jìn)行管理。

據(jù)了解，寶德計(jì)算在國內(nèi)建成深圳永達(dá)、深圳觀湖、四川樂山、湖南湘潭、廣西南寧、陜西西安、河北張家口、江蘇南京、北京昌平和廣東珠海，十大智能生產(chǎn)基地，同時(shí)，與產(chǎn)業(yè)鏈上下游伙伴建立了繁榮的計(jì)算產(chǎn)業(yè)生態(tài)。

更多演講內(nèi)容敬請關(guān)注會(huì)后專題 https://sdss.doit.com.cn/2024/#/home

nina

<rt id="4bwct"></rt>