三芯：CPU、GPU和DPU；二意：CUDA和DOCA;AI世界就是以AI為核心應用的世界。其中，CUDA和GPU已經被AI技術開發(fā)人員所熟知，并得到了廣泛的應用，成為了生成式AI等深度機器學習的基石。相比CUDA和GPU，DPU和DOCA會是下一個輝煌嗎?
在《數據處理器: DPU 編程入門》的序言中，對于DPU有這樣的描述：可以與CPU和GPU等處理芯片以及其他設備協(xié)同工作，緊密配合，實現數據處理任務在多個芯片之間的優(yōu)化、分配和協(xié)同，進一步釋放CPU的處理能力，最小化延遲，從而提高數據中心集群和整體數據處理的性能。
注意這里特別強調釋放CPU的處理能力，那么是不是也可以釋放GPU的處理能力呢?在采訪中，我問了這個問題，主要的考慮是在AI大模型訓練中，同樣存在著GPU利用率的問題，那么DPU可否協(xié)助解決呢?答案是肯定的，DPU可以通過NVIDIA GPUDirect技術和NVIDIA DOCA GPUNetIO API庫優(yōu)化GPU的數據訪問和傳輸，可以在CPU不干預的情況下執(zhí)行網絡和計算任務，并實現網絡與GPU之間的直接通信。
正如 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在發(fā)布 DPU 時所表示的那樣：“DPU 將與 CPU、GPU 成為未來計算的三大支柱，數據中心將成為新的計算單元”。通過把數據中心基礎設施操作從 CPU 卸載到 DPU 上，可以將 CPU 和 GPU 的計算資源集中到應用程序和業(yè)務負載上。這是數據中心演變的大勢所趨，也是推出 NVIDIA? BlueField? 系列 DPU 的核心價值。
NVIDIA DOCA 是一個為 NVIDIA BlueField 系列 DPU 量身定做的軟件開發(fā)環(huán)境， 在程序開發(fā)和服務方面扮演著靈魂的作用，是釋放 DPU 潛力的關鍵。據透露，全球 DOCA 開發(fā)者中將近一半來自中國。為了幫助更多的中國開發(fā)者， NVIDIA十余位資深系統(tǒng)架構師，歷經數月編寫該圖書，其內容涵蓋 DPU 簡介、技術優(yōu)勢及未來技術發(fā)展路徑，包括NVIDIA BlueField 系列 DPU 在結構通用化、功能多樣化、應用廣泛化和場景豐富化方面的前景展望，NVIDIA DOCA 軟件開發(fā)環(huán)境配置，以及基于NVIDIA BlueField 系列 DPU 利用 NVIDIA DOCA 軟件開發(fā)環(huán)境的程序開發(fā)實踐案例。
NVIDIA 全球副總裁，中國企業(yè)營銷負責人劉念寧表示: “在生成式 AI 時代，DPU 是企業(yè)構建加速計算平臺、AI工廠的關鍵。NVIDIA BlueField 系列 DPU 在 NVIDIA DOCA軟件開發(fā)環(huán)境的支持下，能幫助企業(yè)構建一個軟件定義、硬件加速的數據中心基礎設施，從而更好地支撐大模型訓練的苛刻要求，值得廣大開發(fā)者投入研究和學習?！?/p>
NVIDIA 中國區(qū)工程和解決方案高級總監(jiān)賴俊杰表示: “全球企業(yè)正在從通用計算向加速計算和生成式 AI 轉變，DPU 作為全新的處理器類型，滿足了數據中心基礎設施在性能、效率、規(guī)模、彈性、安全和能效等方面的需求。軟件開發(fā)者和數據科學家可以通過本書深刻地理解NVIDIA BlueField 系列 DPU 和 NVIDIA DOCA 軟件開發(fā)環(huán)境，并利用它們構建云和 AI 應用所需的數據中心基礎設施?！?/p>
百度智能云技術委員會主席王耀: “這是一本由淺入深介紹 NVIDIA BlueField 系列 DPU 及 NVIDIA DOCA 軟件框架的入門書籍，內容覆蓋了DPU 及其編程開發(fā)的方方面面，讓讀者從更官方的資料中輕松獲得構建軟件定義、硬件加速的數據中心基礎設施應用程序或服務的基礎知識，并通過DOCA開發(fā)環(huán)境和實踐用例，逐步掌握編程開發(fā)技能?！?/p>
UCloud 聯(lián)席 CTO 王凱: “人工智能正在呈爆發(fā)式發(fā)展，成為數據中心算力需求的主要驅動力之一。為了卸載、加速和隔離數據中心基礎設施工作負載，DPU 應運而生。本書是一本應用NVIDIA BlueField 系列 DPU 和NVIDIA DOCA 的實用指南，使開發(fā)人員和數據科學家能走近 DPU 的應用和編程，是一本非常好的 DPU 入門書籍?！?/p>
VMware 資深總監(jiān)兼中國區(qū)云平臺部門總經理宋向軍: “本書是全球第一本系統(tǒng)性介紹 DPU 及其軟件開發(fā)的書籍，對 DPU 在現代數據中心中的應用有重要的普及作用。廣大讀者能深入了解DPU 的技術發(fā)展、軟硬件特性、軟硬件安裝、開發(fā)環(huán)境實踐、應用用例和生態(tài)體系。對期望從事基于NVIDIA BlueField 系列 DPU 進行軟件開發(fā)的開發(fā)人員有非常好的學習和借鑒意義?！?/p>
EE Times China 資深產業(yè)分析師黃燁峰: “社會數字化轉型浪潮下，潛在海量數據待處理，DPU 的邊界、職能、價值都尚在探討前期。而本書從硬件到軟件，定義到應用實操，技術特性到生態(tài)體系，對 DPU 做了概論式解讀;是了解 DPU 自身技術與市場的窗口，亦為開啟 DPU 開發(fā)實踐的上佳入口。”
