華院計算大模型算法工程師趙康寧先生發(fā)表演講

2

企業(yè)AI應(yīng)用痛點亟待解決

破局之道

趙康寧指出，當(dāng)前，企業(yè)在AI應(yīng)用落地過程中面臨諸多難題。一方面，AI專業(yè)人才匱乏，傳統(tǒng)企業(yè)缺乏懂AI的專業(yè)人員，難以構(gòu)建適合自身業(yè)務(wù)的應(yīng)用；另一方面，數(shù)據(jù)安全問題突出，大模型多在云端部署，而企業(yè)核心數(shù)據(jù)不能外傳，保障數(shù)據(jù)安全成為關(guān)鍵痛點。此外，通用模型難以滿足企業(yè)級應(yīng)用對專業(yè)領(lǐng)域知識的需求，定制開發(fā)成本高昂，使得企業(yè)在應(yīng)用AI時猶豫不決。在AI部署環(huán)節(jié)，企業(yè)還面臨對硬件了解不足、部署難度大、成本高以及應(yīng)用思路缺乏等問題。

針對這些行業(yè)痛點，趙康寧在本次大會的智能算力前沿技術(shù)論壇上分享了華院計算認(rèn)知智能引擎平臺智算一體機的實踐案例與行業(yè)洞察。華院一體機解決方案整合了行業(yè)前沿的大模型技術(shù)，為企業(yè)的算法自動部署、智能體工作流自動搭建以及底層國產(chǎn)算力的靈活擴展提供了全方位、高效能的解決方案。通過這一方案，企業(yè)能夠顯著降低AI應(yīng)用的開發(fā)成本和部署難度，加速智能化轉(zhuǎn)型步伐。

看華院如何賦能

企業(yè)AI應(yīng)用創(chuàng)新突破

一、基礎(chǔ)設(shè)施層面

華院提供了成熟的公有云、私有云、混合云云端架構(gòu)，并集成了包括DeepSeek、千問等在內(nèi)的主流大模型，以及華院多年積累的自研算法模型。為了滿足大模型部署對高效算力集群的需求，華院提供了多種選擇方案，確保企業(yè)能夠靈活應(yīng)對不同場景下的算力需求。

二、華院認(rèn)知智能引擎平臺

公司以算法研究、算法創(chuàng)新和算法應(yīng)用為核心，基于認(rèn)知科學(xué)與智能科學(xué)的交叉融合，自主研發(fā)新一代認(rèn)知智能引擎平臺。該平臺以元智能體為內(nèi)核，提供了基礎(chǔ)模型庫、算法工具集、深度學(xué)習(xí)推理框架、模型自動精調(diào) 等通用組件。元智能體通過計算、理解、推理、規(guī)劃、決策、表達(dá)、情感、意識等基礎(chǔ)認(rèn)知智能能力的構(gòu)建， 結(jié)合基礎(chǔ)模型庫，有效實現(xiàn)多模態(tài)跨領(lǐng)域的任務(wù)智能體高效生成，賦能智能制造、社會治理、數(shù)字文旅、零售 金融等行業(yè)的智能化產(chǎn)業(yè)升級和算法模型工程化應(yīng)用。

三、在AI應(yīng)用場景方面

一體機方案可應(yīng)用于智能制造、社會治理、數(shù)字文旅等領(lǐng)域。通過將這些一體機平臺應(yīng)用到實際場景中，華院為客戶提供了豐富多樣的解決方案。

值得一提的是，華院的算法模型庫已擁有6萬多模型，垂直行業(yè)的參數(shù)量級達(dá)到7000多億。認(rèn)知智能引擎平臺專注于多模態(tài)理解與生成、知識表示、認(rèn)知規(guī)劃與決策、自主智能等四大塊，憑借軟硬件算法和成熟的數(shù)據(jù)處理流程，達(dá)到了非常優(yōu)秀的效果。

為了降低客戶應(yīng)用AI的門檻，華院還推出了智能體平臺，提供智能體構(gòu)建、發(fā)布、調(diào)優(yōu)的一站式服務(wù)。通過豐富的工具插件，如代碼生成、大模型組件等，用戶可以輕松地搭建工作流，并結(jié)合自己的知識庫構(gòu)建專門的智能體。這些智能體不僅具備常規(guī)的記憶、技能等功能，還能在某些特定場合展現(xiàn)出情緒價值和柔性交互的能力，使得AI應(yīng)用更加友好。

在底層硬件方面，華院與國內(nèi)算力廠商合作，構(gòu)建了靈活可擴展的底層算力方案。根據(jù)用戶的需求，華院可以提供不同形態(tài)的硬件，如一體機的邊緣版、標(biāo)準(zhǔn)版等，以滿足不同場景下的模型大小和并發(fā)性能要求。同時，針對高性能集群部署的需求，華院還提供了分布式方案，利用DeepSeek模型MoE架構(gòu)超稀疏特性，使AI算力及顯存資源得到充分利用，幫助用戶實現(xiàn)降本增效。

在軟件棧方面，華院自研了推理引擎框架，并部署了HybridAttention的自適應(yīng)技術(shù)，使用FlashAttention技術(shù)進(jìn)行優(yōu)化。通過推理進(jìn)程和管理的優(yōu)化以及全流程工程化封裝，華院在很多大模型上的推理速度比競品高出15%以上，充分展現(xiàn)了國產(chǎn)自研芯片的優(yōu)勢。

成功案例彰顯實力

華院計算在多個領(lǐng)域已有成功實踐。在教育領(lǐng)域，與高校合作打造AI實訓(xùn)平臺，如復(fù)旦AI實訓(xùn)平臺讓學(xué)生借助AI進(jìn)行沉浸式學(xué)習(xí)，上海交大AI訓(xùn)練場結(jié)合具身智能開展研究；在安全領(lǐng)域，構(gòu)建實驗安全助手知識培訓(xùn)師，借助RAG框架提供多模態(tài)安全指導(dǎo)。這些案例充分展示了華院認(rèn)知智能引擎平臺一體機在不同場景的應(yīng)用價值。

結(jié)語

華院計算通過此次論壇分享，展現(xiàn)了其在認(rèn)知智能領(lǐng)域的深厚技術(shù)積累和創(chuàng)新實踐能力，為企業(yè)解決AI應(yīng)用難題提供了切實可行的方案，有望推動行業(yè)進(jìn)一步發(fā)展，助力企業(yè)在智能時代實現(xiàn)降本增效和創(chuàng)新突破。

lixiangjing

算力豹主編