據(jù)錢一峰介紹,圍繞核心計(jì)算、存儲、網(wǎng)絡(luò)等產(chǎn)品,金山云順應(yīng)趨勢,深入探索前沿技術(shù),從多個(gè)維度為人工智能提供支持。其中在計(jì)算方面,金山云推出第七代云服務(wù)器X7,搭載第四代英特爾至強(qiáng)可擴(kuò)展處理器、支持AMX原生加速能力,CPU性能較上代最高提升60%,內(nèi)存升級至DDR5,頻率較上一代性能提升50%。在網(wǎng)絡(luò)方面,金山云推出了ALB(Application Load Balancer,應(yīng)用型負(fù)載均衡),單實(shí)例最大可支持100萬QPS,針對云原生場景融合,金山云采用Ingress部署技術(shù),實(shí)現(xiàn)了將金山云容器服務(wù)KCE、或用戶自建K8S集群、ALB等Kubernetes 集群內(nèi)服務(wù)對外部訪問接入的暴露。此外,在存儲方面,金山云根據(jù)數(shù)據(jù)從極熱到極冷的不同熱度,構(gòu)建了不同性能類型的對象存儲產(chǎn)品,其中對象存儲KS3極速型最高可提供1Tbps/PB的兌付帶寬,可為AIGC、存算分離和高性能計(jì)算等場景提供支撐。
“金山云為客戶提供靈活的混合云部署,并提供可持續(xù)性服務(wù),這讓金山云更受歡迎。目前,已簽約及洽談商機(jī)的人工智能客戶達(dá)數(shù)十家?!?錢一峰說。
公開數(shù)據(jù)顯示,如今國內(nèi)大模型數(shù)量已經(jīng)超過200個(gè),但真正被調(diào)用的大模型卻相對較少,能夠針對企業(yè)級市場(ToB)服務(wù)的更是寥寥無幾。
基于行業(yè)需求,金山云在2023年6月推出MaaS互信推理專區(qū)方案(MaaS 1.0),通過在大模型廠商、用戶和金山云之間建立互信,解決了模型及數(shù)據(jù)的互信問題。在本次溝通會上,金山云發(fā)布了MaaS互信推理專區(qū)方案2.0,在MaaS 1.0基礎(chǔ)上,MaaS 2.0以金山云IaaS和PaaS為底座,實(shí)現(xiàn)云上LangChain的一鍵部署,這是一個(gè)開源框架,默認(rèn)對接多個(gè)生態(tài)合作商業(yè)或開源大模型。
據(jù)孫曉介紹,為了促進(jìn)模型和數(shù)據(jù)的融合,在技術(shù)上MaaS 2.0提供了BGE、Bert等Embedding模型支持,無縫對接金山云Milvus全托管向量數(shù)據(jù)庫,借助標(biāo)準(zhǔn)化API接口和Web前端界面,通過支持RAG(Retrieval Augmented Generation,檢索增強(qiáng)生成)技術(shù),實(shí)現(xiàn)了包括模型推理和知識庫搭建的RAG大模型場景應(yīng)用。此外,為進(jìn)一步增強(qiáng)安全性,MaaS 2.0依托金山云裸金屬服務(wù),實(shí)現(xiàn)云上容器鏡像加密、加密鏡像上傳、解密鏡像等一系列技術(shù)服務(wù)。
錢一峰表示:大模型中立定位,將是金山云堅(jiān)定不移的策略。金山云將充分發(fā)揮自身的底座和平臺能力,做大模型的助力者。
為了做好大模型的助力者,金山云也在積極探索大模型時(shí)代企業(yè)賦能新機(jī)遇。金山云的思路是將自身的AIGC實(shí)踐和能力開放出來。
同時(shí),金山云圍繞企業(yè)級知識助手場景,制定了“一三一四”產(chǎn)品全景規(guī)劃服務(wù)。
所謂“一三一四”就是一套能力(金山云輕舟智問)、三個(gè)模型(行業(yè)語言模型、文本分片和Embedding模型)、一個(gè)平臺(金山云瀚海平臺)及四大功能(微調(diào)推理、數(shù)據(jù)加速、智能檢索和文檔智能),大家可以把它理解為圍繞大模型訓(xùn)練、推理應(yīng)用的多項(xiàng)原子能力,既涉及了大模型落地應(yīng)用,如輕舟智問服務(wù),也兼顧了模型訓(xùn)練微調(diào)和平臺支撐的全棧能力。
在這里徐寅斐透露,金山云輕舟智問知識助手的服務(wù),就是結(jié)合Embedding模型、多路召回算法、智能數(shù)據(jù)切片模型等技術(shù),計(jì)劃優(yōu)先在公共服務(wù)、法律場景落地。
“按照我們的實(shí)踐經(jīng)驗(yàn),要想做好行業(yè)應(yīng)用推理,在模型訓(xùn)練的初期,從預(yù)訓(xùn)練開始,就要結(jié)合行業(yè)數(shù)據(jù),否則達(dá)不到預(yù)期中的效果?!?徐寅斐說。
金山云將持續(xù)圍繞行業(yè)企業(yè)客戶需求“練內(nèi)功”,攜手生態(tài)伙伴以差異化打法布局未來。
錢一峰表示:“金山云輕舟智問知識助手與金山云在大模型的‘中立定位’并不沖突,相反,這個(gè)過程可以幫助金山云更好的地了解大模型訓(xùn)練和推理,有助于提高大模型底座和平臺的技術(shù)能力?!?/p>
全面擁抱人工智能,在實(shí)踐的同時(shí)保持中立,金山云的思路讓人印象深刻,愿天下沒有難做的AIGC應(yīng)用。