“大模型的高速發(fā)展使得AI不得不面臨算力管理復雜、訓練推理成本高、任務調(diào)度難等多方面發(fā)展瓶頸，云原生憑借其高可用、彈性、可擴展等優(yōu)勢成為突破AI困境的關鍵?！敝袊畔⑼ㄐ叛芯吭涸拼笏彼L栗蔚指出，“云原生PaaS平臺的大模型產(chǎn)品工具鏈不斷完善，將加速大模型技術在行業(yè)應用中落地。”
“對企業(yè)來說，大模型訓練耗時耗力耗資源，AI Max不僅支持主流開源大模型的一鍵微調(diào)訓練，還提供三步即完成的零代碼模型開發(fā)環(huán)境，把原先耗費至少3天的訓練縮短至1小時。螞蟻自研的預訓練模型與先進的多模態(tài)算法，僅需小量數(shù)據(jù)即可進行訓練，進一步提升數(shù)據(jù)的利用率和模型訓練的效率。”螞蟻數(shù)科云原生產(chǎn)品資深總監(jiān)馬振雄介紹。
據(jù)了解，基于SOFAStack多云兼容屬性，AI Max具備兩層核心特性：
——在資源層，支持多種國產(chǎn)GPU算力平臺納管部署，企業(yè)按需靈活使用資源，使得有限的GPU資源可以高效的被利用起來，同時大大降低服務器使用成本；
——在應用層，企業(yè)可以根據(jù)業(yè)務需求快速輸出定制化的AI模型，構建服務業(yè)務需求的智能體,極大地簡化了技術實施過程。
當企業(yè)開始構建大模型應用，還需要結合具備行業(yè)特性的業(yè)務經(jīng)驗。針對金融行業(yè)場景，SOFAStack融合金融助理支小助的最佳實踐，包含其模型訓練、推理能力、智能體研發(fā)等方面，可以幫助機構一鍵生成自身業(yè)務特色的智能體應用。過去9年，SOFAStack助力130家金融機構完成云原生架構轉(zhuǎn)型。
“在大模型時代，SOFAStack可以承擔PaaS在多云時代扮演的角色——通過構建AI原生軟件服務，成為連接算力與應用的中堅力量。”螞蟻數(shù)科云原生事業(yè)部總經(jīng)理王磊表示。
當天，SOFAStack與行云創(chuàng)新、AutoMQ、聯(lián)創(chuàng)集團、諧云科技等生態(tài)伙伴簽約，將共建多云、多模型生態(tài)，加速大模型在各行業(yè)落地。
自今年3月份獨立化運營以來，螞蟻數(shù)科悄然推進AI toB戰(zhàn)略，SOFAStack、蟻盾等多個代表性產(chǎn)品均發(fā)布了大模型相關服務，積極借助AI技術助力產(chǎn)業(yè)智能化升級。
