(ModelScope-Agent系統(tǒng)架構(gòu)圖)

AI Agent的工作流程一般包括任務(wù)的理解、規(guī)劃和執(zhí)行,其中,LLM 負(fù)責(zé)任務(wù)規(guī)劃、工具調(diào)用以及回復(fù)生成,是整個(gè)流程的智能中樞,好比人類的大腦。ModelScope-Agent允許開發(fā)者自由選擇智能體的“大腦”,適配百川、通義千問(wèn)等各類開源模型。主流LLM能夠做到“即插即用”,開發(fā)者如需專門訓(xùn)練LLM 以增強(qiáng)其工具調(diào)用能力,可以參考ModelScope-Agent開源的訓(xùn)練數(shù)據(jù)、訓(xùn)練方法、優(yōu)化方案、評(píng)估方法。

ModelScope-Agent開發(fā)框架還包含記憶控制、工具使用等模塊,記憶控制模塊支持知識(shí)檢索以及 prompt (提示詞)管理,工具使用模塊支持工具庫(kù)、工具檢索、工具定制。為了增強(qiáng)開源大模型工具調(diào)用能力,魔搭社區(qū)還自研了一個(gè)包含60w樣本的MSAgent-Bench工具調(diào)用數(shù)據(jù)集。

大多數(shù) AI Agent 開發(fā)框架需要手動(dòng)添加工具,而ModelScope-Agent 通過(guò)調(diào)用魔搭社區(qū)上開源的文本向量模型,打造API 工具檢索引擎,能讓AI Agent根據(jù)用戶指令自動(dòng)檢索相關(guān)工具。如果開發(fā)者想要新增外部工具/API,只需要在ModelScope-Agent上注冊(cè)工具,即可直接調(diào)用。

開源正在成為很多頭部大模型玩家的選擇。未來(lái),ModelScope-Agent 會(huì)適配更多新增的開源LLM,并將推出更多基于ModelScope-Agent開發(fā)的應(yīng)用,如個(gè)人助理 Agent、Story Agent、Multi-Agent等。魔搭鼓勵(lì)開發(fā)者用ModelScope-Agent探索工業(yè)制造、游戲開發(fā)、智能互聯(lián)等行業(yè)的應(yīng)用。

魔搭社區(qū)表示,作為國(guó)內(nèi)規(guī)模最大、用戶最活躍的AI模型開源社區(qū),魔搭將持續(xù)通過(guò)開源開放推進(jìn)大模型技術(shù)和應(yīng)用發(fā)展。此前,阿里云曾表示要把促進(jìn)中國(guó)大模型生態(tài)的繁榮作為首要目標(biāo),并將魔搭建設(shè)成為中國(guó)最大的大模型自由市場(chǎng)。

ModelScopeAgent開源地址:https://github.com/modelscope/modelscope-agent/



分享到

xiesc

相關(guān)推薦