2025年3月27日,2025人工智能基礎(chǔ)設(shè)施峰會(huì)智能算力論壇在滬召開(kāi)。楓清科技合伙人、智能平臺(tái)事業(yè)部總經(jīng)理王傳陽(yáng)在題為《知識(shí)中臺(tái)賦能:DeepSeek一體機(jī)行業(yè)深耕》的演講中指出,盡管DeepSeek一體機(jī)憑借”開(kāi)箱即用”的硬件+軟件一體化方案大幅降低企業(yè)AI應(yīng)用門(mén)檻,但要實(shí)現(xiàn)復(fù)雜行業(yè)場(chǎng)景的深度賦能,仍需構(gòu)建以知識(shí)中臺(tái)為核心的智能化基礎(chǔ)設(shè)施。讓算力、模型與企業(yè)知識(shí)深度融合,為企業(yè)智能化轉(zhuǎn)型注入新動(dòng)力。
文字編輯|宋雨涵
各位同仁,大家好!剛才,我們有幸聆聽(tīng)了之前老師的精彩分享,深刻感受到了DeepSeek在各行各業(yè)中蘊(yùn)含的無(wú)限機(jī)遇。眾多企業(yè)正積極探索如何利用DeepSeek為自身業(yè)務(wù)場(chǎng)景增添更多價(jià)值。
但在實(shí)際場(chǎng)景里我們也都了解,很多企業(yè)的具體業(yè)務(wù)和場(chǎng)景,單靠一個(gè)模型,單靠一臺(tái)一體機(jī)很難覆蓋全的,所以今天主要是跟大家分享在模型和企業(yè)具體場(chǎng)景中間,作為知識(shí)中臺(tái)可以怎樣在里面發(fā)揮相應(yīng)的作用。
一是DeepSeek一體機(jī)的優(yōu)勢(shì)及存在挑戰(zhàn);二是知識(shí)中臺(tái)賦能中具體的工作模式和關(guān)鍵功能;三是和大家分享具體的場(chǎng)景。
1
DeepSeek一體機(jī)的
優(yōu)勢(shì)及存在挑戰(zhàn)
開(kāi)啟行業(yè)智能化新篇章
01
核心優(yōu)勢(shì)顯著
楓清科技合伙人王傳陽(yáng)指出,DeepSeek一體機(jī)通過(guò) “硬件 + 軟件” 一體化設(shè)計(jì),實(shí)現(xiàn)了對(duì)話(huà)式文章創(chuàng)作等通用場(chǎng)景的快速部署。其算力配置覆蓋32B到滿(mǎn)血版全梯度,價(jià)格區(qū)間從數(shù)萬(wàn)到百萬(wàn)不等,為不同規(guī)模企業(yè)提供了靈活選擇。尤為值得關(guān)注的是,該產(chǎn)品在國(guó)產(chǎn)化適配方面取得突破,支持純國(guó)產(chǎn)硬件與軟件組合,并依托知識(shí)中臺(tái)廠(chǎng)商生態(tài),構(gòu)建了良好的落地環(huán)境。
02
落地挑戰(zhàn)猶存
盡管DeepSeek一體機(jī)通過(guò)模型優(yōu)化緩解了可解釋性難題,并降低了實(shí)施成本與算力門(mén)檻,但王傳陽(yáng)強(qiáng)調(diào)仍需正視三大核心挑戰(zhàn):
內(nèi)容準(zhǔn)確性:模型幻覺(jué)問(wèn)題尚未完全解決,對(duì)未知領(lǐng)域的信息仍可能產(chǎn)生虛構(gòu)內(nèi)容
數(shù)據(jù)治理:企業(yè)私有數(shù)據(jù)的時(shí)效性處理與安全合規(guī)性保障機(jī)制需進(jìn)一步完善
企業(yè)級(jí)能力:權(quán)限管理、認(rèn)證體系及行業(yè)深度理解等問(wèn)題,仍需結(jié)合業(yè)務(wù)場(chǎng)景定制化開(kāi)發(fā)
2
知識(shí)中臺(tái)賦能
具體的工作模式和關(guān)鍵功能
企業(yè)或多或少都掌握著自身的私有數(shù)據(jù),這些數(shù)據(jù)呈現(xiàn)出多模態(tài)的特性。當(dāng)我們將這些數(shù)據(jù)映射到企業(yè)的實(shí)際業(yè)務(wù)場(chǎng)景中時(shí),就需要對(duì)它們進(jìn)行多樣化的處理。RAG(檢索增強(qiáng)生成)的方法,這確實(shí)是一種非常典型的數(shù)據(jù)處理方式,值得我們深入了解和運(yùn)用。
然而,要滿(mǎn)足企業(yè)對(duì)數(shù)據(jù)的高要求,并非僅僅通過(guò)簡(jiǎn)單的開(kāi)源RAG模型或者手寫(xiě)一個(gè)RAG模型就能輕松實(shí)現(xiàn)。我們需要做的工作遠(yuǎn)不止于此。針對(duì)企業(yè)的特定數(shù)據(jù)文檔和數(shù)據(jù)格式,我們需要進(jìn)行定制化的解析,逐步打造出適用于該行業(yè)、該類(lèi)企業(yè)的通用解析器。同時(shí),對(duì)于數(shù)據(jù)切片的處理也需要深入講解,包括Embedding模型的選擇,以及如何處理多模態(tài)數(shù)據(jù)等問(wèn)題。
想象一下,一個(gè)企業(yè)同時(shí)擁有關(guān)系型數(shù)據(jù)、文檔、圖片、視頻等多種類(lèi)型的數(shù)據(jù)。在進(jìn)行綜合RAG鏈路檢索時(shí),如何能夠同時(shí)找出所有相關(guān)聯(lián)的數(shù)據(jù)?這就需要我們?cè)谥R(shí)引擎層面付出大量努力,并積累實(shí)踐經(jīng)驗(yàn)。
知識(shí)中臺(tái):破解AI落地最后一公里的密鑰
數(shù)據(jù)知識(shí)化
數(shù)據(jù)知識(shí)化模塊是知識(shí)中臺(tái)的基礎(chǔ),旨在將企業(yè)多模態(tài)數(shù)據(jù)(如文檔、圖片、視頻、關(guān)系型數(shù)據(jù)等)轉(zhuǎn)化為可被檢索和利用的知識(shí)。該模塊涵蓋以下關(guān)鍵功能:
文檔解析與切片:通過(guò)RAG鏈路技術(shù)對(duì)文檔進(jìn)行語(yǔ)義切分,確保數(shù)據(jù)檢索的全面性和準(zhǔn)確性。
向量存儲(chǔ)與向量服務(wù):將數(shù)據(jù)轉(zhuǎn)化為高維向量,支持高效的相似性檢索和語(yǔ)義匹配。
關(guān)系抽取與圖譜構(gòu)建:通過(guò)關(guān)系抽取技術(shù),建立企業(yè)數(shù)據(jù)實(shí)體之間的關(guān)聯(lián),形成統(tǒng)一的知識(shí)圖譜,支持多模態(tài)數(shù)據(jù)的跨模態(tài)檢索。
圖相關(guān)服務(wù):利用圖計(jì)算技術(shù),挖掘數(shù)據(jù)之間的深層次關(guān)聯(lián),為企業(yè)提供更全面的知識(shí)支持。
知識(shí)應(yīng)用構(gòu)建
知識(shí)應(yīng)用構(gòu)建模塊旨在將知識(shí)中臺(tái)生成的知識(shí)應(yīng)用于實(shí)際業(yè)務(wù)場(chǎng)景,提升企業(yè)的智能化水平。該模塊提供以下功能:
智能體與工作流構(gòu)建:通過(guò)可視化工具,企業(yè)可以快速構(gòu)建智能體和工作流,將知識(shí)庫(kù)與業(yè)務(wù)流程深度結(jié)合。
智能問(wèn)數(shù)與數(shù)據(jù)分析:支持用戶(hù)通過(guò)自然語(yǔ)言提問(wèn),快速獲取業(yè)務(wù)數(shù)據(jù)和分析結(jié)果,減少人工干預(yù)。
多樣化應(yīng)用形式:包括智能問(wèn)答、文本潤(rùn)色、翻譯助手等功能,滿(mǎn)足企業(yè)在不同場(chǎng)景下的知識(shí)需求。
知識(shí)持續(xù)運(yùn)營(yíng)
知識(shí)持續(xù)運(yùn)營(yíng)模塊確保知識(shí)中臺(tái)能夠隨著企業(yè)需求的變化不斷進(jìn)化,主要功能包括:
知識(shí)刷新與更新:通過(guò)知識(shí)運(yùn)維模塊,定期更新知識(shí)庫(kù)內(nèi)容,確保知識(shí)的時(shí)效性和準(zhǔn)確性。
用戶(hù)反饋機(jī)制:收集終端用戶(hù)和員工的反饋,動(dòng)態(tài)調(diào)整知識(shí)庫(kù)內(nèi)容,形成知識(shí)積累的正向循環(huán)。
企業(yè)級(jí)安全能力:提供細(xì)粒度的權(quán)限管理、數(shù)據(jù)加密和審計(jì)追蹤功能,確保企業(yè)數(shù)據(jù)的安全性和合規(guī)性。
楓清科技:知識(shí)中臺(tái)賦能千行百業(yè)
一、知識(shí)中臺(tái)與通用場(chǎng)景的關(guān)系
大模型在處理簡(jiǎn)單的智能問(wèn)答,如基本常識(shí)、企業(yè)基本信息咨詢(xún)等場(chǎng)景時(shí),能夠獨(dú)立發(fā)揮作用。此外,在辦公場(chǎng)景中的文本潤(rùn)色與翻譯方面,大模型也可直接提供服務(wù)。但知識(shí)中臺(tái)在通用場(chǎng)景中,同樣承擔(dān)著統(tǒng)一管理知識(shí)、構(gòu)建知識(shí)體系以及賦能企業(yè)級(jí)能力的重要職責(zé)。以文本潤(rùn)色和翻譯助手為例,為確保翻譯結(jié)果不包含企業(yè)敏感詞匯,且符合企業(yè)合規(guī)要求,知識(shí)中臺(tái)需對(duì)大模型的輸出結(jié)果進(jìn)行后續(xù)處理。
二、工作流在復(fù)雜業(yè)務(wù)場(chǎng)景落地中的關(guān)鍵作用
王傳陽(yáng)表示在當(dāng)下,對(duì)于DeepSeek R1等大模型尚不了解的復(fù)雜業(yè)務(wù)場(chǎng)景,工作流是實(shí)現(xiàn)大模型賦能的最有效手段。通過(guò)將業(yè)務(wù)場(chǎng)景邏輯以工作流的形式告知大模型,能夠引導(dǎo)大模型按指定方式運(yùn)行。在落地眾多客戶(hù)場(chǎng)景的過(guò)程中,工作流的應(yīng)用極為廣泛。盡管智能體可覆蓋部分相對(duì)簡(jiǎn)單、通用的場(chǎng)景,但就目前技術(shù)發(fā)展水平而言,尚無(wú)法取代工作流在復(fù)雜場(chǎng)景中的地位。盡管業(yè)界對(duì)智能體和模型機(jī)產(chǎn)品抱有期待,有望讓大模型替代構(gòu)建工作流的繁瑣工作,但現(xiàn)階段,工作流仍是解決復(fù)雜場(chǎng)景落地問(wèn)題的主要方式。
三、知識(shí)中臺(tái)落地的典型場(chǎng)景
在企業(yè)內(nèi)部落地私有知識(shí)問(wèn)答場(chǎng)景時(shí),不僅要考慮知識(shí)本身,還需解決合規(guī)性問(wèn)題,將企業(yè)敏感詞、同義詞等私有知識(shí)融入其中,并對(duì)知識(shí)應(yīng)用權(quán)限進(jìn)行管控。例如,對(duì)于員工提出的涉及敏感信息的問(wèn)題,后臺(tái)需進(jìn)行細(xì)致處理。
智能問(wèn)數(shù)主要面向關(guān)系型數(shù)據(jù)庫(kù)等結(jié)構(gòu)化數(shù)據(jù)。該場(chǎng)景雖能借助大模型將自然語(yǔ)言轉(zhuǎn)化為SQL語(yǔ)句直接查詢(xún)數(shù)據(jù)庫(kù),實(shí)現(xiàn)數(shù)據(jù)的快速更新獲取,但由于人類(lèi)語(yǔ)言的豐富性,大模型理解存在偏差,容易導(dǎo)致答非所問(wèn)的情況。即便展示最終執(zhí)行的SQL語(yǔ)句,對(duì)于非技術(shù)人員而言,理解難度較大。為彌補(bǔ)這一缺陷,智能數(shù)據(jù)分析、指標(biāo)問(wèn)數(shù)等技術(shù)應(yīng)運(yùn)而生,將靈活的SQL轉(zhuǎn)化為確定的指標(biāo)。這種方式能確保問(wèn)題回答的準(zhǔn)確性,即使當(dāng)前不存在相關(guān)指標(biāo),也只會(huì)無(wú)法給出答案,而非提供錯(cuò)誤信息。在實(shí)際落地過(guò)程中,企業(yè)客戶(hù)更傾向于采用問(wèn)指標(biāo)的方式。
結(jié)語(yǔ):共筑企業(yè)智能化未來(lái)
在DeepSeek一體機(jī)掀起行業(yè)智能化浪潮的當(dāng)下,楓清科技以其深厚的技術(shù)積累和前瞻性的解決方案,為企業(yè)提供了從數(shù)據(jù)到知識(shí)再到業(yè)務(wù)場(chǎng)景的全鏈路賦能。通過(guò)知識(shí)中臺(tái)的三大核心模塊——數(shù)據(jù)知識(shí)化、知識(shí)應(yīng)用構(gòu)建和知識(shí)持續(xù)運(yùn)營(yíng),楓清科技不僅解決了DeepSeek一體機(jī)在復(fù)雜行業(yè)場(chǎng)景中的適配難題,更為企業(yè)構(gòu)建了一個(gè)高效、安全、智能的知識(shí)生態(tài)系統(tǒng)。