英特爾中國軟件技術(shù)部研發(fā)總監(jiān)翟磊表示:“我們看到了智能體行業(yè)端云協(xié)同的大趨勢,同時(shí)端側(cè)硬件平臺以及軟件技術(shù)也都具備。而要加速這一趨勢的落地,引領(lǐng)行業(yè)躍進(jìn),關(guān)鍵在于賦能開發(fā)者——他們是聯(lián)結(jié)平臺、服務(wù)與消費(fèi)者的關(guān)鍵。英特爾這一想法與扣子不謀而合,希望通過此次合作,更好地支持開發(fā)者,為用戶創(chuàng)建更多更好的端云協(xié)同智能體,為全球用戶帶來前所未有的智能體驗(yàn)。”

此次扣子聯(lián)合英特爾共同發(fā)布的“Coze-AIPC” 是一個增強(qiáng)版的扣子智能體開發(fā)平臺。它引入了一款運(yùn)行于英特爾平臺PC端的扣子App,深度整合英特爾 AI PC 強(qiáng)大端側(cè)能力與扣子云平臺優(yōu)勢。通過扣子創(chuàng)新的 “端插件” 機(jī)制,英特爾 AI PC 的 PC 操控、本地知識庫、本地推理、本地生成等能力被無縫嵌入扣子大模型與工作流。開發(fā)者借助Coze-AIPC平臺“端插件商店”中預(yù)制的PC端側(cè)能力集,能迅速開發(fā)出適配英特爾AI PC的智能體應(yīng)用,同時(shí)平臺還將支持開發(fā)者創(chuàng)建更多個性化端插件不斷拓展端側(cè)能力邊界。

自從22年底OpenAI發(fā)布ChatGPT點(diǎn)燃行業(yè)熱情之后,在過去的兩年的時(shí)間里,大模型和生成式AI技術(shù)飛速發(fā)展,將AI的基礎(chǔ)能力推上了一個新的臺階。當(dāng)下除了進(jìn)一步演進(jìn)和迭代生成式AI的基礎(chǔ)能力外,行業(yè)的焦點(diǎn)也開始擴(kuò)展到探索如何將這新一代的AI技術(shù)通過有價(jià)值的應(yīng)用落地。智能體應(yīng)用無疑是當(dāng)下關(guān)注度最高的一個領(lǐng)域,甚至有行業(yè)頭部企業(yè)認(rèn)為“智能體是AI應(yīng)用最主流的形態(tài),即將迎來爆發(fā)點(diǎn)”。其實(shí)智能體并不是這兩年才有的新概念,但在大模型技術(shù)的加持下,如今智能體變得更聰明,更像人,它已經(jīng)具備成為 AI時(shí)代下內(nèi)容,信息和服務(wù)新載體的能力。

在眾多類型的智能體中,工具類智能體無疑是當(dāng)下最熱門的賽道,它的出現(xiàn)旨在幫助人類極大地提高生產(chǎn),學(xué)習(xí),娛樂的效率或者體驗(yàn)。既然是提高生產(chǎn)力,那么跟生產(chǎn)工具端側(cè)的有效結(jié)合就成為比較關(guān)鍵的一環(huán)。這里的端側(cè)主要包括了移動手機(jī),PC,以及各類用戶側(cè)輔助設(shè)備。而英特爾公司,需要解決智能體如何和PC端側(cè)進(jìn)行有效地結(jié)合的問題。

英特爾公司一直是PC行業(yè)的技術(shù)領(lǐng)導(dǎo)者。2023年,英特爾為適應(yīng)AI時(shí)代進(jìn)步,再次引領(lǐng)PC行業(yè)變革,定義并發(fā)布了第一代AI PC。AI PC搭載英特爾全新一代酷睿 Ultra處理器,擁有CPU,GPU和NPU三種異構(gòu)計(jì)算單元,從高吞吐量計(jì)算到低功耗運(yùn)行,從快速響應(yīng)需求到為電池續(xù)航優(yōu)化的負(fù)載卸載,全方位滿足 AI 工作負(fù)載需求。無論是處理復(fù)雜的深度學(xué)習(xí)任務(wù),還是維持低延遲的交互體驗(yàn),英特爾 AI PC 都表現(xiàn)卓越,成為智能體在 PC 端的理想載體。

除了不斷提升PC的AI基礎(chǔ)算力,英特爾公司也持續(xù)大力布局端側(cè)AI軟件生態(tài)。目前英特爾AI PC已經(jīng)擁有完善的AI工具鏈支持,除了英特爾平臺專屬并高度優(yōu)化的工具 OpenVINO,還和微軟以及開源AI生態(tài)一起合作,針對英特爾AI PC 進(jìn)行適配和優(yōu)化?;谶@些靈活的工具鏈,英特爾構(gòu)建出豐富的應(yīng)用場景,幫助智能體將其能力輕松擴(kuò)展到PC端側(cè)。在英特爾新一代AI PC上,運(yùn)行7B大語言模型僅有0.9秒首字時(shí)延,同時(shí)達(dá)到22token每秒的吐字速度;同時(shí)2.8B的多模態(tài)大模型,基于圖片的理解問答也能實(shí)現(xiàn)“毫秒級”的首字時(shí)延。如果智能體按需將這些AI計(jì)算放在端側(cè),不僅可以降低成本,還可以排除和云端通信的網(wǎng)絡(luò)干擾,達(dá)到更低的時(shí)延。

扣子 Coze 則以靈活的工作流設(shè)計(jì)和無限拓展的能力集獨(dú)樹一幟。其平臺能依據(jù)不同場景迅速構(gòu)建智能體應(yīng)用框架,高效整合各類 AI 技術(shù)與工具,為開發(fā)者提供豐富多樣的功能模塊,大幅降低開發(fā)門檻與成本,加速開發(fā)進(jìn)程。

雙方合作在應(yīng)用場景構(gòu)建上成果斐然。個人生活助手實(shí)現(xiàn)影視體育實(shí)時(shí)視頻智能問答、關(guān)鍵畫面精準(zhǔn)識別、多模態(tài)情緒氛圍感知;智能工作助手達(dá)成文檔智能處理與專業(yè)寫作、本地隱私數(shù)據(jù)庫表單智能填寫。這些應(yīng)用背后,是英特爾實(shí)時(shí) AI 隱私計(jì)算與扣子 Agent 開發(fā)者平臺深度融合的支撐,在保障隱私前提下優(yōu)化交互體驗(yàn)、提升效率,重塑 AI 助手標(biāo)準(zhǔn)。

隨著Coze-AIPC端云協(xié)同智能體開發(fā)平臺的發(fā)布,英特爾與扣子Coze為開發(fā)者提供了強(qiáng)大的工具,以創(chuàng)造更加智能、高效且個性化的應(yīng)用體驗(yàn)。未來,期待更多基于這一平臺的智能體應(yīng)用涌現(xiàn),共同推動AI技術(shù)在端側(cè)的廣泛應(yīng)用,探索智能體的無限潛能。

分享到

songjy

相關(guān)推薦