深思考人工智能，是一家專注類腦人工智能與多模態(tài)大模型的高新科技公司，有著長(zhǎng)期的技術(shù)積累。深思考人工智能在多模態(tài)深度語(yǔ)義理解、人機(jī)交互等技術(shù)方面具有領(lǐng)先優(yōu)勢(shì)，已將大模型深度應(yīng)用于智慧醫(yī)療、智能終端等場(chǎng)景中。

深思考人工智能表示，此次合作標(biāo)志著國(guó)產(chǎn)端側(cè)AI技術(shù)在低功耗、高性能領(lǐng)域?qū)崿F(xiàn)重大突破，打破“國(guó)產(chǎn)算力性能不足”的固有認(rèn)知?！澳Ｐ?硬件+生態(tài)”的三位一體方案，也為智能終端廠商提供便捷的端側(cè)AI能力，加速賦能各行業(yè)。

推出超小端側(cè)多模態(tài)大模型與算力模組

AI向終端普及的前提是擁有足夠輕量化的端側(cè)大模型。傳統(tǒng)大模型能耗大、對(duì)存儲(chǔ)空間需求大。只有通過(guò)參數(shù)壓縮實(shí)現(xiàn)輕量化的模型，才能降低成本，部署到終端設(shè)備中。

深思考人工智能創(chuàng)始人兼CEO楊志明博士認(rèn)為，在降低大模型參數(shù)的同時(shí)，要保持性能穩(wěn)定，避免“盆景式壓縮”，導(dǎo)致參數(shù)減少，效果驟降。

本次發(fā)布的TinyDongni和DeepSeek系列端側(cè)多模態(tài)大模型，都在減少參數(shù)的同時(shí)，保證了良好的應(yīng)用效果。

例如，TinyDongni端側(cè)多模態(tài)大模型采用了創(chuàng)新量化方法，將參數(shù)規(guī)模壓縮至1.5B。在極簡(jiǎn)參數(shù)規(guī)模中，TinyDongni實(shí)現(xiàn)了高效運(yùn)算，還能顯著降低首Token延遲，支持32K超長(zhǎng)上下文理解。此外，TinyDongni通過(guò)多芯片協(xié)同處理與內(nèi)存優(yōu)化技術(shù)，兼顧了低功耗與高響應(yīng)速度。

而DeepSeek系列則聚焦多模態(tài)能力，1B模型通過(guò)2048隱藏層維度與32注意力頭設(shè)計(jì)，強(qiáng)化復(fù)雜場(chǎng)景下的語(yǔ)義理解。模型聚焦高頻詞與專用詞，內(nèi)存占用降低了30%，適配智能硬件與邊緣計(jì)算場(chǎng)景。

為便捷各行業(yè)使用，深思考人工智能還聯(lián)合深開(kāi)鴻、廣和通，推出了兩大解決方案，打造“即插即用”的端側(cè)AI標(biāo)準(zhǔn)化產(chǎn)品。

深思考人工智能與深開(kāi)鴻深度合作，基于深開(kāi)鴻智能硬件設(shè)備，深思考人工智能發(fā)布全自研、基于開(kāi)源鴻蒙操作系統(tǒng)的端側(cè)多模態(tài)大模型，以及基于DeepSeek低比特量化模型的模組。

深開(kāi)鴻模組配置了瑞芯微RK3588 芯片和OpenHarmony系統(tǒng)，具有較強(qiáng)的影像處理能力，支持8K解碼與多屏交互，將賦能工業(yè)檢測(cè)、AI攝像頭等高精度場(chǎng)景。

廣和通模組配置了高通QCS8550芯片，集成了高性能圖形引擎和綜合算力達(dá)48TOPS的AI引擎。依托深思考人工智能的算法優(yōu)化，該模組可為車(chē)載、機(jī)器人等場(chǎng)景提供實(shí)時(shí)AI處理能力。此外，深思考人工智能與鴻蒙系統(tǒng)已調(diào)通，并匹配了廣和通模組。

模組方案的推出，一方面降低了AI智能硬件的技術(shù)門(mén)檻，將AI智能硬件的開(kāi)發(fā)周期縮短了50%。另一方面，在國(guó)產(chǎn)算力硬件上跑通大模型，也證明了深思考人工智能技術(shù)的輕量化與高效能，其大模型無(wú)需依賴高算力硬件，即可處理復(fù)雜任務(wù)。

目前，端側(cè)多模態(tài)大模型和兩大算力模組可兼容OpenHarmony、Windows、Android、linux等主流操作系統(tǒng)，滿足跨平臺(tái)部署需求。

其中，鴻蒙生態(tài)終端可無(wú)縫接入深思考人工智能的AI能力。華為OpenHarmony使能部AI技術(shù)專家劉小飛表示，“OpenHarmony一直在積極探索大模型在各個(gè)領(lǐng)域的應(yīng)用，雙方合作將加速AI PC、AI手機(jī)等智能終端的全場(chǎng)景應(yīng)用，推動(dòng)端側(cè)AI技術(shù)普及。”

TinyDongni交互的幾大優(yōu)勢(shì)

深思考人工智能在AI領(lǐng)域積累深厚。核心團(tuán)隊(duì)來(lái)自于中科院、清華、耶魯大學(xué)，由一線的AI科學(xué)家及業(yè)務(wù)專家組成。在多模態(tài)深度語(yǔ)義理解與人機(jī)交互技術(shù)方面，深思考人工智能具有突出優(yōu)勢(shì)。

2018年，深思考人工智能就發(fā)布了世界首個(gè)醫(yī)學(xué)影像專用AI處理器，將AI技術(shù)成功應(yīng)用于智慧醫(yī)療大健康領(lǐng)域中。2020年，深思考人工智能還開(kāi)發(fā)了國(guó)內(nèi)第一代生成式語(yǔ)言大模型，經(jīng)過(guò)迭代后，該模型成為深思考人工智能的核心產(chǎn)品Dongni.ai。

作為深思考人工智能自主研發(fā)的類腦多模態(tài)、跨模態(tài)大模型，Dongni.ai具有多模態(tài)、可解釋性、實(shí)時(shí)性、可溯源性、輸出結(jié)果可控性、情感能力等優(yōu)勢(shì)。目前，Dongni.ai已運(yùn)用于智能終端人機(jī)交互和智慧醫(yī)療兩大產(chǎn)品線。

基于強(qiáng)大的AI研發(fā)能力、以及對(duì)AI落地應(yīng)用的深入理解，深思考人工智能的TinyDongni端側(cè)多模態(tài)大模型，在搜索引擎方面有以下特點(diǎn)。

首先是端側(cè)多模態(tài)交互，能提供文件、圖像、視頻搜索。其詞匯表達(dá)18.3萬(wàn)，覆蓋了法律、醫(yī)療、教育等場(chǎng)景。同時(shí)TinyDongni具備深度語(yǔ)義理解模糊搜索能力，大幅提高搜索效率。深思考人工智能推出的“Her”模式，還能與用戶進(jìn)行深度的情感交流與對(duì)話，在手機(jī)、電腦、機(jī)器人等終端打造個(gè)性化陪伴體驗(yàn)。

其次，TinyDongni支持海外13個(gè)國(guó)家和地區(qū)搜索。在使用中，TinyDongni可根據(jù)所選國(guó)家，搜索海外當(dāng)?shù)卣Z(yǔ)言信息，并提供中文及當(dāng)?shù)卣Z(yǔ)言兩種語(yǔ)言搜索結(jié)果，大幅提高工作效率。

最后，TinyDongni學(xué)習(xí)了1687萬(wàn)篇全球權(quán)威醫(yī)學(xué)論文，深度賦能醫(yī)學(xué)場(chǎng)景。

醫(yī)學(xué)領(lǐng)域是深思考人工智能長(zhǎng)期深耕的優(yōu)勢(shì)賽道，基于“重疾早篩”這一垂直場(chǎng)景，深思考人工智能完成了超10萬(wàn)例臨床回顧性分析和驗(yàn)證，擁有百萬(wàn)級(jí)高質(zhì)量數(shù)據(jù)。截至2024年，深思考人工智能僅宮頸癌篩查量就超過(guò)了3000萬(wàn)人份。

在深思考人工智能醫(yī)學(xué)專業(yè)知識(shí)的賦能下，TinyDongni能幫助醫(yī)學(xué)用戶提升工作效率，還為普通用戶提供專家咨詢、健康報(bào)告單解讀等服務(wù)。

推動(dòng)AI普惠，賦能各行業(yè)

事實(shí)上，深思考人工智能端側(cè)多模態(tài)大模型已在多個(gè)領(lǐng)域落地。

例如，在存儲(chǔ)領(lǐng)域，利用深思考的輕量化大模型技術(shù)，可對(duì)存儲(chǔ)設(shè)備的數(shù)據(jù)進(jìn)行多模態(tài)搜索，通過(guò)自然語(yǔ)言來(lái)實(shí)現(xiàn)對(duì)存儲(chǔ)中的信息，進(jìn)行語(yǔ)義級(jí)別地搜索圖片、視頻、文件。

在醫(yī)療領(lǐng)域，深思考人工智能聯(lián)合打造的醫(yī)學(xué)顯微鏡，在本地離線運(yùn)行，能確保數(shù)據(jù)安全。該醫(yī)學(xué)顯微鏡還能加載可拓展AI分析模塊，通過(guò)加密分析與擴(kuò)展模塊，提升病理檢測(cè)穩(wěn)定性與效率。

此外，在AI PC Suite上，提供本地文件模糊搜索、PPT自動(dòng)生成及同聲翻譯，保障數(shù)據(jù)安全。在智能汽車(chē)中，TinyDongni融合手勢(shì)、語(yǔ)音、圖像多模態(tài)交互，實(shí)時(shí)解析車(chē)內(nèi)外環(huán)境。在人形和萌寵機(jī)器人中，TinyDongni的“Her”模式，也能進(jìn)行良好的人機(jī)互動(dòng)。

華為OpenHarmony使能部AI技術(shù)專家劉小飛舉例，2024年4月，OpenHarmony的Laval社區(qū)和深思考人工智能，合作推出了OpenHarmony專屬智能問(wèn)答助手“小瓦AI答”。上線至今，小瓦AI答已經(jīng)服務(wù)了9000多名開(kāi)發(fā)者，回答了3萬(wàn)多個(gè)問(wèn)題。

“正是靠著深思考人工智能Dongni多模態(tài)大模型技術(shù)，Laval社區(qū)才能服務(wù)更多開(kāi)發(fā)者，實(shí)時(shí)解答問(wèn)題，社區(qū)和用戶互動(dòng)反饋的體驗(yàn)也更好了。”他說(shuō)道。

據(jù)QYResearch預(yù)測(cè)，全球端側(cè)AI市場(chǎng)規(guī)模將以超20%的年復(fù)合增長(zhǎng)率擴(kuò)張，2025年達(dá)數(shù)百億美元。相關(guān)分析也指出，到2028年端側(cè)推理和微調(diào)卡銷售額將超過(guò)云側(cè)訓(xùn)練卡，標(biāo)志端側(cè)商業(yè)模式的重大轉(zhuǎn)變。

端側(cè)AI將成為AI普惠化的重要支柱，重塑產(chǎn)業(yè)鏈格局。在端側(cè)AI的發(fā)展浪潮中，深思考人工智能創(chuàng)始人兼CEO楊志明認(rèn)為：“深思考鴻蒙系統(tǒng)TinyDongni&DeepSeek超小端側(cè)多模態(tài)大模型及硬件模組的發(fā)布，不僅是技術(shù)突破，更是端側(cè)AI普惠化的里程碑。未來(lái)，深思考人工智能將持續(xù)優(yōu)化多模態(tài)交互能力，推動(dòng)AI在醫(yī)療、工業(yè)、消費(fèi)等領(lǐng)域的深度應(yīng)用?！?/p>

崔歡歡