我們看到,英特爾的底層硬件架構(gòu)層面對于PyTorch、TensorFlow、Python等AI相關(guān)的軟件支持度很高。同時(shí),英特爾支持開發(fā)者使用oneAPI、SYCLomatic、OpenXLA等跨平臺的開發(fā)工具。最后,英特爾也關(guān)注如何提升AI推理的準(zhǔn)確性和可靠性。

第二個(gè),價(jià)值最大化。AI的應(yīng)用最終目的是創(chuàng)造實(shí)際價(jià)值。因此,企業(yè)需要將最合適的工作負(fù)載分配到最合適的平臺上,以優(yōu)化資源利用,降低成本,或者說物盡其用。

唐炯提到,AI的成本結(jié)構(gòu)與傳統(tǒng)云計(jì)算有顯著不同,云計(jì)算的成本效益來源于CPU的高效調(diào)度,即通過將CPU的空閑時(shí)間分配給不同用戶來降低單個(gè)用戶的成本。而在AI時(shí)代,AI加速器工作時(shí)幾乎沒有空閑時(shí)間,也因此打破了傳統(tǒng)云計(jì)算的成本結(jié)構(gòu)。

為了實(shí)現(xiàn)價(jià)值最大化,需要將不同的AI工作負(fù)載分配到最合適的硬件平臺上。例如,某些AI任務(wù)可以在云端運(yùn)行,而另一些任務(wù)則更適合在邊緣設(shè)備(如工廠、醫(yī)院的本地服務(wù)器)或端側(cè)設(shè)備(如PC、手機(jī))上執(zhí)行。

比如,如果企業(yè)的AI任務(wù)主要依賴云計(jì)算,云端算力的租賃和購買可能會導(dǎo)致高昂的成本。但如果能夠利用端側(cè)設(shè)備(如PC、手機(jī))的算力,分擔(dān)一部分AI計(jì)算任務(wù),可以顯著降低整體云端成本。

第三個(gè),靈活部署。AI解決方案涉及廣泛的軟件和硬件堆棧,需要靈活部署各個(gè)模塊來實(shí)現(xiàn)高效的跨平臺兼容性和工作負(fù)載分配。云、邊和端每個(gè)場景的需求和條件不同,而AI解決方案涉及復(fù)雜的技術(shù)堆棧。因此,在這些異構(gòu)平臺上的靈活部署AI方案也是一大問題。

事實(shí)上,沒有一家企業(yè)能夠獨(dú)自提供完整的AI解決方案,通常需要多個(gè)供應(yīng)商合作。因此,英特爾提出了“解構(gòu)”AI解決方案的概念,將復(fù)雜的解決方案拆分成更小的模塊,以便在不同硬件上靈活部署和優(yōu)化。

英特爾中國軟件技術(shù)合作事業(yè)部總經(jīng)理唐炯

在AI生態(tài)系統(tǒng)中,不同的專業(yè)廠商有各自專注的領(lǐng)域。通過“解構(gòu)”,每個(gè)合作伙伴可以集中精力于自己的專長領(lǐng)域,既不需要跨越到不擅長的領(lǐng)域,也避免了“重復(fù)造輪子”的問題。

唐炯還提到了OPEA(Open Platform for Enterprise AI),OPEA是一個(gè)面向企業(yè)級AI的開源平臺,旨在通過整合不同廠商的代碼和模塊,形成一個(gè)完整的AI解決方案。

OPEA提供一個(gè)開放透明的平臺,允許開發(fā)者和企業(yè)更好地理解自己的貢獻(xiàn)和優(yōu)化點(diǎn),可以避免因選錯(cuò)大模型或其他技術(shù)而導(dǎo)致重大返工。OPEA已經(jīng)吸引了全球范圍內(nèi)的頭部ISV和國內(nèi)廠商的參與,并預(yù)計(jì)將有更多中國的軟件行業(yè)合作伙伴加入其中。

現(xiàn)在,英特爾正在協(xié)同廣大生態(tài)伙伴以優(yōu)化的性能推動業(yè)務(wù)拓展,充分釋放企業(yè)AI潛力。在媒體溝通會上,來自東方國信、海鑫智圣和星環(huán)科技的代表也都分享了在推動AI技術(shù)發(fā)展上的實(shí)踐。

東方國信是一家專注于大數(shù)據(jù)、云計(jì)算和人工智能的軟件公司,服務(wù)于通信、金融、工業(yè)等多個(gè)領(lǐng)域。東方國信副總裁兼CTO 查禮詳細(xì)介紹了東方國信的“幕僚”系列智能應(yīng)用,涵蓋智能BI系統(tǒng)、智能客服、智能APP和智能數(shù)據(jù)倉庫等。

東方國信與英特爾在前沿計(jì)算技術(shù)領(lǐng)域有很多合作,尤其是在數(shù)據(jù)庫、大數(shù)據(jù)和生成式AI等方面的合作。他強(qiáng)調(diào)了雙方在軟硬件協(xié)同和企業(yè)級AI平臺構(gòu)建上的努力,并表達(dá)了希望繼續(xù)合作,共同推進(jìn)智能計(jì)算發(fā)展的愿景。

海鑫智圣是國內(nèi)最早從事AI相關(guān)業(yè)務(wù)的企業(yè)之一,海鑫智圣總經(jīng)理孟凡軍介紹了海鑫智圣在機(jī)器視覺(CV)領(lǐng)域的大模型應(yīng)用,并強(qiáng)調(diào)公司致力于通過自建算法框架和推理引擎,結(jié)合云、邊、端一體化,實(shí)現(xiàn)高效、安全、智能的AI解決方案。

海鑫智圣與英特爾也保持著緊密合作關(guān)系,通過英特爾提供的OpenVINO和oneAPI等工具,在至強(qiáng)CPU上提升了AI推理性能,有效解決了云廠商在引入AI算力時(shí)的挑戰(zhàn)。

星環(huán)科技自2013年成立以來,專注于大模型、知識庫、向量庫等產(chǎn)品的研發(fā),并在多個(gè)行業(yè)積累了豐富的客戶資源。星環(huán)科技生態(tài)合作部總經(jīng)理張雷介紹了星環(huán)科技推出的Hippo向量數(shù)據(jù)庫和TKH產(chǎn)品,并分享了這些產(chǎn)品在企業(yè)部署大模型和知識體系中的應(yīng)用場景。

此外,張雷詳細(xì)介紹了與英特爾合作開發(fā)的無涯·問知AI PC版,這款產(chǎn)品可以解決用戶在云端算力不足和數(shù)據(jù)安全方面的挑戰(zhàn)。它不僅緩解了云端算力的資源瓶頸,還為那些無法或不愿將敏感數(shù)據(jù)上傳至公有云的用戶提供了更安全、靈活的本地AI應(yīng)用解決方案。

分享到

zhupb

相關(guān)推薦