在此前的一個在線演示中,用戶問能否發(fā)布有關(guān)奧運(yùn)場館的照片時,該聊天機(jī)器人回復(fù)說,可以在個人網(wǎng)站和社交媒體上發(fā)布照片,只要不發(fā)布商業(yè)內(nèi)容、AI生成的內(nèi)容或受限區(qū)域的錄音即可。回復(fù)的最后,還帶了一個文檔鏈接。
在國際奧委會運(yùn)動員部主任Kaveh Mehrabi看來,AthleteGPT為運(yùn)動員提供了便捷的信息訪問。數(shù)字化的發(fā)展導(dǎo)致信息爆炸,處理這些信息需要花費(fèi)更多時間和精力,讓人變得不堪重負(fù),而AthleteGPT幫助運(yùn)動員處理這類問題。
英特爾數(shù)據(jù)中心與人工智能事業(yè)部軟件解決方案和生態(tài)部門副總裁Bill Pearson表示,企業(yè)有大量數(shù)據(jù),這些數(shù)據(jù)通常是專有的或歷史數(shù)據(jù),LLM無法訪問直接那些企業(yè)數(shù)據(jù)。而RAG技術(shù)可以將LLM與專有數(shù)據(jù)結(jié)合,企業(yè)不僅能獲得LLM的強(qiáng)大能力,還獲得了更高的準(zhǔn)確性和數(shù)據(jù)的安全性。
生成式AI技術(shù)的爆火改變了人們與信息的交互方式,配合RAG技術(shù)利用專有數(shù)據(jù),信息檢索效率達(dá)到了大幅度的提升。然而,部署生成式AI技術(shù)方案在成本、規(guī)模、準(zhǔn)確性、開發(fā)需求、隱私和可靠性等方面都面臨不可忽視的挑戰(zhàn)。
英特爾幫助開發(fā)者構(gòu)建生成式AI RAG解決方案。在包括英特爾至強(qiáng)處理器和Gaudi加速器等硬件方案的基礎(chǔ)之上,英特爾與行業(yè)合作伙伴共同創(chuàng)建了開源、可互操作的解決方案,可以加速RAG技術(shù)的部署。
2024年,企業(yè)AI開放平臺(OPEA)項(xiàng)目推出,它匯聚了包括英特爾、Cloudera、Hugging Face、Intel、Minio、Red Hat、SAS、等行業(yè)領(lǐng)袖,它是要結(jié)合各自優(yōu)勢,構(gòu)建一站式的生成式AI解決方案,從而加速推動AI落地。
企業(yè)AI開放平臺(OPEA)包含一系列OPEA的微服務(wù)組件,這些組件集成至英特爾至強(qiáng)處理器和Gaudi AI系統(tǒng)當(dāng)中,還可通過Kubernetes、Red Hat OpenShift等容器框架進(jìn)行擴(kuò)展,并提供兼具可靠性和系統(tǒng)遙測功能的標(biāo)準(zhǔn)化API。
幾乎所有大語言模型都基于PyTorch來開發(fā)的,而英特爾至強(qiáng)和英特爾Gaudi加速器對PyTorch有非常好的支持,這為開發(fā)者在英特爾AI系統(tǒng)或平臺上開發(fā)AI軟件提供了很大便利。
同時,英特爾攜手OPEA開發(fā)了用于RAG和LLM部署的開放式軟件堆棧。該軟件堆棧通過生成式AI一站式解決方案進(jìn)行優(yōu)化,并基于PyTorch、Hugging Face服務(wù)庫(TGI和TEI)、LangChain以及Redis向量數(shù)據(jù)庫所構(gòu)建。
OPEA為企業(yè)提供開源、標(biāo)準(zhǔn)化、模塊化,以及異構(gòu)的RAG流水線,并為開放式模型及多種編譯器和工具鏈的開發(fā)提供支持。OPEA加速了針對垂直領(lǐng)域用例的容器化AI集成與交付,通過創(chuàng)建細(xì)化、可組合的框架,引領(lǐng)堆棧技術(shù)前沿,解鎖AI的全新可能。
除了一起構(gòu)建聊天機(jī)器人AthleteGPT以外,英特爾還為巴黎奧運(yùn)會提供了一系列邊緣AI應(yīng)用。
在巴黎奧運(yùn)會籌備與比賽期間,由英特爾技術(shù)支持的AI解決方案在挖掘人才,助益廣大運(yùn)動員、教練以及觀眾方面提供了很大幫助。
英特爾攜手三星打造基于AI技術(shù)的沉浸式互動體驗(yàn),讓觀眾體驗(yàn)成為奧運(yùn)選手的奇妙旅程。得益于英特爾Gaudi AI加速器、英特爾至強(qiáng)處理器以及OpenVINO的支持,該AI技術(shù)能夠帶領(lǐng)觀眾體驗(yàn)一系列專業(yè)的訓(xùn)練與分析,并為其匹配比賽項(xiàng)目。
此外,英特爾還打造AI解決方案幫助視障人士提高賽事觀賞體驗(yàn),通過重建3D模型,幫助視障人士通過具備攝像功能的智能手機(jī)實(shí)現(xiàn)室內(nèi)語音導(dǎo)航。該方案使用了內(nèi)置AI加速功能的至強(qiáng)處理器。
英特爾在奧運(yùn)媒體傳播上也提供幫助。不僅用英特爾至強(qiáng)處理器來捕捉影像,傳輸視頻。同時,通過英特爾OpenVINO工具套件的優(yōu)化來加快內(nèi)容產(chǎn)出,讓全球各地的粉絲看到自己喜愛運(yùn)動員的3D沉浸式實(shí)時訪談,拉近與奧運(yùn)會的距離。