英特爾積極擁抱AI社區(qū)，不久前宣布以Premier會員的身份加入PyTorch基金會?；贠penVINO PyTorch后端的方案，通過Pytorch API讓社區(qū)開源模型能夠很好地運行在英特爾的客戶端處理器、集成顯卡、獨立顯卡和專用AI引擎上。以圖形視覺領(lǐng)域為例， Stable Diffusion的實現(xiàn)Automatic1111 WebUI，已經(jīng)能通過上述方式，在英特爾客戶端平臺的CPU和GPU（包括集成顯卡和獨立顯卡）上運行FP16精度的模型，用戶可以在文字生成圖片、圖片生成圖片以及局部修復(fù)等功能上獲得良好的使用體驗。

不僅如此，英特爾通過模型優(yōu)化，降低了模型對硬件資源的需求，進而提升了模型的推理速度，讓社區(qū)開源模型能夠很好地運行在個人電腦上。以大語言模型為例，英特爾通過第13代英特爾酷睿處理器XPU的加速、low-bit量化以及其它軟件層面的優(yōu)化，讓最高達160億參數(shù)的大語言模型，通過BigDL-LLM框架運行在16GB及以上內(nèi)存容量的個人電腦上。這也彰顯了英特爾能夠適應(yīng)當(dāng)下快速發(fā)展的大語言模型生態(tài)，快速對接新興模型，并兼容目前HuggingFace上的Transformers模型。已經(jīng)驗證過的模型包括但不限于：LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等。此外，英特爾還提供了易用的API接口（Transformers、LangChain），并支持Windows、Linux的操作系統(tǒng)。

英特爾的下一代處理器Meteor Lake具備獨特的分離式模塊架構(gòu)的優(yōu)勢，為PC用戶提供了以AI驅(qū)動的新功能，包括像Adobe Premiere Pro中的自動重新構(gòu)圖和場景編輯檢測等多媒體功能，并實現(xiàn)更有效的機器學(xué)習(xí)加速。英特爾與PC產(chǎn)業(yè)合作伙伴此刻正站在旅程的起點，向著規(guī)?；瘧?yīng)用AI加速轉(zhuǎn)型的方向前行。隨著英特爾后續(xù)幾代產(chǎn)品進一步擴展，規(guī)模和數(shù)量的大幅增長將讓數(shù)億人輕松享受AI加速體驗，并實現(xiàn)更優(yōu)的智能協(xié)作、更快的處理速度和更強的功能特性實現(xiàn)前所未有的體驗變革。

songjy