一、算力與新興應(yīng)用市場同步擴容,邊緣/端側(cè)算力不可或缺
計算產(chǎn)業(yè)在全球范圍內(nèi)都在經(jīng)歷快速的增長和發(fā)展,特別是在中國,這一產(chǎn)業(yè)的發(fā)展勢頭更為強勁。我國的計算產(chǎn)業(yè)發(fā)展迅速,但存在未形成以核心路徑為主導(dǎo)、國內(nèi)軟硬件適配的生態(tài)體系;產(chǎn)業(yè)面臨發(fā)展路徑過多,容易導(dǎo)致資源分散、浪費的問題,難以形成合力。
工信部電子信息司副司長徐文立
工信部電子信息司副司長徐文立表示,應(yīng)對新型社會新挑戰(zhàn),把握推動新型工業(yè)化的新機遇,一方面要不斷進行創(chuàng)新和升級,提高計算產(chǎn)品的性能、穩(wěn)定性和可靠性,另一方面還要注重技術(shù)研發(fā)的投入,加強自主創(chuàng)新能力建設(shè),提升國際競爭力。徐文立在致辭中呼吁,我們必須抓住機遇,加快整個計算產(chǎn)業(yè)核心關(guān)鍵技術(shù)和全球產(chǎn)業(yè)鏈,共筑和諧美好先進的計算生態(tài),助力我國新型規(guī)劃建設(shè),推動我國計算產(chǎn)業(yè)高質(zhì)量發(fā)展。
生態(tài)對于計算產(chǎn)業(yè)的重要性主要體現(xiàn)在推動產(chǎn)業(yè)發(fā)展、提升競爭力、促進技術(shù)創(chuàng)新等方面,建設(shè)和發(fā)展強大的計算產(chǎn)業(yè)生態(tài),是我國計算產(chǎn)業(yè)發(fā)展的重要戰(zhàn)略任務(wù)。徐文立相信,未來將有更多的智慧化、智能化的產(chǎn)品涌現(xiàn);綠色低碳、開放開源的生態(tài)將成為數(shù)字經(jīng)濟時代計算產(chǎn)業(yè)的強大支撐。
中國工程院院士鄔賀銓
大模型、行業(yè)數(shù)字化驅(qū)動計算架構(gòu)變革,走向新一代計算架構(gòu)。以大模型為代表的通用人工智能不斷演進,工業(yè)制造、電力能源、金融、交通等領(lǐng)域行業(yè)數(shù)字化轉(zhuǎn)型不斷深入加速計算架構(gòu)變革。中國工程院院士鄔賀銓帶來《算力時代的邊緣計算》演講,從邊緣計算領(lǐng)域著眼,闡釋了算力時代下計算架構(gòu)會遇到的新挑戰(zhàn),還闡釋了算力與邊緣/終端、新興應(yīng)用市場的同步擴容的現(xiàn)象。他談道,大模型融入邊緣/端側(cè)正面臨算力與存力、能效、體驗以及生態(tài)這三大挑戰(zhàn),邊緣與端側(cè)算力在算力時代仍然不可或缺。
鄔賀銓院士以Meta公司的智能聊天機器人為例,他談道,LLaMA開源大語言模型中最小的LLaMA 7B也經(jīng)過了超1萬億tokens的訓(xùn)練,其FP16版本僅有14GB;至于手機的處理器(CPU)和圖形處器(GPU),它們的計算能力遠低于服務(wù)器級別的硬件,然而今年高端旗艦機DRAM也才18GB。算力與存力不夠用,這是大模型在融入邊緣/端側(cè)時所面臨的難題。
對比云邊端三側(cè)的算力,鄔賀銓院士談道,邊緣與端側(cè)的算力相較于云端的算力具有低成本、低時延、高隱私的優(yōu)勢。具體來說,考慮到云上的失量數(shù)據(jù)庫只用于存儲和索引由深度學(xué)習(xí)等技術(shù)產(chǎn)生的高維矢量,照片和視頻等數(shù)據(jù)依然依賴邊緣計算來支持,并在斷網(wǎng)時仍然可以智能調(diào)用,對應(yīng)著高隱私的特點。
對于企業(yè)合作開發(fā)行業(yè)大模型,鄔院長也給出了具體建議。他談道,在大模型上需給予海量數(shù)據(jù)充分訓(xùn)練,待調(diào)優(yōu)至理想效果后在進行知識蒸餾、量化及針對特定場景遷移等縮小模型的工作;大模型還可驅(qū)動云網(wǎng)協(xié)同,例如采用5G CPE+UPF以IPv6上云。
二、算力驅(qū)動原創(chuàng)技術(shù),服務(wù)大模型量產(chǎn)加工
在算力成為信息社會核心生產(chǎn)力的背景下,算力網(wǎng)絡(luò)既是激活數(shù)字經(jīng)濟高質(zhì)量發(fā)展的新途徑,也是科技競爭的新高地和技術(shù)創(chuàng)新的新賽道。
中國移動研究院副院長段曉東
在主題為《打造算網(wǎng)一體原創(chuàng)技術(shù),構(gòu)筑智能算力網(wǎng)絡(luò)》的演講中,中國移動研究院副院長段曉東以算力跟網(wǎng)絡(luò)兩大學(xué)科在計算產(chǎn)業(yè)交叉融合的角度,分享對整個算力網(wǎng)絡(luò)產(chǎn)業(yè)發(fā)展的想法。他用一句話提煉出算力網(wǎng)絡(luò)行業(yè)的趨勢——加速傳統(tǒng)通信服務(wù)向新型信息通信服務(wù)轉(zhuǎn)變。過去的計算網(wǎng)絡(luò)以數(shù)據(jù)信息網(wǎng)絡(luò)交換為核心,如今行業(yè)轉(zhuǎn)向算為核心、網(wǎng)為根基,計算網(wǎng)絡(luò)智能、數(shù)據(jù)安全等多種要素融合創(chuàng)新成為發(fā)展新范式。
根據(jù)算力發(fā)展需求和網(wǎng)絡(luò)演進需求的分析,段曉東院長研判,算和網(wǎng)已經(jīng)呈現(xiàn)雙向驅(qū)動趨勢,為了進一步呈現(xiàn)整體的能效、性能和利用率優(yōu)勢,需要算網(wǎng)一體化的系統(tǒng)思維和多學(xué)科交叉創(chuàng)新。針對算網(wǎng)一體需要解決的聯(lián)合優(yōu)化、構(gòu)筑新型智算中心、大規(guī)模數(shù)據(jù)廣域網(wǎng)高效傳輸?shù)群诵募夹g(shù)問題,段曉東院士呼吁行業(yè)需要“原創(chuàng)技術(shù)”。
中國移動提出了算力路由CATS、算力原生CAMA等原創(chuàng)技術(shù)并獲得國際共識。至于算力服務(wù)的形態(tài),中國移動的移動云落地醫(yī)療影像異地存儲、影視異地渲染、數(shù)據(jù)異地處理等算力應(yīng)用,并發(fā)布政務(wù)、客服等AI大模型,豐富云算終端產(chǎn)品。
華為鯤鵬計算業(yè)務(wù)總裁李義
“大模型進入邊緣/端側(cè)將打開新的智能應(yīng)用空間,但生態(tài)的建立需要廠商強有力的技術(shù)體系、工具平臺、賦能方案以及商業(yè)勢能的加持”,正如鄔賀銓院士在演講中所提及。誰能突破算力的效率與生態(tài)問題,找到中國大模型的解法?華為鯤鵬計算業(yè)務(wù)總裁李義以鯤鵬/昇騰AI+行業(yè)大模型為例,在演講中闡述國產(chǎn)大模型在算力挑戰(zhàn)下的生產(chǎn)實踐。
談到華為“鯤鵬+昇騰”雙引擎的計算戰(zhàn)略,李義解釋道,鯤鵬計算以“極致性能、極簡開發(fā)”為主要特點,昇騰AI計算則以“極簡易用、極致性能”為主要特點。具體來說,華為在硬件開放方面做出如開放鯤鵬主板、開放十大能力等努力措施,使其合作伙伴能夠打造差異化的整機產(chǎn)品,共同構(gòu)建開放共贏的整機硬件生態(tài)。李義談道,2022年華為整機合作伙伴的出貨量占比高達95%。
值得注意的是,昇騰如同“母機”一般托舉著千行萬業(yè)的大模型生產(chǎn)和加工。昇騰AI全流程開發(fā)工具鏈MindStudio提供算子、模型、應(yīng)用一站式高效開發(fā)和極簡部署的能力,為AI模型開發(fā)提供便捷的開發(fā)工具。李義坦言,昇騰已原生孵化和適配50+大模型,并在多個行業(yè)中成功應(yīng)用,國內(nèi)大模型半數(shù)選擇昇騰。
結(jié)語:算力從融合跨越到內(nèi)生,新應(yīng)用、新方法實現(xiàn)換道超車
業(yè)內(nèi)認為國產(chǎn)大模型與以GPT-4為代表大模型之間仍有數(shù)年差距,關(guān)鍵在于推理多模態(tài)能力和小樣本學(xué)習(xí)方面。當(dāng)前我國興建算力建設(shè)、奮力突破算力瓶頸,算力從何融合跨越到內(nèi)生,蔚然成風(fēng),為追趕大模型等新興應(yīng)用的差距加速依據(jù)。
本次計算產(chǎn)業(yè)大會召開時間恰逢恰冬月朔日,外面大雪簌簌,會場內(nèi)各位專家暢所欲言,氣氛熱烈。除了為國產(chǎn)大模型提供AI“車床”的華為,安謀科技、飛騰、中國長城等企業(yè)和機構(gòu)也在會上展示了為行業(yè)構(gòu)筑數(shù)字算力底座方面所做的努力。
向內(nèi)看,中國本土市場的優(yōu)勢值得挖掘,中國算力相關(guān)行業(yè)可化被動為主動,在本地配置的種種限制中主動思考創(chuàng)新路徑,重新設(shè)計產(chǎn)業(yè)鏈。向外看,計算架構(gòu)在AI時代背景下的更新?lián)Q代勢在必行,疊加新應(yīng)用如5G、AI、智慧城市、智慧醫(yī)療等帶來市場機遇,以上為中國以算力為底座的行業(yè)換道超車提供技術(shù)參考和市場動力。