華為常務董事、華為云計算 CEO張平安宣布新一代昇騰AI云服務全面上線
新一代昇騰AI云服務全面上線,打造最適合大模型應用的算力服務
隨著大模型訓練和推理對算力需求的爆炸式增長,傳統(tǒng)計算架構(gòu)已難以支撐AI技術(shù)的代際躍遷。華為云新一代昇騰AI云服務基于CloudMatrix 384超節(jié)點,首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對等互聯(lián),形成一臺超級“AI服務器”,單卡推理吞吐量躍升到2300 Tokens/s,與非超節(jié)點相比提升近4倍。超節(jié)點架構(gòu)能更好地支持混合多專家MoE大模型的推理,可以實現(xiàn)“一卡一專家”,一個超節(jié)點可以支持384個專家并行推理,極大提升效率;同時,超節(jié)點還可以支持“一卡一算子任務”,靈活分配資源,提升任務并行處理,減少等待,將算力有效使用率(MFU)提升50%以上。
對于萬億、十萬億參數(shù)的大模型訓練任務,在云數(shù)據(jù)中心,還能將432個超節(jié)點級聯(lián)成最高16萬卡的超大集群;同時,超節(jié)點還可以支持訓推算力一體部署,如“日推夜訓”,訓推算力可靈活分配,幫助客戶資源使用最優(yōu)。
當前,昇騰AI云服務已經(jīng)成為AI基礎(chǔ)設(shè)施的最優(yōu)選擇,為科大訊飛、新浪、硅基流動、面壁智能、中科院、360等超過1300家客戶提供澎湃的AI算力,加速千行萬業(yè)智能化升級。
盤古大模型5.5全面升級 加速重塑千行萬業(yè)
一直以來,華為云盤古大模型都堅定地聚焦行業(yè),在解難題、做難事的道路上不斷攻堅克難,重塑千行萬業(yè)。本次大會上,華為云重磅發(fā)布盤古大模型5.5,五大基礎(chǔ)模型全面升級,為行業(yè)提供全新價值。
盤古大模型5.5正式發(fā)布
盤古自然語言處理NLP大模型:全新的718B 深度思考模型是一個由256個專家組成的MoE大模型,在知識推理、工具調(diào)用、數(shù)學等領(lǐng)域大幅增強,處于業(yè)界第一梯隊。盤古大模型基于昇騰云的全棧軟硬件訓練,標志著基于昇騰可以打造出世界一流大模型。
同時,盤古大模型5.5在高效長序列、低幻覺、快慢思考融合、Agent等特性上進行升級,提升用戶體驗。例如,盤古提出了自適應快慢思考合一的技術(shù),通過構(gòu)建難度感知的快慢思考數(shù)據(jù)和兩階段漸進訓練,實現(xiàn)模型根據(jù)問題難易程度自適應地切換快慢思考,簡單問題敏捷回復,復雜問題深度思考,整體模型推理效率提升8倍。盤古深度研究DeepDiver通過長鏈難題合成、漸進式獎勵等關(guān)鍵技術(shù),可以在網(wǎng)頁搜索、常識性問答等應用上獲得很高的執(zhí)行效率,如可以在5分鐘內(nèi)完成超過10跳的復雜問答、生成萬字以上的專業(yè)調(diào)研報告等,大幅提升工作效率。
華為諾亞方舟實驗室主任王云鶴
盤古大模型的使命是讓各個行業(yè)不必重復“造輪子”,不必從零打造自己的企業(yè)大模型。華為云面向企業(yè)提供了盤古基礎(chǔ)及行業(yè)大模型、預訓練和后訓練語料、數(shù)據(jù)工程工具集、模型訓練工具集、行業(yè)裁判模型、行業(yè)評測平臺六大核心能力,通過華為云ModelArts完備的工具鏈和工程化的方法,將企業(yè)自己沉淀的數(shù)據(jù)資產(chǎn),進行高質(zhì)量的增訓、微調(diào)和強化學習,讓行業(yè)客戶能夠快速打造自己的專業(yè)大模型。
中國農(nóng)業(yè)科學院在盤古大模型基礎(chǔ)上,增訓海量專業(yè)文獻與跨物種多組學數(shù)據(jù),構(gòu)建了面向育種領(lǐng)域的農(nóng)業(yè)科學發(fā)現(xiàn)大模型,實現(xiàn)精準農(nóng)業(yè)專業(yè)知識問答、高效基因分析和定向位點設(shè)計,縮短了早期研發(fā)周期,提升了目標性狀改良精準性。當前,農(nóng)科院團隊已基于該農(nóng)業(yè)科研智能系統(tǒng)成功地對一種水稻材料進行了株型改良,株高較常規(guī)品種降低約25%,抗倒伏能力顯著提升,同時產(chǎn)量不受影響。
會上,張平安發(fā)布盤古醫(yī)學、金融、政務、工業(yè)、汽車五個具備深度思考能力的行業(yè)自然語言大模型,加速行業(yè)智能化,并將在6月底正式上線。
盤古多模態(tài)大模型:全新發(fā)布基于盤古多模態(tài)大模型的世界模型,可以為智能駕駛、具身智能機器人的訓練,構(gòu)建所需要的數(shù)字物理空間,實現(xiàn)持續(xù)優(yōu)化迭代。
例如,在智能駕駛領(lǐng)域,輸入首幀的行車場景、行車控制信息和路網(wǎng)數(shù)據(jù),盤古世界模型就可以生成每路攝像頭的行車視頻和激光雷達的點云,能夠為智能駕駛生成大量的訓練數(shù)據(jù),而無需依賴高成本的路采。廣汽集團與華為云深度合作,依托盤古多模態(tài)大模型,實現(xiàn)了2D視頻模態(tài)與3D點云模態(tài)的像素級對應,在數(shù)分鐘內(nèi)即可完成復雜場景Corner case的復原,為端到端模型“兩天一個版本”的高效迭代提供了強力支撐。
同時,華為云也基于盤古大模型的多模態(tài)能力及思維能力,正式發(fā)布CloudRobo具身智能平臺。該平臺整合了數(shù)據(jù)合成、數(shù)據(jù)標注、模型開發(fā)、仿真驗證、云邊協(xié)同部署以及安全監(jiān)管等端到端能力,提供具身多模態(tài)生成大模型、具身規(guī)劃大模型、具身執(zhí)行大模型三大核心模型,加速具身智能創(chuàng)新。面對具身智能領(lǐng)域機器人品類多、傳感器類型多、接口協(xié)議多等挑戰(zhàn),華為云提出了機器人到云的聯(lián)接協(xié)議R2C(Robot to Cloud),希望與機器人伙伴與行業(yè)組織共同打造R2C開放協(xié)議,讓更多的機器人本體能夠擁有高效安全的智能。
盤古預測大模型:采用業(yè)界首創(chuàng)的triplet transformer統(tǒng)一預訓練架構(gòu),將不同行業(yè)的數(shù)據(jù),包括工藝參數(shù)的表格數(shù)據(jù),設(shè)備運行日志的時間序列數(shù)據(jù),產(chǎn)品檢測的圖片數(shù)據(jù)進行統(tǒng)一的三元組編碼,并在同一框架內(nèi)高效處理和預訓練,極大地提升預測大模型的精度,并大幅提升跨行業(yè)、跨場景的泛化性。
海螺水泥采用盤古大模型,實現(xiàn)了熟料3天、28天強度預測,科學指導生料配料,在保證質(zhì)量的基礎(chǔ)上,可以添加更多城市建筑廢棄物、工業(yè)廢棄物等固廢作為混合材料,降低成本的同時,也可以協(xié)助處理城市廢棄物,修復生態(tài)環(huán)境。
同時,盤古預測大模型已被應用于鋼鐵、有色金屬、供熱等多個行業(yè),在工業(yè)領(lǐng)域幫助客戶實現(xiàn)工藝優(yōu)化和系統(tǒng)尋優(yōu)。如寶武鋼鐵高爐大模型正式上線運行以后,出鐵溫度合格率穩(wěn)定在90%以上,每噸鐵水可節(jié)省2公斤燃料,一個高爐每天就可節(jié)省20噸燃料。云南鋁業(yè)通過坤安大模型,在電解鋁場景預測氧化鋁添加間隔、氟化鋁添加量和出鋁量,提升了電解槽綜合生產(chǎn)指標,每年降低電耗2600萬度。天津能源使用盤古預測大模型,精準預測了供熱需求,在剛結(jié)束的供暖季,實現(xiàn)了100%的均衡供熱,能耗降低了10%。
盤古科學計算大模型:華為云持續(xù)拓展盤古科學計算大模型與更多科學應用領(lǐng)域的結(jié)合。深圳氣象局基于盤古,進一步升級了“智霽”大模型,形成區(qū)域集合預報,更全面的反映天氣系統(tǒng)的演變,做出更精準的天氣預報。重慶市氣象局針對成渝地區(qū)降水局地性強,且降水強度大的特點,基于盤古打造了“天資·12h“氣象大模型,提升災害天氣的日內(nèi)預報預警能力。深圳能源使用大模型進行中短期的風光發(fā)電量預測,及時做好發(fā)電側(cè)的調(diào)節(jié),提升能源開發(fā)效率。
盤古計算機視覺CV大模型:華為云發(fā)布全新MoE架構(gòu)的300億參數(shù)視覺大模型,這是目前業(yè)界最大的視覺模型,并全面支持圖像、紅外、激光點云、光譜、雷達等多維度、泛視覺的感知、分析與決策。另外,盤古CV大模型通過跨維度生成模型,構(gòu)建油氣、交通、煤礦等工業(yè)場景稀缺的泛視覺故障樣本庫,極大地提升了業(yè)務場景的可識別種類與精度。
中國石油基于盤古打造了昆侖大模型,在勘探開發(fā)、煉油化工、裝備制造等100多個專業(yè)領(lǐng)域開展人工智能深度應用。在裝備制造領(lǐng)域,攻克輸送管氣孔、裂紋等亞毫米級缺陷識別難題,缺陷識別效率提升約40%,人工強度降低約25%。
在過去的一年中,盤古大模型持續(xù)深耕行業(yè),已在30多個行業(yè)、500多個場景中落地,在政務、金融、制造、醫(yī)療、煤礦、鋼鐵、鐵路、自動駕駛、氣象等領(lǐng)域發(fā)揮巨大價值,重塑千行萬業(yè)。
會上,華為云宣布品牌升級。在AI時代,華為云立志成為AI算力與技術(shù)的創(chuàng)新先鋒,并且成就每一個客戶成為行業(yè)智能化先鋒。華為云將和客戶、伙伴、開發(fā)者一起,加速千行萬業(yè)的智能化。
華為云持續(xù)創(chuàng)新,用AI重塑云服務
為了幫助客戶更好地擁抱AI,華為云不僅在基礎(chǔ)設(shè)施和大模型方面持續(xù)創(chuàng)新,也在不斷通過AI技術(shù)重塑云服務,打造AI Native的云,讓客戶通過華為云服務,更便捷地擁抱AI創(chuàng)新,加速智能化。
會上,華為云CTO張宇昕發(fā)布最佳企業(yè)Agent平臺ModelArts Versatile。它內(nèi)置了各類業(yè)務場景的經(jīng)驗模板,支持自助式的智能體開發(fā),賦能企業(yè)組織與開發(fā)者構(gòu)建更專業(yè)、更高產(chǎn)、更主動的企業(yè)級智能體。Versatile還提供了智能化工具鏈,實現(xiàn)Agent分鐘級工作輸出,達成傳統(tǒng)人工天級工作成果,有效降低Agent開發(fā)的復雜度與專業(yè)性。
同時,華為云基于AI算力、盤古大模型和Agent能力,對智能助手盤古Doer進行全面升級。例如,盤古深度思考大模型能讓智能助手的意圖理解、任務規(guī)劃和執(zhí)行的能力全面提升,讓盤古Doer更聰明;圍繞業(yè)務場景,用領(lǐng)域知識打造專業(yè)領(lǐng)域模型,讓盤古Doer更懂行、更專業(yè);從客戶使用全流程的視角,以解決用戶關(guān)鍵問題為目標構(gòu)建Agentic工作流;根據(jù)任務靈活調(diào)用場景化工具集,同時以華為云客服積累的海量客戶反饋作為評測集,讓盤古Doer在執(zhí)行任務上更精準、更高效。
華為云CTO張宇昕宣布盤古助手全面升級
CodeArts Doer讓軟件開發(fā)更快更準更穩(wěn):構(gòu)建了業(yè)界最全的6大開發(fā)領(lǐng)域?qū)I(yè)Agent,覆蓋項目經(jīng)理、產(chǎn)品管理、開發(fā)、構(gòu)建、測試和部署全流程,將軟件研發(fā)端到端提效40%以上。通過分級記憶機制和動機性遺忘機制,讓CodeArts Doer像人腦一樣既能關(guān)聯(lián)有用的知識,又能主動淘汰無效信息,生成代碼更符合用戶需求。打造了全鏈路安全防護,內(nèi)嵌13個企業(yè)級代碼安全防護規(guī)范,同時基于多Agent協(xié)同提供自愈工作流,讓軟件漏洞可以被分鐘級感知和修復。
基于CodeArts Doer高效開發(fā)能力,三星堆博物館在兩天內(nèi)快速實現(xiàn)了游客數(shù)字應用的開發(fā),豐富了游客體驗。
GaussDB Doer打造專業(yè)的數(shù)字DBA:在精準查詢方面,基于盤古大模型,利用全球上萬個GaussDB運維案例的百億Tokens數(shù)據(jù)微調(diào),構(gòu)建專業(yè)運維基模型;同時為客戶提供基于故障現(xiàn)象、觸發(fā)條件、定位流程三元組的動態(tài)知識圖譜,持續(xù)沉淀企業(yè)自身數(shù)據(jù)庫運維經(jīng)驗,通過RAG讓問題查詢更精準。在高效處置方面,將數(shù)據(jù)庫排障流程知識嵌入到模型思維鏈中進行訓練;同時面向不同故障構(gòu)建專業(yè)Agent,調(diào)用對應的50+處置工具,實現(xiàn)Agentic AlOps;同時,GaussDB Doer 還全面支持MCP協(xié)議,讓客戶可以靈活選擇外部工具。讓故障處置更加高效。
MetaStudio構(gòu)建智能交互數(shù)字人:通過個性化TTS語音合成,數(shù)字人的音色相似度、讀音準確率都達到業(yè)界領(lǐng)先,同時結(jié)合更精準的口型匹配、更豐富的動作,實現(xiàn)數(shù)字人形象高擬真。通過3A降噪、AI-VAD精準人聲檢測,數(shù)字人交互時可以隨時打斷,轉(zhuǎn)換話題。更加符合真實溝通場景。基于抗網(wǎng)損和智能路由算法,將問答響應時間控制在2秒以內(nèi),使交互體驗更加友好?,F(xiàn)在開發(fā)者只需要調(diào)用1個SDK,通過5行代碼就可以集成MetaStudio的數(shù)字人AI能力。
端到端大模型安全方案:華為云提供包含語料數(shù)據(jù)安全、模型安全、推理安全、應用安全在內(nèi)的全生命周期模型安全方案。其中,本次華為云重磅發(fā)布大模型防火墻,通過提示詞攻擊防范和敏感內(nèi)容實時檢測,保障大模型推理安全。一方面識別越獄、角色扮演、惡意指令等主流提示詞攻擊手段;另一方面預置了百萬級規(guī)則庫,針對提示詞攻擊的檢出率大于95%,整體能夠幫助模型綜合安全評測得分提升20%以上。
構(gòu)建新生態(tài),給全球開發(fā)者更優(yōu)選擇
華為云是華為公司面向開發(fā)者的統(tǒng)一底座,目標打造昇騰、鴻蒙、鯤鵬、GaussDB、歐拉等各項根技術(shù)的生態(tài),給廣大開發(fā)者一個更優(yōu)的選擇。如今,華為云開發(fā)者已超過800萬;華為云作為云底座,支持鯤鵬、昇騰、鴻蒙等生態(tài)的開發(fā)者總計達到1300萬。
為了給開發(fā)者提供AI時代的智能應用開發(fā)體驗,華為開發(fā)者空間全面升級,提供的開發(fā)資源從基礎(chǔ)算力擴展到AI原生應用引擎、鴻蒙云手機等上層應用?;谶@些全新的開發(fā)資源,開發(fā)者可以便捷的調(diào)用算力、大模型、Agent工具等華為云服務來開發(fā)智能應用。
此外,華為開發(fā)者大賽2025賽季也宣布正式啟動。本屆大賽首次設(shè)置昇騰AI全棧技術(shù)賽道,融合鴻蒙原生、開發(fā)者空間,邀請全球高校學子和技術(shù)精英們通過開發(fā)者大賽,勇闖智能新世界。
未來兩天,華為云還將帶來豐富的專題論壇、圓桌論壇,以及Codelabs、極客挑戰(zhàn)賽、掃地僧見面會等開發(fā)者實操活動,開發(fā)者可以和華為專家面對面,共同碰撞技術(shù)創(chuàng)新的火花。