“AI創(chuàng)新需要新形態(tài)的云基礎(chǔ)設(shè)施?!卑⒗镌聘笨偛?、彈性計算及存儲產(chǎn)品線負(fù)責(zé)人吳結(jié)生表示,阿里云整合底層的計算、存儲、網(wǎng)絡(luò)等資源,實現(xiàn)了統(tǒng)一調(diào)度和軟硬一體優(yōu)化,以滿足模型訓(xùn)練和推理的爆發(fā)式AI算力需求。
基于全新的CIPU2.0,阿里云新推出磐久AI服務(wù)器,實現(xiàn)單機(jī)16卡、顯存1.5T以上,支持Solar RDMA互聯(lián)。磐久AI服務(wù)器采用超鈦金電源實現(xiàn)97%以上的高能效,并可通過AI算法預(yù)測GPU故障,準(zhǔn)確率達(dá)92%,保障 AI 算力的性能和穩(wěn)定性。
在存儲方面,阿里云并行文件存儲CPFS實現(xiàn)端到端全鏈路性能提升,單客戶端吞吐達(dá)25GB/s,高性能數(shù)據(jù)流動達(dá)到100GB/s,為AI智算提供指數(shù)級擴(kuò)展存儲能力。
為AI設(shè)計的高性能網(wǎng)絡(luò)架構(gòu)HPN7.0,性能和穩(wěn)定性也再次提升,其中,集合通信性能提升1倍以上,模型端到端訓(xùn)練性能提升10%以上。
通過底層計算、存儲、網(wǎng)絡(luò)等基礎(chǔ)設(shè)施的升級,阿里云靈駿集群可提供超大規(guī)模、超強(qiáng)性能的智能算力,萬卡規(guī)模性能線性度超過96%,并行存儲吞吐20TB/s,萬卡規(guī)模下網(wǎng)絡(luò)帶寬利用率超過99%,可支持單集群十萬卡級別AI算力規(guī)模。
面向AI業(yè)務(wù),阿里云計算產(chǎn)品也大幅演進(jìn)更新。本次云棲大會上,容器服務(wù)ACK面向AI實現(xiàn)重磅升級,大模型應(yīng)用冷啟動延遲降低85%,并可提供15000個超大規(guī)模節(jié)點支持。同時,容器計算服務(wù)ACS 即將推出 GPU容器算力。