(騰訊云副總裁 李力)

集合優(yōu)勢云產(chǎn)品,打造高性能AI基礎(chǔ)設(shè)施

騰訊云智算整合了騰訊云高性能計算HCC、高性能網(wǎng)絡(luò)IHN星脈、高性能云存儲、加速框架、容器、向量數(shù)據(jù)庫、智算套件等騰訊云優(yōu)勢產(chǎn)品,能夠為AI創(chuàng)新輸出性能領(lǐng)先、多芯兼容、靈活部署的智算產(chǎn)品能力。

騰訊云異構(gòu)計算副總經(jīng)理宋丹丹介紹,騰訊云HCC高性能計算集群擁有全球領(lǐng)先的算力性能,可以達到比原廠商推薦優(yōu)化19%到30%的性能。HCC可以提供業(yè)界最高的3.2T超高互聯(lián)帶寬,算力性能較前代提升高達3倍。

騰訊云智算除了具有領(lǐng)先的性能表現(xiàn),在部署上也非常靈活,支持公有云、私有云以及分布式云的部署。騰訊專有云TCE研發(fā)負責(zé)人王旻表示,不同客戶對彈性、靈活性、數(shù)據(jù)隱私和自主可控的需求各不相同,智算基礎(chǔ)設(shè)施也需要滿足公有云和專有云等多種模式。同時,除了智算能力外,也會給私有化客戶帶來其他一些收益:全面安全合規(guī)、開放兼容,覆蓋智算、通算、超算等多種場景的全棧智能解決方案,行業(yè)云能力,以及騰訊云完整運營/運維的產(chǎn)品與理念。

騰訊云虛擬化產(chǎn)品總經(jīng)理陳立東介紹了新發(fā)布的AI大模型加速解決方案TACO。其中,TACO-LLM,加速語言生成的效率,可以獲得1.8倍到2.5倍的性能提升,百萬Token推理成本低于0.5美元,運營成本降低超過一倍,并與業(yè)界的開源模型都完成了適配;TACO-DiT是一款專為DiT模型設(shè)計的并行推理引擎,旨在解決高清圖像與長時一致性視頻生成中,因輸入序列增長導(dǎo)致的計算量激增問題;面向傳統(tǒng)AI,騰訊云提供qGPU技術(shù)提升GPU的利用率。

騰訊云網(wǎng)絡(luò)VPC產(chǎn)品負責(zé)人王營表示,騰訊云智能高性能網(wǎng)絡(luò)IHN星脈面向AI場景,打造超高速規(guī)模網(wǎng)絡(luò)。IHN支持超10萬卡的集群,并支持異構(gòu)網(wǎng)絡(luò)接入。

AI時代,場景對存儲的需求也發(fā)生了很大變化。騰訊云存儲產(chǎn)品總經(jīng)理陳崢表示,騰訊云智算所采用的AIGC云存儲解決方案可實現(xiàn)對AIGC生命周期的全覆蓋,高度匹配大模型的各類存儲需求。在數(shù)據(jù)采集環(huán)節(jié)騰訊云提供數(shù)據(jù)遷移服務(wù);數(shù)據(jù)清洗環(huán)節(jié)和訓(xùn)練推理環(huán)節(jié),騰訊云通過GooseFS提供分布式緩存能力,可以將數(shù)據(jù)調(diào)度到近計算節(jié)點,加速數(shù)據(jù)的訪問;數(shù)據(jù)治理環(huán)節(jié),數(shù)據(jù)萬象服務(wù)可以為海量的預(yù)訓(xùn)練數(shù)據(jù)和推理數(shù)據(jù)提供數(shù)據(jù)質(zhì)量的保證,確保數(shù)據(jù)的合規(guī)性,保障大模型輸入和輸出都有可靠的質(zhì)量。

騰訊云分布式云產(chǎn)品負責(zé)人楊志華在分享中表示,騰訊云分布式云的解決方案通過把公有云部署在本地,使得公有云能力可以1:1復(fù)制到用戶的本地,并提供高達400種云產(chǎn)品的選擇,既包括常用的計算網(wǎng)絡(luò)存儲、數(shù)據(jù)庫、中間件,也包括眾多的辦公協(xié)同、營銷工具。目前,分布式云已有超過20個行業(yè)得到了廣泛的實踐和產(chǎn)品的打磨,幫助企業(yè)構(gòu)建數(shù)據(jù)本地化的云平臺。

騰訊云AI企業(yè)級自研分布式向量數(shù)據(jù)庫接入AI的效率比傳統(tǒng)方案提升10倍,運行穩(wěn)定性高達99.99%。支持千億級向量規(guī)模、500萬并發(fā)吞吐,并且相同成本情況下性能達到業(yè)界的1.5-5倍。

多場景落地,釋放AI生產(chǎn)力

這目前,騰訊云智算服務(wù)了90%以上的國內(nèi)頭部大模型頭部企業(yè),也幫助了一大批IDC廠商走向AIDC轉(zhuǎn)型,在互聯(lián)網(wǎng)企業(yè)、大模型廠商、金融行業(yè)、政企行業(yè)、AI開發(fā)等多個場景,騰訊云智算也在助力客戶加速釋放AI生產(chǎn)力。

元象科技的大語言模型是廣東省2023年第一批通過國家備案的大語言模型,最新版本的MoE模型只用了數(shù)百億級別的預(yù)算量就可以達到數(shù)千億級別的模型效果。元象大模型產(chǎn)品中心總監(jiān)張玥介紹,騰訊云提供的充足的算力、可靠的算力平臺和先進的網(wǎng)絡(luò),有效支持了元象的大語言模型的順利落地,讓大語言模型更好的發(fā)揮了效能。

廣州尚航信息科技股份有限公司深耕算力基礎(chǔ)設(shè)施服務(wù)領(lǐng)域,提供業(yè)界領(lǐng)先的智算中心、AI算力、云計算。為互聯(lián)網(wǎng)、人工智能、政府、新能源等多個行業(yè)提供AIDC綜合服務(wù)、AI算力、云綜合服務(wù)等,是客戶及合作伙伴最可靠的智算基礎(chǔ)設(shè)施服務(wù)商。尚航科技與騰訊云戰(zhàn)略合作以來,雙方基于互信共贏的發(fā)展戰(zhàn)略,共筑AI算力底座。尚航科技借助騰訊云技術(shù)拓展業(yè)務(wù)版圖,打造尚云SunClouds云算力平臺,依托尚航堅實的AIDC基礎(chǔ)設(shè)施、GPU算力集群、本地網(wǎng)絡(luò)和騰訊云TCE技術(shù),尚航搭建了具有全棧IaaS+PaaS+安全能力的綜合型算力平臺,為眾多行業(yè)客戶提供高效、穩(wěn)定且安全的算力資源。尚航與騰訊云的戰(zhàn)略合作,將為客戶提供更便捷的一站式算力服務(wù)體驗,同時也將推動AI算力行業(yè)的發(fā)展。未來期待與更多行業(yè)伙伴攜手,響應(yīng)國家戰(zhàn)略,助推新質(zhì)生產(chǎn)力發(fā)展,為數(shù)字經(jīng)濟的發(fā)展貢獻力量。

會上,騰訊云智算還宣布和海南怡和中能實業(yè)投資有限公司、上海燧原科技股份有限公司、廣州尚航信息科技股份有限公司等共建產(chǎn)業(yè)高效能云智算中心。本次合作簽約,將充分發(fā)揮各方優(yōu)勢互補,圍繞研發(fā)、服務(wù)、銷售等全領(lǐng)域開展企業(yè)數(shù)智化轉(zhuǎn)型合作和,共同推進云計算和人工智能產(chǎn)業(yè)融合、創(chuàng)新及發(fā)展。

“生成式AI的興起給整個云基礎(chǔ)設(shè)施建設(shè)提出了更高的要求,隨著騰訊云智算的發(fā)布,我們希望能夠一站式地把高性能計算、高性能存儲、高性能網(wǎng)絡(luò)等各方面的優(yōu)勢技術(shù)能力,為企業(yè)客戶的AI創(chuàng)新探索,創(chuàng)造更多價值?！彬v訊云副總裁沙開波表示。

崔歡歡