商湯大裝置全面支撐大模型訓(xùn)練與推理、生成式AI與應(yīng)用的基礎(chǔ)設(shè)施

激發(fā)“智能基建革新”,加速大模型和生成式AI落地

《白皮書》以商湯基于AI大裝置的多場(chǎng)景實(shí)踐案例為例,闡述了從大型模型訓(xùn)練到生成式AI應(yīng)用的全過程,再到區(qū)域智算中心的建設(shè)與運(yùn)營(yíng),深入挖掘了這一全生命周期中的商業(yè)創(chuàng)新價(jià)值。

·          大模型訓(xùn)練場(chǎng)景

商湯大裝置為商湯自研“日日新SenseNova”大模型體系的訓(xùn)練迭代提供了強(qiáng)大算力支撐,以及1.5萬(wàn)億token和6000億中文高質(zhì)量數(shù)據(jù),推出了商量大語(yǔ)言模型,AIGC等大模型,并在多個(gè)權(quán)威大模型測(cè)評(píng)榜單中位居前列。

商湯還助力某業(yè)界領(lǐng)先的認(rèn)知智能公司打造了高性能算力平臺(tái),提高模型訓(xùn)練速度和效率,已成功推出了400億參數(shù)量的大模型,快速滿足不同領(lǐng)域和場(chǎng)景需求。

·           生成式AI應(yīng)用場(chǎng)景

依托商湯大裝置,商湯聯(lián)合中公教育發(fā)布虛擬數(shù)字講師“小鹿老師”,相比傳統(tǒng)人工直播,不僅降低了80%錄課成本,還提高了2~3倍的課程豐富度,實(shí)現(xiàn)教學(xué)質(zhì)量和效率雙重提升。

商湯還助力微博打造“營(yíng)銷大模型”,讓每位博主都能擁有自己的AI營(yíng)銷助手,短短數(shù)月便有超7000位微博達(dá)人采用AIGC生成69萬(wàn)篇文案,采用率高達(dá)95%。

·           智算中心建設(shè)與運(yùn)營(yíng)

今年10月,商湯與重慶南岸區(qū)攜手打造的“重慶人工智能計(jì)算中心(AIDC)”,以國(guó)產(chǎn)化算力為核心,首期建設(shè)峰值算力達(dá)100 Petaflops,為西南地區(qū)的各行各業(yè)、科研機(jī)構(gòu)提供AI算力、大模型訓(xùn)練、推理部署和應(yīng)用開發(fā)等服務(wù)。

同時(shí),商湯還助力打造福建省大數(shù)據(jù)算力平臺(tái),第一階段已建成125 PFLOPS算力規(guī)模,并有多家數(shù)字生態(tài)領(lǐng)軍企業(yè)入駐,有望推動(dòng)生成式AI技術(shù)在醫(yī)療、金融、制造等各個(gè)產(chǎn)業(yè)中的落地。

《白皮書》最后指出,隨著新一代AI基礎(chǔ)設(shè)施的邊際成本持續(xù)下降、邊際效益持續(xù)增長(zhǎng),AI將普惠每一個(gè)人。

《白皮書》下載鏈接:https://www.sensecore.cn/whitepaper.pdf

songjy