（復(fù)旦大學(xué)教授肖仰華）

肖仰華分享了通過語法復(fù)雜度指標(biāo)和累積分布采樣方法篩選高質(zhì)量語料的實(shí)踐，實(shí)驗(yàn)表明，從100億個(gè)token的財(cái)經(jīng)語料中僅篩選20%的高質(zhì)量數(shù)據(jù)進(jìn)行訓(xùn)練，對(duì)模型進(jìn)行持續(xù)預(yù)訓(xùn)練，相比于全量數(shù)據(jù)持續(xù)預(yù)訓(xùn)練，在領(lǐng)域問答任務(wù)上的準(zhǔn)確率提升1.7%。

上海交通大學(xué)特聘教授翟廣濤強(qiáng)調(diào)無論是精煉數(shù)據(jù)還是合成數(shù)據(jù)，都需要質(zhì)量優(yōu)先，而數(shù)據(jù)質(zhì)量分析要從“體驗(yàn)質(zhì)量”入手，考慮人的體驗(yàn)，也考慮機(jī)器的體驗(yàn)，進(jìn)而在數(shù)據(jù)為中心的范式下進(jìn)一步提升大模型性能。

海天瑞聲CEO李科從產(chǎn)業(yè)實(shí)踐角度分享了全球AI數(shù)據(jù)行業(yè)的發(fā)展趨勢。他認(rèn)為，數(shù)據(jù)產(chǎn)業(yè)正在經(jīng)歷從勞動(dòng)密集型向技術(shù)密集型和知識(shí)密集型的重大轉(zhuǎn)型。通過動(dòng)捕數(shù)據(jù)、自動(dòng)駕駛標(biāo)注、思維鏈數(shù)據(jù)集等多個(gè)實(shí)際案例，李科展示了高質(zhì)量數(shù)據(jù)如何服務(wù)千行百業(yè)。

上海庫帕思科技有限公司董事長山棟明說，模型之變引領(lǐng)“數(shù)據(jù)質(zhì)變”，他表示高質(zhì)量數(shù)據(jù)集應(yīng)滿足VALID2（鮮活度、真實(shí)性、大樣本、完整性、多樣性、高知識(shí)密度）要求，并詳細(xì)介紹了語料數(shù)據(jù)在方法論、基礎(chǔ)設(shè)施和行業(yè)生態(tài)三個(gè)方面的體系化重構(gòu)探索。

技術(shù)創(chuàng)新推動(dòng)數(shù)據(jù)價(jià)值釋放

作為第二引擎，AI技術(shù)正在深刻改變數(shù)據(jù)處理和利用的方式。

光輪智能總裁楊海波表示，具身智能對(duì)數(shù)據(jù)的需求量是大語言模型和自動(dòng)駕駛的上千倍。合成數(shù)據(jù)是實(shí)現(xiàn)具身智能Scaling Law的重要基礎(chǔ)，他強(qiáng)調(diào)，合成數(shù)據(jù)必須滿足四個(gè)必備條件：真實(shí)的物理交互、人在環(huán)的示范、場景足夠豐富和數(shù)據(jù)閉環(huán)驗(yàn)證。楊海波認(rèn)為，“站在岸上學(xué)不會(huì)游泳”，機(jī)器人需要進(jìn)入物理可交互的環(huán)境去獲取物理世界反饋來優(yōu)化模型。

螞蟻技術(shù)研究院數(shù)據(jù)智能實(shí)驗(yàn)室負(fù)責(zé)人趙俊博認(rèn)為，下一代RL訓(xùn)練法則應(yīng)該從“對(duì)與錯(cuò)”轉(zhuǎn)向“好與更好”。他探索的Rubric即Reward新機(jī)制，只需使用5k數(shù)據(jù)和1萬條評(píng)分標(biāo)準(zhǔn)構(gòu)建高效RL回路，就能擺脫對(duì)海量SFT數(shù)據(jù)的依賴，實(shí)現(xiàn)品味對(duì)齊。他說，這種方法可以在人文、創(chuàng)意、情感等領(lǐng)域?qū)崿F(xiàn)風(fēng)格化生成，去除機(jī)器味道。

LanceDB CTO徐磊分享了開源多模態(tài)數(shù)據(jù)湖的創(chuàng)新實(shí)踐。他介紹，與傳統(tǒng)的Parquet、ORC等格式不同，新設(shè)計(jì)的Lance格式既是文件格式又是表格式，具備零拷貝數(shù)據(jù)演化和高效點(diǎn)查兩大核心特性。徐磊舉了Runway ML的案例，該公司將PB級(jí)視頻數(shù)據(jù)導(dǎo)入Lance后，能夠像使用SQL一樣簡單管理，實(shí)現(xiàn)30多位AI工程師在同一個(gè)主表上并行進(jìn)行特征工程迭代。

NVIDIA互聯(lián)網(wǎng)解決方案架構(gòu)高級(jí)總監(jiān)陳川介紹了驅(qū)動(dòng)生成式AI的高效數(shù)據(jù)處理創(chuàng)新，分享了從文本到多模態(tài)的GPU加速解決方案。

在圓桌討論環(huán)節(jié)，專家圍繞展開Data Infra的重構(gòu)與機(jī)遇深入討論。專家一致認(rèn)為，隨著計(jì)算范式的變化，數(shù)據(jù)處理技術(shù)無論主動(dòng)還是被動(dòng)，都需要重構(gòu)與再定義。重構(gòu)是為了解決已經(jīng)面臨的問題，再定義則是著眼于未來，解決可能面臨的問題。

本次論壇展示了數(shù)據(jù)與AI雙引擎協(xié)同發(fā)展的最新成果，為智能時(shí)代數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)提供了參考和實(shí)踐路徑。與會(huì)專家表示，只有實(shí)現(xiàn)數(shù)據(jù)與AI的深度融合，建立完善的數(shù)據(jù)標(biāo)準(zhǔn)體系和質(zhì)量評(píng)估框架，才能真正釋放智能技術(shù)的巨大潛力，推動(dòng)智能時(shí)代向更高層次發(fā)展。

xiesc