文字編輯|宋雨涵
1
AlphaEvolve智能體
AI智能體的范式革命
據(jù)官方介紹,AlphaEvolve提升了谷歌數(shù)據(jù)中心、芯片設(shè)計(jì)以及AI訓(xùn)練流程的效率,還幫助設(shè)計(jì)了更快的矩陣乘法算法,并找到了一些數(shù)學(xué)開放問題的新解,展現(xiàn)出在多個(gè)領(lǐng)域廣泛應(yīng)用的巨大潛力。
具體而言,AlphaEvolve利用Gemini系列中的多個(gè)最新大模型,其工作流程包括從語言模型生成算法代碼到通過自動(dòng)化評估器對這些代碼進(jìn)行驗(yàn)證和評分,最后在算法數(shù)據(jù)庫中實(shí)現(xiàn)進(jìn)化機(jī)制,不斷優(yōu)化生成的方案。
谷歌DeepMind在其博客中透露,過去一年間,他們成功將AlphaEvolve所發(fā)現(xiàn)的算法部署到了谷歌的計(jì)算生態(tài)體系內(nèi),該體系涵蓋了數(shù)據(jù)中心、硬件以及軟件等多個(gè)層面。
其中,有一項(xiàng)算法雖看似簡單,卻成效斐然。這是一則啟發(fā)式算法,現(xiàn)已被應(yīng)用于谷歌大規(guī)模的集群管理系統(tǒng)Borg中,有力地協(xié)助谷歌實(shí)現(xiàn)了對數(shù)據(jù)中心的高效管理。此解決方案投入生產(chǎn)使用已逾一年,該啟發(fā)式調(diào)度算法能夠平均持續(xù)地恢復(fù)谷歌全球計(jì)算資源0.7%的效能。值得一提的是,其提供的代碼具有可解釋性、可調(diào)試性、可預(yù)測性,并且部署起來十分便捷。
此外,AlphaEvolve還提出了一種Verilog重寫方案。該方案針對矩陣乘法中一個(gè)關(guān)鍵且經(jīng)過高度優(yōu)化的算術(shù)電路,移除了其中不必要的位。不過,此提案必須通過嚴(yán)謹(jǐn)?shù)尿?yàn)證方法,來確保修改后的電路在功能上依然保持正確性。目前,這一方案已成功集成到谷歌即將推出的張量處理單元(TPU)當(dāng)中。
2
加速AI訓(xùn)練和推理
Gemini訓(xùn)練時(shí)間縮短1%
在AI的訓(xùn)練與推理環(huán)節(jié),AlphaEvolve正發(fā)揮著關(guān)鍵作用,有力推動(dòng)著AI性能以及研究速度的顯著提升。
AlphaEvolve通過創(chuàng)新的方法,將大型矩陣乘法操作拆解成更易處理的子問題。這一舉措成效顯著,使得在Gemini架構(gòu)的關(guān)鍵內(nèi)核上,運(yùn)算速度提高了23%,同時(shí)Gemini的訓(xùn)練時(shí)間也縮短了1%。不僅如此,它還大幅縮減了內(nèi)核優(yōu)化的工程耗時(shí),原本需要專家投入數(shù)周精力才能完成的工作,如今借助自動(dòng)化實(shí)驗(yàn),僅需數(shù)天便可達(dá)成。
此外,AlphaEvolve還具備優(yōu)化底層GPU指令的能力。通常,這一領(lǐng)域已經(jīng)由編譯器進(jìn)行了高度優(yōu)化,人類工程師一般不會直接對其進(jìn)行修改。然而,AlphaEvolve卻能在Transformer-based AI模型的FlashAttention內(nèi)核實(shí)現(xiàn)中,實(shí)現(xiàn)高達(dá)32.5%的加速效果。這一成果能夠幫助開發(fā)者迅速定位性能瓶頸,并將其無縫融入代碼庫,為AI開發(fā)帶來更多便利。
突破性成果:
從數(shù)學(xué)到硬件的全領(lǐng)域顛覆務(wù)
數(shù)學(xué)難題的AI解法
接吻數(shù)問題:在11維空間中,AlphaEvolve發(fā)現(xiàn)由593個(gè)球體組成的非重疊配置,刷新了該問題的下限紀(jì)錄,解決了自牛頓時(shí)代以來的幾何學(xué)挑戰(zhàn)。
矩陣乘法優(yōu)化:提出4×4復(fù)值矩陣乘法新算法,僅需48次標(biāo)量乘法,超越1969年Strassen算法的49次紀(jì)錄,打破56年“最優(yōu)解”神話。
開放問題表現(xiàn):在50余個(gè)數(shù)學(xué)分析、組合學(xué)問題中,75%復(fù)現(xiàn)已知最優(yōu)解,20%提出更優(yōu)方案,例如改進(jìn)Erd?s最小重疊問題的上界。
工業(yè)級應(yīng)用落地
數(shù)據(jù)中心優(yōu)化:部署啟發(fā)式調(diào)度算法至谷歌Borg系統(tǒng),實(shí)現(xiàn)全球計(jì)算資源0.7%的持續(xù)回收,年節(jié)省成本達(dá)數(shù)億美元。
芯片設(shè)計(jì)革新:優(yōu)化TPU關(guān)鍵電路邏輯,刪除冗余位并提升能效,相關(guān)方案已集成至下一代谷歌TPU。
未來展望:
從代碼生成到通用科學(xué)智能體
DeepMind計(jì)劃開放AlphaEvolve的早期學(xué)術(shù)訪問,并與“人類+AI”團(tuán)隊(duì)合作開發(fā)友好界面,推動(dòng)其在藥物研發(fā)、材料科學(xué)等領(lǐng)域的應(yīng)用。其通用性潛力預(yù)示,任何可算法化描述的問題——從可持續(xù)能源優(yōu)化到蛋白質(zhì)結(jié)構(gòu)預(yù)測——均可能成為下一戰(zhàn)場。
正如谷歌研究員Alexander Novikov所言:“AlphaEvolve的跨界能力令人震驚,它正在重新定義AI與人類智慧的協(xié)作邊界?!边@場由AI主導(dǎo)的科學(xué)革命,或?qū)㈤_啟一個(gè)算法自主進(jìn)化、算力極致釋放的新紀(jì)元。