AI基礎(chǔ)設(shè)施亮點(diǎn):專為大模型設(shè)計(jì)的Ironwood處理器
新發(fā)布的谷歌第7代張量處理器(TPU)Ironwood。這款TPU專為大模型設(shè)計(jì),比如大型語言模型(LLM)、混合專家(MoE)模型、推理模型,這類模型通常需要大量的并行處理和高性能的內(nèi)存訪問。
Ironwood的每個(gè)芯片峰值計(jì)算能力達(dá)到4614 TFLOPs,可應(yīng)對(duì)AI工作負(fù)載,且Ironwood有兩種芯片配置(256個(gè)芯片和9216個(gè)芯片),當(dāng)擴(kuò)展到9216個(gè)芯片時(shí),其運(yùn)算能力可達(dá)42.5 exaFLOP,是全球最大超級(jí)電腦El Capitan的24倍+,適合用來運(yùn)行復(fù)雜的AI模型。
谷歌還將Ironwood用來優(yōu)化AI超級(jí)計(jì)算機(jī)架構(gòu),提供更強(qiáng)大、高性能的計(jì)算資源給用戶。除此之外,AI超級(jí)計(jì)算機(jī)架構(gòu)也有其他軟硬件更新,比如更好的集群管理、更好的GKE推理能力等,來供使用者訓(xùn)練和運(yùn)行模型。
AI基礎(chǔ)設(shè)施部分,谷歌云還推出一個(gè)網(wǎng)絡(luò)基礎(chǔ)設(shè)施新服務(wù)Cloud WAN,來提供高性能的網(wǎng)絡(luò)連接,供企業(yè)應(yīng)對(duì)AI應(yīng)用帶來的高度分散網(wǎng)絡(luò)需求。
AI智能體亮點(diǎn):A2A協(xié)議、智能體管理、辦公流程自動(dòng)化、威脅檢測(cè)
AI智能體是大會(huì)亮點(diǎn)之一。
首先,谷歌發(fā)布了一個(gè)Agent-to-Agent協(xié)議(簡(jiǎn)稱A2A),讓開發(fā)者用來打造高互通性的智能體。也就是說,只要是按A2A協(xié)議開發(fā)的代理,就能跨平臺(tái)、跨服務(wù)彼此溝通。
這對(duì)使用者來說,可以選擇不同廠商的AI智能體組合使用,系統(tǒng)可以兼容這些不同來源的智能體。對(duì)企業(yè)來說,他們能在不同平臺(tái)或不同云服務(wù)間,統(tǒng)一管理各個(gè)智能體,減少技術(shù)負(fù)擔(dān)。這個(gè)A2A協(xié)議,目前已獲50多家企業(yè)支持。(如下圖)
不只如此,谷歌還在自家AI開發(fā)平臺(tái)Vertex AI中,新增很多AI智能體工具,比如智能體開發(fā)工具包Agent Development Kit(ADK),專門用來簡(jiǎn)化AI智能體的構(gòu)建、測(cè)試和部署執(zhí)行,據(jù)說不到100行代碼,就能完成智能體構(gòu)建。而且,這款A(yù)DK還支持MCP協(xié)議。
在這個(gè)ADK中,還有2項(xiàng)用來開發(fā)和部署智能體的工具,分別是Agent Garden和Agent Engine。其中,前者包含可直接使用的智能體模板和工具,來協(xié)助開發(fā)者快速打造AI智能體,后者則讓用戶將AI智能體程序部署到正式環(huán)境時(shí),不必重建整個(gè)智能體系統(tǒng),還能管理智能體程序的基礎(chǔ)設(shè)施、擴(kuò)展性、評(píng)估、監(jiān)控和安全等。
不過,谷歌預(yù)計(jì)今年第三季度提供ADK公開預(yù)覽版。
另一項(xiàng)AI代理亮點(diǎn)是Google Agentspace新功能,包括企業(yè)用戶可直接從Chrome搜索框來使用Agentspace的搜索、分析和信息整合功能,也能通過Agent Gallery(代理庫)來快速導(dǎo)入各種智能體,或是部署谷歌自家智能體。這些Agentspace新功能,目前只開放白名單用戶使用。
此外,谷歌還打造AI Agent Marketplace市集,收錄第三方各種AI代理,來讓用戶即插即用。甚至,他們還推出一項(xiàng)實(shí)用的自動(dòng)化流程工具Google Workspace Flows,用戶用自然語言描述想完成的流程,AI代理就會(huì)自動(dòng)設(shè)計(jì)整個(gè)邏輯流程,不必寫程序就能完成跨應(yīng)用的工作自動(dòng)化。
就連這次新推的AI威脅檢測(cè)和反應(yīng)服務(wù)Google Unified Security,都與AI智能體有關(guān),借助新Gemini模型驅(qū)動(dòng)的AI智能體來自動(dòng)分析系統(tǒng)、檢測(cè)威脅并給予建議。