01 「鍛造生成式AI基石」 多措并舉強化AI芯片能力

眾所周知,任何一個科技巨頭想要玩轉(zhuǎn)生成式AI,都離不開基礎(chǔ)設(shè)施給予強大的支撐。在算力、存力與運力上有著天然優(yōu)勢的云廠商也不例外,卻更善于借力使力,持續(xù)鍛造生成式AI的基石。

首先,強大算力是剛需,亞馬遜云科技很早就開啟了AI定制芯片的技術(shù)研發(fā),從芯片底層出發(fā)為AI算力提供澎湃的力量,同時也是面向GPU缺芯潮做出的積極應對。

然而,能在AI芯片上擁有完善的自研能力,全球的云廠商也是屈指可數(shù)。亞馬遜云科技就是其中的代表之一,并且自研AI芯片不僅認真專業(yè),而且具有長期性與持續(xù)性的特點。

不過,大家可能知道更早在2013年,亞馬遜云科技就推出了第一款自研芯片產(chǎn)品Amazon Nitro,從那以后開啟了自研創(chuàng)“芯”的新節(jié)奏。并且也打造了業(yè)界領(lǐng)先的硬件虛擬化引擎,支持云上安全、性能和創(chuàng)新。目前已經(jīng)到了第五代Amazon Nitro,只是Amazon Nitro定位在虛擬化芯片方面。

此外,在自研ARM架構(gòu)服務器CPU芯片起步也很早,在很多年前,亞馬遜云科技就開始云原生處理器芯片Amazon Graviton的產(chǎn)品推廣,這次2023 re:Invent中國行城市巡展北京首站也專門介紹了最新的Amazon Graviton 4。

簡單回顧一下Amazon Graviton的發(fā)展歷程,2018 re:Invent推出Amazon Graviton第一個版本,2019年12月推出Amazon Graviton 2。2021年推出性能較Graviton2提升25%、能耗降低60%的Graviton 3。2022 re:lnvent推出了Amazon Graviton3E芯片。2023re:lnvent再次升級推出了Amazon Graviton 4,性能更高更強,與Graviton 3相比Graviton 4的內(nèi)核增加50%,處理速度提高30%,內(nèi)存帶寬增加75%,數(shù)據(jù)庫應用提速40%,處理大型Java應用的速度提升45%。

? Amazon Graviton已獲得了用戶應用的強勁勢頭

可見,持續(xù)技術(shù)創(chuàng)新與迭代,造就了Amazon Graviton處理器,并成功為Amazon EC2中運行的云工作負載提供更好的性價比,更低的能耗。與基于x86的亞馬遜云科技同類實例相比,使用Amazon Graviton芯片的Amazon EC2實例最多可以降低20%成本,與同類Amazon EC2實例相比,在實現(xiàn)相同性能的情況下最多可節(jié)省60%的能源。目前,已有150個亞馬遜云科技計算實例采用了Amazon Graviton處理器,超過5家用戶其中包含Top100企業(yè)都正在使用這些實例。

在虛擬化芯片、CPU芯片領(lǐng)域亞馬遜云科技不僅如此契而不舍地追求卓越,而且在GPU領(lǐng)域也毅然奮發(fā)圖強。面向生成式AI和機器學習訓練的發(fā)展,亞馬遜云科技在2020年正式推出云端AI芯片Amazon Trainium。而當前最新亮相的Amazon Trainium2,將云端AI芯片的能力再次提升一個新檔次。

Amazon Trainium2的性能是第一代Amazon Trainium的四倍,能源效率是其前身的兩倍。相當于每個芯片可提供650 teraflops(每秒執(zhí)行一萬億次浮點運算)的計算能力。由10萬個Amazon Trainium芯片組成的集群可以在數(shù)周內(nèi)訓練出3000億參數(shù)的大語言模型。在此之前,重塑AI芯片的價值實在太難了。但是自從有了Amazon Trainium之后,讓更多面向大模型應用創(chuàng)新的企業(yè)看到了新的發(fā)展路徑。

可能某些不太熟悉公有云行業(yè)的朋友會有疑問,服務器CPU、GPU芯片不是有現(xiàn)成的英特爾、AMD、英偉達等商用產(chǎn)品,為什么亞馬遜云科技還要自己去研發(fā)、打磨?對于這個問題,亞馬遜云科技計算與存儲產(chǎn)品總監(jiān)張洋在演講中提及,創(chuàng)“芯”云底座,才能重塑生成式AI基礎(chǔ)。畢竟生成式AI工作負載需要極高計算密度,要實現(xiàn)更好的算力性價比,云廠商就得從底座出發(fā)親力親為,深諳公有云發(fā)展之道的亞馬遜云科技更不例外。

為此,重塑計算底座也成為亞馬遜云科技鍛造生成式AI基石的重要舉措之一,并且持之以恒,長期引領(lǐng)。

在北京站大會上,也宣布了亞馬遜云科技與英偉達的合作漸入佳境,雙方聯(lián)合推出先進的基礎(chǔ)設(shè)施、軟件及服務,推動生成式AI的持續(xù)創(chuàng)新。亞馬遜云科技將成為第一家在云端配備英偉達最新GPU芯片GH200 Grace Hopper的云廠商,并同時推出英偉達DGX Cloud NVIDIA AI“訓練即服務”?；赑roject Ceiba的進一步合作,雙方攜手構(gòu)建全球最快的AI超級計算機,以及更多基于英偉達GPU芯片的云實例。

為此,通過AI芯片的定制,云廠商可以通過持續(xù)技術(shù)優(yōu)化,很好支持生成式AI工作負載越來越高的計算量,但是對于不斷激增的數(shù)據(jù)量怎么辦?

這里不得不專門提到Amazon S3,自17年前正式推出Amazon Simple Storage Service以來,已成為最受歡迎的云存儲服務之一,在全球擁有數(shù)百萬各行各業(yè)的客戶,Amazon S3也成為了全球云存儲的重要標準之一。

當前,Amazon S3 Express One Zone正式可用,與Amazon S3 Standard相比,數(shù)據(jù)訪問速度提高至多10倍,數(shù)據(jù)請求成本降低50%,可以滿足機器學習訓練和推理、交互式分析以及媒體內(nèi)容創(chuàng)建等請求密集型工作負載所需要的高性能存儲,從而進一步彰顯了亞馬遜云科技鍛造生成式AI基石上的綜合實力。

當然,鍛造生成式AI基石,離不開亞馬遜云科技提供的高度安全可靠的云基礎(chǔ)架構(gòu)。如今,已經(jīng)實現(xiàn)全球31個區(qū)域的99個可用區(qū),可以覆蓋245個國家和地區(qū),亞馬遜云科技無處不在的云服務網(wǎng)絡將其持續(xù)創(chuàng)新的AI芯片能力快速抵達每一個角落。

02 「開放工具平臺」 做大做強大模型生態(tài)

生成式AI基石的強健,自然對大模型的發(fā)展帶來很大的幫助。然而,不僅如此,亞馬遜云科技推出的一個可對托管基礎(chǔ)模型進行訪問的工具平臺Amazon Bedrock,對所有大模型廠商開放,同時也可以根據(jù)具體應用需求實現(xiàn)定制化開發(fā),利于做大做強大模型生態(tài)。

不僅在戰(zhàn)略上的重視,而且在具體戰(zhàn)術(shù)落地上依然重視,這是業(yè)內(nèi)人士對亞馬遜云科技一貫打法的中肯評價。Amazon Bedrock再次印證了這一點。

在此之前,我記得業(yè)內(nèi)盛傳一句行話:沒有一個廠商滿足用戶數(shù)字化進程中的所有需求。如今,這句話也適用于大模型行業(yè)化的發(fā)展進程。千行百業(yè)都想方設(shè)法將生成式AI積極融入到各自業(yè)務,可是在大模型行業(yè)化實際落地過程中,沒有一個大模型能夠適合所有的應用場景。怎么辦?

這便是Amazon Bedrock誕生的意義所在,有了這樣可對托管基礎(chǔ)大模型進行訪問的工具平臺,千行百業(yè)的用戶可以選擇任何合適的大模型,比如電商企業(yè)可以借助產(chǎn)品文檔進行自己的模型訓練,進一步也讓大模型訓練能力得以提升,來對自己業(yè)務應用進行實踐創(chuàng)新。令人驚訝的是,目前Amazon Bedrock已服務了上萬全球用戶,比如大家熟知的Salesforce、MongoDB等知名企業(yè)已經(jīng)率先采用Amazon Bedrock平臺來推進生成式AI的應用。

借助Amazon Bedrock的fine-tuning微調(diào)與continued pretraining持續(xù)預訓練的兩項最新功能,允許用戶針對特定任務對Amazon Bedrock中的大模型進行定制。不僅允許用戶在標記數(shù)據(jù)集上訓練大模型,而且允許用戶在規(guī)模極大的數(shù)據(jù)集上對大模型進行定制,比如涉及數(shù)十億token代碼庫的情況。同時還可以在未經(jīng)標注的數(shù)據(jù)集上進行持續(xù)預訓練,無需創(chuàng)建輸出示例,能夠大大減少創(chuàng)建訓練數(shù)據(jù)集的工作量,降低AI定制成本。

Amazon Bedrock的全面更新帶來了便捷性、體驗性與安全性的三大優(yōu)勢。

一是,更好的便捷性。任何開發(fā)者可以基于Amazon Bedrock平臺采用最新推出的Agents功能,無需復雜的設(shè)計提示、管理上下文會話或手動編排系統(tǒng),就可以通過自然語言指令即可輕松便捷地實現(xiàn)生成式AI的應用,比如跨公司系統(tǒng)和數(shù)據(jù)源執(zhí)行類似處理銷售訂單等多步驟任務。

二是,更強的體驗性。全面開放的大模型開發(fā)平臺,既支持用戶調(diào)用Amazon Titan,也支持調(diào)用AI21 Labs、Anthropic、Stability AI等第三方多樣化模型,并可以定制化開發(fā)。

三是,更高的安全性。強化云服務的安全性也是亞馬遜云科技自成立以來的一貫原則,為了保障用戶更安全地使用生成式AI技術(shù),開發(fā)者借助最新推出的Guardrails功能,為所有應用程序提供跨大模型的AI安全一致性,實現(xiàn)跨大模型的新保護措施。此外,Amazon Bedrock從設(shè)計之初就重視用戶數(shù)據(jù)安全,在傳輸中和靜態(tài)時都經(jīng)過加密,從而保障所有用戶數(shù)據(jù)安全,進一步強化隱私保護,不會被他人使用。

值得一提的是借助Amazon Bedrock,也讓ISV獲得在生成式AI時代下新一輪的能力飛升。作為全球公有云領(lǐng)域公認的領(lǐng)導者,亞馬遜云科技堅持生態(tài)制勝策略,開展了十多年的全球合作伙伴計劃,已經(jīng)構(gòu)建了廣布全球的亞馬遜云科技合作伙伴網(wǎng)絡(APN),目前在全球已經(jīng)擁有超過12萬家合作伙伴,覆蓋150多個國家,在中國的合作伙伴數(shù)量總數(shù)也已超過6000家。

最新發(fā)布的亞馬遜云科技生成式AI卓越中心面向所有合作伙伴網(wǎng)絡(APN)成員開放,為大家提供生成式AI相關(guān)的教育和培訓資源。同時也歡迎生成式AI解決方案提供商和業(yè)界領(lǐng)導者參與經(jīng)驗分享,Anthropic、波士頓咨詢、凱捷、Cohere、IBM、麥肯錫、英偉達和Pinecone等合作伙伴相關(guān)內(nèi)容已經(jīng)在生成式AI卓越中心呈現(xiàn)。生成式AI卓越中心為大家在生成式AI領(lǐng)域構(gòu)建學習專業(yè)知識的途徑,以及借鑒成功解決方案的通道,從而推動ISV迎來生成式AI的時代轉(zhuǎn)型,獲得更多的發(fā)展機會。

可見,Amazon Bedrock+APN+生成式AI卓越中心,必然可以讓亞馬遜云科技進一步做大做強大模型生態(tài),繼續(xù)將“生態(tài)制勝”的價值發(fā)揮到極致。

03 「面向企業(yè)級生成式AI」 一切才剛剛開始……

鍛造AI基石容易被理解,畢竟亞馬遜云科技自身是公有云廠商,云已經(jīng)成為全球企業(yè)的基礎(chǔ)設(shè)施,自然也是AI的重要基礎(chǔ)設(shè)施。構(gòu)建Amazon Bedrock這樣開放工具平臺,也不難理解,作為公有云領(lǐng)導者強調(diào)生成式AI的平臺化發(fā)展也是理所當然。

然而,最新推出的企業(yè)應用助手Amazon Q,卻真的讓業(yè)界刮目相看。全球云觀察分析指出,Amazon Q誕生之后,對企業(yè)級行業(yè)的AI進化,生成式AI落地行業(yè)領(lǐng)域帶來了開創(chuàng)性影響,對加速全球云計算行業(yè)邁向智能時代發(fā)展也帶來深遠意義。

也有業(yè)內(nèi)人士評論指出,Amazon Q改變了開發(fā)者和IT人員在亞馬遜云科技上構(gòu)建、部署和運維應用程序和工作負載的方式。

用戶可以使用Amazon Q輕松進行對話、內(nèi)容生成并執(zhí)行操作。亞馬遜云科技CEO Adam Selipsky對Amazon Q的解說更為直接,“Amazon Q完全了解企業(yè)的業(yè)務、數(shù)據(jù)、客戶、運營需求。”

需要指出的是,Amazon Q并非是面向個人消費者的通用聊天機器人,而是面向千行百業(yè)的企業(yè)級生成式AI的需求,被業(yè)內(nèi)人士譽為企業(yè)級“ChatGPT”。用戶可以通過亞馬遜云科技管理控制臺、文檔頁面、IDE、Slack或其他第三方對話應用程序的聊天界面進行訪問Amazon Q,任何用戶在亞馬遜云科技上無論是進行構(gòu)建、使用內(nèi)部數(shù)據(jù)和系統(tǒng),還是應用一系列數(shù)據(jù)和業(yè)務應用程序,Amazon Q現(xiàn)在都可以提供強大的生成式AI的支持,并且用戶業(yè)務內(nèi)容永遠不會被使用來訓練底層模型。

Amazon Q的靈活性表現(xiàn)突出,完全支持根據(jù)用戶業(yè)務定制,幫助企業(yè)級開發(fā)者專注于開發(fā)本身。同時擁有驚人的代碼轉(zhuǎn)換能力,為每個應用程序升級帶來前所未有的方便。在結(jié)合Amazon CodeCatalyst之后,在受支持的IDE當中實現(xiàn)用戶代碼生成測試,提升開發(fā)效率與代碼質(zhì)量。

Amazon Q可以為Amazon QuickSight、Amazon Connect和Amazon Supply Chain提供基于生成式AI的行業(yè)助理。目前,Amazon Q已向用戶提供預覽版,Amazon Connect中的Amazon Q已正式推出,Amazon Supply Chain中的Amazon Q即將推出。

在生成式AI的加速商業(yè)創(chuàng)新的過程中,Amazon Q的價值將得以凸顯,并在行業(yè)應用中可以明顯增強企業(yè)對外聯(lián)絡的能力。亞馬遜云科技大中華區(qū)行業(yè)解決方案總監(jiān)蘇卓分析指出,Orbit公司在通過使用Amazon Q后,將每次聯(lián)系所花費的時間節(jié)省10—15%,從而可以讓更多的企業(yè)成為AI時代的“超級英雄”。

如果說生成式AI正在驅(qū)動企業(yè)創(chuàng)新,賦能業(yè)務變革,那么,Amazon Q就是一個標志性的誕生,標志著面向企業(yè)級領(lǐng)域的發(fā)展,一切才剛剛開始。

04 「小結(jié):火力全開」 全速進軍生成式AI

作為全球云計算的開創(chuàng)者和引領(lǐng)者,亞馬遜云科技每年的re:Invent全球大會都成為了業(yè)界關(guān)心云創(chuàng)新的焦點,因此,2023 re:Invent中國行也備受矚目。

當前來看,亞馬遜云科技不僅在基礎(chǔ)設(shè)施、計算、存儲、數(shù)據(jù)等領(lǐng)域持續(xù)重塑云計算,而且在面向生成式AI的發(fā)展道路上,鍛造AI基石,多措并舉強化AI芯片能力,構(gòu)建Amazon Bedrock開放工具平臺,推出生成式AI卓越中心服務合作伙伴,甚至破天荒地面向千行百業(yè)發(fā)布企業(yè)應用助手Amazon Q。可謂,火力全開,志在必得。

不過,利用生成式AI全面重塑未來不僅是亞馬遜云科技的倡議,而且也是諸多行業(yè)深切感受到了生成式AI帶來的創(chuàng)新力,唯有求新求變,才能擺脫傳統(tǒng)業(yè)務的束縛,迎來發(fā)展與突破。通過圖像視頻生成、人機對話等多個領(lǐng)域的創(chuàng)新實踐,生成式AI的新時代序幕已經(jīng)被徐徐拉開了。

聚焦生成式AI的發(fā)展,自12月12日亞馬遜云科技2023 re:Invent中國行城市巡展活動勝利開啟后,北京站現(xiàn)場獲得了許多用戶、合作伙伴以及產(chǎn)業(yè)界一致好評。

后續(xù)將推廣到全國各地,覆蓋北京、上海、廣州、深圳、成都、青島、南京、西安、杭州、長沙10座城市,將2023 re:Invent全球大會上的最新服務及技術(shù)、前沿趨勢以及最佳實踐帶到區(qū)域市場,歡迎各地區(qū)域感興趣的用戶朋友關(guān)注參與。

songjy