此外,會(huì)上提到了我比較關(guān)注的Aurora Limitless數(shù)據(jù)庫(kù),介紹了Grover對(duì)于云原生數(shù)據(jù)庫(kù)Aurora很重要,Caspin對(duì)于Aurora Serverless很重要,還提到了數(shù)據(jù)庫(kù)分片技術(shù)對(duì)Aurora Limitless很重要的事情。
為什么這部分我記得這么清楚呢?因?yàn)檫@里提到了用來(lái)給服務(wù)器做精準(zhǔn)時(shí)鐘同步的神器。
它用了衛(wèi)星上的原子時(shí)鐘來(lái)拿到精準(zhǔn)的時(shí)間信息。然后,在本地用了脈沖信號(hào)來(lái)給服務(wù)器集群同步時(shí)間,從而將時(shí)間同步的精度提高到了微秒級(jí),減少了時(shí)鐘同步的等待時(shí)間,每秒可以對(duì)更多數(shù)據(jù)庫(kù)的事件做排序,最終提高了數(shù)據(jù)庫(kù)的性能表現(xiàn)。
這很酷,這是Aurora Limitless數(shù)據(jù)庫(kù)性能高的主要原因之一。同時(shí),基于這套專(zhuān)有的硬件,亞馬遜云科技推出了新的時(shí)間同步服務(wù)Amazon Time Sync Service,把它開(kāi)放給用戶(hù)使用。
關(guān)于生成式AI的部分,主要介紹了生成式AI的三層架構(gòu),底層是軟硬件基礎(chǔ)設(shè)施為主,中間層是以Amazon Bedrock為主的面向開(kāi)發(fā)者的服務(wù)為主,最上層是SaaS化的一些應(yīng)用。
芯片底層主要介紹了Trainium芯片,這次還更新了Trainium2訓(xùn)練芯片。自己的芯片,配合EFA網(wǎng)絡(luò)構(gòu)建超大規(guī)模集群,能同時(shí)讓很多個(gè)芯片一起干活兒,場(chǎng)面很驚艷,算力很強(qiáng)。
另外,這里還介紹了一個(gè)叫SageMaker HyperPod的新東西,它提供了一個(gè)配置好各種類(lèi)庫(kù)的分布式訓(xùn)練訓(xùn)練環(huán)境,能讓成千上萬(wàn)個(gè)加速器一起訓(xùn)練,訓(xùn)練速度可以提高40%。而且,它還能自己存checkpoint,自動(dòng)用checkpoint恢復(fù)被中斷的訓(xùn)練。
除了自家的芯片,會(huì)上還介紹了跟英偉達(dá)合作構(gòu)建的全球第一個(gè)云上GH200 AI超級(jí)計(jì)算集群,支持用16384塊Grace Hopper超級(jí)芯片一起干活兒,提供65個(gè)ExaFlops的逆天的算力。
中間層主要介紹了專(zhuān)為生成式AI打造的Amazon Bedrock,它能托管運(yùn)行好幾種大模型,讓用戶(hù)用API來(lái)使用大模型,還能支持RAG、微調(diào)之類(lèi)的操作,全程無(wú)需寫(xiě)一行代碼。
這部分主打的是支持的大模型多,包括Anthropic開(kāi)發(fā)的Claude,Meta開(kāi)發(fā)的Llama之類(lèi)的,能降低企業(yè)落地大模型的門(mén)檻。
這部分還推到了亞馬遜云科技自己開(kāi)發(fā)的大模型Amazon Titan,Amazon Titan其實(shí)包含了好幾個(gè)模型,這次又新推出了好幾個(gè)。
比如做文本摘要的Amazon Titain Text Lite,生成文本的Amazon Titain Text Express,還有做圖片生成的Amazon Titan Image Generator等。
最上層,就是SaaS類(lèi)應(yīng)用了,排在C位的是Amazon Q。
這是一個(gè)Chatbot聊天機(jī)器人,明顯是對(duì)標(biāo)微軟Copilot的,看起來(lái)跟ChatGPT也很像。但是,Amazon Q主要是面向工作場(chǎng)景的。
Amazon Q分兩大類(lèi),一類(lèi)是面向業(yè)務(wù)人員的??梢詭蜆I(yè)務(wù)人員發(fā)現(xiàn)數(shù)據(jù)洞察,幫業(yè)務(wù)人員提煉文檔內(nèi)容,幫業(yè)務(wù)人員寫(xiě)新聞稿,寫(xiě)標(biāo)題,寫(xiě)摘要,安排互動(dòng)日程之類(lèi)的。
另外一類(lèi)是面向技術(shù)人員的,對(duì)于IT工程師而言,它是一個(gè)非常懂亞馬遜云科技的機(jī)器人,能幫你更好地用云,比如能幫你找到合適的EC2主機(jī)。對(duì)于軟件開(kāi)發(fā)者來(lái)說(shuō),它能用來(lái)生成代碼,創(chuàng)建單元測(cè)試,還能幫助開(kāi)發(fā)者快速理解代碼。
此前開(kāi)發(fā)的Amazon Codewhisperer也能生成代碼,現(xiàn)在的Amazon Q也能生成代碼,是不是有點(diǎn)重合呢?
對(duì)此,亞馬遜云科技大中華區(qū)產(chǎn)品技術(shù)總監(jiān)王曉野表示,Amazon CodeWhisperer主要是在IDE里用注釋作為提示詞來(lái)生成代碼片段,而現(xiàn)在Amazon Q則是像ChatGPT一樣在聊天對(duì)話(huà)框里生成代碼,兩者還是有區(qū)別的。
以上就是中國(guó)版的re:invent活動(dòng)北京站的主要內(nèi)容。雖然這樣很有性?xún)r(jià)比,但如果你真愛(ài)云計(jì)算,喜歡鉆研技術(shù),那么我更推薦你去看re:Invent全球大會(huì)的主題演講,那里有更多有趣的技術(shù)細(xì)節(jié)等待你去探索。