最近,蘋(píng)果開(kāi)始使用基于Graviton和Inferentia芯片的方案。通過(guò)將EC2實(shí)例從x86遷移到Graviton,實(shí)現(xiàn)了40%以上的性?xún)r(jià)比提升。在搜索文本功能上,在把實(shí)例從基于英偉達(dá)芯片的G系列實(shí)例遷移到Inferentia 2實(shí)例,執(zhí)行效率提高了一倍。

Apple Intelligence是蘋(píng)果AI戰(zhàn)略的重要一環(huán),它集成在iPhone、iPad和Mac設(shè)備中,通過(guò)理解用戶(hù)的需求,幫助用戶(hù)寫(xiě)作、提取摘要,改進(jìn)Siri。Benoit Dupin提到,這些功能需要在保護(hù)用戶(hù)隱私的前提下進(jìn)行,每一步都需要精心設(shè)計(jì)并執(zhí)行。

蘋(píng)果在開(kāi)發(fā)Apple Intelligence過(guò)程中,大規(guī)模擴(kuò)展了訓(xùn)練基礎(chǔ)設(shè)施,使用亞馬遜云科技提供的加速器來(lái)進(jìn)行模型微調(diào)、模型裁剪等關(guān)鍵環(huán)節(jié),這些技術(shù)幫助Apple Intelligence在設(shè)備端和服務(wù)器端實(shí)現(xiàn)了高效部署。

Benoit Dupin肯定了亞馬遜云科技在支持蘋(píng)果增長(zhǎng)和優(yōu)化用戶(hù)體驗(yàn)方面的作用。并表示,未來(lái),蘋(píng)果將繼續(xù)借助亞馬遜云科技的加速技術(shù),比如會(huì)使用剛發(fā)布的基于Tranium 2的云主機(jī)。測(cè)試顯示,新的云主機(jī)可以將蘋(píng)果的訓(xùn)練效率提升50%。

我想提到的是,Benoit Dupin出現(xiàn)在re:Invent大會(huì)上還是有點(diǎn)意外的,這次應(yīng)該是蘋(píng)果第一次公開(kāi)承認(rèn)在使用亞馬遜云科技的服務(wù)。然而,蘋(píng)果使用亞馬遜云科技這件事,其實(shí)并不意外。

首先蘋(píng)果是一家以消費(fèi)者為中心的企業(yè),自己不會(huì)做云。而且,在全球化運(yùn)營(yíng)的模式下,出于成本與效率的考量,蘋(píng)果也不會(huì)在全球各地自建和維護(hù)數(shù)據(jù)中心。所以,蘋(píng)果必然會(huì)上云。

上哪一朵云呢?第一選擇是亞馬遜云科技,除此之外,蘋(píng)果的MacOS操作系統(tǒng)與微軟Windows有直接競(jìng)爭(zhēng),蘋(píng)果的iOS系統(tǒng)與谷歌直接競(jìng)爭(zhēng)。蘋(píng)果即使會(huì)部分使用微軟Azure和谷歌的GCP,但不會(huì)是首選方案,更不會(huì)親自給云廠(chǎng)商站臺(tái)。

分享到

zhupb

相關(guān)推薦