在同級(jí)別智能模型中,Amazon Nova Premier與業(yè)界極佳的非推理型模型表現(xiàn)相當(dāng),并在約半數(shù)基準(zhǔn)測(cè)試中達(dá)到或超越同類(lèi)模型。具體評(píng)估信息見(jiàn)技術(shù)報(bào)告。

Amazon Nova Premier同時(shí)也是Amazon Bedrock中同智能級(jí)別里速度最快、最具成本效益的模型。更多定價(jià)詳情與對(duì)比,請(qǐng)參閱Amazon Bedrock定價(jià)頁(yè)面。

Amazon Nova Premier還可作為蒸餾的教師模型使用,這意味著客戶(hù)能將其針對(duì)特定用例的高級(jí)功能遷移至更小巧、更快速、更高效的模型,如生產(chǎn)部署用的Nova Pro、Lite和Micro 模型。

Amazon Nova Premier助力處理復(fù)雜工作流

Amazon Nova Premier能夠?yàn)閺?fù)雜技術(shù)問(wèn)題提供詳細(xì)解釋?zhuān)涞恼嬲齼?yōu)勢(shì)在于其處理復(fù)雜工作流的能力。以股票研究流程為例,該流程通常包含多個(gè)階段:為特定投資標(biāo)的識(shí)別相關(guān)數(shù)據(jù)來(lái)源、從這些來(lái)源中檢索所需信息,整合數(shù)據(jù)形成具有可操作性的建議。當(dāng)涉及股票指數(shù)、個(gè)股和貨幣等不同類(lèi)型的金融工具時(shí),這一過(guò)程會(huì)變得尤為復(fù)雜。

客戶(hù)可以在Amazon Bedrock中使用多Agents協(xié)作來(lái)構(gòu)建此類(lèi)應(yīng)用程序,由Amazon Nova Premier 為協(xié)調(diào)整個(gè)工作流的管理者Agent提供支持。管理者Agent會(huì)分析初始查詢(xún)(如“可再生能源投資有哪些新興趨勢(shì)?”),將其分解為邏輯步驟,確定要使用的專(zhuān)用子 Agent,然后整合形成最終響應(yīng)。將Amazon Nova Premier用于管理者角色的關(guān)鍵優(yōu)勢(shì),在于它可以準(zhǔn)確地協(xié)調(diào)復(fù)雜的工作流,按照最佳順序查詢(xún)正確的數(shù)據(jù)來(lái)源,并且確保每個(gè)子Agent獲得工作所需的準(zhǔn)確輸入信息,從而產(chǎn)生更高質(zhì)量的洞察。

Amazon Nova Premier通過(guò)模型蒸餾進(jìn)行多Agents協(xié)作

盡管Amazon Nova Premier提供了其模型系列中最高準(zhǔn)確度,但客戶(hù)可能需要在生產(chǎn)環(huán)境中優(yōu)化延遲和成本。這正是Amazon Nova Premier作為蒸餾的教師模型的優(yōu)勢(shì)所在。通過(guò)Amazon Bedrock模型蒸餾功能,客戶(hù)可以針對(duì)這個(gè)特定投資研究用例,基于Amazon Nova Premier的結(jié)果定制例如Amazon Nova Micro模型。

與傳統(tǒng)需要人工反饋和標(biāo)注樣本的微調(diào)不同,模型蒸餾通過(guò)教師模型生成預(yù)期輸出來(lái)創(chuàng)建高質(zhì)量訓(xùn)練數(shù)據(jù),從而簡(jiǎn)化數(shù)據(jù)獲取流程。

模型蒸餾流程包括:

  1. 通過(guò)捕獲 Amazon Nova Premier處理多種金融工具時(shí)的輸入輸出,生成合成訓(xùn)練數(shù)據(jù)。
  2. 使用這些數(shù)據(jù)作為參考,通過(guò)自定義微調(diào)工具訓(xùn)練Amazon Nova Micro的自定義版本。
  3. 評(píng)估自定義Amazon Nova Micro模型的延遲和性能差異。
  4. 在生產(chǎn)環(huán)境中將自定義的微型模型部署為管理者Agent。

Amazon Bedrock可以進(jìn)一步簡(jiǎn)化流程,并使用調(diào)用日志進(jìn)行數(shù)據(jù)準(zhǔn)備

Amazon Nova Premier是蒸餾Nova Pro、Lite和Micro自定義變體的最佳教師模型,這意味著可以在更小、更快的模型中繼承Premier的功能,以進(jìn)行生產(chǎn)部署。Amazon Nova Premier具有內(nèi)置安全控制措施,可促進(jìn)負(fù)責(zé)任AI,其內(nèi)容審核功能有助于在各種應(yīng)用程序中保持適當(dāng)?shù)妮敵觥?/p>

使用Amazon Bedrock,客戶(hù)只需為實(shí)際使用的資源付費(fèi)。Amazon Nova Premier現(xiàn)已在美國(guó)東部(弗吉尼亞州北部)、美國(guó)東部(俄亥俄州)和美國(guó)西部(俄勒岡州)區(qū)域的Amazon Bedrock中推出。

客戶(hù)反饋

Slack平臺(tái)匯集了對(duì)話、應(yīng)用和客戶(hù),其高級(jí)工程師Curtis Allen 表示:”Amazon Nova Premier 在執(zhí)行交互式分析工作流方面表現(xiàn)卓越,在我們的測(cè)試中不僅速度更快,成本也比其他領(lǐng)先模型低近一半?!?/p>

Robinhood Markets是一家致力于金融普惠化的公司,其人工智能與數(shù)據(jù)負(fù)責(zé)人Dev Tagare表示:“基于Amazon Nova構(gòu)建的新解決方案,有力地支持了我們’金融普惠化’的使命。我們特別看好Amazon Nova Premier探索復(fù)雜多Agent協(xié)作等能力,不但性能出色,還具有成本效益和速度優(yōu)勢(shì)。Amazon Nova Premier的智能及其向Nova Micro、Nova Lite和Nova Pro等模型的遷移能力,將以更優(yōu)性能、價(jià)格和速度實(shí)現(xiàn)多Agent協(xié)作的大眾化應(yīng)用?!?/p>

Snorkel AI幫助數(shù)據(jù)科學(xué)家和開(kāi)發(fā)人員快速將數(shù)據(jù)轉(zhuǎn)化為精準(zhǔn)、適應(yīng)性強(qiáng)的AI應(yīng)用程序。Snorkel AI聯(lián)合創(chuàng)始人Henry Ehrenberg指出:“加速真實(shí)世界 AI 部署(不僅是原型)需要能為實(shí)際應(yīng)用程序獨(dú)特需求定制模型的能力。我們很高興看到亞馬遜云科技通過(guò) Amazon Bedrock模型蒸餾功能和Amazon Nova Premier推動(dòng)高效模型定制。這些新模型功能將助力企業(yè)客戶(hù)加速構(gòu)建生產(chǎn)級(jí)AI應(yīng)用程序,包括包含多模態(tài)數(shù)據(jù)的問(wèn)答應(yīng)用程序等。”

分享到

zhupb

相關(guān)推薦