Amazon Nova家族最強成員——Nova Premier正式可用!這一全新模型不僅是多智能體協(xié)作的“超級大腦”,更是模型蒸餾教師模型的理想選項。

Amazon Nova Premier現(xiàn)已全面集成至Amazon Bedrock中。Amazon Nova Premier與Amazon Nova Lite和Amazon Nova Pro類似,也支持輸入文本、圖像與視頻(不含音頻)。

Amazon Nova Premier憑借其百萬級別的上下文長度,可以處理極長的文檔或大型代碼庫,在需要深入理解上下文、多步驟規(guī)劃以及跨多個工具和數(shù)據(jù)源精確執(zhí)行的復(fù)雜任務(wù)中表現(xiàn)出色。

此外,Amazon Nova Premier擁有Amazon Bedrock提供的模型蒸餾能力,開發(fā)者可定制具備高性能、經(jīng)濟高效且低延遲的Amazon Nova Pro、Amazon Nova Lite和Amazon Nova Micro模型,精準(zhǔn)匹配業(yè)務(wù)需求。例如,Amazon Nova Premier可對Amazon Nova Pro進行蒸餾,有效優(yōu)化其復(fù)雜工具選擇與API調(diào)用能力。結(jié)果顯示,蒸餾后的Amazon Nova Pro在API調(diào)用時,準(zhǔn)確率比基礎(chǔ)版本提升20%,在保持與教師模型相近表現(xiàn)的同時,還具備Amazon Nova Pro的速度和成本優(yōu)勢。

01 Amazon Nova Premier基準(zhǔn)測試

在一系列涵蓋文本理解、視覺智能與智能體任務(wù)流程的標(biāo)準(zhǔn)基準(zhǔn)測試中,Amazon Nova Premier均展現(xiàn)出卓越表現(xiàn)。通過17項基準(zhǔn)測試,確立Amazon Nova Premier在Amazon Nova系列中性能最強大的模型地位。

打開網(wǎng)易新聞 查看精彩圖片

Amazon Nova Premier的性能與業(yè)界最優(yōu)秀的非推理模型相當(dāng),在與同級智能模型的對比中,約有半數(shù)基準(zhǔn)測試中表現(xiàn)相當(dāng)或更優(yōu)。詳細評估結(jié)果可參閱技術(shù)報告。

不僅如此,Amazon Nova Premier還以最快的響應(yīng)速度和最優(yōu)的性價比,成為Amazon Bedrock中同智能層級的佼佼者。關(guān)于模型使用的定價詳情與對比,請參考Amazon Bedrock定價頁面。

值得強調(diào)的是,Amazon Nova Premier還可以作為蒸餾過程中的教師模型,開發(fā)者可將其先進技能遷移至更輕量、響應(yīng)更快、部署更經(jīng)濟的模型中,如Amazon Nova Pro、Amazon Nova Lite及Amazon Nova Micro,從而在真實生產(chǎn)環(huán)境中實現(xiàn)性能與成本的最佳平衡。

Amazon Nova Premier: Technical Report and Model Card:

https://www.amazon.science/publications/amazon-nova-premier-technical-report-and-model-card

Amazon Bedrock定價頁面:

bedrock.htmlhttps://aws.amazon.com/cn/bedrock/pricing/

02 如何使用Amazon Nova Premier

開始使用Amazon Nova Premier,開發(fā)者需先在Amazon Bedrock控制臺中申請訪問權(quán)限。具體路徑為:左側(cè)導(dǎo)航欄點擊“Model access(模型訪問)”,在列表中找到“Amazon Nova Premier”,開啟訪問開關(guān)。

獲得訪問權(quán)限后,便可通過Amazon BedrockConverse API調(diào)用Amazon Nova Premier模型,向其輸入由用戶與助手構(gòu)成的消息序列,內(nèi)容可包括文本、圖像和視頻。

然而,Amazon Nova Premier的真正價值,遠不止于此。它最強大的能力,體現(xiàn)在對復(fù)雜工作流的深度理解與流暢協(xié)同執(zhí)行,無論是跨步驟的邏輯編排,還是多系統(tǒng)工具的高效調(diào)用,Amazon Nova Premier都能游刃有余。

02 多智能體協(xié)作示例

讓我們通過一個更復(fù)雜的場景,深入了解Amazon Nova Premier如何在多Agents協(xié)作架構(gòu)中發(fā)揮核心作用,助力投資研究任務(wù)的高效完成。

股票研究過程通常包含多個階段:首先是確認(rèn)與特定投資相關(guān)的數(shù)據(jù)源,其次是從這些來源中提取所需信息,最后將海量數(shù)據(jù)整合為可執(zhí)行的洞察建議。當(dāng)研究對象涵蓋股票指數(shù)、個股、貨幣等多種金融工具時,這這個過程會變得越發(fā)復(fù)雜。

為應(yīng)對這一挑戰(zhàn),我們可借助Amazon Bedrock構(gòu)建一個基于多Agents協(xié)作的研究系統(tǒng),由Amazon Nova Premier驅(qū)動的“監(jiān)督Agent”統(tǒng)一協(xié)調(diào)整個工作流。監(jiān)督Agent分析初始查詢(如:“新能源投資領(lǐng)域有哪些新興趨勢?”)進行深入分析,拆解為若干邏輯步驟,隨后根據(jù)任務(wù)需求分配合適的子Agent進行執(zhí)行,綜合最終響應(yīng),形成結(jié)構(gòu)清晰、內(nèi)容扎實的綜合答復(fù)。

為實現(xiàn)這一場景,我們設(shè)計了如下系統(tǒng)組件:

1.由Amazon Nova Premier驅(qū)動的監(jiān)督Agent,負責(zé)任務(wù)拆解、指令分發(fā)與結(jié)果整合;

2.由Amazon Nova Pro驅(qū)動的多個專業(yè)子Agent,分別負責(zé)處理不同金融數(shù)據(jù)源的提取與分析任務(wù);

3.連接金融數(shù)據(jù)庫、市場分析工具及其他信息源的工具。

打開網(wǎng)易新聞 查看精彩圖片

當(dāng)提交有關(guān)“新能源投資新興趨勢”的查詢時,由Amazon Nova Premier驅(qū)動的監(jiān)督Agent將執(zhí)行以下操作:

1.深入解析用戶意圖,識別背后的核心主題與所需涉及的數(shù)據(jù)來源;

2.依據(jù)主題與來源,智能匹配對應(yīng)的子Agent,實現(xiàn)任務(wù)分工;

3.各子Agent分別提取其負責(zé)領(lǐng)域內(nèi)的經(jīng)濟指標(biāo)、技術(shù)分析數(shù)據(jù)及市場情緒信息;

4.最終,由監(jiān)督Agent整合所有信息,綜合成一份全面的報告,供金融專業(yè)人士審閱。

這種架構(gòu)下,Amazon Nova Premier通過精準(zhǔn)的流程協(xié)調(diào),有效簡化了金融分析師的工作流程,幫助其更快形成投資分析。

使用Amazon Nova Premier擔(dān)任監(jiān)督角色的主要優(yōu)勢在于其協(xié)調(diào)復(fù)雜工作流的準(zhǔn)確性,從而以最優(yōu)順序查詢正確的數(shù)據(jù)源,每個子Agent接收其工作所需的正確信息,從而產(chǎn)生更高質(zhì)量的洞察。

03 結(jié)合模型蒸餾的多Agents協(xié)作

盡管Amazon Nova Premier在準(zhǔn)確率上代表了Amazon Nova模型家族的頂尖水準(zhǔn),但在實際生產(chǎn)部署中,用戶常常希望在保證能力的同時,進一步優(yōu)化延遲與成本。這正是Amazon Nova Premier作為教師模型進行蒸餾的優(yōu)勢所在。通過Amazon Bedrock的模型蒸餾機制,我們可以根據(jù)Amazon Nova Premier的結(jié)果,定制Amazon Nova Micro模型,用于特定投資研究用例。

與傳統(tǒng)微調(diào)方式不同,蒸餾無需大量人工標(biāo)注樣本與人工反饋數(shù)據(jù)。借助Amazon Nova Premier本身生成高質(zhì)量參考輸出,即可自動構(gòu)建訓(xùn)練數(shù)據(jù),顯著提升數(shù)據(jù)獲取效率與建模質(zhì)量。

打開網(wǎng)易新聞 查看精彩圖片

模型蒸餾的過程包括:

1.生成合成訓(xùn)練數(shù)據(jù):在涵蓋多種金融資產(chǎn)類型的任務(wù)中,記錄Amazon Nova Premier的輸入與輸出,構(gòu)建高質(zhì)量訓(xùn)練樣本;

2.定制訓(xùn)練Amazon Nova Micro:利用上述數(shù)據(jù),通過自定義微調(diào)工具訓(xùn)練出針對特定場景優(yōu)化的小型模型;

3.性能評估:對比Amazon Nova Micro與Amazon Nova Premier在延遲、準(zhǔn)確性和吞吐量方面的表現(xiàn)差異,確保滿足業(yè)務(wù)需求;

4.生產(chǎn)部署:將定制版Amazon Nova Micro部署為生產(chǎn)環(huán)境中的監(jiān)督Agent,實現(xiàn)低延遲、高效率的智能響應(yīng)。

借助Amazon Bedrock,還可以進一步簡化訓(xùn)練流程。例如,通過開啟模型調(diào)用日志記錄功能,并將日志寫入設(shè)定好的Amazon S3存儲桶,即可自動收集蒸餾所需的數(shù)據(jù),節(jié)省手動準(zhǔn)備時間,提升整體建模效率。