Meta和OpenAI全面開(kāi)戰(zhàn)了！
智東西4月30日?qǐng)?bào)道，今天，在首屆LlamaCon開(kāi)發(fā)者大會(huì)上，Meta正式發(fā)布了對(duì)標(biāo)ChatGPT的智能助手Meta AI App，并宣布面向開(kāi)發(fā)者提供官方Llama API服務(wù)的預(yù)覽版本。
Meta AI App是一款智能助手，基于Llama模型打造，可通過(guò)社交媒體賬號(hào)了解用戶偏好、記住上下文。與ChatGPT一樣，Meta AI App支持語(yǔ)音和文本交互，并額外支持了全雙工語(yǔ)音交互（Full-duplex，允許在接收語(yǔ)音的同時(shí)并行處理和響應(yīng)，支持邊聽(tīng)邊說(shuō)、實(shí)時(shí)打斷等功能）。
Meta AI App可作為Meta RayBan AI眼鏡的配套應(yīng)用程序，用戶能通過(guò)該眼鏡直接與Meta AI App對(duì)話。
同場(chǎng)發(fā)布的Llama API提供了包括Llama 4在內(nèi)的多款模型，這一API與OpenAI SDK兼容，使用OpenAI API服務(wù)的產(chǎn)品可無(wú)縫切換至Llama API。
同時(shí)，Meta在新API中提供了用于微調(diào)和評(píng)估的工具，開(kāi)發(fā)者可以打造符合自身需求的定制化模型，還可使用由AI芯片創(chuàng)企Cerebras和Groq提供的快速推理服務(wù)。
值得一提的是，過(guò)去數(shù)年中，Llama相關(guān)發(fā)布僅作為Meta Connect開(kāi)發(fā)者大會(huì)上的一個(gè)環(huán)節(jié)，此次專門辦會(huì)足見(jiàn)他們對(duì)AI業(yè)務(wù)的重視。Meta CEO扎克伯格并未出現(xiàn)在發(fā)布會(huì)現(xiàn)場(chǎng)，會(huì)后其將參與2場(chǎng)對(duì)談。
關(guān)于價(jià)格，開(kāi)發(fā)者可通過(guò)申請(qǐng)獲取Llama API免費(fèi)預(yù)覽版的使用權(quán)限。未來(lái)，這一API或?qū)⒉扇∈召M(fèi)模式，具體價(jià)格表尚未發(fā)布。Meta AI App及Web版本均已上線，免費(fèi)可用。
Meta AI Web端：https://www.meta.ai/
Llama API文檔：https://llama.developer.meta.com/docs/overview
一、Llama模型下載量已超12億，Meta AI App主打語(yǔ)音交互
Meta首席產(chǎn)品官Chris Cox在LlamaCon大會(huì)上分享了Meta開(kāi)源AI的最新進(jìn)展。Cox稱，2年前，Meta內(nèi)部對(duì)開(kāi)源的商業(yè)化前景和優(yōu)先級(jí)問(wèn)題都持有懷疑態(tài)度，但如今開(kāi)源AI已成為行業(yè)大勢(shì)所趨。
2個(gè)半月前，Meta宣布Llama及其衍生模型已經(jīng)實(shí)現(xiàn)了10億的下載量，今天，這一數(shù)字已迅速增長(zhǎng)至12億。
在開(kāi)源平臺(tái)Hugging Face上，Llama的大部分下載量均來(lái)自衍生模型，有數(shù)千名開(kāi)發(fā)者參與貢獻(xiàn)，數(shù)萬(wàn)個(gè)衍生模型被下載，每月被使用數(shù)十萬(wàn)次。
目前，Llama模型已被運(yùn)用至Meta旗下的諸多App，包括WhatsApp、Instagram等等。在這些場(chǎng)景中，Llama模型經(jīng)過(guò)了定制處理，以滿足特定用例需求，例如對(duì)話性、簡(jiǎn)潔性（尤其是移動(dòng)場(chǎng)景）和幽默感。
為提供更豐富的AI體驗(yàn)，Llama推出了獨(dú)立智能助手App——Meta AI。
Meta AI App十分重視語(yǔ)音交互體驗(yàn)，可提供低延遲、富有表現(xiàn)力的語(yǔ)音。Meta AI還可連接用戶的Facebook和Instagram賬戶，根據(jù)用戶互動(dòng)歷史大致了解其興趣，并記憶用戶的相關(guān)信息。
這一App內(nèi)置全雙工語(yǔ)音實(shí)驗(yàn)?zāi)Ｊ健Ｏ嚓P(guān)模型使用人與人之間的自然對(duì)話數(shù)據(jù)進(jìn)行訓(xùn)練，能提供更為自然的音頻輸出。全雙工意味著通道是雙向開(kāi)放的，用戶可以聽(tīng)到自然的打斷、笑聲等，就像真正的電話對(duì)話一樣。
全雙工語(yǔ)音實(shí)驗(yàn)?zāi)Ｊ竭€處于早期階段，沒(méi)有工具使用、網(wǎng)絡(luò)搜索等能力，無(wú)法了解新近發(fā)生的時(shí)事。
Meta AI App中融入了社交元素，用戶可在發(fā)現(xiàn)頁(yè)面分享提示詞、生成結(jié)果等。這一App能與Meta Ray Ban智能眼鏡配合使用。用戶將能在眼鏡上開(kāi)始對(duì)話，然后從應(yīng)用程序或網(wǎng)絡(luò)的“歷史記錄”選項(xiàng)卡中訪問(wèn)它，以從上次中斷的地方繼續(xù)。
二、一行代碼就能調(diào)用，可在線完成模型微調(diào)
會(huì)上，Meta負(fù)責(zé)Llama業(yè)務(wù)的副總裁Manohar Paluri與Llama研究團(tuán)隊(duì)成員Angela Fan共同發(fā)布了由Meta托管的Llama API服務(wù)。
Llama API提供簡(jiǎn)單的一鍵式API密鑰創(chuàng)建，一行代碼就能調(diào)用。支持輕量級(jí)的Python和Typescript SDK開(kāi)發(fā)者以及OpenAI SDK。
在API服務(wù)網(wǎng)頁(yè)中，Meta提供了交互式游樂(lè)場(chǎng)。開(kāi)發(fā)者可在其中嘗試不同的模型，更改模型設(shè)置，比如系統(tǒng)指令或溫度，以測(cè)試不同的配置。
▲Llama API界面
此外，開(kāi)發(fā)者還可以使用多項(xiàng)預(yù)覽功能，包括基于JSON的結(jié)構(gòu)化響應(yīng)、工具調(diào)用等。
Paluri認(rèn)為，定制化才是開(kāi)源模型真正應(yīng)該領(lǐng)先的地方。Llama API提供了便捷的微調(diào)服務(wù)，目前支持對(duì)Llama 3.3 8B進(jìn)行自定義。
開(kāi)發(fā)者可在微調(diào)標(biāo)簽頁(yè)上傳用于微調(diào)的數(shù)據(jù)，或是使用Meta提供的合成數(shù)據(jù)工具包生成后訓(xùn)練數(shù)據(jù)。
▲Llama API模型微調(diào)界面
數(shù)據(jù)上傳完成后，開(kāi)發(fā)者可將數(shù)據(jù)的一部分切分出來(lái)，用于評(píng)估定制模型的表現(xiàn)。在Llama API平臺(tái)上，可隨時(shí)查看訓(xùn)練進(jìn)展情況，微調(diào)完成后的模型可供下載，開(kāi)發(fā)者可在任何場(chǎng)景中運(yùn)行這一模型。
大會(huì)上，Meta宣布了與Cerebras和Groq的合作。這兩家企業(yè)可提供Llama 4 API服務(wù)所需的算力支持，其算力能實(shí)現(xiàn)更快的推理速度。
結(jié)語(yǔ)：Llama探索商業(yè)化新道路
自2023年Llama 1發(fā)布以來(lái)，Llama系列模型已歷經(jīng)四個(gè)主要版本，開(kāi)源了數(shù)十款不同參數(shù)規(guī)模、不同架構(gòu)的模型。不過(guò)，動(dòng)輒數(shù)千億乃至萬(wàn)億參數(shù)量的模型，意味著巨大的投入——外媒爆料稱，過(guò)去一年內(nèi)，Meta已經(jīng)主動(dòng)與微軟、亞馬遜等公司接洽，希望建立合作關(guān)系，共同分擔(dān)開(kāi)發(fā)成本。
本次，Llama API與Meta AI App的發(fā)布，標(biāo)志著Meta開(kāi)始積極探索Llama系列開(kāi)源模型商業(yè)化的新道路。雖然目前的相關(guān)服務(wù)均處于免費(fèi)狀態(tài)，但未來(lái)，Meta有望以開(kāi)源模型為入口，引導(dǎo)企業(yè)和用戶使用關(guān)聯(lián)的云服務(wù)，或是利用App實(shí)現(xiàn)商業(yè)化變現(xiàn)。在講完技術(shù)普惠和創(chuàng)新的故事之后，商業(yè)化或許是所有開(kāi)源模型廠商們都需要共同面對(duì)的問(wèn)題。
熱門跟貼