Meta和OpenAI全面開戰(zhàn)了！
智東西4月30日報道，今天，在首屆LlamaCon開發(fā)者大會上，Meta正式發(fā)布了對標ChatGPT的智能助手Meta AI App，并宣布面向開發(fā)者提供官方Llama API服務的預覽版本。
Meta AI App是一款智能助手，基于Llama模型打造，可通過社交媒體賬號了解用戶偏好、記住上下文。與ChatGPT一樣，Meta AI App支持語音和文本交互，并額外支持了全雙工語音交互（Full-duplex，允許在接收語音的同時并行處理和響應，支持邊聽邊說、實時打斷等功能）。
Meta AI App可作為Meta RayBan AI眼鏡的配套應用程序，用戶能通過該眼鏡直接與Meta AI App對話。
同場發(fā)布的Llama API提供了包括Llama 4在內(nèi)的多款模型，這一API與OpenAI SDK兼容，使用OpenAI API服務的產(chǎn)品可無縫切換至Llama API。
同時，Meta在新API中提供了用于微調(diào)和評估的工具，開發(fā)者可以打造符合自身需求的定制化模型，還可使用由AI芯片創(chuàng)企Cerebras和Groq提供的快速推理服務。
值得一提的是，過去數(shù)年中，Llama相關發(fā)布僅作為Meta Connect開發(fā)者大會上的一個環(huán)節(jié)，此次專門辦會足見他們對AI業(yè)務的重視。Meta CEO扎克伯格并未出現(xiàn)在發(fā)布會現(xiàn)場，會后其將參與2場對談。
關于價格，開發(fā)者可通過申請獲取Llama API免費預覽版的使用權限。未來，這一API或將采取收費模式，具體價格表尚未發(fā)布。Meta AI App及Web版本均已上線，免費可用。
Meta AI Web端：https://www.meta.ai/
Llama API文檔：https://llama.developer.meta.com/docs/overview
一、Llama模型下載量已超12億，Meta AI App主打語音交互
Meta首席產(chǎn)品官Chris Cox在LlamaCon大會上分享了Meta開源AI的最新進展。Cox稱，2年前，Meta內(nèi)部對開源的商業(yè)化前景和優(yōu)先級問題都持有懷疑態(tài)度，但如今開源AI已成為行業(yè)大勢所趨。
2個半月前，Meta宣布Llama及其衍生模型已經(jīng)實現(xiàn)了10億的下載量，今天，這一數(shù)字已迅速增長至12億。
在開源平臺Hugging Face上，Llama的大部分下載量均來自衍生模型，有數(shù)千名開發(fā)者參與貢獻，數(shù)萬個衍生模型被下載，每月被使用數(shù)十萬次。
目前，Llama模型已被運用至Meta旗下的諸多App，包括WhatsApp、Instagram等等。在這些場景中，Llama模型經(jīng)過了定制處理，以滿足特定用例需求，例如對話性、簡潔性（尤其是移動場景）和幽默感。
為提供更豐富的AI體驗，Llama推出了獨立智能助手App——Meta AI。
Meta AI App十分重視語音交互體驗，可提供低延遲、富有表現(xiàn)力的語音。Meta AI還可連接用戶的Facebook和Instagram賬戶，根據(jù)用戶互動歷史大致了解其興趣，并記憶用戶的相關信息。
這一App內(nèi)置全雙工語音實驗模式。相關模型使用人與人之間的自然對話數(shù)據(jù)進行訓練，能提供更為自然的音頻輸出。全雙工意味著通道是雙向開放的，用戶可以聽到自然的打斷、笑聲等，就像真正的電話對話一樣。
全雙工語音實驗模式還處于早期階段，沒有工具使用、網(wǎng)絡搜索等能力，無法了解新近發(fā)生的時事。
Meta AI App中融入了社交元素，用戶可在發(fā)現(xiàn)頁面分享提示詞、生成結果等。這一App能與Meta Ray Ban智能眼鏡配合使用。用戶將能在眼鏡上開始對話，然后從應用程序或網(wǎng)絡的“歷史記錄”選項卡中訪問它，以從上次中斷的地方繼續(xù)。
二、一行代碼就能調(diào)用，可在線完成模型微調(diào)
會上，Meta負責Llama業(yè)務的副總裁Manohar Paluri與Llama研究團隊成員Angela Fan共同發(fā)布了由Meta托管的Llama API服務。
Llama API提供簡單的一鍵式API密鑰創(chuàng)建，一行代碼就能調(diào)用。支持輕量級的Python和Typescript SDK開發(fā)者以及OpenAI SDK。
在API服務網(wǎng)頁中，Meta提供了交互式游樂場。開發(fā)者可在其中嘗試不同的模型，更改模型設置，比如系統(tǒng)指令或溫度，以測試不同的配置。
▲Llama API界面
此外，開發(fā)者還可以使用多項預覽功能，包括基于JSON的結構化響應、工具調(diào)用等。
Paluri認為，定制化才是開源模型真正應該領先的地方。Llama API提供了便捷的微調(diào)服務，目前支持對Llama 3.3 8B進行自定義。
開發(fā)者可在微調(diào)標簽頁上傳用于微調(diào)的數(shù)據(jù)，或是使用Meta提供的合成數(shù)據(jù)工具包生成后訓練數(shù)據(jù)。
▲Llama API模型微調(diào)界面
數(shù)據(jù)上傳完成后，開發(fā)者可將數(shù)據(jù)的一部分切分出來，用于評估定制模型的表現(xiàn)。在Llama API平臺上，可隨時查看訓練進展情況，微調(diào)完成后的模型可供下載，開發(fā)者可在任何場景中運行這一模型。
大會上，Meta宣布了與Cerebras和Groq的合作。這兩家企業(yè)可提供Llama 4 API服務所需的算力支持，其算力能實現(xiàn)更快的推理速度。
結語：Llama探索商業(yè)化新道路
自2023年Llama 1發(fā)布以來，Llama系列模型已歷經(jīng)四個主要版本，開源了數(shù)十款不同參數(shù)規(guī)模、不同架構的模型。不過，動輒數(shù)千億乃至萬億參數(shù)量的模型，意味著巨大的投入——外媒爆料稱，過去一年內(nèi)，Meta已經(jīng)主動與微軟、亞馬遜等公司接洽，希望建立合作關系，共同分擔開發(fā)成本。
本次，Llama API與Meta AI App的發(fā)布，標志著Meta開始積極探索Llama系列開源模型商業(yè)化的新道路。雖然目前的相關服務均處于免費狀態(tài)，但未來，Meta有望以開源模型為入口，引導企業(yè)和用戶使用關聯(lián)的云服務，或是利用App實現(xiàn)商業(yè)化變現(xiàn)。在講完技術普惠和創(chuàng)新的故事之后，商業(yè)化或許是所有開源模型廠商們都需要共同面對的問題。
熱門跟貼