Meta宣戰OpenAI!發ChatGPT超強平替App,語音互動聯動AI眼鏡,Llama API免費用


Llama API免費體驗,獨立App正式上線。

Meta和OpenAI全面開戰了!

智東西4月30日報導,今天,在首屆LlamaCon開發者大會上,Meta正式發佈了對標ChatGPT的智能助手Meta AI App,並宣佈面向開發者提供官方Llama API服務的預覽版本

Meta AI App是一款智能助手,基於Llama模型打造,可通過社交媒體帳號瞭解使用者偏好、記住上下文。與ChatGPT一樣,Meta AI App支援語音和文字互動,並額外支援了全雙工語音互動(Full-duplex,允許在接收語音的同時平行處理和響應,支援邊聽邊說、即時打斷等功能)。


Meta AI App可作為Meta RayBan AI眼鏡的配套應用程式,使用者能通過該眼鏡直接與Meta AI App對話。

同場發佈的Llama API提供了包括Llama 4在內的多款模型,這一API與OpenAI SDK相容,使用OpenAI API服務的產品可無縫切換至Llama API。

同時,Meta在新API中提供了用於微調和評估的工具,開發者可以打造符合自身需求的定製化模型,還可使用由AI晶片創企Cerebras和Groq提供的快速推理服務。

值得一提的是,過去數年中,Llama相關發佈僅作為Meta Connect開發者大會上的一個環節,此次專門辦會足見他們對AI業務的重視。Meta CEO祖克柏並未出現在發佈會現場,會後其將參與2場對談。

關於價格,開發者可通過申請獲取Llama API免費預覽版的使用權限。未來,這一API或將採取收費模式,具體價格表尚未發佈。Meta AI App及Web版本均已上線,免費可用


Meta AI Web端:

https://www.meta.ai/

Llama API文件:

https://llama.developer.meta.com/docs/overview


01.

Llama模型下載量已超12億

Meta AI App主打語音互動


Meta首席產品官Chris Cox在LlamaCon大會上分享了Meta開源AI的最新進展。Cox稱,2年前,Meta內部對開放原始碼的商業化前景和優先順序問題都持有懷疑態度,但如今開源AI已成為行業大勢所趨。

2個半月前,Meta宣佈Llama及其衍生模型已經實現了10億的下載量,今天,這一數字已迅速增長至12億。


在開源平台Hugging Face上,Llama的大部分下載量均來自衍生模型,有數千名開發者參與貢獻,數萬個衍生模型被下載,每月被使用數十萬次。

目前,Llama模型已被運用至Meta旗下的諸多App,包括WhatsApp、Instagram等等。在這些場景中,Llama模型經過了定製處理,以滿足特定用例需求,例如對話性、簡潔性(尤其是移動場景)和幽默感。

為提供更豐富的AI體驗,Llama推出了獨立智能助手App——Meta AI。

Meta AI App十分重視語音互動體驗,可提供低延遲、富有表現力的語音。Meta AI還可連接使用者的Facebook和Instagram帳戶,根據使用者互動歷史大致瞭解其興趣,並記憶使用者的相關資訊。


這一App內建全雙工語音實驗模式。相關模型使用人與人之間的自然對話資料進行訓練,能提供更為自然的音訊輸出。全雙工意味著通道是雙向開放的,使用者可以聽到自然的打斷、笑聲等,就像真正的電話對話一樣。

全雙工語音實驗模式還處於早期階段,沒有工具使用、網路搜尋等能力,無法瞭解新近發生的時事。

Meta AI App中融入了社交元素,使用者可在發現頁面分享提示詞、生成結果等。這一App能與Meta Ray Ban智能眼鏡配合使用。使用者將能在眼鏡上開始對話,然後從應用程式或網路的“歷史記錄”選項卡中訪問它,以從上次中斷的地方繼續。



02.

一行程式碼就能呼叫

可線上完成模型微調


會上,Meta負責Llama業務的副總裁Manohar Paluri與Llama研究團隊成員Angela Fan共同發佈了由Meta託管的Llama API服務。

Llama API提供簡單的一鍵式API金鑰建立,一行程式碼就能呼叫。支援輕量級的Python和Typescript SDK開發者以及OpenAI SDK。

在API服務網頁中,Meta提供了互動式遊樂場。開發者可在其中嘗試不同的模型,更改模型設定,比如系統指令或溫度,以測試不同的組態。


▲Llama API介面

此外,開發者還可以使用多項預覽功能,包括基於JSON的結構化響應、工具呼叫等。

Paluri認為,定製化才是開源模型真正應該領先的地方。Llama API提供了便捷的微調服務,目前支援對Llama 3.3 8B進行自訂。

開發者可在微調標籤頁上傳用於微調的資料,或是使用Meta提供的合成資料工具包生成後訓練資料。


▲Llama API模型微調介面

資料上傳完成後,開發者可將資料的一部分切分出來,用於評估定製模型的表現。在Llama API平台上,可隨時查看訓練進展情況,微調完成後的模型可供下載,開發者可在任何場景中運行這一模型。

大會上,Meta宣佈了與Cerebras和Groq的合作。這兩家企業可提供Llama 4 API服務所需的算力支援,其算力能實現更快的推理速度。


03.

結語:Llama探索商業化新道路

自2023年Llama 1發佈以來,Llama系列模型已歷經四個主要版本,開源了數十款不同參數規模、不同架構的模型。不過,動輒數千億乃至兆參數量的模型,意味著巨大的投入——外媒爆料稱,過去一年內,Meta已經主動與微軟、亞馬遜等公司接洽,希望建立合作關係,共同分擔開發成本。

本次,Llama API與Meta AI App的發佈,標誌著Meta開始積極探索Llama系列開源模型商業化的新道路。雖然目前的相關服務均處於免費狀態,但未來,Meta有望以開源模型為入口,引導企業和使用者使用關聯的雲服務,或是利用App實現商業化變現。在講完技術普惠和創新的故事之後,商業化或許是所有開源模型廠商們都需要共同面對的問題。 (智東西)