Meta最具影響力的Llama 3大語言模型(LLM)要來了。
鈦媒體App 4月9日訊息,根據The information今晨報道,Meta Platforms計劃下週推出即將推出的Llama 3大模型的兩個小參數版本。
這些模型將作為Llama 3 最大版本的前身,預計整個Llama 3於2024年夏天推出。據報道,Llama 3最高版本可能擁有超過1400億個參數。
這項發布可能會激發人們對即將推出的Llama 3的興奮。去年7月,Llama 2推出,之後包括Google、馬斯克的xAI 和Mistral 在內的多家公司已經發布了開源大模型。
而約一年後的今天,Llama 3終於粉墨登場。據報道,Meta希望Llama 3模型整體性能能夠趕上OpenAI最新的GPT-4 Turbo版本,但Llama 3下周公布的版本並不支援多模態技術。
截至發稿前,Meta發言人拒絕置評。
具體來說,Meta先前發布Llama 2的三個版本模型,分別包含70億、130億、700億參數版本,後者是最大參數模型,因此可實現對模型落地的程式碼編輯操作。
有消息稱,近幾個月來,由於Meta內部認定Llama 2回答過於保守,公司正努力讓Llama 3更加開放,回答更準確的話題。
今年1月19日,Meta CEO馬克·祖克柏(Mark Zuckerberg)宣布,Meta 計畫將投入大量資源打造自己的通用人工智慧(AGI),即在幾乎所有領域達到或超越人類智慧的人工智慧,並儘可能實現開源。只有開發全面的AGI,才能為聊天機器人、創作者和企業等提供下一代所需的服務。
「我們的長期願景是建立通用智能,負責任地開源,並使其廣泛可用,以便每個人都能受益。」祖克柏表示。
人員層面,目前他正將Meta現有的兩個團隊進行聯合,其一是聚焦AI 基礎研究的團隊“FAIR”,其二是致力於為消費者開發生成式AI 產品的團隊“GenAI”。
算力層面, Meta 認為已經做好充分準備。祖克柏透露,到2024 年底,該公司將擁有約35萬顆英偉達H100 GPU,如果加上英偉達A100 GPU和其他AI 晶片,Meta擁有近60萬顆GPU庫存。
根據祖克柏透露,Meta將於今年推出一款新產品,可以幫助用戶創建專屬的AI 角色,並能將它們發佈到Meta 的社群應用程式中。
美國弗雷斯特研究公司的分析師迪潘揚·查特吉(Dipanjan Chatterjee)認為,鑑於該行業大力擁抱AI,Meta公司的轉變也並不令人意外,“'每家公司現在都是一家科技公司'的說法,已經演變為每家公司現在都是一家AI 公司。”
近日,福布斯公佈了最新2024全球億萬富豪榜。祖克柏是過去一年全球財富(身價)成長最多的人,由於過去一年Meta股價大漲,祖克柏的淨資產也由此成長1126億美元,最新身價達1770億美元,而他在福布斯富豪榜上的排位,也從去年的第16位,大幅上升到了今年的第4位。(鈦媒體AGI)