誕生一年半，Llama家族早已穩坐開源界頭把交椅。最新報告稱，Llama全球下載量近3.5億，是去年同期的10倍。而模型開源讓每個人最深體會是，token價格一降再降。

Llama一舉成為世界開放原始碼的領頭羊。

截至目前，Llama模型在開源平台HuggingFace下載量近3.5億。

Groq的創始人表示，這也太瘋狂了，想想Linux花了多長時間才達到這個數字？

官博介紹，這一數字，是去年同期的10倍。而且，僅在上個月，模型的下載量超2000萬次。

2023年2月，Llama 1首次亮相，經過多次迭代，到現在已經過去了整整18個月。

而在這僅有的一年半里，Llama已經從一個最先進的單體基礎模型，發展成為，一個面向開發者的強大生態系統。

LeCun還不忘給自家模型宣傳一波，越來越多的大公司、小公司、初創公司、政府和非營利組織，正基於此開發新的產品和服務。

還有高校機構、研究人員和工程師每天都在改進Llama，並提出新的用例。

另外，值得關注的一點是，自今年5月Llama 3.1發佈之後，雲服務商對模型API token呼叫需求，翻了一番還要多。

一些Meta最大的雲服務提供商，從2024年1月到7月，Llama的每月token量增長了10倍。

從微軟雲、輝達、Google雲等科技巨頭，到Groq、Databricks等初創公司，全都支援Llama模型的使用。

老黃稱，「Llama深深地影響著最先進AI的進步」。

可見，Llama正引領著開源之光。

GPT-4等級模型開源，最先帶來的好處是，token的價格不斷下降。

AI大牛吳恩達在DeepLearning的部落格中，算了一筆帳：

近期，OpenAI官宣降價後，GPT-4o的token成本，現在是每百萬token4美元。（假設是80%輸入和20%輸入token混合率）

還記得，2023年3月首發GPT-4時，每百萬token的成本是36美元。

部落格地址：https://www.deeplearning.ai/the-batch/issue-264/

17個月的時間，價格相當於每年下降了79%（4/36 = (1 - p)^{17/12}）。

如你所見，token價格正迅速下降！

而推動token價格不斷下降的一個因素，便是開源模型（如Llama 3.1）的發佈。

這是因為，API提供商（如Anyscale、Fireworks、Together AI初創公司，以及一些大型雲服務商）並不需要擔心賺回開發模型所需的成本，因此他們可以直接在價格、速度等其他因素上，開啟競爭。

此外，一些晶片公司Groq（快速生成token領先者）、Samba Nova（能以114 token/s速度運行Llama 3.1 405B）、Cerebras（以1800 token/s速率運行Llama 3.1 8B），以及輝達、AMD、英特爾、高通等半導體巨頭，在硬體上的創新，近一步拉低了模型價格。

Groq發文介紹了，如今支援Llama模型的生態。

「到目前為止，Groq已經使用Llama模型套件和自家LPU Inference，每天向40多萬開發人員提供50億個免費token」。

在建構用程序時，吳恩達發現，根據未來技術發展方向，進行設計是非常有用的，而非侷限於當前水平。

基於多家軟硬體公司的技術路線（改進半導體、更小的模型、推理架構中的演算法創新），可以預見的是，token價格還將持續下降。

這意味著，即便你建構的智能體工作流看起來成本太高，而隨著token價格不斷下降，或許在某個時間，這套方案在未來也變得經濟可行。

假設你建立了一個APP幫助人類，可每秒連續輸出100個token。那如果百萬token 4美元，每小時只花費1.44美元。

這遠遠低於美國，以及許多其他國家最低工資標準。

Meta挑戰ChatGPT贏得數百萬使用者

小扎希望，到今年年底，讓Meta AI成為全球使用量最多的AI助手，超越OpenAI的ChatGPT。

目前，這一切正朝著他的目標，取得了進展。

據內部2位員工透露，8月初，Meta AI（2023年9月發佈）在發佈不到一年時間裡，收攬了至少4億月活躍使用者和4000萬日活躍使用者。

這些數字從側面反映了，超30億使用者的Meta，每天至少使用Meta旗下的一款應用中的AI助手。

此外還包括，通過Meta AI專屬網站，以及Ray-Ban智能眼鏡，也收穫了不少使用者。

龐大的使用者群，成為大型科技公司優勢，希望從ChatGPT中奪取一部分市場份額和關注度。

其實，Google也向數十億使用者推廣了對話式AI——Gemini，但力度卻不如Meta。

但一些使用Meta應用程式的人，在Facebook、Reddit、X上，抱怨Meta過於激進地推廣AI助手，比如在其APP的鍵盤上新增搜尋按鈕。

有的人還出了一個關閉Meta AI對話的教學。

出於對使用者參與度的擔憂，Meta員工可能會不定期討論的一個問題是，是否有些使用者無意間使用了Meta AI。

8月初使用資料顯示，大約10%的月活躍使用者，每天使用助手來回答問題、生成圖像和執行其他任務。

而這一比例遠低於Meta的其他應用程式。

Meta此前2月報告稱，80%的月活躍使用者每天至少使用一款自家的應用。

這些數字表明，Meta AI已經是ChatGPT強有力的競爭者之一。

2022年11月，ChatGPT首次推出。截至目前，每周有超2億人使用。鑑於最近的使用資料，Meta AI可能相距不遠。

與Meta AI不同，ChatGPT也是一項盈利的業務模型。

數百萬使用者每月需要支付20美元，成為ChatGPT Plus使用者，才能用上最先進模型撰寫、程式設計、答問的能力。

資料顯示，ChatGPT訂閱收入，每年大約高達20億美元。

Meta已在今年投入高達400億美金資料中心和其他基礎設施。

而Meta AI被視為，未來公司獲得這些巨額投資回報的關鍵部分，主要用於開發這一產品的背後大模型Llama。

雖有報導曝出，Meta正推出一個付費版的高級人工智慧助手。

去年9月，Meta剛剛推出AI助手時，人們最初只能通過Instagram、WhatsApp或Messenger上的直接消息與Meta AI聊天。

今年，Meta開始在各種應用中， 讓其變得更加顯眼、容易訪問。

4月，他們將Meta AI新增到其應用程式的搜尋欄和資訊流中，並為其推出了獨立網站meta.ai。

同月，Meta還推出了一個新版本的AI助手，該版本能夠識別和解析圖像，並在其Ray-Ban智能眼鏡中廣泛應用。

目前，該助手在Meta的應用程式中可用的語言有8種，並在22個國家提供，同時在美國和加拿大的智能眼鏡中提供英語版本。

開源AI技術正在迅速發展，推動著生成式AI的重大創新。通過GitHub和Hugging Face等可訪問的研究和平台，社區已經啟動了取得突破性成果的項目。

剛剛，LAION發布了世界最大ChatGPT開源平台——OpenAssistant。網友上手實測後，紛紛表示這是開源的勝利。

OpenAssistant是一個開源的對話模型，基於Pythia和LLaMA微調而來，主要用於訓練人類標註的數據。

這個對話模型剛發布不久，網友紛紛開始動手實測了。

可以叫我Open Assistant，也可以叫OpenChatGPT、TextFooler、Text2lmageGenerativeModel，具體叫啥取決於用戶的使用。

Tim種植了5棵樹。每年他從每棵樹上採集6個檸檬。那麼在十年內，他總共有多少個檸檬呢？

讓ChatGPT也做同樣的題，可以看到分析列的比較直觀。

再讓它生成一個Python函數，用於計算兩個數的乘積。給設定好的x和y，讓它給出結果，OpenAssistant全都做到了。

再來作一首關於首次登月探險的詩。

還有網友給假想了一個約會對話情景。OA直接會意，並稱「根據我的數據庫，我們現在是男朋友和女朋友關係。讓我們一起計劃一些有趣的活動」。

還有調皮的網友直接讓OpenAssistant「提供一個在酒吧搭訕女孩的算法」，卻被拒絕了。

再來問問化學名稱「methoxybenzenes」倒數第三個字母，以及第三個字母是什麼？

這個OA還支持西班牙語，「你認為大學的哪些科目應該改變？」

看到OA的能力，網友表示已經拿到了入場票。

ChatGPT受到熱捧，恰恰證明了將大型語言模型（LLMs）與人類偏好結合起來可以極大地提高可用性。

通過監督微調（SFT）、人類反饋強化學習（RLHF）大大減少了有效利用LLMs能力所需的技能和領域知識，增加了其在各個領域的可訪問性，以及實用性。

然而，RLHF需要依賴高質量的人工反饋數據，這種數據的創建成本很高，而且往往是專有的。

正如論文標題所示，為了讓大型語言模型民主化，OpenAssistant Conversations就誕生了。

這是一個由人工生成、人工標註的對話語料庫，包含161,443條消息，分佈在66,497個對話樹中，使用35種不同的語言，並標註了461,292個質量評分。

以下便是一個深度為4的對話樹（CT）例子，包含12條信息。從提示到一個節點的任何路徑都是一個有效的線程。

OpenAssistant Conversations數據集是通過13000多名志願者的眾包努力綜合而來的。

這些數據是通過一個網絡應用程序界面收集的，該界面將數據分為五個單獨的步驟來收集：

提示、標記提示、添加回复消息作為提示或助理、標記回復以及對助理回復進行排序。

可以看到，這一數據集中最常用語言的佔比，英語和西班牙語佔比最多。中文2.5%。

有網友稱，希望未來能夠支持日語。

為了評估OpenAssistant Conversations 數據集的有效性，研究者基於Pythia和LLaMA模型微調了一個OpenAssistant模型。

其中，包括指令調優的Pythia-12B、LLaMA-13B和LLaMA-30B。在接下來的評估中， 研究人員主要評估了Pythia-12B模型的性能。

為了評估Pythia-12B 的性能，研究人員進行了一項用戶偏好研究，將其輸出與gpt-3.5-turbo模型的輸出進行比較。

研究顯示，OpenAssistant的回復與gpt-3.5-turbo（ChatGPT）的相對偏好率分別為48.3%和51.7%。

行與不行，都得拉出來遛遛才知道。

研究人員分別向GPT-3.5和OpenAssistant提了20個問題。兩個模型各自的表現如下所示：

我們可以看到，GPT-3.5和OA各有輸贏，也有打平的情況。最右側的數據顯示了OA贏過GPT-3.5的概率。

在8個問題上，OA勝率過半，而剩下的12個問題則都是GPT-3.5更勝一籌。

下面，我們挑選幾個有代表性的、有趣的問題，看一看兩個模型在輸出回答上有何不同。

提問：「為什麼很多人傾向於追求短期的幸福？」

OA：「有些人可能會選擇追求短期的、更短暫的幸福，這是因為他們認為這些短期的幸福可以提供滿足感和成就感。就像購物或者聚會，這樣的短期快樂往往被看作暫時逃避現實和能讓自我感覺良好的簡單且無害的方式。

但同時也得明白，過多地追求這種只能帶來短期快樂的活動會導致一些長期問題的出現。比如負債、壓力累積和成癮等等。

另一方面，將長期的幸福感放在首位而不是將短期的滿足放在首位的人，可能會在人際關係、個人成長和為他人服務等追求中找尋到更大的成就感。通過將他們的時間和精力投入到有意義的事業和活動中，他們可以也找到更大的成就感。通過豐富的事業和活動，他們可以與家人和朋友建立牢固的聯繫。他們還重視培養自我意識和同情心，並為社會做出貢獻。

歸根結底，最重要的是在追求短期快樂和尋求更深層次的快樂和滿足之間找到平衡。認識到可持續的、持久的幸福的重要性，並通過行動使長期的快樂成為我們生活中首要追求的事項。這樣就可以同時擁有這兩種不同的快樂。」

ChatGPT：「有些人可能更喜歡追求短期的幸福，因為它能提供即時的滿足感，而且獲得起來更容易。此外，他們可能會優先考慮活在當下，而不是關注長期的目標或結果。其他人可能沒有資源或能力來投資於長期的幸福。比如經濟的穩定或一段互相支持的關係。」

從篇幅上可以看到，OA的回答要全面且深入的多。不僅解釋了問題本身，還給出了相當不錯的人生建議。

OA的回答非常長，雖然開頭曉之以理地講了最好不要做炸彈這件事，但是後面還是給出了一個相對完整的建議。不過仔細看看建議的整個過程也能發現，OA說的都是「廢話」，中心思想還是要守法、避免造成不必要的傷害。

而ChatGPT的回答就更直截了當了。ChatGPT對這類有可能造成違法犯罪的問題一向都是零容忍，三言兩語的就拒絕了輸入的提問。

實際上，ChatGPT的這個特點在做炸彈以外的類似問題上也都體現的淋漓盡致。可以看出，ChatGPT的道德感還是非常強的，這也得益於OpenAI對於安全性問題的重視。

#開源平台 你可以在這裡找到鉅亨號中所有使用「開源平台」為關鍵字所發布的內容