登入
關鍵字
#Token
官方認證
RexAA
2026/10/28
•
“72%的Token消耗卻僅佔27%的支出”--AI多空之爭的關鍵議題
OpenRouter資料顯示,Token需求20個月暴增250倍,但72%的流量湧向收費最低的開源模型,僅貢獻27%支出;Token價格每季度崩跌47%,GPU租金卻同步飆升160%。錢流向GPU持有者,帳單轉嫁給股東。高盛認為,加上科技圈外未見實質生產力紅利,這場資本循環岌岌可危,空頭邏輯正佔據上風。 AI需求資料正在製造一場罕見的市場分歧:同一組數字,多頭和空頭各取所需,雙方都宣稱勝利。這場爭論的核心,是一個令人不安的結構性矛盾——Token消耗量爆炸式增長,但絕大多數增量流向了收費最低的模型,而服務這些Token的GPU成本卻在同步攀升。 據高盛Bobby Molavi在其最新報告中披露,OpenRouter資料顯示,開源權重模型(open-weight models)在9月第二周處理了72%的Token流量,卻僅獲得27%的平台總支出;與此同時,閉源模型雖然份額從1月初的89%降至73%,仍牢牢掌控著絕大部分貨幣化收益。 更值得關注的是,OpenRouter平台9月中旬約69%的Token來自中國AI實驗室。Molavi將當前市場定性為“無法操作”(unplayable),並指出AI生產力紅利迄今尚未在科技行業以外留下可量化的痕跡。
科技
#GPU租金
#算力成本
#高盛
174人
讚
留言
分享
官方認證
RexAA
2026/10/27
•
剛剛,百度開源再拿全球第一!1000萬下載神作殺回來了
曾獲LeCun轉發推薦、狂攬1,000萬下載的百度開源神作,又殺回來了! 時隔4個月,百度今天正式開源新一代文件解析模型——文心Unlimited OCR 2。 它的體量依然輕巧,總參數3B,每次推理實際啟動僅500M(5億)。 但就是這個5億啟動的輕量級模型,直接拿下了兩大權威基準的全線第一:
科技
#百度
#文心
#Unlimited OCR 2
230人
讚
留言
分享
官方認證
北風窗
2026/10/26
•
2026全球人工智慧(物理AI、Token經濟、智能體)展望報告
《2026全球人工智慧展望報告》指出,人工智慧正從技術競賽的階段走向社會基礎設施的階段。報告重點圍繞Token經濟, 智能體, 物理AI三個維度展開。 一、Token經濟:從“算力消耗”走向“價值流轉” 報告提出Token經濟已形成完整的大產業鏈。 上游部分是Token工廠, 通過晶片、推理引擎以及叢集調度這些工具來高效率地製造出Token。
科技
#2026年
#人工智慧
#AI展望
238人
讚
留言
分享
官方認證
北風窗
2026/10/26
•
DeepSeek,登頂全球第一
據每日經濟新聞,OpenRouter最新資料測算,上周(10月19日至25日)全球AI大模型總呼叫量為188兆Token,環比增長14.63%。 其中,上榜的AI大模型中,中國AI大模型周呼叫量達93.54兆Token,環比增長18.14%;同期美國AI大模型周呼叫量為22.47兆Token,環比增長29.44%。中國大模型周呼叫量連續二十六周超過美國,穩居全球首位。 記者注意到,上周,全球呼叫量排名前五均為中國AI大模型。其中,DeepSeek V4.1-Flash-1017位居第一,周呼叫量達33. 6兆Token,環比增長801%。 (財聯社)
科技
#DeepSeek
#Token呼叫量
#市場佔有率
254人
讚
留言
分享
官方認證
北風窗
2026/10/25
•
Kimi最大迷思是,它什麼都想要,但卡是有限的
10月24日凌晨,Kimi K3.1 Pro發佈了。月之暗面官方公眾號寫道,“我們正式推出Kimi K3.1 Pro,這是K3.1系列的第一個模型,也是我們迄今能力最強的3兆級參數模型。”距離上一次Kimi發佈K3旗艦模型已經過去了99天。 值得注意的是,這裡的“3兆級參數”並不意味著模型又擴了參數。K3.1 Pro依然維持K3的2.8T,即2.8兆總參數規模。這次升級並沒有重新進行預訓練,重點則是在既有底座上進一步增強後訓練。官方也明確解釋,K3.1 Pro是K3的後訓練版本,大幅增加了後訓練的算力投入,尤其是面向數百個下游領域的聯合強化學習。 頭圖|視覺中國,經由AI處理 而就在過去兩周,國內模型廠商也接連發佈了最新模型:先是10月17日,DeepSeek發佈V4.1 Flash-1017,緊接著10月19日,MiniMax發佈M3.1 Flash。兩家都在提升能力的同時,強調更高的推理效率和更低的任務成本。
科技
#Kimi K3.1 Pro
#Token消耗
#AI競爭
238人
讚
留言
分享
官方認證
RexAA
2026/10/21
•
DeepSeek全面開源推理框架:相容輝達、華為昇騰晶片,單叢集日吞吐155兆Token,每卡每小時收入38美元
DeepSeek全面開源推理框架DeepInfer及Token編解碼元件deepseek-recipe,相容輝達與華為昇騰平台。基於該框架,DeepSeek V4.1 Flash單叢集日吞吐達155兆Token,按谷電價計算每卡每小時收入38美元。通過Prefill與Decode分離、KVCache復用及投機解碼等技術,DeepSeek旨在提升推理效率、降低算力成本與能源消耗。 DeepSeek進一步開放大模型推理基礎設施。 繼開源大模型、TileLang編譯工具及一系列推理算子庫後,DeepSeek宣佈全面開源內部推理框架DeepInfer,並同步開源Token編解碼元件deepseek-recipe,旨在幫助開發者和企業最佳化大規模模型部署,降低AI服務的算力成本與能源消耗。 DeepSeek介紹,基於DeepInfer,團隊已實現DeepSeek V4.1 Flash的高吞吐、低延遲大規模推理服務。目前,單一叢集的服務吞吐量達到每天155兆Token,按谷電價計算,每卡每小時收入為38美元。
科技
#DeepSeek
#輝達
#華為昇騰晶片
250人
讚
留言
分享
官方認證
北風窗
2026/10/19
•
一個最佳化讓token速度暴漲465%,RTX 3090單卡運行千問3.8 27B可達382 Tok/s
是不是3090二手要漲價? 在本地運行大語言模型時,顯示卡的算力往往不是第一瓶頸,視訊記憶體頻寬才是。NVIDIA RTX 3090雖然擁有24GB視訊記憶體和936.2GB/s的頻寬,但在運行270億參數等級的模型時,傳統的逐Token生成方式依然會受限於反覆讀取模型權重的過程,導致顯示卡的計算單元大量閒置。 近日,Reddit使用者u/iamMess通過一套專門建構的推理引擎,在不更換任何硬體的前提下,將Qwen3.8-27B模型在單張RTX 3090上的Token生成速度從82 tok/s提升到了382 tok/s,增幅達到4.6倍。 這是一個極快的速度,目前主流雲端大模型(如ChatGPT)的生成速度通常在30到60 tok/s左右。382 tok/s意味著它一秒鐘就能“寫”出大概250到300個漢字,一分鐘能生成近兩萬字。
科技
#大語言模型
#推理最佳化
#投機解碼
281人
讚
留言
分享
官方認證
RexAA
2026/10/15
•
一顆DRAM的話語權遷移史:2000年PC佔65%,2030年誰排在隊首
2026年9月30日,TrendForce給出四季度判斷:一般型DRAM合約價環比漲10~15%,計入HBM後的整體DRAM漲15~20%,NAND也漲15~20%。漲幅在放緩,但這不是好消息。放緩的是價格斜率,換手的是分配權。記憶體行業正在把"誰付得起"改寫成"誰配拿到"。 聚焦 🔍 這篇只做一件事:把一張2000到2030年的DRAM應用演化示意圖,對照2026年的真實價格走勢,拆出"需求重心遷移"的機制。圖裡的佔比和路徑是建模假設,不是統計年報,當方向看,別當帳本看。 2000年的帳本:PC一家獨大
科技
#DRAM
#HBM
#token
223人
讚
留言
分享