登入
關鍵字
#Token
官方認證
RexAA
2026/10/07
•
存力接棒算力—AI智能體把記憶體推上主戰場
KV Cache從"臨時變數"變成"持久資產"——記憶體容量和訪問速度,正在直接決定智能體的記憶能力。 開篇:那個越寫越厚的"草稿本" 一個AI智能體正在處理百萬級token的對話歷史。它要反覆回放上下文、呼叫工具、多步推理——每走一步,都要把已經"記住"的內容再讀一遍。 這個"記住"的載體,叫KV Cache。它像一個越寫越厚的草稿本:對話越長,草稿越厚,轉眼就佔滿了昂貴稀缺的GPU視訊記憶體。據中信證券測算,上下文從8K激增到1M tokens時,單使用者FP16精度下的KV Cache視訊記憶體佔用會從約5GB飆升至640GB以上——而一張頂級GPU的HBM視訊記憶體,不過百GB量級。
科技
#AI智能體
#token
#KV Cache
讚
留言
分享
官方認證
RexAA
2026/10/07
•
Token一年半70倍,一文看懂字節的算力遷徙
2025 年 1 月,字節跳動的日均 token 消耗量還是 4 到 5 兆。 一年之後,這個數字變成了 50 兆。再到 2026 年 9 月,它已經飆升到 350 兆到 360 兆——一年半,漲了七十多倍。按照專家的預計,到 2026 年底這個數字將逼近 600 兆,而到 2027 年,整個大盤的 token 消耗量還會在現有基礎上再增長十倍。 這不是一組枯燥的數字。它的背後,是一場正在重寫中國 IDC 版圖的算力遷徙:機房正在離開一線城市,湧向內蒙古的草原;企業正在告別私有化機房,擁抱公有雲。而驅動這一切的力量,比大多數人想像的要更兇猛,也更具體。 三個核心判斷,先放在前面
科技
#算力遷徙
#Token消耗量
#IDC版圖
讚
留言
分享
官方認證
RexAA
2026/10/07
•
Anthropic訂閱方案性價比達OpenAI的5倍以上
測算方法 極限實測 Anthropic、OpenAI、Meta、SpaceXAI、MiniMax、月之暗面(Moonshot)、智譜、Cursor 以及 Cognition 的各項 AI 訂閱方案 Max Kan 與 Dylan Patel 著。訂閱方案目前仍是消費者和小企業為 AI 付費的主要方式。儘管正如我們此前在6月所解釋的那樣,這些方案享受著高額補貼,但作為強大的獲客與行銷工具,它們在經濟層面依然合理。例如,OpenAI 慷慨的額度重設機制所建立的使用者好感,促成了近期 Codex 採用率的激增,並迫使 Anthropic 多次撤回原定的訂閱額度削減計畫,以避免在輿論層面遭受重創。 此外,由於訂閱方案享有極高的補貼,即便它們在總營收中僅佔較小比例,也會對利潤率以及每兆瓦(MW)營收產生顯著影響。以 Anthropic 的大致資料為例。
科技
#AI訂閱方案
#Token限額
#算力補貼
讚
留言
分享
官方認證
小小天下
2026/10/07
•
新加坡電信賣Token了
新加坡電信賣Token了 摘要:10月1日,新加坡電信推出Token即服務,Qwen、GLM、Kimi上架,海外營運商賣Token了。 10月1日,新加坡電信(Singtel)官宣了一款新產品:AI Token-as-a-Service,簡稱TaaS。 官方口徑裡,這是新加坡第一個把"模型即服務"打包成託管服務的產品——企業要用的AI模型、算力基礎設施、編排調度、治理合規,全部裝進一個服務,按詞元(Token)計費。
科技
#新加坡電信
#Token
#Qwen
讚
留言
分享
官方認證
RexAA
2026/10/05
•
如何用好 GPT-6 系列 AI 模型?OpenAI 放出指南,教你選模型、最佳化提示詞等
現在的模型越來越多了。不管是 OpenAI 還是 Anthropic,同一個系列裡往往有好幾款模型,而且每款模型還有不同的推理等級。 這對很多人來說,怎麼選就變得非常困難。 所以大部分人用的時候,可能根本不去選,從頭到尾都用同一個模型。這樣不僅沒有發揮出模型的最佳性能,往往還消耗了更多的 token。 OpenAI 官方也意識到了這個問題,所以前兩天專門發了一份 GPT-6 使用指南,教大家怎麼選模型。
科技
#GPT-6
#模型選擇指南
#推理等級
讚
留言
分享
官方認證
RexAA
2026/09/20
•
IBS最新預測:3500兆Token/日、DRAM破兆,半導體“超級短缺”全面爆發
2026年的全球半導體產業,正在經歷一場前所未有的“加速度”。 國際商業戰略公司(IBS)最新發佈的幾張核心資料圖表,勾勒出一幅令人震撼的產業圖景:半導體市場規模提前四年撞線兆美元,AI Token消耗量指數級飆升,DRAM單品市場規模逼近過去整個行業的預測值,晶圓代工市場衝向兆美元,而供應端卻全面告急。 1.6兆美元提前撞線,半導體進入“AI超級周期” 這張圖展示了全球半導體市場按產品分類的增長軌跡。2020年,全球半導體市場規模為4467億美元。此後逐年攀升,2023年經歷短暫回呼至5299億美元,但隨即強勢反彈。IBS預測,2026年全球半導體市場將達到約1.586兆美元,2030年達2.585兆美元,2035年達4.678兆美元。
科技
#IBS
#半導體短缺
#AI超級週期
讚
留言
分享
官方認證
美股艾大叔
2026/09/20
•
輝達下一條增長曲線浮出水面:AI開始按Token算帳,誰能分走最大蛋糕?
9月,輝達連續釋放兩個明確訊號:Vera Rubin NVL72已進入全面生產,面向低延遲推理的Groq 3 LPX也已投產;最新MLPerf測試中,Vera Rubin NVL72在部分推理任務上的吞吐量達到GB300 NVL72的3.7倍。 輝達講述AI生意的口徑也隨之發生改變,關注點從訓練出多少參數,轉向每兆瓦能夠生產多少Token、服務多少使用者、產生多少收入。這個變化很現實。訓練是一筆階段性資本開支,推理卻伴隨每次提問、每輪程式碼生成和每個Agent任務持續發生。 模型進入企業流程後,呼叫次數、上下文長度與響應速度不僅共同決定了算力消耗,也決定了整個產業鏈的利潤分配。接下來需要研究的更多的是誰能讓Token生產得更快、更便宜,並把這些Token轉化為企業收入。 輝達正在把一次性賣晶片,
科技
#輝達
#AI推理
#Token經濟
讚
留言
分享
官方認證
北風窗
2026/09/20
•
巴倫周刊—智譜把token搬上淘寶,只為教育使用者?| 巴倫港股
智譜天貓旗艦店賣Token套餐,搜尋暴漲50倍但銷量僅三位數,股價也因融資與定價困局劇烈波動。 近日,智譜AI(02513.HK)這家中國大模型明星公司做了一件新鮮事——在天貓開了家官方旗艦店,賣的不是晶片不是軟體,而是自家模型的API額度。四款GLM Coding Plan套餐掛上去:Lite版118元/月,Pro版538元/月,Max版1078元/月,還有598元/月/席的團隊版。 9月2日開業當天,四款商品均顯示無銷量資訊。同一天,智譜港股收跌5.26%,從前一天的1179港元跌到1117港元。接下來兩周,智譜的股價走出了一條令人窒息的弧線——9月11日收在793港元,9月13日宣佈完成50億美元融資,市場非但沒買帳,9月14日暴跌9.08%,9月15日再跌5.69%至680港元,總市值縮到3166億港元。緊接著9月16日到18日連續反彈,主要系智譜發佈的新模型GLM-5.3-FlashX,股價漲超5%收在約780港元。 從6月22日歷史高點對應約1.33兆港元市值算下來,不到三個月,智譜蒸發了近兆港元。一家上市不到九個月的公司,融資公告成了利空,旗艦店門可羅雀,開店48小時內品牌搜尋環比暴漲50倍,帶動天貓AI token等訂閱類產品成交環比漲超160%——這中間的落差,正是理解AI Token這門生意的最好切口。
港股
#智譜AI
#Token零售
#價格戰
讚
留言
分享