登入
關鍵字
#AI推理
官方認證
RexAA
2026/10/07
•
Token一年半70倍,一文看懂字節的算力遷徙
2025 年 1 月,字節跳動的日均 token 消耗量還是 4 到 5 兆。 一年之後,這個數字變成了 50 兆。再到 2026 年 9 月,它已經飆升到 350 兆到 360 兆——一年半,漲了七十多倍。按照專家的預計,到 2026 年底這個數字將逼近 600 兆,而到 2027 年,整個大盤的 token 消耗量還會在現有基礎上再增長十倍。 這不是一組枯燥的數字。它的背後,是一場正在重寫中國 IDC 版圖的算力遷徙:機房正在離開一線城市,湧向內蒙古的草原;企業正在告別私有化機房,擁抱公有雲。而驅動這一切的力量,比大多數人想像的要更兇猛,也更具體。 三個核心判斷,先放在前面
科技
#算力遷徙
#Token消耗量
#IDC版圖
讚
留言
分享
官方認證
RexAA
2026/09/27
•
不會說話的AI,估值14億
導讀 THECAPITAL 爆火的JEV 九月的AI圈本來就不缺熱鬧,幾家大廠的新模型輪番登場,按往年慣例,話題中心應該在它們身上。可過去一週,開發者在X、GitHub和各種技術群裡刷屏討論的,卻是一個連完整句子都不肯說的模型。
科技
#Jev
#TypeSafe AI
#AI模型
讚
留言
分享
官方認證
美股艾大叔
2026/09/22
•
ARM、英特爾等多隻晶片股大漲超10% 服務器CPU邁入量價齊升周期
①隔夜美股費城半導體指數漲4.29%,ARM、英特爾等多隻半導體晶片股大漲超10%;AMD漲約10%,再創新高,市值首次突破1萬億美元。②湘財證券周成指出,AI推理與Agent應用的落地正驅動服務器CPU需求進入一輪供不應求的量價齊升週期。 隔夜美股高開高走,費城半導體指數漲4.29%,創8月4日以來最佳單日表現。ARM、英特爾等多隻半導體晶片股大漲超10%;AMD漲約10%,再創新高,市值首次突破1萬億美元。 湘財證券周成指出,Agent帶來數量級更多、且非人類的調用主體,每一次任務的編排、檢索、工具調用都高度依賴CPU算力。AI算力的受益面正從GPU向數據中心CPU顯著擴散,AI推理與Agent應用的落地正驅動服務器CPU需求進入一輪供不應求的量價齊升週期。基於Agent時代對CPU需求的深刻重塑以及海外科技公司的明確指引,CPU行業正迎來長週期的景氣向上階段,CPU的投資邏輯正在從跟隨GPU轉向獨立價值重估。 據財聯社主題庫顯示,相關上市公司中:
美股
#ARM
#英特爾
#CPU
讚
留言
分享
官方認證
美股艾大叔
2026/09/20
•
輝達下一條增長曲線浮出水面:AI開始按Token算帳,誰能分走最大蛋糕?
9月,輝達連續釋放兩個明確訊號:Vera Rubin NVL72已進入全面生產,面向低延遲推理的Groq 3 LPX也已投產;最新MLPerf測試中,Vera Rubin NVL72在部分推理任務上的吞吐量達到GB300 NVL72的3.7倍。 輝達講述AI生意的口徑也隨之發生改變,關注點從訓練出多少參數,轉向每兆瓦能夠生產多少Token、服務多少使用者、產生多少收入。這個變化很現實。訓練是一筆階段性資本開支,推理卻伴隨每次提問、每輪程式碼生成和每個Agent任務持續發生。 模型進入企業流程後,呼叫次數、上下文長度與響應速度不僅共同決定了算力消耗,也決定了整個產業鏈的利潤分配。接下來需要研究的更多的是誰能讓Token生產得更快、更便宜,並把這些Token轉化為企業收入。 輝達正在把一次性賣晶片,
科技
#輝達
#AI推理
#Token經濟
讚
留言
分享
官方認證
RexAA
2026/09/17
•
GB300搬進機櫃:HP把「資料中心級AI」壓縮排邊緣,這盤棋到底為誰而下
GB300搬進機櫃:HP把「資料中心級AI」壓縮排邊緣,這盤棋到底為誰而下 2026年09月11日,HP聯合Red Hat、NVIDIA拋出了一個訊號明確的組合拳:把跑在資料中心裡的生產級AI推理,原樣搬到邊緣去跑。核心產品是HP ZGX Fury工作站,搭載NVIDIA GB300 Grace Blackwell Ultra Desktop超級晶片,外加Red Hat AI Factory負責統一編排。官方口徑給出的峰值算力是20 PFLOPS FP4,支援最高約1兆參數等級的模型本地跑起來。這事為什麼現在重要——因為它標誌著"雲端集中推理"這套過去三年的默認架構,正在被詞元成本、資料主權和延遲這三座大山逼著往回退。 聚焦 🔍 HP、Red Hat、NVIDIA三方聯合發佈企業級邊緣AI平台,把GB300超級晶片、Red Hat AI Factory與OpenShift打包成"沙箱到生產"的一條龍方案,主打讓企業在工廠、門店、政務機房這類非資料中心場景直接跑大模型推理。
科技
#GB300
#HP
#Red Hat
讚
留言
分享
官方認證
RexAA
2026/09/17
•
NAND漲到768億美元這個季度,全行業在幹一件反常識的事
NAND漲到768億美元這個季度,全行業在幹一件反常識的事 這事現在為什麼重要:2026年第二季度,全球NAND Flash市場規模衝到約768億美元,環比暴漲73.1%,單季度憑空多出來324億美元的收入。但真正值得警惕的不是漲幅本身,是這輪漲價裡,價格漲的速度明顯超過了出貨量漲的速度。 翻譯成人話:這不是"賣得更多了",是"同樣的東西,賣得更貴了"。記憶體行業正在從"拼產能"切換到"拼定價權",這個切換一旦完成,回頭路很難走。 一、先把數字擺清楚
科技
#NAND Flash
#AI 基礎設施
#資本開支
讚
留言
分享
官方認證
美股艾大叔
2026/09/16
•
英特爾CEO陳立武:CPU需求太高,只能滿足客戶一半訂單
英特爾CEO陳立武近日表示,隨著AI推理和智能體應用增長,市場對CPU的需求正在明顯上升,目前英特爾只能滿足大約50%的客戶訂單。 陳立武表示,GPU非常適合AI訓練,但在推理、任務編排、控制平面,以及一些偏單線程的工作負載中,CPU仍然非常重要。尤其是在Agentic AI等場景中,CPU承擔著大量調度和控制任務。 他透露,自己投資的一些前沿AI模型公司也在不斷向他提出CPU需求,希望獲得更多處理器供應。 “很多CEO給我打電話,我不得不向他們道歉,因為沒有足夠的晶片提供給他們。”陳立武表示,目前客戶對CPU的需求非常旺盛,而英特爾只能滿足其中大約一半。
科技
#英特爾
#AI推理
#CPU需求
讚
留言
分享
官方認證
RexAA
2026/09/12
•
企業級SSD的"黃金時代"—AI推理如何重構NAND產業?
NAND產業正在經歷一場深刻的"分裂"。一方面,企業級SSD受AI推理、RAG和KV cache外溢拉動,成為NAND最大的單一應用,佔全球NAND出貨量的近一半;另一方面,消費級NAND仍受手機、PC需求壓制,閃迪的消費類業務營收環比下滑32%。一個資料揭示了這場分裂的殘酷:當大模型上下文從4K token提升到128K token時,KV快取需求增長32倍。NAND,已經分裂成"企業級"和"消費級"兩套完全不同的生意。 開篇:NAND的"分裂" 過去,NAND是一個"統一的市場"——手機、PC、SSD、USB 隨身碟都用NAND,價格一起漲跌,周期一起波動。但AI推理的出現,正在撕裂這個"統一"。企業級SSD成為NAND的"新貴"(佔出貨量近48%),需求由AI推理、RAG、KV cache外溢拉動,供不應求;而消費級NAND陷入"冰點",閃迪消費類業務營收環比下滑32%。NAND已分裂成兩套完全不同的生意。 第一章 AI推理如何拉動企業級SSD
科技
#企業級SSD
#AI推理
#NAND
讚
留言
分享