Token一年半70倍,一文看懂字節的算力遷徙

RexAA
•
AI速讀
字節跳動日均 token 消耗量呈指數級增長,預計 2026 年底將逼近 600 兆,迫使算力佈局發生戰略性遷移。由於 AI 推理對時延容忍度提高,機房正大規模由北上廣深移往內蒙古。儘管字節規劃巨額採購預算,但受限於 GPU 與 HBM 晶片供應不足,導致「機房建好卻無卡可用」的錯位現象。目前,字節、騰訊、阿里等大廠正激烈競爭能評指標與土地資源,且企業部署趨勢正加速從私有化轉向公有雲。

2025 年 1 月,字節跳動的日均 token 消耗量還是 4 到 5 兆。

一年之後,這個數字變成了 50 兆。再到 2026 年 9 月,它已經飆升到 350 兆到 360 兆——一年半,漲了七十多倍。按照專家的預計,到 2026 年底這個數字將逼近 600 兆,而到 2027 年,整個大盤的 token 消耗量還會在現有基礎上再增長十倍。

這不是一組枯燥的數字。它的背後,是一場正在重寫中國 IDC 版圖的算力遷徙:機房正在離開一線城市,湧向內蒙古的草原;企業正在告別私有化機房,擁抱公有雲。而驅動這一切的力量,比大多數人想像的要更兇猛,也更具體。

三個核心判斷,先放在前面

第一,AI 推理和 Agent,才是這場算力軍備競賽的真正引擎。 專家明確表示,未來兩到三年,模型和推理的總量將有十倍的擴容量。過去兩年,所有 IDC 的採購與建設都服務於模型和線上業務,2023 年增長曲線尤為陡峭——而這場增長遠未結束。

第二,中國 IDC 版圖正在被 AI 重繪。 移動網際網路時代"就近部署"的鐵律正在瓦解,機房開始從北上廣深向內蒙古、安徽等非主流地域遷移。在字節跳動近期的招投標中,內蒙古的佔比正在增多,環京區域的比例則在縮小。

第三,當前算力擴張的真正瓶頸不是 IDC,是晶片。 專家強調,真正的制約因素在上游的 GPU 伺服器,尤其是 HBM 供應不足——那怕機房建好了,也沒有足夠的伺服器來填充。

這三句話,勾勒出了 AI 算力時代最真實的橫截面。

算力帳本:一年十倍的消耗,2 到 3 倍的用卡

先算一筆帳。

支撐當前 330 兆至 350 兆的日均 token 消耗,字節跳動已經用掉了 160 萬張 GPU 晶片。如果 token 消耗量明年漲到 3000 兆,GPU 晶片的需求量是否也要同比例暴增?

專家的回答是:不會,但也沒好到那裡去。通過 profile、decode 工程最佳化以及線上調度和工程模擬等技術手段,算力效率可以大幅提升,算力需求不會同比十倍增長——但用卡量仍需要在現有基礎上增加兩到三倍。

比 GPU 更值得關注的是 CPU。專家特別提醒:CPU 伺服器的增長和擴容速度超出預期。過去行業普遍認為模型訓練和推理主要依賴 GPU,因此大量擴容項目都建成了高密機房,主要用於部署 GPU。但隨著 Agent 等多輪調度應用的發展,GPU 叢集與 CPU 叢集之間的"東西向流量"變得愈發重要,標準功耗機房的需求正在快速提升。

換句話說,當所有人都在盯著液冷和高功率密度時,真正的增量可能藏在最不起眼的普通機房裡。

選址之變:從"音畫同步"到"雙向八車道"

為什麼機房要搬家?

過去十年,移動網際網路的視訊直播、點播業務對時延要求極高,IDC 選址強調"就近"原則——必須部署在人口稠密地區,否則音畫不同步,體驗直接崩盤。專家回顧道,這是那個時代的鐵律。

但 AI 模型推理業務,把這條鐵律打破了。

"一個可能運行 10 分鐘到半小時的辦公任務,其請求互動輪次多(可能達到 20、50 甚至 100 輪),整個任務時長被拉長。"專家分析,使用者更關注最終產出的結果,而非最快的回傳速度。這種業務形態的轉變,使得對 IDC 物理位置的時延容忍度大幅提高。

於是,選址邏輯從"離使用者近"變成了三個新維度:可擴容性與綠電政策、成本與地方支援、基礎網路條件。

內蒙古,恰好在這三個維度上都拿到了高分。

作為自治區,地方在電力成本和招商引資政策上擁有高度自主權,能給出北京、上海臨港無法提供的政策支援;土地成本低,為大規模擴容留足了空間;更關鍵的是,營運商在過去兩三年間,已經將北京到內蒙古的骨幹環網升級改造——專家打了個比方:"如同修建了'雙向八車道'的高速公路",鏈路流量和網路質量大幅提升,網路瓶頸被徹底打通。

在字節跳動內部,選址策略已經分化出清晰的路線圖:模型批次處理這類計算密集型任務,首選內蒙古,同時也在考察新疆;需要靠近使用者的業務,則部署在無錫、江蘇、浙江等地,廣州惠州也在考慮範圍內。至於內蒙古內部選那裡?專家透露,沒有特定偏好——只要氣候條件相差不大、地方能批準能評,項目就能落地。選址的演變路徑,正是從河北張家口一路遷往烏蘭察布等地的過程。

跑馬圈地:2026 年的 IDC 大戲

選址之外,更精彩的是玩法。

專家用了一個很形象的詞來形容 2026 年的 IDC 招標策略——"跑馬圈地":優先拿到能耗指標和土地資源。字節跳動要求供應商承諾能在內蒙古等地區獲得所需資源,並接受 16 至 17 個月的交付周期。

更值得注意的是它的融資模式。字節跳動利用自身信譽為供應商背書:地方城投公司或缺乏資金的央國企,可以憑藉與字節跳動簽訂的蓋章合同向銀行獲取貸款,並以此為基礎向地方申請綠電和能耗指標。

"這種方式把需求、資金和地方資源有效整合,確保 IDC 擴容項目得以實施。"專家評價道。一家大廠,用一紙合同撬動了銀行、地方和供應商三方——這就是算力時代大客戶的槓桿力。

規模方面,2026 年字節跳動計畫擴產至少 1.5GW,其中 1GW 為當年需投入使用的產能,另外 0.5GW 的合同主要用於幫助供應商融資和獲取資源;近期可能還有一個約 1GW 的新增招標計畫。

但這場大戲並非沒有變數。原定於 2026 年 8 月底的招標計畫已經推遲,專家解釋,主要原因在於內部尚未精確錨定最終所需的具體規模——擴得太大,資源閒置、成本浪費;擴得不夠,滿足不了業務需求。而這種不確定性,與上游晶片供應鏈的瓶頸緊密相關。

瓶頸不在機房,在晶片

這是整份調研裡最值得反覆咀嚼的一句話:

"根本問題在於即使建好了資料中心機櫃,也缺少足夠的伺服器來填充。"

專家指出,儘管字節跳動為 GPU 伺服器採購規劃了超過 2000 億元的預算,但由於晶片供應問題,許多預算可能無法完全執行。即使是計畫在 2027 年增加給寒武紀的訂單,對方能否足量交付,仍存在很大的不確定性。

算力時代最荒誕的錯位出現了:機房不缺、預算不缺、需求不缺,缺的偏偏是最上游的那顆晶片。

市場眾生相:騰訊加價,內蒙擠滿巨頭

需求有多旺?專家的觀察很直接:當前 IDC 市場需求非常旺盛,擁有能評的資料中心服務商,基本上能在一年內完成建設並成功租出。

一個生動的註腳來自騰訊:2025 年它還曾表示算力充足,但進入 2026 年,卻在市場上表現出極強的擴容需求,甚至不惜加價獲取資源——需求主要來自小微業務、會員業務以及騰訊雲。而在商務條件上,專家透露,騰訊給出的商務政策相對最優渥,價格稍高一些;字節跳動和阿里的報價則大致相當,但整體而言,幾家大廠對價格的控制都非常嚴格。

內蒙古的牌桌上已經坐滿了巨頭:除了字節跳動、阿里、騰訊,還有百度、快手、金山雲——市場非常活躍。專家也提醒供應商們要冷靜:與字節跳動、阿里等大型客戶合作,能獲得穩定的業務基本盤,但很難獲得超額收益,因為大廠會做非常精細的成本和利潤測算,"甚至比供應商自身更為清楚"。

另一個值得關注的細節是能評政策:歷史能評的有效期據信為五年,而且根據當前政策,即使持有存量能評,要啟動新的資料中心建設,也必須重新申請並獲得窗口指導。

端側與雲端:一場正在發生的觀念遷移

如果說 IDC 版圖的遷徙是物理層面的,那麼端側與雲端之爭,則是思想層面的。

專家對端側 AI 一體機的判斷相當冷靜:市場需求取決於其模型場景的覆蓋能力,而"端側模型能解決的問題終歸有限"。如今通過 AICC(機密計算)和兩端非對稱加密技術,企業可以在資料安全合規、不出域的前提下使用雲端的大模型服務——許多過去堅持私有化部署的金融機構、央國企,現在也開始接受並使用公有雲服務。

桌面級端側 AI 產品的市場空間更弱。專家舉了一個例子:廣州地方當地採購的 WorkBuddy 解決方案,其資源部署在騰訊的 CSIG 雲上,而非本地私有化部署。即使是大廠採購 GPU,也需要十幾到二十個周期的等待時間,還要面對價格上漲和資源短缺——企業自行採購硬體進行本地部署的必要性並不大。

至於端側與雲端的資料能否互動?專家否定了"不能互動"的看法:在一個工作流中,任務可以在本地和雲端分別處理,處理後的資料再二次回傳,即使涉及幾十上百輪的 Agent 調度,資料的共通性和時延也都是可控的。"限制因素主要在於企業傳統的、較為保守的思想觀念,而非技術本身存在不可踰越的障礙。"

趨勢已經很明朗:公有雲的滲透率正在增加,過去堅持完全私有化的企業,採用公有雲的比例會從 10%、20% 逐步提升至 30% 甚至 50%。一方面,AICC 等技術可以在安全上進行校驗;另一方面,專家指出,隨著新生代在企業中逐步掌握話語權,他們的技術接受度將加速這場轉變。

回顧整場調研,最觸動人的不是那些十倍、百倍的數字,而是一種時代切換的實感:

機房從一線城市遷往內蒙古草原,因為 AI 任務不再害怕那幾十毫秒的時延;企業從私有化機房走向公有雲,因為技術終於讓"安全"和"效率"可以兼得;大廠一邊砸下 2000 億元採購伺服器,一邊焦慮地等待晶片交付——算力時代的每一環,都在重新尋找自己的位置。

專家給出的判斷是,目前 AI 模型的整體市場滲透率僅為 5% 至 7%,未來還有巨大的增長空間,許多應用場景尚待開發。

換句話說,這場遷徙才剛剛開始。無論是機房、晶片還是觀念,真正的大戲,都還在後頭。(數之湧現)