週末大量使用者開始實測Kimi K3。
這一次不再是發佈會參數、官方榜單和Demo展示,真實使用資料開始出現。
目前最集中的兩類反饋:Token消耗快,生成速度慢
不少使用者使用一天後,套餐額度已經消耗30%甚至50%。K3官方API價格為每百萬Token輸入3美元、輸出15美元,快取命中輸入降至0.3美元。單看報價,確實明顯低於部分海外前沿模型。
但API單價只代表每百萬Token多少錢,無法代表完成一個任務最終花多少錢。
真正決定任務成本的是:
任務成本=輸入Token+輸出Token+推理輪數+工具呼叫次數+失敗重試次數
模型單價低一半,Token消耗量高一倍,最終成本基本相同。
市場流傳的一份Jefferies人工測評顯示,在同一項複雜任務中,K3累計生成約1.3億輸出Token,總成本約2710美元;GPT 5.6 Sol最高性能檔位生成約7000萬Token,總成本約2824美元。
這組資料目前主要來自機構測評截圖,完整任務定義、快取比例和計費過程尚未公開,因此不能作為嚴格橫向評測。
但它揭示的問題非常重要:
模型價格競爭,已經不能只比較每百萬Token報價。
一個模型可能單價更低,但為了完成同樣任務,需要更長推理鏈、更多工具呼叫、更頻繁糾錯和更多輸出Token。
最終企業購買的是成功完成一次任務。
以後衡量模型成本,最重要的指標將從“每百萬Token價格”,轉向“每個有效任務成本”。
同樣生成一份研究報告,一個模型花5美元但需要人工修改兩小時,另一個模型花20美元直接交付,後者反而更便宜。
K3使用者反饋Token消耗快,本質上也與產品定位有關。
K3始終開啟思考模式,主要面向長程程式設計、知識工作和Agent任務。它支援100萬Token上下文,可以讀取大型程式碼庫、長文件和大量業務資料,還能持續呼叫工具、修改檔案、執行測試和根據結果重新規劃。K3官方定位本身就是Agentic Coding與Knowledge Work,而非普通聊天模型。
這些任務天然比問答更耗Token。
普通聊天可能只需要一次輸入、一次輸出。
Agent任務則可能經歷:
讀取資料;
拆解任務;
生成計畫;
呼叫搜尋;
編寫程式碼;
運行程序;
讀取報錯;
修改程式碼;
重新執行;
檢查結果;
生成最終交付物。
使用者看到的可能只有一句指令和一個最終檔案,模型後台已經運行數十輪甚至數百輪。
所以K3的Token消耗快,不完全是模型效率低,也反映了AI工作方式正在改變。
過去使用者購買的是一次回答,現在使用者購買的是一段持續工作的計算過程。
只要模型開始接管原本需要人工作數小時甚至數天的任務,單次任務消耗幾百萬、幾千萬甚至上億Token,都會逐漸成為常態。
這也解釋了為什麼大模型單價持續下降,推理算力需求仍可能快速增長。
單個Token越來越便宜,但每個任務使用的Token數量正在指數級增加。
第二個集中反饋是慢。
部分原因可能來自發佈後使用者突然湧入,伺服器端並行壓力上升。K3發佈後迅速獲得大量關注,其2.8萬億參數規模、開放權重計畫以及接近海外前沿模型的能力,已經引發全球市場討論。
更深層的原因來自K3自身架構。
K3擁有2.8萬億總參數,共896個專家,每次推理只啟動16個專家。稀疏MoE降低了單次計算量,但並沒有讓全部模型參數消失。
推理時,系統仍需要保存、調度和讀取規模龐大的專家權重。
每生成一個Token,路由系統都要判斷呼叫哪些專家;不同專家可能分佈在不同加速卡上;啟動資料需要在卡與卡之間高速傳輸。
因此,MoE模型的瓶頸不只在算力,還在視訊記憶體容量、記憶體頻寬、卡間互聯和叢集調度。
傳統理解中,模型每次只啟動約1.8%的專家,推理成本應該很低。
但“啟動參數少”和“部署成本低”是兩回事。
2.8萬億參數即使採用低精度儲存,權重體積依然巨大。單台伺服器無法容納完整模型,需要把專家拆分到大量加速卡上。
一旦專家跨節點分佈,推理性能便高度依賴高速互聯。
網路稍慢,GPU就要等待資料;
調度不均,部分卡滿載,部分卡閒置;
並行增加,專家之間還可能出現負載擁堵。
K3官方建議使用64張以上加速卡組成的超節點部署,也說明這種規模的開放模型已經遠離普通企業自建伺服器的能力範圍。
開放權重意味著使用者可以查看、修改和部署模型。
這不意味著普通公司買幾張GPU就能跑起來。
過去幾年,“開源模型”經常與低成本聯絡在一起。
因為早期開源模型參數較小,可以量化、蒸餾,甚至放進個人工作站。企業也可以通過私有化部署,降低長期API費用。
K3代表另一個階段,開源模型開始沿著Scaling Law繼續擴張,從數百億、數千億走向萬億乃至數萬億參數。
模型權重依然開放,但完整部署所需要的硬體系統,開始接近大型雲廠商和頭部網際網路公司的基礎設施水平。
開源降低了軟體許可門檻,卻沒有消除物理世界的成本。
GPU要花錢;
HBM要花錢;
高速交換晶片要花錢;
光模組、銅連接和網路裝置要花錢;
機櫃、電力、液冷和維運同樣要花錢。
模型可以免費提供權重,推理過程仍然要按照算力計價。
K3由此打破了一個長期存在的簡單敘事:
只要中國開源模型追上美國閉源模型,前沿智能就會迅速變成低價商品。
現實更加複雜。
模型能力可以追平,智能成本不會自動歸零。
模型越強,使用者越願意把複雜任務交給它;任務越複雜,上下文越長,推理鏈越長,工具呼叫越多;使用量增加後,系統需要更多加速卡和更強互聯。
技術進步降低的是單位計算成本,同時創造了更大的計算需求。
這與汽車、網際網路和雲端運算的發展規律類似。
汽車油耗下降後,社會總行駛里程繼續增長;
網路資費下降後,視訊和直播吞噬了更多頻寬;
雲端運算單價下降後,企業運行的軟體和資料規模不斷擴大。
AI也可能進入同樣的階段。
每百萬Token價格下降,但每個人每天呼叫的Token數量,從幾萬增長到幾百萬甚至幾千萬。
未來企業可能同時運行幾十個Agent:
程式碼Agent持續修復程序;
研究Agent監控行業變化;
銷售Agent跟蹤客戶;
財務Agent處理報表;
設計Agent生成素材;
客服Agent即時響應使用者。
每個Agent都在長期讀取上下文、呼叫工具、生成內容和反覆驗證。
單個模型更高效,社會總推理量反而更大。
因此,K3對算力產業的真正含義,並不是“開源模型將降低GPU需求”。
這可能指向完全相反的結果。
前沿開源模型參數繼續擴大,會提高對大容量HBM、高速卡間互聯、交換晶片、光通訊和超節點架構的要求。
K3這種超大規模稀疏MoE尤其依賴區域高頻寬域。專家分佈得越廣,通訊開銷越高;為了降低延遲,需要儘可能把更多加速卡放進一個高頻寬、低延遲的統一系統中。
這也是超節點價值上升的原因。
未來AI伺服器的競爭重點,不再只是單張GPU性能。
真正重要的是一個節點內能夠連接多少張卡、總視訊記憶體有多大、卡間頻寬有多高、專家調度效率有多強。
晶片性能決定單點計算上限。
超節點決定萬億參數模型能不能高效運行。
K3還帶來另一個產業變化:開源模型與閉源模型的商業邊界正在重新劃分。
對於普通使用者,直接呼叫Kimi API依然是成本最低、使用最方便的方案。
對於中小企業,自己購買64張以上加速卡部署K3,通常缺乏經濟性。硬體投入、叢集維運和利用率損失,很可能高於API費用。
真正有能力部署K3的,主要是雲廠商、大型網際網路公司、國家級算力中心和頭部AI基礎設施企業。
因此,超大開源模型不會消滅雲服務,它反而可能強化雲服務。
開源權重為企業提供了模型選擇權和定製權,雲廠商則負責解決視訊記憶體、互聯、調度和推理最佳化。
最終形成的商業模式可能是:
模型公司開放權重;
雲廠商提供託管推理;
企業基於行業資料做微調和Agent開發;
使用者按照實際任務使用量付費。
K3週末實測之後,最值得關注的結論已經很清楚。
第一,API單價不能代表真實任務成本,未來要比較每次成功交付成本。
第二,稀疏MoE降低了啟動計算量,卻提高了模型部署對大視訊記憶體和高速互聯的要求。
第三,開源模型開始進入數萬億參數時代,開放權重與廉價部署正在分離。
第四,Agent會讓單次任務Token消耗快速增加,單位推理價格下降未必帶來總算力需求下降。
第五,前沿模型越開放,雲廠商、超節點、HBM和高速互聯的重要性可能越高。
DeepSeek曾讓市場形成一種印象:演算法效率提升,意味著AI算力需求會被削弱。
K3給出的答案更加接近現實:
演算法效率提升,會降低完成單次計算的成本;成本下降後,更多工會被AI接管;任務數量、執行時間和Token消耗繼續增長,最終推動總算力需求擴大。
智能從來沒有免費。
閉源模型按照API收費。
開源模型按照GPU、視訊記憶體、網路、電力和維運收費。
商業模式不同,底層賬單始終存在。
K3最重要的意義,也許並不是中國開源模型又一次逼近海外閉源模型。
真正揭示的是:
Scaling Law仍在繼續,前沿模型仍在擴大,智能仍然依賴昂貴的物理基礎設施。
模型可以開源,算力賬單不會。 (蓋世小蟲)
