推廣活動

智譜2022年埋的種子,現在炸了:5兆參數模型已在國產卡上開訓

北風窗
•
AI速讀
【產業分析】智譜AI 憑藉 2022 年提前佈局的國產晶片適配戰略,成功在美國算力管制風暴中建立防禦壁壘。目前智譜已完成 40 多款國產晶片適配,其 GLM-5 系列模型多由國產算力承載,且傳出正與 DeepSeek 在國產卡上訓練 5-10 兆參數之旗艦模型,打破「國產卡僅能跑推理」的刻板印象。分析指出,未來國產 AI 需透過「芯模協同」、「統一中間層」及「超節點系統工程」三管齊下,以演算法與系統優化彌補單卡硬體代差。

黃仁勳辭職這三天,全網都在盤點他的遺產:CUDA、NVLink、4兆美元市值。但對老黃在位的意義對於中國AI圈來說,其實就一句話——老黃在位一天,國模就大機率還能用上輝達的卡。

01. 他是擋在管制前面的那個人

這不是感覺,是利益結構。老黃是中國市場最強勢的辯護者:中國在他嘴裡是近500億美元的市場。為了這個市場,輝達累計被減記49億美元也沒停手——H800被禁就出H20,H20被限就做下一代特供;中國區單季營收從81億美元跌到29億,約700億美元訂單只履行了1%,他還是沒放棄遊說。有他坐在CEO的位置上,“國模訓練叢集裡塞滿輝達”就是大機率事件,管制的每一輪收緊,都會被他的商業利益往後拖一拖。

但國模廠心裡都明白:一家美國公司替中國客戶擋槍,擋得了一時,擋不了一世。管制只會更緊,特供只會更窄。運氣不是權利。

02. 2022年,最不被理解的那步棋

於是有人晴天修屋頂。下手最早的是智譜——2022年,ChatGPT還沒發佈,“大模型”還不是全民詞彙,輝達的卡想買就買,H800正在熱銷,國產晶片還背著“湊合能用”的標籤。智譜偏偏在那時候開始做國產晶片適配。

這步棋當時看近乎不可理喻:輝達的卡又好又能買到,為什麼要花力氣伺候生態粗糙的國產卡?沒人逼它,沒有政策要求,也沒有斷供倒計時——純粹是它自己的判斷:靠別人家的卡,訓不出永遠屬於自己的模型。

03. 三年帳本,每一筆都對上了

三年後,答案全寫在帳上。

生態上,ST、海光、寒武紀、摩爾線程等40多款國產晶片完成適配,國內沒有第二家模型公司把“多生態相容”鋪到這個寬度。能力上,收購中科院計算所背景的編譯棧公司中科加禾,把軟硬協同裡最難的編譯層攥進自己手裡;自研ZCube組網,不加一張卡把叢集推理效率提升約15%。

業務上,GLM-5系列的算力多數由國產卡承載,GLM-5.3-Flash全部跑在10萬卡等級的海光叢集上——GLM-5發佈那一周平台呼叫量漲了十倍,就是這套國產算力撐住了沒有斷供,隨後公司把ARR指引上調到30億美元。它還在叢集上做RSI工程實踐,兩周把端到端吞吐提升3.2倍。有機構測算,其硬體效率和單token成本已接近輝達方案。

04. 傳聞,和一條接力賽的時間線

然後,是現在市場最熱的傳聞:智譜和DeepSeek正在國產卡上訓練5-10兆參數等級的模型。產業鏈還有一個更激進的版本:某大廠明年150萬張ST產能中,超過20萬片已與兩個頭部基模公司鎖定,大機率就是這兩家,用於訓練10兆參數模型。

注意這個參數量級。5兆不是過渡型號,是旗艦中的旗艦。敢把旗艦預訓練押上國產卡,說明工程評估已經通過——“國產卡只配跑推理”的刻板印象,被正面擊穿。

把時間線拉長看更有意思:智譜2022年動手;DeepSeek 2025年把推理程式碼從CUDA全面遷到CANN並開源、V4-Pro在ST910C上完成後訓練、烏蘭察布自建資料中心;Kimi們正在跟進的路上。國模轉軌國產晶片,不是那家公司的奇招,是一場交接棒早已排定的接力賽。

老黃在位時,智譜這三年看著像多餘的成本;老黃一走,這些成本成了唯一的人身保險。

這就是提前佈局的意思:風暴來的時候,你不需要宣佈自己安全,帳本會替你宣佈。不過帳本只記到今天。提前佈局拿到的是入場券,國產模型公司下一步的破局方向,是三件事。

第一,芯模協同,雙向奔赴。 模型為晶片設計,晶片也為模型設計。MoE、稀疏注意力、低精度訓練,演算法上省下的每一個FLOP,都在幫硬體補差距。智譜把編譯層攥進自己手裡、ZCube不加卡提效約15%、RSI兩周把吞吐拉高3.2倍,已經是「用工程替硬體省FLOP」的雛形;下一步要讓稀疏結構、注意力形態與低精度策略在模型設計階段就與晶片的算力結構、視訊記憶體頻寬一起定,把單卡代差從演算法裡省回來。

第二,統一中間層,別再重複造輪子。 每家晶片配每家模型都從頭來一遍,太內耗了。行業需要一個開源、跨晶片的「國產CUDA層」:算子庫、通訊庫、編譯與執行階段收斂成一套公共介面,模型公司只對接一次,晶片公司只實現一次。40多款晶片的適配經驗不該只屬於一家公司,TileLang、開源CANN已經開了個好頭,跨晶片開源棧把模型發佈當天的適配從數周壓到數天。

第三,單卡不夠,系統來湊。超節點就是答案。互聯、調度、容錯這些系統工程,正好是中國工程師的強項。5兆參數這張考卷,考的不是單卡跑分,而是萬卡連續跑數月的互連拓撲、任務調度與故障恢復——把單卡差距攤到一個機櫃、一個超節點、一個叢集裡去消化,才是這條曲線繼續往上走的方式。 (金石雜談)