奇怪,AMD為什麼要跟Cerebras合作?

AI速讀
AMD 與 Cerebras 達成技術合作,推出結合 Helios 機架系統與晶圓級引擎的異構計算平台。該方案透過分工,由 AMD 負責高吞吐量的預填充階段,Cerebras 負責延遲敏感的 Token 生成階段,使能效最高提升 5 倍。此策略旨在回應輝達將 Groq LPU 納入平台的舉措,顯示 AI 推理基礎設施正由單一 GPU 轉向多引擎協作架構,以滿足 AI 智能體對低延遲的需求。該方案預計於 2026 年下半年透過 Cerebras Cloud 提供。

AMD正在為即將推出的Helios機架級AI系統補上一塊關鍵拼圖。

在Advancing AI 2026大會上,AMD宣佈與AI晶片公司Cerebras展開技術合作,將Helios機架級系統與Cerebras晶圓級引擎Wafer-Scale Engine連接起來,組成一套面向大模型推理的異構計算平台。

這套方案並不是簡單地把兩種晶片放進同一個機櫃,而是把大模型推理的不同階段拆開,讓不同架構分別處理自己更擅長的任務。

與單獨使用Cerebras晶圓級引擎相比,這套聯合方案的每千瓦Token生成量最高可提升5倍。

Helios處理長提示詞,Cerebras負責快速生成Token

大模型推理通常可以分成兩個主要階段。

第一個階段是預填充,也就是讀取使用者輸入的提示詞、文件和歷史上下文,完成大規模平行計算。這個階段更看重整體計算吞吐量和視訊記憶體容量。

第二個階段是解碼。模型需要逐個生成Token,這一過程通常更依賴記憶體頻寬和訪問延遲,計算平行度反而沒有預填充階段那麼高。

AMD與Cerebras的方案,實際上就是把這兩個階段分配給不同的計算引擎。

AMD Helios負責處理提示詞、長上下文以及大量並行請求,充當高吞吐量的預填充引擎。Cerebras的Wafer-Scale Engine則負責延遲更加敏感的解碼和Token生成。

可以把它理解成一條分工明確的生產線:Helios先批次處理原材料,Cerebras再快速完成最後的輸出。

AMD表示,兩套計算引擎將通過統一的推理工作流連接,讓系統在保持整體吞吐量的同時,進一步降低單次請求的響應延遲。

Cerebras的優勢來自晶圓級晶片

Cerebras的技術路線與傳統GPU不同。

普通AI加速器會將一塊晶圓切割成大量獨立晶片,再通過高速網路連線多個晶片。Cerebras則直接使用接近整塊晶圓大小的晶片,將大量計算核心、片上記憶體和互連網路整合在一塊矽片上。

Cerebras公佈的晶圓級引擎擁有約90萬個AI核心、44GB片上SRAM,以及極高的片上記憶體頻寬。

由於大量資料可以直接在晶片內部移動,系統不需要頻繁經過外部網路或視訊記憶體介面,因此特別適合對延遲敏感的Token生成任務。

不過,晶圓級晶片的片上記憶體容量仍然有限。面對超大模型和長上下文場景,僅依靠Cerebras單一架構並不一定能夠獲得最佳的整體吞吐量。

AMD Helios的作用,就是利用大規模GPU叢集處理模型權重、長上下文和高並行請求,再將延遲敏感的生成階段交給Cerebras。

“5倍能效”具體是怎麼來的

AMD與Cerebras宣稱,聯合系統的每千瓦Token吞吐量最高可達到單獨使用Cerebras系統的5倍。

這項結果來自2026年7月進行的內部建模,測試對象為Kimi 2.6兆參數模型,比較的是Helios加Cerebras組合方案與單獨使用Cerebras晶圓級引擎的配置。

測試是在相近互動速度下,對每千瓦Token生成能力進行比較。不同模型、量化精度、批處理規模和系統配置,都可能影響最終結果。

對於無法完全依靠晶圓級晶片高效承載的超大模型,增加Helios作為高吞吐量引擎後,可以顯著提高整套系統的利用率和能源效率。

AMD正在回應輝達的Groq路線

AMD與Cerebras的合作,也可以看作對輝達推理架構的一次回應。

輝達已經將Groq的LPU低延遲推理技術納入Vera Rubin平台。Groq 3 LPX機架通過大量專用LPU晶片,為Token生成和即時AI應用提供低延遲推理能力。

現在,AMD採取了相似但並不完全相同的路線。

輝達選擇將GPU、CPU、網路和Groq LPU整合進自己的平台體系。AMD則通過開放合作,將Instinct GPU和Cerebras晶圓級引擎組合起來。

兩家公司背後的判斷基本一致:未來的大模型推理,不一定全部由同一種晶片完成。

GPU擅長高吞吐量計算和複雜模型處理,專用推理晶片則更適合低延遲Token生成。隨著模型規模、上下文長度和智能體任務複雜度不斷增加,推理基礎設施正在從單一GPU架構,轉向多種計算引擎協同工作的異構架構。

智能體正在改變推理基礎設施

傳統聊天機器人通常只需要回答一個問題,而智能體可能需要持續呼叫工具、讀取大量上下文、執行程式碼,並連續生成數千甚至數萬個Token。

在這類場景中,首個Token延遲、Token生成速度和整體吞吐量都會直接影響使用者體驗。

例如,程式碼助手、即時語音模型、機器人控制和自動化智能體,不僅要求系統能處理大量請求,還要求每一步響應足夠快。

如果只追求吞吐量,系統可能一次處理很多請求,但單個使用者需要等待較長時間。如果只追求低延遲,系統又可能難以支撐大規模並行。

AMD和Cerebras試圖通過拆分推理流程,同時解決這兩個問題。

將於2026年下半年通過Cerebras Cloud提供

按照雙方計畫,Cerebras將在自己的資料中心部署AMD Helios系統。

聯合推理方案預計將在2026年下半年率先通過Cerebras Cloud對外提供。目前雙方尚未公佈具體價格、系統規模以及Helios與Wafer-Scale Engine之間的連接方式。

從目前披露的資訊看,這項合作更像是一套面向雲服務的資料中心級方案,而不是單獨銷售的通用伺服器產品。

對AMD來說,與Cerebras合作意味著Helios不再只是由Instinct GPU組成的機架級系統,而是可以擴展到專用低延遲推理引擎。

更重要的是,它反映出AI計算市場競爭的重點正在變化。

過去,廠商主要比較單塊GPU的算力。現在,競爭已經轉向整個機架、資料中心和推理工作流。誰能把預填充、解碼、網路、記憶體和軟體調度組合得更高效,誰就更有可能降低大模型的實際Token成本。

AMD與Cerebras的合作,正是這一趨勢的最新體現。 (費曼的AI實驗室)