AMD正在為即將推出的Helios機架級AI系統補上一塊關鍵拼圖。
在Advancing AI 2026大會上,AMD宣佈與AI晶片公司Cerebras展開技術合作,將Helios機架級系統與Cerebras晶圓級引擎Wafer-Scale Engine連接起來,組成一套面向大模型推理的異構計算平台。
這套方案並不是簡單地把兩種晶片放進同一個機櫃,而是把大模型推理的不同階段拆開,讓不同架構分別處理自己更擅長的任務。
與單獨使用Cerebras晶圓級引擎相比,這套聯合方案的每千瓦Token生成量最高可提升5倍。
Helios處理長提示詞,Cerebras負責快速生成Token
大模型推理通常可以分成兩個主要階段。
第一個階段是預填充,也就是讀取使用者輸入的提示詞、文件和歷史上下文,完成大規模平行計算。這個階段更看重整體計算吞吐量和視訊記憶體容量。
第二個階段是解碼。模型需要逐個生成Token,這一過程通常更依賴記憶體頻寬和訪問延遲,計算平行度反而沒有預填充階段那麼高。
AMD與Cerebras的方案,實際上就是把這兩個階段分配給不同的計算引擎。
AMD Helios負責處理提示詞、長上下文以及大量並行請求,充當高吞吐量的預填充引擎。Cerebras的Wafer-Scale Engine則負責延遲更加敏感的解碼和Token生成。
可以把它理解成一條分工明確的生產線:Helios先批次處理原材料,Cerebras再快速完成最後的輸出。
AMD表示,兩套計算引擎將通過統一的推理工作流連接,讓系統在保持整體吞吐量的同時,進一步降低單次請求的響應延遲。
Cerebras的優勢來自晶圓級晶片
Cerebras的技術路線與傳統GPU不同。
普通AI加速器會將一塊晶圓切割成大量獨立晶片,再通過高速網路連線多個晶片。Cerebras則直接使用接近整塊晶圓大小的晶片,將大量計算核心、片上記憶體和互連網路整合在一塊矽片上。
Cerebras公佈的晶圓級引擎擁有約90萬個AI核心、44GB片上SRAM,以及極高的片上記憶體頻寬。
由於大量資料可以直接在晶片內部移動,系統不需要頻繁經過外部網路或視訊記憶體介面,因此特別適合對延遲敏感的Token生成任務。
不過,晶圓級晶片的片上記憶體容量仍然有限。面對超大模型和長上下文場景,僅依靠Cerebras單一架構並不一定能夠獲得最佳的整體吞吐量。
AMD Helios的作用,就是利用大規模GPU叢集處理模型權重、長上下文和高並行請求,再將延遲敏感的生成階段交給Cerebras。
“5倍能效”具體是怎麼來的
AMD與Cerebras宣稱,聯合系統的每千瓦Token吞吐量最高可達到單獨使用Cerebras系統的5倍。
這項結果來自2026年7月進行的內部建模,測試對象為Kimi 2.6兆參數模型,比較的是Helios加Cerebras組合方案與單獨使用Cerebras晶圓級引擎的配置。
測試是在相近互動速度下,對每千瓦Token生成能力進行比較。不同模型、量化精度、批處理規模和系統配置,都可能影響最終結果。
對於無法完全依靠晶圓級晶片高效承載的超大模型,增加Helios作為高吞吐量引擎後,可以顯著提高整套系統的利用率和能源效率。
AMD正在回應輝達的Groq路線
AMD與Cerebras的合作,也可以看作對輝達推理架構的一次回應。
輝達已經將Groq的LPU低延遲推理技術納入Vera Rubin平台。Groq 3 LPX機架通過大量專用LPU晶片,為Token生成和即時AI應用提供低延遲推理能力。
現在,AMD採取了相似但並不完全相同的路線。
輝達選擇將GPU、CPU、網路和Groq LPU整合進自己的平台體系。AMD則通過開放合作,將Instinct GPU和Cerebras晶圓級引擎組合起來。
兩家公司背後的判斷基本一致:未來的大模型推理,不一定全部由同一種晶片完成。
GPU擅長高吞吐量計算和複雜模型處理,專用推理晶片則更適合低延遲Token生成。隨著模型規模、上下文長度和智能體任務複雜度不斷增加,推理基礎設施正在從單一GPU架構,轉向多種計算引擎協同工作的異構架構。
智能體正在改變推理基礎設施
傳統聊天機器人通常只需要回答一個問題,而智能體可能需要持續呼叫工具、讀取大量上下文、執行程式碼,並連續生成數千甚至數萬個Token。
在這類場景中,首個Token延遲、Token生成速度和整體吞吐量都會直接影響使用者體驗。
例如,程式碼助手、即時語音模型、機器人控制和自動化智能體,不僅要求系統能處理大量請求,還要求每一步響應足夠快。
如果只追求吞吐量,系統可能一次處理很多請求,但單個使用者需要等待較長時間。如果只追求低延遲,系統又可能難以支撐大規模並行。
AMD和Cerebras試圖通過拆分推理流程,同時解決這兩個問題。
將於2026年下半年通過Cerebras Cloud提供
按照雙方計畫,Cerebras將在自己的資料中心部署AMD Helios系統。
聯合推理方案預計將在2026年下半年率先通過Cerebras Cloud對外提供。目前雙方尚未公佈具體價格、系統規模以及Helios與Wafer-Scale Engine之間的連接方式。
從目前披露的資訊看,這項合作更像是一套面向雲服務的資料中心級方案,而不是單獨銷售的通用伺服器產品。
對AMD來說,與Cerebras合作意味著Helios不再只是由Instinct GPU組成的機架級系統,而是可以擴展到專用低延遲推理引擎。
更重要的是,它反映出AI計算市場競爭的重點正在變化。
過去,廠商主要比較單塊GPU的算力。現在,競爭已經轉向整個機架、資料中心和推理工作流。誰能把預填充、解碼、網路、記憶體和軟體調度組合得更高效,誰就更有可能降低大模型的實際Token成本。
AMD與Cerebras的合作,正是這一趨勢的最新體現。 (費曼的AI實驗室)
