輝達下一代CPU,規格曝光

NVIDIA 公佈了其下一代 Rosa CPU 的首個真正資訊,該 CPU 將與其 Feynman 產品線配合使用。

在2026年GTC大會上,NVIDIA發佈了其下一代資料中心CPU ——Rosa。Rosa CPU將與Feynman一同發佈,並針對智能體人工智慧工作負載進行了精準最佳化,以滿足這些工作負載對更高處理性能的需求。Rosa以美國物理學家、諾貝爾獎得主羅莎琳·薩斯曼(Rosalyn Sussman)的名字命名。

今天,NVIDIA公佈了其下一代 Rosa CPU 的更多細節,其中一些資訊非常重要。首先,NVIDIA 表示,Rosa CPU 將採用名為“Rigel”的全新核心架構,該架構基於 Arm v9.2 CPU 核心。與 Vera 一樣,Rosa 將成為一款速度極快的 AI 處理晶片,其單執行緒性能將比上一代產品在規模化應用中得到進一步提升。

Vera 採用的是 Olympus 核心,這些定製的 Armv9.2-A 核心的吞吐量是 Grace 的兩倍,而 Rosa 將進一步提升單核性能優勢。更令人印象深刻的是,性能的提升是在相同的晶片尺寸下實現的。

NVIDIA 的下一代 Rosa CPU 搭載 Rigel 核心,將延續該公司面向智能人工智慧時代的 CPU 發展路線圖。Rigel 是 NVIDIA 的下一代 Arm v9.2 CPU 核心,在保持相同晶片尺寸的同時,單核性能優於 Olympus。其主要改進包括更高效的指令傳輸、更大的 L2 快取以及更高效的記憶體管理。

更多細節方面,NVIDIA 強調了 Vera 在指令傳遞效率、二級快取容量和記憶體管理效率方面的改進。目前,Vera 配備了 88 個 Olympus 核心,比 Grace 的 72 個核心有所增加。Rosa 的核心數量是否增加尚未提及。

主要規格對比:

從 Rosa 和 NVIDIA 在 Grace 以及如今的 Vera 等 CPU 架構上的佈局來看,該公司已經取得了長足的進步,直接在人工智慧領域與 x86 競爭對手展開較量。Vera已全面投產,並開始向全球各大人工智慧公司交付 Vera Rubin 和獨立機架式處理器。NVIDIA 的 CPU 戰略不僅限於企業和資料中心,因為相同的核心也將應用於下一代 RTX Spark 晶片。

首批 RTX Spark 晶片預計將於今年秋季推出,屆時 Grace 和 Blackwell 將攜手合作;2028 年的產品陣容將以 Vera Rubin 組合為主;最後,Rosa 將於 2029 年進入資料中心市場,隨後 Rosa Feynman Spark 解決方案將於 2030 年推出 PC 專用版本。

為什麼大規模單執行緒CPU性能至關重要

大規模的單執行緒 CPU 是專為智能 AI 時代打造的新型 CPU。

在智能體系統的建立和部署過程中,CPU 位於推理、響應時間和學習的關鍵路徑上。CPU 是執行 AI 模型指令的處理器,這些指令包括:工具呼叫、程式碼執行、資料處理、鍵值快取和結果分析。

對於人工智慧工廠中的智能體來說,速度至關重要。

CPU運行工具的速度越快,代理執行當前任務的速度就越快。

對於人工智慧工廠而言,GPU 的利用率是資料中心中最寶貴的資源,因此任何等待任務完成的時間都會限制人工智慧工廠的收益——更糟糕的是,等待 CPU 完成任務還會影響 GPU 的利用率。人工智慧工廠需要具備最高單執行緒性能的 CPU,以最大限度地提高人工智慧工廠的收益和智能體的性能。

如今的資料中心 CPU 並非為大規模高速運行而設計。

雖然目前市面上已有速度極快的PC和工作站CPU,但資料中心CPU的發展方向卻逐漸偏離了單執行緒性能。雲端運算的興起促使CPU製造商在降低成本的同時,犧牲部分性能,轉而追求更高核心數的CPU。

為了最佳化每個可用核心的成本,CPU的設計增加了每個晶片的核心數量,但卻佔用了原本用於高性能記憶體架構和更快指令處理速度等核心運行所需硅片面積。向晶片組架構的轉變進一步降低了成本,但也帶來了“晶片組稅”,即每個CPU核心無法再充分利用晶片的記憶體性能。

AI代理需要一款專為大規模單執行緒性能最大化而設計的CPU。

大規模部署的最大單執行緒 CPU 能夠在系統滿負荷執行階段保持每個代理步驟的快速執行。每個核心都能以全性能完成代理任務,而不會受到其他核心的拖累。大規模部署的最大單執行緒 CPU 的設計旨在實現以下目標:

  • 負載下單核性能強勁
  • 每個核心都應具備足夠的記憶體頻寬,以確保活躍核心能夠獲得充足的資料。
  • 可預測的延遲
  • 每個核心都能完成自己的任務,而不會受到其他核心的拖慢,從而提供出色的吞吐量,更重要的是,提供儘可能快的單核任務性能。

NVIDIA Vera 就是這種新型 CPU 設計的典範。

人工智慧代理不會在收到單個請求後就停止運行,而是在一個循環中執行。模型會推理下一步操作,CPU 執行模型周圍的運算,並將結果返回。模型再決定下一步的行動,然後循環再次運行。

這種模式創造了一種傳統CPU無法應對的需求模式。傳統的CPU工作是間歇性的、使用者驅動的,由人觸發的短暫互動組成。而智能體工作則是持續性和平行性的:大量智能體持續運行,每個智能體都按步驟推進,每一步都依賴於前一步的結果。

CPU 的核心數越多,每個 CPU 可以執行的代理任務就越多,資料中心 CPU 需要很多核心才能最大限度地提高任務吞吐量。

然而,增加CPU核心數並不能縮短單個代理循環中每個步驟的執行時間。更多核心並不能加快任何單個任務的運行速度。事實上,為了最大化核心數量而設計的CPU,由於核心之間爭奪資源,反而會降低每個核心的性能。

每個核心的性能直接影響每個步驟的完成速度。增加核心數固然有用,但還不夠。由於每個操作都依賴於前一個操作的結果,因此每個核心的速度決定了循環的執行速度。

最終,最優秀的智能體 CPU 需要每個核心都具備最佳的單執行緒性能,並且每個核心都必須毫不妥協地提供這種性能。世界以秒為單位運轉,而智能體則以納秒為單位運轉。NVIDIA Vera 正是為這種全新的工作類別和速度而打造的。

NVIDIA Vera 是一款大規模的單執行緒 CPU,從設計之初就專為代理循環而設計:代理在模型呼叫之間執行的工作,包括使用工具、處理資料、運行程式碼和檢查結果。

Vera 的核心是 NVIDIA 的定製 CPU 核心 Olympus,其每週期指令數比 NVIDIA Grace 高出 50%。這一點至關重要,因為許多代理步驟都是順序執行的。工具呼叫、程式碼執行、測試運行或資料處理步驟必須完成,下一個模型呼叫才能使用其結果。更快的核心可以更快地推進每個循環。

Vera 將這些速度更快的核心與高達 1.2TB/s 的 LPDDR5X 記憶體頻寬相結合,而記憶體功耗卻低於 40 瓦。此外,它還採用單晶片計算設計,確保活躍核心始終獲得充足的記憶體,並通過 3.4TB/s 的核心間頻寬(比其他任何資料中心 CPU 高出 3 倍)保證資料傳輸的可預測性。這使得所有 88 個核心都能充分發揮 CPU 的記憶體性能,而不會出現瓶頸導致每個核心運行緩慢的情況。

其結果是代理循環速度更快。在代表代理執行的高負載 CPU 工作負載下,Vera 的持續單核性能是 x86 的 1.8 倍。

這些收益會在工具呼叫、程式碼執行、資料處理步驟和驗證過程中不斷累積,幫助 AI 工廠利用其已運行的 GPU 完成更多代理工作。

Perplexity 使用 Vera 測試了其日常運行的智能體任務。在實際的編碼工作流程中——克隆程式碼庫並在沙箱中運行測試套件——Vera 的完成速度比 x86 快約 1.5 倍,並行啟動多個沙箱的速度也快了 1.9 倍。Perplexity 目前正計畫在其即將推出的生產系統中部署 Vera。

代理程序也依賴資料。它們不斷地查詢、檢索、篩選和移動資訊,而 Vera 可以更快地運行這些 CPU 端的資料工作負載。合作夥伴已測試出,使用 Starburst 進行大規模 SQL 分析的速度提高了 3 倍,使用 Redpanda 進行即時流式傳輸的延遲降低了高達 6 倍,這兩項測試均與領先的 x86 伺服器 CPU 相比。

智能體的工作並非單一的工作負載。智能體運行工具和沙箱,處理資料,響應請求,並使用強化學習訓練下一個模型——所有這些都依賴於相同的優勢。

一台 Vera 處理器即可處理所有任務,無需為每種類型的工作配備不同的 CPU。而且,由於 Vera 處理器同時也是 NVIDIA Vera Rubin 中的 GPU 和 NVIDIA BlueField-4 STX 儲存處理器的 CPU,因此整個 AI 工廠都運行在同一架構和同一工具鏈上。

NVIDIA 的步伐並未就此止步。NVIDIA 的下一代 Rosa CPU 搭載 Rigel 核心,將繼續推進公司面向智能人工智慧時代的 CPU 路線圖。Rigel 是 NVIDIA 的下一代 Arm v9.2 CPU 核心,在保持相同晶片尺寸的同時,單核性能優於 Olympus。其主要改進包括更高效的指令傳遞、更大的 L2 快取和更高效的記憶體管理。

在智能體人工智慧時代,將有數十億個智能體,每個智能體都將依賴中央處理器 (CPU) 來進行行動、檢查、檢索、執行和驗證。在這個新市場中,智能體完成的工作就是產品。更快的智能體循環有助於每個 GPU 將更多時間用於創造收益的工作,減少等待時間。

NVIDIA Vera 是為未來而打造的 CPU。 (半導體行業觀察)