29日，輝達正式宣佈推出 NVHBM，這是一種專為定製 AI 加速器設計的高頻寬記憶體解決方案。作為 NVLink Fusion 生態的新成員，NVHBM 並非要取代標準的 HBM 記憶體，而是面向希望打造定製 AI 晶片的合作夥伴提供的一種“官方特供版”基礎元件。
與標準 HBM4E 方案相比，NVHBM 的核心優勢體現在三個維度：頻寬最高提升 30%、功耗降低 15%，同時還能為 XPU 主晶片釋放最多 25% 的額外面積用於計算電路。這一系列突破的關鍵，在於輝達將記憶體控製器從 XPU 晶片移到了 HBM 堆疊的基礎裸片（Base Die）中。
在傳統 HBM 架構中，記憶體控製器佔據著主晶片上寶貴的矽面積。NVHBM 則將這一控製器整合到 HBM 堆疊內部，同時提供更小型的定製 PHY（物理層介面）。這種設計不僅讓主晶片有更多空間容納計算單元，還簡化了中介層上的布線複雜度。
據輝達表示，NVHBM 已與“領先的記憶體廠商”共同完成設計和驗證，合作夥伴無需從零開始適配標準 HBM，即可更快地將定製晶片推向市場。
輝達方面的規劃是將 NVHBM 打造為一個由多家供應商提供的標準化方案。它不會取代現有的 HBM4E，而是作為一種更高性能的定製選項，三星、SK 海力士和美光這三家廠商都有能力生產。
對於 AI 推理等記憶體頻寬敏感的工作負載，更高的頻寬意味著更高的吞吐量，例如每秒可生成更多 Token。而功耗降低 15% 的收益，在數千顆晶片組成的大規模系統中將產生顯著的累積效應。
NVHBM 的首個合作夥伴是亞馬遜旗下的 Annapurna Labs。Annapurna Labs 副總裁 Nafea Bshara 表示：“NVHBM 代表了提升高頻寬記憶體性能與效率的全新架構路徑”。Annapurna Labs 的下一代 Trainium 4 AI 晶片已支援 NVLink Fusion 擴展介面，後續晶片很可能也會採用 NVHBM。
值得一提的是，輝達明確表示，已量產的Vera Rubin機架級系統並不搭載NVHBM。不過，輝達確實計畫將NVHBM用於其未來的GPU。雖然目前還沒有具體產品公佈，但可以把它看作是輝達為下一代GPU準備的“秘密武器”。(AMP實驗室)