🔷HBM4到HBM8演進路線曝光
🔷TSV、先進封裝、近存計算開啟AI儲存新時代

AI大模型的競爭，正在進入一個全新的戰場。

過去幾年，我們關注更多的是GPU算力、先進製程和晶片架構，但隨著ChatGPT、LLM等AI應用規模不斷擴大，一個隱藏在晶片背後的關鍵技術正在成為決定未來算力上限的核心——HBM（High Bandwidth Memory，高頻寬儲存器）。

為什麼輝達最新AI GPU離不開HBM？為什麼先進封裝、3D堆疊和高速互連正在成為半導體產業競爭的焦點？答案就在於：未來AI晶片的瓶頸，已經不只是計算能力，而是資料如何更快、更高效地流動。

這份報告系統揭示了下一代HBM的發展路線。從HBM4、HBM5，到未來的HBM6、HBM7甚至HBM8，這場儲存技術革命正在重新定義AI計算架構。

這份路線圖不僅展示了HBM頻寬提升的技術演進，更揭示了一個重要趨勢：未來的HBM將不再只是“高速記憶體”，而會逐漸融合計算、互連、先進封裝和AI設計能力，成為AI時代的核心算力基礎設施。

從TSV三維堆疊，到Silicon Interposer先進封裝；從HBM5近存計算，到HBM6多Tower架構，再到HBM7/8的超大規模3D Memory系統，一場圍繞“儲存+計算”的產業變革正在加速展開。

那麼，下一代HBM究竟會如何突破頻寬、功耗和容量瓶頸？為什麼HBM可能成為繼GPU之後，AI時代最大的戰略技術制高點？

今天，小編帶大家一起深入解析這份HBM路線圖，揭秘從HBM4到HBM8背後的下一代AI儲存革命。

一、這份材料真正想說明什麼？

報告主題是下一代高頻寬儲存器（HBM）的技術路線圖與架構演進，重點覆蓋 HBM4、HBM5、HBM6、HBM7、HBM8 的未來發展方向。

AI算力爆發推動HBM進入超級演進週期，未來儲存競爭的核心將從“容量競爭”轉向“頻寬、功耗、3D整合和智能設計競爭”。

隨著大模型（LLM）、生成式AI和高性能計算的發展，GPU與儲存之間的資料搬運成為系統瓶頸。傳統馮·諾依曼架構中，計算單元與儲存單元分離導致大量資料移動，而AI模型中的Transformer結構需要GPU與HBM之間進行海量資料交換，使得HBM成為AI晶片性能提升的關鍵基礎設施。

因此，未來AI晶片競爭的核心不只是GPU計算能力，而是GPU + HBM + 先進封裝 + 3D架構 + 高速互連形成完整的算力系統。

二、HBM正在成為AI時代的“算力高速公路”

報告指出，AI模型規模持續擴大，模型參數數量、GPU數量、HBM數量、頻寬需求、功耗和成本都會持續增長。

傳統GPU提升計算能力已經無法單獨解決AI需求，因為：

GPU算力增長速度超過記憶體頻寬增長速度

• 資料搬運成為主要瓶頸
• 記憶體牆（Memory Wall）限制AI性能

通過GPU-HBM Roofline模型分析可以看到，大量AI工作負載屬於Memory-bound（記憶體受限），性能提升依賴HBM頻寬，而不僅僅是GPU FLOPS提升。

因此HBM已經從輔助儲存器升級為AI計算系統的核心競爭資源。

三、HBM技術路線：從HBM4邁向HBM8的長期演進

提出未來HBM路線：

時間

HBM版本

核心方向

2026

HBM4

更高頻寬、更先進封裝

2029

HBM5

定製化Base Die、近存計算

2032

HBM6

多Tower架構、LLM最佳化

2035

HBM7

HBF融合、3D擴展

2038

HBM8

超大規模3D Memory系統

未來HBM的發展不是簡單增加DRAM堆疊層數，而是向Custom Base Die（定製邏輯基底）、Near Memory Computing（近存計算）、HBM Cluster、HBM-HBF融合、AI輔助設計方向發展。

四、HBM5：從“儲存器”走向“計算平台”

HBM5將成為一個重要轉折點，報告提出：

1. 定製化Base Die架構

未來HBM底層Logic Die不再只是控製器，而會整合AI計算單元、電源管理模組、網路介面、高速互連邏輯形成Memory + Compute融合架構

2. Near Memory Computing（近存計算）

HBM5將計算能力靠近資料來源：

傳統 GPU → HBM → 資料搬運 → GPU計算

未來 HBM內部完成部分計算 → 減少資料移動

優勢降低延遲、降低功耗、提升AI推理效率

五、HBM6：面向大模型推理的超級架構

HBM6重點解決：

1. LLM推理吞吐提升

報告提出Quad-Tower HBM6架構、大規模Hybrid Interposer、L3 Cache Embedded HBM6、Crossbar Network Switch；目標讓HBM從快取記憶體擴展為AI計算網路核心節點。

2. 多HBM協同

未來AI伺服器不會只有GPU + HBM而會變成

GPU Cluster
↓
HBM Cluster
↓
Memory Network

形成類似計算網路的儲存架構。

六、HBM7/HBM8：邁向3D Memory Computing時代

HBM7/8代表更遠期方向。

核心技術包括：

1. HBM-HBF融合

HBM高頻寬、高速度；HBF高容量、儲存網路化，結合後高頻寬 + 大容量 + 網路化儲存

2. 3D Memory Expansion

HBM8將採用雙面Interposer、HBM-HBF-LPDDR融合、超大規模3D擴展，未來可能形成“Memory Supercomputer（儲存超級電腦）”

七、先進封裝成為HBM發展的核心技術

HBM成功依賴的不只是DRAM，而是先進封裝。

關鍵技術：

TSV（Through Silicon Via）

優勢縮短互連距離、降低RC延遲、降低功耗、提升I/O密度

Silicon Interposer

HBM通過硅中介層連接GPU提供高速互連、支援大量I/O、實現GPU+HBM異構整合

例如NVIDIA A100採用HBM2E+Interposer+CoWoS架構。

八、AI正在反過來設計HBM

這份報告一個非常重要的趨勢 未來HBM設計本身也會由AI驅動。

包括Transformer-based Design Agent、Reinforcement Learning最佳化、LLM輔助EDA

應用於TSV佈局最佳化、PDN電源完整性最佳化、Decap電容佈局、熱管理設計

報告中列出了多個基於AI Agent最佳化HBM5/HBM7/HBM8設計的方法。

未來AI不僅需要HBM，AI也將幫助設計下一代HBM。

🏁 小編總結

揭示了AI時代儲存技術的發展方向：HBM將從高速DRAM堆疊，進化為融合計算、互連、封裝和AI設計的超級算力基礎設施。從HBM4到HBM8，未來競爭焦點將圍繞頻寬、3D整合、近存計算、先進封裝和智能設計展開。(芯聯惠）

(芯聯匯)