🔷HBM4到HBM8演進路線曝光
🔷TSV、先進封裝、近存計算開啟AI儲存新時代

AI大模型的競爭，正在進入一個全新的戰場。

過去幾年，我們關注更多的是GPU算力、先進製程和晶片架構，但隨著ChatGPT、LLM等AI應用規模不斷擴大，一個隱藏在晶片背後的關鍵技術正在成為決定未來算力上限的核心——HBM（High Bandwidth Memory，高頻寬儲存器）。

為什麼輝達最新AI GPU離不開HBM？為什麼先進封裝、3D堆疊和高速互連正在成為半導體產業競爭的焦點？答案就在於：未來AI晶片的瓶頸，已經不只是計算能力，而是資料如何更快、更高效地流動。

這份報告系統揭示了下一代HBM的發展路線。從HBM4、HBM5，到未來的HBM6、HBM7甚至HBM8，這場儲存技術革命正在重新定義AI計算架構。

這份路線圖不僅展示了HBM頻寬提升的技術演進，更揭示了一個重要趨勢：未來的HBM將不再只是“高速記憶體”，而會逐漸融合計算、互連、先進封裝和AI設計能力，成為AI時代的核心算力基礎設施。

從TSV三維堆疊，到Silicon Interposer先進封裝；從HBM5近存計算，到HBM6多Tower架構，再到HBM7/8的超大規模3D Memory系統，一場圍繞“儲存+計算”的產業變革正在加速展開。

那麼，下一代HBM究竟會如何突破頻寬、功耗和容量瓶頸？為什麼HBM可能成為繼GPU之後，AI時代最大的戰略技術制高點？

今天，小編帶大家一起深入解析這份HBM路線圖，揭秘從HBM4到HBM8背後的下一代AI儲存革命。

一、這份材料真正想說明什麼？

報告主題是下一代高頻寬儲存器（HBM）的技術路線圖與架構演進，重點覆蓋 HBM4、HBM5、HBM6、HBM7、HBM8 的未來發展方向。

AI算力爆發推動HBM進入超級演進週期，未來儲存競爭的核心將從“容量競爭”轉向“頻寬、功耗、3D整合和智能設計競爭”。

隨著大模型（LLM）、生成式AI和高性能計算的發展，GPU與儲存之間的資料搬運成為系統瓶頸。傳統馮·諾依曼架構中，計算單元與儲存單元分離導致大量資料移動，而AI模型中的Transformer結構需要GPU與HBM之間進行海量資料交換，使得HBM成為AI晶片性能提升的關鍵基礎設施。

因此，未來AI晶片競爭的核心不只是GPU計算能力，而是GPU + HBM + 先進封裝 + 3D架構 + 高速互連形成完整的算力系統。

二、HBM正在成為AI時代的“算力高速公路”

報告指出，AI模型規模持續擴大，模型參數數量、GPU數量、HBM數量、頻寬需求、功耗和成本都會持續增長。

傳統GPU提升計算能力已經無法單獨解決AI需求，因為：

GPU算力增長速度超過記憶體頻寬增長速度

記憶體牆（Memory Wall）限制AI性能

通過GPU-HBM Roofline模型分析可以看到，大量AI工作負載屬於Memory-bound（記憶體受限），性能提升依賴HBM頻寬，而不僅僅是GPU FLOPS提升。

因此HBM已經從輔助儲存器升級為AI計算系統的核心競爭資源。

三、HBM技術路線：從HBM4邁向HBM8的長期演進

未來HBM的發展不是簡單增加DRAM堆疊層數，而是向Custom Base Die（定製邏輯基底）、Near Memory Computing（近存計算）、HBM Cluster、HBM-HBF融合、AI輔助設計方向發展。

四、HBM5：從“儲存器”走向“計算平台”

HBM5將成為一個重要轉折點，報告提出：

未來HBM底層Logic Die不再只是控製器，而會整合AI計算單元、電源管理模組、網路介面、高速互連邏輯形成Memory + Compute融合架構

2. Near Memory Computing（近存計算）

傳統 GPU → HBM → 資料搬運 → GPU計算

未來 HBM內部完成部分計算 → 減少資料移動

優勢降低延遲、降低功耗、提升AI推理效率

五、HBM6：面向大模型推理的超級架構

報告提出Quad-Tower HBM6架構、大規模Hybrid Interposer、L3 Cache Embedded HBM6、Crossbar Network Switch；目標讓HBM從快取記憶體擴展為AI計算網路核心節點。

未來AI伺服器不會只有GPU + HBM而會變成

GPU Cluster
↓
HBM Cluster
↓
Memory Network

形成類似計算網路的儲存架構。

當所有人都在關注GPU的算力競賽時，一個更根本的瓶頸正在悄然逼近——記憶體。

摩根士丹利今天發佈了一份重磅報告，直指AI發展的下一個關鍵約束：記憶體牆（Memory Wall）。報告認為，AI的下一步發展，焦點將從“計算擴展”轉向“資料效率”。簡而言之，GPU決定了AI能跑多快，而記憶體決定了AI能跑多遠。

在這篇文章中，我們將為你深度解析這份報告的核心觀點，看看這場即將爆發的“記憶體革命”將如何重塑科技格局，以及那些公司有望成為下一個時代的贏家。

一、為什麼記憶體成了AI的“卡脖子”問題？

報告開篇就提出了一個簡單但關鍵的問題：AI想要繼續發展，整個行業該如何克服“記憶體瓶頸”？

當前，AI模型在瘋狂增長，對資料的需求呈指數級上升。然而，記憶體的容量、頻寬和成本卻遠遠跟不上。

成本飆升：AI需求正在推動記憶體價格急劇上漲。報告預計，到2027年，記憶體支出將佔據雲服務商資本開支的40%，而在2023年AI熱潮之前，這個比例僅為12%。

頻寬鴻溝：記憶體頻寬的改進速度，相比AI模型中Token（資料單元）的增長速度，簡直是龜兔賽跑。記憶體頻寬每年僅增長約14%，而Token的增長卻是320倍以上。

系統級瓶頸：報告強調，這不再是簡單的“多造點DRAM”就能解決的問題。這是一個涉及設計、工藝、封裝、外設、整合和材料的系統性挑戰。

簡單來說，AI系統的“腦子”（計算能力）越來越快了，但“肚子”（記憶體）的消化能力卻嚴重不足，導致整個系統“消化不良”。

二、如何打破“記憶體牆”？三大創新路徑

報告認為，解決這個瓶頸需要整個系統的創新，而非簡單堆疊。我們為你梳理了其中最核心的三條路徑：

路徑一：顛覆傳統，從“二維”走向“三維”

這就像一個城市，當橫向無法擴張時，只能向天空要空間。

3D DRAM：當下最熱的“革命者”。它不再依賴傳統平面上的微縮，而是像蓋樓一樣，將DRAM單元垂直堆疊起來，在單位面積內獲得數倍的密度和頻寬。報告指出，3D DRAM或許是打破傳統DRAM物理極限的關鍵。

HBM（3D計算-記憶體堆疊）：三星提出的下一代HBM架構。它直接將記憶體晶片堆疊在GPU邏輯晶片之上，讓資料和計算之間的距離縮短到極致，實現頻寬和能效的飛躍。

路徑二：給記憶體“開掛”，引入創新架構

這不再是簡單的堆疊，而是從記憶體的底層邏輯上做文章。

HBF（高頻寬快閃記憶體）：由SanDisk提出的一種使用3D NAND快閃記憶體的記憶體方案。它可以像HBM一樣，通過TSV進行堆疊和高速互聯，提供8-16倍於HBM的容量，雖然速度慢一些，但足以承載海量的AI推理模型權重和快取資料，大幅降低成本。

MRDIMM（多路復用雙列直插記憶體模組）：這是一種更聰明的“調度”方案。它通過一個特殊的控製器，讓同一個記憶體通道可以同時訪問多個記憶體模組，從而實現頻寬的倍增。

路徑三：讓“計算”和“記憶體”合二為一

這是最顛覆性的想法——不讓資料到處跑，而是“原地計算”。

PIM（存內處理）/ CIM（計算記憶體儲）：將簡單的計算單元直接整合到記憶體晶片內部。當AI進行矩陣運算時，資料無需反覆在CPU/GPU和記憶體之間傳輸，直接在記憶體內部完成計算，從而極大降低功耗和延遲。

這場記憶體革命，不僅關乎傳統的三星、SK海力士和美光，更將催生一個龐大的“賦能者”生態系統。

報告預計，僅新型記憶體技術（不含HBM）的市場規模，在2030年就有望達到230億美元。

以下是幾個最具潛力的投資主題：

三星和美光：作為HBM和DRAM的核心供應商，其定價權有望持續，帶來更強勁的盈利周期。

SanDisk：憑藉HBF技術，正試圖將NAND提升到與HBM協同的生態位，前景廣闊。

“賦能者”生態帶來差異化機遇：

記憶體介面與互聯晶片（如瀾起科技）：隨著記憶體系統的複雜化，對高速互聯晶片（如CXL、MRDIMM相關晶片）的需求暴增。這就像為AI系統鋪設“高速公路”，是確定性極強的增長點。

先進封裝與3D堆疊（如華邦電、兆易創新、AP Memory）：3D DRAM、HBM、HBF的製造，都高度依賴先進的晶圓對晶圓（WoW）堆疊技術。這些技術廠商的價值有望被重估。

軟體最佳化：像DeepSeek等公司開發的演算法壓縮技術，可能在一定程度上減少對硬體的極度渴求。

AI需求不及預期：如果AI應用的商業化處理程序放緩，對記憶體的需求也會相應減弱。

量產難度：許多下一代記憶體技術仍處於研發早期，量產和良率是一大挑戰。

但報告最終的結論非常明確：AI投資的下一個超級周期已經到來。第一階段，我們見證了GPU和算力基礎設施的瘋狂擴張。第二階段，將由系統效率驅動，而記憶體，正是這個過渡期的核心。

誰能高效地記憶體、移動和訪問資料，誰就能在下一輪AI競賽中佔據制高點。

對於我們投資者而言，現在或許是時候將目光從GPU，轉向這片正在被“記憶體牆”催生出的、潛力巨大的新藍海了。   (調研紀要速覽)

彙整鉅亨號中所有使用「記憶體牆」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`