——AI算力系列03：一顆記憶體賣上萬還產能告急，為什麼高端AI晶片的瓶頸早已不是GPU本身？
上一篇我們聊了AI算力的核心發動機——GPU。很多人不知道，GPU再強，旁邊沒配上它，性能直接砍半。它就是高端AI晶片的標配、如今比GPU還緊俏的——
HBM。
很多人不解：不就是記憶體嗎？普通記憶體不行嗎？為什麼一顆小小的記憶體晶片能賣到幾千甚至上萬元，還產能告急？
這篇把HBM講透：它到底是什麼、為什麼是AI晶片剛需、代際迭代與價格、市場格局，以及普通投資者怎麼跟蹤行情。
一、HBM到底是什麼？真不是"普通記憶體"這麼簡單
先糾正一個常見誤解。
HBM全稱高頻寬記憶體（High Bandwidth Memory），本質也是記憶體，但和電腦裡的普通DRAM，完全不是一個等級的產品。
延續之前的比方：
- GPU = 幹活極快的"萬人工廠"
- 普通DRAM = 遠郊的大倉庫：容量大，但送貨慢，貨物運到工廠要很久
- HBM = 建在工廠門口的高速立體倉庫：離得極近、往上疊了幾十層，出貨速度是普通倉庫的幾十倍，剛好能跟上工廠的生產節奏
背後的核心問題，就是行業常說的"記憶體牆"：
GPU計算能力提升太快，但普通記憶體頻寬跟不上。GPU經常處於"算完了，資料還沒運到"的停工狀態，性能再強也發揮不出來。
HBM的解決思路簡單粗暴：把幾十顆記憶體晶片通過3D堆疊方式疊在一起——像把平房改成幾十層的摩天大樓，頻寬直接翻幾十倍；再通過先進封裝技術緊緊貼在GPU旁邊，傳輸距離極短，速度快、功耗還低。
一句話記住：HBM不是普通記憶體，是給GPU"喂資料"的高速彈藥輸送帶。
二、為什麼AI時代，HBM成了剛需標配？
以前打遊戲、普通辦公，資料量不大，普通記憶體完全夠用。但AI大模型時代，情況徹底變了。
大模型參數量從百億漲到千億、兆級，計算過程要頻繁讀寫海量資料。這時候普通記憶體的頻寬就成了"細水管"——水廠產能再大，水管太細，水龍頭照樣水流小。
GPU算力再強，資料供不上也白搭。
HBM在AI晶片裡是什麼地位？
毫不誇張地說，它已經從"配件"變成了核心組成部分。
一顆高端AI晶片（比如H100），通常要搭配4~6顆HBM記憶體。HBM的成本，已經佔到高端AI晶片總成本的30%~40%，還在隨著技術迭代持續上升。
甚至可以說：高端AI晶片的性能比拚，很大程度上已經不是GPU計算核心的比拚，而是HBM頻寬和容量的比拚。誰的記憶體頻寬更高，誰就能跑更大的模型、訓練速度更快。
三、不是所有HBM都一個價：一張表看懂代際差異
HBM和GPU一樣，分不同代際，性能、價格、應用場景天差地別，和訓練/推理GPU的劃分一一對應。
| 當前高端訓練標配 | ||||
一句話記憶：代數越高，頻寬越大、容量越大、單價越貴，越適配高端訓練場景。
⚠️ 重要誤區：不是所有AI晶片都需要HBM
低端推理晶片、邊緣AI裝置，用普通DDR記憶體就足夠；只有高端大模型訓練、大規模推理場景，才必須搭配HBM。對應之前的分類：訓練GPU標配HBM，中低端推理GPU不一定用。
四、為什麼HBM比GPU還缺貨？核心原因就兩個
近兩年AI行情裡，HBM的緊缺程度甚至超過GPU。核心原因就兩點：技術壁壘極高 + 產能高度集中。
全球格局：三家壟斷，壁壘極高
目前全球高端HBM市場，基本被三星、SK海力士、美光三家海外廠商壟斷。
HBM的製造難度遠高於普通記憶體：
- 3D堆疊需要極精密的TSV硅穿孔工藝
- 良率控制難度極大
- 還要和先進封裝深度配合
沒有十幾年技術積累根本做不了，新玩家短期很難切入。
供需與價格：量價齊升的確定性賽道
- 需求端：AI大模型爆發，高端GPU出貨量猛增，帶動HBM需求同步翻倍增長
- 供給端：產能爬坡慢，新產線建設週期長，供需缺口持續存在
這也導致HBM處於持續的"量價齊升"通道：出貨量在漲，新一代產品單價更高，整體市場規模增速極快。
國產進展如何？
國產記憶體廠商正在快速追趕：
- 中低端HBM已經實現突破，開始規模化落地
- 高端產品也在逐步量產推進
和GPU一樣，HBM的國產替代是長期主線——從0到1的突破過程中，空間巨大。
五、普通投資者怎麼看HBM行情？三個實操邏輯
HBM是AI算力鏈上確定性極強的環節。分享三個可落地的判斷邏輯：
邏輯1：量價齊升，確定性極強
HBM是高端AI晶片的標配，短期內沒有替代方案。
- GPU出貨量增長 → HBM需求同步增長
- 技術迭代升級 → 新一代產品單價持續提升
量和價雙輪驅動，業績確定性非常高。
邏輯2：國產替代是長期主線
高端HBM對外依賴度高，國產替代空間巨大。每一次技術突破、量產落地、大客戶匯入，都會帶來顯著的行業性機會。
邏輯3：別只盯記憶體本身，配套環節彈性更大
HBM不是孤立存在的，它必須搭配：
- 先進封裝工藝（如CoWoS）
- 封裝基板
- 測試裝置
這些上游配套環節和HBM需求強繫結，很多時候業績彈性比記憶體廠商本身還大。
附：普通人怎麼跟蹤HBM行業資料？
- 記憶體大廠財報：三星、SK海力士、美光的財報與產能指引，是全球HBM供需的風向標；
- 先進封裝排期：封裝廠的CoWoS等先進封裝產能與交付週期，直接反映HBM的配套需求；
- 高端GPU出貨：GPU的出貨量與交付排期，間接對應HBM的需求量。
寫在最後
GPU是算力的發動機，HBM就是發動機旁邊的"高速彈藥庫"。
彈藥供不上，發動機再強也白搭。而要把GPU和HBM緊緊拼在一起、發揮出全部性能，靠的是先進封裝工藝。 (根號三的投研成長筆記)