01：三星電子：HBM的散熱趨勢
近日，全球頂級晶片與電腦體系結構會議 Hot Chips 2026 召開，三星在會上分享了題為 “Evolving HBM Base Die” 的下一代HBM技術路線，首次從Base Die演進的角度系統討論了HBM4、HBM5乃至未來3D堆疊記憶體面臨的功耗與散熱挑戰。隨著HBM Base Die開始採用先進邏輯製程，並逐步整合PHY、Memory Controller、SRAM乃至Processing Elements等更多主動邏輯功能，HBM正在從過去相對單純的高頻寬記憶體器，演變為新的高功率密度熱源。
三星在 Hot Chips 2026 公佈的這套 HBM Base Die 路線，最值得關注的其實不是HBM容量，而是一個很明確的趨勢：未來HBM正在從GPU旁邊相對低功耗的記憶體器，逐漸變成一個新的高熱流密度熱點，AI晶片液冷的重點也可能從“只壓GPU/XPU”進一步擴展到“GPU+HBM整體封裝散熱”。
HBM散熱出現一個反直覺的問題：製程越先進，局部熱點反而越嚴重
三星指出，從HBM4開始，Base Die開始採用4nm先進邏輯製程，PHY以及Die-to-Die介面可以做得更小，同時縮短通訊距離、降低單位bit的資料傳輸能耗。但問題在於，總功率被壓縮排越來越小的PHY面積後，局部功率密度反而迅速增加。三星給出的資料非常關鍵：從sHBM4E向sHBM5演進，I/O速度大約提升一倍，而PHY區域功率密度則從約0.5W/mm²提高到超過2.0W/mm²，相當於局部熱流密度提升到原來的4倍以上。也就是說，HBM未來最大的散熱問題可能並不是“整顆HBM到底多少瓦”，而是Base Die底部開始出現高度集中的Hotspot（熱點）。
三星已經專門為HBM增加“導熱通道”——HPB
針對這一問題，三星提出了一個非常值得液冷產業關注的結構——HPB（Heat Path Block）。它的核心作用可以理解為給HBM內部熱點建立一條更直接的熱量傳輸路徑，讓PHY產生的熱量能夠更有效地從局部熱點向外傳遞。三星基於cHBM4設計經驗給出的資料顯示，當HPB對PHY區域的覆蓋率超過約50%時，HBM的峰值溫度可以降低35%以上。這說明未來HBM散熱已經不能單純依賴封裝頂部把熱量慢慢匯出去，而需要從晶片內部開始進行Heat Path Engineering（熱路徑設計）。
更大的問題是：Base Die未來還要繼續“塞計算”
HBM4/5隻是開始。三星的cHBM路線準備把原本位於XPU中的Memory Controller搬到HBM Base Die，隨後還計畫加入SRAM、RAS監控、電壓/溫度/老化感測器，甚至進一步加入Processing Elements（計算單元）。Memory Controller遷入HBM後，三星認為當前熱影響仍然可控；但到了Processing Elements階段，三星已經明確把不斷增加的Thermal Density（熱密度）列為核心挑戰之一。換句話說，未來HBM底部已經不是傳統意義上的“記憶體底座”，而越來越接近一顆小型邏輯SoC。
這對散熱和液冷產業非常重要，因為今天GPU冷板的主要設計目標還是GPU/XPU Die，HBM雖然同樣需要散熱，但通常不是最主要的熱源。未來如果Base Die整合Memory Controller、PHY、SRAM乃至計算單元，那麼一個AI封裝內部可能同時出現：GPU/XPU高熱流密度區 + HBM Base Die局部高熱流密度區 + HBM DRAM堆疊熱量。
這會讓冷板設計從過去相對集中的“中央GPU熱點”，逐漸轉向多熱點、非均勻熱流密度問題。
到zHBM時代，液冷難度可能進一步發生質變
三星第三階段提出的zHBM更加激進：不再讓XPU與HBM並排放置在2.5D Interposer上，而是走向真正的XPU與DRAM垂直3D整合。Distributed I/O能夠縮短資料移動距離，並取消部分傳統PHY、D2D以及SERDES開銷，從源頭降低I/O功耗。三星給出的一個系統級案例是：約1200W GPU搭配4組zHBM，在提高頻寬的同時，可以節省約100W系統功耗。 從散熱角度看，這100W的降低非常重要，相當於通過封裝架構最佳化直接釋放了一部分Thermal Headroom。
但zHBM同時帶來了另一個更棘手的問題：3D堆疊之後，熱源開始在垂直方向重疊。傳統2.5D結構中，GPU和HBM至少還是橫向並排佈局，頂部冷板可以相對直接地把GPU熱量導走；真正進入3D XPU+DRAM結構以後，底層邏輯產生的熱量需要穿過更加複雜的堆疊結構才能傳遞到散熱介面。因此，即便I/O功耗下降，熱阻路徑、局部熱點和不同Die之間的熱耦合問題反而會變得更加複雜。這一點是基於三星所展示3D結構可以進一步推匯出的熱管理挑戰，而不是文章宣稱的具體散熱方案。
對AI散熱產業真正意味著什麼？
從這篇文章透露的資訊來看，未來AI液冷可能經歷一次明顯變化：
因此，未來冷板競爭的重點可能不只是繼續提高總散熱功率，而是能不能精準處理封裝內部越來越不均勻的熱流密度。對於液冷廠商而言，這可能推動冷板從傳統大面積流道進一步向局部強化換熱、微通道、分區流量控制以及與晶片封裝共同設計的方向演進。
如果把三星這次Hot Chips 2026的資訊濃縮成一句液冷產業判斷：HBM正在從“被GPU順帶冷卻的記憶體”，逐漸變成必須被獨立考慮的高熱流密度熱源。 尤其當HBM5之後Base Die開始承載更多邏輯功能，並最終走向zHBM的XPU+DRAM 3D堆疊時，AI晶片的散熱邊界將從“GPU冷板”進一步擴大到整個先進封裝的協同液冷；三星甚至已經通過HPB解決HBM內部的熱傳導路徑問題，這其實是一個很明顯的訊號——下一代AI液冷競爭，很可能從板級散熱繼續向封裝級、Die級散熱深入。
02.原文PPT分享
(零氪1+1)