HBM,生變!

AI速讀
HBM產業進入下半場,競爭核心由DRAM製程移至底層Base Die。由於AI晶片對能效與頻寬的極致要求,HBM4起將引入先進邏輯製程,使Base Die功能邏輯化,導致HBM從標準件轉向「定制化(Custom HBM)」。輝達推出的NVHBM技術將記憶體控制器移至Base Die,進一步模糊記憶體與計算單元的邊界。目前SK海力士傾向專業分工(合作TSMC/Intel),三星主打垂直整合,美光則轉向代工合作。此趨勢將使晶圓代工廠在AI記憶體系統中的價值量呈指數級增長,HBM正演變為由DRAM、邏輯與先進封裝構成的複雜晶片系統。

HBM的競爭,正在悄悄換戰場。過去幾年,市場談論HBM,關注的幾乎都是SK海力士、三星和美光:誰的DRAM製程更先進,誰能堆到12層、16層,誰的TSV和封裝良率更高,以及誰最終進入輝達的供應鏈。

但到了HBM4和HBM4E,這門生意裡正在出現一批過去並不顯眼的新角色——晶圓代工廠。

近日,據韓媒及DIGITIMES等報導,SK海力士正在考慮將Intel Foundry引入HBM4E供應鏈,作為HBM Base Die的第二代工來源,以降低對台積電的依賴並改善供應彈性。無論Intel最終能否拿下訂單,背後透露出的產業變化已經非常清晰:從HBM4開始,一顆HBM已經越來越離不開先進邏輯製程。

真正改變遊戲規則的,是HBM最下面那顆過去不太受關注的晶片——Base Die。

HBM越來越不像記憶體了

要理解為什麼HBM會變成晶圓代工生意,必須先看HBM4這個關鍵的技術分水嶺。

在HBM3E及更早的技術代際中,HBM的結構相對清晰:上層是多層DRAM堆疊(Core Die),最底下是一顆 Base Die。過去,這顆Base Die主要承擔物理支撐、TSV(矽通孔)過孔引出以及基礎的訊號路由。由於功能單一,像記憶體三巨頭(SK海力士、三星、美光)用自家的10nm級DRAM工藝就能順手把它做了。

但HBM4發生了一些重要變化。

一方面,介面密度物理翻倍。HBM4的匯流排介面寬度從1024-bit直接翻倍至2048-bit,在此基礎上,輝達在Rubin平台上更將單Pin速率拉高至 11Gbps 以上。要在極其微小的晶片面積內擠入翻倍的 TSV 和 PHY(物理層)電路,傳統 DRAM 節點的布線密度和金屬層數已觸及物理極限。

另一方面,邏輯功能深度下沉。為了追求極致的能效與超低延遲,GPU 與 ASIC 廠商開始要求將記憶體控製器、DFT(可測試性設計)電路,甚至是特定演算法的計算模組直接整合到 Base Die中。

SK海力士在官網中也寫道,「在HBM4中,邏輯晶片的作用日益凸顯。HBM4的研發方向是提升基礎晶片的性能,增強HBM堆疊與邏輯晶片之間的連接性,同時降低功耗。」

Base Die已經開始從一顆相對簡單的晶片,變成一顆複雜的Logic Base Die。這就撞上了記憶體原廠的工藝壁壘:記憶體原廠的Fab基本不具備生產高性能邏輯晶片的12nm、5nm乃至更先進工藝線,兩者並不是同一種製造邏輯。因為DRAM製造追求的是記憶體單元密度和成本,而複雜邏輯電路需要的是邏輯電晶體性能、布線密度以及先進EDA設計能力。

當越來越多邏輯被放進這顆“記憶體”時,一門過去屬於記憶體廠商的生意,也正在悄悄變成一門晶圓代工生意。於是,晶圓代工廠開始登場。

2024年,SK海力士與台積電宣佈合作開發HBM4。當時雙方給出的表述其實已經非常耐人尋味——要建立一種由IC設計公司、晶圓代工廠和記憶體廠商組成的三方合作模式。雙方合作的第一個目標,就是Base Die。

在HBM3E以前,SK海力士的Base Die基本自己生產;從HBM4開始,則引入台積電先進邏輯工藝。這實際上改變了HBM延續多年的產業分工。以前一顆HBM的主要構成是DRAM製造 + TSV + 堆疊封裝。而現在越來越接近:DRAM Core Die + Logic Base Die + Foundry + TSV + Advanced Packaging。

HBM由一顆“特殊的記憶體器”,越來越像一個小型的Chiplet系統。

定製化HBM的時代加速到來

隨著Base Die的邏輯化,HBM正在從過去的標準件邁向定製化。

在今年的台積電技術論壇上,SK海力士透露:未來將通過採用台積電先進邏輯工藝的Base Die,把HBM從標準化產品進一步推向Custom HBM,並加強Memory與Logic的融合。同時在矽谷,SK 海力士已被爆出正在組建專門的 HBM 架構設計團隊,其招聘崗位要求不僅覆蓋傳統 DRAM,還強制要求具備數字設計、PDN(電源分配網路)以及 3nm 以下 Foundry 先進工藝經驗。

這已經越來越不像一家傳統記憶體公司的工作方式,反而越來越像一家ASIC公司。

在SK海力士的HBM4之後的產品路線圖中,HBM4E 和定製 HBM 被列為關鍵發展方向。SK海力士的iHBM解決方案是一種面向下一代HBM產品的散熱管理技術,旨在提升其在高密度、高頻寬環境下的運行穩定性和效率。

(圖源:SK海力士)

驅動這一變革的核心力量,來自於下游 AI 晶片巨頭對“打破記憶體牆”的渴望。

所謂Custom HBM,本質上已經開始從“定製記憶體”,走向Memory-Compute Co-design。這也改變了HBM產業最重要的一層關係。過去記憶體廠商主要做標準產品。三星、SK海力士、美光按照JEDEC標準開發DDR、LPDDR或者HBM,然後賣給客戶。

但AI晶片完全不同。輝達、AMD、Google、Amazon、Microsoft以及越來越多自研ASIC的雲廠商,對Memory Bandwidth、功耗、介面和封裝面積的要求都不一樣。標準化HBM開始越來越難滿足所有客戶。因此HBM正在向ASIC非常熟悉的一套商業模式靠近:共同定義規格——共同設計——Foundry流片——先進封裝——客戶驗證。

真正將這一趨勢推向高潮的,是輝達。8月26日,輝達公佈了一項名為NVHBM的新技術。在傳統 AI 硬體架構中,記憶體控製器通常佔據著GPU或XPU計算核心內部極其寶貴的先進製程面積。而在 NVHBM 中,輝達直接做了一次大膽的“乾坤大挪移”:將記憶體控製器從GPU內部拔出,直接塞進HBM的Base Die中。

據輝達公佈的資料,相比標準HBM4E,NVHBM 最高可帶來 30% 的記憶體頻寬提升 和 15% 的功耗下降,同時能直接釋放最多 25% 的 XPU 計算核心面積。Amazon 旗下的 Annapurna Labs 已成為首批參與該架構研發的晶片設計團隊。

NVHBM與標準HBM相比,晶片面積節省的比較(圖源:輝達)

這遠遠超過一次普通的HBM規格升級。因為HBM和GPU之間原本相對清晰的邊界,正在變得模糊。過去是GPU負責計算,HBM負責記憶體。未來可能變成:GPU + Logic Base Die + DRAM共同組成計算系統。Memory Controller只是第一步。理論上,未來還可能有更多與資料移動、地址對應、快取管理甚至特定計算相關的邏輯被遷移到Base Die。

三大HBM廠商,三種代工選擇

目前三星、SK海力士和美光實際上已經走出了三種不同的路線。

SK海力士選擇的是最典型的專業化分工。自己負責DRAM Core Die和HBM技術,再把先進Logic Base Die交給台積電等Foundry生產。據TrendForce援引韓媒近期報導,SK海力士量產HBM4採用的Base Die來自台積電12nm級製程;而未來HBM4E隨著邏輯複雜度進一步提高,業界甚至已經討論向更先進節點遷移。

與此同時,由於先進邏輯Base Die的成本快速提高,SK海力士也被曝正在考慮Intel Foundry作為潛在第二來源。

三星則恰恰相反。三星同時擁有Memory和Foundry,因此從一開始就選擇了更徹底的垂直整合路線。三星今年量產的HBM4使用1c DRAM Core Die,同時Base Die直接採用自家Foundry的4nm邏輯工藝。HBM4E也延續了1c DRAM + 4nm Logic Base Die組合。三星甚至已經規劃,在後續HBM產品中將Base Die推進至2nm工藝。

過去三星同時經營Memory和Foundry經常被認為體系龐雜,但在Custom HBM時代,這種模式反而可能產生新的協同優勢。因為一顆HBM所需要的DRAM、Logic、先進封裝,三星理論上全部可以內部完成。

第三條路線來自美光,它也在從自主開發走向代工擁抱。美光早期HBM4仍強調內部開發和製造CMOS Logic Base Die,但到了HBM4E,其策略已經明顯改變。美光在投資者材料中明確表示,HBM4E無論標準版還是定製版Logic Base Die,都將與台積電合作生產,而且公司預計,採用Customized Base Logic Die的HBM4E毛利率將高於標準產品。

這一點很關鍵。因為它說明HBM廠商自己也開始承認:未來HBM最大的附加價值之一,可能不再只是DRAM,而是Base Die裡的定製邏輯。

對於晶圓代工廠而言,HBM 的變革意味著巨大的新增量。

在過去 AI 伺服器產業鏈中,代工廠(以台積電為代表)牢牢佔據著兩個價值最高的金礦:GPU/ASIC邏輯晶片代工 + CoWoS 先進封裝。而現在,第三個金礦正在形成——HBM邏輯Base Die。

當然,與GPU相比,HBM Base Die的晶圓需求規模仍然不是一個量級。但它的重要性在於:每增加一顆HBM,就增加了一顆Logic Die。高端AI加速器通常單顆掛載6至8顆HBM,疊加HBM4/4E時代Base Die向12nm、5nm甚至更先進節點遷移,晶圓代工廠在整個 AI 記憶體系統中的價值佔比將被呈指數級放大。

隨著HBM從HBM4進入HBM4E、Custom HBM,Base Die製程越來越先進、面積越來越大、邏輯越來越複雜,單顆HBM中屬於Foundry的價值量也會隨之增加。

這也是Intel為什麼可能有機會重新進入這場競爭。Intel Foundry如果直接爭奪輝達、AMD等頂級GPU的主Compute Die訂單,難度極高。但HBM Base Die可能是一個完全不同的切入口。它需要先進邏輯製造能力,卻不像GPU那樣承擔整個系統計算核心的風險;與此同時,SK海力士等記憶體廠商又有降低供應集中度和成本的動力。

對於Intel而言,這可能是一塊比直接挑戰台積電先進GPU代工更現實的增量市場。

寫在最後

過去幾十年,記憶體產業最典型的商業模式是標準化。產品越標準,規模越大,成本越低。無論DRAM還是NAND,廠商競爭的大部分時間都圍繞製程、容量、良率和成本展開。然而,AI正在打破這一邏輯。HBM4把Logic Base Die帶入先進製程,HBM4E繼續提高Base Die複雜度,而NVHBM又進一步把Memory Controller直接塞進HBM。沿著這條路線繼續向前,HBM很可能越來越難被簡單定義為“記憶體”。它會逐漸變成一種:由DRAM、Logic、連接和先進封裝構成的Memory System。

於是HBM產業的競爭也正在發生改變。過去是SK海力士vs三星vs美光,未來更可能變成:記憶體廠商 + 代工廠+ AI晶片廠商 + 先進封裝之間的組合競爭。看似只是SK海力士考慮給Intel Foundry一筆Base Die訂單,背後的意義其實遠比一張代工訂單更大。它意味著晶圓代工廠的邊界,又向AI系統內部推進了一步。

繼CPU、GPU、ASIC之後,下一塊進入先進邏輯Foundry體系的晶片,可能正是過去一直被視為記憶體器一部分的HBM Base Die。HBM還是記憶體,只是從HBM4開始,它已經越來越像一顆晶片系統。

HBM的下半場,戰爭的爆發點不在DRAM本身,而在那顆沉在最底部的Base Die。 (半導體行業觀察)