這次，三星被台積電卡脖子了

在晶圓代工領域，三星與台積電是純粹的競爭關係，但在記憶體晶片市場，身為產業霸主，三星卻必須尋求與台積電深入合作，這都是輝達惹的禍。

根據DigiTimes報導，三星HBM3E記憶體尚未通過輝達的測試，​​仍需進一步驗證，這是因為卡在了台積電的審批環節。作為輝達AI GPU晶片的製造和封裝廠，台積電是輝達驗證環節的重要參與者。據悉，台積電採用的是基於SK海力士HBM3E產品設定的檢測標準，而三星的HBM3E產品在製造流程上有些差異，例如，SK海力士晶片封裝環節採用了MR-MUF材料技術，三星則是基於TC-NCF技術，這會對一些參數產生影響。

三星在4月表示，其8層垂直堆疊的HBM3E已經在4月量產，併計劃在今年第二季度量產12層堆疊的HBM3E，比原計劃提前了一個季度。根據三星的說法，為了更好地應對生成式AI日益增長的需求，該公司加快了新款HBM產品的專案進度。

自從HBM問世並量產以來，SK海力士一直是輝達為其AI GPU配備該類內存的獨家供應商，發展到HBM3E版本，依然如此，只是從2024年第二季度開始，另外兩家內存大廠才開始加入輝達HBM供應鏈。因此，SK海力士是產業霸主，市佔率超過80%。

2022年，SK海力士專為輝達的H100設計了HBM3，其性能令人驚訝，且HBM在經濟上是可行的，並一舉確立了行業地位。在這種情況下，三星和美光準備花費數十億美元來擴大晶片生產能力。最近，三星推出了其12層堆疊的HBM3E，旨在將其與SK海力士和美光的8層堆疊產品區分開來。

在不久前舉行的年度股東大會上，SK海力士非常享受它的勝利成果，這家韓國內存製造商表示，HBM必須為客戶“定制和專業化”，這是在強調其與輝達的深厚關係。

同期，三星也宣布了其HBM產量的成長計劃，一位高層表示，該公司計劃今年將晶片產量增加兩倍。輝達執行長黃仁勳（Jensen Huang）在Blackwell產品發表會上表示，正在對三星的HBM3E進行資格認證，黃仁勳這是在側面敲打SK海力士，以避免供應商一家獨大，出現客大欺店的情況。

相對於三星和SK海力士，美光（Micron）晚一年才推出HBM產品，但憑藉其在HBM3E版本產品上的「彎道超車」表現，特別是其3D堆疊技術，使HBM3E在有限的空間中，滿足高頻寬與大容量的需求，可望在HBM競賽中扳回一城。美光的HBM3E瞄向了輝達新推出的DGX GH200。

三巨頭排隊驗證HBM3E

身為AI伺服器晶片產業霸主，輝達擁有強大的話語權，這使得記憶體產業廠商不得不順應該公司的標準和驗證要求。而為了實現供應鏈多元化，輝達將更多HBM內存廠商納入了其供應鏈，作為新進入者，三星的HBM3E正在等待驗證通過，而美光和SK海力士已經在2023下半年向輝達提供了8層垂直堆疊的HBM3E（24GB）樣品，並在2024年初通過了輝達的驗證，並獲得了訂單。

現在，只有三星一家在焦急地等待，因為這三大原廠的HBM3E驗證結果，將決定輝達2024全年HBM供應商的採購權重分配。

2023年，輝達的高階AI晶片（採用HBM記憶體）是A100/A800和H100/H800，2024年，其產品組合更多了，除了上述型號，還將再推出使用6個HBM3E的H200和8個HBM3E的B100，並整合該公司自研的Arm架構CPU，推出GH200和GB200。

除了輝達，另外兩大處理器廠商也在加緊拓展AI伺服器市場，這將進一步推動HBM記憶體市場的繁榮。

2024年，AMD出貨的主力產品是MI300系列，採用HBM3內存，下一代MI350將採用HBM3E，預計2024下半年開始進行HBM驗證，大批量上市將在2025年第一季。在英特爾方面，2022下半年推出的Gaudi 2採用了6個HBM2E，2024年，預計其新型號Gaudi 3仍將採用HBM2E，但用量升至8個。

未來，除了輝達，AMD和英特爾會使用越來越多的HBM產品，這會為三大記憶體原廠提供更多商機。

據分析師和行業觀察人士稱，在HBM產品驗證方面，三星落後的原因之一是其堅持使用被稱為熱壓非導電膜（TC-NCF）的技術，這導致了一些生產問題，而SK海力士則一直採用大規模回流模製底部填充（MR-MUF）技術，可以克服NCF的弱點。

TC-NCF技術已被晶片製造商廣泛使用，用於將多層晶片堆疊在緊湊的高頻寬儲存晶片組中，因為使用熱壓縮薄膜有助於最大限度地減少堆疊晶片之間的空間。但是，隨著層數不斷增加，製造變得越來越複雜，因此，經常存在與黏合劑材料相關的問題，晶片製造商一直在尋找替代方案來解決這些問題。 MR-MUF是一種環氧樹脂模塑化合物，被認為在避免晶圓翹曲方面更有優勢。

SK海力士率先成功轉向MR-MUF技術，並成為第一家向輝達供應HBM3記憶體的供應商。

在SK海力士成功將MR-MUF應用於HBM2E生產後，受到了晶片產業的關注。 SK海力士使用的這種化合物是與Namics合作生產的。

MR-MUF用於HBM封裝，它對HBM晶片的外部結構有顯著影響。 SK海力士在創建12層HBM3時，將一個產品中堆疊的DRAM數量從8個（16GB）增加到12個，從而將容量提高了50%。透過這種方式，SK海力士實現了24GB的容量。為了在保持晶片厚度的同時增加容量（堆疊層數），必須將DRAM晶片逐個向上堆疊，這會導致較薄的晶片產生彎曲，MR-MUF封裝對於防止這種情況並保持晶片的厚度是有益的。

不久前，有消息人士說，三星發布了旨在處理MR-MUF技術的晶片製造設備的採購訂單。消息人士稱，三星與包括日本長瀨在內的材料製造商進行談判，以採購MUF材料，使用MUF的高端晶片的大規模生產最早可能要到2025年才能準備就緒，因為三星需要進行更多的測試。

據悉，三星對其HBM記憶體進行了大規模的MR-MUF製程測試，結果顯示與現有的TC-NCF相比，吞吐量有所提高，但物理特性有所下降。

三星晶片製造部門的一位高階主管在2023年下令對MUF技術進行測試，得出的結論是MUF不適用於HBM產品，最合適的物件是3D堆疊RDIMM。一般情況下，3D堆疊RDIMM採用矽通孔（TSV）技術製造，主要用於伺服器。矽通孔技術是在Wafer或Die上穿出數千個小孔，實現矽片堆疊的垂直互連通道，而MUF則是上下連接，縮小相互之間間隙的材料，有助於緊密凝固和結合各種垂直堆疊的半導體材料。

據悉，三星計劃與SDI合作開發自己的MUF化合物材料，並且已經從日本訂購了MUF所需的相關設備，看起來要推進到下一階段，以實現更先進的封裝工藝，並提高生產效率。

消息人士表示，三星計劃在其最新的HBM晶片上同時使用NCF和MUF材料。

但三星並未承認，該公司表示，其內部開發的NCF技術是HBM產品的“最佳解決方案”，將用於其新的HBM3E晶片。 “我們正在按計劃開展HBM3E產品業務”，三星表示。

如果三星使用MUF為真的話，則突顯了該公司在AI晶片競賽中面臨的越來越大的壓力。

據悉，另一家內存大廠美光也打算使用MUF材料。

發展HBM4，仍要過台積電這一關

HBM3E的下一個版本，就是HBM4，三星正在加速研發腳步，爭取縮小與SK海力士的差距。

不久前，三星公佈了HBM路線圖，預計2026年的HBM出貨量是2023年的13.8倍，該公司表示，到2028年，HBM記憶體的年產量將進一步上升至2023年的23.1倍。

在代號為「Snowbolt」的第六代HBM晶片HBM4方面，三星計劃將緩衝晶片應用於堆疊記憶體的底層以提高效率。除此之外，還沒有更多關於三星HBM4的技術細節流出。

SK海力士方面，在擴充HBM3E生產能力的同時，該公司還與台積電簽署了諒解備忘錄（MOU），雙方就下一代HBM產品生產和加強整合HBM與邏輯層的先進封裝技術密切合作，以開發出新一代的HBM4產品。

雖然距離HBM4投產還有兩年的時間，SK海力士已經在加速推進第七代HBM產品（HBM4E）的開發工作了，根據etnews報導，該公司的HBM先進技術團隊負責人Kim Kwi-wook在近日舉行的「IMW 2024」活動上分享了下一代HBM的發展方向，表示當前HBM技術已達到新的水平，同時，代際更迭周期也在縮短，從HBM3E開始，由以往的兩年變成了一年。

面對競爭，SK海力士的HBM計畫正在提速，預計首批12層堆疊的HBM4最快會在2025下半年到來，到2026年還會有16層堆疊的產品，會朝著更加客製化的方向發展，而HBM4E最早會在2026年投產。這是SK海力士首次提及HBM4E，確認了新標準的存在，據悉，其頻寬將是上一代產品的1.4倍。

5月中旬，在2024年歐洲技術研討會上，台積電錶示，將使用其12FFC+（12nm級）和N5（5nm級）製程製程製造HBM4晶片。

台積電設計與技術平台高級總監表示：「我們正在與主要的HBM記憶體合作夥伴（美光、三星、SK海力士）合作，開發HBM4全端整合的先進製程，N5製程可以使HBM4以更低的功耗提供更多的邏輯功能。

N5程序允許將更多的邏輯功能封裝到HBM4中，並實現非常精細的互連間距，這對於邏輯晶片上的直接鍵合至關重要，可以提高AI和HPC處理器的記憶體效能。

相對於N5，台積電的12FFC+製程（源自該公司的16nm FinFET 技術）更經濟，製造的基礎晶片能建構12層和16層的HBM4記憶體堆棧，分別提供48GB和64GB的容量。

台積電也正在優化封裝技術，特別是CoWoS-L和CoWoS-R，以支援HBM4整合。這些先進的封裝技術有助於組裝多達12層的HBM4記憶體堆疊。新的轉接板可確保2000多個互連的高效路由，同時保持訊號完整性。根據台積電介紹，到目前為止，實驗性HBM4內存在14mA時的資料傳輸速率已達到6 GT/s。

台積電也正在與Cadence、Synopsys和Ansys等EDA公司合作，對HBM4通道訊號完整性、IR/EM和熱精度進行認證。

三星尋求與台積電合作

由於輝達在AI伺服器晶片市場處於霸主地位，而該公司的高效能GPU都是由台積電代工生產的，因此，在對HBM記憶體大廠的產品進行驗證時，台積電扮演著重要的角色。此時，雖然是晶圓代工領域的競爭對手，但要在HBM記憶體市場拓展出更多空間，在進行產品驗證時，三星必須面對台積電。

今年4月，三星電子共同執行長慶桂顯低調訪台，傳拜訪了台積電，消息人士透露，慶桂顯此行的任務中，最主要是推廣三星最新的HBM內存。

之前，台積電與SK海力士聯手，組成名為「One Team」的戰略同盟，共同開發下一代HBM4內存，目標是透過匯集台積電與SK海力士在新一代AI半導體封裝上的技術優勢，鞏固雙方在AI市場的地位。

慶桂顯此行，對於三星HBM3E產品盡快通過輝達驗證有積極作用，同時，三星也希望台積電能夠將其HBM內存推薦給客戶，以實現將三星產品整合進更多AI晶片和伺服器系統。(半導體產業縱橫)