GPU狂潮:內存巨頭爭奪HBM3e

HBM3e受追捧,輝達GPU訂單爆滿。


人工智慧浪潮持續推動對人工智慧晶片的需求激增。繼HBM 售罄和製造商加大產量以滿足需求的報導之後,最近有消息稱輝達的Blackwell 架構GPU 也供不應求。


輝達的Blackwell GPU 未來12 個月內已售罄

Blackwell GPU 採用客製化的雙光罩極限4NP TSMC 製程製造,GPU 晶片透過10TBps 晶片到晶片鏈路連接到單一統一的GPU,擁有2080 億個電晶體。這比Hopper 系列的800 億個有所增加,並包括第二代變壓器引擎和新的4 位元浮點AI 推理功能。

儘管輝達的Blackwell 架構GPU 推遲到今年第四季上市,但這並沒有影響訂單。

根據Tom's Hardware報導,摩根士丹利最近在紐約與輝達執行長黃仁勳、財務長Colette Kress 以及該晶片製造商管理團隊的其他成員舉行了為期三天的會議。

摩根士丹利報導稱,輝達表示,未來12個月的Blackwell架構GPU訂單已全部售罄,現在下訂單的新客戶要到2025年底才能收到產品。

本月初,微軟成為首家部署輝達GB200 AI 伺服器的雲端服務商,該公司在X(原Twitter)上發布消息指出:「Microsoft Azure 是首家運行輝達Blackwell 系統並搭載GB200 AI 伺服器的雲端服務商。我們正在每一層進行優化,以支援世界上最先進的AI 模型,並利用Infiniband 網路和創新的閉環液體冷卻。

現有客戶包括AWS、CoreWeave、Google、Meta、微軟和甲骨文,已經購買了輝達及其合作夥伴台積電在未來幾季內可以生產的所有Blackwell 架構GPU。

業界指出,高性能GPU及其背後的AI晶片市場需求依然旺盛,輝達、AMD、Intel等各大AI晶片廠商之間的競爭將愈加激烈。

摩根士丹利分析師約瑟夫·摩爾(Joseph Moore) 在給客戶的報告中寫道:「我們仍然認為,輝達很可能在2025 年真正獲得AI 處理器的份額,因為定製矽片的最大用戶明年將看到輝達解決方案的迅猛增長。

現在輝達的B100和B200 GPU的封裝問題已經解決,輝達可以生產與台積電一樣多的Blackwell GPU。 B100 和B200 都採用台積電的CoWoS-L 封裝,而這家全球最大的晶片代工廠是否有足夠的CoWoS-L 產能還有待觀察。

此外,隨著對AI GPU 的需求激增,記憶體製造商能否為Blackwell 等尖端GPU 提供足夠的HBM3e 記憶體仍有待觀察。


三大記憶體巨頭搶佔HBM3e先機,12款新品凸顯重要性

受高性能AI晶片的不斷迭代和單系統HBM容量擴大的驅動,HBM bit需求持續成長。

根據TrendForce預估,2024年HBM需求位元數年增幅將接近200%,2025年將再度翻倍。

TrendForce表示,受惠於AI平台積極採用新一代HBM產品的帶動,2025年HBM需求bit將有八成以上為HBM3e代產品,其中12-hi將佔比過半,成為明年下半年各大AI廠商競相爭奪的主流產品,其次為8-hi。

三星、SK海力士、美光分別於2024年上半年、第三季提交首批HBM3e 12-hi樣品,目前處於持續驗證階段。其中SK海力士、美光進展較快,預計今年底完成驗證。

同時,隨著輝達、AMD主流GPU產品的迭代,以及HBM規格的變化,市場也將逐步從HBM3升級到HBM3e,三大內存廠商(三星、SK海力士、美光)將積極搶佔HBM3e機會。

7月,三星宣佈其研HBM3E記憶體技術通過了輝達的嚴格測試,預示著這家韓國科技巨頭即將重新在高階記憶體市場佔有一席之地。為實現這一目標,三星多次調整策略,優化4nm製程工藝,目前HBM3e的良品率已超過70%,展現出強大的技術實力。

HBM3e 記憶體的關鍵特性在於其高密度儲存和低能耗設計,這使得它在圖形處理和資料中心應用中表現出色。輝達選擇三星作為供應商,反映了對其在高效能運算領域能力的認可。據報導,三星計劃從其DRAM產能中調撥約30%用於生產HBM3e,這可能導致全球DRAM供應量減少13%,從而推高市場價格。

對消費者而言,這意味著未來搭載HBM3e記憶體的遊戲設備和伺服器將具備更快的資料交換速度和更持久的效能表現。在遊戲體驗上,玩家可以期待流暢無阻的圖形渲染和無縫切換,而企業用戶則能在大數據處理和雲端運算任務中獲得顯著提升。

三星此次成功取得輝達的大單,無疑對競爭對手如美光和SK海力士構成了壓力,他們可能需要加快研發進程以應對市場變化。同時,消費者在購買決策時可能會更傾向於選擇具備HBM3e記憶體的產品,這將推動整個智慧型裝置市場朝向更高的效能和效率邁進。(半導體液業縱橫)