AI基礎設施熱潮正在逼近供應鏈極限。
據The Information報導,輝達正評估一項頗為激進的調整方案——為下一代AI GPU Rubin Ultra推出低於原計劃顯存配置的版本,以緩解高端高帶寬內存(HBM)供應不足帶來的量產壓力。
這意味著,即便是掌握GPU市場主導權的輝達,也不得不在產品規格與供應能力之間尋求平衡。
這一變化不僅反映出HBM供應已成為AI產業鏈最關鍵的瓶頸之一,也意味著AI服務器成本或進一步攀升,數據中心建設壓力仍將持續向下遊傳導。
周四輝達股價收跌0.1%,SK海力士股價收跌4.97%。
HBM供應緊張,輝達測試多個"降顯存"版本
知情人士透露,過去數周,輝達已經測試至少三個不同版本的Rubin Ultra GPU,其中部分版本採用了低於最初規劃的顯存容量。
輝達考慮推出低顯存版本,一個重要原因在於未來可能無法獲得足夠數量的高端HBM晶片,以支撐原始設計的大規模量產。
Rubin Ultra是輝達下一代AI計算平台的重要組成部分,定位高於即將量產的Rubin系列,被視為未來訓練超大規模AI模型的重要硬體平台。按照原有規劃,其將搭載容量更高、帶寬更大的HBM,以進一步提升模型訓練和推理性能。
不過,在HBM供應持續偏緊的背景下,輝達正在重新評估產品配置,希望通過調整顯存規格保證產品按計劃上市,而不是繼續等待供應鏈擴產。
顯存減少意味著需要部署更多GPU
對於AI訓練而言,HBM不僅決定GPU的數據吞吐能力,更直接影響能夠容納的大模型規模。
如果Rubin Ultra最終採用較低顯存配置,在運行大語言模型等大型AI工作負載時,客戶可能需要部署更多GPU,才能完成原本由較少晶片即可完成的計算任務。
雖然輝達仍可通過提高GPU計算能力、優化互連帶寬等方式部分彌補性能損失,但總體來看,系統部署成本和叢集複雜度仍可能有所提高。
對於微軟、Meta、亞馬遜、Google等持續擴大AI資本開支的大型雲廠商而言,這意味著未來數據中心建設成本可能進一步上升。
AI熱潮暴露產業鏈最大瓶頸
HBM已經成為當前AI產業鏈最緊缺的核心零部件之一。
近年來,大模型訓練需求快速增長,使GPU出貨量持續攀升,而GPU所需的HBM主要由三星電子、SK海力士和美光等少數廠商供應。由於HBM製造工藝複雜、良率要求高、擴產周期長,供應增長速度始終難以追趕AI需求。
業內普遍預計,未來數年HBM仍將維持供不應求狀態,這也是AI服務器價格居高不下的重要原因之一。
此次輝達主動考慮降低Rubin Ultra顯存配置,也反映出即便擁有產業鏈最強議價能力,其產品規劃依然受到HBM供應約束。
成本壓力向整個科技行業蔓延
HBM價格上漲帶來的影響已經不僅侷限於AI服務器。
隨著GPU、HBM等關鍵元器件持續緊缺,整個科技行業的硬體成本均受到推升。企業採購AI基礎設施的預算不斷增加,越來越多公司不得不提高資本支出,以滿足生成式AI部署需求。
與此同時,上游晶片成本上漲也開始向消費電子領域傳導。包括蘋果在內的部分硬體廠商,已經通過提高終端產品售價等方式消化供應鏈成本壓力。
市場人士認為,只要AI算力需求繼續高速增長,而HBM新增產能釋放速度有限,圍繞高端記憶體資源的競爭仍將持續,HBM供應能力也將繼續成為決定AI產業擴張速度的關鍵因素。 (華爾街見聞)
