HBM敲響警鐘,Google看上了HBF!

AI速讀
SK海力士聯手Google DeepMind與SanDisk,正式發布高帶寬閃存(HBF)標準規範,旨在突破AI推理時代的內存瓶頸。HBF技術填補了HBM與SSD之間的空白,提供最高3.0TB/s帶寬及512GB容量,並採用UCIe標準接口以兼容多種處理器。此次合作透過OCP公開標準,意在將其打造為行業通用規範而非專有技術,以主導下一代AI存儲生態並提升海量數據處理效率。

GoogleDeepMind指出,SK海力士目前正在研發的高帶寬閃存(HBF)將成為引領下一代人工智慧(AI)時代的記憶體技術。隨著AI市場重心從訓練轉向推理,HBF被認為是AI推理的最佳記憶體解決方案,能夠快速處理大規模數據。

SK海力士於8月7日宣佈,在8月6日(當地時間)於加州聖克拉拉舉行的「FMS 2026」記憶體技術大會上,該公司與GoogleDeepMind和閃迪的代表探討了HBF(堆疊式NAND閃存)作為解決人工智慧時代內存瓶頸的核心技術。HBF是一種下一代記憶體技術,它通過堆疊NAND閃存來提高記憶體容量和一次性數據交換的帶寬,能夠為圖形處理器(GPU)等人工智慧晶片高效處理海量數據提供支撐。Google和閃迪與SK海力士組成聯盟,並在本次大會上發佈了HBF的標準規範。

GoogleDeepMind的研究員馬曉宇在FMS 2026的小組討論中指出,隨著大型語言模型(LLM)推理任務所需數據量的顯著增長,對高帶寬記憶體器(HBF)的需求也將隨之增長。這意味著,除了訓練數據外,根據用戶請求需要處理的數據量也在激增,使得現有內存系統難以實現快速響應。馬曉宇補充道,具備高容量和高帶寬的HBF能夠同時保證高能效。

會議還討論了HBF作為下一代AI內存所面臨的挑戰。針對有人擔心,如果AI計算過程中頻繁進行數據寫入,NAND閃存單元(記憶體單元)的損壞速度可能會比GPU或HBM更快,SanDisk副總裁Rajiv Nagabirava表示,如果HBF主要承擔數據讀取的角色,這些擔憂就能得到解決。SK海力士副總裁Eui-cheol Lim也提出了一種模型,即在以讀取為中心的AI推理階段,將HBF與HBM聯合使用。

SK海力士與閃迪聯合發佈首個HBF標準規範

SK 海力士公司與 Sandisk 合作宣佈,已發佈下一代記憶體技術——高帶寬閃存 (HBF) 的首個標準規範。

HBF技術是介於HBM和SSD之間的新型記憶體層。它能夠實現與HBM類似的高速數據傳輸,同時利用NAND技術顯著提升容量。隨著人工智慧推理的擴展導致數據處理量激增,HBF作為一種能夠同時解決帶寬和容量可擴展性挑戰的技術,正日益受到關注。

在今年2月聯盟成立約六個月後,繼2025年8月與Sandisk達成初步標準化合作之後,該聯盟取得了這一里程碑式的進展。容量規格涵蓋高達512GB,基於兩種堆疊配置(8層和16層NAND晶片)。帶寬分為三個等級(1級至3級),可提供從約0.4TB/s到3.0TB/s的可擴展性能。

其主要亮點在於將HBF技術與處理器連接起來。HBF技術採用行業標準連接介面UCIe,為將HBF技術靈活整合到不同類型的處理器(包括GPU和CPU)中奠定了基礎。

該標準還概述了 HBF 晶片堆疊工藝的連接介面和電氣特性、可靠性和封裝指南以及軟件 I/O 指南。

該規範通過全球最大的開放數據中心技術計劃——開放計算項目(OCP)公佈,將其定位為整個行業的開放標準,而不是專有技術。

SK海力士計劃利用此次發佈,擴大HBF技術在AI記憶體市場的應用,並促進周邊生態系統的發展。目前,Google和TensorRent均已加入HBF聯盟,該聯盟旨在通過開放合作,在提升技術成熟度和市場接受度的同時,擴大其影響力。 (半導體行業觀察)