#DeepMind
HBM敲響警鐘,Google看上了HBF!
GoogleDeepMind指出,SK海力士目前正在研發的高帶寬閃存(HBF)將成為引領下一代人工智慧(AI)時代的記憶體技術。隨著AI市場重心從訓練轉向推理,HBF被認為是AI推理的最佳記憶體解決方案,能夠快速處理大規模數據。 SK海力士於8月7日宣佈,在8月6日(當地時間)於加州聖克拉拉舉行的「FMS 2026」記憶體技術大會上,該公司與GoogleDeepMind和閃迪的代表探討了HBF(堆疊式NAND閃存)作為解決人工智慧時代內存瓶頸的核心技術。HBF是一種下一代記憶體技術,它通過堆疊NAND閃存來提高記憶體容量和一次性數據交換的帶寬,能夠為圖形處理器(GPU)等人工智慧晶片高效處理海量數據提供支撐。Google和閃迪與SK海力士組成聯盟,並在本次大會上發佈了HBF的標準規範。 GoogleDeepMind的研究員馬曉宇在FMS 2026的小組討論中指出,隨著大型語言模型(LLM)推理任務所需數據量的顯著增長,對高帶寬記憶體器(HBF)的需求也將隨之增長。這意味著,除了訓練數據外,根據用戶請求需要處理的數據量也在激增,使得現有內存系統難以實現快速響應。馬曉宇補充道,具備高容量和高帶寬的HBF能夠同時保證高能效。 會議還討論了HBF作為下一代AI內存所面臨的挑戰。針對有人擔心,如果AI計算過程中頻繁進行數據寫入,NAND閃存單元(記憶體單元)的損壞速度可能會比GPU或HBM更快,SanDisk副總裁Rajiv Nagabirava表示,如果HBF主要承擔數據讀取的角色,這些擔憂就能得到解決。SK海力士副總裁Eui-cheol Lim也提出了一種模型,即在以讀取為中心的AI推理階段,將HBF與HBM聯合使用。