當所有人都在關注GPU的算力競賽時,一個更根本的瓶頸正在悄然逼近——記憶體。
摩根士丹利今天發佈了一份重磅報告,直指AI發展的下一個關鍵約束:記憶體牆(Memory Wall)。報告認為,AI的下一步發展,焦點將從“計算擴展”轉向“資料效率”。簡而言之,GPU決定了AI能跑多快,而記憶體決定了AI能跑多遠。
在這篇文章中,我們將為你深度解析這份報告的核心觀點,看看這場即將爆發的“記憶體革命”將如何重塑科技格局,以及那些公司有望成為下一個時代的贏家。
一、為什麼記憶體成了AI的“卡脖子”問題?
報告開篇就提出了一個簡單但關鍵的問題:AI想要繼續發展,整個行業該如何克服“記憶體瓶頸”?
當前,AI模型在瘋狂增長,對資料的需求呈指數級上升。然而,記憶體的容量、頻寬和成本卻遠遠跟不上。
成本飆升:AI需求正在推動記憶體價格急劇上漲。報告預計,到2027年,記憶體支出將佔據雲服務商資本開支的40%,而在2023年AI熱潮之前,這個比例僅為12%。
頻寬鴻溝:記憶體頻寬的改進速度,相比AI模型中Token(資料單元)的增長速度,簡直是龜兔賽跑。記憶體頻寬每年僅增長約14%,而Token的增長卻是320倍以上。
系統級瓶頸:報告強調,這不再是簡單的“多造點DRAM”就能解決的問題。這是一個涉及設計、工藝、封裝、外設、整合和材料的系統性挑戰。
簡單來說,AI系統的“腦子”(計算能力)越來越快了,但“肚子”(記憶體)的消化能力卻嚴重不足,導致整個系統“消化不良”。
二、如何打破“記憶體牆”?三大創新路徑
報告認為,解決這個瓶頸需要整個系統的創新,而非簡單堆疊。我們為你梳理了其中最核心的三條路徑:
路徑一:顛覆傳統,從“二維”走向“三維”
這就像一個城市,當橫向無法擴張時,只能向天空要空間。
3D DRAM:當下最熱的“革命者”。它不再依賴傳統平面上的微縮,而是像蓋樓一樣,將DRAM單元垂直堆疊起來,在單位面積內獲得數倍的密度和頻寬。報告指出,3D DRAM或許是打破傳統DRAM物理極限的關鍵。
HBM(3D計算-記憶體堆疊):三星提出的下一代HBM架構。它直接將記憶體晶片堆疊在GPU邏輯晶片之上,讓資料和計算之間的距離縮短到極致,實現頻寬和能效的飛躍。
路徑二:給記憶體“開掛”,引入創新架構
這不再是簡單的堆疊,而是從記憶體的底層邏輯上做文章。
HBF(高頻寬快閃記憶體):由SanDisk提出的一種使用3D NAND快閃記憶體的記憶體方案。它可以像HBM一樣,通過TSV進行堆疊和高速互聯,提供8-16倍於HBM的容量,雖然速度慢一些,但足以承載海量的AI推理模型權重和快取資料,大幅降低成本。
MRDIMM(多路復用雙列直插記憶體模組):這是一種更聰明的“調度”方案。它通過一個特殊的控製器,讓同一個記憶體通道可以同時訪問多個記憶體模組,從而實現頻寬的倍增。
路徑三:讓“計算”和“記憶體”合二為一
這是最顛覆性的想法——不讓資料到處跑,而是“原地計算”。
PIM(存內處理)/ CIM(計算記憶體儲):將簡單的計算單元直接整合到記憶體晶片內部。當AI進行矩陣運算時,資料無需反覆在CPU/GPU和記憶體之間傳輸,直接在記憶體內部完成計算,從而極大降低功耗和延遲。
三、兆級市場:機會在那裡?
這場記憶體革命,不僅關乎傳統的三星、SK海力士和美光,更將催生一個龐大的“賦能者”生態系統。
報告預計,僅新型記憶體技術(不含HBM)的市場規模,在2030年就有望達到230億美元。
以下是幾個最具潛力的投資主題:
傳統巨頭依然是核心受益者:
三星和美光:作為HBM和DRAM的核心供應商,其定價權有望持續,帶來更強勁的盈利周期。
SanDisk:憑藉HBF技術,正試圖將NAND提升到與HBM協同的生態位,前景廣闊。
“賦能者”生態帶來差異化機遇:
記憶體介面與互聯晶片(如瀾起科技):隨著記憶體系統的複雜化,對高速互聯晶片(如CXL、MRDIMM相關晶片)的需求暴增。這就像為AI系統鋪設“高速公路”,是確定性極強的增長點。
先進封裝與3D堆疊(如華邦電、兆易創新、AP Memory):3D DRAM、HBM、HBF的製造,都高度依賴先進的晶圓對晶圓(WoW)堆疊技術。這些技術廠商的價值有望被重估。
四、風險與展望
報告也指出了幾點風險:
軟體最佳化:像DeepSeek等公司開發的演算法壓縮技術,可能在一定程度上減少對硬體的極度渴求。
AI需求不及預期:如果AI應用的商業化處理程序放緩,對記憶體的需求也會相應減弱。
量產難度:許多下一代記憶體技術仍處於研發早期,量產和良率是一大挑戰。
但報告最終的結論非常明確:AI投資的下一個超級周期已經到來。第一階段,我們見證了GPU和算力基礎設施的瘋狂擴張。第二階段,將由系統效率驅動,而記憶體,正是這個過渡期的核心。
誰能高效地記憶體、移動和訪問資料,誰就能在下一輪AI競賽中佔據制高點。
對於我們投資者而言,現在或許是時候將目光從GPU,轉向這片正在被“記憶體牆”催生出的、潛力巨大的新藍海了。 (調研紀要速覽)
