記憶體晶片四兄弟:帶你讀懂NAND、DRAM、HBM、HBF

AI速讀
本文詳盡分析了現代計算架構中的四類儲存晶片。DRAM 提供納秒級速度但斷電失效;NAND Flash 則提供海量永久儲存。針對 AI 運算產生的「記憶體牆」瓶頸,HBM 透過垂直堆疊大幅提升頻寬以供 GPU 使用;而最新發佈的 HBF 標準則旨在結合 NAND 的大容量與 HBM 的高頻寬,優化大模型推理的資料流動。整體趨勢顯示,半導體產業正透過 3D 立體堆疊技術,試圖打破速度與容量的博弈,邁向儲存計算融合的未來。

當你手機裡存滿照片、當你打遊戲卡頓時、當AI模型訓練到一半報錯"視訊記憶體溢出"——這些日常場景背後,是四類記憶體晶片在無聲分工。它們名字相近,卻有著截然不同的"性格"與"使命"。

開篇:一場關於"速度與容量"的永恆博弈

打開電腦發現它變慢了;手機提示記憶體空間不足;AI模型訓練到一半突然報錯"視訊記憶體溢出"……這些問題看似五花八門,背後卻指向同一個根源:資料跑得沒有計算快

過去四十年,半導體的"交通規劃"始終面臨一道選擇題——要麼快,要麼多。想速度快,就得接受容量小、成本高;想容量大,就得忍受慢吞吞的讀寫。你桌上的SSD可以存幾TB資料,但打開一個程序要等好幾秒;你的記憶體訪問速度是納秒級,但斷電就清空一切。

這場博弈催生了四種完全不同的記憶體晶片。它們各自守著不同的技術路線,在不同的應用場景裡各司其職。搞清楚它們的差異,你就搞懂了半個半導體產業。

分類標準其實很簡單:資料在斷電後還在不在。不保留的叫"易失性",保留的叫"非易失性"——順著這條線,我們逐一拆解四兄弟。


儲存層次結構金字塔暫存器~1ns / KB級HBM~10ns / 192GBDRAM~10ns / 64-256GBHBF~10μs / TB級SSD / NAND~100μs / 10TB+HDD / 磁帶頻寬 ↑容量 ↑

圖1:記憶體層次結構金字塔——越往上速度越快但容量越小

第一章 DRAM:電腦的"臨時工作台"

一句話理解

DRAM就像你辦公桌上的便簽——用起來隨手可得,但一斷電就全沒了。它是CPU直接訪問資料的地方,所有正在運行的程序和正在處理的資料,都在這塊"工作台"上。

技術原理解析

DRAM的記憶體單元只有兩個元件:1顆電晶體 + 1顆電容(簡稱1T1C)。電容充滿電代表"1",沒電代表"0"。CPU要讀寫資料,先通過電晶體"打開門",再操作電容。

問題來了——電容會漏電。充滿的電荷大約在幾十毫秒內就會漏光,資料就丟了。所以DRAM需要不斷"刷新",一遍遍重新充電,保持資料。這個"動態"維護的特性,就是"Dynamic"這個詞的由來。

刷新操作需要時間,這就是DRAM的延遲來源。但即便如此,DRAM的訪問速度仍然在納秒級(10⁻⁹秒),比SSD的微秒級(10⁻⁶秒)快了整整三個數量級。

技術代際演進

DRAM的進化主線是製程微縮——把單元做得更小,在同樣面積裡塞進更多記憶體單元。

工藝節點行業現狀
20nm+
2015年前後主流
10-12nm (1c/1z工藝)
當前主流
個位數nm (10a/1-gamma)
三星、美光最新突破


製程越先進,功耗越低、密度越高。但這條路線正在逼近物理極限——電容小到一定程度,漏電問題會急劇惡化。行業正在探索4F²架構CBA技術(把記憶體陣列與周邊電路分離製造),開啟3D DRAM的新篇章。

當前頂配參數

以SK海力士LPDDR6為例:製程第六代10nm級 (1c),速率10.7-14.4 Gbps,功耗比上代降低30%,適用於旗艦手機、AI PC。

通用伺服器DDR5:雙通道約100 GB/s,單條16-128GB。

第二章 NAND Flash:資料的"永久倉庫"

一句話理解

NAND就像圖書館的書架——容量巨大、斷電不丟資料,但找一本書需要時間。它是SSD、手機記憶體、USB 隨身碟的物理基礎。

技術原理解析

NAND的核心是浮柵(Floating Gate)結構——在電晶體內部包裹一層獨立的"懸浮"導體,用它捕獲和保存電荷來表示資料。與DRAM不同,NAND寫入資料需要先"擦除"整個 block,讀取則是以"頁"為單位。

這種設計讓NAND的記憶體密度遠超DRAM——在同樣的晶片面積上,NAND可以多存20倍以上的資料。但代價是速度:NAND的讀寫涉及複雜的電荷操作,延遲在微秒級,比DRAM慢了約1000倍。

關鍵轉折發生在2010年代——2D NAND遇到瓶頸,廠商開始向3D垂直堆疊發展。就像把平房改成摩天大樓,層數越高,容量越大。

3D NAND層數競賽

記憶體行業正在上演一場"誰樓蓋得更高"的競賽。這不是數位遊戲——每增加一層,都意味著更複雜的工藝、更高的良率挑戰、更大的資本支出。

廠商最新層數備註
SK海力士321層
2025 H1領先
三星
286層
V9T/V9Q
美光
276層
B68S
鎧俠/西數
218-232層
BiCS 8系列
長江儲存
232層
X3-9070

行業預計到2027年,頭部廠商將推出400-500層的NAND;三星提出的目標是2030年突破1000層

第三章 HBM:AI算力的"高速公路"

一句話理解

HBM是DRAM的"超級立體版本"——把多層DRAM像疊樂高一樣垂直堆疊,用密密麻麻的"隧道"連接,讓資料以高速公路的速度湧入GPU。它是AI訓練時代的"隱形王者"。

記憶體牆:為什麼需要HBM

要理解HBM為什麼誕生,先要理解電腦體系結構中的一個核心矛盾:計算核心越來越快,但資料供給越來越跟不上。

CPU/GPU的算力以每年30-50%的速度增長,但傳統記憶體的頻寬增長只有10%左右。就像餐廳裡廚師手藝越來越好,但食材配送跟不上,廚師只能幹等著。

這個瓶頸在2010年代初被正式命名為"記憶體牆"(Memory Wall)。當時GPU計算能力爆發,但GDDR5記憶體的頻寬成為制約因素。AMD和SK海力士意識到:問題的根源在於資料要跑過長長的PCB電路板——距離太長,訊號衰減嚴重,能跑的"車道"(引腳)也有限。

💡 核心洞察:HBM的解法極具顛覆性——別讓資料在PCB上跑了,讓它"坐電梯"直接到GPU旁邊。

HBM 垂直堆疊結構GPU / AI加速器Silicon Interposer8層 DRAM 堆疊TSV頻寬: 1.2-3.3 TB/s容量: 64-192 GB延遲: ~10-100 nsHBF 垂直堆疊結構GPU / AI加速器UCIe Interconnect16層 NAND 堆疊 (CBA架構)TSV頻寬: 1.6-3.0 TB/s容量: 512 GB - 4 TB延遲: ~10 μs核心差異:HBM用DRAM堆疊,容量有限但延遲極低;HBF用NAND堆疊,容量大但延遲較高

圖2:HBM與HBF垂直堆疊結構對比

HBM代際演進

代際年份頻寬容量堆疊層數關鍵突破
HBM1
2013
128 GB/s
4 GB
4層
概念驗證
HBM2
2016
307 GB/s
8 GB
4-8層
JEDEC標準
HBM2E
2018
460 GB/s
16 GB
8層
擴展容量
HBM3
2020
819 GB/s
16 GB
8-12層
NVIDIA A100
HBM3E
2023
1.2-1.33 TB/s
36 GB
8-12層
H200/B200
HBM420252.0-3.3 TB/s64 GB4-16層2048-bit位寬

12年間頻寬增長25倍——從128 GB/s到3.3 TB/s。

第四章 HBF:架在"倉庫"與"高速公路"之間的橋樑

一句話理解

HBF是NAND的"高鐵版本"——用HBM的思路改造NAND,讓它既能像SSD一樣存海量資料,又能以接近記憶體的速度被讀取。它不是更快的SSD,而是被重新設計成高頻寬記憶體的NAND。

為什麼AI需要HBF

HBM很快,但它有一個致命的軟肋:容量太小

當前頂配的HBM3E,單顆最大容量36GB,一顆GPU配8顆也就192GB。但GPT-4這樣的兆參數模型,完整載入需要約3.6 TB記憶體——HBM根本塞不下。

這就催生了一個尷尬的局面:AI推理時,模型權重、KV快取、上下文資料需要頻繁在HBM和SSD之間搬運。SSD的頻寬只有約7 GB/s,跟不上GPU的計算節奏——整條流水線都在等資料。

💡 核心洞察:HBF的出現,就是要填補HBM和SSD之間那道寬寬的鴻溝——以相近頻寬提供8-16倍於HBM的容量。

HBF標準規範(2026年8月剛發佈)

2026年8月4日,SK海力士與閃迪在FMS 2026峰會上正式發佈了HBF的首個開放標準規範。

參數規格
堆疊方案
8層或16層NAND
單顆最高容量
512 GB
讀取頻寬
Grade 1-3: 0.4-3.0 TB/s
延遲
~10 μs(約為HBM的100倍)
互聯標準
UCIe通用芯粒互聯
物理相容性
引腳/封裝與HBM4幾乎一致

第五章 四維對比:四兄弟的"性格圖譜"


四類晶片"速度-容量"象限分佈容量 (對數刻度) →頻寬 →高速 / 低容量高速 / 高容量低速 / 低容量低速 / 高容量DRAMNANDHBMHBFNEW!HBF補位KBMBGBTBPB1 MB/s100 MB/s1 GB/s100 GB/s1 TB/s圖例DRAMNANDHBMHBF

圖3:四類晶片在"速度-容量"象限中的分佈——HBF填補了HBM與NAND之間的空白

維度DRAMNANDHBMHBF
揮發性
易失性
非易失性
易失性
非易失性
訪問延遲
~10 ns
~100 μs
~10-100 ns
~10 μs
讀取頻寬
~100 GB/s
~7 GB/s
1.2-3.3 TB/s1.6-3.0 TB/s
容量密度
1x
20x+
~0.5x
8-16x vs HBM
單位成本/GByte
$5-10
$0.1-0.3
$50-100
預計$5-15
主要應用
系統記憶體
SSD/手機儲存
AI GPU視訊記憶體
AI推理近存

第六章 系統協同:四兄弟如何分工

讓我們以一台AI伺服器為例,看四類記憶體晶片如何協同工作。


AI伺服器儲存層次資料流動GPU / AI加速器~10nsHBM - 模型權重/啟動值 (192-256 GB)極低延遲 | 超高頻寬 | 易失性~10μsHBF - KV快取/上下文 (TB級)高頻寬 | 大容量 | 非易失性~100μsSSD - 冷資料/檢查點 (10+ TB)熱資料↔溫資料↔冷資料↔即時計算推理快取持久儲存

圖4:AI伺服器中四類記憶體晶片的協同工作模式

資料流動實例:一次大模型推理

啟動階段:模型權重從SSD載入到HBF(頻寬瓶頸),再傳輸到HBM(速度瓶頸)。

推理進行時:當前層的啟動值寫入HBM供下一層直接讀取;產生的KV快取寫入HBF(容量大);超出HBF容量的歷史快取swap到SSD。

多輪對話:上下文窗口滾動,HBF中的歷史KV快取被反覆讀取,SSD做備份。

結語:立體堆疊——記憶體晶片的共同歸宿

回望四類記憶體晶片的發展軌跡,一個清晰的趨勢浮現出來:大家都開始"站起來"了

DRAM從平面走向HBM的3D堆疊,用TSV穿層解決記憶體牆;NAND從2D平面走向3D垂直堆疊,層數從32層一路攀升到321層;HBF則是NAND向HBM學習的新物種,用堆疊換頻寬。

立體堆疊的本質是用"垂直空間"換"水平頻寬"——在有限的PCB面積上,通過堆疊晶片獲得更多的"樓層"和更多的"道路"。

這條路的盡頭是什麼?可能是整個系統級的3D堆疊——計算單元、記憶體、互連全部堆在一起,形成真正的"記憶體計算融合"。彼時,"記憶體"和"硬碟"的邊界將徹底模糊。

但在那之前,四兄弟還得各幹各的。畢竟,每種技術都有它的邊界——HBM快但貴,NAND大但慢,DRAM便宜但容量有限,HBF新但生態待建。

理解它們的分工,就是理解現代計算架構的鑰匙。

附註:本文資料截至2026年8月。HBF標準剛發佈,量產時間表尚未公佈;3D NAND層數競賽仍在持續;HBM4的量產節奏也牽動整個AI產業神經。記憶體晶片的故事,遠未到終局。(EconoBytes)