最近幾年,記憶體行業經歷了一輪幅度很大的景氣變化,AI又把HBM、伺服器記憶體和資料中心記憶體推到了更重要的位置。無論研究科技產業發展,還是尋找產業鏈投資機會,記憶體都已經成為一個越來越繞不開的方向。
接下來幾篇系列文章會全面深入的聊聊記憶體。我會先從最基礎的DRAM、NAND、HBM和SSD開始,之後幾篇會依次復盤過去幾輪記憶體周期,解釋記憶體行業為什麼長期具有很強的周期性,最近幾年發生了什麼、為什麼多個記憶體品類同時出現價格上漲,以及AI會怎樣改變記憶體行業原有的周期結構。最後會分別研究三星、SK海力士、美光等海外記憶體巨頭,中國記憶體產業的發展位置,兆易創新等中國公司的具體情況,以及原廠、裝置、材料、封裝和控制晶片分別對應怎樣的產業和投資機會。
第一篇先從整個記憶體行業的基礎地圖開始。
記憶體行業裡有很多非常容易混淆的概念。DRAM和DDR是什麼關係?HBM為什麼也屬於DRAM?NAND和SSD有什麼區別?3D NAND和HBM都涉及垂直堆疊,兩者的技術原理又有什麼不同?這些概念一旦混在一起,後面討論記憶體價格、行業周期、AI需求、公司競爭甚至產業鏈投資時,很容易錯把不同層級的問題放在一起分析。
所以在正式討論記憶體周期之前,我們先把整個記憶體行業的基礎地圖搭起來。
記憶體到底是什麼?
一台電腦可能配有32GB記憶體和1TB固態硬碟。既然兩者都在保存資料,為什麼還需要同時存在?一塊顯示卡已經可以訪問電腦記憶體,為什麼還要單獨配置視訊記憶體?到了AI伺服器,GPU旁邊為什麼又開始使用價格昂貴的HBM?
理解這些問題,要先回到電腦處理資料的三個基本環節。計算晶片負責處理資料,通訊晶片負責傳輸資料,記憶體器負責保存資料,並在計算需要時重新把資料提供出來。
但不同資料對記憶體的要求差異很大。CPU(中央處理器)正在執行程序時,可能在極短時間內反覆讀取同一批資料。這類資料需要很低的訪問延遲和很高的讀寫速度。而一部電影、一個軟體安裝包或者一個資料庫檔案,可能需要長期保存在裝置中。這類資料更關注容量、成本和斷電後的長期保存。
目前沒有一種記憶體技術可以同時在速度、容量、成本、功耗和資料持久性上做到最好。現代計算系統因此形成了多層記憶體結構。
記憶體究竟保存的是什麼?
所有數字資訊最終都可以編碼成0和1。
電腦中表示資訊的最基本單位叫bit(位元)。一個bit可以表示兩種狀態,也就是0和1。8個bit組成1個Byte(字節)。我們平時看到的KB、MB、GB和TB,本質上都是資料容量的計量單位。
從物理層面看,記憶體器需要找到一種可以穩定區分不同狀態的物理結構,把這些0和1保存下來。於是出現了Cell(記憶體單元)。
Cell(記憶體單元)可以理解為記憶體晶片中最基礎的重複結構。大量Cell排列成陣列,再通過地址和讀寫電路找到對應位置,完成資料的寫入和讀取。
一個Cell(記憶體單元)可以保存一個bit,也可以通過區分更多物理狀態保存多個bit。後面講到SLC、MLC、TLC和QLC時,我們會看到這件事如何直接改變NAND的記憶體容量和成本。
不同記憶體技術之間最底層的差異,也從Cell(記憶體單元)開始。SRAM(靜態隨機存取記憶體器)的Cell主要利用多個電晶體形成穩定的電路狀態。DRAM(動態隨機存取記憶體器)的Cell主要由電晶體和電容組成,通過電荷狀態保存資料。Flash(快閃記憶體)的Cell則通過保存電荷形成不同閾值狀態,使資料能夠在斷電後繼續保留。不同的Cell(記憶體單元)結構,最終決定了各種記憶體技術在速度、密度、功耗、成本和資料保持能力上的差異。
兩個維度看懂整個記憶體世界
Cache、SRAM、DRAM、NAND和SSD等名詞經常同時出現在大家對於記憶體行業的討論中,但它們屬於不同的概念層級。Cache描述計算系統中的功能位置,SRAM、DRAM和NAND屬於底層記憶體技術,SSD則是一種完整記憶體裝置。
因此,理解整個記憶體世界需要看兩個維度。一是資料在計算系統中的位置,二是底層使用什麼技術保存資料。
第一個維度
資料離處理器有多遠
從CPU或者GPU(圖形處理器)出發,典型的主記憶體層級大致可以理解為:暫存器 -> Cache 快取 -> 主記憶體 -> 固態記憶體 -> 機械硬碟 HDD -> 更低頻使用的冷記憶體。
越靠近計算核心,通常速度越快、延遲越低,同時容量更小、單位容量成本更高。越往外走,容量可以越來越大,單位容量成本逐漸下降,資料訪問速度也隨之降低。
Cache 是什麼?
Cache(快取)主要保存處理器近期很可能再次使用的資料。CPU執行程序時,如果每次都要去更遠的主記憶體尋找資料,計算單元就會頻繁等待。Cache把高頻使用的資料提前放在距離處理器更近的位置,減少這種等待。現代CPU和GPU中的快取通常主要使用SRAM實現。所以,Cache 快取描述的是功能位置,SRAM描述的是底層技術。
主記憶體是什麼?
再往外一層,是電腦運行程序時的大容量工作空間,也就是主記憶體。電腦和伺服器的主記憶體主要使用DRAM。我們平時說電腦有16GB或者32GB記憶體,通常指的就是這一層。
固態記憶體是什麼?
資料需要長期保存時,就進入更外層的記憶體裝置。SSD(固態硬碟)是目前PC和伺服器中最常見的固態記憶體裝置之一,通常以NAND Flash(與非型快閃記憶體)作為核心記憶體介質,同時還包括控製器、韌體等組成部分。
這幾個層級可以簡單放在一起比較。
第二個維度
資料究竟用什麼技術保存
換到底層技術維度,半導體記憶體可以按照斷電以後資料是否保留,分成易失性記憶體和非易失性記憶體。
易失性記憶體主要包括SRAM和DRAM。SRAM主要用於Cache 快取。DRAM主要用於系統主記憶體。
非易失性記憶體在斷電以後仍然可以保存數據。其中最重要的一類是Flash,進一步分成NAND Flash和NOR Flash(或非型快閃記憶體)。
此外還有EEPROM(電可擦除可程式設計唯讀記憶體器),以及MRAM(磁阻式隨機存取記憶體器)、PCRAM(相變隨機存取記憶體器)等技術。
整體來看,如果把功能和底層技術放在一起,大致可以形成這樣的關係:
Cache 快取→ 通常使用SRAM
主記憶體 → 通常使用DRAM
SSD等固態記憶體 → 以NAND為核心記憶體介質
韌體和MCU程序記憶體 → 經常使用NOR
有了這張地圖,下面我們就分別進入當前最重要的兩條半導體記憶體主線,DRAM和NAND。
DRAM是什麼?
DDR、LPDDR、GDDR、HBM是什麼?
前面已經看到,DRAM位於Cache 快取與長期記憶體之間。
處理器的計算速度遠高於固態硬碟等長期記憶體裝置。如果CPU或者GPU在每一步計算中都直接等待固態硬碟提供資料,大量計算能力都會消耗在等待上。
因此,程式執行以後,大量需要頻繁訪問的工作資料會先被載入到DRAM中。DRAM承擔的就是大容量工作記憶體。它需要比長期記憶體快得多,同時又要以低於SRAM的成本提供更大容量。
DRAM是怎麼保存資料的?
一個典型的DRAM Cell(記憶體單元)可以簡單理解成一個電晶體和一個電容。電晶體控制這個Cell什麼時候可以被訪問。電容負責保存電荷。通過判斷電容中的電荷狀態,系統可以識別Cell中保存的資料。
這種結構讓DRAM擁有較高的記憶體密度。但電容中的電荷會隨著時間逐漸洩漏。即使裝置一直通電,DRAM也需要定期重新恢復Cell中的電荷狀態,這個過程叫Refresh(刷新)。DRAM的英文全稱Dynamic Random Access Memory中的Dynamic這個詞也由此而來。裝置斷電以後,電容中的電荷無法繼續維持,資料也會隨之消失。
為什麼Cache使用SRAM,
而主記憶體使用DRAM?
SRAM和DRAM的差異,可以從一個Cell(記憶體單元)需要多大面積理解。
典型SRAM Cell需要多個電晶體形成穩定的鎖存結構。它讀取速度非常快,也不需要刷新。代價是佔用面積較大。DRAM Cell主要依靠一個電晶體和一個電容保存資料,結構更加緊湊。相同晶片面積下,DRAM能夠放下更多Cell,從而提供更大的記憶體容量。
SRAM因此更適合追求極低延遲的Cache 快取。DRAM則在速度、密度和成本之間取得更好的平衡,成為大容量工作記憶體。
DRAM怎樣繼續提高容量?
DRAM要降低單位容量成本,一個長期方向是提高同一片晶圓可以生產的資料容量。最直接的方法,是把Cell(記憶體單元)做得越來越小。
但DRAM有一個特殊問題。Cell面積縮小以後,用來記憶體電荷的電容也會面臨空間約束。如果電容能夠保存的電荷太少,系統識別資料狀態的難度就會上升。所以DRAM電容逐漸從平面向垂直方向發展。
可以理解成,地面面積越來越有限,就開始充分利用高度。先進DRAM中的電容因此形成越來越高、越來越窄的立體結構,在有限平面面積中儘量維持足夠的電容能力。
這意味著DRAM進一步提高密度,越來越依賴複雜三維結構和高深寬比加工能力,技術挑戰也逐步擴展到電容材料、結構、刻蝕和製造一致性。這種變化還會繼續向產業鏈上游傳導,對刻蝕、薄膜沉積、材料和量測檢測等製造環節提出更高要求。後續討論中國記憶體產業和產業鏈投資地圖時,我們還會再回到這個問題。
DRAM怎麼分類?
DDR、LPDDR、GDDR和HBM底層都屬於DRAM體系。它們的分化來自不同計算裝置對容量、功耗、頻寬、空間和成本的不同要求。這些差異最終體現在I/O(輸入輸出介面)、資料傳輸速率、通道寬度、功耗管理和封裝方式上。
DDR,在通用計算中尋找平衡
DDR(雙倍資料速率記憶體)是個人電腦和伺服器最常見的主記憶體路線。這類系統通常需要較大的記憶體容量,同時還要考慮成本、頻寬和擴展性。因此DDR形成了高度標準化的介面和模組體系。我們常見的DIMM(雙列直插記憶體模組)記憶體條,就是DDR進入個人電腦和伺服器的一種典型產品形態。
DDR本身也在持續迭代。從DDR、DDR2、DDR3到DDR4和DDR5,每一代都會提高資料傳輸能力,並調整介面、供電和系統架構。DDR4長期是個人電腦和伺服器主記憶體的主流標準。DDR5進一步提高資料傳輸速率和容量支援,並將傳統64位DIMM資料通道拆分成兩個獨立的32位子通道,提高平行訪問效率。
DDR4向DDR5遷移也會改變記憶體原廠的產能配置。理解這種新舊產品之間的資源遷移,是後面分析記憶體周期的重要基礎。
LPDDR,圍繞功耗做系統最佳化
LPDDR(低功耗雙倍資料速率記憶體)主要用於手機、平板等移動裝置。
移動裝置受到電池容量和機身空間限制,因此功耗的重要性明顯提高。LPDDR會在工作電壓、I/O功耗、待機狀態和休眠機制等方面進行更積極的低功耗最佳化,同時通常與移動SoC(片上系統)進行更緊密的系統整合。
剛才講的個人電腦中的DIMM(DDR在個人電腦中的產品形態)更強調標準化和擴展性。而移動裝置中的LPDDR則更強調低功耗、小空間和高整合。
GDDR,重點提高高速資料傳輸能力
GDDR(圖形雙倍資料速率記憶體)主要服務GPU和圖形計算。
GPU內部存在大量平行計算單元,需要同時處理大量資料,因此對記憶體頻寬的要求很高。GDDR通常通過高速I/O提高單個引腳的資料傳輸速率,再配合較寬的匯流排獲得更高總頻寬。多顆GDDR顆粒可以佈置在GPU周圍,通過PCB(印刷電路板)與GPU連接。
這條路線通過更高的功耗,以換取更高的資料傳輸性能。
HBM,把介面做寬,把DRAM搬到GPU旁
HBM(高頻寬記憶體器)同樣屬於DRAM。它解決的問題仍然是記憶體頻寬,但採用了一套更整體的技術方案。
隨著GPU計算能力提高,只依靠持續提升每個I/O的資料傳輸速度,會越來越受到功耗、訊號完整性、PCB布線和GPU周邊空間的限制。HBM開始大幅增加平行I/O數量。
可以把GPU理解成一座高速加工廠,記憶體器是旁邊的倉庫。GDDR主要提高連接工廠和倉庫的單條道路運輸速度。HBM進一步增加道路數量,把整個資料通道做得更寬,從而在單位時間內輸送更多資料。
超寬介面意味著GPU和DRAM之間需要大量物理連接。如果仍然依賴傳統PCB進行較長距離布線,訊號路徑、布線複雜度和資料傳輸功耗都會上升,因此HBM需要與GPU進行更近距離的高密度互連。
Die(裸片)是一片晶圓製造完成後切割出來的單顆裸晶片。GPU周圍平面空間有限,HBM因此把多顆DRAM Die垂直堆疊,再利用TSV(矽通孔)建立上下Die之間的連接,在有限面積內整合更大容量。
GPU與HBM之間則可以通過矽中介層實現大量高密度橫向連接。CoWoS(一種2.5D先進封裝平台)就是當前最知名的實現體系之一。
因此,HBM的超寬介面、DRAM Die堆疊、TSV和高密度封裝,共同構成了一套圍繞高頻寬和更低資料傳輸能耗形成的系統方案。
(清見涵AI產業觀察)
