DRAM,新競賽!
作為半導體市場規模最大的細分產品之一,DRAM的影響力不言而喻。根據straitsresearch的數據顯示,2022 年全球動態隨機存取記憶體(DRAM) 市場規模為969.9 億美元。預計到2031 年將達到1,263.2 億美元,預測期內(2023-2031) 的複合年增長率為2.98%
在straitsresearch看來,DRAM之所以在未來能獲得高速發展,除了筆記型電腦/平板電腦、智慧型手機和數位相機等消費性電子產品銷售穩定發展以外,雲端運算、人工智慧、物聯網等大趨勢的不斷發展也是DRAM能夠長期看好的關鍵因素。
但如果細看終端需求,我們可以發現,人工智慧推動下的HBM會是DRAM未來發展的重要動力來源。市場分析機構TrendForce 在五月曾表示,HBM 在DRAM 總位容量中的份額預計將從2023 年的2% 上升到2024 年的5%,到2025 年將超過10%。如果以價值計算,預計從2024 年開始HBM 將佔DRAM 總市場價值的20% 以上,到2025 年可能超過30%。
但其實除了HBM以外,包括三星、SK海力士和美光在內的DRAM巨頭,正在各個方向發力,以求在DRAM未來不會錯失良機。
HBM,愈演愈烈
HBM已經成為了全球關注點,在先前的文章《HBM 4,即將完成》中,我們已經揭露了三大巨頭的下一階段的競賽。但其實在此之前,圍繞著HBM3e的爭奪還在如火如荼進行。
今年2 月,三星電子首次實現最大容量36GB HBM3E 12 層高頻寬記憶體(HBM),在半導體產業實現了重大飛躍。據業內人士7 月16 日透露,三星已於第二季開始量產這款第五代HBM 產品,目前正在向特定客戶供貨。
HBM3E 12 層採用矽通孔(TSV) 技術將DRAM 記憶體晶片堆疊多達12 層,正成為今年下半年AI 半導體市場的關鍵戰場。這一發展加劇了記憶體公司之間的競爭,三星電子、SK 海力士和美光都在爭奪主導地位。
三星電子必須通過品質測試(Qual Test),才能在下半年向NVIDIA 供應其HBM3E 12 層產品。儘管成功實現量產,但未能通過品質測試可能會導致預生產產品積壓為庫存。因此,三星正全力以赴符合NVIDIA 的標準。
SK Hynix 也參與了競爭,準備在第三季量產其HBM3E 12 層。雖然它目前向NVIDIA 供應先前的HBM3E 8 層,但它尚未收到12 層版本的品質測試請求。 SK Hynix 透過將量產時間表從明年提前到第三季度,正在加速其市場領先地位。
美光則是此次競賽中的一匹黑馬,計劃在下半年完成HBM3E 12 層量產準備,並於明年向NVIDIA 等大客戶供貨。由於目前尚未有一家內存公司決定向NVIDIA 供應HBM3E 12 層,因此美光很可能會同時考慮三家公司的報價,以滿足需求並確保有利的價格。
業界相關人士表示,「即使由於競爭加劇,HBM3E 12層的價格可能會略有下降,但下半年顯然是決定HBM市場格局的時候。」該人士補充道,「關鍵在於各家公司能將良品率提高多少。
今年下半年對於確定HBM 市場的未來模式至關重要。誰先向NVIDIA 供應HBM3E 12 層產品將決定SK 海力士能否維持HBM 領先地位,還是三星電子扭轉局勢。競爭非常激烈,賭注很高,因為確保HBM3E 12 層的領先地位可能會對每家公司的市場地位和財務狀況產生重大影響。
LPDDR,持續火熱
如韓媒Chosun所說,半導體產業曾經專注於速度和容量,現在正轉向功率效率。隨著人工智慧學習和訓練變得越來越先進,處理大量資料所需的功率也大幅增加,導致開發低功耗晶片的競爭愈演愈烈。
人工智慧晶片通常被稱為“耗能大戶”,是耗電量大戶。英偉達即將推出的高性能人工智慧晶片B100 需要1000 瓦的功率。之前的人工智慧晶片型號A100 和H100 分別需要400 瓦和700 瓦,顯示效能越高,功耗也越大。
三星電子和SK 海力士是供應AI 晶片所用記憶體晶片的領先晶片製造商,它們正在推出新的低功耗半導體解決方案。
低功耗晶片對於智慧型手機、平板電腦和筆記型電腦等設備至關重要,這些設備需要在不連接網路的情況下執行AI 運算,同時節省電池壽命。 「低功耗半導體可以延長行動裝置的電池壽命,並減少伺服器資料處理所需的能量,」一位半導體業內人士表示。 “隨著電源變得越來越稀缺,低功耗半導體將變得更加重要。”
LPDDR,即低功耗雙倍資料速率內存,是低功耗晶片的前沿。與具有單一資料路徑的傳統DRAM 不同,DDR 具有兩個路徑,從而可以更快地處理資料。 LPDDR 還可以降低功耗,並且已經開發到第7 代(5X)。它們通常用於高性能智慧型手機和筆記型電腦。
三星電子和SK 海力士都在加速LPDDR 研發。今年4 月,三星開發出LPDDR5X(第7 代),是迄今為止資料處理速度最快的低功耗DRAM 晶片。該公司最近完成了速度驗證,據報道正在為量產做準備。這款新產品的容量比上一代產品高出30% 以上,同時功耗降低了25%。該公司採用了根據性能和速度調整功率的新技術。
SK海力士去年年底首次將效能提升5倍的LPDDR5T DRAM商業化,該產品被中國智慧型手機製造商Vivo的旗艦機型採用,可在一秒鐘內處理15部全高清電影,同時顯著降低功耗。
最近,LPDDR 堆疊技術也得到了大力發展。與堆疊多個DRAM 的HBM(高頻寬記憶體)一樣,LPDDR 堆疊旨在提高容量和速度,同時最大限度地降低功耗。
同時,下一代的LPDDR6 標準也在同步推進中。
根據今年三月的一個消息透露,國際半導體標準組織(JEDEC)在里斯本的會議上就LPDDR6標準進行了廣泛的討論。訊息顯示,新的LPDDR6 RAM 可實現高達12,800 MT/s 的最大資料速率。
據預計,LPDDR6標準的製定將重點放在提高資料處理效能。這是因為,隨著智慧型手機、筆記型電腦和平板電腦上進行大規模AI運算的裝置端AI需求的快速成長,記憶體效能的重要性進一步被強調。此外,據悉,用電標準也將提高。
消息人士更是指出:“技術開發和標準討論正在以最小化功耗的方式進行,功耗隨著數據處理的增加而增加。”
細分市場,各出奇招
在圍繞標準市場發力以外,這些DRAM大廠也在盯住細分市場,各出奇招。
首先看三星方面,據了解,三星電子正在開發為蘋果下一代XR 設備供應LLW DRAM 的技術。據業內人士透露,三星電子正在開發向蘋果供應LLW DRAM的產品。
LLW DRAM 是下一代DRAM,與傳統行動產品LPDDR 相比,新技術透過增加輸入/輸出(I/O) 端子的數量來增加頻寬(發送和接收資料的路徑)。透過此,它具有128GB/s 的高效能和低延遲特性。得益於此,它有望應用於端側AI產業,取代現有的LPDDR。
據說蘋果也對LLW DRAM 非常感興趣。事實上,蘋果在去年6 月推出其尖端XR 裝置「Vision Pro」時就採用了SK Hynix 的LLW DRAM。相關報導指出,為了支援R1 的高速處理,SK 海力士開發了客製化的1 千兆位元DRAM。據悉,新DRAM 將輸入和輸出引腳數量增加了八倍,以最大限度地減少延遲。這種晶片也稱為低延遲寬IO。根據專家介紹,新晶片似乎也採用了一種特殊的封裝方法——扇出型晶圓級封裝——作為單一單元連接到R1 晶片組。
如前所說,三星電子也被發現繼續開發向蘋果供應LLW DRAM 的技術。
一位知情人士解釋說,“據了解,三星收到了蘋果在2022 年供應LLW DRAM 的提議”,並補充道,“我們目前正在將該產品商業化,包括小批量生產。”另一位官員表示,“三星電子正試圖在蘋果的LLW DRAM供應鏈中追趕SK海力士”,並補充道,“作為一種特殊存儲器,它可以用於下一代Vision Pro等。”
針對資料中心市場的DRAM,廠商們也紛紛亮劍。例如因應伺服器和資料中心對頻寬的需求,DRAM大廠正在採取各種方法將DRAM速度提高到DDR 5的最高速度之外。在2022 年底,SK 海力士推出了用於特定英特爾伺服器平台的MCR-DIMM。該技術稱為多工器組合等級(MCR) DIMM,允許高階伺服器DIMM 以最低8 Gbps 的資料速率運行,與現有DDR5 記憶體產品(4.8 Gbps) 相比,頻寬提高了80%。 MCR DIMM 背後的技術很有趣,因為它可以同時使用兩個ranks而不是一個,本質上是將兩組/等級的記憶體晶片組合起來,以使有效頻寬翻倍。
同時,標準制定機構JEDEC 也以類似的方法制定了MR-DIMM 的規範。它們都以現有的DDR5 技術為基礎,試圖結合多個等級來改善尖峰頻寬和延遲。
MR-DIMM 標準在概念上很簡單,有多個以標準DDR5 速度運行的記憶體模組,前面有一個資料緩衝區。緩衝區在主機介面端以2 倍的速度運行,從而允許傳輸速率翻倍。這個設計的挑戰也很顯而易見——在於能夠以更高的速度運行主機記憶體控制器中的邏輯並控制功耗/熱量。
JEDEC MR-DIMM 標準的第一版規定速度為8800 MT/s,下一代規定速度為12800 MT/s。 JEDEC 也為這項技術制定了明確的路線圖,使其與DDR5 標準的改進保持同步。
在過去幾季中,美光和英特爾一直密切合作,將前者的第一代MR-DIMM 系列推向市場。
從JEDEC 規範可以看出,MR-DIMM 的優勢在於可以提高資料速率和系統頻寬,同時改善延遲。在容量方面,由於允許在模組上增加列數,Micron 能夠提供256 GB 的容量。必須注意的是,一些供應商也在使用TSV(矽通孔)技術來增加標準DDR5 速度下的每封裝容量,但這會增加額外的成本和複雜性,而MR-DIMM 製造過程中基本上不存在這些成本和複雜性。
美光也不是第一個公開宣布MR-DIMM 樣品的公司。三星上個月宣布了自己的產品線(基於16Gb DRAM 晶片)。
三星表示,該公司開發了多級緩衝雙列直插式記憶體模組(MRDIMM),無需增加伺服器主機板上的記憶體插槽即可提供更多記憶體和頻寬。此模組透過組合兩個DDR5 組件,使現有DRAM 組件的頻寬翻倍,提供高達8.8 Gb/s 的資料傳輸速度。預計MRDIMM 將積極用於需要高效能運算(HPC) 來處理資料並高速執行複雜運算的AI 應用。三星強調,該公司目前正在對16Gb Mono MRDIMM 設備進行送樣,該設備具有增強的性能、容量和功耗。憑藉這項創新的記憶體解決方案,三星正在推動人工智慧(AI)、機器學習(ML) 和大型語言模型(LLM) 處理的下一個前沿。
寫在最後
本文主要圍繞在當前的一些熱門話題,分享三大記憶體企業各自的想法,以供各位參考。
展望未來,如Techinsights所說,DRAM 對於DDR5、LPDDR5/5X、GDDR6/6X、HBM2E/HBM3/HBM3E 和低延遲DRAM (LLDRAM) 等應用仍然至關重要。記憶體處理(PIM) 和Compute Express 鏈路近記憶體處理(CXL-PNM) 等創新正在提高效能和效率。
Techinsights指出,三星和SK 海力士已將D1a 和D1b 單元設計產品商業化,包括DDR5、LPDDR4X、LPDDR5 和LPDDR5X,具有最小的12nm 級DRAM 單元設計。兩家公司在採用EUV 光刻技術方面都處於領先地位,而美光則繼續將基於ArF 和ArFi 的圖案化技術應用到其1α 和1β 代,併計劃在其1γ 代中引入EUV。三星在D1a 和D1b 代中將EUV 光刻擴展到五個或更多掩模。 SK 海力士遵循類似的EUVL 策略,並將其用於D1a 和D1b 代,並計劃在未來幾代中增加EUVL 步驟。
「明年初,各大廠商將推出量產的D1c DRAM ,隨後在2026 年或2027 年推出最終的10nm 級DRAM 設備(D1d 或D1δ 節點)。到2030 年,DRAM 技術預計將縮小到個位數奈米節點,包括0a、0b、0c 或0α、0β 和0γ 世代。
Techinsights認為,DRAM 技術的未來前景光明,可望滿足高效能應用和新興技術日益增長的需求。(半導體產業觀察)