三星瘋狂擴產HBM,下注CXL

全球最大的記憶體晶片製造商三星電子公司的目標是在人工智慧晶片領域引發話題,今年的高頻寬記憶體(HBM)晶片產量可能會比去年增加一倍。週二在加州聖荷西舉行的全球晶片製造商聚會Memcon 2024 上,三星公司擔任副總裁兼DRAM 產品和技術主管Hwang Sang-joong 表示,他預計該公司將增加HBM 晶片產量,今年產量是去年的2.9 倍。

這是三星今年年初在CES 2024 上公佈的預測,即該晶片製造商到2024 年HBM 晶片的產量可能會增加2.5 倍。

「繼已經量產的第三代HBM2E 和第四代HBM3 之後,我們計劃Hwang 在Memcon 2024 上表示:

「我們將在大量大規模生產12 層第五代HBM 和32 GB 128 GB DDR5 產品。」-人工智慧時代的高效能、大容量記憶體。 」

會上,三星公佈了HMB路線圖,預計2026年HBM出貨量將是2023年產量的13.8倍。到2028年,HBM年產量將進一步增至2023年水準的23.1倍。

在代號為「Snowbolt」的第六代HBM 晶片HBM4 中,三星計劃將緩衝晶片(一種控制器零件)應用到堆疊記憶體的底層以提高效率。

根據三星先前提交的文件,Snowbolt一詞與高效能運算設備、人工智慧和超級運算設備的高頻寬DRAM(動態隨機存取記憶體)模組有關。根據其描述,這些新的DRAM模組可用於雲端伺服器、高效能運算和人工智慧運算。

由於人工智慧是當今的趨勢,它需要極其強大的伺服器和雲端計算機,三星的Snowbolt記憶體模組可以使人工智慧運算任務更快、更可靠。改進後的人工智慧效能可用於各種應用,包括智慧型手機、電視和各種其他裝置上的語音助理。

會上,三星向與會者展示了最新的HBM3E 12H晶片——業界首款12堆疊HBM3E DRAM,標誌著HBM技術有史以來最高容量的突破。

三星目前正在向客戶提供HBM3E 12H晶片樣品,並計劃在上半年開始量產。

作為HBM 晶片領域的落後者,三星在HBM 領域投入巨資,以與SK Hynix 和其他記憶體廠商競爭。 HBM 已成為人工智慧繁榮的關鍵,因為它提供比傳統記憶體晶片更快的處理速度。

上週,三星半導體業務負責人Kyung Kye-hyun 表示,該公司正在開發下一代AI 晶片Mach-1,旨在顛覆其同城競爭對手SK Hynix,後者是先進HBM 領域的主導廠商。

該公司表示,已同意在今年底前向Naver Corp.供應Mach-1 晶片,這筆交易價值高達1 兆韓元(7.52 億美元)。透過這份合同,Naver 希望大幅減少其AI 晶片對全球頂級AI 晶片設計商Nvidia 的依賴。


三星推出擴充的CXL 記憶體模組產品組合

在Memcon 2024 上,先進半導體技術的全球領導者三星電子推出了其Compute Express Link (CXL) 記憶體模組產品組合的擴展,並展示了其最新的HBM3E 技術,鞏固了在面向人工智慧應用的高性能、大容量解決方案。

當聖克拉拉電腦歷史博物館向擁擠的人群發表主題演講時,三星電子美國設備解決方案研究中心- 內存公司執行副總裁Jin-Hyeok Choi 以及公司執行副總裁、DRAM 產品和主管SangJoon Hwang三星電子的技術人員上台介紹了新的記憶體解決方案,並討論了三星如何在人工智慧時代引領HBM 和CXL 創新。

VMware by Broadcom VCF 部門產品團隊副總裁Paul Turner 和Red Hat 副總裁兼總經理Gunnar Hellekson 與三星一起上台,討論他們的軟體解決方案如何與三星的硬體技術相結合,推動記憶體創新的界限。

Choi 表示:「如果沒有儲存技術創新,人工智慧創新就無法持續。」「身為記憶體市場的領導者,三星很自豪能夠繼續推進創新—從業界最先進的CMM-B 技術,到用於高效能計算和要求苛刻的人工智能應用的HBM3E 等強大的內存解決方案。我們致力於與合作夥伴合作,服務客戶,共同釋放人工智能時代的全部潛力。”

三星推出了CXL 記憶體模組– Box (CMM-B),這是一款尖端的CXL DRAM 記憶體池產品,突顯了CXL 生態系統的成長動能。三星CMM-B 可容納八個E3.S 外型尺寸的CMM-D 設備,並提供高達2 TB 的容量。巨大的記憶體容量由高達60 GB/s 的頻寬和596 奈秒(ns) 的延遲的高效能支持,可以服務於需要大容量記憶體的各種應用,例如AI、記憶體資料庫(IMDB) )、資料分析等。

三星還與即插即用機架級IT 解決方案的全球領導者Supermicro 合作,展示了業界首款用於高度可擴展和可組合的分解基礎設施的機架級記憶體解決方案。這種先進的解決方案利用三星的CMM-B 來增加記憶體容量和頻寬,使資料中心能夠處理要求苛刻的工作負載,這與缺乏現代應用程式所需的靈活性和效率的標準架構不同。增加的記憶體容量和每台伺服器高達60GB/s 頻寬的高效能可以增強需要大容量記憶體的各種應用程序,例如AI、IMDB、資料分析等。

在舞台上,三星和VMware by Broadcom 也推出了Peaberry 項目,這是世界上第一個基於FPGA(現場可編程門陣列)的虛擬機管理程式分層記憶體解決方案,稱為CXL 分層記憶體混合內存模組(CMM-H TM)。這種混合解決方案將DRAM 和NAND 媒體結合在附加卡(AIC) 外形中,以應對記憶體管理挑戰、減少停機時間、優化分層記憶體的調度並最大限度地提高效能,同時顯著降低總擁有成本(TCO)。

Paul Turner 表示:「VMware by Broadcom 很高興與三星合作,帶來記憶體領域的新創新。」「三星在記憶體技術方面的領先地位和VMware 在軟體記憶體分層方面的領先地位促成了CXL 的新創新,並提供了令人信服的價值主張,具有顯著的TCO 優勢、更好地利用昂貴的DRAM 資源以及改進的伺服器資源整合,同時提供同樣出色的性能」。

此外,三星還展示了其CXL記憶體模組-DRAM(CMM-D)技術,該技術利用三星的DRAM技術與CXL開放標準介面集成,促進CPU和記憶體擴展設備之間的高效、低延遲連接。紅帽是開源軟體解決方案的全球領導者,去年在業界首次使用其企業軟體成功驗證了三星的CMM-D 設備。兩家公司將繼續透過三星記憶體研究中心(SMRC) 合作開發CXL 開源和參考模型,並在一系列其他儲存和記憶體產品上進行合作。

三星也為2024 年Memcon 與會者提供了展示其最新HBM3E 12H 晶片的機會,這是全球首款12 堆疊HBM3E DRAM,標誌著HBM 技術有史以來實現的最高容量的突破。 HBM3E 12H採用該公司先進的熱壓非導電薄膜(TC NCF)技術,與前代產品相比,晶片的垂直密度提高了20%以上,同時也提高了產品良率。三星目前正在向客戶提供HBM3E 12H樣品,並計劃在今年上半年開始量產。(半導體產業觀察)

原文連結

https://www.kedglobal.com/korean-chipmakers/newsView/ked202403270023