儲存晶片,最大贏家

人工智慧的爆炸式增長正在改變半導體行業,而這一點在儲存器領域尤為明顯。人工智慧的訓練和推理工作負載本質上是記憶體密集型的,這推動了對先進DRAM架構、高頻寬記憶體(HBM)和企業級NAND快閃記憶體的空前需求。儘管NVIDIA的GPU佔據了新聞頭條,但事實上,如果沒有大量高性能記憶體與計算架構緊密整合,人工智慧加速器就無法高效運行。因此,儲存器供應商正在成為人工智慧熱潮的最大長期受益者之一。

此次變革的核心是HBM,這是一種3D堆疊式DRAM技術,與傳統的DDR記憶體相比,它能提供更高的頻寬和更低的功耗。HBM採用矽通孔(TSV)和先進的封裝技術,將DRAM晶片垂直堆疊,從而實現每秒TB級的記憶體頻寬。NVIDIA的H100和即將推出的Blackwell平台等AI加速器,在大型語言模型(LLM)訓練過程中,高度依賴HBM3和HBM3E將資料饋送到數千個平行GPU核心。

這一趨勢極大地改變了記憶體市場的競爭格局。SK海力士已成為HBM的主導供應商,據報導已佔據NVIDIA HBM3和HBM3E供應鏈的領先份額。該公司早期對TSV技術、先進封裝和散熱管理的投資,使其在人工智慧需求加速增長時獲得了關鍵優勢。SK海力士目前正積極提升HBM3E的產能,預計仍將是下一代人工智慧系統的重要供應商。

全球最大的儲存器製造商三星電子也在大力投資HBM產能和先進封裝技術。三星的一體化半導體模式——涵蓋邏輯電路、晶圓代工、封裝和儲存器——使其在人工智慧基礎設施領域擁有強大的競爭力。儘管三星在某些人工智慧平台的HBM認證方面最初落後於SK海力士,但憑藉其規模優勢、工藝技術領先地位以及快速擴張產能的能力,它仍然是該領域長期發展的重要參與者。

美光科技已成為人工智慧領域的又一主要受益者。美光科技過去被認為受周期性波動影響較大,且更依賴個人電腦市場,如今卻正利用其先進的DRAM產品組合和HBM路線圖,積極拓展超大規模人工智慧部署業務。該公司的HBM3E產品正被應用於下一代人工智慧加速器的設計中,管理層也多次表示,HBM的需求在未來很長一段時間內都將超過供應。此外,美光科技在企業級DRAM和資料中心固態硬碟領域的強大地位,也使其在人工智慧基礎設施支出方面擁有廣泛的影響力。

人工智慧工作負載正以驚人的速度增加每台伺服器的記憶體容量。傳統的雲伺服器通常需要幾百GB的DRAM,但配備多個GPU的人工智慧伺服器可能需要數TB的高頻寬記憶體和DDR5 DRAM。單個NVIDIA HGX平台可以包含八個通過NVLink連接的GPU,並由龐大的HBM記憶體池提供支援。這種架構顯著增加了每個機架的DRAM消耗量,並推高了高端記憶體產品的平均售價。

由於人工智慧伺服器的部署,DDR5 的普及速度也在加快。與 DDR4 相比,DDR5 提供更高的頻寬、更佳的能效和更大的模組密度,這些對於資料中心的人工智慧工作負載至關重要。隨著超大規模資料中心升級基礎設施以支援生成式人工智慧服務,包括三星、SK 海力士和美光在內的供應商都從這一轉型中受益。

除了DRAM之外,NAND快閃記憶體供應商也將受益於人工智慧的蓬勃發展。生成式人工智慧需要海量資料集進行模型訓練和推理,這推動了對高容量企業級固態硬碟的需求。人工智慧資料中心依賴高速儲存系統來傳輸和管理PB級的結構化和非結構化資料。因此,鎧俠(Kioxia)、西部資料(Western Digital)、三星(Samsung)、美光(Micron)和Solidigm等公司都看到了市場對針對超大規模環境最佳化的企業級NAND解決方案日益增長的需求。

另一項關鍵技術趨勢是先進封裝。人工智慧加速器越來越多地採用晶片組架構和異構整合,這意味著記憶體必須與計算晶片緊密耦合。這不僅為記憶體供應商創造了機遇,也為台積電、安靠和日月光等封裝領域的領導者帶來了機遇。台積電的CoWoS封裝產能尤為重要,因為它能夠將HBM堆疊與人工智慧GPU和加速器整合在一起。

人工智慧的蓬勃發展也正在緩解記憶體市場的一些歷史周期性波動。過去,DRAM 和 NAND 的需求嚴重依賴智慧型手機和個人電腦,導致嚴重的供過於求。人工智慧基礎設施的支出引入了新的結構性需求驅動因素,這與超大規模雲的擴張、企業級人工智慧的採用以及自主人工智慧計畫密切相關。這種轉變可能會支撐記憶體生態系統中更強勁的長期定價和更高的資本投資。

展望未來,包括HBM4、MRAM、CXL附加記憶體擴展和記憶體內處理架構在內的下一代記憶體技術可能會進一步重塑整個行業格局。人工智慧模型持續呈指數級增長,需要更大的記憶體池和更快的互連速度。隨著計算性能越來越受限於記憶體頻寬和延遲而非原始處理能力,記憶體供應商正從輔助角色轉變為人工智慧時代的戰略推動者。

總而言之:人工智慧革命正逐漸演變成一場與計算同樣重要的儲存革命。能夠提供高頻寬、低功耗和高度整合儲存解決方案的公司,很可能在未來十年內佔據半導體行業增長的絕大部分份額。 (環球老虎財經app)