高頻寬記憶體 (HBM)在實現生成式人工智慧方面發揮了關鍵作用,它通過克服人工智慧加速器元件中的記憶體瓶頸,顯著提升了性能。然而,隨著超大規模人工智慧叢集越來越多地整合數千個 GPU 和 HBM 堆疊,一個新的瓶頸出現了:頻寬牆,它限制了系統間的資料傳輸。
在此背景下,SK海力士及其全球研究團隊在《自然·電子學》雜誌上發表了一篇論文。 該論文探討了用於高性能計算和人工智慧的共封裝光學器件(CPO)的開發,指出了關鍵的技術挑戰,並概述了下一代光互連技術的發展軌跡。
SK 海力士人工智慧基礎設施團隊負責人洪承勳和弗吉尼亞大學(UVA)電氣與電腦工程系李奎相教授擔任通訊作者,領導了一項與伊利諾伊大學厄巴納-香檳分校(UIUC)、南洋理工大學(NTU)、麻省理工學院(MIT)和延世大學的研究人員合作的研究。
從更廣泛的層面來看,該論文提出了一個全面的技術路線圖,闡述了記憶體器、先進封裝和光計算互連(OCI)應如何協同演進以支援下一代人工智慧系統。至關重要的是,它還展示了SK海力士如何超越HBM創新,在系統層面幫助定義下一代人工智慧基礎設施的架構。