10月8日,鴻海集團旗下富士康宣佈,將攜手輝達(NVIDIA) ,打造有史以來全球最快的單體AI超級計算中心——鴻海高雄超級計算中心,助力台灣成為人工智慧驅動型行業的全球領導者,能夠執行癌症研究、大型語言模型開發和智慧城市創新等高級任務。
據介紹,這個新的超級計算中心將部署輝達GB200 NVL72 伺服器,單機架內整合了 36 個 Grace CPU 和 72 個Blackwell B200 GPU,這些GPU通過輝達的 NVLink 技術連接,可提供 130TB/s 的互聯頻寬,允許 72個GPU 系統作為單個統一的 GPU 運行,可提供高達 3240 TFLOPS 的 FP64 和 FP64 Tensor Core 性能,並將整合了高達 13.5 TB 的 HBM3e 記憶體,可以實現 576 TB/s 的超大記憶體頻寬。
與輝達 H100 Tensor Core GPU 相比,GB200 NVL72 可以提供 30 倍的 LLM 推理、4 倍的 LLM 訓練和 18 倍的 CPU 資料處理能力,綜合能效達到了H100 的 25 倍。
由於這個新的超級計算中心將部署多達64個機架的 GB200 NVL72 伺服器,因此總共將擁有2304個Grace CPU和4608個B200 GPU, 可提供超過90 EFLOPS(每秒9000億億次浮點運算)的AI性能。這將使其成為訓練大型 AI 模型和對兆參數模型執行複雜推理操作的理想選擇。