90EFLOPS!富士康建全球最強AI超算中心:擁有4608個B200 GPU
10月8日,鴻海集團旗下富士康宣佈,將攜手輝達(NVIDIA) ,打造有史以來全球最快的單體AI超級計算中心——鴻海高雄超級計算中心,助力台灣成為人工智慧驅動型行業的全球領導者,能夠執行癌症研究、大型語言模型開發和智慧城市創新等高級任務。
據介紹,這個新的超級計算中心將部署輝達GB200 NVL72 伺服器,單機架內整合了 36 個 Grace CPU 和 72 個Blackwell B200 GPU,這些GPU通過輝達的 NVLink 技術連接,可提供 130TB/s 的互聯頻寬,允許 72個GPU 系統作為單個統一的 GPU 運行,可提供高達 3240 TFLOPS 的 FP64 和 FP64 Tensor Core 性能,並將整合了高達 13.5 TB 的 HBM3e 記憶體,可以實現 576 TB/s 的超大記憶體頻寬。
與輝達 H100 Tensor Core GPU 相比,GB200 NVL72 可以提供 30 倍的 LLM 推理、4 倍的 LLM 訓練和 18 倍的 CPU 資料處理能力,綜合能效達到了H100 的 25 倍。
由於這個新的超級計算中心將部署多達64個機架的 GB200 NVL72 伺服器,因此總共將擁有2304個Grace CPU和4608個B200 GPU, 可提供超過90 EFLOPS(每秒9000億億次浮點運算)的AI性能。這將使其成為訓練大型 AI 模型和對兆參數模型執行複雜推理操作的理想選擇。
作為對比,在今年上半年公佈的第63屆全球超級電腦Top500榜單中,美國橡樹嶺國家實驗室和AMD合作的Frontier超級電腦以1.206 EFLOPS的高性能 Linpack (HPL)算力位居全球第一,而由英特爾支援的“極光”(Aurora)超級電腦則以 1.01 EFLOPS的HPL算力排名第二。
但是,Aurora超級電腦卻是當時最快的AI超級電腦,其在89% 的系統上實現了10.6 EFLOPS的AI算力。2022年8月啟動的號稱全球最快的阿里雲張北超級智算中心,其總體的建設規模是12 EFLOPS的AI算力。這也足見擁有90 EFLOPS AI算力的鴻海高雄超級計算中心的強大。
富士康副總裁兼發言人 James Wu 表示:“富士康的新型 AI 超級電腦由輝達的 Blackwell 平台提供支援,是世界上最強大的超級電腦之一,代表了 AI 計算和效率的重大飛躍。”
作為全球最大的電子產品製造商,鴻海集團旗下富士康為全球頂級科技品牌生產從智慧型手機到伺服器的各種產品而聞名,其在全球擁有龐大的員工隊伍和製造工廠,是全球技術基礎設施的關鍵供應商。它也是智能製造領域的領導者和工業 AI 的先驅之一,它還在 NVIDIA Omniverse 中實現了工廠的數位化。
富士康也是最早使用 NVIDIA NIM 微服務開發特定領域大型語言模型 (LLM) 的公司之一,這些模型嵌入到其 AI 工廠的各種內部系統和流程中,用於智能製造、智能電動汽車和智能城市。
據介紹,富士康將在 2025 年年中之前在第一階段推出超級電腦,並將在 2026 年之前全面完成鴻海高雄超級計算中心的部署。這個超級計算中心將使用多種 NVIDIA 技術,例如 NVIDIA Omniverse、Isaac 機器人平台和數字孿生,這些技術將提供各種 NVIDIA 工具和庫,以實現更好的製造過程。
值得注意的是,鴻海董事長劉揚偉8日在“鴻海科技日”活動上表示,隨著地緣政治癒演愈烈,“你聽過主權AI,未來你將聽到主權伺服器”,即當地國家的伺服器會需要在當地製造。
“主權AI會有許多國家機密資訊在裡面,這些AI相關軟體在AI伺服器硬體裡運行,雖然伺服器是硬體,但也變得非常機密,要確認其安全性,這將是未來發展方向。”劉揚偉解釋道。
因此,鴻海正積極成為全球第一個出貨輝達最新GB200 AI伺服器的供應商,也規劃在墨西哥打造全球最大的GB200 AI伺服器工廠,搶佔主權伺服器商機。 (芯智訊)