7月11日,英特爾在中國市場推出雲端AI訓練芯片——Habana® Gaudi®2。該芯片可滿足大規模語言模型、多模態模型及生成式AI模型的需求。據現場介紹,該芯片性能在一些關鍵指標上勝過英偉達A100。
英特爾在中國推出雲端AI訓練芯片Habana® Gaudi®2,該芯片可滿足大規模語言模型、多模態模型及生成式AI模型的需求。
據了解,該Gaudi2處理器及Gaudi2夾層卡HL-225B,以第一代Gaudi高性能架構為基礎,具有24個可編程Tensor處理器核心(TPCs)。
每顆芯片集成了21個專用於內部互聯的100Gbps(RoCEv2 RDMA)以太網接口,配備配置96GB HBM高速內存及2.4TB/秒的總內存帶寬,滿足大規模語言模型、多模態模型及生成式AI模型的需求。