Nvidia最大客戶!微軟CTO:自研晶片替代AMD、輝達

微軟押注自研 Maia 加速器

微軟自研晶片戰略:計畫以自研加速器替代多數 AMD、輝達 GPU


來源:theregister


微軟長期從輝達(Nvidia)和 AMD 兩家公司採購大量圖形處理器(GPU)。但展望未來,這家總部位於雷德蒙德(Redmond)的科技巨頭領導層希望將其大部分人工智慧(AI)工作負載,從外部 GPU 遷移至自研的加速器上。

作為軟體領域的巨頭,微軟在定製晶片領域的佈局起步較晚。亞馬遜(Amazon)和Google(Google)多年前就已著手研發定製中央處理器(CPU)和 AI 加速器,而微軟直到 2023 年末才公佈其自研的 Maia AI 加速器。

推動這一轉型的核心原因,是對 “每美元性能”(performance per dollar)的重視 —— 對於超大規模雲服務提供商而言,這一指標堪稱唯一真正重要的衡量標準。

在周三由美國消費者新聞與商業頻道(CNBC)主持的爐邊談話中,微軟首席技術官(CTO)凱文・斯科特(Kevin Scott)表示,截至目前,輝達的產品在性價比方面表現最佳,但為滿足需求,他願意考慮任何可行方案。

斯科特指出,未來微軟希望將自研晶片應用於其資料中心的大部分工作負載。當被問及 “長期規劃是否是讓資料中心以微軟自研晶片為主” 時,他明確回應:“是的,毫無疑問。”

隨後,他向 CNBC 補充道:“這關乎整個系統的設計,包括網路和散熱環節。我們需要擁有自主決策的自由度,才能針對具體工作負載,實現計算資源的真正最佳化。”

2023 年,微軟借助首款自研 AI 加速器 Maia 100,將 OpenAI 的 GPT-3.5 模型遷移至自研晶片運行,成功釋放了部分 GPU 算力。然而,從性能參數來看,這款晶片與輝達、AMD 的競品 GPU 存在明顯差距:其 BF16 精度算力僅為 800 兆次 / 秒(teraFLOPS),配備 64GB 高頻寬記憶體(HBM2e),記憶體頻寬為 1.8TB / 秒。

據悉,微軟正推進第二代 Maia 加速器的研發,計畫於明年推向市場。新一代產品無疑將在計算性能、記憶體容量及互聯速度上實現升級,具備更強的競爭力。

不過,即便未來微軟資料中心中 “GPU 與 AI 專用積體電路(ASIC)的佔比” 發生變化,自研晶片也不太可能完全取代輝達和 AMD 的 GPU。

過去數年,Google和亞馬遜已部署了數萬台自研的張量處理器(TPU)和 Trainium 加速器。這些晶片雖幫助它們贏得了 Anthropic 等知名客戶,但更多時候是用於加速自身內部的工作負載。

因此,目前在Google、亞馬遜的雲平台上,輝達和 AMD 的 GPU 仍在大規模部署 —— 部分原因在於客戶對這類主流 GPU 的需求依然存在。

值得注意的是,AI 加速器並非微軟唯一在研的定製晶片。雷德蒙德團隊還研發了名為 Cobalt 的自研 CPU,以及一系列平台安全晶片 —— 這些安全晶片可加速加密運算,並在其龐大的資料中心網路中保護金鑰交換過程,保障資料安全。 (芯榜)