#GB200
輝達GB200可為AI工廠帶來77.6%利潤率,AMD MI355X利潤率為-64%!
8月27日消息,據摩根士丹利最新公佈的一份報告顯示,雖然目前人工智慧(AI)晶片市場競爭激烈,但是輝達依舊是無可爭議地佔據著市場主導地位,並且其產品的經濟效益也遠超其他競爭對手。報告以輝達目前暢銷的GB200 NVL72機架為例指出,這個機架包含了72個NVIDIA B200 GPU和36個Grace CPU,通過NVLink互聯,整體的成本約為310萬美元。而上一代的8卡配置的H100伺服器架構僅為30萬美元左右。不過,對於大型的 AI工廠(資料中心),摩根士丹利認為,與上一代的H100相比,採用輝達最新的GB200 NVL72機架式產品更具經濟效益。根據摩根士丹利的計算,對於給定的100MW規模的AI工廠,尤其對於專注於推理的AI工廠來說,輝達的GB200 NVL72系統目前在盈利能力方面居於市場領先地位,其次是Google的TPU v6e pod。具體來說,100MW規模的AI工廠,使用輝達的GB200 NVL72 機架,該AI工廠可以實現77.6%的利潤率;而如果實使用Google的TPU v6e pod則可以實現74.9%的利潤率。需要指出的是,雖然GoogleTPU v6e pod的定價尚未公開,但是與輝達GB200 NVL72機架相比,租用GoogleTPU v6e pod的平均成本要低40%至50%。△將CoreWeave平台的每小時每晶片的收入與每小時每GPU(GB200 NVL72)的租金價格進行比較有趣的是,根據摩根士丹利的計算,採用AMD MI300和MI355平台的100MW規模的AI工廠的利潤率為負,分別為-28.2%和-64%。輝達GB200 NVL72 機架為AI工廠所帶來的利潤率卻是最高的,達到了77.6%。這還是真是印證了輝達CEO黃仁勳那句廣告語:“買得越多,省得越多!”摩根士丹利的報告基於一個假設,即一個100MW的AI工廠需要6.6億美元的基礎設施成本,在10年內折舊。GPU的成本從低端的3.67億美元到高端的22.73億美元不等,折舊期為4年。然後,摩根士丹利通過將各種冷卻系統提供的能效應用於全球電價的平均值來計算營運成本。最終,計算出各晶片能夠為AI工廠帶來的利潤率。雖然,對於100MW規模的AI工廠(利用Llama 2 70 B模型進行推理)來說,輝達GB200 NVL72能夠帶來更好的經濟效益,但是其總擁有成本(TCO)也是最高的,達到了8.0658億美元。相比之下,AMD的MI355X平台則略低,為7.7411億美元;Google的TPU v6e pod的TCO最低,只有3.5869億美元。 (芯智訊)
輝達GB200散熱難題得到攻克,供應鏈加速衝刺,GB300蓄勢待發
輝達首席執行官黃仁勳在近期台北國際電腦展上確認,Grace Blackwell架構(GB200)已全面量產。他特別感謝台灣供應鏈廠商在建構AI生態系統中的貢獻,並預告第三季度將推出性能更強的GB300。此前GB200組裝散熱問題已得到有效解決,這為其大規模出貨奠定了基礎。01 GB200散熱問題得到解決GB200 NVL72系統全面引入了機架規模的直接晶片液冷方案,通過冷卻液直接高效帶走GPU和CPU等核心元件產生的巨大熱量,突破了傳統風冷限制。同時,系統支援液對空和液對液等多種散熱模式,以適應不同資料中心環境並高效管理其高功率密度。據知情人士透露,此前曾出現連接性問題及液冷系統漏液等技術挑戰,但通過供應鏈與輝達的緊密協作,這些問題已在兩到三個月前得到解決,並加強了出貨前的測試流程。供應鏈廠商如雙鴻和奇鋐在散熱部件方面的協同合作亦是關鍵。02 核心供應鏈夥伴:從晶片到整機加速出貨GB200供應鏈涵蓋了AI伺服器生產的各個關鍵環節。晶片製造由台積電(2330)保障,提供核心算力單元;伺服器的組裝則主要由富士康和廣達兩大巨頭承擔,同時,英業達(2356)和緯創(3231)等合作夥伴也已在加快生產和出貨。其他關鍵供應商包括:散熱方案的雙鴻、奇鋐;機殼廠商勤誠;電源廠商台達電子與光寶;連接線的貿聯、佳必琪;以及伺服器導軌的川湖、南俊國際等。這一完整且高效的產業鏈協同,是GB200能夠迅速解決技術難題並實現大規模量產的基礎。富士康董事長劉揚偉表示,經過半年多資料積累,GB200良率已達批次生產標準,未來幾季度出貨無憂。富士康4月營收達6413.6億元新台幣,創歷年最強4月表現,環比增長16.1%,同比增長25.5%,直接反映了GB200的大規模出貨。前四個月累計營收2.28兆元新台幣,創同期新高,同比增長24.5%。廣達執行副總裁兼雲達總經理楊麒令透露,GB200已於3月開始出貨,第二季度進入放量階段,預計今年業績將逐季增長,下半年優於上半年。摩根士丹利證券預估,4月GB200機櫃出貨量達1500台,富士康出貨約1000台,廣達從3月的150台攀升至300-400台,顯示其產能和市場參與度正同步擴大。03 GB300蓄勢待發 高性能AI計算持續演進輝達正積極為下一代GB300 AI伺服器機櫃的推出做準備,這款系統具備更強大的記憶體功能,專為處理更複雜的推理模型而設計,黃仁勳已宣佈GB300將於第三季度上市。為加快部署,輝達在GB300設計上做出調整,暫時回歸目前GB200所使用的“Bianca”設計,而非原計畫的“Cordelia”,這有助於Blackwell系列產品加速推出,從而抵消此前因對華出口限制帶來的影響。儘管如此,輝達並未放棄Cordelia設計,並計畫在未來的AI晶片中採用重新設計的Cordelia板,該設計將允許獨立更換GPU,提升維護便利性。 (熱控大家說)
GB200第一季度出貨不及預期
根據Jefferies的一份研報,GB200在2025年第一季度的總出貨量僅為約1,500台,遠低於最初預測的3,800台。對於2025年第二季度,Jefferies已將預估出貨量從之前的7,200台下調至6,000台。同時,將2025年GB200的出貨量預測調整為:NVL72機型24,000台,NVL36機型12,000台。關於GB300,儘管市場資訊顯示其將沿用GB200的Bianca主機板而非新型Codelia主機板,但根據Jefferies與供應鏈的溝通,這一計畫尚未最終確定。目前仍存在多種平行解決方案。預計GB300的時間表保持不變,即2025年第四季度小批次生產,2026年第一季度進入量產階段。Jefferies預計,良率將從4月開始提升,關鍵元件短缺問題也將自4月起逐步緩解。2025年第二季度GB200的出貨量將顯著高於第一季度。廣達(Quanta)公佈的4月銷售額為新台幣1,540億元,環比下降20%,但同比增長58%,佔富邦證券(Fubon)對第二季度銷售額預測的28%。預估廣達第二季度可能出貨約2,500~3,000台機架。PC及通用伺服器的出貨將回歸正常水平。隨著GB200出貨量的增加,預計第二季度將成為強勁季度。然而,考慮到近期新台幣(NTD)升值可能對廣達造成的影響,Jefferies下調了對2025財年營收和每股收益(EPS)的預測。關於關稅問題,當前對廣達的影響有限,但仍需密切關注後續進展。2025年,AI伺服器仍將是廣達的核心業務,尤其是輝達的GB200和B200 HGX/MGX系列產品。管理層仍設定AI伺服器營收同比三位數增長目標,佔伺服器總銷售額的70%以上。廣達2025年第一季度銷售額為新台幣4,857億元,環比增長16%,同比增長88%;毛利率(GM)為7.92%,環比上升0.47個百分點,但同比下降0.56個百分點;營運利潤率(OpM)為5.07%,環比上升1.44個百分點,同比上升0.55個百分點;每股收益(EPS)為新台幣5.06元,環比增長23%,同比增長62%,顯著優於富邦證券預估及市場共識。 (傅里葉的貓)