通常最受歡迎的硬體是到處都賣光的手機或遊戲機,但今年似乎科技行業的每個人都願意等待數月並花費大量現金購買您可能永遠不會看到的產品:Nvidia 公司的H100 人工智能加速器。
英偉達(輝達)的晶片可以說已經成為推動人工智慧繁榮的最關鍵技術。H100 擁有800 億個電晶體,是訓練支援OpenAI 的ChatGPT 等應用程式的大型語言模型的首選主力,並幫助Nvidia 主導了AI 晶片市場。
但由於對H100 的渴望如此強烈,而且競爭對手Advanced Micro Devices Inc. 和英特爾公司在生產性能相當的晶片方面進展緩慢,這種依賴迫使大型科技公司在2023 年在處理器軍備競賽中花費越來越多的資金。目前,硬體供應商CDW 的線上商店中一台H100 的售價為57,000 美元,而他們的資料中心內則堆滿了數千台H100。
當Nvidia 執行長黃仁勳(Jensen Huang) 於2016 年向OpenAI 交付該公司第一台配備老一代圖形處理單元的AI 伺服器時,很少有人能預測到此類晶片將在即將到來的由ChatGPT 引發的革命中發揮作用。當時,英偉達的顯示卡是電玩遊戲的代名詞,而不是機器學習的代名詞。但黃仁勳很早就認識到,與英特爾等公司的傳統電腦處理器相比,他們獨特的架構擅長所謂的平行運算,更適合處理人工智慧模型所需的大規模同步資料處理。
為了支持OpenAI 的努力,投資者微軟公司最終建造了一台配備約20,000 個Nvidia A100 GPU(H100 的前身)的超級電腦。Amazon.com Inc.、Alphabet Inc. 旗下的Google、Oracle Corp. 和Meta Platforms Inc. 很快就下了同樣大的H100 訂單,用於建設他們的雲端基礎設施和資料中心,黃現在將其稱為「人工智慧工廠」。中國公司甚至競相囤積較弱版本的英偉達GPU,由於美國對半導體的出口管制,其性能受到限制。晶片交付時間可能會延長六個月以上。今年春天,埃隆馬斯克開玩笑說:“目前GPU 比drugs更難獲得。”
撇開抱怨不談,這條重磅產品線讓英偉達的估值躍升至1 兆美元以上,並帶動其收入飆升。最近一個季度,其資料中心部門的銷售額達到145 億美元,幾乎是去年同期的四倍。
但GPU 瓶頸也讓業界意識到,人工智慧產品組合中如此重要的元件依賴單一實體所面臨的風險。為了降低成本並提高效能,Google對其內部TPU 晶片進行了大量投資,而亞馬遜和微軟最近也展示了自己的客製化人工智慧加速器。同時,英特爾正在宣傳其Gaudi 2 處理器作為H100 的替代品,AMD 表示其新的MI300 將在未來幾年打開4000 億美元的人工智慧晶片市場。
對於一些科技巨頭來說,如果他們的產品流行起來,轉向自研晶片可能會造成尷尬的亦敵亦友的情況。一方面,亞馬遜和谷歌不想過度依賴英偉達,但他們也不想損害與世界上最有價值的晶片製造商的關係,並可能危及未來獲得最新、最好的GPU 的機會。黃仁勳今年稍早告訴彭博社,他不介意他最大的客戶也成為他的競爭對手,他不會區別對待他們。
無論如何,目前尚不清楚這種新的AI 晶片競爭是否會在2024 年顯著削弱Nvidia 的領先地位。上個月,Nvidia 宣布升級其AI 處理器,命名為H200,並表示將在2024 年推出該處理器。明年第二季度, 亞馬遜和谷歌已經成為首批客戶。
GPU賣爆了,遠超過CPU
Dell'Oro 表示,主要用於人工智慧應用的加速器推動伺服器半導體和組件市場在2023 年第三季年增29%,預計今年加速器營收將是CPU 營收的兩倍。
「伺服器和儲存系統組件市場預計2023 年全年將成長11%,這主要是由加速器推動的。Dell'Oro 的Baron Fung 表示,不包括加速器,預計收入將下降27%,原因是系統供應商和超大規模雲端服務供應商針對通用運算的庫存調整導致需求減少。
「展望2024 年,我們預計加速器收入強勁兩位數成長。此外,我們的預測表明,隨著供應商因預期伺服器需求更加健康而增加庫存,包括CPU、記憶體、儲存驅動器和網路介面卡(NIC)在內的各個類別的市場將全面復甦。隨著這些組件類別的單位數量增長,我們預計價格將隨著需求的增加和向下一代伺服器平台的過渡而提高。」Fung 解釋道。
在GPU 加速器的推動下,2023 年第三季度,NVIDIA 在伺服器和儲存系統元件收入方面處於領先地位,其次是英特爾和三星。加速器收入預計在2023 年首次超過CPU 收入,反映出向加速運算的轉變。
NIC 出貨量在2023 年上半年短暫下降,但在2023 年第三季恢復成長,原因是高速埠和智慧NIC(尤其是加速運算方面)的採用增加。
預計2024 年GPU 營收將實現70% 的成長。儘管NVIDIA 目前在該市場佔據主導地位,但AMD 和英特爾的新競爭產品以及超大規模雲端服務供應商客製化加速器的出現帶來了潛在的挑戰。
英偉達,躍升半導體第一
英偉達今日在一份公佈的晶片產業收入評估中,從第四位躍升至第一位。台北的金融分析師Dan Nystedt指出,在第三季財務報告公佈之際,英偉達從晶片製造巨擘台積電手中奪走了營收冠軍。
那些關注投資和金融世界的人將會看到我們關於英偉達收益激增的報道,這一點透過公司發布的2023財年第三季結果得以證實。英偉達展現了驚人的表現,季度營收達到181.2億美元,年增206%。公司的利潤也水漲船高,Nystedt發布的圖表顯示,在2023年第三季度,依照這個指標,英偉達也超越了晶片產業的競爭對手。
英偉達的進步得到了多個高度成功的營運部門的支持,這些部門對其收入和利潤產生了倍增效應。同樣,我們看到了收入的巨大轉變的清晰證據,最新一期的財務報告本週早些時候與投資者分享。
儘管像台積電、三星和英特爾這樣的晶片行業競爭對手在2023年都享有一定程度的進步(無論是收入還是利潤方面),但你可以清楚地看到,擁有多個業務部門供應範圍廣泛的極度渴求科技的人工智慧市場,帶來的點金效應。
英偉達的資料中心業務是其冉冉升起的新星,儘管自去年以來我們已經看到其大多數業務都取得了令人印象深刻的成長。它向台積電提出了越來越多的要求,製造用於加速人工智慧資料中心的晶片。然而,由於其寶貴的智慧財產權,英偉達每顆晶片的收入和利潤將比台積電在生產端每顆晶片的收益更為可觀。我們正在看到英偉達目前正享受美好時光,但也許台積電將會回歸,正如古老寓言所告訴我們的「穩紮穩打才能贏得比賽」。
值得注意的是,這個總收入數字包括了英偉達的其他公司服務,例如軟體授權。三星也因儲存市場的急劇下滑而受損,這凸顯了多種因素影響總收入值。
一年後回顧這四家著名晶片產業競爭對手的相對錶現將會非常有趣。(半導體產業觀察)