推廣活動

帕特爾對談拉斯岡:1吉瓦算力從400億漲到600億美元,融資、載板、記憶體誰在卡AI建設的脖子

RexAA
•
AI速讀
近期 AI 算力建設面臨成本激增與供應鏈瓶頸。分析指出,建構 1GW 算力的成本已由 400 億美元漲至 600 億美元,主因在於載板、HBM 記憶體及光通訊元件的嚴重短缺,且融資成本攀升導致非巨頭廠商難以獲貸。儘管輝達憑藉強大的代際性能提升維持高毛利,但隨著 Google、Amazon 及 OpenAI 等大客戶加速自研晶片,且晶片設計週期因 AI 輔助而縮短,輝達的領先地位面臨挑戰。未來產業焦點將從盲目擴建轉向單位成本的 token 產出效率,以及企業端 AI 應用能否帶來實質回報。

SemiAnalysis的帕特爾與伯恩斯坦的拉斯岡同台,討論AI算力融資收緊、基板與記憶體瓶頸、建1吉瓦算力成本從400億漲至600億美元,以及輝達高毛利能否延續。

參與者:主持人 Austin Lyons。正文使用“主持人”作為短標籤。

主持人:現在讓我們退一步,從供需兩端的宏觀視角來看全域。在需求端,AI收入增長極其迅速,但增速已開始放緩。目前全行業的AI綜合收入,在巨額行業支出面前仍只佔一小部分。因此,市場正拿著顯微鏡審視每一項收入資料。而在供應端,未來數年的產能早已售罄,價格依然堅挺。從半導體分析師的角度來看,我們該如何解讀這兩個訊號?在此過程中,誰又將捕獲核心價值?

今天我們邀請到了兩位半導體領域的權威聲音為我們指點迷津。迪倫⁠·⁠帕特爾是SemiAnalysis的創始人兼首席執行長,該機構是AI基礎設施領域最具影響力的研究機構之一。斯泰西⁠·⁠拉斯岡是伯恩斯坦的董事總經理兼資深分析師,十多年來一直位列華爾街頂級半導體分析師之列。我們本次圓桌的主持人是Chipstrat首席分析師、前英特爾首席工程師奧斯汀⁠·⁠萊昂斯。請大家熱烈歡迎迪倫、斯泰西和奧斯汀。

主持人:大家好,各位準備好了嗎?很好,這一定會是一場非常精彩、有趣的討論。今天我們將圍繞半導體產業展開交流,展望2027年和2028年的前景,聆聽這兩位專家對產業未來走向的見解。我們將全面探討從融資、GPU、CPU一直到晶圓代工的各個環節。

我想先從資本與融資層面切入。提給兩位的問題是:近來有大量關於資本成本的新聞討論。我們知道超大規模雲廠商正在進行巨額投資,其自由現金流正趨於負值。與此同時,美國10年期國債殖利率已突破5%。放大來看像CoreWeave這樣的企業,市場上甚至有傳聞稱其債券殖利率達到15%。那麼我想問的是,我們是否應該

主持人:感到擔憂?隨著企業投資規模越來越大、融資成本變得越來越高,這是否會對產業產生實質性衝擊?我想先請斯泰西談談。

確實如此。整體而言,當前存在諸多客觀瓶頸,正在放緩這場基礎設施建設的推進節奏,其中包括電力、供應鏈、半導體製造裝置,而現在或許還加入了融資端。作為一名華爾街分析師,如果觀察股票走勢,雖然整體仍維持大幅上漲,但相較高點已明顯回落,市場正在釋放某種訊號。市場表達出的擔憂在於,基礎設施建設的速度與可持續性存在巨大不確定性,周期高點或許正在臨近。

顯然,融資成本正是這些核心擔憂之一,甚至可能排在前列。正如你提到的諸多誘因,超大規模雲廠商曾是人類商業史上造血能力最強、產生現金流最多的企業,但如今它們正在大量消耗現金,並且很可能需要進行股權融資。Meta剛剛調整了新的股權架構,賦予了它們這類靈活性;我們也看到Google等公司進行了融資。你剛才提到的CoreWeave債券,屬於它們的無擔保債務,這並非它們當前實際支付的利息成本,而是二級市場的交易價格;但這表明如果它們今天進入市場發行新的無擔保債,融資成本大致就在這一區間,金額非常龐大。

因此我認為這些都是廣泛存在的隱憂。不過至少在未來一到兩年內⁠—⁠—⁠這也是我目前能看清的最遠期限⁠—⁠—⁠局勢大機率依然可控。但很明顯,行業需要推動收入增長到足夠規模,讓資本成本不再成為阻礙。這種局面或許會發生。比如SpaceX近期發佈了財報,他們現貨市場的算力顯然已經售罄,資源極其緊缺。我們現在聽到的唯一聲音就是沒有人擁有足夠的算力。他們以短期合同出租容量,價格甚至能達到每吉瓦500億美元左右的水平。在這種費率下,其實不難想像這些巨額開支能夠被有效覆蓋並產生回報。但核心問題依然在於:這種價格能維持多久?這涉及到更廣泛的課題,完全取決於實際需求相對於供應的真實情況,以及供需錯配會持續多久。關於這些問題,迪倫可能比我更有發言權。

主持人:但這確實是一個不容忽視的擔憂,是正在調節產業擴張節奏的諸多瓶頸之一。不過我還想補充一點:雖然沒有人喜歡看到增長受到約束,但在某種程度上,這或許也是一件好事,因為它遏制了盲目狂熱。在網際網路泡沫時期⁠—⁠—⁠儘管那時我還未入行⁠—⁠—⁠大量過度鋪設的暗光纖深埋地下,至今從未被真正啟用。當前的這些約束反而可能帶來一種“更強更持久”的健康走勢,因為強勁的需求倒逼供應平穩釋放,讓供需結構更加匹配,而不是今天陷入極度瘋狂,從而埋下未來暴跌的隱患。因此,我認為各種瓶頸本身未必全是壞事,但我清楚市場的心理預期,而這種擔憂顯然已經在短期內對科技股的走勢產生了影響。

我想呼應斯泰西的觀點。在任何基建狂潮中,所有人起初都會不斷盲目擴建,然後就會出現……

麥克風可以了。

聲音有點雜音。你們有備用麥克風給他嗎?

謝謝斯泰西,這麥克風我就不還你了。

我們確實還需要一支,好的。

言歸正傳,縱觀過去幾十年的歷次建設周期,行業總會出現雙重甚至三重重複下單,最終導致產能嚴重過剩,供應鏈在預測需求方面向來表現糟糕。正如斯泰西所言,目前出現了一定程度的自我約束,尤其是在資金端。回到一兩年前,任何雲廠商只要想拿資金都能拿到,即便承擔較高的利率也能融到錢。而現在,如果你是一家名不見經傳的小雲廠商,如果沒有高品質的大客戶消納協議,根本無法推進建設。

歸根結底,超大規模廠商確實可以將自由現金流壓至零,也可以通過發債融資,加上其盈利仍在增長,其擴建能力自然會提升;但他們明年絕不可能支撐超過2兆美元的資本開支,也不可能達到2.5兆美元。這就對總支出形成了硬性制約。

再看新興雲服務商行業,非超大規模廠商的需求幾乎佔據了正在建設規模的半壁江山。如果他們拿不到超大規模廠商的承購合同,又該如何獲得融資?

主持人:現在的市場態度很明確:即便你拿到了Anthropic或OpenAI的消納協議,借貸成本也得定在13%、14%甚至15%。比如近期Volta為Anthropic搭建算力叢集,其債券票面利率為12%,但發行折價為95美分,實際綜合利率已接近15%。

如果環顧那些未能從頂級大廠或核心AI實驗室拿到承購協議的廠商,他們又該如何建立算力?如何去服務中小型企業或初創公司?如果沒有超大規模廠商的背書,根本無法落地。這正是埃隆的整套策略所在:他正自行建構海量算力,並以極高的短期租賃價格出租給初創團隊和AI實驗室。

但總體而言,融資確實起到了巨大的抑製作用。輝達也意識到這對自身是一個極其嚴峻的挑戰,因為他們雖然有五家資金雄厚、能按需採購的核心大客戶,但市場其餘部分該如何盤活?為此他們採取了極具創造性的商業架構,例如與Sharon AI、Firmus等合作,通過參與算力叢集的收入分成來確保項目獲得融資支援。輝達會提出以3.50美元的保底單價向其反租叢集⁠—⁠—⁠這基本是雲廠商的保本價;如果雲廠商以高於該價格出租給第三方,輝達則從中抽取分成。這類模式正越來越多地湧現。事實上,即便Lambda為Anthropic建設叢集,也不得不與輝達達成收入分成,儘管比例不是50%,但也達到了10%。

因此,在缺乏充足資金的情況下,這些雲廠商要想超前擴建並達到全面過剩的狀態是極其困難的。我們正看到越來越多的資金從長期貸款轉向短期過橋模式。博通對Anthropic也採取了類似做法,本質上是將晶片租賃給他們,屬於“以租代售”,將支付周期拉長至數年。這裡的底層邏輯在於:任何非頭部巨頭要想獲取算力配額,就必須設計出由輝達、博通或AMD在背後兜底的合作方案。

因此,融資成本無疑是一大抑制因素。

主持人:超大規模廠商的表內和表外承諾規模同樣極其龐大,比如Meta在算力及資料中心方面的承諾金額已達1.4兆美元。整個市場正是依託這些巨額信用背書,去購買或租賃資料中心、採購晶片,並由上下游企業據此反向融資。但對任何其他參與者而言,要想超越這一界限都步履維艱。市場上甚至有不少人對Meta的財務結構感到擔憂;儘管Meta本身財務穩健,但資本市場已開始產生警惕。可以說,資金與土地電力、晶片共同構成了AI基建不可或缺的“三位一體”。

講得很透徹。

這非常耐人尋味。也就是說,儘管超大規模廠商自身穩健,但整體融資難度確實在加大,新興雲廠商更加艱難,促使市場出現了各種創新的折中結構。如果把金融因素放在一邊,回到制約行業增長步伐的傳統硬體瓶頸,你們如何看待2027至2028年的走勢?ASML明確表示其2028年的產能已全部售罄;台積電那怕將2奈米產能翻倍,需求依然遠大於供應。此外,人們始終在談論電力約束。迪倫,我知道你們團隊近期發佈過一份研報,指出明年全球將有近50吉瓦的資料中心上線。我想先請你梳理一下,半導體供應鏈中各環節的瓶頸排序是怎樣的?我們究竟該密切關注那些環節?

在半導體硬體端,除了記憶體晶片之外,最大的瓶頸無疑是晶片封裝載板。無論是載板本身、PCB材料還是底層基板,過去投資都嚴重不足。日本的諸多核心材料供應商風格極其保守,不願大規模激進擴產,導致過去兩年在加速卡、CPU乃至供應鏈各個元器件的生產上,都遭遇了極其嚴重的瓶頸。因此我認為在所有瓶頸中⁠—⁠—⁠包括土地電力廠房、半導體裝置在內⁠—⁠—⁠載板是首要瓶頸。

其次當然是記憶體器。緊隨其後的瓶頸,則是業界大規模推進光學互連(包括共封裝光學CPO或近封裝光學NPO)所帶來的嚴重制約。

主持人:這一領域的產能爬坡面臨巨大阻礙,即便所有企業甚至只要有一家核心大廠想在2028年全面普及CPO,光通訊供應鏈在雷射器、光纖耦合及各類核心元器件的供貨量上也完全無法滿足需求。

至於土地、電力和廠房,電力固然是一大約束。但我們研究得出的一個與市場直覺相悖的結論是:明年資料中心的容量瓶頸遠比大眾想像的要小,因為全球正在建設近50吉瓦的資料中心。其中大約35吉瓦在美國,其餘分佈在澳大利亞、印度、馬來西亞等主要地區,實際上全球都在以驚人速度建設資料中心。

儘管電力是一大瓶頸,但行業正在通過極富創意的方式加以解決,例如在資料中心現場部署燃氣輪機、往複式內燃機或燃料電池,這些都在有效緩解電網缺口。大多數人普遍認為資料中心和電力是最大的卡點,但我認為相比載板、記憶體、雷射器以及光通訊供應鏈,電力的制約程度其實要輕得多,因為企業在短時間內提升現場發電能力的可操作空間,遠比突破複雜的半導體製造供應鏈要容易得多。

完全同意。在電力方面的情況確實很有意思。黃仁勳和陳福陽此前都給出了相當驚人的業績指引,黃仁勳表示其營收將至少增長70%,陳福陽則給出了100%的預期,這些實際上都是在受到客觀約束下的測算資料。他們主要將土地、電力和機房視作核心瓶頸,這或許是因為作為半導體廠商,他們對自身晶片的生產交付能力了然於胸。

但是……

在土地和電力配套方面,我也認為存在變通方案。不過即便是現場發電裝置,如今燃氣輪機的交付周期也已經極其漫長,以至於馬斯克都宣稱要自己生產輪機葉片來繞過限制。

而在記憶體端,情況同樣耐人尋味。記憶體類股票的遠期市盈率普遍只有2到4倍,而產品價格卻一路飆升。雖然我不直接覆蓋記憶體類股⁠—⁠—⁠那是我另一位同事的領域⁠—⁠—⁠但觀察閃迪這類企業,其給出的單季度每股收益指引,甚至高過了24個月前的整體股價水平。

主持人:這種漲幅令人震驚,價格完全沖上了天花板。然而這些公司的估值卻都在個位數,因為這正是強周期行業在頂點時的典型估值形態;市場普遍擔心隨著2028年新產能逐步釋放,價格會面臨崩盤。

如果價格並沒有崩盤呢?仔細觀察一台AI伺服器機架內部,大約70%至80%的晶片矽片面積都被記憶體晶片佔據,主要是DRAM。生產AI晶片所需的HBM高頻寬記憶體時還存在所謂“替換折算比”的問題:生產1吉字節HBM所消耗的晶圓晶片數量,是製造PC或智慧型手機所用的標準DDR5 DRAM的3到4倍。這直接抽乾了原本的晶圓產能。整個行業對記憶體的需求是海量的。

這又引出了另一個瓶頸⁠—⁠—⁠半導體晶圓製造裝置(Semicap)。本周有一家裝置大廠公佈了財報,對明年全行業晶圓廠裝置支出(WFE)給出了初步展望,預計將超過2000億美元。很多投資人原先的預期甚至遠高於此,這讓我感到非常驚訝,因為在現實中根本不可能實現⁠—⁠—⁠我們缺乏足夠的晶圓廠廠房。目前全行業幾乎沒有現成的無塵潔淨室可用,情況非常嚴峻。今年以來大家只是在現有廠房空間內極限壓榨產能,這也是為什麼年初對WFE的預估只有約1200億美元,而今年底可能達到1550億美元。這全靠對既有設施的挖潛,但如今必須破土新建,而新建廠房落地需要數年時間。潔淨室要到2027年才會零星上線,大規模釋放要等到2028至2029年,屆時供需是否失衡才會見分曉。

如果需求曲線繼續維持當前這種爆炸式態勢,記憶體器在相當長時間內仍將是核心約束。剛才提到的載板和PCB也是如此。回到半導體裝置供應商,他們也都在抱怨短期零部件短缺制約了自身的交付能力,卡點正是PCB、各類半導體控制晶片乃至閥門、質量流量控製器等看似基礎的零部件,這些簡單元件正在影響整個產業鏈。類似局面在疫情期間就曾發生過。

主持人:不過裝置廠商和供應鏈多數企業確實吸取了當年的教訓,目前的應對管理比過去更加成熟。但客觀上,系統內部層層巢狀的供應鏈瓶頸,必須逐層化解。我個人認為產能緊張態勢還會持續相當長的時間,今年如此,明年大體相同,2028年大機率依然吃緊;至於2029年,那將取決於終端需求的演變,但我傾向於認為緊張周期短時間內不會結束。

好的。如果緊缺狀態還將持續數年,加上各類價格飛漲,記憶體廠商的利潤率甚至已經衝到了80%以上……是的,88%甚至90%。既然全產業鏈上下游每個環節都在承壓受限,你們認為各個細分領域的玩家都會持續利用自身價值進行提價嗎?

這很有意思。半導體過去是一個習慣了價格單向逐年下降的產業,歷史上看,整個半導體行業整體上曾是一個巨大的價值毀滅者,長期無法覆蓋自身的資本成本,所有的經濟價值基本都單向流向了終端消費者。多年前我在麥肯錫工作時曾主導過一項名為《半導體產業價值創造》的研究,我們採用最經典的經濟利潤指標,即(資本回報率ROIC - 加權平均資本成本WACC)× 平均投入資本。我們彙總了跨越一個完整周期的12個細分行業、約150家企業的資料。初步測算顯示,在1996至2004年間,全行業累計毀滅了50億美元的經濟利潤;如果剔除英特爾,全行業毀滅的經濟利潤高達500億美元,這在當時是一個天文數字。換言之,該行業此前從未真正覆蓋資本成本,企業創造的所有經濟利潤都直接無償補貼給了消費者。對晶片買家來說,那曾是一段黃金時代。

但在2008年金融危機之後,行業經歷了深度的理性整合與重組,回報率才開始勉強追平資本成本。隨後疫情爆發,行業在疫情期間猛然發現自己實際上擁有巨大的定價權,這是他們此前從未切身體會過的底氣。即便當時原材料等投入成本不斷上漲,我跟蹤的多家公司中,沒有一家因為成本上升而遭遇毛利率壓縮。

主持人:他們全部通過大幅提價來轉嫁成本,並且是按照既有的毛利結構加價:如果單件成本增加100美元,擁有60%毛利率的企業就會直接提價160美元,毫無阻力地傳導給下游。

正如我一直強調的,通膨在疫情期間拯救了半導體行業。對比2023或2024年的晶片出貨量與2019年相比基本持平,但若剔除記憶體晶片,全行業的綜合平均售價(ASP)卻足足上漲了50%。而如今在AI浪潮的加持下,這一趨勢更加變本加厲。記憶體價格徹底沖上雲霄。今年全行業產值預計將突破1.5兆美元甚至更高,同比增速可能達到100%,而今年全行業增長的70%到80%完全是由記憶體晶片的均價暴漲所驅動,剩餘的大部分也來自非記憶體晶片的售價提升,實際出貨量僅微增約10%左右。整個行業正在更為激進地行使定價權,而下遊客戶在別無選擇的情況下,基本只能全盤接受。因此,只要供需依然偏緊,這種提價趨勢就極有可能延續下去。

確實是這樣。

半導體行業的特點在於,部分廠商在景氣周期大肆行使定價權,但在下行周期會摔得極其慘烈;而另一部分廠商則選擇在全周期內維持相對平穩的利潤表現。以台積電為例,過去十年間其毛利率從45%穩步提升至如今的60%,呈現極其穩健的上升軌跡。景氣時期他們固然會多賺一些,但在下行期也不會大幅回吐。而反觀記憶體行業,幾年前毛利率一度跌至負值,如今卻狂飆至90%。

很多人都忘了,就在短短24個月前,行業剛剛經歷了網際網路泡沫破滅以來最慘烈的記憶體下行周期,毛利率甚至錄得負數。

縱觀整條供應鏈,部分環節之所以能大幅提價,完全取決於其所在的競爭格局。台積電作為近乎壟斷的長期合作夥伴,即便完全具備提價能力,也沒有肆意大幅哄抬價格;而記憶體廠商則完全不同,如果蘋果在下行期對他們極限壓價,那麼到了上行周期,他們就會毫不留情地反制蘋果,這在行業中屢見不鮮。

主持人:放眼當前的算力市場,在2024年建設一吉瓦算力中心的綜合成本(涵蓋晶片、土地、電力與建築外殼)大約為400億美元,而如今已飆升至600億美元以上,單位算力的建設成本正在呈指數級上漲。當然,在2024年幾乎沒有人真正落地過一吉瓦的叢集,但到了2026年和2027年,大量廠商正在推進吉瓦級部署。

順便提一句,他們現在從單吉瓦電力中搾取的有效算力也顯著增加了。

沒錯,而且單吉瓦算力所蘊含的盈利潛力極其驚人。正如我前面談到的機制:作為雲廠商,除非擁有超大規模廠商的承購訂單,否則根本無法啟動叢集建設,這意味著你的租賃價格已被提前鎖定。而馬斯克敏銳地利用了這一遊戲規則⁠—⁠—⁠既然晶片和土地電力都是瓶頸,只要把叢集建好,在真正通電點亮前堅決不簽長期合同,那麼每吉瓦算力所能創造的價值就不再是150億美元,而是可以直接賣到500億美元。

至於像Anthropic這樣的頂級AI實驗室,近期披露的資料顯示,其單吉瓦推理算力能夠創造高達700億至800億美元的收入,因此面對高昂的算力成本,他們只能被迫買單。當他們以每吉瓦150億美元租用算力時,其毛利率可高達75%至80%;但如果採購成本攀升至500億美元,其利潤空間就會被大幅壓縮。

因此,供應鏈各環節中究竟由誰來承擔這部分成本依然懸而未決。輝達為了消化記憶體漲價以及載板、光器件等成本上升,毛利率基本維持平穩甚至略有微降,但轉嫁給下遊客戶的整機售價卻大幅飆升。我們正在目睹一場極具戲劇性的產業鏈博弈:誰能守住利潤率、誰能進一步擴張利潤,而誰又將被迫犧牲毛利。對銷售端而言,這是一個即時博弈定價的刺激時刻,優秀的銷售人員能夠斬獲極其誇張的合同溢價。

太有意思了。斯泰西,我很贊同你提到的“疫情是AI時代的一次帶薪綵排”,讓半導體產業鏈第一次意識到自身所蘊含的巨大定價權。

主持人:迪倫指出的系統整合商角色也非常關鍵:像輝達這樣的廠商在面對全線零部件漲價時,必須權衡是直接轉嫁下游還是內部消化。

現在我感受到了一種張力:雖然未來幾年的產能已經被預訂一空,2029年走向尚不明朗,但短期內供不應求是確定無疑的;可正如我們開篇所言,融資難度正變得越來越大。我想知道的是,身處最頂層的Meta以及各大前沿大模型實驗室,是否會在某個節點發起反彈,認為採購成本已經難以承受?還是說他們目前別無選擇?

必須認識到,除了關注毛利率和採購成本,更核心的維度在於客戶究竟從中換取了多少實際算力價值。以輝達為例,每一代產品的售價雖然都在上漲,但算力性能的提升幅度遠超其提價幅度,這一點至關重要。從Ampere架構跨越到Hopper架構,產品平均售價大致翻倍,但算力性能躍升了10倍左右(迪倫對具體性能倍數掌握得更精確),整體投資淨現值(NPV)極高,客戶自然樂於買單。從Hopper過渡到Blackwell架構,儘管底層架構差異巨大難以直接比對,但單顆GPU售價大致上漲了50%,性能提升卻在3到30倍不等,若算上後期的軟體演算法最佳化,收益甚至更高,下游同樣樂於接受。再看從Blackwell向Rubin架構演進,單機架整體成本可能再度翻倍(輝達官方參考資料顯示,單吉瓦叢集建設成本從Blackwell的約250億美元提升至Rubin的400億美元),但其計算性能再次提升了10倍。

這正是維繫整個飛輪運轉的關鍵所在:廠商必須持續為客戶提供超額價值。核心在於客戶每投入單位吉瓦算力成本所能換取的性能回報是否在持續擴大。只要這一代際溢價空間仍在拓寬,即便價格再高,客戶依然能夠欣然接受。然而設想一下,假如未來推出Feynman架構時性能提升僅有20%,那麼屆時關於產品定價、利潤率乃至整體商業模式的質疑必將全面爆發。

主持人:這也是輝達這類巨頭長期面臨的巨大爭議所在⁠—⁠—⁠在如此龐大的營收基準上,他們依然坐擁70%以上的極高毛利率。外界普遍質疑:在ASIC自研晶片以及其他GPU廠商激烈競爭的夾擊下,他們究竟如何守住這樣的暴利?我的答案始終不變:只要輝達算力性能的躍升速度,顯著超越其因為成本複雜化而推高平均售價的速度,只要這種性能成本性價比公式依然對客戶成立,我就完全不擔心其利潤率承壓。但一旦這種創新迭代的步伐放緩,局面就會變得極度危險。

輝達自身對此同樣心知肚明。我曾在2023年參加過Hot Chips大會,作為一名工藝工程師出身的人,我其實對複雜的晶片架構與電腦科學細節並不精通。但當時輝達首席科學家比爾⁠·⁠戴利發表了主題演講,那是我唯一完全聽懂的內容,他所強調的正是這種GPU代際性能的復合提升。他指出,在過去十年裡,輝達通過打通各個技術維度的槓桿,將GPU計算性能提升了1000倍;而在未來的十年裡,他們的目標是在此基礎上再提升100萬倍。目前看來,他們依然行駛在這一路線上。如果他們能達成這一目標,整個商業邏輯就依然堅不可摧。但如果他們或任何核心環節掉隊,情況就會急轉直下,因為高昂的成本終究需要有人買單;在理想狀態下,買單的是獲得巨大業務價值的終端客戶,但如果成本增長脫離了價值支撐,供應商就不得不被迫吞下利潤侵蝕,屆時整個供應鏈必將陷入慘烈的利潤爭奪戰。

明白了。迪倫怎麼看?

當前的行業趨勢是各大科技巨頭都在嘗試自研晶片。OpenAI近期的動作在業內首次證明了:自研的第一代晶片同樣可以達到極高水準。

表現確實非常搶眼。

他們讓我們進了實驗室。我們用開放原始碼的Inference X基準做了測試,跑的都是開源模型,性能比Blackwell還好。而這只是第一代晶片,他們在設計和程式設計過程中大量使用了AI。

主持人:Anthropic也啟動了自研晶片計畫,而且想把周期壓縮到OpenAI的一半。這些目標都很激進。但如果模型真能幫他們大幅加速這一過程⁠—⁠—⁠現在Google已經在對外賣TPU,亞馬遜的Trainium也相當不錯,完全可以在PyTorch裡使用,Meta的路線圖非常激進,還有微軟等等。我之前說過,建1吉瓦的算力從400億美元漲到了600億美元;如果把輝達、博通、邁威爾這些晶片設計公司的利潤全部去掉,其實只要約200億1美元吉瓦。如果真能做到,那你用1吉瓦的算力跑推理,就能換來5吉瓦的算力。所以這裡的經濟帳非常一致。正如拉斯岡所說,這些公司只能拚命往前跑。你沒法承受每年每美元性能只提升2倍,因為那樣會被其他公司徹底打垮。所以如果輝達能保持這種驚人的節奏,那它當然配得上繼續賺取利潤。但如果其他競爭對手、以及它們的大客戶能夠設計晶片、部署晶片、擴大製造規模⁠—⁠—⁠無利潤加成的記憶體、台積電晶圓、基板、光學器件等等其實都非常便宜⁠—⁠—⁠那這些廠商在定價上就有很大的空間,尤其是當行業進一步解耦、輝達或博通失去現有地位的時候。這也是為什麼這兩隻股票基本上處於歷史最低估值倍數。很多人擔心這個問題:Meta會不會和博通解綁?Google會不會和博通解綁?這兩家會不會乾脆停止採購輝達、完全自研?完全有可能。所以我認為零部件供應商能把價格大幅抬高。問題是博通和輝達能否繼續賺取這種驚人的利潤率⁠—⁠—⁠至少未來兩年看起來是可以的。但再往後呢,這還成立嗎?因為歸根結底,雖然晶片設計非常非常複雜,但模型已經解決了軟體問題,現在給加速器程式設計其實非常容易。我們花了六個月才讓輝達的推理在Inference X上跑起來,那是我們最大的開源推理基準測試;AMD花了大概六個月到九個月;Google幾個月就搞定了,亞馬遜也是幾個月;

主持人:OpenAI只用了一個半月。所以從晶片能工作到能在上面跑軟體,這個周期正在快速壓縮。現在這些公司都把目光轉向了晶片設計,這條路到底能不能走通?它和軟體很像,因為非常可驗證。當然,資料和規模化方面還有很多挑戰,但半導體行業面臨的大問題是:設計會不會變得像軟體一樣商品化,從而人人都能設計晶片?當然,還有個麻煩的事實:掩膜、EDA工具等等固定成本要花5000萬美元。但設計晶片的人會爆炸式增長,因為給晶片程式設計容易多了。而如果設計也變得容易得多,那利潤率就必然下降。我們已經看到SaaS公司在市場上被血洗,也看到輝達和博通的股價基本橫盤,儘管它們的盈利同比增長超過2倍。我們拭目以待,但這就是那個大問題。

好,那麼,拉斯岡,我很喜歡你那個觀點:關鍵不在於成本從250億美元漲到400億、再到600億,而在於你每美元能榨出多少token,這才是真正重要的。然後迪倫,你提到了XPU,還有OpenAI這個很有意思的例子。那麼未來兩年,我們該怎麼看GPU的增長和XPU的爆發式擴張?現在有各種各樣的AI加速器初創公司在做不同的架構押注。幾年後格局會不一樣嗎?

我認為XPU公司大概有兩條路。如果你是大廠,可以採取更保守的設計路線,做類似Google或輝達的事情,這樣能成。但如果你是初創公司,就必須做非常瘋狂的事情。這也是為什麼第一代AI硬體初創公司裡,做得最瘋的那幾家⁠—⁠—⁠Cerebras和Groq⁠—⁠—⁠是最成功的。看現在這一批湧現的初創公司,只有那些做真正非常瘋狂、非常不同、且輝達或Google或AMD無法立刻複製的東西的公司,才有成功的機會。好的一面是,現在資金大量湧入,很多瘋狂的想法在被驗證,很多公司在嘗試用非常離譜的形態來建構XPU。2023、2024年,輝達在HBM總量、CoWoS總量等指標上佔據了絕大部分份額。

主持人:到2025年,這個比例開始緩和。但到2026年,輝達的份額已經在下滑,它用的CoWoS晶圓佔比更低、HBM佔比更低,而且明年還會繼續丟份額。當然,最終總量增長太快,他們的盈利明年仍會翻倍甚至更多。但這是一個已經在發生的大趨勢⁠—⁠—

就是Google在搶份額,亞馬遜在搶份額,AMD在搶份額。按出貨量算,你是這個意思嗎?抱歉,按出貨量,對。

對,出貨量總是很難說,誰做大晶片、誰做小晶片。但CoWoS晶圓和HBM比較難糊弄,還有收入,也就是花在代工晶圓、HBM這些東西上的美元。這些廠商確實在搶份額。當然,基數增長太快,他們的盈利還是會翻倍。所以到2028、2029年,增速可能沒那麼高了,收入可能不再是同比增長100%。那接下來會怎樣?增長放緩到輝達真的徹底丟份額?還是他們在Rubin之後的下一代架構上押下瘋狂的賭注?所以這就是拉斯岡說的:他們只能拚命快跑,這就是他們防守的方式。

這也是輝達把晶片節奏改成一年一代的原因之一。這不只是為了他們自己,而是逼著其他所有人拚命追趕,而他們的規模又讓人很難追上,這是一點。輝達有很多人。我們在談護城河,他們有很多護城河。

還有CUDA軟體。我們可以爭論CUDA現在還算不算護城河,但它確實在那兒,還有生態、裝機量和基礎設施。甚至他們的資產負債表和融資能力也是護城河。還有他們的設計節奏,他們在用AI加速自己的設計。行業裡在做的事,他們不可能不知道、不可能不用。但這是一場賽跑。至少黃仁勳是偏執的,他把英特爾當年的教訓記在心裡,每天都在回頭看。對,這正是這些股票現在這個走勢的原因。你說得完全對,它們的估值比以往任何時候都便宜。我寫過一篇報告,大概是九、十個月前。我們當時看的是輝達相對SOX指數⁠—⁠—⁠也就是半導體類股的寬基指數。

主持人:我寫那篇報告時,過去十年裡輝達相對整個半導體行業估值更便宜的日子只有13天。那是九個月前,而今天更便宜。所以這就是投資者擔心的事情。這不僅僅是整體需求可持續性的問題⁠—⁠—⁠如果需求不在,不管是不是輝達,我們都完蛋。但在這個類股內部,競爭顯然是他們最大的威脅,因為他們領先一大截,所有人都想搶他們的午餐。但說到底,這就是半導體。總有人在搶你的午餐,你得確保自己能保持領先。而這件事往後大概會越來越難,這是自然而然的。當然,當然。

我們一直在談GPU、XPU、出貨量份額,以及這些競爭對手在搶份額,基本都聚焦在資料中心和大廠上。你怎麼看企業本地部署,作為輝達這類公司的機會?

其實即便今天,輝達也把收入拆成超大規模和非超大規模兩部分。雖然分得不是很乾淨,因為實驗室客戶算在非超大規模裡,而有些超大規模支出其實是在支援它們,反之亦然。所以不乾淨,但現在大概是五五開。我認為實驗室客戶直接和間接加起來,目前約佔輝達收入的20%,規模不小。但我想說,輝達的收入基礎可能比我們以為的還要多元一些,這也是他們現在做那個演示的原因。不過說到底,你顯然需要企業級採用,這才是根本。如果沒有企業級採用,這個行業就不存在。現在還很早期,但我認為至少已經有一個殺手級的企業應用,就是程式設計。智能體程式設計的收入已經垂直起飛。現在還有人像手工藝人一樣手寫程式碼嗎?我不覺得還有。我覺得所有人都在用了。對,什麼叫程式設計?我也不知道。我還認為,在企業側,大家看的是收入,但有些實際節省可能不體現在收入上,而體現在生產率上,這更難衡量。我舉個很蠢的個人例子。我是金融分析師,我們建模型。我手下一個同事,用他自己的個人帳戶,一直用Claude給自己建模型。幾個月前我們在團隊裡試過,結果很垃圾,但他說我覺得它在進步。

主持人:我說好,我們開團隊電話會,你把它投上來,讓它從零給我們建一個模型。它一次就成功了,用了一小時二十分鐘,十年歷史資料,處理了所有不同的分部重分類,全都抓到了。它甚至做了預測,它聽了CEO在財報電話會上說的話,然後用邏輯而不是隨機去預測。這件事我手下的人要花一周,我自己要花三個月,它一小時二十分鐘就做完了。所以我們可以做更多,我可以用更少的人做更多的事。這還有其他影響。我們會不會進入一個企業AI普及率極高、同時失業率20%的世界?我不知道,這裡還有其他因素要考慮。但我認為我們仍然很早。現在聽到的大部分軼事證據⁠—⁠—⁠因為這是核心爭論⁠—⁠—⁠最終用這些東西到底有沒有回報?我認為從軼事證據看,答案相當明確地偏向“有回報”,但絕對還是很早期。很多公司還在試驗階段,他們沒有專業知識知道該做什麼、需要做什麼,所以需要時間。但我看到的情況讓我感到鼓舞。

關於企業級採用,我唯一想說的是,我不認為企業會在硬體側大量採用、自己跑模型之類的。我認為批次運行的效率、模型的規模經濟意味著大多數人只會購買token,把它們整合進來,和自己的資料結合。歸根結底,這才是大多數人消費AI的真正方式。所以這仍然會形成一種分層⁠—⁠—⁠我認為行業已經越來越往這個方向走了。二十年前,每個人都買自己的基礎設施自己部署;現在大部分支出都在雲上,而且大部分支出將是購買token。即便是製藥公司、避險基金,所有這些機構,他們在AI上的大部分算力和支出都會直接花在模型上,而不是買算力跑開源模型。會有服務商來做這件事。不過我想,是的,我很想多聊聊這個,雖然我們有點超時了。我覺得很有意思。我看到

只剩零分鐘了。好吧,看來我們到此結束了。各位,這太棒了,我學到很多,非常精彩,非常感謝。

不客氣。

謝謝,謝謝。 (404K)