SemiAnalysis最新訪談:儲存還有翻倍空間,CPU只是配角,CPO落地推遲至2029年

AI基礎設施的每一層正在同步承壓,而機會與誤判並存。SemiAnalysis創始人Dylan Patel近日接受播客專訪,系統梳理了當前AI基礎設施棧的核心動態與投資邏輯。他的判斷涵蓋模型經濟學、記憶體超級週期、CPU的重新定價、CPO的時間線風險,以及資料中心能源供給的結構性機遇。

針對市場對AI投資回報率(ROI)的普遍質疑,Dylan透露,Anthropic已於今年第二季度實現自由現金流轉正,年化經常性收入突破500億美元,毛利率超過70%。在企業端,最新AI模型帶來的生產力躍升遠超算力成本的增加,促使企業削減其他軟體開支以維持爆炸性增長的AI預算。

在硬體演進層面,向推理模型的範式轉換正在重構市場需求。Dylan強調,儲存面臨長達數年的結構性短缺,仍有2至3倍上行空間;與此同時,儘管智能體和強化學習推高了CPU需求,但賣方市場對此定價過高,CPU的增長主要來自歷史“補賬”,其在AI伺服器中的絕對價值仍遠不及GPU。

Dylan認為,備受市場期待的共封裝光學(CPO)大規模落地時間,則被明確推遲至2028年底至2029年,意外延長了銅纜連接器的紅利期。而電網輸配電的受限,正迫使資料中心轉向“表後電源”(自建電源),在傳統的晶片投資之外,催生出龐大的工業能源和電力轉換供應鏈投資機會。

Anthropic率先造血,AI需求敘事開始落地

對於市場上關於AI企業ROI的質疑,Dylan Patel給出了具體資料予以回應。

"Anthropic在第二季度已經實現了自由現金流為正,4月盈利,5月盈利,6月看起來也會是一樣。"他表示,Anthropic年化經常性營收已超過500億美元,毛利率超過70%。OpenAI的營收也隨著Codex採用率的提升快速增長。

SemiAnalysis自身的支出軌跡也印證了這一趨勢。去年11月,該公司90人團隊年化AI支出不足10萬美元;到今年1月底,因Claude Code大規模鋪開,這一數字飆升至400萬美元年化;目前已達1100萬美元,峰值周折算年化一度觸及1400萬美元。"員工人力成本加上AI成本,AI這部分已經超過了三分之一,年底前很可能達到一半。"

他同時指出,更新、更強的模型在實際使用中並不必然更貴。舊模型可能需要10萬個token、10次互動才能完成一個任務,新模型可能只需2.5萬個token、1次互動。"每次模型從4.6 Opus升級到4.7 Opus,我們的支出會先下降一週,然後又飆上去——因為大家一看,以前做不了的事現在能做了。"他認為,這也是Anthropic在與OpenAI的競爭中佔據優勢的核心原因之一:token效率更高,使用者綜合成本更低。

記憶體:結構性短缺,而非普通週期

在所有硬體品類中,Dylan Patel對記憶體的判斷最為堅定。

"這不是短期短缺,是會持續多年的結構性短缺。"他指出,記憶體產能每年僅增長20%至30%,而AI側需求正在翻倍又翻倍,兩者之間的缺口將持續擴大。

驅動這一判斷的核心邏輯來自推理模型對KV快取的衝擊。傳統對話式推理的上下文長度以數千token計,KV快取消耗有限;但以o1為代表的推理模型出現後,上下文長度爆炸性增長,KV快取隨之急劇膨脹,記憶體成為最直接的受益品類。SemiAnalysis在2024年12月即發佈報告,專門指出這一趨勢。

供給側的剛性約束將迫使下游市場重新分配有限記憶體資源。他預測,價格彈性低的消費電子將率先承壓——中低端手機廠商出貨量已下降40%,iPhone和MacBook明年價格將上漲。"記憶體會持續漲價,消費電子被壓縮到一個新的水位,直到AI拿到它需要的記憶體,才算真正夠用。"他補充稱,即便週期下行屆時也會到來,"從波谷到波谷,長期增長是毋庸置疑的。"

CPU:補缺行情有限,別過度外推

CPU是今年AI基礎設施敘事中湧現的新主角,但Dylan Patel對此持有明確的警示立場。

CPU需求的復甦邏輯清晰:強化學習需要大量CPU來運行環境驗證(程式碼單元測試、模擬操作等);智能體推理要求模型頻繁呼叫工具、與現實世界互動,這些操作高度依賴CPU算力。與此同時,過去幾年大規模出貨AI晶片,配套CPU嚴重不足,目前正處於集中補缺階段,ARM、英特爾、AMD均已受益,輝達Vera CPU也給出了200億美元營收指引。

"但我要給一個重要警示:這裡面有大量補缺效應。"他表示,一旦歷史欠賬補完,後續只剩增量需求,需求將回歸正常。從絕對金額看,Blackwell單塊約5萬美元,CPU約5000美元,即便比例上CPU增配更多,美元量也遠低於AI加速晶片。"記憶體和AI加速晶片才是大頭,CPU是被低估後的重估,現在已經更合理定價了,但不會無限期地以超過AI晶片的速度增長。"

光互連:長期看好,短中期慎對CPO

網路與光學互連是另一個市場情緒高漲的領域,但Dylan Patel對CPO(共封裝光學)的落地節奏持審慎態度。

"CPO真正大規模量產,我的判斷是2028年底到2029年。"他指出,目前製造良率、晶片設計和供應鏈成熟度均未達到大規模部署標準,而輝達Rubin及其後續架構Feynman仍將使用全銅方案,CPO在GPU側還需等待數代晶片迭代。

他透露,SemiAnalysis上週剛向機構訂閱客戶發佈報告,中期內反而更看好銅纜和非CPO光學方案,對CPO持謹慎態度。部分下游晶片的設計變更(如Rubin Ultra的Kyber已去掉800V設計)進一步推遲了CPO落地時間。安費諾等銅纜連接器公司將因此比預期獲益更多。

"CPO長期會發生,銅纜長期會被取代,但時間線被推遲了,短中期銅纜仍有很大機會。"

電力:自建電源將成主流,創新路徑多元

資料中心的電力供給正在成為AI增長最硬的物理約束。按Dylan Patel的預測,新增資料中心用電量今年20吉瓦,明年30吉瓦,後年50吉瓦,增長近乎爆炸性。

他將能源問題拆解為三個維度:輸電、發電與轉換。輸電是最難突破的環節,涉及監管政策、地方電力公司壟斷結構以及成本分攤機制,短期內難以改變。發電與轉換則機會廣泛。

他預測,未來幾年內,新增資料中心用電的一半將來自"表後電源"(behind the meter),即企業自建電源,而非依賴公共電網。目前主流方案是聯合循環燃氣機組(CCGT),來自GE Vernova、三菱、西門子等廠商;同時也出現了往複式發動機、工業燃氣輪機乃至改裝自船用、火車、卡車發動機的非傳統方案。"聽起來粗糲,但它能跑,而且已經在被人用了。"

更長期來看,他判斷大約兩年內太陽能加儲能的綜合成本將低於燃氣發電;更遠期則是太空資料中心——將計算晶片部署至軌道,太陽能電池板無需穿透大氣層,能量密度遠高於地面,且無需儲能。

轉換側同樣充滿投資機會,從IGBT、碳化硅到氮化鎵MOSFET,以及固態變壓器、UPS和超級電容,整條電壓轉換鏈路正在快速演進。SemiAnalysis目前規模最大的研究部門,已不是半導體,而是其內部稱為"DEI"(資料中心、能源與工業)的團隊,追蹤全球每一座資料中心與發電廠的部署動態。

以下為訪談全文:

主持人:歡迎回到下一件大事播客。我是主持人,今天與我同行的有同事Klay Hyman,以及我們的新合夥人、SemiAnalysis研究機構的創始人Dylan Patel。今天是一個特別的日子,我們將與Dylan一起深入探討當前AI基礎設施領域的全貌。Dylan的內容我一直在關注,他的播客出鏡率很高,SemiAnalysis的新聞通訊也一直是我的必讀清單。最近他們有一篇關於太空資料中心的深度報告,感興趣的朋友可以去看看,非常詳盡。

Dylan,我很想聽你聊聊SemiAnalysis最初是怎麼來的。我知道在Substack社區裡,大家最近都在談論這家公司的營收和成功,但我覺得很多時候,人們只看到了成功的當下,卻忘了背後的旅程和付出了多少心血。

SemiAnalysis的起源

Dylan Patel: SemiAnalysis的起源其實來自網上發帖——用不太鎮定的說法就是“灌水”。回想我首先關於半導體的帖子,那是在我十幾歲的時候,我就開始在網上發晶片、智慧型手機、關於智慧型手機螢幕和智慧型手機SoC的帖子,雖然那會兒我自己都還沒有智慧型手機,但我就是痴迷於這些東西。遊戲硬體、PC硬體、主機硬體也一樣,我一直在網上到處發帖子。

到了12歲,我已經在管理和創作很多與Android、蘋果、Google、英特爾、輝達、AMD相關的論壇,以及Reddit上跟這些硬體話題相關的各種版本的塊。這就是一切的起源——我一直是個“發狂人”,一直在帖子表達自己的觀點,一直在回覆、思考、接受評論。

我們團隊裡的人——現在公司已經有90人了,我們甚至有專門的市場部門——他們常哭說:“迪倫,別再回覆網上那些亂噴的人了,你這樣讓公司視野很不專業。”心裡我還是有一個強烈的警報,只要在網上批評我,我就想到了。這也許不是一件好事,但確實如此。

整個青少年時期我都在管理這些論壇。等到開始賺錢後,我就開始做投資。後來我做了兩個量化交易員,然後創立了自己的公司,但這一路上我一直在不停地發帖。我曾去過匿名部落格,匿名發帖,但到了2020年,我對自己的工作感覺厭倦了——做量化交易員的幻滅感,就是說,你確實能賺錢,但並沒有想像中那麼光鮮。於是我基本上辭掉了工作,開始創業。

我當時並不確定這條路能走多遠,但我在自己搭建的WordPress網站上,用真實姓名發帖,內容主題科技、商業、金融、供應鏈等我最感興趣的領域——因為我是在一個小生意家庭里長大的。我在佐治亞州一個鄉下的旅館裡,我父母經營著這家旅館,就住在裡面。後來我們開了加油站,所以我內部就做生意,一直很喜歡商業。

後來,WordPress網站轉成了Substack,開始收費,寫遍了整個半導體和AI供應鏈。四年間我跑遍了世界各地,一年參加四十場會議——從AI研究者的頂級學術會議,到晶片供應鏈裡某種化學原料的行業小會,從伺服器到網路再到晶圓製造,上上下下整條棧我都去。有些會議只有三百人,全程日語只有五個人能用英語交流,我也去。有些是一兩萬人的大會,也去。參加了三屆之後,你就真正掌握了這個領域的語言,認識了裡面的人,能提出真正有深度的問題,整個生態系統就這樣在你腦海裡建立起來了。

SemiAnalysis的成長與團隊建設

Dylan Patel:我一直關注技術上的"拐點"——每當在會議上發現某個技術或供應鏈的變化,我就能判斷它會在供應鏈或財務層面帶來什麼影響。有些報告純粹是技術向的,金融界根本不關心;但有些報告就能說清楚這是個瓶頸、這是個拐點、這家公司憑藉下一代技術將拿下大量市場份額——而且我能比市場上任何人、任何對沖基金都更早說出來。

2022年Substack越來越大,我開始招人。頭兩個人是我在Discord上認識了多年的網友。第三個人是Myin,他以前在對沖基金工作,當時要搬到日本陪太太生活,是個"自由身"。我發過一篇文章,說記憶體是AI最大的輸家——因為AI伺服器用的記憶體量比普通伺服器少得多。在付費區末尾,我順帶說了一句"我在招人",Myin就來了。他是第一個有對沖基金背景的人,另外兩個是技術背景。他一加入,我們就開始建各種財務模型,業務也從純新聞通訊,逐步轉向資訊服務、研究報告銷售、資料集銷售。

從那以後,雪球就開始往下滾了。從2023到2024年,人數從2人增到7人;2024年底到2025年初,從7人到20人;2025到2026年,從20人到60人;今年又增加了30人,現在是90人。

SemiAnalysis最令人興奮的地方,在於人才密度——我不知道還有哪家公司能在這種聚焦程度上有我們這樣的專業積累。我們有來自ASML、應用材料、泛林半導體這些裝置公司的人,有來自英特爾、台積電、輝達、微軟、亞馬遜的人,有曾在OpenAI做模型的人,有在特斯拉做FSD的人,有在Cohere工作過的人,有專注資料中心的人,還有一個人在哈薩克建過發電廠——這種人才密度真的很瘋狂。大概一半的人是行業各層級的工程師,另一半是前對沖基金人士,或者從網上找到的、充滿熱情的聰明人,我在Twitter或Discord上發現了他們,說"你很聰明,來跟我工作吧",這套方法行得通。

現在SemiAnalysis有很多業務線:資料服務、諮詢、資訊服務、新聞通訊、媒體,還有即將舉辦的一場大型會議,是一場相當精彩的旅程。

輝達GTC現場與"算力之王"腰帶

主持人:說到勇敢的旅程,我想起一個印象特別深的時刻。WisdomTree 和 SemiAnalysis 已經合作了好幾個月了。今年三月的輝達 GTC 大會上,我當時在北卡羅來納州夏洛特市看直播,據說當時有 5.5 萬人線上觀看直播,現場體育館裡還有 2 萬人。

Dylan Patel:是的,成年人裡確實有 2 萬人。

主持人:黃仁勳在台上直接點名提到了你,說你說他“藏著掖著”某個數字,你做的圖表當時就直接投影在了台上。我當時——我猜是替你——都有點激動,看著全球市值最大公司的CEO在台上直接回應你的研究,回應你對他某些資料表述的質疑。能聊當時的場面嗎?聽起來你當時就在熱鬧的現場。

Dylan Patel:那一刻確實非常超現實。SemiAnalysis 做的其中一件事,是我們有一批工程師專門針對所有開源 AI 模型以及硬體做開源基準測試,這是一項相當不起眼的工作。我們和整個行業保持著緊密的合作關係,比如硬體方面,我們從 OpenAI、微軟、亞馬遜、Google、Coreweave、Nebius、Crusoe 等公司獲得了超過 5000一美元的硬體捐贈,甲骨文也捐贈了硬體給我們用於運行這些測試。

我們手上有八種不同型號的GPU:H100、H200、Blackwell,還有AMD的各流GPU;另外還有Google的TPU和亞馬遜的Trainium。我們每天都會用最新版本的軟體跑基準測試——因為每天晚上都可能有新的CUDA版本發佈、新的PyTorch版本發佈、新的驅動更新,或者推理引擎(比如vLLM、SGLang)出新版本。我們每天都會跑一條整條性能曲線,最快的“每秒生成代幣速度”與“成本實現”之間在各種最佳化場景下的關係,這是一套的基準測試系統。

黃仁勳最初發佈 Blackwell 時,曾獲得一些性能會提升 25 倍。當時沒人相信他——畢竟覺得這是黃仁勳,大家都覺得這是黃仁勳行銷話術。就連我們當時這麼想的,我們比較看好,覺得可能有 15 到 20 倍的提升,這是基於我們自己做的模擬模擬。我們有一套性能模擬器。但等我們真正做出 InferenceX 推理基準是測試系統之後,我們發現,在 DeepSeek V3上,布萊克威爾在某些指標上的性能其實比霍珀快了30倍。

結果一我就給他發了郵件——因為測試結果會自動發佈到開放原始碼的GitHub上,這是一個開源合作項目,輝達那邊的人也參與並共耗情況,但我特意告訴他:“嘿Jensen,2024年你發佈Blackwell的時候說是25倍,當時所有權都在噴你,我也噴了你,說不可能有25倍,最多15到20倍。”很多人當時說的是“頂多” 3倍”。所以我們的判斷其實相對樂觀,但結果證明我錯了——Jensen,你確實是“藏著掖著”了,實際上是30倍。

他後來把這個用起來了,我一開始不知道他會拿做什麼。後來聽幾位客戶提起,說Meta內部有個會議去,Jensen用這個資料來證明自己沒有“注水”,因為當時他正在介紹下一代晶片。顯然後來就發生了這一切,我完全不敢在台上被提起。

另外,我們在 InferenceX 裡做了一條領導,看起來像 WWE 摔角領導項目那樣,上面寫著“Inference King”(推理之王),我們把它傳達給了所有的合作夥伴——傳達了輝達、AMD,還傳達了 SGLang、vLLM團隊等所有幫助我們做基準測試、捐贈硬體的人,因為這是一個開放原始碼專案,我每年在工程師工資上投入了幾百萬美元,其他合作方也在硬體或工程師工資上投入了幾百萬美元並無償捐贈支援這個開放原始碼專案。

我把這條指示傳達了他,結果他在幻燈片上舉著這條指示,配上我們的圖表,整整講了五分鐘,說“迪倫說我藏著掖著,但其實沒有,我們的成績是最好的”。這真是個非常超現實的瞬間。他提到了我們的文章寬度比整場演講中提到的其他人或公司都要長,最後提到文章寬度能相提並論OpenClaw,這個產品今年確實火遍全球。所以那真是一個令人難忘的時刻。

AI需求側:ROI問題與Anthropic盈利

主持人: Dylan,你提到了相關開放原始碼的話題,我想引導轉向最近的一些行業動態,以及市場層面的一些討論。目前初步有明顯關於開源模型和閉源模型推理效率的討論,同時也引起了很多投資者質疑整個行業的投資回報率(ROI)。就在最近一段時間,我記得彭博社的一位經濟學家談話,很多公司的人工智慧項目可能正在“失敗”。而你之前提到你們公司在廣泛使用人工智慧,給員工提供大量的代幣使用增量,持續持續招人。我很好奇,你怎麼看待需求這個問題——這種需求推動了當前這一輪大規模基建投入,儘管過去一個月(最近這幾天)市場對相關個股的追捧其實填充了各種補充端的否定因素。

Dylan Patel:關於這個“投資回報率”的核心問題——公司到底能不能從AI上賺到足夠的錢?這種現狀能否持續?利用AI的公司是否真的獲得了價值?——我覺得可以從幾個角度來拆解。

首先,Anthropic目前是自由現金流為正、且已經實現盈利的,就是這樣的表現。4月份賬本結算結算後,公司實現了盈利,自由現金流為正;5月同樣如此;6月看起來很明顯這個趨勢,雖然月度賬目尚未完全清零,但三個月裡結有兩週確認盈利並同時為正。他們經常性的盈利性收入已經突破500億美元ARR,表現相當出色。這是一個可愛的一面——Anthropic正在“印鈔”。當然也有很多公司還沒有到這個階段,但正在朝這個方向發展,比如OpenAI的隨著Codex採用率的提升以及其他產品的增長,也開始出現拐點。Anthropic的盈利能力都在不斷提升,毛利率非常高,超過70%。

但這只是硬幣的一方面。另一方面,你提到的,是公司在AI上的支出問題。就拿我們自己舉例,我們把這個叫做“年化經常性支出”(ARS,年度重複支出,區別於ARR)。去年11月、如果克勞德程式碼真正移植,我們的年化經常性支出還不到10萬美元——當時我們之前給每個員工都訂閱了各家模型的高級套餐,比如ChatGPT的200美元檔,如果有人想用 XAI 或 Claude,我們也提供,但主流做法就是給所有者開通 OpenAI 的 200 美元套餐。這是去年 11 月的情況,我覺得當時我們已經走在前面了。

但隨著 Claude Opus 4.5、4.6 等版本的推出,Claude Code 真正迎來了拐點。到今年 1 月底,我們的年化經常性支出已經達到 400 萬美元,因為這完全是開始大量使用 Claude Code。而現在,這個數字大約是 1100 萬美元。如果按周支出乘到 52 週來算,目前平均水平大概在 1100 萬美元左右,最高的時候達到過1400萬美元。這個數字會因為大家當前在做工作而大幅增長,但目前大概是一家 90 人公司每年 100 萬美元左右的 AI 支出。這個數字確實相當驚人——我們在 AI 上的支出已經相當於員工招聘支出的三分之一左右,而且隨著 Methos 等新模型陸續推出、性能不斷提升,到年底可能會達到二分之一。

這是一筆巨大的支出。問題是,投資回報率如何?我認為回報是巨大的,因為我們能夠因此建構產品、提升銷售、提高公司每個人的效率。所以我看到了實實在在的回報,但我理解很多公司確實在質疑:如果一個優秀的開發者年薪 30 萬美元甚至更高,那麼在 AI 上的支出正在逐漸逼近 1 :1的比例。對於非開發人員來說,支出比例會低一些,但即使在我們公司,很多消耗最多的人恐怕是那些不會寫程式碼的人——他們只是不斷地跟模型說明需求,反覆迭代,最終得到想要的結果。

所以我們看到最後員工的支出達到高峰,很多公司現在都在合理地質疑:“我們的季度人工智慧預算在第一、第二季度就花光了,接下來怎麼辦?”問題是,到底是削減了人工智慧支出,還是從其他地方削減了?我很多看到公司選擇從其他方面削減,比如砍掉歷史上一直在用的其他SaaS產品,理由是“我們剛剛可以加速增長”“人工智慧支出可以先扛一扛,這就是人工智慧”確實,隨著使用量的激增,半年前需要花多少錢做的事,現在成本已經大幅下降了——當然現在用AI做的事情範圍也比半年前要廣了。不同公司採取的策略各不相同:有的甚至選擇裁員來省錢而不是削減AI開支,有的則限制選擇AI使用,但我認為即將在生產力提升和產品開發能力上被甩在後面。

模型選擇的經濟學:更便宜的模型 vs. 更新的模型

主持人:明白了。那麼,緩解增量成本的一種方式,是選擇更便宜、有時智能程度稍低的一些模型,而不是總是使用最前沿的模型。這方面的討論雖然還處於早期階段,但我很好奇:像你們這樣的公司,是否會認為某些應用場景更適合用類似 DeepSeek V4 這樣的模型,而對於需要更高智能水平的任務,需要使用成本更高的模型?這是否也是你們決策考量的一部分?

Dylan Patel:對某些場景來說,這確實是決策考量的一部分。這裡需要把AI工作負載回顧兩類。第一類是“AI整合整合進現有流程”——比如客戶發來文件,我需要檢查其中的某些內容,把它輸入模型,模型檢查完成就結束了。在這種場景下,我只需要達到某些質量模型,之後就停止追求模型升級,轉而通過等待更新、更便宜的模型來降低成本。我們觀察到AI模型的成本幾乎每次都可以回歸60倍——相同水平,一年後的成本就能降到六十分之一。DeepSeek此時讓大家如此震驚,是因為它比GPT-4便宜了600倍,而這中間大約經歷了兩年時間,相當於60倍乘以60倍再乘以某個係數,最終達到了600倍。所以曲線大致輪廓終結了“每年降低60倍到90倍”這個區間,DeepSeek V3質量GPT-4 兩年內降低了 600 倍。如果你的工作流程已經把 AI 嵌入其中,那策略就是先達到一定的質量水平,之後轉向更便宜的方案。

第二類工作負載是“AI助手”型的,這方面其實有一個常見的誤解。如果是我日常工作中讓模型幫我尋找資訊、解決問題,成本最佳化的方式其實不會換用更便宜的模型,而因為往往是使用最新的模型。最新模型往往效率更高:比如Claude Opus 4.6完成一項任務可能需要10萬個Token,還可能需要好幾輪來回溝通,持續10分鐘;而Claude Opus 4.8完成同樣的任務可能只需要四分之一的代幣(2.5萬個),而且可能來一次就搞定了。這樣一來,成本反而相反,因為生成的代幣數量少了,我花費的時間也少了。

所以對開發者或從事工作的人來說,降低成本的方式並不是換用更便宜的模型,而是究竟需要反覆偵錯、覆蓋多代模型才能完成的任務,逐步變成一次迭代甚至一次直出(one-shot)才能完成的任務,用更少的 Token 完成同樣的工作。從 Opus 4.6 升級到 Opus 4.7這時,我們的成本確實先下降了大約一週,然後又反彈上升,因為大家開始更地使用它了。間隙會反彈,是因為人們需要適應新的工作流程——到底做什麼的工作現在做完了,然後“再多做點其他”,於是用量又上去了。同樣地,Opus 4.7升級到4.8這時,成本也先恢復了大約一週半,又恢復了,因為大家意識到“現在我可以做更多的事情了”。所以你必須把生產力提升和成本一起降低。

對於“AI助手”這類非常場景,Token效率其實很關鍵,這也是Anthropic能夠在這方面領先OpenAI的原因之一。實際上,OpenAI的模型在一些極限場景——比如頂尖的科學研究、數學、程式碼任務上——往往能完成Anthropic模型做不到的任務,但執行階段間是三倍,Token消耗是四倍,因此成本要高,人機之間的反饋循環也不夠快,從客戶體驗角度來說反而更差。因為“讓回來模型是否做一件事,然後檢查完成”是一回事;而“我有四個小時要完成一項任務,是模型一次呼叫才能持續四個工作,或者需要來回呼用四小時”,這是另一回事——事實證明,在這種人機反饋循環的場景下,人性化的模型代幣更高的效率,反而做得更快更好。這也是為什麼我們目前仍然主要是 Anthropic 的重度使用者。有些任務大家會用 OpenAI,通常是那些可以“掛機過夜”、消耗即時搜尋的任務會破解 OpenAI 的 Codex,但大多數任務大家還是用 Claude Code 所以關於模型和代幣效率的問題,成本其實很難一概而論:有些任務是“先固定模型質量,等成本下降自然”,而另外一些任務“我就是用最聰明的模型,因為它反而更省”。

記憶體:從大宗商品到超級週期

主持人:我想把焦點轉向硬體方面。我知道你們今年早些時候在通訊裡發過一篇文章聊記憶體——我一直是你們通訊的忠實讀者。記憶體市場歷來都有週期性,大概是18到24個月一個上行週期,18到24一個月一個下行週期。而目前的情況是,幾乎所有和資料中心相關的貨物都遇到了狀態——需求已經不是“拿不到貨”的問題,而是“要等多久才能拿貨”的問題。以你在硬體領域的經驗來看,記憶體這種歷來被視為大宗商品化產品的品類,未來會有什麼變化?

Dylan Patel:我不是說記憶體週期性會消失,肯定週期還會存在。目前我們正面臨一個超級上行週期,未來也一定會有下行週期,而且下行時會相當劇烈。但即便如此,從波谷到波谷來看,整體依然是增長的。

我認為現在關於記憶體其實其他一些真正值得關注的,是行業格局本身正在發生轉變。歷史上,牽引上行週期大概意味著市場增長50%,對於像記憶體這樣的大宗商品市場,定價彈性加大,相關股票可能會翻兩三倍。但這一次不一樣:幾年過去,整體開支已經翻了好幾倍,而且繼續翻倍。同時,各個終端市場的需求也不同——價格記憶體已經漲了差不多4倍,未來還可能再漲2到3倍。再加上產能的增長,所以這些股票將會急劇激增,之後自然回落。

我認為這個波真正令人興奮的地方,不僅僅是“市場在暴漲、個彈性大宗商品”這麼簡單。我們在2024年就寫過一篇文章,當時OpenAI發佈了o1,第一個推理模型,它開啟了新的誘發推理模型的浪潮——OpenAI、Anthropic、DeepSeek等公司都在讓TD模型執行更長的智能體(Agent)任務。當時我們注意到,這是o1出現後,工作負載模式發生了顯著的變化。

用ChatGPT聊天時,你傳送一個提示詞,可能是50個詞也可能是500個詞,模型給你一個回覆,這個來回中的上下文長度只有幾千個Token,也就是說2000個Token。這意味著在做推理時,每生成一個Token,都佔用全部權限重讀入晶片,把全部上下文讀入晶片,處理一個Token,然後再重複這個過程——重新讀取一個內部和權重。這個過程被稱為KV快取(KV Cache),它建構了所有Token之間的關聯關係。

脈動的,無論上下文長度是 1000 還是 10 萬,模型權重部分的記憶體讀取需求是一樣的——相反,權重端的記憶體密集度不會因為長度變化而改變。但 KV 儲存端就不同了:上下文完全是 1000 個 Token 和 10 萬個 Token,對記憶體的需求差異巨大,重構所需的計算量大致相當。伺服器本身可以做一定的伺服器最佳化,計算成本不會因此暴漲,但記憶體成本會激增。

所以我們在2024年12月那篇關於o1的文章裡就指出,隨著預演的縮放法逐步讓定位強化學習驅動的縮放法,o1是一個重要的拐點,我們判斷KV儲存需求將因為推理模型的興起而爆炸式增長,記憶體將最大。我們是在2024年12月提出成為這個判斷的,2025年年也多次強調對記憶體的看好。但真正的關鍵要素是今年(2026年)1月,我們發表了很多一篇文章:當時市場上人們認為記憶體價格已經漲了50%,是不是已經見頂了?還需要不需要繼續看好?我們當時明確表態:不,市場還沒有搞清楚問題。

未來三年記憶體產能每年只能達到20%到30%,而需求卻在翻倍。這意味著記憶體價格會持續走高。那些價格彈性較低、無法適應漲價的使用者——比如智慧型手機、筆記型電腦廠商,會因為成本飆升而被市場市場,產能會因此讓位增長給AI。數量,會不斷上漲,直到那些非AI使用者被壟斷市場前景,因為產能已經跟不上需求。所以我們當時的核心判斷是:記憶體不是短期的短缺,而是會持續數年的結構性短缺。

從今年一季度到二季度,記憶體市場確實是一路高歌猛進,雖然中間也有過因為某些偶發因素單日下跌7%、8%的情況,但整體走勢一直是向上的。雖然這不構成投資建議,但我們認為這個趨勢還會繼續,因為價格還會持續上漲——我們已經看到一些中國的中低端智慧型手機廠商的出貨量已經超過了40%,但高端市場目前還沒有明顯受到衝擊。明年iPhone的價格必然上漲,MacBook的價格也必然要上漲。如果現在MacBook或iPhone價格只漲100美元,市場不會有意外反應,但記憶體價格會持續走高,直到智慧型手機價格不得不上漲數百美元,而不是100美元。

這個過程會一直持續到市場找到新的平衡點——AI獲得了足夠的產能供給,消費電子和移動裝置市場被壓縮到一定程度的狀況。當然,消費者還是要買新手機、新電腦的,所以他們仍然會購買,但因為記憶體產能增長跟不上需求,整個市場需要重新找到一個新的平衡點。

從整個產業鏈來看,真正重要的是:不同的定價彈性不同。比如台積電的定價就不是那麼有彈性——他們是一家非常注重長期合作關係的公司,願意每年溫和提價5%到10%左右。而記憶體構成一個大宗商品市場,價格應該完全由現貨市場和合約市場的供需平衡。所以你會看到這兩類公司在定價機制上異構的表現,未來決定記憶體的價格腰也可能斬——因為記憶體這類產品根本不會長期維持85%的毛利率。雖然目前記憶體毛利率還沒有到85%、90%,但正在朝這個方向發展,之後自然也會回落到70%甚至更高的水平。所以記憶體價格會經歷這樣的週期性波動,而像台積電、ASML這樣的公司,定價變化就沒有那麼明顯。

不同階段的波動幅度取決於兩個因素:一是AI市場需求向該市場活躍的比例——供應鏈中不同的波動,每一美元AI支出可能只帶來1美分的收入,也可能帶來5美分的收入;二是該細分市場的競爭格局——是壟斷或寡頭壟斷市場,還是競爭充分的大市場?定價是相對穩定、以長期協議主導,還是完全由供需的決定決定大宗商品市場?這些因素大家共同了記憶體、以及現在在的MLCC(多層陶瓷陶瓷頭)、PCB 銅箔等各種解析是否會成為下一個“後續熱點”。你會不斷看到網上冒出各種“這是下一個聲音”的說法,但真正重要的是:這個需求的出現力度到底有多大?這個市場需求是翻倍、增長50%,還是翻兩番?以及基於市場結構,價格到底能漲多少?才是這些真正的供應鏈走向的關鍵因素。

CPU僅是“補賬”行情,長期主導仍是AI晶片

主持人:如果按照你剛才描述的六大分析框架,市場似乎每年都會“驚覺”某個新的潛在暗示相當於。今年早些時候是 OpenClaw 的爆火,讓大家開始關注 AI 智能體(Agent)的世界各種可能性。我很好奇,按照你剛才描述的六大框架,你怎麼看 CPU 市場?過去三年裡,AI 領域幾乎沒人提“CPU”這個詞,但今年 CPU 卻成了全世界都在討論的話題。

Dylan Patel:是的,關於CPU這塊,我們其實在去年11月的機構研究報告中就開始大量討論了,原因是OpenAI和Anthropic當時開始和亞馬遜、Google、微軟等公司提出協議,購買這些公司雲平台上所有的CPU資源並租用。從去年年底到今年,CPU需求一直在持續拐點增長。

先說說原因。AI早期是訓練還是推理,推理主要是短上下文的場景,主要依賴的是計算力和網路能力。但隨著預訓練模式向強化學習的轉變,以及聊天式推理向智能體(代理)推理的轉變,CPU需求出現了一個很大的拐點。

預訓練本質上就是把整個網際網路的資料集“喂”給模型進行訓練;而強化學習為什麼是模型自己生成合成資料或推理得分,然後得到一個“環境”中去驗證。這個環境可能是運行程式碼單元測試,可能是一個模擬網站的沙盒環境,也可能是模擬某個工程系統或其他平台的沙盒——比如購物等你在網際網路上會用到的場景。這些環境驗證過程需要大量的CPU資源。而在預訓練階段,Token處理本身並不需要太多CPU,真正的積分計算力是“環境驗證”這個階段——比如我生成了這些Token,接下來要判斷它們在Python編譯器、C語言編譯器或者某個網站裡是否有效,是否符合邏輯。

如果是一個電商類的智能體工作流程,模型需要不斷測試各種操作,這些都需要大量CPU。反過來看即時推理的場景:以前做聊天式推理,比如我問一句、模型回答一句,互動就結束了,也許我還會追問幾句話,但也到了這樣的結局。但現在的智能體工作流是模型在不斷進行“工具呼叫”(Tool Call)——比如去搜尋資訊、查詢資料庫、呼叫Python直譯器編寫一段程式碼來驗證結果,或者編寫程式碼並編譯部署。這些智能體工作流程需要不斷地與真實世界進行互動,因此對CPU的需求會越來越大。

以前是人和模型互動——我告訴模型一件事,模型給我一個回覆,我讀完之後自己複製貼上去用。現在把模型和網際網路世界在互動,這個中間就需要更多的計算,更多的AI參與,也就意味著需要更多的CPU來回處理這些互動結果。所以無論是強化學習還是智能體工作流,都需要大量的CPU資源。

問題來了:需要大量CPU,那個市場結構是怎樣的呢?目前市場上的主要玩家有Intel、AMD,ARM現在也開始推出自己的CPU,因此現在ARM的股價表現非常亮眼,因為它是這個市場裡頗具競爭力的新進入者。另外,亞馬遜、微軟、Google都在推出自研CPU,其中亞馬遜目前是這方面的領跑者。輝達也在自己的CPU中。

所以現在市場上有很多競爭者,但實際上直到兩年前,整個市場基本都是英特爾和AMD的天下。現在亞馬遜已經獲得了相當大的市場份額,輝達和ARM也開始獲得更多支出。最終的結果就是:英特爾能夠再提價,AMD也能提價,總共都提高了價格,需求也大幅增長。亞馬遜不是“生產晶片賣出去”,而是“生產晶片再租出去”,所以從能CPU上獲得極高的利潤率——他們的Graviton CPU租用需求只是非常旺盛,訂單量大幅增加。輝達之前把CPU搭配GPU一起賣,現在開始單獨銷售CPU(比如Vera系列),他們給出的CPU業務排序為200億美元。對輝達來說,這其實還算不上什麼大數字,只是幾個百分點的增長——開玩笑。但對英特爾、AMD、ARM、亞馬遜這些公司來說,這塊透明(據說包括住房收入而不只是銷售收入)的意義就非常大了。

主持人: Dylan,連接CPU這個話題,我聽說智能體的CPU在某些方面和傳統CPU有所不同——核心架構更裝備智能體的工作負載,這是我記得黃仁勳在談到Vera CPU時提到或暗示的。另外還有很多關於“GPU與CPU”配比”的討論,這顯然也反映了需求方向的變化。能否詳細講講這幾個方面的情況?我覺得這個概念在宏觀層面大家都能理解,其中一些技術細節可能大家都忽略了,我也不確定這到底是純粹的市場行銷,還是確實有其事。

Dylan Patel:智能體工作流對 CPU 的需求其實差別很大。有些工作流是這樣的:模型運行後,把所有生成的 Token 傳送給某個 CPU 工作流處理,然後模型香料就要等待 CPU 處理完再返回結果,模型才能繼續工作。這裡的關鍵問題是:模型攻擊所在的計算單元在等待 CPU 響應期間是否會“停擺”?有些情況下會,有些情況下不會。如果會停擺,那麼運行模型的計算資源可以白白閒置等待 CPU相應的,這種情況下CPU的架構設計就需要有很大不同——基本的設計權衡就是“要更多的核心”還是“要更快的核心”。

CPU架構設計有一個規律:如果把一個CPU核心做大一倍(意味著晶片上核心數量減少一半),性能並不會因此翻倍,單核性能可能只會提升50%左右。當然實際的工程權衡遠比這個複雜,但這是一個簡化的理解方式。

以輝達的Vera CPU為例,它的核心數不到100個,但每個核心的速度比AMD的核心更快。AMD目前旗艦CPU有256個核心,兩者核心數量差距很大,但輝達的單核性能雖然更快,也沒有快到AMD單核的兩倍。這就存在一個設計權衡:對於那些“AI計算必須等待的CPU”響應才能繼續“的工作負載,你會希望核心少一些、但單核速度更快,提升總的多核性能較低,也能保證不會經常因為等待CPU而“卡殼”,因為這類任務需要極其完成這件事,而是需要“現在立刻完成這件事”。所以在這種“AI算力會因等待CPU而停擺”的場景下,我需要需要快速的單核性能,願意犧牲多核性能。

另一類智能體工作流則不同。比如我們團隊日常使用 Claude 的方式——我們一年花 1100 萬美元在 Claude 上,這是怎麼用的呢?我在呼叫 Claude,Claude 在處理一批 Token,但它不僅僅是服務我一個人,而是把成千上萬名使用者的請求而“資源”(批處理)放在一起,覆蓋所有算力資源進行處理。如果我收到回覆後需要等待自己(或某個 CPU)核心)去實現落地,這並沒有關係,因為算力本身現在持續運轉,只是不是為我一個人服務,而是在為其他使用者服務。所以如果CPU速度慢一些,但數量足夠多,這就是完全不同類型的任務。

還有一類區別是:是“AI活躍互動使用”,還是“AI生成內容之後被部署”?值得一提的是,如果看全球GitHub提交量的資料,相比去年已經是數倍級增長——不是簡單的增長10%或50%,而是數倍增長。這意味著大量程式碼正在被生成並部署到世界各地,很多程式碼質量參差不齊,但很多確實已經上線了。這些程式碼部署上線後在CPU運行上,而且大多是相對標準的程式碼——可能只是一個網頁爬蟲,可能是某種分析引擎,也可能是某種業務流程自動化工具,這類應用不一定需要運行在用超高性能的CPU核心上,高性能更高的CPU核心就夠了。

所以從整個連續譜來看,輝達打造了性能最強的CPU核心,但如果目前“單顆晶片上的核心數量×單核性能”這個綜合指標,輝達其實並不佔優勢。而AMD和亞馬遜則擁有更多的核心數量(數百個),但單核性能相對較低。ARM也屬於這一類。所以則關鍵在於,具體負載能力對應這個連續譜的工作位置——有些工作負載確實需要Vera這樣的產品,有些更適合Graviton或AMD的CPU。所以我認為這個問題並不像表面看起來那麼簡單。

對於你提到的“配比”問題,CPU需求持續增長這一點是毫無爭議的事實。我們是去年年底的機構研究報告中,以及今年1月的通訊文章中提出這一判斷的公司。自那以後,一些CPU相關個股確實一路飆升——ARM股價漲了好幾倍,英特爾、輝達也是,英特爾股價漲了好幾倍,AMD也一路上漲,這些股票都表現強勁。

但現在,那些其實並不真正懂技術的賣方分析師,開始胡亂編一些說法,認為CPU與GPU(或者說CPU與AI算力)的配比正在向CPU一方嚴重傾斜,這個說法是錯誤的。我再強調一下:如果你看一套滿配的Blackwell系統,每顆晶片大概是5萬多美元。如果按1 :1的組態CPU,CPU大概是每顆5000美元左右。 3000億到5000億美元,那麼對應的CPU銷售額大概只有300億到500億美元左右。

這也是大家容易忽略的一點:沒錯,CPU這個細分市場確實在快速增長,但消耗資金支出仍然流向AI算力和記憶體。這個市場之前被低估了,現在定價更加趨於合理了。大家需要認識到,CPU需求不會無限期地持續超過AI算力的原來,這就是一次“再平衡”的過程。

具體來說,在2023、2024年,市場賣出了數百萬顆AI晶片,但配套的CPU卻很少。CPU需求突然之間出現拐點,配比需要從原來的水平調整到應有的水平,現在的“追趕補課”模式需要——採購大量CPU來補上過去幾年積累下來的算力缺口,加上目前正在新增採購的算力大家所要求的需求。一旦把歷史積壓的這批AI晶片對應的CPU缺口補齊了,這部分需求就會消失,之後限制下增量需求。

舉個例子,假設配比是1顆CPU 2顆GPU,每顆GPU 5萬美元、每顆CPU 5000美元,那麼每花10萬美元在GPU上,只花5000美元在CPU上——這個比例其實算不上多好的市場動力,雖然過去已經好很多了。但如果考慮到“過去三年拆遷的上千萬顆GPU裡,很多回覆根本沒有對應的CPU”,那這部分5000美元的缺口必然會帶來巨大的補庫存需求。

這就是我們目前正在經歷的情況:一方面是配比結構性上移,另一方面是歷史積壓的巨大缺口正在被逐步補齊,所以你會看到需求異常旺盛,但這種旺盛最終會被消化,進入一個相對穩定的狀態。然後我們目前正處於一個CPU的“小週期”交易。

共封裝光學CPO量產推遲至2029年,銅纜受益窗口期延長

主持人:這些資訊非常有價值,有很大幫助。接下來我想聊聊網路這個話題,轉向產業鏈的另一個階段。我覺得很多這個話題最近也引起了投資者的關注,尤其是當他們深入研究光模組供應鏈以及其中的一些否定相關時。我們一些預測認為,共封裝光學(Co-packaged Optics,CPO)雖然被密集討論,但真正的大規模部署可能到2027、2028年今年左右你怎麼看“能用銅就用銅、必須用光才用光”這種理念,以及從光學向銅連接過渡(或者說反過來)這個趨勢?黃仁勳在Computex上也談到了這方面的內容,也有很多討論都在關注Marvell這樣的公司。關於光學技術,以及未來兩個資料中心網路架構的演進方向,你怎麼看?

Dylan Patel:很明顯,隨著模型規模不斷增大,如何跨節點運行模型、如何模型,都涉及光學技術中很多不同的領域。首先是電信光模組,像Ciena這樣的公司股價一直在上漲,另外圍繞著它們的一些連接供應鏈公司。再看資料中心內部通訊(Datacom),晶片間通訊,目前銅連接和光連接兩個方案並存,這塊都在快速增長,網路相關的支出已經比其他任何產品類都要快——網路在AI晶片相關總支出中的活動,正在從不到10%上升到10%以上,等到CPO真正落地後,該活動會進一步提升到20%到30%。

因此網路相關的支出將大幅提升,但另一方面,CPO是行業內一個非常巨大的技術躍進,雖然現在大家已經普遍認識到CPO的重要性,但我認為目前市場情緒有些過於樂觀了。依我看,CPO不會在2027年實現,真正大規模量產要到2028年末,2029年今年最重要的共封裝光學在“橫向擴展”(Scale-up)場景中真正放量的時間點。這裡面有很多製造方面的問題——如果現在能夠以合理的成本進行量產部署,大家肯定都能用,但實際上這非常困難:製造產能跟不上,良率也達不到標準,組態晶片的設計也存在沒有真正進行最佳化。這是一個非常複雜、涉及很多的量產爬坡過程。

所以大家會長期維持銅連接方案。比如輝達的Rubin(下一代GPU)全部採用銅連接,Rubin Ultra在GPU層面也還是銅連接,直到再下一代Vera Rubin Ultra後面的Feynman才會用上光連接——而且我們連Rubin都還沒開始出貨,所以現在離共封裝光學真正應用在GPU上,還有好幾代產品的差距。交換機(Switch)層面的共封裝光學會比GPU該層面更早落地,但更進一步,隨著供應規模不斷擴大,每顆GPU所需的光數量或有源電纜(Active Electrical Cable)數量也增加。

我們看到這個領域正在發生顯著的結構性變化。比如上週一,我們向機構研究訂閱客戶發佈了一份報告,討論的是一個階段性的判斷——不是說終止市場趨勢會改變,我們一貫支援CPO長期來看必然會發生,銅連接終將被取代,從中期來看,我們其實相當看好銅連接,也看好非CPO形式的光模組,而對CPO本身則相對偏向剛性,但因為我們看到了最基本的一些晶片較晚的情況——比如Feynman目前並沒有全面採用CPO。

正因如此,像安費諾(Amphenanol,生產背板連接器和線纜的公司)這類銅連接器相關廠商,未來幾年的表現可能會比此前預期的更好,因為我們之前認為CPO會更早放量,但現在時間線被推遲了。供應鏈裡經常會出現這類變化,但整體來看,光學這個領域,如果你現在閉上眼睛,五年後開啟,市場規模一定會很大——這部分預期已經在很多股票價格里有所體現,但也有一部分還沒有被充分定價,我認為局部還存在一些錯配。

這也是我們和你們團隊一直在合作研究的內容:如何權衡不同技術路線的比重,比如“受益於CPO的光模組廠商”與“非CPO光模組廠商”之間如何組態,傳統光模組與銅連接方案之間如何組態,銅連接方案其實還有很長的發展空間,銅連接產業裡不斷創新,進一步延緩了CPO的替代節奏。歸根結底,採用光連接的整合成本遠在電訊號傳輸,只有當電訊號傳輸距離決定、必須借助中繼器或光模組時,才會轉向光連接方案。這中間存在一個消彼長的權衡關係,CPO底層會發生,但目前來看,時間線正在被推後。

電力與資料中心能源

主持人: Dylan,我們大概時間也差不多了,聊了模型、GPU、記憶體、網路這麼幾個話題,如果不聊資料中心這個“房間裡的大象”——電力問題,未免有些遺憾。我記得你在通訊文章裡寫過關於直流電與交流電的一些內容,也提到過一些內容的技術要點。

Dylan Patel:資料中心的建設規模確實非常龐大。今年全球預計部署20吉瓦(GW)的資料中心產能,明年這個數字會增長到30吉瓦,屆時增長50%,再往後一年會達到50吉瓦。資料中心容量的增長非常迅速。

這中間存在很多局部的錯配和矛盾解決。我能源是其中最大的否定因素認為之一,另外還有政治因素,第三是建設施工層面的關鍵因素——資料中心的建設、頂層和備案流程在政治層面確實存在不小的影響,也有人在嘗試阻止後續項目推進,但歸根到底,真正否定整體層面的核心因素還是能源。

能源問題可以拆解為幾個階段:發電(在哪裡生產電力)、輸電(如何把電力從發電端傳輸到資料中心)、以及電力轉換(因為傳輸過來的電力形態,晶片本身是無法直接使用的,需要經過轉換才能被晶片消耗)。轉換完成到底流程的?

在這三個環節中,我認為都值得看好的方面。輸電階段是最難看的一個階段,因為建設更多輸電網路容量在監管和政治方面存在相當大的難度,加上電力公司的地方壟斷營運模式——如果一家電力公司制定了一條輸電線路,成本必須由所有使用者共同分攤,而不能只讓某個特定使用者承擔,這個中間存在各種奇怪的制度錯性位,導致良好的電網內容相對困難。

但在發電和轉換這兩個前期,倒是有一些非常轟動的進展。發電方面,顯然電網整體的發電量在增加,同時也出現了一個明顯的轉變趨勢——越來越多的發電正在轉向“就地為資料中心供電”。我們預計再過,幾年內為資料中心新增用電需求的電力中,將有一半是在現場(現場)電力,而不是從電網外部過來(場外)。下面,“表後發電”(背後)米)模式正在快速崛起。

我們團隊的“表後追蹤發電模型”裡能明顯這個趨勢。我提到過團隊裡有一位同事曾在哈薩克建過發電廠,她叫艾莉,目前領導著能源建模團隊,我們一直在追蹤整個電網——每一個發電資產、每一條輸電資產,以及所有的負荷資產,還有表發電的相關情況。

我們發現表後發電正在經歷巨大的增長,雖然在安東尼和監管層面面臨著尖銳阻力——比如有人不願意批准排放許可,或者不願批准新建燃氣管道,我們在甲骨文(Oracle)的某個資料中心項目上就看到過類似的情況。這裡面有很多具體的博弈過程,但總體趨勢是,表後發電正在快速增長,很多是通過雙燃料聯合循環燃氣輪機實現的,供應商通用電氣包括Vernova、三菱、西門子等,另外還有很多其他類型的能源來源,比如往複式發動機、工業燃氣輪機、各種類型的柴油發電機,甚至有人把火車發動機、船用發動機、卡車發動機改造用於資料中心發電。

我們看到這個領域正在支援大量創新,不是說我們缺乏工業產能——美國每年能生產數百萬台工業往複式發動機(靠靠燃燒燃料驅動旋轉的發動機),把這些發動機從柴油動力改造為燃氣動力其實相對容易,甚至繼續用柴油也沒有問題,然後接上一台電動機反向驅動發電。這種方案是可以大規模複製的,預計將會超過10吉瓦規模的資料中心項目,會採用類似的“柴油卡車發動機改燃氣發動機”這種方案——這個在生產改造起來相對簡單,接上電動機反向驅動發電後,就地部署到資料中心,一個資料中心背後可能有幾台這樣的發電機組,同時還需要大量來自僱傭汽車維修行業的技工,因為這些裝置經常需要維護保養——大家會不斷巡檢維護這些柴油發電機,保留一定的發電機,這樣某台裝置出故障維修時不會影響整體供電能力,當然中間也需要組態電池來緩衝,避免資料中心負載的損壞這些發電機組。

所以看到我們整條“表後發電”的供應鏈正在形成,這非常令人興奮。另外,大概再過兩年左右,“太陽能增儲”的成本可能會低於燃氣發電。當然太陽能增儲的供應鏈本身也一定具有挑戰性,這取決於你對存在可靠性的要求——如果只需要儲備足夠支撐過一晚的發電,成本會比較低;但如果撐過三天(因為可能連續下雨三天),那對儲能容量的要求就完全不同了,這涉及到你對供電可靠性等級(幾個“9”)的要求。但得益於中國在製造業上的優勢,太陽能加儲能的成本正在以驚人的速度下降,未來某個時間點會變得氫氧化。

再往後看,還有太空資料中心——這種方案甚至都不需要電池,只需要一塊太陽能板就夠了。 所以整個發電方案的連續譜非常豐富:從“把柴油發動機改造成燃氣發動機”這種相對“親民”的方案,一直到“乾脆把晶片送上太空”這種最極限方案都有,中間蘊藏著大量的商機和收音機的創新空間。

這也是為什麼 SemiAnalysis 目前最大的研究板塊——很多人可能以為是半導體——其實是資料中心和能源。我們內部把這個團隊叫做“資料中心、工業與能源”(資料中心、工業和能源),簡稱為 DEI,其實我們內部的一個文字梗,團隊內部的標籤就叫“DEI Team”,由 Jeremy 領導,這個名字也是他想出來的。

資料中心、能源和工業這個板塊,是我們目前規模最大的研究方向,因為我們在追蹤每一個資料中心和每一個發電站的動態。當我們選出某個延期項目,或者某家公司本季度將有多少資料中心投入營運,這種顆粒度的資訊是全球其他機構做不到的。這也是這個板塊能成為我們最大業務方向的原因——每個人都對這個領域感興趣:Google關心元能組態多少產能,元關心OpenAI能夠組態多少產能,同時這些公司也都在關注整個供應鏈的產能情況和歸屬,投資者自然也非常關注這個方向,這是我們目前最大的一筆資料資產。

我要說明的是,這是一個高度分散的市場。相比之下,記憶體市場只有三家主要廠商,格局相對簡單;AI半導體裝置市場也只有幾家玩家;半導體製造裝置市場也只有幾家主要廠商。但在資料中心與能源這個領域,供應鏈裡有上千家公司,做著各種各樣的細分產品,僅資料中心建設塊就有幾十家公司在做,此外還有幾十家公司在做獨立電力生產業務(IPP)業務,或者提供表後發電服務、電池備份服務等各類業務。這是一條非常複雜的供應鏈,充滿了動態變化,我認為其中蘊藏著大量創新。

所以資料中心雖然會持續是否定因素,但從另一個角度看,它其實又不完全是否定影響,依賴你願意“瘋狂”到什麼程度——就像我說的,你完全因為拿卡車可以啟動提升,組建一個汽修技工,把這樣一個“廠區”運轉起來,雖然不是最理想的方案,很多人會說“這也太直接了,可靠性就高了?”,但這確實有人在下面,而且一個方案確實能跑起來來——雖然會很折騰,但能用。同樣地,一直到“直接把晶片送上太空”這種極端方案,出現起來也很艱難,同樣能實現。所以針對資料中心這個極限問題,無論是選擇“往深處做了”,還是選擇“送上太空”這種最方案,市場其實都有的解決方案,但供應鏈的其他回應就沒有這樣的靈活度,我認為這就是這個市場充滿如此流暢的原因——你會看到相關公司股價大幅波動。

除了發電和輸出電,還有轉換階段——如何把電力從生成或傳輸時的形態轉換成晶片真正需要的形態,這背後也是一條整條供應鏈,涉及IGBT、碳化硅、各種類型的MOSFET、氮化鎵(GaN)MOSFET等等,還涉及從12伏到54伏、再到800伏伏直流電的轉換路徑,以及這背後的轉換供應鏈。固態變壓器技術的創新演進會帶來什麼變化? 不間斷電源(UPS)(UPS,Uninterruptible Power)供應)方面還有什麼變化?電池備份、超級電容等各種平滑電力波動的技術方案——如何把那樣的“髒電”(劇烈性增大的原始電力)轉換成相鄰晶片所需要的那種“超淨化”,但同時用電需求本身也不穩定的電力?如何匹配這中間存在的差異?整個轉換過程中的供應鏈非常令人期待。

我們還專門就 800 伏直流電這個話題寫了一篇部落格。另外,最近我們也向訂閱客戶介紹了輝達在這方面出現的一些延期情況——比如上週 Rubin Ultra 的 Kyber 平台不再支援 800 伏直流方案了。那麼這對供應鏈意味著什麼?意味著相關細節會往後推遲一些。

主持人:Dylan,非常感謝今天的分享,從模型、GPU、CPU、記憶體、網路,一路講到資料中心和能源,涉及棧的每一層,而且每一層都在時刻變化。這絕對不是第一次,也一定不是最後一次邀請你來。 (追風交易台)