引言：在近期半導體回撤環境下、Dylan的觀點仍然一直是非常bullish的那一派，且對Meta外租算力這個事兒給了多重解釋、認為不影響任何長期capex敘事。最近在Semi Analysis的一篇聊Anthropic/OpenAI財務數字的報告裡，也做了個Anthropic 27年底“6兆美金”市值的激進prediction。
儘管SemiAnalysis最近的一些分析精準度爭議頗多，但還是值得聽聽在semi analysis的一些報告之外、訪談裡他怎麼講的。
嘉賓: Dylan Patel，SemiAnalysis 創始人，主持人是Klay Hyman（next big thing訪談）
訪談要點
AI 到底有沒有 ROI？
Anthropic 在 2026 Q2 多個月實現 Free Cash Flow Positive，ARR 超 500 億美元，模型公司收入曲線本身就是需求驗證
SemiAnalysis 90 人公司年均 AI 支出已達 1100 萬美元，超過員工支出的三分之一；AI 讓產品速度和員工產出顯著提升，ROI 清晰可見
為什麼推理成本會數量級下降？
AI 模型成本每年約降低 60 倍；DeepSeek V3 相比 GPT-4 在兩年內便宜了 600 倍——這不是異常，是曲線的體現
流程內嵌型任務在達到質量閾值後可持續換用更便宜模型；助手型任務反而應選最強模型，因為 token 效率更高、往返更少，總成本反而更低
記憶體為什麼是 AI 擴張的下一個瓶頸？
Reasoning model 讓 KV cache 爆炸性增長：長上下文下記憶體壓力遠超計算壓力，推理成本不漲但記憶體成本飆升
未來三年記憶體容量每年僅增長 20-30%，但 AI 需求在翻倍；價格將持續飆升直到智慧型手機/筆記本等消費市場被迫退出
CPU 在 AI 時代為什麼重新變得重要？
預訓練轉向強化學習、Chat 推理轉向 Agent 工作流，環境驗證（單測/程式碼編譯/網站沙盒）大量消耗 CPU
CPU 需求分叉：AI 等待 CPU 時 stall → 需要更快單核（Nvidia Vera 路線）；批次並行處理 → 需要更多核心（AMD/Amazon Graviton 路線），沒有絕對最佳答案，不同場景用不同類型
但賣方分析師現在把 CPU/GPU 比例吹得過頭了，說 CPU 比 AI 計算更重要——這是錯的
按實際比例：一塊 Blackwell 約 5 萬美元，配套 CPU 約 5000 美元；賣出 3000 億美元 Blackwell 對應的 CPU 收入只有 300 億美元，所以大部分錢還是流向 AI 計算和記憶體
目前 CPU 需求高的真實原因：巨大的追趕周期——過去幾年賣出了數百萬 AI GPU 卻幾乎沒有配套 CPU；現在需要補配，一次性需求集中釋放
資料中心的電力瓶頸在那裡？
能源約束可拆成三段：發電、輸電、轉換；輸電受制於監管和公用事業壟斷，最難擴張
預測未來幾年新增資料中心電力的一半將來自現場發電（behind-the-meter），天然氣往複式發動機、太陽能+電池等多路並進
細分供應鏈短缺邏輯是什麼？
並非所有短缺都值得同等關注：核心框架是終端市場需求放大倍數 × 市場結構彈性（壟斷定價 vs 商品市場現貨定價）
PCB 鑽頭、銅箔、MLCC 等看似細小的環節也會出現錯位；台積電定價穩定（5-10%），記憶體定價極度彈性（毛利率將達 85-90% 再回落）
共封裝光學（CPO）被普遍高估時間表：真正規模化量產在 2029 年，Rubin Ultra/Fineman 仍全銅；中期銅纜和非 CPO 光學受益更確定
訪談全文（脫水乾貨版）
AI ROI：企業是否真的從 AI 中賺錢
(市場上一直有聲音質疑 AI 的投資回報率，彭博經濟學家也提到很多 AI 項目可能失敗。你們公司本身大量使用 AI，也在繼續招聘——你怎麼看終端需求？)
分析 AI ROI 需要拆開來看，有幾種維度
維度一：模型公司的收入驗證需求
Anthropic 在 2026 年 Q2 的多個月實現了 Free Cash Flow Positive 並盈利——4 月關帳盈利、5 月盈利、6 月看起來也一樣；ARR 已超過 500 億美元
隨著 Codex 等產品的採用擴散，OpenAI 收入也開始顯著上行；Anthropic 毛利率超過 70%
模型公司正在印鈔，這是需求存在的最直接證明
維度二：企業自身的 AI 支出與產出
SemiAnalysis 的例子：去年 11 月 Claude Code 爆發之前，年化 AI 支出（ARS）不到 10 萬美元（給每個員工訂閱 200 美元的 ChatGPT）
Claude Code 從 Claude Opus 4.5/4.6 開始爆發，到今年 1 月底 ARS 已達 400 萬美元，現在約 1100 萬美元；最高的一周折算年化曾達 1400 萬美元
90 人公司年均 AI 支出 1100 萬美元，超過員工支出的三分之一；預計年底將接近員工支出的一半
支出最多的往往不是工程師，而是不懂程式設計的人——他們告訴模型想要什麼，不斷迭代直到得到結果
(那 ROI 到底有沒有？很多公司發現 Q1/Q2 就把全年 AI 預算花完了，下一步怎麼辦？)
SemiAnalysis 自身看到了明確 ROI：產品迭代速度更快，銷售額提升，公司整體效率提升
現在很多公司面臨兩個選擇：削減 AI 支出，還是削減其他支出
已有公司選擇砍掉歷史上一直在用的其他 SaaS 產品，把錢轉向 AI
有些公司寧願減少員工數量也不減少 AI 支出，壓縮 AI 的公司將在生產力和產品能力上被遠遠甩在後面
AI 成本本身也在持續下降——六個月前能做的事情，今天 AI 成本要便宜得多；但今天用 AI 做的事情比六個月前也廣泛得多模型選擇
流程型 AI 與助手型 AI 的成本邏輯不同
(有一種方法是選擇更便宜的模型，比如對某些任務用 DeepSeek V4，對需要更高智能的任務用貴的模型——這是你們的考量之一嗎？)
確實是某些場景的考量，但必須把 AI 工作負載分成兩類
第一類：流程內嵌型任務
例子：客戶發來檔案，模型檢查是否包含 XYZ 欄位，完成只需要達到質量閾值；一旦達到，可以等待更便宜的新模型來降低成本
AI 模型成本每年約降低 60 倍；DeepSeek V3 相比 GPT-4 兩年內便宜了 600 倍（約 60x/年 × 2 年 = 360x，實際達到 600x）
這類任務：凍結模型質量要求，等成本曲線下來
第二類：助手型任務
例子：日常工作中隨時請教模型，幫我找這個、搞清楚那個
最新最強的模型反而更省錢：Claude 4.6 Opus 完成一個任務需要 100,000 token + 來回多輪 + 10 分鐘；Claude 4.8 Opus 可能只需要 25,000 token + 來回一次
生成 token 更少 + 人工時間更少 = 總成本更低，即使單 token 價格更高
這就是為什麼 Anthropic 在企業客戶中能壓過 OpenAI：token 效率更高
OpenAI 的模型在邊緣案例（頂尖科學/數學/程式碼）上有時能完成 Anthropic 模型做不到的任務，但要花 3 倍時間、4 倍 token，反饋循環更慢，客戶感知反而更差
(你們發現每次模型升級後成本會短暫下降，然後又漲回來？)
確實如此：從 4.6 升到 4.7，成本降了大約一周，然後飆回來——因為人們發現模型更好就做更多事
4.7 到 4.8 同樣如此：降了一周到一周半，然後又漲，因為新工作湧入
必須同時衡量成本和生產率；對於助手型任務，token 效率才是關鍵指標
SemiAnalysis 大多數任務仍主要用 Claude Code；讓模型通宵跑的任務（如較長批處理）才會用 OpenAI Codex
記憶體超級周期：reasoning 與 agent 改變 workload
(記憶體一直以來都是周期性商品，上行 18-24 個月，下行 18-24 個月，循環往復。你認為這一次有什麼不同？)
不是說周期消失了，周期仍然存在；但這是一個超級周期，上行幅度和總支出的量級都不同於以往
歷史上的記憶體上行周期大概是終端市場漲 50%，記憶體股漲 2-3 倍；但現在終端市場支出已經翻倍，還將再次翻倍，價格已經漲了 4 倍，還會再漲 2-3 倍
更重要的變化發生在 2024 年 OpenAI 發佈 o1（首個推理模型）時：工作負載發生了根本性改變
傳統 Chat 模式：Prompt 幾百詞 → 回覆 → 上下文 KV cache 約 2000 token
Reasoning model 模式：模型生成長推理鏈、長程任務步驟，上下文可達 100,000 token
關鍵機制：推理時每生成一個 token，需要讀取所有權重 + 所有 KV cache；權重側的記憶體壓力與上下文長度無關，但 KV cache 從 1000 token 到 100,000 token 的記憶體需求是天壤之別
計算量靠 KV cache 機制可以緩解，但記憶體成本飆升無法迴避
(你們 2024 年 12 月就寫了關於 o1 和記憶體的分析，然後在 2026 年 1 月寫了一篇"你們都搞錯了"的報告？)
2024 年 12 月寫了預訓練 scaling law 讓位於推理 scaling law 的報告，判斷 KV cache 將因推理爆炸性增長，記憶體將是最大贏家
2026 年 1 月市場開始問"記憶體已經漲了 50%，是不是見頂了"，我們的報告直接說：不，你們沒搞明白
記憶體容量未來三年每年僅增長 20-30%，但需求在翻倍
最終結果：對記憶體價格彈性較低或適應能力較弱的使用者將退出市場——智慧型手機、筆記型電腦會因成本大幅上漲而被擠出，讓路給 AI
價格將一直飆升直到這種平衡出現
目前已看到部分中國智慧型手機廠商（如小米）中低端出貨量下降 40%，但高端市場（iPhone、MacBook）尚未受到衝擊
iPhone 和 MacBook 價格明年肯定要大幅上漲，不是漲 100 美元，而是漲幾百美元
直到漲到足夠貴，消費者縮減需求，AI 才能"吃飽"，達到新平衡
(記憶體和其他基礎設施元件的供應鏈彈性邏輯是什麼？那些會受益更多，那些不那麼彈性？)
核心框架：終端市場需求放大倍數 × 市場結構
台積電定價彈性小——長期合作夥伴，公平定價，接受 5-10% 漲價
記憶體公司身處商品市場，現貨和合約市場讓供需關係直接決定價格，定價彈性極大；記憶體毛利率將達 85-90%（還沒到，但會到），然後再回落到 70% 甚至更低
每花一美元在 AI 上，流向不同零部件的比例差異巨大（可能是 1 美分 vs 5 美分），這決定了各環節的受益程度
MLCC、PCB 鑽頭、銅箔等細小環節也在出現短缺，但判斷其價值要看流量轉化率和市場結構
CPU 回歸：RL、agent 和環境檢查
(AI 發展前三年我幾乎沒聽說過"CPU"，今年到處都是 CPU 的討論。能解釋一下發生了什麼嗎？)
去年 11 月 SemiAnalysis 在機構研究中開始大量討論 CPU，起因是 OpenAI 和 Anthropic 開始與亞馬遜、Google、微軟達成協議，購買或租用它們的 CPU fleet
根本原因在於訓練範式和推理範式的雙重轉變：
轉變一：預訓練 → 強化學習
預訓練 = 把整個網路資料集訓練進模型，主要消耗 GPU 計算和網路頻寬
強化學習 = 模型生成合成資料或推理軌跡 → 與環境進行驗證（運行程式碼單測、打開網站沙盒、模擬工程系統）
這些環境驗證大量消耗 CPU；預訓練階段 token 處理本身幾乎不需要 CPU
轉變二：Chat 推理 → Agent 工作流
Chat：我告訴模型，模型給我答案，結束
Agent：模型進行工具呼叫（搜尋、查資料庫、問 Python 直譯器、寫程式碼然後編譯部署）→ 這些工具呼叫持續與真實世界互動，需要大量 CPU
GitHub 全球提交量已同比翻了好幾倍（不是 10-50%，是翻倍級），這些程式碼最終被部署到 CPU 上
(Jensen 提到 Vera CPU 針對 agent 活動最佳化；還有 GPU 與 CPU 比例的討論。能從技術層面解釋一下嗎？這只是行銷還是真的有實質？)
CPU 在 agent 工作流中的使用差異很大，關鍵問題是：AI 計算在等待 CPU 響應時是否會 stall？
如果 stall：需要儘可能快的單核性能——核心數減半但速度提升 50% 的權衡是值得的，因為可以減少等待時間
如果不 stall（模型在批次處理其他使用者請求，CPU 只是負責部署和執行）：更多核心、更低單核速度的方案更合適
Nvidia Vera CPU 的路線：核心數不到 100，但單核速度比 AMD 快（不是 2 倍，但快）
AMD 旗艦 CPU 路線：256 個核心，單核速度較低
Amazon Graviton / ARM 路線：大量核心，單核性能適中
沒有通用答案：某些 agent 工作流需要 Vera，某些需要 Graviton 或 AMD CPU
(關於 GPU 與 CPU 比例，市場是不是在誇大 CPU 的需求？)
CPU 需求毫無疑問在上升，SemiAnalysis 是最早指出這一點的（去年 11 月機構報告，今年 1 月公開簡報）
但賣方分析師現在把 CPU/GPU 比例吹得過頭了，說 CPU 比 AI 計算更重要——這是錯的
按實際比例：一塊 Blackwell 約 5 萬美元，配套 CPU 約 5000 美元；賣出 3000 億美元 Blackwell 對應的 CPU 收入只有 300 億美元
大部分錢還是流向 AI 計算和記憶體
目前 CPU 需求高的真實原因：巨大的追趕周期——過去幾年賣出了數百萬 AI GPU 卻幾乎沒有配套 CPU；現在需要補配，一次性需求集中釋放
一旦追趕完成，CPU 需求將恢復到增量穩態，不會持續以 AI 加速器的速度增長
CPU 市場競爭格局也在改變：Intel、AMD 提價；Amazon Graviton 出租賺取高毛利；Nvidia Vera 開始單獨銷售（指引 200 億美元 CPU 收入）ARM、微軟、Google內部 CPU 也在進入市場
對CPO、資料中心電力的看法
(網路領域呢？共封裝光學（CPO）是否被過度期待了？)
網路內容佔 AI 晶片相關支出的比例從不足 10% 上升到超過 10%，CPO 時代將進一步上升到 20-30%
但目前對 CPO 時間表普遍過於樂觀：CPO 不會在 2027 年大規模量產；2028 年尾聲才開始，2029 年才是真正的規模化擴張
製造良率達不到、晶片設計還沒完成、成本還不合算
Rubin 全銅、Rubin Ultra 全銅、Fineman 也全銅（且 Rubin 才剛開始出貨）——GPU 上的 CPO 還需要好幾代晶片
交換機上的 CPO 比 GPU 早，但 GPU 側要等到 Fineman 之後
中期應看好：銅纜（Amphenol 等連接器廠商）+ 非 CPO 光學器件（傳統光收發器）
SemiAnalysis 最新機構報告對 CPO 偏謹慎，因為看到下游晶片（Fineman 沒有 800V，Kyber 時間表推遲）出現若干延誤資料中心、電力與細分供應鏈
(資料中心電力怎麼看？超大規模營運商花大錢建設資料中心，甚至在電表後面建發電廠——如何理解電網與非電網的需求差異？)
資料中心增長極其迅猛：今年部署約 20 GW，明年約 30 GW，後年約 50 GW
主要約束可分三段：
第一段：發電（Generation）
電網發電量在增加
更大的變化是資料中心現場發電：預測未來幾年新增資料中心電力的一半將來自現場發電（behind-the-meter），不依賴公共輸電網
現場發電方案多樣：天然氣雙循環聯合循環機組（GE、Mitsubishi、Siemens）、往複式發動機、改裝自卡車/船舶/火車發動機的發電機
美國每年可生產數百萬台工業往複式發動機；改裝成氣體燃料非常簡單，加裝電動機反向驅動即可發電
10 GW 以上規模的資料中心正在採用這類方案：數百台發動機 + 配套機械師團隊維護 + 電池緩衝
約兩年後太陽能+電池將比天然氣更便宜（中國製造成本快速下降），但供應鏈和可靠性要求仍是挑戰
更遠期：太空資料中心——完全不需要電池，直接太陽能板
第二段：輸電（Transmission）
最難看好的環節：受制於監管、地方政治和公用事業壟斷
公用事業建輸電線必須將成本攤銷到所有使用者，而非受益的單個使用者，造成定價錯位
擴大電網輸電容量相當困難
第三段：轉換（Conversion）
從發電電壓/輸電電壓轉換到晶片可用電壓，涉及整條供應鏈：SiC MOSFET、GaN（氮化鎵）MOSFET 等器件
轉換路徑：從 800V 直流 → 54V 直流 → 12V 直流，每一級都有效率損耗
固態變壓器、UPS、電池備用、超級電容等用於平滑"髒電"變"淨電"
SemiAnalysis 上周剛發佈了關於 800V 的分析；Nvidia 推遲了 Kyber 的 800V 支援（Rubin Ultra Kyber 取消了 800V），供應鏈相應推遲
(資料中心和能源反而是 SemiAnalysis 最大的研究垂直領域？)
確實："DEI 團隊"（Data center Energy Industrial，內部雙關）是 SemiAnalysis 最大的研究垂直
跟蹤每個資料中心的每座發電廠，能做到市場上其他人做不到的：提前識別某個項目延誤、某家公司本季度將上線多少 GW——Google關心 Meta 能部署多少，Meta 關心 OpenAI 能部署多少，所有投資者也都關心
資料中心市場比記憶體（三家寡頭）、加速器（少數幾家）複雜得多：供應鏈中有數百個名字，數十家公司在建資料中心，數十家公司在做現場發電或電池服務
(最後，細分供應鏈裡那些看起來很小的零部件——比如 PCB 鑽頭——怎麼判斷？)
供應鏈裡有很多看似細小但也會出現錯位的環節：PCB 鑽頭（在 PCB 上鑽孔的鑽頭）、銅箔、MLCC 等——這些公司分佈在台灣、日本、韓國，對普通投資者並不容易獲取
判斷框架不變：終端市場需求放大倍數 × 市場結構（定價彈性）
需求翻倍還是翻四倍？
市場是壟斷/寡頭定價，還是商品現貨市場？
合約比例多還是現貨比例多？
合作關係和對整個格局的把握正是 SemiAnalysis 與機構投資者合作的價值所在
【附錄：Dylan的個人經歷部分】SemiAnalysis 的起點：從論壇發帖到機構級研究
(SemiAnalysis 的想法是怎麼產生的嗎？很多人只看到當前的成功，卻忘記了一路走來的歷程和最初的起點)
SemiAnalysis 的起點其實是網上發帖（shitposting）——十幾歲時就在各種論壇上發帖討論晶片、智慧型手機 SoC、螢幕、PC 硬體、遊戲主機硬體，甚至在自己擁有智慧型手機之前就對它們著迷了
12 歲開始在 Reddit 上管理和建立多個與 Android、Apple、Google、Intel、Nvidia、AMD 相關的硬體論壇，一直保持著想在網上表達觀點、接受評論的強烈衝動
在整個青少年時期持續發帖；稍大些開始投資，做了兩年量化分析師後創辦了自己的公司，但全程沒有停止發帖——包括匿名部落格和匿名帖子
(量化分析師的工作讓你感到幻滅？)
2020 年厭倦了量化工作，量化分析師並沒有看起來那麼光鮮——能賺錢，但沒那麼美好
辭職後在自建的 WordPress 網站上用真名發帖，內容涵蓋科技、商業、金融、供應鏈——正是在小企業（父母在佐治亞州鄉村經營汽車旅館和加油站）中長大讓他對商業和供應鏈有天然的興趣
第一篇有影響力的帖子是關於美國制裁華為後的半導體格局：聯發科將是最大贏家，因為中國手機廠商寧願買台灣公司的晶片也不願買美國公司的——技術、供應鏈、金融、地緣政治的交匯點正是 SemiAnalysis 的核心視角
(後來是怎麼從個人寫作變成 90 人的機構的？)
WordPress 逐步轉換為 Substack 並開始收費；四年間每年參加約 40 個會議，從 NeurIPS、ICML 等 AI 研究會議，到半導體供應鏈化學品投入的垂直會議，全端覆蓋讓他掌握了整個生態系統的語言和人脈
2022 年開始招聘：前兩位是在 Discord 認識多年的技術背景朋友；第三位 Myin 來自避險基金，加入後將業務模式從新聞簡報轉向資料服務和資訊服務銷售
規模增長曲線：2023-2024 年從 2 人到 7 人；2024-2025 年初從 7 人到 20 人；2025 年底到 2026 年從 20 人到 60 人；2026 年已達 90 人，本年新增 30 人
團隊人才密度極高：有在 ASML、Applied Materials、Lam Research 做過晶圓裝置的人，有在 OpenAI 參與模型開發的人，有在 Tesla 做 FSD 的人，有在哈薩克建過發電廠的人——一半工程師背景，一半前避險基金或來自網際網路的熱情人才
現有業務線：資料服務、諮詢、資訊服務、新聞簡報、媒體，以及即將舉辦的大型會議Benchmark 體系 (米飯思考)