一、AI 實驗室的算力與收入拐點
主持人： 今天再次請到 SemiAnalysis 創始人 Dylan Patel。我們所謂的“家庭感恩節聚餐”，其實就是每年錄一期播客。當然，我們並沒有親屬關係，別讓大家知道，否則這個傳說就破滅了。
全球經濟的走向，正越來越取決於 AI 實驗室的經濟模型、算力市場的演變，以及與之相關的一切。我想理解幾年之後，這個瘋狂的未來會走向何方。不過先從當下說起。請介紹一下目前 AI 實驗室的算力和收入情況，並展望未來一兩年。
Dylan： 回看去年，即使到了年末，美國 GDP 增長中的很大一部分也來自 AI 基礎設施。
今年新增的算力中，大約三分之一最終供 OpenAI 和 Anthropic 使用。這些基礎設施可能由其他公司建設，再出租給它們，但最終客戶仍然是這兩家實驗室。
未來的算力數字還會迅速膨脹。今年的資本開支略高於 1兆美元，到 2028 年將超過 2兆美元，而實驗室佔據的比例也在不斷上升。
最終會出現一個非常有意思的局面：這些實驗室的年度支出將從數百億美元升至數千億美元。根據它們已經開始與合作夥伴簽署的部分合同，即使只看到本十年末，年度支出預測也會達到數兆美元。
這要求它們的經濟模型發生重大變化。此前，它們基本都是持續虧損的公司。Anthropic 在第二季度開始實現盈利。外界認為，隨著 Codex、5.6 等產品進一步增長，OpenAI 也可能在第三季度的某個時點開始盈利。
但如果回到一年前，它們的虧損完全由風險資本提供資金。即使今年年初，情況仍然如此。現在它們已經越過拐點，開始真正盈利。
這並不意味著它們不再接受新資本。新資本仍在流入，用於進一步加速增長，但越來越多的業務支出將由自身收入提供，而不是完全依靠外部注資。
過去一年半，它們的利潤率大幅提高。算力的基礎成本通常約為每兆瓦 1,000 萬至 1500萬美元。
最值得關注的變化是：過去，OpenAI 使用 輝達 Hopper GPU 提供 GPT-4 推理服務時，毛利率還是負數。現在，無論是 OpenAI 提供 GPT-5.6，還是 Anthropic 提供 Opus 5 或 Fable 5，每兆瓦產生的收入都已遠遠超過新增算力每兆瓦 1,000 萬至 1500萬美元的成本。
Anthropic 的收入甚至達到過每兆瓦 5000萬美元。這意味著，如果它花 10 美元建設推理容量，就能產生 50 美元收入，然後將由此獲得的全部增量利潤投入訓練。
二、兩家實驗室走向全球算力中心
主持人： 我非常想知道，你如何看待算力向少數實驗室集中，以及全球其他主體和實驗室之間的算力佔比變化。
如果目前三分之一的新增算力流向這些實驗室，那麼什麼時候會有超過一半的全球新增算力流向它們？又到什麼時候，它們會擁有全球絕大多數算力？
Dylan： 今年年初，OpenAI 擁有 2 吉瓦算力，Anthropic 不到 2 吉瓦。到年底，兩家都會超過 5 吉瓦，整體算力相當於增長了三到四倍。
按今年新增算力計算，它們約佔 30%。到了明年，根據已經正式簽署的合同，變化將更加劇烈。Anthropic 和 OpenAI 可能拿走明年新增算力的 40%至50%。
這種集中趨勢看起來不會減速或停止，反而只會繼續加速。為它們建設算力的主體會發生變化。例如，SpaceX 將在明年成為一個重要的新進入者，建設大量算力。
SpaceX 很可能會把其中相當大一部分租給 Anthropic 和 OpenAI，因為這兩家擁有最高的邊際支付能力。
與此同時，OpenAI 和 Anthropic 也開始建設自己的算力。OpenAI 在開發自研晶片；Anthropic 則從 Google 購買 TPU，並與 Fluidstack 合作部署。
所以，如果問“什麼時候全球一半的新增算力會只流向 OpenAI 和 Anthropic”，答案其實是明年年底。屆時，兩家公司就會佔據一半新增算力。
由於算力增長速度極快，新增算力很快就會構成全球算力中的大部分。
主持人： 也就是說，可能只要一年半到兩年，全球大部分算力就會由兩家實驗室擁有，或者至少用於滿足它們的需求。
現在的趨勢似乎是：全球以吉瓦計的算力每年翻倍，而前沿實驗室的算力每年增長三倍。
如果延續這一趨勢，今年年初是 2 吉瓦，年底接近 6 吉瓦；簡單乘以三，2027 年底就是 18 吉瓦，2028 年底就是 54 吉瓦。
到了那個階段，受全球算力總量限制，它們顯然不可能繼續每年增長三倍。你如何看待未來幾年的全球算力供給？
Dylan： 如果今年新增算力是 30 吉瓦，明年是 50 吉瓦，再下一年約為 70 吉瓦，就會出現一個非常有意思的現象：今年部署的每一瓦算力，其效率都顯著高於兩年前部署的算力。
全球現有算力中，有很大一部分是在今年部署的。即使部署的功率規模沒有翻倍，我部署的也是 GB300、TPUv7 和 Trainium3，其能效遠高於上一代晶片，每瓦性能可以達到此前的三至五倍。
因此，這裡面存在一個巨大的性能階梯。
假設 Anthropic 和 OpenAI 明年拿走 45%的新增算力，那麼到 2027 年 12 月，它們就會佔據全球約一半的新增算力。但這部分新增算力的實際性能，又高於此前部署的全部算力，於是還要再乘上一個性能係數。
到 2028 年末，如果趨勢繼續——目前我看不到有什麼會阻止它——兩家公司將自行控制全球大部分真正可用的浮點算力。
三、晶片供應鏈與擴產極限
主持人： 我不理解的是，如果算力價值增長得這麼快，為什麼你認為 2028 年只能新增大約 80 吉瓦？
Dylan： 順便說一句，這已經是上限了，是極度樂觀的情形。
主持人： 那我們順著產業鏈算一下。
幾個月前採訪你時，你說要生產一吉瓦 Vera Rubin 算力，大約需要 5.5萬片 N3 晶圓、6,000 片 N5 晶圓，以及 17萬片 DRAM 晶圓。現在這些數字也許已經變化。
順便開個玩笑，你當時說“wafer”的口音太有印度特色了。
Dylan： 我們剛搬到美國時，我確實很難區分 v 和 w，而且當時還是素食者。
主持人： 你以前跟我講過。你在北達科他州上小學時，會把“veggie”說成“wedgie”。
不過回到正題，這些是生產一吉瓦算力需要的晶圓。我讓一個大模型運行了你的晶圓廠裝置模型，計算每年生產一吉瓦算力所需要的裝置投資，結果是 30 億至40億美元。如果再加上潔淨室、廠房殼體和晶圓廠的其他設施，可能需要約 60億美元晶圓廠資本開支。
也就是說，60億美元晶圓廠資本開支，每年可以生產一吉瓦算力，而一吉瓦算力目前可以創造 1000億美元收入。
這 60億美元投資不是只能生產一次。它每年都能生產一吉瓦算力，而每一吉瓦又能每年創造 1000億美元收入。
五年內，第一年生產的一吉瓦可以產生五年利潤，第二年生產的一吉瓦可以產生四年利潤，以此類推。最終，晶圓廠層面的 60億美元資本開支，可以支撐超過 1兆美元的終端 AI 收入。
Dylan： 是的，但中間還有很多營運費用和其他資本開支，例如資料中心、電力、安裝費用，而且還要為 OpenAI 的研發買單。這裡有很多參與者都需要獲得收入。
主持人： 即使把一半收入都分給這些中間環節，晶圓廠資本開支與終端收入之間仍然存在約 100 倍的差距。實際差距可能更大，只是我們採取了非常保守的假設。
這就是資本主義。既然存在一種把 1 美元變成 100 美元的巨大機會，產業鏈難道不會想辦法生產更多反射鏡嗎？
Dylan： 會，只是生產這些反射鏡需要時間。
很快，Anthropic 和 OpenAI 就會說：“我們現在本來可以賺到 1兆美元，卻受制於 ASML 裝置裡的反射鏡。假如投入 1000億美元，我們怎樣才能製造更多反射鏡？”
主持人： 我很難想像這種供應約束最終無法解決。
市場上已經出現一些有意思的套利：有人提前買入燃氣輪機，再設法轉售，因為資料中心恰好受制於燃氣輪機，導致它的價值遠高於原始價格。
如果有人擁有 4億美元，而且能說服 ASML 向他出售一台 EUV 光刻機，就應該直接買下來，等待一段時間，再以超過 10億美元的價格賣掉。
Dylan： 最終，資本主義當然會推動產能擴張，但這是一條很長的鞭子，需求訊號要很久才能傳導到供應鏈最末端。
供應鏈不會立即作出反應。你去問 Carl Zeiss，他們現在會說：“是的，到本十年末，我們每年需要為 100 台 EUV 裝置生產足夠的反射鏡。”
我們今年早些時候錄節目時，他們甚至不認為需要達到這個產量。現在他們才開始接受每年 100 台的目標。
但考慮到當前的經濟回報，實際需求應該更高，只是擴產周期太長。
主持人： 假設整個產業鏈裡的每家公司都被私募股權收購，收購方都堅信 AGI 即將到來，並決定最大化產量。你認為繼續擴大生產會受到那些物理約束？
我之所以這樣問，是因為很快，實驗室收入乃至整個 AI 行業的現金流都會極其龐大。加速器本身也會產生巨額現金流。屆時，產業鏈的極端擴張完全可以由現金流自身提供資金。
Dylan： 原則上我同意。當然，物理約束依然存在。按照目前供應鏈的擴張速度，2030 年每年約 100 台 ASML 裝置仍然是合理預測。
但如果你直接對 Carl Zeiss 說：“這裡有 100億美元，請立即擴產”，結果會發生變化。只是你必須對供應鏈裡的每家公司都這麼做。
主持人： 你不認為這會在明年發生？
Dylan： 我認為今年不會，明年不會，再下一年也不會，因為整個世界仍然受到資本約束。
主持人： 但如果明年前沿實驗室合計就能產生 1兆美元收入，它們難道不能拿出其中 100億美元，甚至數千億美元來擴充供應鏈嗎？
Dylan： 我認為它們不會那麼做。
實驗室明年會創造數千億美元收入，但明年的總資本開支可能達到 2兆美元，這裡仍然存在巨大缺口。
晶圓製造裝置供應鏈可能需要約 2000億美元，資料中心供應鏈需要更多，加速器供應鏈還會更多，能源供應鏈也需要巨額投資。全部加起來，資本開支將遠高於 2兆美元。
因此，實驗室的現金流還沒有達到能夠為所有擴張提供資金的程度。
主持人： 當然，它們可能永遠也不會完全依賴現金流，因為理性的選擇是讓資本開支始終高於當期回報，繼續再投資。
四、2028 年的一百吉瓦目標
主持人： 我真正想理解的問題是：如果當前趨勢持續，到 2028 年底，每家實驗室的算力都會超過 50 吉瓦，兩家合計達到 100 吉瓦。
而且正如你所說，到 2028 年，由於硬體持續改善，每一吉瓦帶來的吞吐量和性能都會是現在的數倍。不只是每瓦浮點性能提高了，硬體處理 AI 工作負載的能力也會更強。
那麼，2028 年全球算力總量會是多少？
Dylan： 要達到兩家合計 100 吉瓦可能非常困難，因為到 2028 年，它們相當於要拿走全球新增算力的 70%至80%。
我不確定那時市場會發生什麼。算力價格必須上漲到什麼程度，它們才能真正買下 70%至80%的新增供應？Google、Meta 和 Amazon 是否願意出售這麼多算力？
這裡還有一個口徑問題。如果 Amazon 通過 Bedrock 提供 Anthropic 模型服務，在我們的統計框架中，這仍然算作 Anthropic 的算力，因為最終收入會計入 Anthropic，儘管中間存在收入分成、積分返還等安排。
但無論如何，如果兩家公司在 2028 年合計達到 100 吉瓦，它們必然已經對市場造成極大的顛覆。
今天，任何人都能用成本為每兆瓦 1,000 萬至 1500萬美元的算力賺錢，這真的沒有那麼難。
你可以買一套 GB300 機架，下載 Kimi 權重，再下載 vLLM 或 SGLang，把系統部署起來。Codex 和 Fable 甚至能幫助你完成這些工作。它並非輕而易舉，但也絕非火箭科學。然後把服務放到 OpenRouter 上，就能開始獲得高於算力成本的收入。
正因為如此，每兆瓦 1,000 萬至 1500萬美元的算力價格已經開始上揚。
如果要相信兩家實驗室能在 2028 年擁有 100 吉瓦，就必須相信它們能夠支付高於其他買家的價格，因為任何人都能在每兆瓦 1,000 萬至 1500萬美元的價格上賺錢。
問題是，算力價格會不會升至每兆瓦 2500萬美元，甚至 4000萬美元？
主持人： 目前已經很明顯，實驗室每兆瓦產生的收入遠高於其他參與者。如果它們繼續保持現在的領先幅度，理論上這種情況還會持續。
如果出現某種遞迴式自我改進，使實驗室的研發能力得到相對增強；或者它們內部擁有並未對外發佈、卻能幫助自己開發下一代模型的模型，這種優勢還會進一步擴大。
我們是否已經在看到這種現象？SpaceX 或其他略微落後的參與者，如果無法像實驗室一樣高效地在內部變現算力，就會把算力出售給出價最高的人。實驗室因此會不斷競購更大的市場份額。
Dylan： 這也是我的基本判斷。它們會繼續吞下越來越多的算力。
但最終，它們不可能按當前價格或接近當前價格實現這一目標。要在 2028 年吞下全球 70%的算力、達到 100 吉瓦，它們必須開始支付每兆瓦 2,500 萬、3,000 萬乃至5000萬美元。這是一個非常激進的目標。
五、模型發佈限制與每兆瓦收入
Dylan： 另一個極具挑戰的問題是，我們已經看到 AI 實驗室的發展明顯減速。
它們所倡導的監管措施，對實驗室造成的減速作用，實際上大於對中國市場開源語言模型的影響。
OpenAI 沒有發佈 Astra，並停止訓練兩周。Anthropic 也沒有發佈其安全評估中被稱為 Model 2 的模型，外界普遍認為它是下一版 Mythos。
它們顯然沒有發佈自己最強的模型。在這種情況下，每兆瓦收入會停滯，甚至重新下降，因為其他模型又會變得具有競爭力。
這並不是說它們落後了，只是它們沒有把最好的成果發佈出來。
如果監管影響阻止它們發佈最強模型，每兆瓦收入就不會以原先的速度上升，它們用更高價格競購新增算力的能力也會下降，最終可能無法達到 100 吉瓦。
但在一個不考慮安全限制的世界裡，我確實相信前面的情景會發生。它們每兆瓦可以產生 1億美元甚至更多收入，也能支付每兆瓦 5000萬美元。
屆時，其他算力持有者沒有任何理由將算力用於別處，只會說：“Dario，請把我手裡的算力全部拿走。”
不過，現實中確實存在一些可能讓這一處理程序減速的力量。
主持人： 一個有助於建立直覺的假設是：如果 AI 模型真的能達到完全自動化軟體工程師的水平，會發生什麼？
目前它們還沒有達到這一水平。我認為，它們離完全自動化一名完整白領員工的工作還很遠。
但白領員工每年收入通常達到10萬美元甚至更高。如果一吉瓦算力可以維持大約 100 萬名白領員工規模的 AI 勞動力，那麼對應價值就是 1000億美元。
Dylan： 以每人10萬美元、總數一百萬人計算，確實是 1000億美元。這個數字反而低得令人意外。
如果實現完整 AGI，每吉瓦創造的價值可能達到數千億美元。
不過，我們一直看到另一個現象：這些模型創造的大部分價值，並沒有被 OpenAI 和 Anthropic 捕獲。到目前為止，值得慶幸的是，大部分價值都留給了使用者。
例如 Jane Street 與 OpenAI 簽訂了 GPT-5.6 Ultrafast 模式的獨家合同，同時也是 Anthropic 最大的客戶之一。它從所購買的 token 中獲得的價值，遠遠高於 Anthropic 自身獲得的利潤，因為它可以利用模型在市場中賺錢。
再看 Meta，據傳它一度佔 Anthropic 業務的 10%。Meta 利用這些模型最佳化廣告演算法，提高效率和使用者參與時長。那怕參與時長只提高 5%，它所賺到的錢也遠遠超過 Anthropic。
這正是整個體系能夠成立的前提。
主持人： 當然，如果新增 100 萬名軟體工程師，軟體工程師的市場成本也會下降。
但我困惑的是，市場最終會不會達到均衡？如果達到均衡，算力價格是否會接近 Anthropic 和 OpenAI 每兆瓦能夠創造的收入，只為實驗室保留少量加價空間？
現在的情況很奇怪：算力出售價格與 Anthropic 利用這些算力獲得的收入之間，存在四倍甚至更大的差距。
如果每吉瓦收入繼續增加，Anthropic 對一吉瓦算力的變現能力再翻兩三倍，那麼這個差距還繼續擴大就很反常。Anthropic 只憑一組模型權重，就能把成本為 10 美元的東西變成 100 美元。
六、AI 價值最終由誰捕獲
Dylan： “AI 的價值最終流向那裡”一直是一個很有意思的問題。
AI 正在創造巨大價值。首先是終端使用者，我想我們都同意，他們獲得的價值高於任何一層，所以才願意為模型支付大量費用。
然後是應用層。到目前為止，應用層創造或者捕獲的價值很少。
再往下是模型層。一年前，模型層的毛利率還是負數，現在卻開始產生巨額正毛利，並且似乎正走向每兆瓦 1億美元收入，也就是把 1,000 萬至 1500萬美元變成 1億美元。
但如果回到一年前，所有毛利基本都被硬體供應鏈捕獲，而其他參與者都在虧損。OpenAI、Anthropic 和許多初創公司持續投入風險資本，超大規模雲廠商也在建設基礎設施，卻不知道最終是否會獲得回報。
模型層當時相當於在創造負價值，因為它們出售 token 的收入低於基礎設施成本。全部價值都被晶片和晶圓廠環節捕獲。
2023 年時，記憶體廠商幾乎沒有從 HBM 或 AI 記憶體中賺到錢，儘管理論上它們交付的價值非常大。現在情況已經改變。實際上，台積電捕獲的價值反而遠低於記憶體廠商。
所以價值捕獲的位置發生了很大變化。對於跟蹤或參與市場的人來說，這很有意思。
接下來的問題是，Anthropic 和 OpenAI 已經開始快速擴大自己的價值捕獲份額，它們最終會不會拿走全部價值？
此前確實有人這樣想，但 Elon 展示了另一種可能：“我可以把算力以每兆瓦 2,500 萬或4000萬美元的價格賣給 Anthropic 和 Google。即使這只是短期交易，我也能在一年內收回全部資本開支。”
主持人： 對於 SpaceX 以每吉瓦 400億美元賣給 Google 的 B300 或同等級算力，你預測到明年年底，這類算力會以什麼價格成交？
Dylan： 我認為，大部分算力的成交價格仍會低於每吉瓦 200億美元。
主持人： 即使到明年年底也是如此？
Dylan： 因為這些建設必須獲得融資。
如果 Meta、微軟、Amazon 和 SpaceX 能夠在沒有客戶的情況下直接決定建設算力，等到設施建好以後再尋找用途，它們就能掌握市場主動權。
但絕大部分算力在建成很久以前就已經簽訂合同。Elon 利用的正是這一點。他已經擁有實際可用的算力，然後可以對 Anthropic 說：“我知道你每吉瓦能產生超過 600億美元收入，為什麼不以極高價格購買我的算力？”
當然，這並不是 Elon 或 Anthropic 單方面決定的，而是市場自行完成了價格發現。
一家普通雲服務商如果要建設一吉瓦或 100 兆瓦算力，需要先投入資本，然後尋找客戶。為了獲得資本，它必須先讓客戶簽署合同，再拿著客戶承諾去信貸市場融資。
這形成了完全不同的權力結構。Meta 實際上在囤積算力。Meta 和 SpaceX 是唯一有可能成為第三大參與者的公司，因為它們能依靠資產負債表和建設能力，在沒有高變現終端客戶的情況下直接建設算力。
它們有真實的資產負債表，可以進入信貸市場。建設一吉瓦算力，即使利潤率不誇張，也仍然能獲得不錯回報。
等算力建好後，Meta 和 SpaceX 就擁有選擇權：究竟是內部使用更賺錢，還是以極高利潤賣給 Anthropic 或 OpenAI？
因此，我們已經進入一種新格局：SpaceX 和 Meta 會主動建設算力，然後發現，它們不必再按每兆瓦 1300萬美元出租，而可以賣到 2,500 萬、5000萬美元甚至更高。
七、供應鏈定價的牛鞭效應
主持人： 你認為到 2027 年底，Anthropic 或 OpenAI 每吉瓦能夠產生多少收入？
Dylan： 這高度取決於誰擁有最好的模型，以及它們是否獲准繼續發佈最好的模型。
但我看不出為什麼每兆瓦收入不能超過 5000萬美元。
如果說的是 2027 年底，預測會更困難，但公司整體平均收入可能達到每兆瓦 7,000 萬至8000萬美元，甚至更高。
主持人： 這個數字似乎還是偏低。如果是這樣，算力價格會發生什麼變化？
Dylan： 如果我是 Anthropic，新增算力當然值得購買。我可能會用每兆瓦 4000萬美元的價格購買 SpaceX 的算力。
如果我是 SpaceX，就會回頭看供應鏈。我已經與 Jensen 達成交易，而 Elon 說公司將獨家採用 輝達，那 Jensen 為什麼不提高價格？
隨後 SK 海力士、美光和三星也會問：“我們為什麼不漲價？”
價值捕獲存在牛鞭效應。某個環節提價，並不意味著整個供應鏈會立即重新平衡，但隨著時間推移，價格會逐層調整，整個供應鏈的成本會越來越高。要獲得新增產能，就必須支付更高價格。
台積電提價很慢，但記憶體廠商提價很快，基板廠商也提價很快。
Elon 不會在每兆瓦 1500萬美元的價格上出售算力，但當價格超過 2500萬美元時，他願意出售，所以他的報價已經快速上調。
主持人： 我很意外，你認為到明年年底，每吉瓦收入甚至不會明顯超過 1000億美元。
遞迴式自我改進什麼時候發生？智能起飛什麼時候發生？
即使不發生遞迴式自我改進，只要當前進步速度持續下去，也已經很驚人。看看過去一年半模型取得了多大進展。一年半前最好的模型是什麼，Claude 3.5 之類的嗎？
Dylan： 我的問題在於，目前全球最好的模型是二月份訓練的。
主持人： 你的意思是，實驗室最好的模型可能根本不獲准發佈？
Dylan： OpenAI 已經說要停止模型訓練兩周，這實在難以理解。
一方面，實驗室會不會在內部充分使用這些模型，從而願意抬高算力價格？另一方面，AI 整體進步會不會因為監管而放緩？
主持人： 但它們甚至不被允許在內部充分使用新模型。Astra 在 OpenAI 內部都沒有得到廣泛部署。
即使如此，假設模型能力繼續提高：去年年初發佈的模型是什麼，GPT-4o 嗎？
Dylan： 是的。
主持人： 那麼，到 2027 年底，再發生一次從 GPT-4o 到 Mythos 2 量級的躍遷，並不誇張。
Dylan： 但 Mythos 2 還沒有發佈，甚至 Mythos 都沒有完整放出。它的能力被削弱了，不能用於最佳化推理性能，也不能用於最佳化許多其他環節。
也許 AI 進步或部署確實會放緩，從而壓低每吉瓦收入。但這是我唯一能想到的、使明年年底每兆瓦收入只能達到 1億美元的原因。
只要模型持續進步，它能創造的價值就會增加。至於價值由誰捕獲，仍有爭議，但最終每個環節都會漲價，因為它們擁有漲價能力，而這會產生強烈的通膨效應。
目前的限制主要是“不允許發佈模型”。但越來越多的限制開始針對基礎設施：紐約限制資料中心建設，德克薩斯州討論暫停審批，俄亥俄州則試圖要求資料中心承擔一定範圍內所有人的房產稅。
這些措施都會減少供給、增加成本，而成本最終還會繼續向下游傳導。
因此，即使內部模型越來越強，外部可見的進步仍然可能放緩。
在智能起飛情景中，Anthropic 為什麼不會讓內部最強模型領先公開版本六個月？安全、監管和競爭優勢都會推動它這樣做。如果進步速度加快，六個月所代表的能力差距也會越來越大。
這正是可能壓低每兆瓦收入增速的因素，使其低於今年上半年的增幅。
八、訓練將吞噬更多算力
主持人： 還有一個問題很值得關注。隨著這些公司上市、開始向投資者負責，假設明年年底它們擁有接近 20 吉瓦算力，那麼 10%的算力就是 2 吉瓦。
假設它們希望把用於訓練的算力佔比從 60%提高到70%。投資者會說：“如果每吉瓦能產生 1000億美元收入，那麼你把這 2 吉瓦轉向訓練，就相當於放棄 2000億美元收入，只為了增加訓練算力。”
投資者會質問：“你們已經在訓練上花了這麼多錢，為什麼還要繼續增加？”
作為上市公司，如果實驗室回答：“不，我們仍將不斷提高訓練算力佔比，即使每吉瓦用於推理時能夠創造越來越多收入”，會發生什麼？
Dylan： 我個人相信，實驗室分配給推理的算力比例會越來越低。
這可能是一個非常不符合市場共識的判斷。普遍看法是，未來大部分算力會用於推理。但我認為，大部分算力會用於訓練過程中的前向計算，而不一定用於能夠創造收入的外部推理。
如果今天每兆瓦能夠產生 3,000 萬至4000萬美元收入，實驗室可以把 40%的算力用於推理。
但當每兆瓦能夠產生 6,000 萬至7000萬美元時，它們還會繼續把 40%用於推理、賺取巨額利潤，再分紅和回購股票嗎？還是會用這些算力建設 AGI？
對於 Anthropic 和 OpenAI，不僅高管，董事會也會認為建設 AGI 才是顯而易見的答案，因為潛在回報高得多。
因此，實驗室用於訓練的算力比例會不斷提高，即使每一份算力用於推理時能夠產生越來越多利潤。
主持人： 沒錯。如果出售 token，OpenAI 的 Ultrafast 模式究竟只用於外部客戶，還是內部也會使用？
答案是內部和外部都會使用，因為超高速 AI 或最強模型在內部產生的價值，可能遠高於外部客戶願意支付的價格。
即使外部推理可以產生每兆瓦 1億美元收入，把同樣的算力用於 AI 研究，又能帶來多少增量進步？它會怎樣影響未來盈利能力和未來現金流折現？
實驗室可能不會真的逐項計算，但總體而言，把越來越多算力留在內部更合理。
Dylan： 推理算力之所以需要達到如此大的規模，唯一原因就是用它創造收入，以擴充訓練叢集。
主持人： 這是一個很有意思的經濟學問題。什麼條件成立時，實驗室才會降低推理算力佔比？
Dylan： 我認為，過去三個月它們已經開始這樣做。
今年部分時間裡，它們也許還在提高推理算力佔比。我們可以按月觀察：Anthropic 每個月新增的算力通常都高於上個月。簽署 SpaceX 大單時可能出現波動，但總體曲線持續向上。
它一月份新增的算力少於十二月份，但收入增量卻快速上升。後來收入增速開始趨於平穩，它現在並沒有每個月都新增 250億美元 ARR。
這意味著，新獲得的邊際算力中，流向研發的比例已經高於流向推理的比例。從事實看，它們當前確實正在增加研發算力。
只要充分觀察實驗室正在做什麼，這一點其實很明顯。
九、2028 年後的全球算力格局
主持人： 按照你剛才給出的全球算力增長數字，到 2028 年底，全球 AI 算力應該會超過 200 吉瓦，對嗎？
Dylan： 對，全球合計如此。
主持人： 2028 年之後，全球 AI 算力還能以多快速度增長？今年新增 30 吉瓦，明年 50 吉瓦，2028 年 70 吉瓦，那麼 2029 年應該接近 90 至100 吉瓦。之後是否每年再增加約 100 吉瓦？
Dylan： 增長斜率仍然可以繼續提高。不過，四年之後的事情很難預測。
誰知道那時是否已進入遞迴式自我改進階段，或者全球經濟什麼時候會達到每年 10%的增速？如果每年新增超過 100 吉瓦，GDP 增長會達到非常誇張的水平。
主持人： 如果 2028 年全球約有 200 吉瓦 AI 算力，其中有多少位於中國市場？中國的算力會怎樣延續增長趨勢？
如果遞迴式自我改進率先在西方發生，而中國市場還沒有積累大量算力，世界格局將與另一種情形非常不同。
Dylan： 回到 2022 年，美國約佔全球新增算力的 45%至50%，中國市場約佔 30%至35%，其餘由世界其他地區獲得。
此後，針對中國市場的限制大幅加強，同時美國的部署規模顯著增加。如今約 70%的新增功率部署在美國。
中國市場所佔比例已經很小。用於資料中心 AI 算力的新增功率中，不到 10%位於中國境內。未來幾年，這一比例仍然會處於較低水平。
中國本土晶片產量還比較小，從 輝達 採購的規模也不大，而且其中相當一部分最終部署在馬來西亞等其他地區。
因此，中國境內仍然只佔全球新增算力的不到 10%。我認為到 2028 年，這一比例可能開始上揚，但屆時中國市場擁有的 AI 算力很可能仍然不超過 30 吉瓦。
主持人： 也就是說，2028年不超過30吉瓦？
Dylan： 是的。
主持人： 此後增長曲線會多快轉陡？
Dylan： 到 2028 年，中國市場可部署的算力應該會顯著增加。
2026 年，它們仍然較多依賴非正規管道流入的晶片、台積電原以為並非為華為生產但最終流向華為的晶片，以及三星出貨的部分 HBM。
但到 2027 年，晶圓廠產能開始增加；尤其是 2028 年，中芯國際、長鑫記憶體等公司的產能將明顯上升，本土晶片年產量可能達到數百萬顆。
僅在 2028 年，中國市場通過本土生產的晶片，就可能新增 5 至10 吉瓦算力。
這些晶片的性能肯定不如 輝達、Google 或 OpenAI 在 2028 年擁有的晶片。
主持人： 所以即使說是 30 吉瓦，這一數字仍然高估了實際可用性能，因為所用晶片明顯更弱。
如果全球在下一年新增 100 吉瓦，中國市場隨後一年能夠新增多少？一旦開始大規模出貨算力，它們會不會立即進入陡峭增長階段，還是仍然會低於美國及其盟友的總量？
Dylan： 這取決於許多政策變數，包括美國是否通過 MATCH Act、相關裝置是否繼續受到出口限制，以及中國廠商能夠多快擴大正在實現本土生產的新裝置。
但無論如何，中國市場的算力肯定會進入快速增長期。如果說中國製造業最擅長什麼，就是非常迅速地擴大生產規模。
我預計，中國市場還會逐步提高對外國晶片的採購能力，或者縮小與美國允許 輝達 對其銷售產品之間的差距。
主持人： 你認為中國市場在 2029 年新增 50 吉瓦算力有可能嗎？
Dylan： 我認為完全合理，其中一部分也可能來自海外採購。2029 年新增 50 吉瓦是合理情景。
不過，如果其中大部分來自本土晶片，那麼這 50 吉瓦的有效價值，可能只相當於使用美國晶片的 20 吉瓦。
主持人： 也就是說，你預測在不限制美國實驗室發展的情況下，到 2028 年，某一家領先實驗室按有效性能加權後的算力，可能超過中國市場到 2029 年甚至2030年的全部算力。
Dylan： 是的。但美國的政策和政治力量顯然已經開始限制實驗室發展，而中國市場不會主動放慢 AI，反而只會加速。
十、出口限制、金融體系與追趕速度
主持人： 坦率地說，我採訪 Jensen 並討論出口限制時，並不真正確定自己的立場。我傾向自由市場，因此刻意強化了與他相反的觀點，因為充分討論不同立場非常重要。
我當時想，也許存在一種情形：如果與中國市場合作，結果反而更有利，尤其是考慮到它控制著機器人產業所需的許多供應鏈環節。
但我沒有意識到算力差距已經達到你所描述的程度。如果出貨量確實如此，出口限制帶來的差異就非常大。
等到我們擁有自動化程式設計師、開始邁向自動化研究員時，中國市場的存量算力可能已經遠遠落後。如果最終真是如此，這項政策就達到了預期效果，稱得上顯著成功。
Dylan： 唯一需要補充的是，差距一部分來自出口限制，另一部分來自金融體系。
美國金融體系更願意把大量資金投入初創公司。中國金融體系通常沒有那麼激進，但一旦選定重點產業，提供的補貼會比其他經濟體多得多。
中國半導體產業獲得的補貼，顯著高於世界其他地區半導體行業補貼的總和。
如果智能起飛沒有你暗示得那麼快，而是經歷更長時間，中國市場最終會在半導體領域大幅追趕，而半導體發展遲早會轉化為算力。
另一個值得注意的事實是：至少從公眾可感知的模型能力看，中國公司的 AI 模型目前並沒有落後很多，儘管它們擁有的算力少得多。
領先的中國 AI 實驗室總算力至多隻有 100 至200 兆瓦，字節跳動 Seed 是一個擁有更多算力的例外。Kimi 使用的算力遠未達到一吉瓦，而 Anthropic 到年底將超過 5 吉瓦。
因此問題是，這種算力差距究竟是否重要。至少目前，它似乎還沒有那麼重要。
11、研發、開發與推理的算力構成
Dylan： 目前一家實驗室的算力預算，大致是 60%用於訓練、40%用於推理。
但訓練還可以繼續拆分：約 50%的總算力用於研究，10%用於開發，40%用於推理。
所謂研究，是研究人員不斷產生想法，測試新架構、新資料配比、新超參數、新注意力機制等。
真正開始完整訓練模型時，例如 Anthropic 訓練 Mythos，使用的功率其實不到 200 兆瓦。
主持人： 你指預訓練，還是整個訓練過程？
Dylan： 預訓練。大約不到 200 兆瓦，持續兩個月左右，之後的強化學習階段使用的單點算力更少。
主持人： 你認為強化學習使用的總算力少於預訓練嗎？
Dylan： 至少從單一站點的峰值功率看是這樣。
主持人： 但總計算量可能更高，對嗎？
Dylan： 它是順序進行的。無論如何，Anthropic 在某一時點用於單次訓練的最大功率可能只有 200 兆瓦。
但它實際上擁有數吉瓦算力，所以其中大部分都流向了研究，而不是某一模型的正式開發。
原因有很多。不同叢集很難協調，也很難全部部署在同一個地點；多站點訓練很困難，強化學習本身也很困難；在強化學習階段生成更多軌跡，並不一定能繼續提高模型質量。
所以即使實驗室擁有兩吉瓦算力，也不代表它能把兩吉瓦全部用於一次訓練，實際上可能只能有效利用 200 兆瓦。
隨著自動化程式設計和自動化研究員不斷發展，研究與訓練之間的算力邊界會變得越來越模糊，或者用於訓練的佔比會進一步上升。持續學習等方法也意味著，越來越多算力會直接用於模型訓練。
12、1兆美元資本開支與提前建設
主持人： 如果進入每年建設 100 吉瓦算力的世界，按當前價格計算，每年資本開支就會達到 5兆美元。
此外，發電廠必須提前很久建設，而且是使用壽命約 30 年的資產。資料中心則是使用壽命約 15 至20年的資產，也必須提前建設。
因此，考慮未來年份的增長後，表面上的 5兆美元資本開支，實際可能達到 7 兆甚至10兆美元。
Dylan： 沒錯。通常人們談 AI 資本開支時，會說每吉瓦需要 400 億至500億美元，但這其實只包括關鍵 IT 裝置：伺服器、網路裝置、光纖、收發器、光通訊裝置等。
它沒有包括資料中心建築本身，也沒有包括必須提前建設的發電設施。
如果今年建設 100 吉瓦、明年建設 150 吉瓦，那麼明年那 150 吉瓦所需的建築，今年就必須投入資本。
如果再下一年建設 200 吉瓦，對應發電設施也必須提前投入，今年就得購買燃氣輪機。
所以，每年建設 100 吉瓦所需要的總資本開支，實際上遠高於 5兆美元。
主持人： 到 2030 年末，每年的新增資本開支很可能接近 10兆美元，接近全球經濟總量的十分之一。
如果這些建設全部發生在美國——當然，美國經濟屆時也會增長——但按當前經濟規模計算，相當於美國經濟的四分之一至三分之一都用於建設資料中心。
把這個數字說出來以後，我開始覺得，也許你是對的：我們最終不會允許它發生，這正是指數增長無法延續的原因。
要延續這種指數曲線，美國四分之一的經濟活動都要圍繞資料中心建設。
我相信資本主義會把資源重新配置到利潤最高的領域，但政治、信貸市場和資本市場同樣存在。
即使只看到 2028 年，為實現相應算力規模，所有環節的資本開支也可能達到 3 兆至4兆美元。其中超過 2.5兆美元用於 IT，再有 1 兆至2兆美元用於資料中心、能源以及半導體等下游供應鏈。
這 3 兆至4兆美元現金從那裡來？目前還沒有任何企業通過業務產生如此多的現金。
13、信貸市場將成為擴張瓶頸
Dylan： 到目前為止，大部分增長都由超大規模雲廠商提供資金，包括 Google、微軟、Amazon 和 Meta。它們此前佔全球算力的一半以上。
但現在，它們產生的現金已經幾乎全部用於資本開支。除此之外，它們還在發債，然後繼續把資金投入資本開支。
Meta 已經這樣做，Amazon 和 Google 也在這樣做，微軟 很快也會如此。
接下來，誰會成為此前沒有參與、但現在願意為新增建設提供資金的人？
對於 Google 或 Meta，最簡單的方式是停止股票回購，把資金轉去購買計算基礎設施。這不會對市場造成極端影響，但仍會帶來一定衝擊。
到了 2028 年，超大規模雲廠商將發行數千億美元債務，其供應鏈也將發行數千億美元債務。那時誰來購買這些債務？
資金來源可能有幾類。
第一，輝達、Broadcom 和記憶體廠商等半導體公司可能決定為部分資本開支提供資金。
第二，傳統基礎設施投資者會募集資本，轉投資料中心。過去他們投資橋樑，未來則投資資料中心。
第三，整個經濟體中的投資者會重新思考：“也許我不該買房，也不該購買幫助別人買房的信貸產品，也不該購買國債；我應該購買超大規模雲廠商的債務、資料中心債務，或者 Anthropic 的債務。”
Anthropic 可能願意為額外 10億美元融資支付 20%的利率，因為它知道新增容量能夠帶來巨大收入。即使支付 20%，也仍然比以每吉瓦 500億美元的價格從 SpaceX 租算力划算。
於是，各類資本需求會發生激烈競爭，全球經濟結構也會隨之改變。
14、AI 投資如何推高全社會利率
主持人： 我們前幾天一直在討論，AI 是否會引發主權債務危機。
邏輯是這樣的：非常少的投資可以轉化成非常多的錢，所以 AI 投資回報率極高。
這對其他無法把少量資金變成巨額收入的行業來說，確實是一個嚴重問題。
即使只看資料中心，如果建設一座資料中心，再以折舊成本十倍的價格出租給 Anthropic 或 OpenAI，回報也極其誇張。一年內，1 美元可能變成 2 美元甚至10美元。
這會推高利率。
如果整個經濟體的利率上升，而企業借款又越來越多，它們就會與政府融資、其他公司融資以及消費者住房按揭競爭。其他所有借款人的融資成本都會上升，對大量人群產生重大影響。
我認為美國最終不會有太大問題，因為如果資料中心建在美國，就可以對資料中心徵稅。
但當前稅制中，公司所得稅佔聯邦收入不到 10%，超過 80%的收入來自工資稅和個人所得稅。隨著自動化程度上升，後兩項收入可能收縮。
與此同時，目前稅收支出中約有 20%用於償還債務利息，而且大量債務期限較短，平均約五年就要滾動續期。
Dylan： 你最近才開始研究這些債務問題，卻給一百萬人講課，確實很有意思。
主持人： 這就是我們的工作。
假設利率上升一個百分點，按五年滾動計算，用於償債的稅收比例會從 20%升至25%。
如果利率上升五個百分點，這一比例就會超過 40%。再考慮政府每年還要新增約 2兆美元借款，最終可能超過 60%。
也就是說，60%的稅收收入都將用於支付債務利息。
我認為美國仍然能應對，因為只要允許資料中心在美國建設，稅基就會增長。但其他一些國家的處境可能非常困難。
那些債務規模大、稅收收入低、債務又需要頻繁再融資的國家，例如巴基斯坦或奈及利亞，可能在新的利率環境中面臨嚴重危機。
Dylan： 這種擠出效應正是全球算力不可能無限擴張的原因。
大量依賴債務的產業和國家，包括一些較貧困國家，可能出現違約。
消費品公司普遍大量使用債務，電信公司和銀行也都高度依賴債務。
如果市場利率上升——未必是政策利率本身上升，也可能是政策利率與實際市場融資利率之間的信用利差擴大——整個體系就會面對資金究竟從那裡來的問題。
假設 Amazon 明年需要發行接近 1000億美元債務，即使實際數字可能略低，也會對信貸市場形成巨大競爭。
部分建設可以由現金流提供資金，而且現金流會繼續增長。但理性的企業會希望投資規模遠高於當期現金流，因為這能帶來驚人的未來回報，於是必然存在融資缺口。
壓低這一缺口的力量包括：針對資料中心的限制、消費者和政治人物的反對、針對 AI 的限制，以及實驗室出於安全考慮不發佈最新模型。利率上升也會反過來強化這些約束。
所有這些因素會把純粹經濟學所希望看到的資本擴張曲線向下壓低，最終實際建設的吉瓦數會少於理論最優水平。
主持人： 不過，利率本身也是資本主義的一部分。
Dylan： 是的。我說的是簡單經濟模型，與現實複雜系統之間的差別。
15、11兆美元建設需要多少債務
主持人： 你認為明年 Amazon、Anthropic 或其他參與者會以多高的利率發債？如果整個行業需要發行數千億美元債務，平均利率會是多少？
Dylan： 我不認為 Amazon 一家公司會發行數千億美元債務。
主持人： 我說的是大型科技公司、超大規模雲廠商和其他雲服務商的合計數字。
Dylan： 按我們的模型，2024 至2029年累計資本開支約為 11兆美元。
即使儘可能使用現金流，超過 11兆美元的建設中，仍需要發行超過 5兆美元債務。
主持人： 所以你不認為 AI 收入會繼續每年增長三倍？
Dylan： AI 收入會增長，但不可能永遠以這個速度增長而不碰到約束。
實驗室也有自身激勵，而且很多情況下，真正建設算力的並不是實驗室，儘管它們越來越希望轉向自建。
主持人： 但它們會獲得大量現金流。你預測實驗室收入會達到多少？你認為收入仍然不夠嗎？
Dylan： 我的意思是，到 2029 年，累計資本開支約為 11兆美元，其中約 6兆美元由現金提供，另外5兆美元由債務提供。
整個生態系統發行 5兆美元債務，足以推高利率。
什麼能夠減少債務需求？
一種可能是，實驗室繼續提高每兆瓦收入，並維持較高的推理算力佔比。在這種情況下，它們會獲得整個標普 500 指數公司所支付的大量利潤，因為其他公司都在付費使用 AI 降低成本。
當然，客戶公司的利潤也會上升，但現金終究必須來自某處。
實驗室收入相對於其為全世界創造的價值，不可能無限快地增長，技術擴散也需要時間。不過，實驗室收入仍會繼續上升。
即便如此，它們也無法完全依靠現金流為所有建設提供資金。最優選擇仍然是儘可能使用信貸，因為無論現金流能提供多少資金，企業都會希望建設更多算力。
我們的當前模型是：到 2029 年，5兆美元由信貸提供，6兆美元由現金資助。
即使投入這些資金，建成的算力仍不足以滿足 AI 模型帶來的需求增長。所以最明顯的結果就是，每兆瓦收入繼續上升。
16、八釐利率與第二次沃爾克衝擊
主持人： 你認為到 2029 年，AI 建設會把利率推高多少？
Dylan： 這只能是非常粗略的判斷。
全球經濟增長會顯著加快，因此 Amazon 的融資利率沒有理由一直停留在今天的水平。
Meta 最近的融資利率大約是 5%至6%。未來它們支付 8%的利率並不奇怪。它們會樂意支付 8%，因為利用所建算力獲得的回報極其豐厚。
市場未必希望它們這樣做，但企業自己會願意。
問題在於，如果融資利率從今天的 5%、5.5%或6%升至8%，也就是上升約 250 個基點，經濟中其他參與者的融資成本同樣會增加約 250 個基點，繼而引發大量連鎖反應。
銀行會首先承受壓力。如果信用利差擴大，銀行負債的重新定價速度快於資產重新定價速度，最終可能產生巨額損失。
主持人： 另一個後果是：利率上升會提高折現率，導致幾乎所有股票的現金流折現價值大幅下降。
即使整體股市或標普 500 指數看起來沒有問題，許多個股仍可能暴跌，尤其是巴菲特或波克夏偏好的那類“未來 30 年持續產生穩定現金流”的公司。
Dylan： 對。屆時投資者會問：“我為什麼要以如此高的價格購買強生？”
這類公司通常被視為穩定資產，能長期產生並返還現金流，鐵路公司也是如此。
但如果折現率不再是 3%或5%，而是8%或10%，投資邏輯會完全改變。
經濟學家 Basil Halperin 提出過一個觀點：我們可能看到第二次沃爾克衝擊。
20 世紀80年代，為了抗擊通膨，聯準會主席 Paul Volcker 大幅提高利率，實際利率一度接近 8%。在那個十年裡，這導致約 40 個國家違約，其中大部分位於拉丁美洲。
我認為類似的事情很可能再次發生。
17、高增長經濟中的資本機會成本
主持人： 現在我們開始進入奇點話題了。前面討論的是奇點到來之前，利率可能上升兩到三個百分點等問題。
Dylan： 我認為剛才所說的一切都會發生在奇點之前。
主持人： 是的。但在某個階段，我認為全球經濟很可能開始每年翻倍。這不會在五年內發生，但最終會發生。
研究人員 Damon Binder 在這方面做過很好的工作。他研究了完全自動化經濟中的投入產出表，並提出一個問題：要讓經濟中的全部資產存量每年翻一倍，需要什麼條件？
如果經濟每年增長 3%，根據“70 法則”，翻倍需要二十多年。
當前的瓶頸在於人口不可能每年翻倍。但如果勞動力也能每年翻倍，經濟可以增長多快？
我認為經濟可能每年翻倍，至少也會達到每年數十個百分點的增速。
利率應該與經濟增長率相當接近。由於消費等因素，兩者不會完全一致，但應該處於相似區間。
因此，到了 2030 年代，我們可能進入利率達到數十個百分點的世界。我甚至懷疑利率可能達到數百個百分點，但保守地說，至少是數十個百分點。
屆時，所有沒有參與 AI 生產的國家都可能違約。
所有非 AI 股票的價值都可能接近於零，因為其未來現金流折現後幾乎不再有價值。
如果美國政府無法找到對 AI 徵稅的有效方式，僅債務利息就可能超過當前全部稅收收入。
除此之外，還會出現許多尚未納入定價的影響，例如普通人可能再也無法獲得住房按揭。
從根本上說，這個世界到底發生了什麼？
Dylan： 先退一步看，我們正在進入一種完全不同的增長機制。
經濟在說：“政府借錢支付養老金的機會成本已經變得極高，因為同樣的資金可以用來建設一家機器人廠，而這家機器人廠又能建設下一家機器人廠，再由下一家工廠繼續複製。”
資本的機會成本會大幅上升。這就是前面所有現象的根本原因。
隨著利率上升，股票市場會遭受重創，甚至 AI 公司也不例外。
一些高度相信 AI 的人會問：“為什麼美光、SK 海力士或鎧俠只按兩三倍市盈率交易？”
答案是，如果真的相信 AI 會如此發展，那麼整個經濟中的一切都應該只按兩三倍市盈率交易。
如果不相信 AI，那麼當然可以認為記憶體廠商的利潤處於不可持續高位。
我認為記憶體行業會表現很好，但這也解釋了為什麼記憶體股票不應該再次上漲十倍。
如果記憶體需求真的高到那個程度，就意味著 AI 已經徹底改變了經濟，屆時所有公司都應該按兩三倍估值交易，整個股票市場也會暴跌。
從某種意義上說，Meta 目前市值大約 1.5兆美元，看起來反而很荒謬。按邏輯，它的價值應該遠高於這個數字。
看看它的現金流、囤積的全部基礎設施，以及未來可以按極高單位功率價格出售的算力：如果自己的實驗室成功，可以把算力變成 token；如果不成功，也可以直接出售給 Anthropic 或 OpenAI。
最終，整個問題會變成：必須把全部資本重新配置給 AGI，而實現這種再配置的方式，就是讓其他所有用途都無法承受資本價格。
18、AGI 的限制不只來自研究能力
主持人： 這麼看來，AGI 的限制因素並不是研究工程師能多快推進研究，而是世界其他部分願意讓這種處理程序發展到什麼程度。
社會會加強監管，會通過利率提高融資成本，也會拒絕建設資料中心和晶圓廠。
當所有公司的股權價值都在下降時，企業也會問：“我怎樣還能花錢使用 AI 改善業務？”
屆時，Anthropic 和 OpenAI 就必須開始建設自己的基礎設施。
Dylan： 它們已經開始設計自己的晶片。未來幾年，它們還會承包自己的資料中心，建設自己的基礎設施。
真正的問題是，整個經濟體會如何完成資源重新配置。
即使模型本身已具備推動快速起飛的能力，仍然有許多力量會把處理程序向下壓。
我認為，我們都相信模型可能進入那樣的世界。但由於經濟和監管體系的全部約束，緩慢起飛仍然有可能發生，至少這是我的希望。
監管部門會說：“不要發佈你們的模型。”接下來甚至可能會說：“你們在內部也不能大量使用這些模型。”
前一種情況已經發生，後一種情況很可能很快出現。
主持人： 我最擔心的是，限制外部部署反而會幫助形成奇點，因此阻止外部部署是非常錯誤的做法。
Dylan： 這真的會阻止奇點嗎？現階段，模型還不能進行遞迴式自我改進，外部部署確實主要意味著更多收入。
主持人： 但我擔心的是，到了 2030 年，監管部門會要求：“最新模型必須等待六個月才能向公眾發佈。”
如果六個月意味著一百倍的能力增長，那就完全不同了。
在這六個月裡，實驗室可以在內部進行遞迴式自我改進，公司內部會發生各種極端變化，而外部世界仍然只能使用按照當前進度已落後數年的模型。
假設全世界聯合起來試圖讓 AI 放慢一年——
Dylan： 這並不是什麼秘密計畫，很多政治人物已經公開表達了這種意圖。
主持人： 假設它們真的讓 AI 放慢一年。算力每年增長兩至三倍，阻止一整年的 AI 部署，就相當於讓實際進展比原本路徑落後一年。
但在遞迴式自我改進階段，一年可能對應三至六年的傳統 AI 進展。
Dylan： 它們不僅會限制算力，還會限制實驗室在內部使用模型。我們已經見過這種情況。
主持人： 如果連內部使用都受到限制，反而可能是理想結果。
Dylan： Anthropic 曾一度停止讓部分外國員工使用 Mythos。
主持人： 內部也受到限制嗎？我原以為那是另一個與 Mythos 類似的檢查點。
Dylan： 它基本上就是 Mythos。未來，這類內部使用也不會自動獲准。
至少掌握關鍵條件的一方，不會願意讓 Anthropic 隨意在內部使用 Mythos 4。它們會要求實驗室先放慢速度。
幾乎所有選民都會反感 AI，現有的政治人物也已經對 AI 持負面態度。
未來甚至連你的父母都可能打電話說：“Dwarkesh，你做得很糟，你正在加速 AI 進步。”
主持人： 我的播客也在加速 AI 進步嗎？
Dylan： 也許。你在幫助人們理解這些問題，而更聰明的人也許會更快推進 AI。
無論如何，AI 的進步、開發和部署都會受到現實世界的約束。即使終點最終會到來，我們也可能在抵達之前先因衝突而付出巨大代價。
19、AI 勞動力每年擴大十倍
主持人： 這些情景中最令我震驚的一點，是全球未來很大一部分勞動力供給會集中在極少數公司，而且這種勞動力供給的年度增長速度極快。
如果前沿算力按 FLOP 計算每年增長四至五倍，同時實現同一能力水平所需要的算力每年下降約三倍，那麼前沿實驗室中的有效 AI 人口規模，實際上每年增長約十倍。
現在這還沒有那麼重要，因為 AI 尚不足以獨立完成完整工作，也沒有人類那樣的自主性，無法獨立執行長期任務或複雜計畫。
但如果當前趨勢持續，OpenAI 今年可能相當於擁有 1,000 萬名 AI 勞動力，下一年就是 1 億名，再下一年就是 10 億名。
即使此後算力增長放緩，也不需要再過很多年，單家公司擁有的等效勞動力就會超過全球人口。
到本十年末，一家實驗室內部的 AI 勞動力或有效人口規模超過全球人口，我認為是非常合理的情景。
人們經常討論國有化等因素導致的權力集中，卻沒有充分意識到，我們正在快速進入一種狀態：按工作產出計算，大多數“勞動者”都會集中在兩家實驗室裡，而這兩家實驗室還在消耗全球越來越多的算力。
如果這些 AI 沒有與人類目標保持一致，那麼從某種意義上說，全球大多數智能主體也沒有保持一致，因為大多數“思維”都集中在那裡。
即使它們沒有目標偏差，極少數公司仍會擁有巨大的影響力和控制力。
此前有人聲稱，Dario 認為未來全球只會剩下一家公司。Sholto 和 Dario 隨後都否認自己說過這樣的話。
但如果相信遞迴式自我改進，相信實驗室是算力最有效的使用者、能夠從算力中創造最高價值，那麼結果必然是算力進一步集中。
Dylan： 如果相信 AI 研究員、遞迴式自我改進和 AGI，那麼前面討論的一切就是實現它們的基礎。
但即使沒有遞迴式自我改進，結論也成立。對於同一能力水平，前沿實驗室的有效人口目前每年增長約十倍。
一旦模型達到優秀遠端工作者、軟體工程師或研究人員的水平，這類勞動力的數量就會按當前能力進步速度每年增長十倍。
主持人： 明白了，這還不需要遞迴式自我改進。
一旦遞迴式自我改進發生，增長速度可能變成每年一百倍或一千倍；也可能是人口不再增加，而單個 AI 的智能快速提高；或者兩者同時發生。
Dylan，你能設想什麼樣的世界不會走向全面集中嗎？因為在我看來，所有力量都在尖銳地把體系推向集中，而這非常可怕。
20、規模經濟為何天然推動集中
Dylan： 我當然希望它不會完全走向集中。也許這就是所謂“仁慈機器”的核心想像：它無處不在，卻讓所有人的生活變得更好。
未來確實很難想像，但我同意你的判斷。
根本問題在於，AI 訓練具有巨大的規模經濟。為訓練 AI 掌握某種技能或知識所投入的任何成本，都可以攤銷到數十億次會話或數十億使用者之上。
第二個效應是，如果你在 AI 競賽中略微領先，而算力又處於短缺狀態，你就能收取高得多的加價，因為你能夠更高效地利用這種稀缺資源。
這兩種力量都會把越來越多的資源交給競賽中的領先者。
可能還有更多機制。如果模型能夠從部署中學習，而一個模型的部署規模遠高於另一個模型，它就能獲得更多真實世界資料。
無論是使用者部署和持續學習，還是訓練規模經濟，抑或最強 AI 幫助開發下一代最強 AI 的增量優勢，以及遞迴式自我改進，所有力量都指向集中。
一個非常重要的思想任務是：在認真承認這些規模經濟的前提下，怎樣建構一個去中心化、廣泛賦能的 AGI 未來？
另一種願景是由政府控制 AI。有人可能認為，政府比私人公司更值得信任。
但我不信任政府，也不信任 Dario 或 Sam，這就是問題所在。
對未來的預測當然很容易出錯，也許我們忽略了某個會改變一切的關鍵效應。但在事前判斷中，很難看出怎樣才能避免被迫在不同集中化來源之間作出選擇。
資本主義之所以有效，很大程度上是因為決策和權力是分散的。即使同為資本主義經濟，權力高度集中的經濟體，在一定程度上也比高度分散的經濟體增長更慢，當然法治等條件同樣重要。
但 AI 可能把這套邏輯徹底顛倒過來。
最終，人們可能會發現，分散的私人所有制不再是最高效的經濟形式，因此增長速度反而低於高度集中的 AI 經濟。
主持人： 它仍然可以是私人所有，但真正參與這一經濟份額的公司能有多少？
AI 相關投資現在可能只佔經濟的約 2%，大致是 1兆美元除以30兆美元，但 輝達、Anthropic、OpenAI 和幾家超大規模雲廠商已經佔據了其中很大份額。
當然還有其他公司參與，但 AI 領域的大部分活動確實集中在極少數企業中。
所以它可以保持私人產權，但實際參與者仍然非常少。這就是市場結構正在產生的結果。
什麼能阻止它？我不知道。
除非 AI 進步放緩，或者監管力度極其強大，否則所有趨勢都會繼續朝這個方向發展。
我們可能會進入兩種世界之一：一種是資源極度集中，只能祈禱唯一佔據支配地位的公司把所有事情都做對；另一種是政府和社會強行讓整個處理程序放慢，希望由此維持更平衡的權力結構。
即使繼續邁向 AGI、ASI 和遞迴式自我改進，沿途每一個階段仍然會讓領先者捕獲更多資源。因此，很難找到一個 AI 不會導致極端集中的理論框架。
21、外部價值分配能否成為緩衝
Dylan： 目前唯一積極的因素是，Anthropic 並沒有捕獲 AI 創造的大部分價值。
我們可以一直討論它如何從每兆瓦 2000萬美元收入增長到 1億美元，但它購買的大量算力，成本仍然只有每兆瓦約 1300萬美元。
Anthropic 之所以能把每兆瓦收入提高到 1億美元，是因為 Jane Street 也許能利用同樣的算力創造每兆瓦 3 億或5億美元的價值。
或者，主持人利用 AI 研究節目和學習信貸市場，又能從每兆瓦算力中創造多少價值？雖然實際能使用的算力並不多，但道理相同。
這可能是唯一值得寄望的地方：經濟中的其他參與者也許能從 Anthropic 的模型中獲得更多利潤。
主持人： 但你前面關於把推理算力重新分配給 AI 研發的邏輯，恰恰說明 AI 實驗室內部的算力回報高於外部。
Dylan： 是的，這只是我的自我安慰，我同意。
假設存在八萬種未來，也許只有一種未來裡 Anthropic 沒有擁有整個世界。
權力之所以集中，正是因為實驗室不願意把 token 送到外部。算力留在內部更有價值。
為什麼要讓 Jane Street 從高風險期權交易者那裡賺走全部利潤？
當然，高效市場對世界仍然有價值。
但無論 Jane Street 是通過精準判斷市場，還是通過與高風險期權交易者交易而賺錢，Anthropic 為什麼要把算力分配給它？
如果 Jane Street 每兆瓦能夠創造 2億美元價值，因此願意向 Anthropic 支付 1億美元，那麼當 Anthropic 自己在內部使用同一算力也能產生數億美元價值時，它就沒有理由繼續對外出售。
而這正是正在發生的事情。
主持人： 就在這樣一個沉重的結論上收尾吧。等遞迴式自我改進正式開始時，我們再見。
Dylan： 難道接下來兩個月都不再請我來了嗎？好吧，謝謝。 (404K)