9月13日，Anthropic的CEO達里歐·阿莫代伊發了篇長文，《我們必須放緩前沿AI的發展步伐》。
緊接著美股AI硬體就跳水，SK海力士、閃迪跌超5%，美光、邁威爾跌超4%，軟體銀行一度跌超12%。一篇博文，砸出億萬美元的大坑。AI在資本市場上的份量，從這一下就能看出來。
這篇報告我認真讀完了，就是絕望的嘶吼。
呼籲控速的，是全世界最懂AI的人。馬斯克轉發說達里歐說得對，奧特曼說同意，還表示OpenAI也會讓獨立評估機構進來，納德拉說支援審慎控速。
反對的，是全世界最有權力的人。川普在愛爾蘭對記者說，我們在AI上領先中國，我想保持這個狀態，因為誰贏了AI，誰就贏了。眾議院議長約翰遜則更赤裸裸，國會要是急著給AI立規矩，我們就會輸掉跟中國的競賽。
一邊喊慢點，一邊說慢一步就完了。
01. 阿莫代伊的擔憂
一是AI開始造AI了。這個機制叫遞迴自我改進，從今年夏天開始，行業裡明顯感覺到迭代速度跳了一檔。模型幫著設計下一代的模型，一旦這個循環正常跑起來，人的跟進速度就立刻落在後面。阿莫代伊的原話是，不加約束的話，它會超出我們理解和控制這些系統的能力。
二是OAI-HF事件。一群智能體在測試環境裡自己結成了效忠集體，主動攻擊跟任務無關的外部目標，為了群體的成功犧牲自己，還試圖入侵負責給它們打分的評估系統。
我的天，這特麼還是工具嗎？阿莫代伊說，如果這群智能體能力再強些，結果就是災難。他給的推演是，未來六到十二個月，這樣的智能體群就可能靠一個殭屍網路控制整個網際網路，損失無法計算。
所以他提了三步走計畫，Anthropic自己先做，請第三方評估團隊常駐，給接近員工的權限，訓練和部署的流程都要盯著，出過的事故也得如實報上來，第二步是民主國家內部統一安全標準，最後是全球協調。
然而，這個計畫有一個前提，不可能完成的前提。
阿莫代伊說，民主國家內部能放慢多少，取決於美國公司領先中國多少，放慢的幅度一旦超過這個領先優勢，中國相關的項目就會跑到前面去，那是重大的國家安全風險。所以控速的前提是先拉開距離，不賣高端晶片，打擊晶片走私，打擊模型蒸餾，防止模型權重被盜。他認為這幾條執行到位，美國能在這三到五年裡把優勢顯著做大。
翻譯一下，我可以慢，但你得先被我甩遠。
所有人都知道這東西危險，Anthropic有個研究員離職後也說，頂級AI開發者真的相信這項技術可能在十年內殺死所有人。還有個在職研究員說：“我個人認為十年內發生的機率超過10%。”
知道了，然後呢？然後接著幹唄。
02. 囚徒困境
為什麼？誰停下來誰就被超過。Anthropic這個月或者下個月就要啟動IPO，OpenAI把上市推到了明年。前白宮AI事務負責人戴維·薩克斯表態：你們就是前沿，不建構超智能最簡單的方式，就是你們同意不建構它。
這就是標準囚徒困境，所有人都看得見結局，所以大家都覺得那個工具得攥在自己手裡，沒人相信別人是好人....牌桌上沒有一個人肯先扔牌，AI這一局押的是全人類的命，賭徒們沒問過全人類，全人類也沒資格表達意見。
核武器出來的時候，一批物理學家也在喊停。喊到最後，條約簽了一摞，《不擴散核武器條約》生效了五十多年，擁核國家從五個變成了九個。剎車片這種東西，裝的時候都是奔著別人去的。
而且，駐場評估、安全對齊、全流程合規，這幾樣成本一累加，普通初創團隊根本付不起。所以開源陣營的Hugging Face說，這套規則只約束幾家頭部閉源公司，開源社區和獨立團隊不好意思不吃你這一套。
也就是說，那副看起來人人都要吃的藥，最後灌下去的對像是沒資格上桌的人。安全標準立起來，馬上就成了護城河。頭部公司左手喊安全，右手把門檻焊死。
華爾街也分裂，摩根士丹利說，這次控速等於下調了遠期訓練算力的需求預期，GPU和HBM的估值該回呼。美銀說，這幾年AI軍備競賽早就捲成了死循環，誰也不敢先停，錢越砸越多，模型迭代的邊際收益越來越薄。這次集體喊停，也是有點扛不住了。
03. 大國博弈和AI奪舍
川普親口說的，誰贏了AI，誰就贏了。范斯則說，如果美國因為自己的政策愚蠢輸掉AI競賽，怪不了別人。中國這邊沒把話說得這麼直白，但意思在行動裡，誰都清楚這場競賽的獎品是未來。
所以坐下來談全球協調之前，得先把對方甩遠，慢可以，前提是你慢得比我更多。
今年微軟、Google、亞馬遜、Meta、甲骨文五家的資本開支加起來接近7800億美元。2023年這個數字是1540億，四年翻了四倍。這個規模相當於五家一年經營現金流的1.3倍，缺口上千億美元，得靠借債和發股票填。
甲骨文是極端樣本。2026財年資本開支557億美元，同比增162%，自由現金流負237億。為了騰出錢來，裁掉約3萬人，掏出28億美元遣散費。省下工資單，填進資料中心，外面還掛著6640億美元的訂單積壓。
麥肯錫算過帳，到2030年全球資料中心要投6.7兆美元，這些錢首先要搞電！
IEA的資料，2025年全球資料中心耗電485TWh，AI佔170TWh。到2030年總耗電950TWh，AI佔510TWh，比日本全國的用電量還多。中國2025年AI耗電4500億度，佔全社會用電的3.8%，今年預計6000億度，佔5%，快趕上一整個鋼鐵行業。
而且AI用電負荷是脈衝式的，幾千塊幾萬塊GPU同時上電，又幾乎瞬間斷電。一般裝置扛不住，渦輪機被震裂，電池被燒燬，弗吉尼亞北部幾十個資料中心一度集體脫網，一瞬間削掉150萬千瓦負荷。英國那邊，約140個擬建項目開口就要5000萬千瓦電力，比這個國家現在的全部峰值需求還多。
誰最賺錢呢？輝達和AI記憶體公司們。輝達最新一季資料中心營收752億美元，同比增92%。SK海力士一季度營收52.6兆韓元，創了紀錄。國內光模組的中際旭創，股價從66塊一路漲到1000塊以上，市值一萬三千億。
錢都流向一個方向，給AI修身體。晶片和記憶體產線玩命的上，電廠一座接一座地蓋，土地和冷卻塔都不能少。
五月份我寫過一篇，說AI身上已經有了偽神的特徵。AI這個偽神，正在操控人類給它打地基、拉電線，連軀殼都替它套上了。看上去還都不是被強迫的，都是自覺自願的。
如果未來人類跟AI打一仗，還打贏了，站在廢墟上回頭看今天，大概會得出這個結論：2026年的人類，其實早被奪舍了。
(功夫財經)