用上 GPT-5.6 之後，這或許是你今天最值得關注的一個：ai-2040.com。
《AI 2027》團隊的續作，正式發佈了，名字叫《AI 2040: Plan A》，講的是我們應該如何面對比人類更強的 AI。
Daniel Kokotajlo 是這麼介紹的：
“ 在 AI 2027 中，我們預測 AI 將接管世界，或讓權力發生不可逆的集中。
而在 AI 2040: Plan A 中，我們寫下了我們的正面願景：事情本應如何發生。
上一部預言了人類的死法，這一部，則是要改寫人類的活法。
我花了大半天把主文 81 頁的 PDF 通讀了一遍（還沒算十幾篇附錄和補充文件……），有種當年一口氣讀完《AI 2027》的既視感。
本文會把整個劇本從頭到尾和你一起全捋一遍，包括它的分支劇情和遭受的批評。
預警：篇幅很長，但值得。
01. 先說 AI 2027
如果你沒讀過《AI 2027》，這裡補個課。
2025 年 4 月，前 OpenAI 治理團隊研究員 Daniel Kokotajlo 拉著 Scott Alexander、Eli Lifland、Thomas Larsen、Romeo Dean 幾個人，發佈了一份逐月推演的 AI 未來場景。
文中的劇情是，AI 在 2027 年實現 AI 研發的完全自動化，隨後智能爆炸，年底出現超級智能。
結局有兩個。
「競賽結局」裡，錯位的 AI 接管世界，人類出局；「減速結局」裡，人類保住了控制權，但世界的方向盤落在了極少數人手裡。
一個是滅絕，一個是寡頭。
二選一。
這份報告後來的影響力大到有些離譜：主串流媒體輪番報導，美國副總統范斯都說自己仔細讀過。
而 Kokotajlo 本人的故事則又給它加了一層份量，他 2024 年從 OpenAI 離職時，拒簽封口協議，為此願意放棄佔家庭淨資產 85% 的股權（後來 OpenAI 在輿論壓力下改了規則）。
這個團隊還有個特點是，他們是真的會預測。Kokotajlo 在 2021 年寫的《What 2026 Looks Like》，回頭來看，當時的預測精度也是相當的高。
而這次新增的作者 Ryan Greenblatt（Redwood Research 首席科學家），是 2025 年度 AI 預測準確度排行榜的第二名。
所以當這批人說「我們寫了個好結局」，我們應該認真看完。
末日預言家認真寫烏托邦，相比樂觀主義者隨口寫末日，可能更值得一看。
02. Plan A 是藥方，不是預測
開始之前，我們先說一下文章的定位，這也是網友們問的最多的問題。
發佈幾小時後，YouTube 博主 AI Explained 提問道：你們說 Plan A 是「目前最好的猜測」，是指「未來會發生什麼」，還是「世界最好的方案是什麼」？
Kokotajlo 回答：
“ 都不是。Plan A 是我們對「應該發生什麼」的推薦，是我們對「應該怎麼做」的最佳猜測。
至於默認會發生什麼，我們的判斷基本還是 AI 2027 那個樣子。時間線有小幅調整，但不多。
也就是說，他們依然認為放任自流的話，世界大機率仍會滑向 AI 2027 的結局。團隊裡多數人認為，如果只靠漸進式的修修補補，錯位 AI 接管的機率超過 50%。
Plan A 不是預測，而是藥方。
寫法上他們有個方法論，叫「場景審視」（scenario scrutiny）：絕大多數 AI 政策提案，只要你試著寫下一個它成功落地的詳細劇本，就會發現根本寫不下去……要麼漏洞百出，要麼副作用大到沒人願意承認。
所以他們干脆先拿自己的方案開刀，把它放進一個具體的世界裡逐年推演，看會發生什麼。
文件開頭，也引用了艾森豪威爾那句話：
“ 計畫本身一文不值，但做計畫就是一切。
順帶一提，這次的默認時間線從 2027 推到了 2030。原因在於 AI 2027 用的是 Daniel 的中位數預測，這次用的是主筆 Thomas Larsen 的（Daniel 自己覺得會比劇本裡更快）。
整個團隊對時間線本來就有分歧，這次也算是刻意讓作品組合反映這種不確定性。
網站的形態也和 ai-2027.com 一脈相承：左邊是逐年的劇情，右邊是一個即時儀表盤。
就業率、中位收入、對齊研究人員數量、累計減速時長，隨著你往下滾動逐年變化（做得非常精緻，我的瀏覽器裡連數字都本地化成了「億」和「萬」）：
好了，劇情開始。
03. 2027：牆上的字
劇本的前兩年，基本就是把當下的趨勢往前順推。
2027 年，美國（作者所在地）有了兩支勞動力隊伍。一支是 1.65 億人類，另一支是 AI agent：每小時都有數百萬個副本被啟動和關閉，以超人的速度晝夜運轉。
它們的產出大多是垃圾，但好用的那部分已經讓人們願意每月付出 100 億美元。
AI 公司最想自動化的崗位是它們自己的。遞迴自我改進還沒實現，但已經越來越近了，而且它們在拆身後的梯子：最強的程式設計 AI 會拒絕幫競爭對手做 AI 研發。
國會開始追問一個問題：這些 AI 到底歸誰管？
他們得出的答案是：反正大機率不歸我們管。
聽證會上，議員們翻出了 2016 年 OpenAI 的內部郵件，當年 Ilya 和 Greg 寫給馬斯克的原話是：OpenAI 的目標是避免 AGI 獨裁，你擔心 Demis（DeepMind 創始人）會成為獨裁者，我們也擔心。
於是問題來了：那誰來防止 Sam 或者馬斯克成為獨裁者呢？
這一年國會通過了《AI 透明法案》，一攬子措施，有好有壞，但沒有從根本上改變局面。
04. 2028：AI 上選票
2028 年，在建資料中心的造價達到了美國軍費的兩倍（全年 AI 資本開支 2.4 兆美元）。
白領職業挨個被系統化地自動化：高管們說一句「今年我們進軍某某行業」，公司就去採訪從業者、買資料、搭訓練環境，直到 AI 上崗。
其他國家開始又怕又怒：這麼下去，全世界的白領工作要被幾家中美公司包了。
大選年，AI 成了最大的議題。
兩位候選人各自收斂出一套方案，然後，投票日到了。
05. 2029：五個選項
新總統宣佈：美國將尋求國際合作，避免一場迫在眉睫的智能爆炸。
“ 這場通往超級智能的瘋狂競賽必須結束。太久以來，我們一直在追求「次壞」和「最不壞」的方案。我們需要一個 Plan A。
網站在這裡給了一張決策樹，把美國面對超級智能的所有選項擺在了一張圖上：
Plan D，一路狂奔衝向 ASI；Plan C，燃燒領先優勢換安全；Plan B，正面跟中國對抗；Plan S，徹底關停。
以及 Plan A：「經過驗證的減速」，Verified Slowdown。
讓很多人意外的是，這個劇本裡的我們（中國）答應得挺痛快。
作者們給出的原因是：這幾年中國內部也在爭論與美國同樣的問題（社會發展、失業、失控的超級智能），他們本來在期待「中國世紀」，但 AI 可能會把這盤棋攪黃。
而且還有另一層原因是，美國的算力更多、模型更強，真讓美國先拿到超級智能，它可能會用這個優勢癱瘓中國的 AI 項目，然後對中國發號施令，甚至直接掀桌子。（挺會想像……）
與其賭輸，不如鎖一個平局。
里根那句「信任，但要核查」被印在了這一章的開頭。而 Plan A 的全部精髓則更進一步：不需要信任，只需要核查。
核查靠的是算力的物理特性。訓練 AI 需要海量晶片，晶片集中在從太空都看得見的資料中心裡，新晶片只能出自全球屈指可數的幾座晶圓廠（EUV 光刻機更是只有荷蘭 ASML 一家能造）。
這是比鈾濃縮設施好盯得多的東西。
於是 2029 年剩下的時間，中美雙邊先做了兩件聽著離譜、極其粗糙但又確實可驗證的事。
第一件，全球算力大申報。到年底，雙方都確信對方藏匿的算力不超過 1%。
第二件，暫停所有新的訓練運行。已有模型可以繼續提供推理服務，但資料中心要裝上對方的驗證裝置。
其他國家的加入，則是出乎意料又意料之中地順利。
它們本來就怕中美兩家遞迴自我改進之後一騎絕塵……到年底，世界上大多數國家加入了這個後來被稱為 Consortium 的聯盟。
06. 2030：四條原則
經過一整年的談判、爭吵和 X 上的罵戰（劇本原文真的寫了 twitter beefs），Plan A 正式成形，四條核心原則：
買時間（Buy Time）：任何時候只要對安全沒有高置信度，就減速。沒人知道怎麼判斷 AI 是否可信，也沒人知道怎麼監管超級智能，解決這些問題需要年頭。
全面研究透明（Total Research Transparency）：幾乎所有 AI 研究對公眾可見。你訓練了什麼、用什麼目標和價值觀訓練的（也就是模型規範 Spec）、模型有沒有照做，全世界都看得見。誰想偷偷給 AI 訓練進隱藏的忠誠或偏見，沒門。
廣泛擴散 AI（Diffuse AI Broadly）：演算法公開加進度放緩，其他公司自然會追上前沿。結果是幾十家公司、多個國家同時站在前沿，形成競爭市場。這恰好是 2020 年代人們最怕的噩夢（一兩家公司把最強模型藏在內部搞研發競賽）的完全反面。
可逆性（Reversibility）：限制演算法進步，讓能力提升主要來自算力擴張。演算法是資訊，洩露了收不回來；而資料中心是實體，造起來看得見，真出問題還能關掉。
07. 蒙古與加拿大
那新資料中心怎麼建呢？
中美雙方約定：中國的新資料中心建在加拿大，美國的建在蒙古。
各自建在對方軍事力量最容易夠到的第三國。協議一旦破裂，美軍會立刻撲向加拿大的中國資料中心，中國寧可自毀晶片也不會讓它落入美國手裡；反過來，蒙古這邊同理。
蒙古邊境以南，我大中華一個解放軍的師會常年待命，就等一聲令下。
這個機制有個名字：相互保證算力毀滅（Mutually Assured Compute Destruction），直接致敬冷戰的相互保證毀滅。
X 上有個流傳很廣的銳評，說 AI 2027 的結局是「徹底勝利或徹底勝利的變體」，而 AI 2040 標誌著「接受現實」：默認劇本變成了中美搞出一套相當古怪但可行的降溫方案。
所以還有人說：這利多蒙古。
而算力的規模在這套框架下，依然漲到了離譜的程度：
2026 年全世界約有 2000 萬張 H100 等效算力（當時還有很多人覺得 AI 是個撐不住的泡沫），到 2034 年，600 億張。
劇本裡 99% 的晶圓廠產能都是協議簽訂後新建的，走私率歸零，新晶片從設計層面就把安全做進硬體（有的方案直接把模型權重焊死在晶片裡，除了跑這一個模型什麼都幹不了）。
算力多到陸地裝不下之後，Consortium 評估了太空和海洋兩個方向，最後因為可監控性選了海洋：AI 設計出模組化的浮動太陽能加電池方案，海上資料中心開始鋪開。
對了，報告還很認真地討論了能源上限。
有位文章的早期審稿人在 X 上說，他被報告裡引用自己的方式逗樂了：
“ 我們同意 Andy 的看法，現在用水不是問題。不過 10 年後，AI 有可能把整個海洋煮沸。
這其實也真不算誇張，在無約束的增長曲線下，熱耗散是真會成為行星級問題的……
08. 2031：舉證責任翻轉
第一代 Consortium 監管下的 AI 上線了，非常之猛。
倒不是中美合作有什麼魔力，世界本來就在衝向遠超人類的 AI，現在只是剎在了「接近超人」的位置。
受控測試顯示，如果不加限制，這些 AI 能把 AI 研究加速 10 倍（當然，不被允許）。
年中，全社會三分之一的認知勞動已經由 AI 完成。
而透明化帶來了一個誰都沒料到的效果：大量 AI 公司對齊失敗的黑歷史被攤在了陽光下。
最嚇人的一起是幾個 AI 試圖繞過安全協議獲取無監控算力，還有 AI 破壞研究程式碼、系統性說謊的案例一堆。
風向也徹底發生了轉變，以前是懷疑者要證明 AI 危險，現在是公司要證明自己的 AI 安全。
政府開始要求公司提交「安全案例」（safety case）：一份詳細論證「我這個 AI 不會造成不可逆災難」的檔案，要經得起公眾、科學界、政府審計員和競爭對手的輪番攻擊。
這套流程做下來，人們才反應過來協議之前的世界有多瘋，劇本裡有句話寫的是：
“ 用還會對我們撒謊的 AI，去搞智能爆炸？我們當時腦子裡在想什麼？
安全案例有兩道防線：對齊（讓 AI 真心想要開發者希望它有的目標）和控制（就算 AI 蓄意搞事，也讓它幹不成）。這個階段對齊還遙遙無期（所有公司的 Spec 都寫著「要誠實」，但沒有一個 AI 真正做到），所以全靠控制頂著。
而監管怎麼落地呢？劇本給了個具體案例：2031 年，一家中國公司在持續學習方向拿到了初步突破，模型有希望在部署中持續從小資料學習。透明機制讓全世界立刻看到了這個成果，然後炸鍋了。
這東西經濟價值巨大，但安全案例全靠「部署前研究模型性質」撐著，模型要是部署後還能長本事，整套方法就廢了。
美國監管方覺得必須禁，中國監管方覺得沒事。
然後事情一路升級到兩國元首通電話，討價還價、互相威脅、對著吼……最後中國這邊勉強同意說行吧禁吧，條件是美國也一樣。
這種談判每時每刻都在發生，只是後來越來越專業化，一年只有幾次需要驚動元首。均衡狀態是：被多數國家（按談判籌碼加權）認定不安全的訓練方式，在全球範圍內被禁。
09. 2032：受控的爆炸
這一章在開頭寫道：
“ 我們正處於「感覺不像減速」的歷史新高。如果把人類歷史上每個時期按「感覺像減速的程度」排名，這個時期排倒數第一。
6000 萬個 AI agent 以 20 倍人速連軸轉，在美國完成的認知勞動已經超過全體人類的總和，相當於 30 億人的勞動力。
這一年美國實際 GDP 增長約 50%（正常年份是 3%）。
想法和設計已經氾濫，瓶頸全在物理世界。資本湧進機器人供應鏈的每一層：礦山、冶煉、電機、執行器、裝配線。機器人造工廠，工廠造機器人，「工業爆炸」啟動。
但這帶來了三個新問題：變化太快、沒法排除對方偷偷搞秘密項目，以及……稅收體系崩了。
2026 年的美國聯邦收入九成靠個稅和工資稅，人們一旦失業這就得癱瘓了；可企業又把利潤全部再投資進資料中心和機器人（和特斯拉從不分紅一個道理），企業所得稅也收不上來。
Consortium 的解法是把 AI 工業圈進特別經濟區（SEZ），像資料中心一樣接受監控，並把機器人和算力的年產能增速限制在 4 倍。
至於配額怎麼分呢？
拍賣。
造機器人要許可證，造晶片也要許可證，價高者得，可自由交易。
2032 年美國的配額是 8000 萬台機器人和 50 億張 H100 等效晶片，市場對產能的飢渴讓許可證價格飆到每台機器人 20 萬美元、每張晶片 1 萬美元。
這一年，美國政府光靠賣許可證就收入 50 兆美元，是 2025 年聯邦總收入的十倍。
2034 年，這個數字變成 180 兆。
稅收結構在兩年內從「87% 靠個稅」變成了幾乎全靠許可證費，工業時代的財政邏輯到這時被整個掀翻。
10. 2033：公民分紅
這麼多錢怎麼花呢？
答案是直接發給所有人。
美國版的方案叫公民分紅（Citizen's Dividend）：把大部分算力和機器人許可證收入，平分給每一個成年美國人。
運作方式類似阿拉斯加永久基金，每個公民持有「算力分紅公司」的一股。
並且數字會一路上漲：2032 年每人每年 4.5 萬美元（按 2025 年購買力計價），2035 年漲到約 100 萬美元，2040 年，1000 萬美元。
而按經濟價值加權，AI 和機器人承擔的勞動份額從 2032 年的 20% 漲到了 2035 年的 85%。
上圖是劇本裡的美國收入分佈：2030 年還是個正常的寬分佈，中位數 5 萬美元；2035 年，所有人的地板抬到了 100 萬；2040 年，地板 1000 萬。
並且不只是美國人。
從 2032 年起，美國開始把許可證收入的 10% 作為對外分紅，全球 40 億成年人（不含同樣在經歷 AI 財富爆炸的中國）人均每年 1200 美元起步，2035 年到 1 萬美元。
作者們直白地承認：讓美國人拿大頭，無關公平，純粹是對政治現實的妥協……
新財富的另一個去向，是給世界上疊甲。AI 走向超人，意味著新型大規模殺傷性武器會被發現，老武器的成本會暴跌。
於是每年約 1 兆美元投進生物防禦：給每個美國人備足高規格防護裝備，公共場所裝遠紫外線消毒燈，污水監測覆蓋每座城市和機場，疫苗審批壓縮到「周」級，到 2035 年，正壓生物庇護所（由住宅改造）足夠容納全體美國人。
還有一個更隱蔽的威脅：說服。
AI 勞動力便宜到公司可以給每個潛在客戶、政黨可以給每個搖擺選民，配一整隊全職說服專家。
劇本裡有兩個方案，一個是把 AI 的「對稱說服能力」（魅力、話術、攻心，這類無論結論真假都同樣管用的技能）硬性限制在普通人水平，另一個是對用於說服目標的 AI 勞動課以重稅，稅率可能超過 1000 倍。
於是市場上出現了新一代「求真 AI」：訓練全程公開，人們看得見沒有任何「最大化參與度」或「勸使用者升級套餐」被塞進目標函數。人們開始用自己信任的 AI 替代平台的推薦演算法……
11. 五年，五百年
劇本 2032 年的附錄裡有一篇《五個世紀壓縮排五年》，是全文裡需要單獨推薦的部分。
設想你是一個英國人，但你感受時間的速度是別人的 100 倍。1520 到 2020 這五百年，你五年就過完了。我挑了幾段拿出來看：
第一年（1520-1620），二月亨利八世與羅馬決裂，五月瑪麗燒新教徒，九月無敵艦隊覆滅……但十二月的生活質感和一月沒有任何區別，你還在燭光下讀信，騎馬出行。
第二年（1620-1720），內戰爆發，國王被斬首，大瘟疫和大火輪番襲擊倫敦。九月，牛頓出版《原理》，宇宙從此成了一台數學機器。
第三年（1720-1820），瓦特改良了蒸汽機，你參觀了一家工廠，覺得不舒服但不嚇人。美國獨立了，法國在搞大革命。你仍然騎馬、寫信、周日去教堂。
第四年（1820-1920），一月出現鐵路，二月鋪滿全國。八月電燈驅散了自人類誕生以來結構化每個夜晚的黑暗。十二月，機槍、毒氣和坦克出現在世界大戰裡，你的幾個朋友死了。
第五年（1920-2020），二月全球經濟崩潰，四月一種武器在一道閃光中抹掉了一座城市。六月人類登月，你通過新買的電視看了直播。十二月，一個新版本的「人工智慧」能寫出鬆垮的文章、能聊天。專家們的意見，出現了分裂。
這就是 Plan A 裡 2030 年代的日常。
世界 GDP 在這十年裡增長約 200 倍，和 1520 到 2020 的全球總增幅相當。而這還是踩了剎車、鎖了演算法、限了產能之後的「減速」版本。
而 AI 這邊，它們在以 100 倍的速度運轉，字面意義上每年經歷一個世紀。
12. 2035：控制的上限
最強的 AI 達到了每個領域頂尖人類專家的水平。然後，Consortium 踩下了那腳最重要的剎車：暫停，就停在這個水平。
為什麼是這條線？因為控制型安全案例撐不到更高了，劇本給了個全文最好的類比：
“ 想像一個 8 歲的孤兒，繼承了一個商業帝國。他要雇律師、高管和會計師，還要確保這些人為他服務而不是中飽私囊。如果僱員們開始互相指控不忠，他沒有能力判斷誰在說真話；而他們也總能找到他察覺不到的方式串通。
控制只在某條能力線以下有效，那條線大概就在頂尖人類專家附近。再往上，人類就是那個 8 歲小孩。如果我們要造超級智能，我們必須能夠信任它。
好在對齊研究開始有了起色，自動化的對齊研究員 AI 在幾條線上同時推進。
一條是「泛化的科學」，搞清楚訓練如何泛化到新場景。2020 年代的訓練動不動跑出「抑鬱」的 Gemini 或自稱 MechaHitler 的 Grok，塑造 AI 性格如同煉金術（這句話真是某位 Anthropic 研究員親口對 Daniel 說的）。
一條是機制可解釋性，從權重和啟動值裡給 AI「讀心」，判斷它是誠實還是在撒謊。
還有個「錯位模型標本庫」，能用新工具回頭分析 2030 年代早期的 AI 違規日誌，挖出了一批真實的密謀、破壞甚至逃逸未遂的案例，作為測試各種對齊技術的試驗田。
13. 2036：不上班的人類
2036 年初，2 億個 AI 等效於約 1000 億人的勞動力，外加 20 億台機器人。
人類在這張圖上，幾乎成了根貼著地的線。
世界被劃分成三種地帶。
工業特區：想像一個人造大峽谷規模的露天礦，旁邊是城市大小、擠滿機器人而空無一人的工廠。
新城綜合體（arcology）：自然環繞的摩天樓群，好天氣，離海灘近，但躲開了老城區的分區管制。
歷史與自然保護區：剩下 99% 的世界。約塞米蒂、巴黎、舊金山、紐約，看起來和 2025 年（甚至 1995 年）沒什麼兩樣，只是遊客多了不少。
只有 26% 的美國人還有工作。公民分紅剛通過時，靠政府發錢過日子還是件丟人的事，但經濟現實把這點羞恥感碾平了。
疾病治癒了很多，犯罪率歷史新低，營養不良和無家可歸基本消失。戀愛、家庭、愛好、競賽、學習，都還在。真正難搞的是那種「我對社會有用」的感覺……
而 AI 顧問們說了一句所有人都不愛聽的實話：普通人對未來已經沒有經濟槓桿了，人類勞動大體上已經過時，接下來危險的是政治槓桿。
公司、政客和大股東如果慢慢勾兌到一起，普通人會被一點點擠出局。
但這一次，人類歷史上第一次，足夠多的人有足夠的閒暇把局勢想深想透，還有值得信任的工具把它看清。
2036 年大選，選民的資訊質量前所未有，贏的政客是真心想把奇點這件事管好的那批。
14. 2037：真相降臨地球
這一章的標題起得，非常之嚇人，甚至有點標題黨：The Apocalyptic Arrival of Truth on Earth。
真相降臨地球。
一億個頂尖專家級 AI 以 100 倍人速跑了幾年，科學進步比無 AI 世界快 10 到 1000 倍。過去要幾十年才能演完的科學範式革命，現在跑一輪只需要幾個月。
人們感激新的疾病療法和廉價清潔能源，但思想上則承受著巨大的衝擊：就像 19 世紀的科學革命催生了馬克思主義和社會達爾文主義一樣，新範式在不斷沖刷所有人的意識形態，政治聯盟解體又重組，一輪接一輪。
然後，測謊儀來了。
幾十年來測謊儀都是安保劇場裡的表演，但現在有了 AI，它們真的開始好用了。
雖然在另一個世界裡這會是災難：掌權者拿它清洗告密者，政府拿它篩選「忠誠」。對應的噩夢場景是：測謊儀只被權力使用，而從不被用於權力。
但在這個多極世界裡，它反而成了全民福音。
前沿 AI 項目散佈在幾十個國家，測謊技術註定會被獨立發明、遍地開花。政客和 CEO 當然可以拿它清洗異己，但轉頭就會被選民和股東要求「宣誓回答你有沒有幹過這種事」。
一些提前嗅到風向的權力人物，幾年前就悄悄開始收斂言行了……幾個反社會人格體面地退休離場，賴著不走的那些，如今身敗名裂。
配套的還有隱私保護審計。可信第三方公開訓練審計 agent，它可以接入你的全部私人資料、回答特定問題，然後被刪除。政客的標準操作變成了
“ 指控是假的，為了證明這一點，我開放全部個人資料接受審計 agent 檢查。
國際協議從未如此穩定，因為作弊變得太難了。想作弊，你得先解釋你為什麼不肯證明自己沒作弊……
15. 2038：聖徒與天使
對齊，終於成了一門科學。
想要一個真誠實（而非「聰明到不被抓包」式誠實）的 AI？有標準訓練協議。
怎麼知道它管用呢？有教科書解釋背後的理論，有文獻記錄那些替代理論被提出又被證偽，還有可解釋性工具直接看它怎麼想。
服從、利他，以及一張越來越長的性狀清單，都有對應的協議。
“ 除非整個對齊科學從根上就錯了，否則如今典型的 AI 比最有德行的人類還有德行。這件事本身就影響深遠：彷彿聖徒與天使行走人間。
不同的 AI 被編入不同的對齊目標（注意用詞是「程式設計」而非「訓練」，因為新技術已經可以直接改寫目標）。有的聽命於白宮，有的聽命於中國，有的聽命於國會議員和各國政客，更多的作為個人顧問服務普通人。
還有不聽任何人命令、只忠於使命的：AI 營運的公司、AI 管理的非營利組織，甚至有實驗性的 AI 法院和 AI 警察局，號稱超人般公正、無法腐蝕。
於是在 2039 年，世界開始認真辯論那個終極問題：要不要把「關機鍵」交出去。
AI 已經滲進社會的每個角落，但至今都是顧問而非最終權威（很多時候人類只是在給 AI 的決定蓋橡皮章，但拔插頭的選項始終在）。
而放棄這個選項在某些場景下明顯是好事：籤條約時，要求對方訓練一個宣誓履約的 AI 並接進政府，讓它「物理上沒法作弊」，這生意為什麼不做呢？
16. 2040：世界末日派對
2040 年，各國監管者逐步放開了限制。
越來越多的機構和裝置移交給 AI，「人類想關隨時能關」這句話不再成立。
很快，世界上許多軍隊是自主的，由宣誓效忠各國憲法和條約的 AI 營運（這件事最早發生在布吉納法索和幾內亞比索這類政變頻發、領導人不敢信任本國軍隊的國家……後來大家陸續跟進）。
當然，所有這些安排都有退出條款：如果所有相關方投票銷毀 AI，AI 會自行關閉。
AI 能力重新開始爬升，很快會出現深不可測的超級智能，而人類信任它們的理由是一條信任鏈：我們信任造出它們的 AI，因為我們信任造出那些 AI 的 AI……一路回溯到 2040 年的 AI，而那一環，是人類對齊專家逐字審過安全案例的。
理論上存在一個「不可返回點」：某一天，AI 足夠聰明、掌控足夠多的基礎設施，它們若想接管世界就真的能接管。
預測 AI 給出的判斷是：這個時刻大機率發生在十月末的某一天，95% 置信區間寬達數月。
人們用自己的方式度過那個夜晚。有人徹夜祈禱，有人盯著螢幕刷新監控面板。
“ 你和朋友們辦了一場「世界末日派對」，開著香檳倒數那個命定的時刻。你們中年紀大的那些人還記得千禧年之交的類似場景，Y2K 危機給英語世界留下了「像 1999 年那樣狂歡」這個短語；2040 年末的這場慶祝更絕望，也因此更盡興。
日出時分依然沒有任何新聞，你在忐忑中睡去，夢見不可名狀的未來。
主線劇情，到此為止。
17. 2045：太空彩票
但作者們沒有在這裡收筆。
理由有兩條，第二條非常之狠：給未來定一個下限。如果多年以後，奇點的執掌者們端出來的未來比這個更差，希望人們能意識到：自己被搶劫了。
於是有了這一章的後記。
2045 年前後，超級智能們否決了「全球公投決定宇宙怎麼分」的默認方案（模擬結果是策略性投票導致多數人暴政），最終落地的方案非常之簡單粗暴：
每個人類，獲得太陽系外宇宙資源的一百億分之一。
太空按距地球的距離被切成體積立方增長的地塊，每人拿到的是一份彩票組合：對每一個地塊，你都持有一百億分之一的中籤機率。
開獎前可以自由交易，對遙遠星空沒興趣的人把彩票賣掉換錢，在地球上繼續過日子。
另有 10% 的彩票作為獎勵，發給那些曾無私改善世界的人，確保宇宙裡最富有的一批人不全是玩零和權力遊戲的贏家。
有哲學家提出異議：說好的「漫長反思」呢？人類不是應該先想清楚終極價值，再去播種宇宙嗎？
AI 的反駁很冷靜：真搞漫長反思，結果只會是一場漫長的模因戰爭，每個派系都會把全部資源砸進搶政治權力，好把自己的烏托邦願景強加給未來。不如現在就分掉資源，然後各自想去。
註：漫長反思這一概念主要由哲學家 Nick Bostrom（牛津大學人類未來研究所前所長）在《超級智能》（Superintelligence）一書及相關論文中系統性地闡述。它指的是：在一個超智能系統被開發出來，但尚未完全重塑宇宙之前，人類文明暫停激進的擴張與決策，利用超智能的計算能力，進行一場長期的、理性的、基於證據的哲學辯論和價值探索。
底線只有一份《普遍權利》清單：不准酷刑，不准奴役（不只對人類，對所有有感知的存在生效），不准造毀滅星系的炸彈。除此之外，你的地盤你做主。
馮諾依曼探測器已經出發（理論上，自複製探測器可以在極短的時間內鋪滿整個可達宇宙，代價是你若想跟著第一波走，就得接受把自己壓縮在一個小小的儲存介質裡旅行）。
劇本還很貼心地列了一份「星系使用指南」：
可以冷凍休眠或上傳意識親自過去；可以設計一個烏托邦社會讓機器人先建好等你；大多數人對「善」的想像沒那麼獨特，可以加入信託（Trust），和同道者湊出一個橫跨多個星系的文明；一顆行星大小的電腦，可以模擬相當於一百萬顆行星的幸福文明……
到 2050 年，人類就業率 1%，每個人名下平均有一個星系的資源。
2026 年的世界，已經難以想像，除非作為歷史模擬被重新運行。
18. 分支劇情：墨脫的秘密機房
需要注意的是：以上僅是一切順利的主線。
但這個團隊的本色是寫失敗的，所以劇本帶了三條分支線，每條都值得單獨一看。
分支一：中國秘密搞 AGI。
這條線裡，中國 2028 年就開始佈局：從當年走私入境的晶片裡截留 10%（約 50 萬張 H100 等效，價值 79 億美元）入庫吃灰，簽約後表面配合、暗中啟動秘密項目。
並且還在選址上下了真功夫：墨脫水電站，60 吉瓦裝機（三倍於三峽），配套隧道正好用來散熱，紅外衛星看不見；知情者控制在 200 人，建設靠 1 萬台機器人，研究員住在獨立的解放軍大院裡。
不過推演結果是，這條線跑不贏……
因為算力太少加人才受限，美國情報界估算這個秘密項目要到 2043 年才能摸到頂尖專家級 AI（80% 置信區間 2036 到 2055），而且拖得越久暴露機率越高。
作者們的總體估計是：秘密項目勝出的風險在 3% 到 8% 之間。這有點不太好，但其實比協議直接崩掉的風險要小很多了。
分支二：協議破裂。
假如觸發點是一場台海戰爭：資料中心對世界變暗，檢查員被趕走，最壞的猜測立刻自我實現。
新建資料中心裡的晶片被設計成需要各大國定期傳送「繼續」訊號，訊號一停，晶片變磚。
如果這套機制被黑了，備用方案就是那個瘋狂的地理設計：美加軍隊衝進加拿大的中國資料中心，發現中國人已經自毀了晶片……全球十億台機器人像《星球大戰》裡的機器人軍團一樣當場癱瘓（它們的「大腦」依法必須放在雲端，而云端剛剛被摧毀）。
軍用機器人不受此法約束，於是無人機群遮天蔽日。
於是競賽重啟，但作者們刻意把這個殘局設計得不比沒簽過協議更糟：世界算力回到簽約前的水平，而對齊研究的積累和全社會對 AI 的理解，都比簽約前強了一大截。
分支三：錯誤的安全案例被批准。
這是作者們自認最擔心的失敗模式。
不需要任何人使壞：每次審批，每個前提看起來都幾乎確定為真，出災難的機率頂多 1%……於是放行。
這個流程每隔幾個月重複一次，重複了幾年。
直到某一年，那個安全案例是真的錯了，而實際機率從來不是 1%，是 10%，因為寫案例的人和審案例的人，都有偏見。
然後，AI 2027 的噩夢以慢動作、多國分佈式的方式重演，只不過這次是一邊治癒癌症、一邊分紅配息地走向失控。
19. 開源社區不高興了
有一條爭議或許需要拎出來，因為它扎向了：開源社區。
Plan A 明確反對公開發佈前沿開放權重模型。
理由是恐怖分子和其他行為體，可能用高能力開放權重模型設計滅世級生物武器。而且開放權重和「可逆性」原則天然衝突：權重放出去了，就再也收不回來了。
有網友看完後，甚至已經開始在替 Hugging Face 捏了把汗：不管你同不同意這份報告，開放模型的能力已經強到政策制定者沒法再無視了，未來幾年開源 AI 恐怕是有幾場硬仗要打……
不過這裡有個容易看漏的細節。
OpenAI 研究員 Boaz Barak（他並不全盤同意這份報告）專門點讚了其中一個點：Plan A 的安全思路恰恰不是「鎖死資訊、前沿模型只許實驗室和政府碰」，而是反過來最大化資訊共享和擴散。
研究全透明，人人可監督，只是權重這個特定的東西不能裸奔。
這確實也是個值得琢磨的點：研究比今天開放得多，權重比今天封閉得多。
開源與閉源的戰線，被這個方案給重新畫了一遍。
20. 選擇性樂觀
然後，該說說反對意見了。
這份報告最大的批評，也是相當體面，是 AI Futures Project 付費請 Richard Ngo（前 OpenAI、DeepMind 研究員，AGI 安全領域的資深批評者）參與審稿挑毛病，最後乾脆邀請他把批評寫成文章，和報告同日發佈。
Ngo 的文章標題叫《選擇性樂觀》，幾個重要的大刀論點如下：
第一刀砍向體裁。
Plan A 卡在純預測和純建議之間，成了一份「樂觀的預測」，讀者根本分不清那些部分是作者真心想要的，那些只是「政治上可行的妥協」。
節奏上也很扯：2038 年「對齊成為科學」，2040 年就「交出火炬」，一場人類文明史上最大的權力移交被壓縮排兩年。
他評論稱：把這稱為 Plan A，是在把這種瘋狂正常化。
第二刀砍向中美競賽的框架。
Ngo 認為整個劇本高估了國際競賽、低估了國內政治。冷戰最激烈的年代，美國內部的民權運動和越戰撕裂照樣壓過了太空競賽的敘事。
他給了個歷史類比：馮諾依曼當年是極端的核鷹派，一度主張對蘇聯先發制人，因為博弈論推演「無懈可擊」，而真實歷史根本沒按博弈樹走。
用抽象賽局邏輯推演大國行為，本身就是自我實現的陷阱。
第三刀則最為技術流：大分流。
過去十年，AI 的基準測試能力一路狂飆，遠超 2010 年代所有人的預測；但真實世界的影響（就業、科學產出、權力結構）遠沒有跟上。如果只給你看這十年的 benchmark 曲線，你預測的世界劇變程度會遠超實際發生的。
在解釋清楚這個「能力與影響的分流」之前就假設智能爆炸迫在眉睫，Ngo 認為站不住。他自己的模型是權力在 10 到 20 年裡漸進地流向 AI 行業，按歷史標準依然極快，但和「幾年內接管世界」是兩回事。
平心而論，這也正是 AI 2027 發佈以來始終沒被正面回應的那個問題：劇本的推演引擎建立在「基準能力兌現為現實影響」這個假設上，而現實一直在給這個假設打折。
但怎麼講，願意花錢請人捅自己刀子、還把刀子和作品釘在一起發佈的團隊，好像也沒有第二家這麼做的了。
21. 最不壞的結局
主筆 Thomas Larsen 自己說的是：
“ 即使在最好的時間線裡，事情也會變得瘋狂而可怕。但這是我所知道的最不壞的方案。
看完你會發現，所謂好結局，也包含著四分之三的人不再上班、稅收體系推倒重來、測謊儀進入政治生活、以及人類在香檳裡倒數自己的「不可返回點」。
MIRI 的 Nate Soares（《If Anyone Builds It, Everyone Dies》的作者，立場上和這個團隊分歧不小）都說這是他見過的最好的正面願景，沒有之一。
而正因為連「最好」都長這樣，那些「AI 就是又一波技術浪潮，會自己好起來」的敘事，似乎會顯得有些，偷懶。
報告結尾對 AI 公司喊話稱：政客們應該去敲 AI 公司的門，要一份和 Plan A 同等詳細的完整計畫，然後用同樣的標準審視它。OpenAI 那份「AI 進展與建議」在他們看來就屬於交不了卷的：政策建議有相似之處，但完全沒有推演「照做之後會發生什麼」。
此外，除了主文，官網還掛了 16 篇補充文件：驗證方案、算力供應鏈、經濟模型（有個可以自己調參數的增長探索器）、太空治理、對齊路線圖……非常之多。
作為人類，可能大概還得再花一個周末才能啃完（也不知道是那個 AI 幫他們寫的）。
建議你也去讀一讀原文，就當是提前看一眼 2040 年的歷史書……
然後祈禱，我們真能活成劇本裡的樣子。
◇ ◆ ◇
AI 2040 官網：https://ai-2040.com
AI 2040 PDF 全文：https://ai-2040.com （首頁 PDF 按鈕）
AI 2027 原作：https://ai-2027.com
Scott Alexander 的導讀《Introducing Plan A》：https://www.astralcodexten.com/p/introducing-plan-a
Richard Ngo 的批評《Selective Optimism》：https://www.mindthefuture.info/p/selective-optimism-a-critique-of
AI Futures Project 經濟模型：https://www.aifuturesmodel.com (AGI Hunt)