最新一期的時代雜誌封面直接用了 Claude 的聊天窗口，對話方塊裡正在輸入「How dangerous are you? 你到底有多危險？」

封面標題則寫著「The AI Tipping Point AI 的臨界點」，時代在 X 發文，「今年夏天，AI 展現了其令人恐懼的能力。如今，一些研究人員、CEO 們，都正以前所未有的力度發出警報。」

的確如此，過去一周，從 Anthropic 研究員 Jacob Coxon 一篇離職的帖子在 X 上走紅，他說無論是 OpenAI 還是 Anthropic，這兩家他曾經就職的公司，都沒有意識到 AI 的威力，他們是在拿人類的生命風險去開發所謂的 AGI。

目前該帖子已經獲得超過 1.7 億次的瀏覽量，甚至比 GPT-6 Astra 模型發佈的帖子 1.36 億次瀏覽量還要多。

當這條因為擔心 AI 失控而離職的帖子傳播開來之後，奧特曼、Dario、馬斯克意外地站在一條陣線，公開呼籲應該減速，甚至是暫停對 AI 的研究。

原本更多集中在 AI 安全研究所，以及一些小圈子的 AI 末日論組織裡的爭論，一下子變成了主流的議題。

而我們普通人似乎也就這樣被拉到了這套敘事裡，開始思考超級智能究竟會不會失控。

很簡單的道理，如果 AI 末日論是真的，AI 將來真的會強到取代我們所有人的工作，無論是簡單的打工人，還是高級到那些 CEO 們，都會被取代。

但如果這是假的，AI 只是一場泡沫，是這些前沿 AI 公司的行銷，那等到泡沫破裂，曾經因為 AI 而催生的行業和崗位又被裁撤，那些真金白銀的投資，以及我們現在做的所有事情，似乎是又會變成一場空。

所以，既然結果都一樣，那些焦慮的意義何在。

昨天，美國調查博主 Kevin Bass 在 X 發表了一篇長文，並把完整的證據放在 GitHub 上。

他深扒了 Anthropic 資金模式，發現這段時間以來的 AI 末日論裡，其中暗藏著一個巨大的陰謀。

在 X 上已經有將近 600 萬人在圍觀這件事，向來對「AI 末日論」嗤之以鼻的楊立昆也轉發了這條帖子，進一步推高了熱度。

Kevin Bass 的指控鏈條，可以用一句話概括：Anthropic 不只是在尋求所謂的 AI 需要監管，而是建構成了一台接好電的永動機，讓所謂的 AI 需要監管，AI 末日論永遠掌握在 Anthropic 手中。

這些陰謀可以被下面這張圖總結，即 Anthropic 的早期捐助者，與評估機構 METR 相關組織之間，有通過慈善中介機構進行的真實公共資金重疊情況。

METR（Model Evaluation and Threat Research）是一家模型評估與威脅研究組織，前身是從 ARC（Alignment Research Center 對齊研究中心）分拆出來。

Anthropic CEO Dario Amodei 曾公開提議，前沿 AI 模型應該由「第三方評估機構」來做風險評估，並點名這個第三方就是 METR。

但 Kevin Bass 認為，從資金流向的問題上來看，METR 根本不「第三方」。

METR 所處的 AI 安全生態，資金高度集中在 Coefficient Giving（即原來的 Open Philanthropy）及其關聯機構手上；而這個捐贈體系的源頭，是 Facebook 聯合創始人 Dustin Moskovitz 早年以個人名義買入的 Anthropic 股票。

Forbes 估算這筆股份 2025 年初約值 5 億美元，並報導它已被捐入某個非營利載體。

當 Anthropic 的估值暴漲，這筆「不到 0.8%」的股份也從 2025 年早期的 5 億美元，按照 Anthropic 今年 5 月 Series H 融資後約 9650 億美元的投後估值推算，9 月理論上限來到了 77 億美元。

Kevin Bass 曬出的資金流證據具體到了個位數。

從 National Philanthropic Trust 的稅表顯示，FY2025 一年其 2.2 萬餘筆撥款中，流向 Founders Pledge 7882 萬、RAND 6165 萬、FAR AI 1442 萬美元。

在他看來，這些全是「METR 網路」的輸血管道。同一筆錢還流向 Tarbell Center 這樣的 AI 新聞機構：Coefficient 的三筆撥款共約 529 萬美元（2024 年 11 月 81.6 萬、2025 年 3 月 288.8 萬、7 月 158.8 萬），其研究員的文章陸續在 TIME、The Verge、LA Times 等媒體上製造聲量。

於是，一個「完美的」正反饋回路就出現了：Anthropic 估值越高，依賴這筆股票的安全生態越有錢，「AI 末日」的敘事喊得越響；而當這些機構不斷談論 AI 災難，社會越害怕，就越需要第三方的獨立評估；新的撥款和權力又回到熟悉的一群人手中。

但無論怎麼轉來轉去，這些第三方評估機構的工資，在 Kevin Bass 的調查下看來，甚至就是 Anthropic「給」的。

評估者在被評估者的工資單上。如果 Anthropic 死了，整個評估機構和末日機器都會癱瘓，所以他們誰也不能允許 Anthropic 出事。

這段時間以來的 AI 末日論，就變成一台接好電的永動機，根本找不到關掉它的地方。

股票漲，撥款漲；風險敘事升溫，評估需求又漲。

METR 一邊參與定義風險，一邊成為所謂的第三方評估者。

Kevin Bass 這篇文章確實給了一些不一樣的視角，他從財經的角度來分析這些 AI 公司高漲的「AI 末日論」，試圖證明這個圈子既參與製造風險議題，也承接解決風險所產生的預算、權限和裁判權。

但也有網友發現這份分析報告，即便資料詳實，還是存在很多禁不起推敲的地方。

例如沒有找到具體的某一筆 Coefficient 或 Good Ventures 等基金會直接給 METR 的撥款。

其次，即便 METR 收錢了，也不能因此就將這些聯絡作為第三方機構的「騙局」，或者將其解讀為一場無法停止的資金倒置。

圖｜Kevin Bass 給出的證據，METR 的許多資助者同時也是 Anthropic 的投資者。

於是，當整個行業都在討論「誰來評估前沿 AI」的時候，評估者的獨立性到底應該用什麼標準來衡量？資金來源披露到什麼程度才算夠？人員流動、人際關係和免費算力，又算不算利益衝突？

實際上，AI 末日論最特殊的地方，正是在於它很難真正輸掉。

圖｜由 AI 生成近期的 AI「太強」新聞拼貼

模型能力繼續提高，突破各種沙盒和變身「駭客」發起攻擊，以及在一個又一個千禧年大獎難題取得進展，就足以證明危險正在逼近。

而如果 AI 造成的嚴重事故沒有發生，可以歸功於預警和安全工作；當 AI 監管開始介入，說明此前的警告是對的；監管遲遲沒有跟上，又會成為爭取更多資金和權力的理由。

於是，AI 的繁榮開始供養批判 AI 的末日論，末日論又反過來證明這些公司掌握著足以改變人類命運的技術。

GPT-6 Sol 和 Opus 5.2 又快發佈了，核彈爆炸後癱坐在椅子上的奧特曼，每隔一段時間就出來「踩剎車」的 Dario，以及不斷刷新能力上限的新模型，都在繼續為這套敘事提供新的素材。

下一次模型突破、下一次安全事故、下一篇離職長文出現時，「AI 會不會毀滅世界」的爭論大概還會重新開始。

但 Kevin Bass 這場爭議至少提醒了另一件事：當我們討論 AI 風險時，不能只盯著模型到底有多危險，也得看看是誰在定義「危險」，誰負責評估危險，以及圍繞這些判斷建立起來的制度，又在如何重新分配資金、監管權和話語權。

畢竟，AI 最先改變世界的方式，可能還不需要等到超級智能出現。 (APPSO)

據媒體報導，美國財政部長貝森特參與制定提案，擬仿照金融業監管局模式，創建一個獨立AI監管機構，由行業出資、向SEC負責，允許科技與金融界共同參與安全標準制定。此前矽谷抱怨美國政府限制尖端AI發佈的措施缺乏一致性和透明度。

在矽谷科技領袖抱怨美國政府近期限制尖端AI系統發佈的措施缺乏一致性和透明度後，川普政府正考慮設立一個由行業參與的獨立監管機構，對人工智慧模型進行安全審查。

據彭博援引知情人士透露，美國財政部長貝森特參與制定了一項提案，擬仿照金融業監管局（Finra）模式，創建一個向美國證券交易委員會（SEC）負責的獨立AI監管機構。該提案目前正由白宮幕僚長Susie Wiles審議。

該提案的出臺背景，是Anthropic和OpenAI此前因政府介入其模型發佈流程而公開表達不滿。

上月，Anthropic旗下Fable 5和Mythos 5模型因美國出口管制措施被迫臨時下線；OpenAI則在政府要求下對最新Sol模型進行重大修改。兩家公司均認為相關舉措相對於實際安全風險而言力度過重。

提案仿照Finra架構，行業參與標準制定

根據知情人士描述，該提案擬建立一個獨立監管機構，由行業出資，並在SEC的授權框架下運作——這一結構與Finra對券商的監管模式高度相似。

該機構將允許金融行業和科技行業共同參與AI安全標準的制定，從而在加強網絡安全管控的同時，減少對AI公司的不確定性衝擊。上述框架仍處於討論階段，細節可能發生變化。

目前尚不明確新機構將對模型進行那些類型的評估、如何獲得資金支援，以及SEC在監管AI公司方面將扮演何種角色。

白宮一名官員表示，政府正在評估多項方案，以鞏固美國在AI領域的領先地位並強化網絡安全。

DeepMind方案獲科技圈背書，與政府思路趨於一致

本周早些時候，GoogleDeepMind首席執行長Demis Hassabis發佈了一套政策建議，與美國政府正在討論的方案高度契合。

Hassabis建議由獨立技術專家組成委員會，在聯邦政府監督下的標準機構框架內對AI模型進行審查，所需資金和算力由行業自行提供，並與政府機構及美國國家實驗室合作，針對網絡安全、生物威脅等領域開發模型測試協議。

Hassabis在社交媒體X上發文時，明確將其設想的監管機構類比為Finra。這一方案獲得微軟CEO Satya Nadella、OpenAI CEO Sam Altman以及SpaceX CEO馬斯克的公開讚揚——這三位通常被視為彼此之間的競爭對手。

Hassabis下周將赴華盛頓與政策制定者會面，就上述方案進行遊說。

就現行監管狀況而言，川普政府對於AI安全議題的政策取向一直存在內部分歧。Anthropic旗下的Mythos模型因具備引發官員和商界擔憂的網絡攻擊能力，使政府不得不重新權衡干預力度。

最新提案與川普此前簽署的一項行政令方向更為接近——該行政令概述了一套由AI公司參與建立的輕度干預、自願審查機制。 (華爾街見聞)

彙整鉅亨號中所有使用「模型安全」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

Anthropic 大瓜被扒出：「AI 滅世」背後，居然是一門生意？

美國考慮設立獨立AI監管機構，對頂級AI模型進行安全審查