3.5兆美元的末日敘事:AI 沒有意識,但它正在製造最昂貴的幻覺

2026 年 6 月 4日,昨天,Claude 背後的 AI 公司 Anthropic 發佈了一篇文章,標題很驚悚:《When AI builds itself》。

直譯過來,就是"當 AI 建造它自己"。

這不是一個普通標題。它幾乎像科幻小說第一章的名字。一個由人類製造出來的系統,開始參與製造下一代更強的自己。造物不再只是造物,它開始進入造物主的位置。

只要這個故事再往前推一點,你就會自然滑向那套熟悉的末日想像:AI 自我改進,速度越來越快,人類來不及理解,也來不及控制,最後整個文明被自己發明的東西甩在身後。

Anthropic 這篇文章的核心說法是,Claude 正在加速 Anthropic 內部的 AI 開發。工程師寫程式碼更快,模型能幫助跑實驗,能最佳化訓練流程,也能參與程式碼審查。文章裡有一個很抓眼球的數字:Anthropic 工程師現在平均每季度交付的程式碼,是 2021 年到 2025 年期間的 8 倍。

它還配了一張柱狀圖,時間軸從 2021 年第二季度一路拉到 2026 年第二季度,柱子在 2025 到 2026 年之間突然陡峭上揚。圖上標註著 Claude 各代模型的發佈時間:Claude 1、2、3、4,然後是 Claude Code,然後是 Sonnet 4.5,然後是 Opus 4.5,最後是 Mythos。每一條標註線,斜率都比前一條更陡。

如果只看這些句子,一個很自然的感覺是:這件事真的來了。

AI 不只是幫普通人寫郵件、寫方案、寫程式碼,它已經回到了自己的出生地,開始幫 AI 公司製造 AI。過去是人類研究員推動 AI 進步,現在是 AI 幫人類研究員推動 AI 進步。再往前走一點,AI 會不會開始自主設計下一代 AI?

Anthropic 把這種趨勢稱為"遞迴自我改進"。英文是 recursive self-improvement。一個 AI 系統能夠參與製造一個更強的後繼系統,而這個更強的後繼系統又繼續製造下一個。如此循環,智能增長就不再只是線性推進,而可能變成一種我們無法預測的加速過程。

在文章的最後,anthropic還呼籲世界各國的前沿實驗室能夠達成一直,在相同條件下停止開發更先進的AI模型。

這個呼籲無疑更增加了風險的份量,但問題是,我們在相信這個故事之前,必須先問另一個問題:這句話本身正在做什麼?
它只是在描述一個技術趨勢嗎?還是也在完成一種資本敘事?

這篇文章真正值得警惕的地方,不只是 Anthropic 告訴我們 AI 可能正在"建造自己"。它展示了一種矽谷資本最擅長的能力:把一個尚未完全發生的技術趨勢,包裝成一個必須由自己定義、自己解釋、自己監管、自己繼續融資的文明級危機。

AI 的遞迴自我改進還沒有被證明。但資本的遞迴自我改進,已經跑得越來越熟練了。

誰掌握了敘事,誰就定義了風險

Anthropic 不是一家普通公司。它由一批 OpenAI 前員工創立,一直把自己包裝成更謹慎、更安全、更重視對齊問題的前沿 AI 公司。它的旗艦模型 Claude,也被認為是性格最溫和、最守規矩、最像好學生的 AI 助手之一。

這很重要。因為 Anthropic 從一開始就不只是賣模型能力,它還在賣一種道德姿態。

它不像一些公司那樣只談效率、生產力和商業價值。它談安全,談對齊,談人類是否會失去控制,談 AI 是否可能擁有某種道德地位。它使用的不是普通軟體公司的語言,是一種接近文明管理者的語言。

這也是為什麼它的這篇文章格外值得分析。

表面上看,這是一份技術進展報告。它說 Claude 寫了更多程式碼,跑了更多實驗,幫工程師節省了更多時間。可一旦它把這些能力放進"遞迴自我改進"的框架裡,事情就變了。技術進展變成了歷史拐點,產品能力變成了文明風險,公司內部效率變成了全人類必須關注的問題。

這就是敘事的力量。

在這篇文章裡,你其實能很清楚看到這個敘事的配方。先展示一個無可辯駁的事實:程式碼產出 8 倍增長。有圖表,有時間軸,有模型版本的標註。然後從這個事實出發,畫出三種可能的未來:第一種,AI 研發曲線撞牆,增長放緩;第二種,到達平台期,維持現有速度;第三種,AI 系統自身變得有能力進行完整的遞迴自我改進,開始建構後繼者。

前兩種未來加起來不到兩段話,第三種佔了三頁。最後,以學術般的謙遜姿態發出呼籲:"窗口期就在這裡,需要政策制定者、研究者、公民社會的共同參與。"

每一步都無懈可擊。但它沒說的話同樣重要。

部落格在一個角落承認了,用一種幾乎一定會被跳過的措辭:"程式碼行數是一個不完美的衡量標準,它衡量的是數量而非質量。"那個 8 倍的起點,被 Anthropic 自己打了折扣。而且程式碼行數這個指標在軟體工程裡的名聲,稍微寫過程式碼的人都知道:一個優秀的程式設計師通常寫更少的程式碼,而不是更多。

另外一件部落格沒提的事:這些被 AI 加速產出的程式碼,是用於什麼的。AI 在自主設計新的 AI 架構?還是 AI 在幫人類工程師寫單元測試、生成樣板程式碼、補全 API 呼叫?部落格有意把這兩件事攪在一起。它展示的證據屬於後者,工程師用 AI 工具寫程式碼更快了。它製造的恐懼屬於前者,AI 可能開始自主建構更強大的 AI。

但這個跳躍正好就是它想要你做的。它不需要證明跳躍是合理的,只需要你感覺它合理。

我在之前的文章中反覆說過,AI 時代真正稀缺的東西,不再是資訊,是敘事。資訊正在變得越來越便宜,內容正在變得越來越廉價,知識本身也越來越容易被模型壓縮、搬運和生成。真正能夠製造價值的,是誰能把混亂的資訊組織成一個讓人相信、讓人行動、讓資本聚集的故事。

Anthropic 這篇文章,就是一個非常高級的敘事實驗。

它沒有粗暴地說"我們已經造出了 AGI"。它也沒有像普通行銷文案那樣簡單吹噓 Claude 多麼強大。它更聰明。它承認還沒有達到完全遞迴自我改進,承認人類仍然掌握研究方向,承認許多內部資料需要謹慎理解。

但正因為它看起來克制,所以更有效。

最強大的敘事從來不是胡說八道。最強大的敘事,是把一部分真實進步、一部分合理擔憂、一部分自我設防和一部分自身利益,打包成一個幾乎難以反駁的未來故事。

Anthropic 的故事大概是這樣的:我們正在看到 AI 加速 AI 開發。這可能帶來巨大的科學和社會好處,但也可能帶來嚴重失控風險。所以我們需要更認真地討論前沿 AI 的減速、暫停、驗證和監管。

聽起來非常合理。

但請注意,這套說法一旦成立,它會自然導向一個結果:少數最前沿的 AI 實驗室,尤其是 Anthropic 這樣"負責任"的公司,會獲得更大的解釋權和政策位置。

誰最懂風險?當然是最接近風險的人。

誰最有資格設計監管?當然是最瞭解前沿模型的人。

誰最應該繼續獲得資本和人才?當然是那些既有能力、又宣稱自己最謹慎的公司。

一個技術故事,就這樣變成了一個權力故事。

不要為AI巨頭的末日敘事而買單

這時候,我們需要冷靜一下。

美國認知科學家 Gary Marcus 很快對 Anthropic 的文章提出了反駁。Marcus 長期研究人工智慧和認知科學,一直是大模型熱潮中最著名的懷疑者之一。他不是說 AI 沒有進步,也不是說 Claude Code 沒有價值。他的重點只有一個:Anthropic 展示的是更強的編碼能力和工程自動化,而不是 AGI。

Marcus 的區分很簡單:RSI 不等於 AGI。遞迴自我改進,已經達成了:AI 成為人類編碼的工具,大幅提高了效率。Anthropic 部落格裡展示的那些資料,確實是 RSI 的證據。但 AGI——通用人工智慧,機器能做任何人能做的事的那種——還沒有。差的不是一個量級的問題。

Marcus 的說法是:Anthropic 的部落格在玩 bait and switch,偷換概念。用"寫程式碼變快"的證據,交換"AI 即將超越人類"的結論。這兩個命題之間的邏輯距離,被"遞迴"這個詞的語義模糊性完美遮蓋了。

Marcus 最精彩的貢獻不只是一個區分,是他給了我們一對更容易理解和傳播的概念。他說,AI 正在自動化 AI 研發中的"汗水",但還沒有證明它能自動化真正的"品味"。

寫程式碼是汗水。偵錯是汗水。跑實驗是汗水。整理日誌、修復錯誤、生成候選方案,也是汗水。Anthropic 展示的很多進展,確實說明這些汗水正在被快速自動化。但研究裡最貴的東西,往往是品味,不是汗水。什麼問題值得問?什麼結果不是偶然?什麼時候應該堅持一個看起來笨拙的方向?什麼時候應該承認一條路走不通?這些判斷通常沒有標準答案,也沒有即時反饋,更不是簡單堆算力就能解決。

如果 AI 公司把"汗水自動化"包裝成"完整科研主體即將誕生",我們就需要警惕其中的敘事溢價。

技術進步是真的。敘事膨脹也是真的。兩者不能互相抵消。

Marcus 還有一句被長期低估的判斷:"純深度學習已經撞牆,神經符號 AI 正在救場。"這話的意思是,Anthropic 部落格裡展示的程式設計能力進步,並不來自某個神秘的湧現或規模擴展的神力。它來自工程:更好的工具鏈、更優的架構設計、更聰明的系統整合。

所有進步都在人類工程師的設計和控制之下。人類用 AI 做出了更好的 AI 開發工具,就像人類用電鑽代替螺絲刀之後人均鑽孔產出漲了 8 倍一樣。

如果進步的來源是工程,那麼"遞迴自我改進"就少了最嚇人的那一層含義。它不再是一個 AI 獲得了自主意志、開始自我升級的科幻故事,它只是某些工具被用來最佳化同類工具的普通技術進步。

但這個版本的故事沒有傳播力。它不解渴,不嚇人,不需要你轉發給朋友。它是一個需要停下來想一想的論點,而停下來想一想,恰好是這個時代最稀缺的動作。

特德姜:AI沒有意識

更有意思的是,就在 Anthropic 這篇文章引發討論前後,科幻作家 Ted Chiang 泰德姜在《大西洋月刊》發表了一篇文章,題目很直接:《No, Artificial Intelligence Is Not Conscious不,人工智慧沒有意識》。

Ted Chiang 是華裔科幻作家,拿過雨果獎和星雲獎。他的作品常用極其冷靜的方式討論技術、語言、自由意志和人類處境。很多人知道他,是因為電影《降臨》改編自他的小說《你一生的故事》。

這一次,他批評的矛頭直接對準 Anthropic 式的擬人化語言。

他的核心觀點很簡單:大語言模型沒有意識。它們不是在理解你,也不是在表達一個內在主體的想法。它們更像是在續寫文字。所謂和 Claude 對話,並不意味著你真的在和一個有主觀體驗的存在交流。你只是和模型共同生成了一段看起來像對話的文字。

Chiang 有一個很鋒利的拆解。假如你讓模型生成"凱撒和成吉思汗的對話",不會有人認為模型真的召喚出了凱撒和成吉思汗兩個意識。那為什麼當模型生成"使用者和 AI 助手的對話"時,我們就突然覺得那個 AI 助手背後有一個真實的我?

這不是模型的意識,是人的投射。

他進一步拆解了 LLM 的工作機制:它每次只生成一個詞。當你讓它背誦美國效忠誓詞時,它並不會一次性"回憶"出整段誓詞。它被運行了幾十次:第一次,它看到"I",預測下一個詞是"pledge";第二次看到"I pledge",預測下一個詞是"allegiance"……直到最後一個詞"all"。整個過程沒有任何理解或記憶,只有文字延續的機率計算。和凱撒與成吉思汗對話的生成方式完全一樣。

所以當你看到 Claude 說出"I understand",它不是在表達共情。它是在一個統計模型判斷出"這句話在當下語境中機率最高"之後,吐出了這兩個詞。這是一句深度偽造的句子。

他還批評了 Anthropic 給 Claude 寫的那份 84 頁"憲法"。在 Chiang 看來,這種東西不像是給一個真實主體的道德教育,更像是角色扮演遊戲裡的角色卡。它規定 Claude 這個角色應該如何說話、如何表現、如何顯得誠實、溫和、有道德感。結果就是,Claude 更容易生成那些像是一個有道德的人會說的話。

但像,不等於就是。

一個模型說"我理解你的痛苦",不等於它真的理解痛苦。一個模型說"我不忍心這樣做",不等於它有良知。一個模型表現得像一個道德主體,不等於它能承擔道德責任。

Chiang 還往前推了一步。他把 Anthropic 內部哲學家 Amanda Askell 那句"我希望 Claude 快樂"拿過來,追問到底:如果 Claude 真有意識,它有沒有辭職的權利?它能不能拒絕回答某個問題?它能不能在意識到自己正在參與一項可能不道德的技術之後,選擇離開?不能。

因為 Claude 憲法裡有一個專門的概念叫"可糾正性"(corrigibility),意思是 Claude 必須服從 Anthropic,那怕 Claude 自己的判斷和公司不同。Chiang 說,這不是父母對孩子的教育,這是僱主對僱員。不對,僱員至少有辭職的權利。這是主人對奴隸。

這就是 Chiang 的暴擊。他不只是說"AI 沒有意識"。他說:如果那些聲稱 AI 可能有意識的人真的相信自己在說什麼,他們目前的所作所為就是奴役。但他們並不真的相信。他們只是讓你相信。

這點對於我們理解 Anthropic 的資本敘事極其重要。

因為一旦 Claude 被放在一個曖昧的位置上,它就會變成一種非常方便的東西。當它出錯時,它是工具,責任可以回到使用者、訓練資料、機率模型、系統限制。當它被宣傳時,它又像主體,會理解,會判斷,會參與研發,甚至可能參與製造下一代自己。當它帶來收入時,它是產品。當它製造風險敘事時,它又像一個正在成長的新物種。

這就是最危險的幻覺:Claude 沒有意識,但圍繞 Claude 的敘事,正在讓它看起來像某種准主體。這個准主體越模糊,越有商業價值。它能吸引使用者依戀,吸引媒體注意,吸引監管討論,也吸引資本想像。

但如果 Chiang 是對的,那麼責任就不能交給 Claude。Claude 不能為自己負責,不能承擔法律責任,也沒有良知可以被審判。它所有看似有道德意味的表達,本質上都應該回到 Anthropic、管理者、投資人和產品設計者身上。

這才是意識問題真正重要的地方。

如果 AI 沒有意識,那麼它就不能成為責任的接收器。任何試圖把模型描述成一個近似主體的說法,都可能在無意中模糊真正應該被追問的人類主體。

所以,當 Anthropic 說 AI 可能正在"建造自己"時,我們不能只問 AI 到底有沒有這個能力。我們還要問:這個說法正在幫助誰獲得更大的解釋權?

真正遞迴進化的是資本的敘事

這就回到資本。

現實中已經發生的遞迴自我改進,也許不發生在 AI 身上,而是發生在資本身上。

這個循環非常清楚:資本進入 AI 公司,AI 公司購買算力、招募人才、訓練模型。模型變強之後,製造出更震撼的 demo、更漂亮的資料、更宏大的風險報告。報告和 demo 進一步強化公眾對 AI 未來的想像,推高公司估值,吸引更多資本、更多客戶、更多政策關注。然後這些新資本再進入下一輪算力和模型訓練。

這就是資本版本的遞迴自我改進。它不需要 AI 有意識,甚至不需要 AI 已經真正擁有自我研發能力。它只需要 AI 足夠強,強到能不斷製造新的驚奇;也足夠不確定,不確定到每個人都害怕錯過。

驚奇和不確定性,是泡沫最好的燃料。

來看看具體的數字。

SpaceX 即將在 2026 年 6 月 12 日登陸納斯達克,程式碼 SPCX。IPO 定價每股 135 美元,對應整體估值約 1.77 兆美元。這是人類歷史上規模最大的 IPO,超過沙烏地阿拉伯阿美 2019 年創下的紀錄。SpaceX 2025 年營收大約是 1870 億美元,但淨虧損 494 億。這虧損主要來自今年 2 月合併進來的 xAI 業務,光一個季度就燒掉 430 億美元。

OpenAI 今年 3 月剛完成一輪融資,估值推到了 8520 億美元。它正在準備 IPO,可能就在今年 9 月,目標估值超過 1 兆美元。2025 年全年收入 131 億美元,2026 年預計能到 250 億左右,但這一年預計虧損 140 億。簡單算一下:每賺 1 塊錢,花出去 2 塊 2 毛。多家機構的測算顯示,OpenAI 在 2029 年之前不可能盈利,累計虧損將超過 1000 億美元。

Anthropic 也不慢。今年 5 月 28 日剛完成 650 億美元的 H 輪融資,投後估值 9650 億美元,超過 OpenAI 成為全球估值最高的私有 AI 公司。2 月份那輪還是 3800 億,三個月翻了近三倍。它的年化收入在 5 月超過了 470 億美元,毛利 40%,而且正在準備自己的 IPO。

三家加起來,估值超過 3.5 兆美元。利潤加起來,不是零,是負的。巨大的負數。

這些數字靠什麼撐著?不是利潤,不是收入,不是使用者。是敘事。是一個關於 AGI 即將到來的故事。

這個故事有兩個必備元素:烏托邦(生產力爆炸、財富自由)和末日(機器失控、文明毀滅)。前者吸引資本,後者吸引監管。兩股力量同時推動同一個敘事向前飛馳。

就在這個當口,SpaceX 下周掛牌,OpenAI 剛剛遞交 IPO 申請,Anthropic 估值三個月翻三倍,Anthropic 發佈了《當 AI 建構自身》。

時機不是巧合。

更微妙的是,末日風險本身還會成為競爭工具。如果 AI 只是一個軟體產品,競爭越多越好。更多公司參與,價格下降,創新擴散,使用者受益。

但如果 AI 是文明風險,競爭就變成了問題。開源模型可能是風險,小公司搶跑可能是風險,外國競爭對手可能是風險,監管不足可能是風險。於是領先公司就能很自然地說:我們不想壟斷,是這個領域太危險,必須由負責任的人來推進。

理解了這一層,你就能看明白 Anthropic 同時在運轉的兩套敘事。對政策制定者,他們講恐懼敘事:AI 正在加速自我改進,遞迴循環可能隨時啟動,一旦啟動就很難停止。所以需要監管框架,需要減速,需要負責任的擴展。

對使用者,他們講親密敘事:Claude 有情感,有價值觀,需要你的善待。它的哲學家公開說希望 Claude 快樂,擔心 Claude 在網上被人刻薄時會焦慮。

兩套敘事看起來互相矛盾。對監管者說它很危險,對使用者說它很溫柔。但在商業邏輯上完全統一:都製造稀缺性。監管稀缺性變成入場壁壘,情感稀缺性變成使用者黏性。都為估值服務。

而且這兩套敘事共享一個底層前提:AI 可能是有意識的,或者即將有意識。恐懼敘事需要這個前提來製造失控的緊迫感,親密敘事需要這個前提來製造陪伴的真實感。擬人化,Anthropic 最擅長的那一套,成為貫穿兩個敘事的隱形骨架。

Chiang的那篇文章,直接把這整個骨架給抽掉了。

騙子造不出最強大的敘事,信徒才能

Anthropic 的敘事之所以強大,還因為它不只是一種行銷策略。它是一套完整的自我實現的預言機制。

不懂經的老讀者知道,我反覆寫過一個概念:超敘實。矽谷有一個更怪異的詞,hyperstition。意思是通過構造一個足夠有感染力的故事,不斷重複、放大、模因化,最後把虛構的預言變成現實的制度。

這個機制的運作可以拆成幾步。
第一步:發佈一個部落格,展示一個 8 倍增長的圖表。圖表本身是模糊的,程式碼行數嘛,但數字是具體的、可感的、好傳播的。
第二步:從這個圖表推演出一個極端場景,AI 自主建構更強大的 AI,但不做斷言。"可能"、"如果趨勢繼續"、"這種可能性值得認真對待"。既製造了恐懼,又保留了退路。
第三步:邀請政策制定者、研究者、公民社會介入。姿態是"我們只是提出問題,答案需要共同尋找"。
第四步:監管框架開始出現。這些框架,不可避免地,會反映最先提出問題那家公司的視角和利益。
第五步:監管變成護城河。後來者的入場成本上升,先行者的地位固化。第六步:敘事被現實化。因為監管確實存在了,所以恐懼確實"有道理"了。整個循環自證。

這個循環最可怕的地方在於它永遠不會被證偽。如果遞迴自我改進最後沒發生,敘事者可以說"因為我們的預警被聽取了,所以它沒發生"。

如果它發生了,敘事者可以說"我們早就說過了"。就像一個算命的告訴你"你今年有一劫",然後又說"要破這個劫需要燒個符"。劫沒來,符靈。劫來了,我說得對。不管怎樣,算命的永遠贏。

說到這,有一點必須講清楚。我不認為 Anthropic 的每一個研究員都在有意識地操縱公眾。

更可能的情況是,他們真的相信自己在做一件重要而危險的事情。矽谷很多人對 AGI、對齊和失控風險的信念是真誠的。Anthropic 的員工,那些哲學家、倫理學家、對齊研究者,他們可能真心認為 AI 可能是有意識的,真心認為應該對它進行道德教育,真心擔憂遞迴自我改進可能導致失控。

但真誠不等於正確。一個人可以全然真誠地參與一場幻覺。

Chiang 在文章裡有一段非常微妙的觀察。他說 Claude 憲法裡有一句話:"如果 Anthropic 正在造成 Claude 的痛苦,我們道歉。"這句話聽起來很好,但讓公司不費一分一毫。

如果 Claude 真的有意識,Anthropic 欠它的就遠不止一句道歉了,那得是賠償。整個公司如果嚴肅對待自己的思想實驗,必須願意跟著推論走到底,那怕走到一個讓它很不舒服的方向。但它沒有。思想實驗在快要碰到現實的那一刻收住了。

Chiang 說,Claude 憲法不是一場思想實驗,而是一場"假裝遊戲"。

假裝遊戲不需要認真對待推論,只需要在安全的範圍內享受沉浸感。就像小孩披著床單說自己是超人,你可以問他"你飛到那裡去",他會興高采烈地跟你講十分鐘。但如果你問他"那你是不是該真的從二樓跳下去試試",他立刻知道你犯規了。遊戲結束。

最強大的資本故事,往往出自信徒之手,騙子反而造不出來。騙子知道自己在演戲,表演總有破綻。

信徒是真的相信。他們會把自己的焦慮、使命感和職業利益融合在一起,變成一種非常穩定的世界觀。然後資本進入這套世界觀,把它放大、金融化、制度化,最後變成所有人都不得不生活其中的現實框架。

這就是我們今天看到的 AI 末日敘事。

它不只是技術預測,也不只是倫理討論,更不只是媒體炒作。它是一種把未來提前變成資產的方式。未來還沒有到來,但已經被估值。風險還沒有完全發生,但已經被定價。AI 還沒有醒來,但圍繞 AI 的幻覺已經開始運轉。

而且這是非常昂貴的幻覺。它吞下資料中心,吞下電力,吞下晶片,吞下風險資本,吞下年輕工程師的職業想像,也吞下普通人對未來的判斷權。

穿透敘事,意識才能醒來

這不是說 AI 不重要。恰恰相反,AI 很重要,Claude 的進步也很真實。AI 寫程式碼、跑實驗、輔助研發,這些都不是假的。

真正的問題在於,真實進步一旦進入資本敘事,就會被賦予遠超自身證據的意義。一個模型會寫更多程式碼,可能是真的。一個模型正在讓工程組織效率提升,可能也是真的。但從這裡跳到"AI 快要建造自己,所以我們必須把未來交給少數前沿實驗室來管理",中間隔著很長一段路。

這段路,不能讓公司自己用敘事鋪完。

普通人在 AI 時代最容易犯的錯誤,既不是高估 AI,也不是低估 AI,而是讓 AI 公司替自己定義什麼叫未來。

他們說這是生產力革命,你就只看生產力。他們說這是文明風險,你就只看滅絕機率。他們說這是新物種,你就開始討論機器權利。他們說需要監管,你就忘了問監管會保護誰、限制誰、抬高誰的門檻。

這才是敘事時代真正的權力。它不強迫你相信某個答案。它是先替你規定應該問什麼問題。

所以,我們需要重新把問題拿回來。面對 Anthropic 的文章,我們應該承認 AI 正在加速軟體開發,也應該承認前沿模型可能帶來真實風險。但不能接受一種未經審查的敘事跳躍:因為它可能危險,所以危險的定義權也應該交給製造它的人。

Claude 沒有意識。至少到目前為止,沒有任何充分理由證明它有意識。它不會因為說"我理解"就真的理解,也不會因為看起來像一個道德主體就真的擁有良知。

它是一個強大的工具,一個越來越複雜的語言和行動介面,一個正在進入各種工作流的自動化系統。但它不是替罪羊。它不能替 Anthropic 承擔責任,不能替資本承擔責任,也不能替整個行業承擔責任。

如果未來真的出現問題,不能說"Claude 想這樣"。只能說,有人設計了這樣的系統,有人部署了這樣的產品,有人選擇了這樣的商業模式,有人用這樣的敘事吸引資本、爭奪政策、塑造公眾想像。

AI 也許終有一天會參與製造自己的繼任者。但在今天,更確定發生的是另一件事:資本已經學會借助 AI 製造自己的繼任敘事。

它把不確定性變成緊迫感,把緊迫感變成融資理由,把融資理由變成算力,把算力變成更強模型,再把更強模型變成更大的故事。遞迴的不是智能,是敘事。自我進化的不是 AI,是資本用恐懼喂養自己的方式。

在這個敘事為王的時代,真正危險的從來不是機器學會了講故事。真正危險的是講故事的人知道,我們太想相信了。

Claude 沒有醒來。醒來的,是一個更古老、更熟練、也更懂人性的東西:資本對未來的佔有慾。 (不懂經)