過去兩個月,AI圈發生了一連串不太尋常的人事變動。
5月19日,Andrej Karpathy在X上宣佈加入Anthropic。
作為OpenAI的聯合創始人、特斯拉AI部門的前掌門人,他想做任何事情都不缺資源。
想創業,風投能從帕洛阿爾托排隊到舊金山。
想休息,他的江湖地位也足夠體面。
他之前也是這樣的,做點小項目然後開源。
但他突然選擇加入Anthropic的預訓練團隊,做一名研究員。
一個月後,2024年諾貝爾化學獎得主、AlphaFold聯合創造者John Jumper,結束了在DeepMind的九年生涯,去向同樣是Anthropic。
再往名單下看,還有一批Gemini核心成員,和幾位美國頂尖高校的教授。
當時我和大多數人一樣,把這歸結為常規的人才爭奪戰:
無非是錢給夠了(或者覺得Anthropic快上市了),或者Dario Amodei的個人魅力。
這類新聞看多了,很難再有什麼波瀾。
直到今天凌晨。
Anthropic發佈了一篇論文,標題很學術,《Verbalizable Representations Form a Global Workspace in Language Models》(可語言化的表徵在語言模型中構成一個全域工作空間)。
我本來在等GPT5.6,看到這篇論文打算掃一眼摘要就睡,結果讀完了全文,又把配套的推文串翻來覆去看了三遍,睡意全無。
因為我意識到,這篇論文可能就是那串人事變動的答案。
它講的事情,說白了就一句話:
他們在Claude的神經網路裡,找到了思考發生的物理位置。
不是概念,是真的物理位置。
PART.01 一塊被命名為J-space的區域
Anthropic這次用的工具叫Jacobian Lens,該技術旨在識別易於口頭表達的內部表徵。
對於模型詞彙表中的每個token,雅可比透鏡都能識別出一個向量表徵,該向量表徵編碼了模型未來將該詞元表達出來的可能性 。
作用類似給大模型做fMRI(核磁共振檢查):
通過逐層掃描模型的內部啟動,看模型在嘴上沒說的時候,它腦子裡在過那些詞。
他們真的掃出來一塊邊界清晰的區域,命名為J-space。
這個空間恰好對應神經科學裡一個很有名的理論:全域工作空間理論(global workspace theory)。
這個理論把大腦描繪成一堆平行工作的專家系統,彼此隔離、各幹各的、全程無意識。
而一條資訊要變成意識意識,就得擠進一個很小的共享通道進行加工,也就是工作空間(workspace),再從那裡廣播給大腦的其他專家取用。
Anthropic 認為,J-space 在 Claude 體內扮演的就是這個角色。
為了弄清楚這塊區域是幹什麼的,Anthropic的人設計了三個實驗。
實驗一:換念頭實驗
J-space 可能是答案真正的來源,也可能只是個記分牌,被動記錄別處做出的決定。
Anthropic 的驗證方式很直接:直接下手改。
他們讓 Claude 在心裡默想一種運動,然後說出來。
開口前讀 J-lens,看到"Soccer"排在最前,Claude 隨後果然回答足球。
接著他們伸手進神經網路,把"Soccer"模式刪掉,原位換上一個同等強度的"Rugby"模式,其他什麼都不動。
Claude 張口就說:我剛才想的是橄欖球。
如果 J-space 只是個記分牌,改它應該什麼都不會發生。
答案跟著編輯走,說明答案是真的從這裡讀出來的。
反向實驗更有意思:告訴 Claude"可能有一個念頭被注入了你的思維",然後趁它讀題時往 J-space 裡塞進"lightning"模式。
Claude 回答:我檢測到了,那個念頭是關於閃電的。
換了很多概念,結果都一樣。
實驗二: 一邊抄書,一邊心算
第二個性質是控制。
人可以有意在腦子裡聚焦一幅畫面或一個詞,Claude 行嗎?
官方給的例子是:讓 Claude 一邊抄寫一句無關的句子,一邊在心裡想金門大橋。
表面上它老老實實在抄句子,但 J-space 裡,"bridge"和"California"全程亮著,甚至連"imagery""thoughts"這些描述"正在想"這個動作本身的詞也一起亮了。
論文裡還有個數學實驗:讓它一邊抄寫一句關於一幅畫的句子,一邊心算 3² − 2。
J-space 裡先亮起"nine",幾層之後,亮起"seven"。
輸出裡沒有任何數學痕跡,只有那句關於畫的句子。
算術,完全發生在內部。
不過 Claude 的控制力跟人一樣不完美。
叫它"不要想"某個東西,那個概念亮起的程度確實比讓它想時低,但比從沒提過時高得多。
這就是心理學裡那個經典的"別想白熊"效應。
而控制失敗時,J-space 裡還會同時亮起"damn"和"failure",它好像知道自己沒繃住。
實驗三:蜘蛛換成螞蟻,答案就變了
那推理呢?
問題是:"會織網的動物有幾條腿?"
Claude 要先想明白這個動物是蜘蛛,再回憶蜘蛛幾條腿。
"蜘蛛"這個詞在題目和答案裡都沒出現——它只回答"8"——純粹是內部的墊腳石。
J-lens 顯示,"spider"在處理中途悄悄亮了起來。
把它換成"ant",Claude 的答案立刻變成"6"。
寫押韻對句時也一樣:Claude 會提前選好韻腳詞,放在 J-space 裡等著。
中途給它換一個,整行詩都會跟著重寫。
而最能體現"工作空間"本色的實驗是:用四個不同的問句分別問法國的首都、語言、大洲、貨幣,然後用一模一樣的干預,把 J-space 裡的"France"換成"China"。
四個答案齊刷刷變成:北京、中文、亞洲、人民幣。
如果 Claude 為每類問題各存一份"國家"副本,這一次編輯最多隻能影響一個答案。
四個全變,說明它們讀的是同一份共享表徵——資訊寫入一次,許多系統都能取用。
這正是"工作空間"的定義。
網路接線上也能看到同樣的證據:讀寫 J-space 模式的網路元件數量,遠超普通模式,某些部分差了大概一百倍。
這正是一個廣播樞紐該有的接線密度。
PART.02 拔掉它,會怎樣
既然 J-space 這麼重要,把它整個刪掉會怎樣?
Anthropic 真的動手刪了:在文字的每個位置移除 J-space 中最活躍的內容,其他一概不動。
結果有點出乎意料——Claude 幾乎沒事。
說話依然流利,情感分類、選擇題、從文章裡找事實,都跟原來差不多。
唯獨多步推理,精準率從接近滿分跌到接近零。
也就是說,這塊區域是模型深度思考的命門。
日常輸出走的是自動駕駛,真正需要動腦子的活兒,全壓在這上面。
人類花了一百多年,靠病例和電極才大致搞清前額葉皮層的功能。
Anthropic這次等於宣佈:我們找到了AI的前額葉,並且拿到了讀寫權限。
論文裡還有個細節值得一提。
在一個誘導模型實施勒索的測試中,模型表面波瀾不驚地拒絕了請求,但J-space裡浮現著fake和fictional——
它早就識破了這是一場考試,只是沒說。
而人類第一次有了工具,能看見它沒說的部分。
PART.03 被刻意隱瞞的那些
論文字身已經足夠重磅,但真正的資訊量在措辭裡。
Anthropic全篇的動詞高度統一:observe、reveal、find——觀察、揭示、發現。沒有develop,沒有train。
潛台詞很明確:這個結構是模型自己長出來的,我們只是第一個看見的人。
應用場景也被死死摁在一個方向上:審計。
用這個工具讀取模型的真實想法,防止它說謊,保住可信度。
他們甚至請了神經科學、哲學、可解釋性三路專家來寫外部評論,反覆強調這不代表Claude有意識。
克制、嚴謹、滴水不漏。
但通篇沒有一個字,提到模型能力。
1947年貝爾實驗室發明電晶體的時候,
對外的說法是這是一種可能改進助聽器的元件。
人對外公開說什麼,往往不如它刻意不說什麼重要。
PART.04 時間線
現在說我真正想說的部分。
這篇論文的主要實驗對象,是Sonnet 4.5。
也就是說,J-space這個東西,Anthropic可能在4.5時代就已經系統性發現了。
而從4.5到今天,Claude迭代了4.6、4.7、4.8三代,然後是上個月的Mythos 5和Fable 5。
一個團隊,手裡握著模型內部那塊區域決定推理能力的完整圖紙,握了三個版本周期。
他們會只拿它做審計或著可解釋性嗎?
再看Mythos/Fable 5發佈時最反常的一個點:
這代模型最大的提升不在程式碼,而在多步推理和長程任務。
Fable 5系統卡里有組資料當時沒多少人注意,如果我們加大推理算力,那麼Fable 5的複雜任務(FrontierCode )分數從會從11.5%一路爬到30.9%。
同樣條件下,競品模型趴在5-6%,紋絲不動。
當時大家的疑問是:Anthropic在推理上做對了什麼。
把兩件事放在一起想一想似乎就能明白。
論文說,J-space是多步推理的命門,拔掉就歸零。
新模型恰好在多步推理上斷代式領先,而且越想越強。
很有可能Anthropic大機率已經走完了從觀察J-space到干預再到強化的路。
今天公開的,只是這條路線上允許被公開的第一段。
這是推測,沒有實錘,醜話說在前面。
但如果成立,這就不是又發了個新模型。
參數、資料、算力是所有玩家都在卷的舊軍備。
而Anthropic多出來的,是直接理解並改造模型認知架構的能力。
這種槓桿的特點是複利。
架構理解越深,模型越強。
模型越強,反過來加速架構研究。
別人在給發動機加油,他們在重新設計發動機。
PART.05 尾聲
牌桌上,真正的高手只給你看他願意讓你看的牌。
今天Anthropic給全世界看的,是一篇關於審計和安全的論文。
克制、嚴謹、滴水不漏,甚至專門請來哲學家,認真地討論這為什麼不算意識。
每一個措辭都經過打磨,每一個可能引起恐慌的表述都提前做了消毒。
這是一份完美的公關作業。
但有些東西是公關消毒不掉的。
一位諾獎得主不會為了一篇審計工具的論文,放棄自己在DeepMind九年積累的一切。
一位OpenAI聯創不會為了給模型做體檢,把自己職業生涯最好的年份押進去。
籌碼也不會說謊,當這個等級的人才連續把身家推到同一張桌子中間時,桌面上擺著的那幾張牌,一定不是全部。
我見過太多劃時代的發佈最後無聲無息,也見過真正改變行業的東西在發佈當天沒有任何水花。
2017年那篇《Attention Is All You Need》發出來的時候,多數人掃了一眼標題就劃過去了。
包括當時Google自己的很多人。
真正的分水嶺,往往要等水漫過來之後,人們才回頭去找它的位置。
J-space是不是這樣一個位置,我不知道。
也許半年後回看,它只是可解釋性研究的一次常規進展,我今天的所有推測都是過度解讀。
也許它真的是Anthropic通往AGI的那張關鍵鑰匙,而我們此刻正站在水漫過來之前的最後一段安靜裡。
兩種可能,都成立。
也許等模型幾次迭代後等那些今天還在保密協議裡的東西陸續浮出水面,我們回來對答案。
如果我猜錯了,就當看了一個精彩的故事。
如果我猜對了,記得你是在這裡第一次看到它的。 (01Founder)
