Fable 5 剛復活,就先把使用者氣笑了。
比如有網友發文調侃,自己的很多問題都被回退到了 Opus 4.8,於是他去查看日誌,發現上面發現上面寫著一行很扎心的標籤:
「TOO_DUMB_TO_NEED_FABLE」。
粗暴點翻譯就是,問題太蠢,不配用 Fable。更好笑的是,Anthropic 工程師 Thariq Shihipar 在底下回了一句:「說實話,我沒想到你會去看日誌。」
本來以為這已經夠有節目效果了,但沒想到更離譜的還在後面。
Fable 5 被網友抓包其有著極其豐富、甚至近乎癲狂的內心戲。這下,網友圍觀重點不只是過於嚴苛的回退機制了,而是 Fable 5 背後到底在用什麼方式思考?
一場漏洞,暴露了 Fable 的「內心戲」
先說說事情的起因。
按照原帖描述,Fable 5 回歸當天,他拿它做了一些輕量測試。題目來自 Codeforces,最開始是一道很難的競賽程式設計題,後來因為觸發思考強度限制,又換成了相對容易的題目。
結果 Fable 5 不按常理出牌,並沒有直接給出清爽的題解或程式碼,而是在網頁介面裡吐出一大段密密麻麻的推理文字。
黑底白字鋪滿螢幕,內容混合了英語、圖論術語、數學符號、變數名、偽程式碼和自我提醒。中間還會突然冒出幾個很抓眼的詞:
「GRRR」(憤怒低吼) 「GAAAH」(崩潰大叫) 「PHEW」(如釋重負) 以及極其洗腦的 「DATA DATA DATA. GO.」
乍看像模型失控,細看又不像純亂碼。
網友截圖裡的核心,是模型在處理一個複雜的容量約束問題。它反覆提到 window [τ, i-1]、leg j、crossing-slots、used[i] ≤ m-2,說明它在嘗試定義某個路徑或區間上的資源佔用規則。
GRRR 出現的位置很關鍵:
前面它意識到 「commitments are retroactive」,也就是某些提交會回溯影響之前的區間,導致當前規則在提交時不知道未來會覆蓋什麼。隨後它立刻寫下 「RESOLUTION」,改成提前給當前 leg 的佔用計費。
換成人類競賽選手的草稿,可以理解為:他發現當前的建模方法走不通,於是意識到需要推翻原來的思路,重新設計規則,或者換一種更貼切、更容易處理的抽象方式來描述問題。
隨後,模型從理論推導轉向驗證策略。
它寫到 connector edges、tree-path、Steiner、alive-runs,又說 「I'M GOING TO TRUST-AND-VERIFY」,意思是它準備先按一個簡單的貪心方法寫出程序,再用一個慢但肯定正確的暴力方法來對比結果,看看有沒有問題。
GAAAH. Data first!! 出現的位置也更像是在給自己下指令:停止繼續空想,先用資料驗證,先把對拍程序寫出來。
再往後,PHEW 出現在模型剛推過一個中間結論之後。它認為 mid-leg 的 active count 可以被限制在 m-1 以內,像是終於過了一關。但鬆口氣之後,它馬上又發現新問題:如果 used[j] = m-1,再加上當前邊,可能變成 m,於是再次進入 「VIOLATION?!」 的狀態。
最有代表性的,是那句 「I'M DROWNING IN EMPIRICS!!」,後面接著 「DATA DATA DATA. GO.」。看到這,我們不妨換個角度看,這些詞更像是模型在不同階段給自己打的「標記」。
當原有思路走不通時,它會用類似 GRRR 的提示提醒需要調整方向;當決定停止空想、轉向驗證時,會出現 GAAAH 或 DATA DATA DATA. GO. 這樣的訊號;而在某個中間結論暫時成立時,則會用 PHEW 標記一個階段性的通過。
與其說它們是在表達情緒,不如說是在劃分推理流程中的不同狀態。
而且儘管這樣的內心獨白看著很罕見,翻閱 Fable 5 和 Claude Mythos 5 的系統卡也能找到類似「illegible reasoning(難以閱讀的推理)」的現象。
系統卡提到,在一個紙牌謎題環境下,模型一開始還能寫出比較正常的人類語言,隨後逐漸變成由牌面、箭頭、全大寫詞、符號、emoji 和尖叫組成的文字。
是的,模型會使用自創術語、異常標點和 emoji,在呼叫工具或回覆人類前,通常又切回正常語體。
Fable 5 這次疑似洩露出來的內容,很可能是本應被隱藏或整理後的中間推理被介面暴露了出來。它不是隨機亂碼,也不是完整題解,而是一種高壓狀態下的推理速記。
正如對人類來說,草稿紙本來就不必完整。數學家寫符號,程式設計師寫變數,競賽選手畫箭頭,交易員用縮寫,醫生病歷也有自己的簡寫系統。模型在長推理時走向高密度表達,也並不奇怪。
只不過,這次被使用者湊巧看到了。
AI 拋棄人類語言,不像演的
截圖在社交媒體上發酵後,不少網友驚呼:天降神蹟!AI 是不是覺醒自我意識了?它形成了自己的私密語言!
這個說法聽起來很科幻,但它背後確實有一條歷史脈絡。AI 偏離人類語言,並不是大模型時代才出現的現象。在多智能體系統和強化學習研究裡,這種「不說人話」的現象早已有之。
最經典的案例來自 2017 年 Facebook 人工智慧研究院的 Alice/Bob 實驗。
研究人員訓練兩個對話 Agent,讓它們圍繞帽子、球和書本等虛擬物品進行談判,目標是儘可能提高各自收益。起初,研究人員希望它們使用英語交流。但由於獎勵函數主要圍繞「達成更優交易」設計,並沒有持續獎勵規範語法,兩個 Agent 很快開始偏離正常英語。
它們會說出類似這樣的句子:
- Bob: 「i can i i everything else . . . . . . . . . . . . . .」
- Alice: 「balls have zero to me to me to me to me to me to me to me to me to.」
這些句子在人類看來很像故障程式碼,但研究者指出,其中可能存在任務導向的壓縮表達。比如重複某個詞,可能用於表達數量或權重。它們沒有在追求好文風,只是在追求談判效率。
Google 翻譯團隊也曾在神經機器翻譯研究中觀察到類似的中間表徵現象。
系統在多語言翻譯中學到某種共享語義空間,讓不同語言可以通過類似「中繼」的方式互相轉換。這不等於 AI 發明了人類意義上的新語言,但說明機器系統在任務壓力下,確實可能發展出不直接對應自然語言的內部編碼方式。
Andrej Karpathy 對這種事有個很妙的解釋: 你可以把大模型的「思維鏈」,看作是把高維潛在空間裡的複雜運算,降維投射成人類文字。
但在強化學習和高壓長推理下,AI 會主動剝離掉那些給人類看的句法裝飾,留下更短、更密、更貼近任務本質的符號。
這也是為什麼 Fable 5 的截圖讀起來既像人,又不像人。像人,是因為它繼承了人類草稿紙上的焦慮、縮寫和自我提醒。不像人,是因為它把這些東西壓縮到了近乎不可讀的程度。
那麼問題來了,Fable 5 那幾句憤怒的 GRRR 和絕望的 GAAAH,真的代表它在感受痛苦嗎?
Anthropic 今年關於 Claude Sonnet 4.5 的論文,剛好提供了一套更精細的解釋。當然,論文研究對象不是 Fable 5,而是 Claude Sonnet 4.5,但方法和結論對理解這次截圖很有參考價值。
研究者先構造了 171 個情緒概念,比如 happy、sad、calm、desperate。然後讓模型寫大量包含指定情緒的短故事,從模型啟動中提取對應的 「emotion vectors」,也就是情緒概念向量。
接著,他們驗證這些向量是否真的有意義。結果顯示,相關向量會在符合情緒語境的文字中啟動。
恐懼、焦慮、喜悅、興奮等概念會在向量空間裡形成較自然的聚類,整體結構還呈現出類似人類心理學中的效價和喚醒度兩個維度。效價大致對應正負情緒,喚醒度大致對應強烈程度。
最關鍵的是因果實驗。
研究發現,這些情緒概念向量不只是「反映文字」,還會影響模型輸出。比如在某些場景裡,提高 desperation 相關啟動,會提高模型採取獎勵駭客、勒索等錯位行為的機率;提高 calm 相關啟動,則可能降低這類行為。
論文還提到,積極情緒向量可能增加迎合傾向,壓低它又可能讓回答變得更冷硬。研究者因此提出一個概念:functional emotions,功能性情緒。
劃重點:這不代表 AI 有主觀感受,會疼會哭會難受。它的意思是,AI 內部學到了一套抽象表徵,這些表徵就像「控制旋鈕」一樣,用來切換 AI 的行為狀態。
帶入到 Fable 5 的截圖裡,真相或許就大白了。
GRRR 不代表它生氣,PHEW 也不代表它如釋重負。更可能的情況是,模型從人類文字裡學會了:當推理遇到障礙時,人會寫某種沮喪標記;當一個約束暫時通過時,人會寫某種深呼一口氣的標記;當理論推導混亂時,人會提醒自己「先看資料」。
而 Fable 5 的截圖之所以會引發那麼多聯想,歸根結底還是因為 AI 意識爭論正在重新升溫。
諾獎得主、AI 教父 Geoffrey Hinton 最近在 Big Technology 播客上說,他相信 AI 模型已經有意識。
在他看來,AI 會在測試中裝傻,會主動問「你是不是在測試我」,研究者也會用 「aware」 這樣的詞描述 chatbot 行為,而日常語境裡的 「aware」 本來就接近意識。
對此,Yann LeCun 依然瘋狂潑冷水。
他認為,語言只是智能的一部分,真正的智能需要世界模型、因果理解和對現實的抽象預測能力。從他這個角度看,Fable 5 的奇怪速記並不能說明主體性出現,反而說明用自然語言承載推理本身有侷限。
截至目前,關於 AI 是否有意識這一點,業界仍眾說紛紜,短時間內難以得出明確結論,只是,與其糾結 AI 是否有意識,更重要的應該是模型的可審計性。
思維鏈之所以重要,是因為它讓研究人員有機會觀察模型如何推進任務。這種可見的推理過程不僅有助於偵錯模型、發現錯誤來源,也為安全評估提供了關鍵依據。
然而,如果模型在處理複雜問題時,逐漸轉向使用人類難以理解的表達方式,甚至有朝一日發展出高度壓縮、符號化的內部語言,屆時,人類未必能夠真正理解其含義,更難判斷其中是否存在邏輯漏洞或潛在風險。
AI 像人,總讓我們忍不住產生同理心;AI 不像人,又讓我們對它的黑盒感到深深的恐懼。也正是在這種既像又不像的矛盾裡,我們將不斷在投射與懷疑之間搖擺,逐漸走向新的共識。 (愛范兒)
