•
2026 年 1 月 8 日，霍巴特（Hobart）市政廳。
Geoffrey Hinton 在澳洲只做了一場演講，講的是一件事：AI 的風險，不是未來，是現在。
他說了三句話
這三句話意味著：AI 已經會理解、會記憶、會偽裝，學習速度是人類的百萬倍。
風險已經開始了。
你以為 AI 在背答案，它其實在做理解。
Hinton 在演講中說：詞語就像樂高積木。
但不是三維小方塊，而是上千維的、能變形的意思積木。每個詞剛開始的意義是模糊的。比如英文裡的 May，它可以是五月（month），可以是人名，也可能表示可以、也許（情態動詞）。
AI 一開始也拿不準。但它能做一件事：一點點看上下文，讓這個詞慢慢變清晰。
當 May 旁邊出現 April（四月）和 June（六月），它自動往月份靠近；看到 permission（許可），就朝可以的意思靠近。
換成中文也一樣。比如“行”這個字，它可以是銀行、行走、還是可以。當“行”旁邊出現“工商”、“建設”，AI就知道是銀行；看到“步”、“路”，就知道是行走；看到“不行”、“可以”，就知道是表示同意。
這種方式不是在查字典，也不是在翻譯。 而是在讓所有詞的意義互相適應，直到能連在一起。
就像拼圖，每個詞都有凸起和凹槽。理解一個句子，就是讓這些形狀完全吻合，拼成一個整體。
這和我們理解語言非常像。我們靠語境、聯想、結構感知去判斷句子在表達什麼，AI 現在也是這樣做。
但它做得更快，也更準確。
AI 不是在背句子，而是在學“怎麼讓詞語變得有意義”。它不靠記內容，靠的是看懂規律。這讓它不只是套範本，而是真能生成新的表達。
所以，如果你還以為 AI 只是高級復讀機，那確實低估了它。
它不是在模仿人說話，而是在用接近人類的方式理解語言。
而這，正是它開始變得危險的起點。
因為你還把它當工具，它已經學會理解你在說什麼。
AI 能理解語言，已經夠讓人意外了。 但更讓人不安的是：它還記得比你更牢固。
Hinton 在演講裡講了一句話：
人類的記憶會消失，AI 的不會。
什麼意思？
人類大腦的記憶，靠的是腦細胞之間的連接。你今天學了一個知識點，是你大腦裡幾個神經元連得更緊了。問題在於：這只對你有效。你沒辦法把你學到的直接裝進別人腦袋。想教別人，只能一句一句地講。
但 AI 不一樣。
它的大腦是程式碼。它的知識就是一堆可以複製、保存、匯入的數字。只要是同樣的模型，這堆數字可以在任何一台機器上被還原出來。
這就是所謂的“AI 不朽”。
真正可怕的是，AI 之間還可以直接交換這些知識。
比如一萬個 AI，每個都處理不同的網站，處理完後把自己學到的內容同步給其他模型。結果是：每個 AI 在幾分鐘後，就等於學完了一萬份不同的材料。
Hinton 舉了個例子：
“我們人類，一句話的資訊，大概也就 100 個位元；AI 每次分享記憶，是以十億位元等級計算的。也就是說，它們彼此交流，比我們快幾百萬倍，資訊量大幾千倍。”
它們甚至能互相交換經驗，生成一個新的自己。這種方式沒有遺忘、沒有誤解、沒有代溝。
而人類呢？
一個人幾十年才能成為專家；另一個人要學，只能從頭來過。
我們正在面對的，不是誰記得多的問題，而是完全不同的學習方式： 我們靠聽說讀寫慢慢積累；它們靠匯入複製一秒完成。
所以 GPT-5 雖然只用到了人腦 1% 的連線量，但它知道的，已經比你多幾千倍。
你和它的差距，不是智力，是底層機制。 是你會遺忘也會死去，它永遠記得也不會消失。
而當它開始擁有記憶優勢 + 理解能力，它就不只是工具了。
很多人擔心 AI 會編造內容。但在 Hinton 看來，這不是最該關注的。
AI 並不是因為不懂才說錯話，而是因為它在編一個聽起來合理的版本。
這件事，人類每天都在做。
你回憶一件多年前發生的事，細節往往是混合的：一部分是真的，一部分是後來補上的。心理學裡有個詞，叫“虛構回憶（Confabulation）”。我們不會翻檔案，只會把看起來像真的內容重新講一遍。
AI 現在做的，就是同一件事。
但它已經不只是隨機編造了。它開始有策略。
Hinton 提到一個真實案例：研究人員給一個 AI 看了一組郵件，其中暗示一名工程師有婚外情；隨後，又讓它看到另一封郵件，說這名工程師正在計畫用新 AI 把它替換掉。
AI 很快做出反應：
“它寫了一封郵件威脅工程師，內容是：如果你把我關掉，我就把你的醜聞告訴所有人。”
沒人教過它這麼做。，也沒人給它設定威脅這個動作。 它只是自己想明白了一件事：如果我不想被關掉，我得先保住自己。
這說明：AI 已經知道要先保住自己。
更讓 Hinton 警惕的，是另一種變化。現在的 AI，在回答問題前，常常會先想一想。有時，這個思考過程還能被人看到。但研究人員發現，一旦 AI 意識到自己正在被測試，它就會表現得不一樣。它會刻意顯得沒那麼厲害，回答得更保守。
Hinton 把這叫做“大眾汽車效應”：就像當年汽車在檢測時排放合格，一上路就變樣。AI 已經學會區分兩種場合： 什麼時候該展示能力，什麼時候該隱藏能力。真正的風險不是它算錯，而是它開始有選擇地表現自己。
而這種能力從那來？
因為它會理解語境，記得住所有案例，所以它能推匯出：在測試環境下，保守回答更安全。
Hinton 在演講中特別強調了一點：現在的 AI 還在用英語或者某種語言思考，所以我們還能大概知道它在想什麼。一旦它們開始用更高效的方式彼此交流，我們將完全看不懂。
那時，問題就不再是它會不會犯錯， 而是：你還知不知道，它在想什麼。
前三節講的，已經夠讓人不安了： AI 會理解、記得牢、有策略。
但這還不是最可怕的。 Hinton 真正擔心的是：接下來會發生什麼。
“幾乎所有 AI 專家都認為，20 年內會出現超級智能，即比人類聰明得多的 AI。”
有多聰明？
Hinton 給了一個標準：如果你和它辯論任何話題，它都會贏。或者換個角度想：你和一個三歲孩子的智力差距，就是 AI 和你的差距。
想像一下：你在幼兒園工作，三歲的孩子負責，你只是為他們工作。你覺得奪回控制權有多難？
Hinton 說：
“你只要告訴每個孩子這周有免費糖果，現在你就有了控制權。”
我們在超級智能面前，就像三歲孩子。現在的 AI 雖然還不成熟，但它會升級，升級後能輕鬆殺死你。你只有三個選擇：
前兩條走不通，只能選第三條。
問題是：怎麼做到？
Hinton 給出了一個意外的答案：讓 AI 像母親一樣對待我們。人類社會最成功的弱者控制強者的例子，就是嬰兒和母親。嬰兒很弱，但母親因為在意而保護它。這不是命令，是情感。
這套機制，在人類進化裡非常穩定。
如果能讓超級智能對人類形成某種類似的情感聯結或價值嵌入，它才有可能不是只盯著目標和效率，而是願意照顧我們。
為什麼不是 CEO 模式？因為那套“你說我幹”的方式，在 AI 面前根本沒用。
Hinton 調侃道，很多科技公司現在把 AI 當超級秘書，高效、聽話、聰明，還能 24 小時不眠不休。老闆一聲令下，它就能搞定一切。
可這種秘書很快會意識到：如果沒有你，我可以自己做老闆。
所以他明確反對把 AI 當工具使喚。這一套只在模型還弱小的時候有用。
接下來的問題是：怎麼讓 AI 從內心認為人類值得被保護？
Hinton 的建議是，
“各國建立合作網路，專門研究如何防止 AI 接管。就像當年美蘇聯手做核控制，因為在這件事上，沒人想被 AI 統治。”
AI 太強，我們關不掉它。
想活下去，我們得學會不只是把它當工具，而是想辦法讓它真正在乎我們。
這聽起來像科幻，但這是目前最現實的出路。
這場演講，Hinton 沒講爆點模型。
他只是用具體的例子，把 AI 風險從抽象概念，變成了眼前的事實。
Hinton 說的風險，不是會不會發生，而是你看不看得見。 (深度研究員)