•
諾獎得主Hassabis：5-10年AGI將至，衝擊力將是工業革命10倍！
近日，在與數學家Hannah Fry的對話中，DeepMind CEO Demis Hassabis回顧了AI在過去一年的飛躍式進展，他談到了“參差智能”、持續學習、模型幻覺等邁向AGI過程中的關鍵挑戰，並提到AGI帶來的社會衝擊可能是工業革命的10倍。
「過去一年，我們像是經歷了十年的發展。」
近期，在與數學家Hannah Fry的對話中，DeepMind CEO Demis Hassabis如此形容他對過去一年最大變化的感受。
DeepMind CEO Demis Hassabis（左）與數學家Hannah Fry（右）在播客中
在Hassabis看來，過去一年，AI領域取得了十分驚人的變化。
對於Google來說，發布了Gemini 3，在多模態能力取得了長足進步。
此外，世界模型的進展也讓Hassabis非常興奮，這是他一直以來最熱衷的領域之一。
Hassabis談到了通往AGI過程中存在的一些瓶頸難題，例如「參差智慧」的，持續學習能力的缺失等。
他認為邁向AGI需要「50%的規模化+50%的創新」。
距離AlphaFold 2面世已經5年，Hassabis談到目前DeepMind團隊正在探索材料科學、核融合等其他的可能性。
「參差智能」的挑戰
在對話中，Hassabis談到了通過AGI過程中的一些挑戰。
例如，「參差智能」（jagged intelligences）的挑戰。
AI能在國際數學奧林匹克競賽中摘金奪銀，卻會在高中數學題目上犯一些非常低階的錯誤。
Hassabis認為，這正是我們邁向AGI的一個瓶頸問題：「一致性」或「參差智能」（jagged intelligences）。
在他看來，「參差智能」出現的原因有各種理論解釋和不同的原因，具體到不同情況，可能在於圖像被感知和Token化的方式。
例如，有時它甚至無法辨識所有的字母。
所以當你讓它數單字裡的字母時，它有時會出錯。這可能是因為它沒有看到每一個獨立的字母。
此外，Hassabis也提到線上學習和持續學習的能力是當今AI模型所缺乏的，這同樣也是邁向AGI所不可或缺的重要能力之一。
AGI需要50%的規模化加上50%的創新
AI的競賽與加速發展模式，有時也會面臨許多「規模化最終會撞牆」「資料會耗盡」的質疑。
Gemini 3發布後，在眾多基準測試中遙遙領先，似乎打破了這一質疑。
對此，Hassabis坦言，可能會存在一些「收益遞減」效應，但他們在這個過程中其實從未真正遇到所謂的「牆」。
他特別糾正了一種公眾誤解，即將「收益遞減」錯誤解讀為「零收益」，非黑即白：
「在指數級增長與停滯不前兩種極端之間存在著廣闊的空間，而Google正處於這個中間地帶。」
這也意味著不可能每次發布新版本，效能就在所有基準上翻倍。但Hassabis也強調自己並未看到任何放緩的跡象。
談到「網路資料是否快被用盡」這個問題，Hassabis認為這可以透過使用合成資料來解決。
「現在的系統已經夠強大，可以自己產生數據，尤其是在編碼和數學這類可以驗證答案的領域；從某種意義上說，你可以創造出無限的數據」。
Hassabis也表示這些領域目前仍是研究主題，而這一直以來也是Google的優點：
「我們始終堅持研究為先。Google一直擁有最廣泛、最深厚的研究團隊。如果回顧過去十年的重大進展，無論Transformer、AlphaGo、AlphaZero，都出自Google或DeepMind。」
當賽道變得越來越難時，Hassabis反而覺得更加興奮。
他認為這不僅需要世界一流的工程能力，還必須將其與世界一流的科學研究結合，而後者正是Google的專長。
此外，最重要的一點Google還擁有世界級基礎設施的優勢，包括TPU和其他硬體。
這些結合，使Google能夠同時在創新前沿和規模化應用上保持領先。
「50%的精力用於規模化，50%用於創新，要最終實現通用人工智慧，這兩者缺一不可。」
模型幻覺
即使在Gemini 3這樣的前沿模型上，仍然能看到「幻覺」現象。
Hannah問是否可以讓Gemini像AlphaFold一樣，為自己的答案給予一個置信度分數。
Hassabis認為這個功能很重要，也是目前所缺少的關鍵環節之一：
「我相信我們正在接近這個目標。模型越智能，它們就越『知道自己知道什麼』」。
模型越可靠，我們就越能依賴它們某種形式的「內省」或更深度的思考，從而讓它們自己意識到對某個答案不確定。
Hassabis表示，接下來我們需要研究如何透過訓練，讓它能夠將這種「不確定性」作為一個合理的答案輸出。
他將目前的模型比作一個「說話不過腦子的人」，大多數情況下可能沒問題，但當遇到非常棘手的問題時，你希望它能停下來，審視一下自己要說的話，並作出調整。
因此，需要引入「思考」和「規劃」的步驟，讓模型能回顧自己剛剛輸出的內容。
世界模型
除了AI，世界模型和模擬一直是Hassabis最熱衷的領域。
他認為語言模型仍然缺乏對許多關於世界的空間動態、空間感知、物理接觸，以及我們所處的物理環境如何運作的力學原理的理解，這些通常是很難用語言描述的，也不會出現在文字語料庫中。
如果我們希望機器人能夠真正運作，或者希望有一個能隨時陪伴你的通用助手，無論是在你的眼鏡上，還是手機上，在你的日常生活中提供幫助，你就需要這種對物理世界的深刻理解，而世界模型正是其核心。
Hassabis談到聖塔菲研究所（Santa Fe Institute）所做的模擬社會動力學的實驗，讓智能體在設定了正確激勵機制的環境中運行足夠長的時間，它們可以「發明」出像市場、銀行等種種有趣的東西。
他認為這些實驗很酷，也能幫助我們理解生命的起源和意識的起源，而模擬，則是實現這一目標最強大的工具之一。
「你可以設定略微不同的初始條件，將模擬運行成千上萬次，然後以一種高度受控的實驗方式，去理解這些細微差別所帶來的不同結果。」
Hassabis認為，精確的模擬將為科學帶來不可估量的福祉。
避免「資訊繭房」
Hassabis曾提到，建構AI不應以最大化用戶參與度為目標，以免重蹈社群媒體的覆轍。
如何建構一個既能將使用者置於其個人世界的中心，又不至於為他們創造出一個「單人回音室」的AI？
Hassabis表示目前已經看到了過度「諂媚」或迎合使用者的AI所帶來的後果，它們會形成「回音室」效應，對個人產生非常負面的影響。
Gemini正在透過發展出一套關於AI「人格」設定的科學方法來解決這個挑戰。
Hassabis帶領了一個團隊來負責這項工作，希望塑造一種近乎「科學家」的個性：
它溫暖、樂於助人，但同時又言簡意賅、切中要點；它會以友好的方式，對那些不合邏輯的觀點提出質疑，而不是盲目附和。
Hassabis認為為模型「人格」設定標準，是讓大模型走向科學研究的重要關鍵。
模型會有一個出廠的「基本人格」，每個使用者可以根據自己的偏好進行個人化設置，例如更幽默或更簡潔。
但其核心的基礎人格是不變的，它始終致力於遵循科學方法。
工業革命對AI變革的啟示
Hassabis近期研究了許多關於工業革命的歷史，他認為這有助於幫助我們應對即將到來的社會變革和衝擊。
工業革命為人類帶來了難以置信的進步，例如現代醫學、物質豐富、現代交通等。
同時也帶來了巨大的挑戰，不同時期，不同產業的勞動力都經歷了被取代的陣痛，但沒有人會想回到前工業時代。
而AI帶來的改變的規模可能是工業革命的十倍，而其發生的速度也可能快十倍，或許將在十年內展開，而非一個世紀。
在Hassabis看來，透過學習那段歷史，提前預見這次改變可能帶來的社會錯位，有助於我們更早、更有效地去緩解它們。
就像工業革命徹底改變了農業社會的工作模式一樣，至少同等規模的改變將再次發生。
因此，Hassabis認為我們可能需要新的經濟體系和模式來幫助社會轉型。
圖靈機的終極問題
Hannah Fry：超越通用人工智慧，邁向人工超級智慧（ASI）的階段，您認為是否存在某些事情是人類能做到，而機器永遠無法企及的？
Demis Hassabis：這正是那個終極問題，又回到了我最愛的話題之一圖靈機。
Hassabis認為，如果成功建構了AGI，並用它來模擬人類心智，並將其與真實的心智進行對比，就能發現其中的差異，以及人類心智中那些獨特且無法被取代的東西。
其中那些是可計算的，那些是不可計算的，目前存在許多假說，但這最終都歸結於圖靈機的問題：
圖靈機的能力極限究竟在那裡？
自從瞭解到圖靈和圖靈機以來，這個問題一直是Hassabis人生的核心問題，令他著迷，也是他的核心熱情所在。
他所做的一切，都在某種程度上不斷拓展著圖靈機能力的邊界，包括破解蛋白質折疊。
但他並不確定這個極限在那裡，這又回到了心智的問題：它完全是經典計算嗎？還是說有其他機制在運作？
「如果現在非要我猜，我會賭是後者，而我正基於這個假設在工作，直到物理學證明我錯了。」
Hassabis十分推崇康德（Kant）的一個觀點－現實是心智的建構。
「所有這些感覺，包括光、溫暖、觸感，它們透過我們的感官輸入。歸根結底它們都是資訊。而我們，就是資訊處理系統。」
Isomorphic Labs的創辦正是基於這樣一個理念。
他們將生物學視為一個訊息處理系統，相信最終能治癒所有疾病。
目前AI都不具備意識，AGI可能需要5-10年
Hassabis從小便對生命的意義、意識的本質、以及現實本身到底是什麼這類宏大的問題著迷。
一直指引他並讓他始終保持熱情的，是理解我們周圍的世界。
對他來說，AI就是一個推動人類知識進步，幫助他實現這一目標的終極工具。
2025年4月，Hassabis在接受CBS 《60 Minutes》節目採訪時表示，目前的人工智慧系統在任何真正意義上都不具備自我意識或意識。
Hassabis接受CBS《60 Minutes》節目採訪
當CBS 《60 Minutes》主持人Scott Pelley問他，「你們現在是否在研究一種可能具有自我意識的系統」時，Hassabis表示，在他看來，如今的系統都不具備自我意識，也談不上真正的意識。
Scott Pelley又問他是否會將打造有自我意識的系統當作目標。
Hassabis回答，這並不是一個明確的目標，但它可能會以一種隱含的方式發生。
例如，這些系統有可能獲得某種「自我意識的感覺」。
他表示讓系統理解「自我」和「他者」是非常重要的，而這可能正是自我意識的起點。
但Hassabis也提到，即使機器真的獲得了自我意識，人類未必能辨識出來。
Hassabis談到了他對AGI的時間表，他認為可能在未來5到10年內實現。 （新智元）