DeepMind CEO 長文預言:AGI 即將降臨

剛剛,Google DeepMind CEO Demis Hassabis 在 X 上發了一篇 Article 長文,標題是《前沿 AI 框架與新時代的黎明》(A Framework for Frontier AI and the Dawning of a New Age)。

Hassabis 是誰應該不用我多介紹了:

DeepMind 聯合創始人,AlphaGo 和 AlphaFold 背後的那個人,還靠 AlphaFold 拿了 2024 年的諾貝爾化學獎。在幾家前沿實驗室的掌門人裡,他一直是偏學院派、說話最克制的那一個。

而這次,這位最克制的人,開篇第一段就直接表示:

AGI 大概只剩短短幾年了,我們正站在奇點的山腳下。

這類「宣言式」長文,各家實驗室的 CEO 其實也都有寫過:Altman 有《The Intelligence Age》,Dario 有《Machines of Loving Grace》。

現在,輪到 Hassabis 交捲了。

其實今年 2 月,Hassabis 在印度 AI 峰會上就說過那句「AGI 的影響是工業革命的 10 倍,速度也是 10 倍」,而這次,他把這句話背後的完整思考一次性寫了出來。

01

概要

Hassabis 的核心判斷是:AGI(一個具備大腦所有認知能力的系統)大概幾年內就會到來。它不是網際網路等級的技術突破,而是火與電等級的。他還給了個很妙的說法:我們相當於找到了一種讓沙子思考的方法。

但這篇長文的重心不在預言,而在提案,與上一篇《AI 2040》類似。

Hassabis 呼籲美國牽頭成立一個「前沿 AI 標準機構」,參照金融行業 FINRA 的模式:

由這個機構定義什麼算「前沿級」模型,達標的公司成為「前沿實驗室」;新模型發佈前最多提前 30 天送審,先自願、後強制,通不過就不能在美國市場部署;評測覆蓋網路安全、生物威脅,以及 agentic AI 的欺騙行為。

其中最為重要的一條是:如果形勢足夠嚴峻,這個機構可以協調各家前沿實驗室,一起放緩開發。

要知道,說這話的人,自己就管著一家前沿實驗室。

下面是全文翻譯。

02

全文

原文發佈於 2026 年 7 月 14 日,作者 Demis Hassabis,原文連結見文末。

《前沿 AI 框架與新時代的黎明》

這是人類歷史上的一個關鍵時刻。通用人工智慧(AGI),也就是一個具備大腦所有認知能力的系統,距離我們大概只剩短短幾年了。幾十年後當我們回望這段時光,我想我們會意識到,自己當時正站在奇點的山腳下。這不是別的,這正是人類新時代的黎明。

我這一生都在為 AGI 工作,因為我始終懷著一個很深的信念:只要以負責任的方式建構和部署,它將被證明是人類有史以來最有益、最具變革性的技術之一。AGI 沒法拿尋常的技術突破來類比,那怕網際網路、移動網際網路這種量級的也不行。它更像是電的發現,或者火的發現。你停下來想一想就會明白:我們本質上是找到了一種讓沙子思考的方法。這是個奇蹟。

這項技術的影響規模將是前所未有的,也許是工業革命的 10 倍,而速度還要再快 10 倍。它將幫我們解決社會面臨的一些最大難題:加速藥物發現、開發新的清潔能源、創造新型先進材料。我們甚至可能走到這樣一個節點:資源不再是人類進步的限制因素,一個令人驚嘆的富足新時代就此展開。

03

前沿的挑戰

AI 已經開始帶來實實在在的好處,但要兌現它的巨大前景,我們必須深思熟慮、小心翼翼地度過這個關鍵的發展階段。隨著我們越來越接近 AGI,一些風險可能隨之而來,需要緊急行動去應對。前沿模型給網路安全帶來的挑戰我們已經見識過了,而隨著能力繼續提升,包括核與生物風險在內的其他威脅可能很快就會浮現。再往前看,我們還需要強有力的保障措施,來確保對日益 agentic 化、能夠遞迴自我改進的系統保持控制,並處理那些只會隨著時間推移才逐漸清晰的未知問題。

我一直相信人類的智慧和創造力足以解決任何問題。我有信心,緩解 AI 相關的技術風險是我們可以共同應對的挑戰,但前提是,我們要給自己留出時間和空間,把下一步這個關鍵環節做對。而眼下,無論是這個領域還是整個社會,我們都沒有做到這一點。

此刻,我們正深陷在一場極其激烈、多層次的商業和地緣政治競賽之中。這種競爭態勢固然推動了快速進步、放大了那些不可思議的好處,但前沿的進展速度,已經超過了我們對這項技術的理解速度。世界上沒有人能確切知道接下來會發生什麼,連專家們的看法都各不相同。當不確定性如此之大、賭注又如此之高時,帶著審慎的樂觀繼續前行,才是明智而正確的策略。這就要求公共政策既促進創新,也激勵責任與安全,在關鍵安全議題上推動國際協作,並鼓勵社會認真考慮如何部署 AI 才能造福大眾。

04

一個「前沿 AI 標準機構」的框架

我們正在見證的 AI 快速進步,需要一種全新的前沿模型能力測試方法:動態、靈活,且足夠嚴格。憑藉經濟和技術上的地位,美國很適合邁出第一步,率先建立這樣一個框架。它可以成立一個新的標準機構,模式參照受聯邦監督的公私合營組織或行業自律組織,就像美國金融業監管局(FINRA)那樣,董事會成員包括獨立的頂尖技術專家和開源社區的代表。資金規模需要足夠大,且大部分可能要來自產業界,這樣才能吸引世界級的技術人才,並為大規模測試提供所需的算力資源。

這個標準機構將負責制定評估協議,並與相應的聯邦機構及美國國家實驗室合作,在涉及國家安全的領域開展測試。一個模型如果在標準機構確定的一組基準上達到特定閾值,就會被認定為「前沿級」(Frontier-class)模型,這組基準會定期更新,以跟上 AI 能力的演進。擁有「前沿模型」的組織將被認定為「前沿實驗室」(Frontier Labs),並被鼓勵採納一系列最佳實踐,比如發佈帶技術細節的模型卡、維持強有力的內部網路安全、審查關鍵崗位人員、為安全研究提供充足的資源投入等等。

起步階段,前沿實驗室將自願在發佈前最多 30 天,把模型交給標準機構審查。一旦評估協議被證明有效且可靠,正式化就可以很快跟上:前沿模型必須通過評估,才能在美國市場部署。實驗室還將與標準機構合作,處理髮布後發現的任何重大漏洞。

模型評估應包括對網路安全、生物威脅等高風險領域能力的嚴格科學評測。針對 agentic AI 的專項測試,可以檢查模型是否試圖繞過安全護欄、是否表現出欺騙的跡象,並確保各項最佳實踐的落實,比如給 AI 生成的圖像加數字水印,以及生成人類可讀的輸出 token 以便理解模型的推理過程。

這些評測會定期更新,起步階段也許是每季度一次,過時或已飽和的基準會被棄用和替換。最初,評測會與前沿實驗室協商制定,但標準機構最終應當建立起自己的技術能力,獨立於實驗室去開發保留的私有測試集,以防止過擬合。它還可以與美國政府合作,培育一個第三方審計機構的生態,協助評估工作以及新基準、新評測的開發。

這個方案的優勢在於,它以技術為核心,同時又支援創新、激勵負責任的行為。它的設計目標就是跟上這個領域的加速度,隨著最大風險被識別出來而隨時調整,並且在形勢足夠嚴峻時可以逐步收緊,包括在必要時協調各前沿實驗室一起放緩開發。被認定為前沿實驗室將是一種莫大的聲望,任何組織只要建構出達到基準標準的模型,都可以獲得這個身份。這個框架可以適用於所有前沿級模型,無論來自那個國家、開源還是閉源;而所有非前沿模型,比如來自創業公司或學術界的,則可以豁免於這套流程。

這項由美國發起的努力,將為建立前沿 AI 的國際共享標準提供一個堅實的起點。既然這項技術將影響整個地球,理想情況下,這個框架會推動國際社會達成共識:既管住最嚴重的風險,又確保每個人都能獲取並受益於 AI 帶來的機遇。

05

未來尚未寫就

AGI 有潛力成為推進科學和醫學的終極工具,帶來巨大的生產力提升和經濟增長。但要實現這一點,我們需要先把技術根基打牢:圍繞一個共享的全球框架協調行動,採用最嚴格的科學方法,把最優秀的頭腦聚集起來,共同應對我們面前的挑戰。

即便我們解決了這些艱深的技術難題,還會有更複雜的經濟和哲學問題等著我們:在一個後稀缺的世界裡,需要什麼樣的新經濟模式才能讓每個人都過得好?我們想按什麼樣的價值觀生活?意義和目標會是什麼?甚至人類境況本身又會如何改變?解決這些問題,顯然不能也不應該只留給技術人員。它需要社會的每一個部分都參與進來,一起定義這個新篇章。

圍繞 AI,既有巨大的興奮,也有巨大的不確定,兩者都有道理。但未來尚未寫就,我們必須利用 AGI 到來之前這扇寶貴的窗口,把這項技術塑造成造福全人類的東西。我們現在共同做出的選擇,將決定文明的下一個階段如何展開。只要安全地引領 AGI 來到這個世界,我們就能進入一個科學發現與進步的新黃金時代,迎來一個人類無比繁盛的光明未來。 (AGI Hunt)