陶哲軒鄧煜究竟在反對什麼:AI暴力解題摧毀人類數學精神

AI速讀
25 位菲爾茲獎得主聯名發聲,抗議 AI 公司將數學研究「功利化」。聲明指出,AI 雖能快速破解難題,但其追求 Benchmark 成績的商業目標,與數學界追求洞見與理解的科學目標嚴重脫節。近期 OpenAI 解決 Navier-Stokes 難題引發的署名與靈感竊取爭議成為導火線,令數學界擔心開源文化崩潰及知識傳遞鏈斷裂。儘管陶哲軒等學者原持開放態度,但面對 AI 暴力破題對學術生態的威脅,決定採取緊急行動呼籲建立規範,防止數學研究土壤被破壞。

面對近期AI大廠推進數學研究的方式,連一向與AI為善的陶哲軒都坐不住了。

剛剛,陶哲軒、鄧煜等25位菲爾茲獎得主聯合發起並作為首批簽署人,發佈了一份聲明表示:AI公司推進數學的方式,已經與數學共同體的目標出現“severe misalignment(嚴重偏移)”。

因鑑於近期AI急劇發展對數學領域帶來的衝擊極為嚴峻,發起人未走流程繁瑣的協商程序,而是選擇緊急公開發佈,以盡快回應危機。

過去幾個月,大語言模型的數學能力急劇提升,已經能解決多個數學領域中重大的未決問題;但AI公司越來越傾向於把解決數學問題當作benchmark來推進的做法,對數學這門科學、對數學共同體都是有害的。
AI公司的目標與數學共同體的目標嚴重錯位。
我們認為,這屬於更廣泛的錯位問題的一部分,影響著其他科學與創意職業,乃至整個社會。

回顧過去半年,AI在解決數學難題方面頻頻取得了突破性進展——

  • 5月,OpenAI內部模型給出Erdős單位距離猜想反例。
  • 7月,Claude參與推翻Jacobian conjecture。
  • 9月初,GPT-6 Astra在孿生素數猜想方向上取得了新進展,用Lean形式化證明把連續素數間距的上界從246推到了186。
  • 本周,OpenAI用1萬個Agent跑了88小時,拿出Navier-Stokes證明,並由此引發出一場涉及OpenAI、Anthropic和兩位數學家之間的羅生門事件。

單純從數學進展來說,這無疑是好事。

但無可否認,由此還帶來的一系列衝擊和影響。

本周關於Navier-Stokes的實踐更是成為直接導火線,促使25位菲爾茲獎得主在過去一周緊急商議,並迅速發表此聯名公開信。

聲明全文:https://mathandai.org/

首先要說明,這份聲明並不是呼籲or要求停止AI,或停止用AI來主導/輔助數學研究工作,也沒有否認AI取得的這些成果。

他們的核心擔憂集中在下面三個方面:

第一,AI解題速度開始超過數學共同體消化知識的速度。

第二,AI公司追求benchmark成績,數學界追求方法、理解和知識傳承,兩套評價體系開始分叉。

第三,當AI能快速完成開放問題後,數學研究的優先權、人才培養和開放文化都需要重新定規則。

Navier-Stokes爭議暴露出無數個對AI與數學的靈魂拷問

幾日前,OpenAI宣佈用1萬個Agent跑了88小時,解決Navier-Stokes(構造平滑外力使流體有限時間爆破,符合克雷題面C、D情形)這一千禧年難題,而後引發了一場連環抓馬,將紐約大學數學家Tristan Buckmaster和Anthropic研究員Levent Alpöge這兩名人類一同裹挾進輿論場。

(故事具體詳情可見:《難評!OpenAI剛官宣的NS方程大突破,被數學家手撕了》)

事件引發的爭議,每一點都直擊靈魂

一個研究者在AI工具裡輸入的Prompt,算不算未發表研究材料?

模型公司是否在得知數學家研究思路和進展的前提下,利用上萬Agent暴力破題,搶跑成果?

OpenAI提出的解決方案中,要求將Anthropic員工Alpöge排除在作者名單之外,是否違背數學研究精神、規則和常理常情?

頂尖模型接受過相關使用者資料,那麼怎麼證明頂尖模型給出的數學證明成果是AI獨立產生的?

AI把“證明”做出來以後,誰負責把它變成人能理解的數學?

AI聲明暴力破解數學難題,並署名為個模成果,但後續一系列驗證問題卻要丟給人類數學家,這其中的各個環節是否合理?

……

此外,事件很快造成了數學界對大廠後台監控Prompt資料、竊取靈感並憑算力霸權搶跑截胡的強烈恐慌。

原本極度提倡開源共享的數學界瀕臨陷入寒蟬效應,研究者猶豫是否還能向對話方塊透露半成品思路。

大家會不會被迫從開放協作走向防禦性閉門造車,造成學術生態的嚴重倒退?

這些問題錯綜複雜,相關問題越探討越多,越探討越說不明白,以至於相關爭議愈演愈烈。

總而言之,抓馬事件引發的警示,以及餘波帶來的驚慌無措,說不完,也說不清。

大家愛玩的《三體》梗之一,是“不要回答,不要回答,不要回答”。

現在,所有困惑、擔憂和揪心的點,只能化為一句——

無法回答,誰能回答,到底該如何回答?

25位菲爾茲獎得主聯合聲明的重點

數學這門科學的意義,不只是解題、證明與尋找新方法

聲明中首先表明了數學家眼中的數學、數學問題、數學證明和數學研究等,原本應該是什麼樣的。

在數學家看來,一個著名數學問題長期以來更像一個地標和燈塔(landmark and lighthouse)。

數學家通過解決它來檢驗,人類對於某一片數學領域究竟理解到了什麼程度。

因此,一道重大問題被解決之後,研究工作通常還會繼續很久。

數學共同體需要理解新的證明、識別其中出現的新方法,把這些方法與已有知識連接起來,再通過報告、討論、簡化等過程逐漸消化。

最終,理想狀態是把成果整理成研究生甚至本科生都可以學習的教材知識。

而且,有些數學思想還會繼續傳播幾十年甚至幾百年,最後變成普通人都能夠理解和使用的工具。

solving problems is only a tool and proxy。

因此,求解問題僅是實現數學研究目標的一類工具與代理指標,數學研究更為重要的追求是概念理解與洞見(conceptual understanding and insight)。

一個好的問題既能訓練研究者,也能指引研究方向、催生新方法,還能吸引眾多數學家圍繞它,逐步建構起相關的認知體系。

現狀:AI商業目標與數學學科本質嚴重錯位

如上所述,聲明中表示數學的核心在於深入理解基本結構、獲取概念洞察(Insight&Understanding)與提煉方法,解決難題只是實現該目標的手段與載體。

然而,商業公司僅將“解決數學難題”作為衡量和推介大模型能力的Benchmark,功利化推進,忽略“理解”這一首要目標,以極快節奏批次生產“True/False”(真/假)斷言。

頂尖數學家們無法不重視的三方面擔憂

乍一看,用Scaling Law類似的暴力美學來推進數學進展,的確攻克了前人暫未解決的難題,而且是以閃電般的速度。

但聲明表示,“(這)非但不能孕育新思想,反而會破壞數學研究的土壤。”

聲明中呈現了人類頂尖數學家們的更多隱憂。我們梳理歸類了一下,大約可以劃分為三個方面。

一個方面關於流程、合規。

1、 AI生成的解決方案往往在匆忙中向媒體宣佈,未留出時間撰寫嚴謹規範的論文。

2、AI及其背後的機構,缺乏對前人相關工作(Prior Work)的妥善引用與歸因,引發了嚴重的學術署名與潛在的剽竊(Plagiarism)爭議。

另一方面,圍繞“數學開放問題被快速耗盡,卻無法如解決一般快地去補充”這件事。

1、隨著AI以暴力搜尋和極速推理的節奏批次解決(或給出反例)各大領域懸置已久的開放問題,如果只是為了消滅問題而消滅問題,那麼只是對開放問題的“功利性耗盡”。

2、然而目前AI缺乏“向前探索(Forwards Exploration)”的能力,即無法敏銳地感知數學地貌,提出具有深遠價值的“新開放問題”。

3、作為地標的存量開放問題正在被AI迅速消耗和填平,它又不能提出新開放問題,這……?

最後一方面,關乎對數學育人模式和傳遞知識作用的摧毀。

1、多年的學術訓練不僅是為了產出最終答案,更是為了培養人類“深入理解”與“提出新問題”的能力。AI 直接輸出結果的方式破壞了這種訓練。

2、數學的發展高度依賴人類社區通過報告、討論、簡化,並最終將其整合進教材與教學中的消化過程。如果沒有人類數學家願意接手並將AI構想出的想法整合進數學正典,這些想法將無法真正活起來。

換句話說,代際之間關鍵的人類知識傳遞鏈(Human Transmission Chain)將會斷裂。

聲明最後還寫了這麼一段話:

這些問題必須緊急解決,數學界、開發這些技術的公司以及更廣泛的社會都必須重視這些問題,因為在許多其他形式的智力工作中,社會也將面臨類似的問題。

署名的首批25位菲爾茲獎得主有那些?

聲明最後附上了署名的25位菲爾茲獎得主的名單。

這份名單橫跨代數幾何、數論、動力系統、機率、PDE、數學物理,覆蓋近半個世紀數學最核心突破。

其中大多數人最熟悉的名字,應該是陶哲軒和今年剛剛拿下菲爾茲獎的鄧煜。

而恰恰這兩人之前對用AI來推進數學研究,都持比較開放的態度。

陶哲軒幾乎是這一波AI浪潮裡第一波積極上手使用AI幫助個人研究的數學家,甚至可以稱之為積極倡導AI輔助科研的領軍者。

他把AI視為卓越的“研究助理”。

在他看來,AI在程式碼生成、文獻檢索以及借助Lean等工具進行形式化證明驗證方面表現優異,能夠大幅幫學者承擔繁重、套路化的輔助工作,從而提升整體科研效率。

不過,他始終對“AI神話”保持高度清醒,堅決反對將其過度神聖化。隨著AI技術進展,他的關切也逐步延伸至學術倫理與規則建設。

今年獲得菲爾茲獎後,鄧煜在接受多家媒體專訪時也談論過對於AI的態度。

鄧煜透露自己日常會使用AI輔助科研(如借助AI驗證特例、尋找文獻或核驗局部邏輯);面對當前的AI熱潮,他直言相比於直接去用AI,更關心AI底層的數學基礎。

此外,鄧煜認為AI改變了傳統數學問題的解決門檻(許多因精力限制而被擱置的高難度技術細節得以被加速攻克),未來三四年數學界很可能進入快速發展期。

他相信“未來數學家與AI將走向人機協作”。

僅在一周前,鄧煜在朋友圈寫的一段話還被廣泛流傳。

相信那時候的他,對AI之於數學的心態,與幾天之後簽署聲明時大有不同了。

一切發展得太快,一切都太過急迫。

One More Thing

這份重磅聲明之前,今年6月,有一份《萊頓人工智慧與數學宣言》發佈。

該宣言呼籲採取行動應對AI在數學研究中的應用,呼籲建立規範,讓AI作為輔助工具,保護數學作為人類智力活動的核心價值。

宣言由來自10國約60位數學家、電腦科學家、學者參與,由6人組成工作組,歷時8個月起草。當時,就得到國際數學聯盟IMU背書,大量數學家(含陶哲軒、Peter Scholze等菲爾茲獎得主)公開支援簽署。

3個月後的今天,25名菲爾茲獎得主發佈聯合聲明。 (量子位)