9月11日,25名菲爾茲獎獲得者發表緊急聲明——《人工智慧在數學中的嚴重錯位》(A Severe Misalignment of AI in Mathematics),直接向AI巨頭們“開炮”,批評他們試圖利用人工智慧(AI)解決數學難題的做法。
聲明指出,AI公司將解決數學難題作為模型能力基準的做法,對數學科學本身及數學界造成了損害,與數學共同體追求概念理解的根本目標產生了顯著分歧。
這份聲明發表之前,OpenAI剛宣稱其未公開的內部AI模型用88個小時解決了納維-斯托克斯方程(Navier-Stokes方程)的存在性與光滑性問題。
聲明的25位簽署人之一埃菲·傑曼諾夫(Efim Zelmanov)在接受《每日經濟新聞》記者(以下簡稱NBD)專訪時指出,OpenAI的做法本質上就是“學術掠奪”,是為IPO造勢。
傑曼諾夫因解決20世紀群論核心難題——限制Burnside問題,於1994年榮獲菲爾茲獎。另外,傑曼諾夫與Benkart證明的李代數坐標化定理被認為是處理無窮維李理論的基石。2001年,傑曼諾夫當選為美國國家科學院院士,2021年當選為中國科學院外籍院士。
而針對Anthropic CEO達里歐·阿莫代伊、SpaceX CEO馬斯克、OpenAI CEO山姆·阿爾特曼等AI大佬提出的“AI減速論”,傑曼諾夫更是直言,“無非又是博取輿論的宣傳話術,迎合一部分公眾期待,大機率沒有實質意義。”
是為IPO造勢”
NBD:聲明從起草到發表,只用了幾天。是什麼特定事件,讓您和其他菲爾茲獎得主覺得此時必須站出來發聲?
埃菲·傑曼諾夫:人類必須掌握數學的主導權,完全依賴AI是一條通向災難的不歸路。數學必須由人類掌握在自己手中。
AI公司擁有近乎無限的資金,這意味著他們可以隨時部署數萬個智能體(Agents)。這些智能體幾乎“無所不知”,但問題在於,它們完全是建立在人類數學家已有工作的基礎之上的,卻沒有給予適當的署名或歸屬,這本質上是侵犯智慧財產權。
《人工智慧在數學中的嚴重錯位》聲明
NBD:OpenAI最近宣稱公司一款內部AI模型在Navier-Stokes problem(納維-斯托克斯問題)上取得了進展。您如何看待這一發展?
埃菲·傑曼諾夫:這完全是建立在人類數學家近期發現的新思想之上的。
雖然我沒有確鑿的證據,但情況很可能是這樣的:研究這個問題的人類數學家使用了OpenAI的服務,而OpenAI的其他智能體有權限訪問這些人類的工作軌跡。這就像是兩個競爭團隊,其中一方在明目張膽地觀察另一方在幹什麼。而且,AI智能體可以沒日沒夜地工作,人類卻需要休息。
打個比方,一群數學家就像正在衝向終點的騎行選手,一位西班牙數學家對吉爾薩諾夫方程(Girsanov's equation)提出新的思路。AI則在一旁觀察人類的研究,等到人類快要抵達終點,就投入超過2000萬美元,調動上萬個智能體協同作戰,並搶先沖線,然後宣稱自己第一個完成。
OpenAI這樣的做法簡直就像是“掠奪者(Predator)”。如果一個人類學者做出這種事,他會在學術界身敗名裂、失去所有朋友,因為在某種意義上,這就是純粹的侵權行為(Piracy)。
NBD:為什麼AI公司如此熱衷於解決著名的數學問題?
埃菲·傑曼諾夫:因為這能夠帶來曝光度,有宣傳效果。很多AI從業者之前也是數學家,這其中也摻雜了個人利益訴求。他們就是在尋求進展的氛圍中成長起來的,攻克知名難題也算是向自己的師長交出一份答卷。
AI公司則是製造噱頭”
NBD:聲明中提到,AI公司與數學界之間存在嚴重的“錯配”(Misalignment)。這具體指什麼?AI公司與數學界的目標之間最大的分歧是什麼?
埃菲·傑曼諾夫:數學界的目標是發展“概念性理解(conceptual understanding)”,並培養下一代數學家。而AI公司的目標是搞噱頭,為IPO製造宣傳效果。兩者目標截然不同,我們根本不在乎AI公司的宣傳,我們在乎的是下一代年輕人,是數學研究的連續性。
過去幾百年,數學界形成了一套行之有效的體系:年輕人進入研究生院,資深學者提出一些中等難度的數學問題。年輕人通過攻克這些問題,發表論文,獲得工作,這樣一步步成長起來。
大多數問題之所以被提出,不僅僅是因為它們本身有趣,更是因為要解決這些問題,我們就必須建立一套完整的基礎,推動對這一領域的“概念性理解”。這樣既推動了數學發展,又能培養新一代數學家。
但現在呢?要解決一個中等難度的問題,似乎只需要按一下按鈕就可以了,這徹底顛覆了整個培養體系,是生存層面的威脅。我們得到的答案可能正確,卻絕對無法提供任何概念性的理解,也不能給下一代數學家留下任何啟發。
AI確實非常強大,相比兩個月前又進步不少,人類數學家也會使用AI,我們不可能“再把精靈放回瓶子裡”(put the genie back in the bottle)。但我反對“敵意式接管”(hostile takeover)——它們會破壞整個數學研究體系。
NBD:假如AI給出了一個正確的證明,它是否還缺失什麼?
埃菲·傑曼諾夫:知道一個結論是正確的,與真正理解為什麼它是正確的,兩者之間非常微妙。
所有數學知識和正確解法,通常都可以追溯到幾個偉大的核心思想。所謂“概念性理解”,就是尋找這些思想,因為這才是推動數學發展的關鍵。
如果一個證明僅僅是“正確”的,那又怎樣(Then what)?數學的本質就是“理解”。如果缺了這一點,我都不知道在這場人機競賽中誰才是真正的贏家。
NBD:長此以往,年輕數學家會面臨怎樣的處境?
埃菲·傑曼諾夫:簡單說,AI會讓所有年輕數學家失去工作。我們需要培養具備“概念性理解”能力、真正理解數學正在發生什麼的人類數學家,讓他們把數學繼續發展下去。
我不認為有人會真的放慢腳步”
NBD:最近,Anthropic CEO達里歐·阿莫代伊、SpaceX CEO馬斯克、OpenAI CEO山姆·阿爾特曼等AI大佬都在呼籲放緩前沿AI的開發。您如何看待此事?
埃菲·傑曼諾夫:坦白說,我完全不明白他們所謂的“減速”是什麼意思。也許這只是另一種形式的宣傳。現在公眾對龐大的資料中心有一些牴觸情緒,所以他們覺得這些就是部分民眾想要聽到的話罷了。我們對此根本不應該過度關注。
看看歷史就知道,技術發展本身就是不斷向前推進的。我不認為有人會真的放慢腳步,這只是一種姿態,不會有任何實質性行動。
“沒有數學,就沒有AI”
NBD:隨著AI的不斷發展,您認為數學家的角色是否會改變,比如更多地驗證AI成果的工作?
埃菲·傑曼諾夫:到目前為止,還沒有發生,也沒有理由相信這種情況會很快發生。畢竟如我之前所說,AI目前所做的一切,本質上都建立在人類數學家的工作之上。沒有數學,就沒有AI。
數學家們的工作仍然和以前一樣,在嘗試尋找新的思想,進行自己的研究。我們不應該高估AI,也不應該把它的作用誇大。到目前為止,它們只是解決了一些中等難度的問題。
NBD:您目前也在南方科技大學擔任教授。您認為,在AI時代,數學專業學生還應該學些什麼?
埃菲·傑曼諾夫:他們依然需要學習基礎數學(fundamental mathematics),因為所有的發展都是建立在人類幾百年來積累的基礎數學和核心思想之上的。
以現代的密碼學和編碼理論為例。過去將軍們傳遞密信極其困難,但今天,當你登錄電郵、使用信用卡時,幾十億人都在毫不停歇地交換加密資訊,且極其安全。這是怎麼做到的?因為現代密碼學就是建立在19世紀初法國天才少年埃瓦裡斯特·伽羅瓦(Évariste Galois)的工作基礎之上。
在長達150年的時間裡,伽羅瓦的理論在數學領域之外被認為“毫無用處”。但那些在頂尖大學受過良好教育的人在今天將其轉化為了現代科技的基石。
NBD:展望未來10年,如果AI解決了困擾人類數十年的問題,但人類可能無法完全理解其中的一些證明,您會認為這是數學領域的一項重大進步嗎?
埃菲·傑曼諾夫:到目前為止,AI拿出的最複雜的解決方案,仍然是人類做出的。所以我認為你說的那種情況在短期內不會發生。
但如果有一天,AI宣稱自己解開了某道題,而人類持不同意見,那我寧願相信人類。我就是堅持以人類為中心的立場——我在乎的是人類,不是AI智能體。
NBD:您認為,有什麼東西是您最不願意看到AI從數學家手中奪走的?
埃菲·傑曼諾夫:是那種神聖的火花(divine sparkle)——創造力。數學家看待問題的視野廣闊,也有對現實應用的考量,還有對數學之美的感知。
伽羅瓦建構他那套偉大理論的時候,完全沒有想到這些理論在150年之後會有什麼應用,驅動他的是對數學之美的追求。對數學家而言,數學也是一門藝術。我不認為AI能在藝術層面超越我們。
當然,“永遠別把話說死”(never say never)。倘若真的有那一天,就不只是數學界的問題,整個人類都將面臨嚴峻處境。 (每經頭條)
