Google推出AlphaEvolve實現演算法自我進化,將顛覆數學與電腦科學!

演算法自我進化革命已經悄然開始!


Google DeepMind剛剛發佈了AlphaEvolve系統,這是一個革命性的Gemini驅動編碼代理,不僅能設計演算法,而且能通過進化框架持續最佳化這些演算法!

它已經發現了更快的矩陣乘法演算法解決了開放性數學問題,並最佳化了Google的資料中心、晶片設計和AI訓練

這不是簡單普通的AI工具發佈,而是演算法發現範式的根本轉變!

AlphaEvolve的技術架構:三大核心能力

從技術角度解析,AlphaEvolve的突破性在於它獨特的系統架構,結合了三大關鍵元件的協同工作:

  1. 大語言模型整合:AlphaEvolve利用最先進的Gemini模型組合,包括高效的Gemini Flash用於最大化探索的廣度,以及強大的Gemini Pro提供深度洞察。這些模型負責綜合分析問題資訊、歷史解決方案,並用電腦程式碼形式提出演算法實現。
  2. 自動化評估系統:AlphaEvolve實現了一套客觀量化的評估指標,能夠自動驗證、運行並評分每個提出的程序。這種方法在所有能夠明確衡量進步的領域(如數學和電腦科學)中表現出色。評估系統為進化過程提供了精確的適應度函數。
  3. 進化演算法框架:系統實現了一個適應性進化框架,它不僅迭代改進現有最佳演算法,還通過重組不同解決方案中的思路找到更優解。這種進化策略能夠跨越局部最優解,在更大的解空間中搜尋。

BensenHsu對論文進行了詳細解讀,指出了AlphaEvolve的關鍵創新:

論文介紹了AlphaEvolve,一個使用最先進大語言模型的編碼代理,通過進化過程迭代改進演算法。AlphaEvolve旨在解決科學和計算領域的挑戰性問題。它發現了新穎、可證明正確的演算法,在數學和電腦科學中的一系列問題上超越了現有最先進的解決方案,如找到更快的矩陣乘法演算法並改進各種數學不等式的界限。

最佳化Google計算基礎架構的具體實踐

過去一年,AlphaEvolve發現的演算法已經部署在Google的整個計算生態系統中,形成了一個多層次的最佳化體系:

資料中心調度演算法革新

AlphaEvolve在Borg資料中心編排系統中實現了突破性最佳化。它設計了一種新型啟髮式演算法,在全域資源分配決策中引入了動態權重調整機制。這個生產環境中運行超過一年的解決方案,持續回收了Google全球計算資源的平均0.7%

技術上的關鍵在於,AlphaEvolve生成的程式碼不僅性能卓越,還具有可解釋性、可偵錯性和可預測性,這在超大規模分佈式系統中至關重要。與黑盒最佳化方法不同,它生成的解決方案能夠被工程師理解並進一步改進。

晶片設計中的電路最佳化

在硬體層面,AlphaEvolve提出了矩陣乘法關鍵電路的Verilog程式碼重寫方案。它識別並移除了精心最佳化的算術電路中的冗餘位,同時保證了電路功能的正確性。這種修改已經整合到Google即將推出的 Tensor Processing Unit(TPU) 晶片中。

這一應用的技術創新在於,AlphaEvolve能夠使用硬體描述語言(HDL)提出修改,促進了AI系統與硬體工程師之間的協作。每一個建議都必須通過嚴格的驗證方法,以確保修改後的電路維持功能正確性。

AI訓練和推理的多層次加速

在軟體和演算法層面,AlphaEvolve實現了AI性能和研究速度的雙重提升:

矩陣乘法子問題分解最佳化:通過發現更智能的方法將大型矩陣乘法操作分解為可管理的子問題,AlphaEvolve將Gemini架構中的關鍵核心加速了23%,導致Gemini訓練時間減少了1%。考慮到生成式AI模型的計算資源需求,這種最佳化轉化為顯著的資源節約。

  1. GPU指令級最佳化:AlphaEvolve還最佳化了底層GPU指令,這是一個通常由編譯器處理而不被工程師直接修改的複雜領域。它在基於Transformer的AI模型中為FlashAttention核心實現了高達32.5%的速度提升。
  2. 核心最佳化工程時間降低:從工程效率角度看,AlphaEvolve將核心最佳化所需的時間從專家數周的努力縮短到了幾天的自動化實驗,顯著加速了研究創新速度。

AI Wave(@aiwaveco)對這一技術突破進行了深刻評價:

我們從「提示詞+程式碼」發展到了「開放問題+演算法+最佳化」。AlphaEvolve玩的是完全不同的遊戲。

數學和演算法設計的演算法定理機

AlphaEvolve在純數學和演算法設計領域的成就同樣驚人,它正在成為一個"演算法定理機",能夠自動發現和證明演算法性質。

矩陣乘法演算法的突破性創新

AlphaEvolve在矩陣乘法這一電腦科學基礎問題上取得了顯著進展。它設計了一種全新的基於梯度的最佳化過程,能夠發現多種新型矩陣乘法演算法。具體而言:

技術上,AlphaEvolve提出了一個小型程式碼框架,然後自主設計了新型梯度最佳化過程的多個元件

  • 它找到了使用48個標量乘法計算4×4復值矩陣的演算法,超越了Strassen在1969年提出的演算法(此前被認為是該設定下的最佳演算法)
  • 相比之前的AlphaTensor模型,AlphaEvolve採用了更泛化、更高效的方法,在4×4矩陣上實現了超越,而AlphaTensor僅在二進制算術上取得了改進

在演算法進化過程中,AlphaEvolve進行了15次變異,跨越了最佳化器、權重初始化、損失函數和超參數掃描等多個元件,顯示出其驚人的演算法設計能力。

開放性數學問題的系統化攻克

DeepMind團隊將AlphaEvolve應用於超過50個分析、幾何、組合學和數論領域的開放性問題,實驗設定僅花費數小時就完成,充分展示了系統的靈活性。

研究成果展示了AlphaEvolve的演算法能力:

在約75%的情況下,它獨立重新發現了當前已知的最先進解決方案

  • 在20%的情況下,它改進了此前最佳已知解決方案,在相應的開放問題上取得了進展

尤為突出的是AlphaEvolve在「親吻數問題」(kissing number problem)上的成就。這個已經困擾數學家300多年的幾何挑戰,研究的是與公共單位球體相切的非重疊球體的最大數量。AlphaEvolve發現了593個外部球體的構型,並在11維空間中建立了新的下界,這是一個重要的數學突破。

AI Notkilleveryoneism Memes(@AISafetyMemes)分享了一張表達對AlphaEvolve數學能力複雜感受的圖片:

演算法進化的未來:跨領域應用前景

從技術角度看,AlphaEvolve展示了演算法發現領域從特定領域解決方案向通用複雜演算法開發的飛躍。其核心技術優勢在於其架構的普適性——

只要問題的解決方案能夠被描述為演算法並通過自動化方式驗證,AlphaEvolve就有可能應用。

技術架構的未來發展路徑

隨著大語言模型能力的不斷提升,特別是編碼能力的增強,AlphaEvolve的進化框架預計會得到相應的提升。研究團隊特別指出,隨著Gemini模型在編碼方面能力的增強,AlphaEvolve的演算法發現能力將同步提升。

從軟體工程角度,DeepMind團隊與People + AI Research團隊已經建構了互動介面,使研究人員能夠更直觀地與AlphaEvolve互動。他們計畫推出早期訪問計畫,並探索更廣泛部署的可能性。

跨領域應用前景

AlphaEvolve的演算法進化方法預計將在多個科學與技術領域產生深遠影響:

材料科學:自動設計和最佳化材料配方演算法,加速新型材料的發現過程。

  1. 藥物發現:最佳化分子對接演算法,加速候選藥物的篩選和評估過程。
  2. 可持續發展:設計更高效的資源分配演算法,最佳化能源使用和減少碳排放。
  3. 技術與商業應用:針對特定業務流程自動設計最佳化演算法,提高營運效率。

Uncertain Systems(@uncertainsys)提出了一個重要的商業應用問題:

它能發現新的SaaS嗎?

這一問題暗示了AlphaEvolve可能對軟體服務創新產生的影響,演算法進化可能催生全新類型的軟體服務。

jzv(@jzvtrades)則提出了更深層次的技術問題:

但它能發明模型突破嗎?

這反映了研究界對AI系統能否實現元級創新的思考——能否設計出全新的AI架構和模型,而不僅僅是最佳化現有演算法。

演算法進化已經從理論走向實踐,我們正在見證電腦科學和數學研究模式的變革,這預示著人類與AI系統在科學發現領域的新型協作關係。 (AGI Hunt)