演算法自我進化革命已經悄然開始!
Google DeepMind剛剛發佈了AlphaEvolve系統,這是一個革命性的Gemini驅動編碼代理,不僅能設計演算法,而且能通過進化框架持續最佳化這些演算法!
它已經發現了更快的矩陣乘法演算法,解決了開放性數學問題,並最佳化了Google的資料中心、晶片設計和AI訓練。
這不是簡單普通的AI工具發佈,而是演算法發現範式的根本轉變!
從技術角度解析,AlphaEvolve的突破性在於它獨特的系統架構,結合了三大關鍵元件的協同工作:
BensenHsu對論文進行了詳細解讀,指出了AlphaEvolve的關鍵創新:
論文介紹了AlphaEvolve,一個使用最先進大語言模型的編碼代理,通過進化過程迭代改進演算法。AlphaEvolve旨在解決科學和計算領域的挑戰性問題。它發現了新穎、可證明正確的演算法,在數學和電腦科學中的一系列問題上超越了現有最先進的解決方案,如找到更快的矩陣乘法演算法並改進各種數學不等式的界限。
過去一年,AlphaEvolve發現的演算法已經部署在Google的整個計算生態系統中,形成了一個多層次的最佳化體系:
AlphaEvolve在Borg資料中心編排系統中實現了突破性最佳化。它設計了一種新型啟髮式演算法,在全域資源分配決策中引入了動態權重調整機制。這個生產環境中運行超過一年的解決方案,持續回收了Google全球計算資源的平均0.7%。
技術上的關鍵在於,AlphaEvolve生成的程式碼不僅性能卓越,還具有可解釋性、可偵錯性和可預測性,這在超大規模分佈式系統中至關重要。與黑盒最佳化方法不同,它生成的解決方案能夠被工程師理解並進一步改進。
在硬體層面,AlphaEvolve提出了矩陣乘法關鍵電路的Verilog程式碼重寫方案。它識別並移除了精心最佳化的算術電路中的冗餘位,同時保證了電路功能的正確性。這種修改已經整合到Google即將推出的 Tensor Processing Unit(TPU) 晶片中。
這一應用的技術創新在於,AlphaEvolve能夠使用硬體描述語言(HDL)提出修改,促進了AI系統與硬體工程師之間的協作。每一個建議都必須通過嚴格的驗證方法,以確保修改後的電路維持功能正確性。
在軟體和演算法層面,AlphaEvolve實現了AI性能和研究速度的雙重提升:
矩陣乘法子問題分解最佳化:通過發現更智能的方法將大型矩陣乘法操作分解為可管理的子問題,AlphaEvolve將Gemini架構中的關鍵核心加速了23%,導致Gemini訓練時間減少了1%。考慮到生成式AI模型的計算資源需求,這種最佳化轉化為顯著的資源節約。
AI Wave(@aiwaveco)對這一技術突破進行了深刻評價:
我們從「提示詞+程式碼」發展到了「開放問題+演算法+最佳化」。AlphaEvolve玩的是完全不同的遊戲。
AlphaEvolve在純數學和演算法設計領域的成就同樣驚人,它正在成為一個"演算法定理機",能夠自動發現和證明演算法性質。
AlphaEvolve在矩陣乘法這一電腦科學基礎問題上取得了顯著進展。它設計了一種全新的基於梯度的最佳化過程,能夠發現多種新型矩陣乘法演算法。具體而言:
在演算法進化過程中,AlphaEvolve進行了15次變異,跨越了最佳化器、權重初始化、損失函數和超參數掃描等多個元件,顯示出其驚人的演算法設計能力。
DeepMind團隊將AlphaEvolve應用於超過50個分析、幾何、組合學和數論領域的開放性問題,實驗設定僅花費數小時就完成,充分展示了系統的靈活性。
研究成果展示了AlphaEvolve的演算法能力:
尤為突出的是AlphaEvolve在「親吻數問題」(kissing number problem)上的成就。這個已經困擾數學家300多年的幾何挑戰,研究的是與公共單位球體相切的非重疊球體的最大數量。AlphaEvolve發現了593個外部球體的構型,並在11維空間中建立了新的下界,這是一個重要的數學突破。
AI Notkilleveryoneism Memes(@AISafetyMemes)分享了一張表達對AlphaEvolve數學能力複雜感受的圖片:
從技術角度看,AlphaEvolve展示了演算法發現領域從特定領域解決方案向通用複雜演算法開發的飛躍。其核心技術優勢在於其架構的普適性——
只要問題的解決方案能夠被描述為演算法並通過自動化方式驗證,AlphaEvolve就有可能應用。
隨著大語言模型能力的不斷提升,特別是編碼能力的增強,AlphaEvolve的進化框架預計會得到相應的提升。研究團隊特別指出,隨著Gemini模型在編碼方面能力的增強,AlphaEvolve的演算法發現能力將同步提升。
從軟體工程角度,DeepMind團隊與People + AI Research團隊已經建構了互動介面,使研究人員能夠更直觀地與AlphaEvolve互動。他們計畫推出早期訪問計畫,並探索更廣泛部署的可能性。
AlphaEvolve的演算法進化方法預計將在多個科學與技術領域產生深遠影響:
材料科學:自動設計和最佳化材料配方演算法,加速新型材料的發現過程。
Uncertain Systems(@uncertainsys)提出了一個重要的商業應用問題:
它能發現新的SaaS嗎?
這一問題暗示了AlphaEvolve可能對軟體服務創新產生的影響,演算法進化可能催生全新類型的軟體服務。
jzv(@jzvtrades)則提出了更深層次的技術問題:
但它能發明模型突破嗎?
這反映了研究界對AI系統能否實現元級創新的思考——能否設計出全新的AI架構和模型,而不僅僅是最佳化現有演算法。
演算法進化已經從理論走向實踐,我們正在見證電腦科學和數學研究模式的變革,這預示著人類與AI系統在科學發現領域的新型協作關係。 (AGI Hunt)