推廣活動

剛剛,程式設計師通宵找Bug的歷史要結束了,Claude只用幾周,把整個軟體測試行業改寫了

RexAA
•
AI速讀
Anthropic 近期發表研究,利用 Claude 模型實現大規模軟體「形式化驗證」,徹底顛覆傳統測試邏輯。Claude 能在 RISC-V 彙編層面撰寫億行數學證明,將軟體正確性從「機率性」提升至「絕對性」,成功找出傳統模糊測試(Fuzzing)無法觸及的深層漏洞。該技術透過 AI 降低了極高昂的證明成本,使原本僅用於航太或核電的絕對安全標準有望普及至通用軟體。這標誌著軟體攻防天平的傾斜,未來核心軟體將透過「機器審查機器」構建不可逾越的邏輯防火牆。

人類六十年來建立的軟體測試安全感,可能只是一種心理安慰。

即便是被全球最龐大的自動化測試叢集轟炸過數兆次的頂級開放原始碼,裡面依然藏著人類永遠測不出來的幽靈漏洞。

Anthropic安全紅隊剛剛公佈了一項顛覆電腦工程的研究。

他們沒有用AI去找零星的漏洞,而是讓Claude做了一件以往人類想都不敢想的事:

直接給123個主流開放原始碼軟體、239個程序入口,下達不可推翻的數學判決書。

Claude在編譯後的底層機器碼(RISC-V彙編)層面,硬生生寫出了1.8億行極其嚴苛的數學證明。

結論只有一句話:

在小於64MB的任意輸入下,這些程式碼絕對不可能崩潰,絕對不可能發生記憶體越界,邏輯絕對成立。

這不是機率,這是數學公理。

暴力測試跑幾兆次也只是盲人摸象

現在所有軟體公司的防守邏輯全靠測試。

無論是日常的人工測試,還是GoogleOSS-Fuzz這種頂級模糊測試工具,原理都差不多。

演算法守在軟體門口,生成海量的隨機垃圾資料瘋狂往裡砸,看程序會不會崩。

但真實世界的可能輸入是無限的。

那怕Google把全球伺服器拉滿,跑上幾兆次測試,覆蓋的程式碼路徑也只是冰山一角。

Claude在做數學證明的過程中,順手扒出了大批潛伏十幾年的陳年老Bug。

其中一個解壓模組的越界寫入漏洞極其刁鑽:

檔案必須恰好在20MB左右,而且內部必須包含一種極其罕見的特定排布格式。

模糊測試工具默認只塞1MB以內的輸入,就算讓人類的測試伺服器跑到宇宙毀滅,也永遠撞不進這個特定的死胡同。

還有一個圖像解碼器的越界讀取漏洞,觸發門檻是整整64MB的特殊畸形檔案加上2GB以上的即時記憶體消耗。

在暴力窮舉面前,這些Bug是隱形的。

但在嚴密的數學證明面前,只要有一條路徑可能導致邏輯破裂,AI的推導就會當場卡死,漏洞無處遁形。

人類一行都不用看,數學負責絕對驗票

很多人第一反應是:大模型天天胡說八道,它寫的程式碼誰敢信?

這項研究最精妙的地方,就在於徹底終結了大模型的幻覺原罪。

寫出幾萬行、幾十萬行的邏輯推導過程,對人類或者AI來說都難如登天。

但是驗證推導是否成立,在電腦科學裡只需要毫秒級的符號運算。

流程:

開放原始碼直接編譯成底層RISC-V彙編機器碼。

Claude在彙編指令裡瘋狂推演,寫出幾十萬行甚至幾百萬行的Rocq形式化證明程式碼。

證明寫完,直接扔進完全獨立、幾十年沒有出過差錯的Rocq數學檢查器。

檢查器亮綠燈,證明成立。

檢查器報錯,說明AI邏輯不通,打回去重寫。

這1.8億行龐大晦澀的證明程式碼,人類專家連一行都不需要去肉眼覆核。

因為負責給程式碼蓋章的是絕對純粹的數理邏輯。

只要底層的硬體物理模型和作業系統規則沒有撒謊,數學檢查器一旦放行,就等於給這段程式碼發了物理意義上的免死金牌。

深入底層機器碼的震撼細節

這套驗證最讓硬核技術人員脊背發涼的,是它深入底層的粗暴程度。

AI根本沒有在人類寫的高級語言層面打轉,它直接在CPU執行的機器碼上開刀。

在驗證一個網路庫cpp-httplib時,為了證明解構函式遞迴不會撐爆系統棧記憶體,Claude直接對著機器碼做逆向邏輯推演。

在沒有任何原始碼提示的情況下,它硬生生在彙編層證明了libc++內部紅黑樹平衡旋轉演算法的最優對數深度。

更誇張的一幕發生在驗證Linux核心中的zlib壓縮模組。

為了證明這段x86彙編程式碼百分之百符合RFC 1950國際技術規範,Claude做了一件反客為主的事:

它全自動手搓了一整套x86指令集的形式化數學定義。

這套由AI憑空建立的硬體指令模型,不僅單步偵錯跑通了Linux核心並成功啟動了Ubuntu系統,還反向挑出了晶片官方技術文件裡的幾百處筆誤,甚至抓到了晶片硬體本身的幾處缺陷。

在另一個實驗裡,Claude用Rust寫了一個Python直譯器,並用Verus工具證明它絕對符合CPython學術規範。

研究人員用170多萬個隨機生成的Python程序去無差別轟炸實測,這個被數學鎖死的直譯器,行為一致度達到了99.95%。

面對一款被人類日常翻來覆去審計的成熟PDF閱讀器,Claude僅用一周時間,挖出的高危安全漏洞就追平了該軟體過去一整年的漏洞公開總量。

昂貴的神器,正在被AI變成白菜價

其實數學證明軟體的理論幾十年前就有了,但過去幾乎沒人用得起。

為了證明微核心seL4的絕對安全,人類寫程式碼只用了兩年,證明它卻花了二十個人年。

以往只有波音空巴的飛控系統,或者核電站核心控制模組,才捨得花這種天價去換取零Bug保障。

但大模型徹底改變了這個經濟帳。

模型越聰明,寫出嚴謹邏輯消耗的Token就越少。

新一代的Opus 5.5在完成相同任務時,消耗的算力比上一代直接暴跌40%。

更關鍵的是邏輯積木的無限復用。

軟體底層的C語言執行階段初始化、記憶體分配、消毒器邏輯,千千萬萬個程序其實全是一模一樣的。

AI智能體接入共享工作區之後,後來的AI直接抄前面AI寫完的底層定理。

任務完成成本再度直降17%,通用模組幾乎不需要寫一行新程式碼。

就像數學界幾百位數學家花了幾十年搭建的Lean數學庫一樣,程式碼世界底層的數學積木正在被AI以驚人的速度搭成一座摩天大樓。

每一個基礎庫被AI證明一次,全人類未來就可以永久免費復用這個免死證明。

軟體開發的遊戲規則徹底變了

當然,現在的系統還談不上絕對完美。

真實世界的物理晶片可能發生物理擾動,系統環境可能有未被建模的奇異狀態,死程式碼或者呼叫者的違規亂傳參依然可能繞開防禦。

但底層的攻守天平已經徹底傾斜。

駭客正在用大模型毫秒級挖掘系統縫隙。

如果防守方還停留在靠人類敲鍵盤、靠伺服器盲目跑測試用例的舊時代,全盤淪陷只是時間問題。

把程式碼翻譯成數學,讓AI去窮盡所有維度的邏輯推演,用機器審查機器,給核心軟體築起絕對不可踰越的邏輯防火牆。

那個靠堆算力、拼運氣測Bug的舊時代,正在被這場數學風暴撕得粉碎。 (AI寒武紀)