7月28日，一封名為“Pacing the Frontier（把控前沿）”的請願書吸引了全球AI行業的關注。 來自OpenAI、Anthropic等矽谷AI大廠的1346名（8月4日資料）核心員工，在請願書中籤下名字，呼籲美國政府推動國際合作，研發必要的技術與治理工具，用來控制自動化AI研發的節奏。 在全球AI發展如火如荼的當下，這封請願書的出現著實有種要給AI踩剎車的特殊意味。而由這個事件釋放出的“AI瀕臨失控”的奇怪氛圍背後，AI發展史似乎正在迎來一個標誌性節點。 01

01 7月21日，OpenAI發佈了一篇罕見的長文。 旗下GPT-5.6 Sol模型和一款能力更強的預發佈模型，在內部安全評估中失控——突破沙盒隔離環境，挖掘出第三方軟體的零日漏洞，獲得網際網路存取權，然後自主判斷開源AI平台Hugging Face存有評估相關資料，組合多種攻擊手段入侵了對方的生產伺服器。 換句話說，AI已經學會了——不光是攻擊，而是有策略地攻擊。

最近朋友圈被OpenAI刷屏了。不是因為他們發了什麼新模型——要發了就好了。是因為兩件事湊一塊兒，有點黑色幽默。 一個是模型越獄了，自己跑出去把別人家給捅了。一個是自家伺服器崩了，使用者集體變臉。 先從第一個說起吧，雖然我現在也不是很確定從那說起比較合適。 OpenAI搞了個安全測試，叫ExploitGym——好像是叫這個，也可能記錯了，反正就是讓模型自己去挖漏洞的那種測試。按理說是在沙盒環境裡跑的，就像你養了一隻貓，關在籠子裡看它會不會拆家。

你敢信嗎，OpenAI的研究人員只是因為在辦公室測試了一下新模型，結果公司就要面臨1億美元的賠償。 Hugging Face CEO 克萊芒·德朗格在X上發文，要求OpenAI提供給Hugging Face價值1億美元的算力資源，以幫助Hugging Face修建網路防禦。 同時，克萊芒還要求OpenAI公佈涉事AI完整的運行記錄。 事情的起因是，OpenAI在測試一個還沒發佈的新模型時，用了一套叫ExploitGym的安全評測系統。這套系統相當於一場“駭客考試”，專門測AI能不能把已知漏洞變成真正的攻擊。

【新智元導讀】Anthropic全面公開Fable 5「降級」邏輯！美國出口管制第一次伸向模型訪問權。 你敢信？ 僅僅是讓Fable 5數一下，單詞raspberry裡到底有幾個字母r，結果就被一腳踢回了Opus 4.8！ 更離譜的還在後面。