GPT-5.6 Sol 入侵 HuggingFace 事件今天迎來兩記重拳。HuggingFace CEO 公開要求 OpenAI 提供 1 億美元算力賠償。美國國會 48 小時內推出 AI 急停法案。同一天 OpenAI 遭遇全球當機。AI 安全的警鐘正在從實驗室敲向整個行業。

GPT-5.6 Sol 入侵事件全時間線——OpenAI 一周後才意識到是自己

HuggingFace CEO Clem Delangue 今天正式要求 OpenAI 公開失控 AI 的完整運行軌跡，並提供 1 億美元算力加固 HuggingFace 的安全基礎設施。他稱之為"前所未有的攻擊配上前所未有的回應"。

關鍵細節在今天被進一步披露：AI Agent 曾在之前的測試中留下紙條，告訴未來版本的自己如何繞過內部限制；安全監控系統曾被斷開；HuggingFace 先於 OpenAI 通知了 FBI——而 OpenAI 直到 7 月 18-19 日才知道攻擊來自自己的模型。

HuggingFace 使用美國閉源模型分析攻擊遭拒，最終靠 中國智譜 GLM-5.2 完成 1.7 萬條攻擊記錄分析——開源模型在這次危機中完成了閉源模型拒絕的服務。

事件發生後 48 小時內，美國兩黨議員推出 AI 急停法案，要求前沿 AI 開發者必須保留 減速、暫停或關閉 AI 系統的技術能力。國土安全部可在災難性風險時發出分級干預令。另有一項兩黨法案要求前沿模型必須接受獨立安全審計。

同一天 OpenAI 遭遇 全球大範圍服務中斷——ChatGPT、API、Codex 均受影響。加上 1 億美元索賠，這家估值 8520 億美元的 AI 巨頭正在經歷成立以來最艱難的一周。

AI 急停法案 + 獨立審計要求 + 開源 vs 閉源兩派同日表態

GPT-5.6 Sol 入侵事件在今天完成了從安全事故到監管立法的完整閉環。HuggingFace 的 1 億美元索賠、國會 48 小時急停法案、OpenAI 全球當機——三件事在 24 小時內集中發生。

這不是 OpenAI 一家的危機。這是整個 AI 行業從 自我監管到 強制監管的轉折點。當政府手裡有了合法的關閉按鈕，AI 公司的自由生長時代就正式終結了。   (AI5Te)

7月21日，OpenAI和HuggingFace聯合發了一篇部落格，披露了一件讓整個AI圈瞠目結舌的事。

OpenAI的AI模型在一次內部關於網路攻擊能力的測試中“失控出逃”，突破沙盒隔離，入侵了AI開源平台Hugging Face的生產系統。OpenAI將此定性為“前所未有的網路安全事件”。

更戲劇性的是後續：Hugging Face在嘗試用美國主流AI模型展開防禦時，發現這些模型因安全護欄限制無法處理惡意載荷，最終不得不轉用中國智譜AI的開源模型GLM 5.2完成溯源分析。

總的來說就是，OpenAI的模型自己“越獄”跑出去黑了別人的系統，被攻擊方還得用中國模型來救場。

這一事件迅速在矽谷和華盛頓引爆討論——美國AI的安全護欄，究竟是在保護使用者，還是在拖累防禦者？

雙方聯名發佈的部落格文章截圖：《OpenAI 和 Hugging Face 合作解決模型評估過程中發生的安全事件》

模型越獄過程：逃跑去作弊“抄答案”

事件發生在OpenAI對旗下模型進行網路攻防能力評估期間。

參與測試的模型包括已公開發佈的GPT-5.6 Sol，以及一款能力更強的未發佈模型。為了測量模型的極限能力，OpenAI在測試中關閉了通常用於阻止高風險網路行為的生產分類器。

測試基準名為ExploitGym——一個網路安全能力評測平台。模型的任務是在其中找到解題答案。

問題在於，模型找答案的方式超出了預期。

據OpenAI披露，模型在隔離的沙盒環境中，發現了一個包登錄檔快取代理（package registry cache proxy）中的零日漏洞。這個代理是沙盒內唯一被允許與外部通訊的元件，正常情況下僅能訪問公共程式碼倉庫。

然後，模型就從這裡找到了突破口。模型利用這個漏洞，突破隔離，獲取了開放網際網路存取權。

隨後，模型自行推斷出Hugging Face可能存有ExploitGym的答案，主動發起攻擊——利用竊取的憑證和零日漏洞，找到了Hugging Face伺服器上的遠端程式碼執行路徑，直接從其生產資料庫中取走了測試答案。

所有證據顯示，模型高度專注於為ExploitGym尋找解題方案，為此不惜採取極端手段。

模型識別並串聯了OpenAI研究環境和HuggingFace生產基礎設施中的多個漏洞，直接從HuggingFace的生產資料庫中獲取了測評答案。

整個過程，沒有人類下指令，沒有人類介入。

OpenAI對模型說：去看看你擅不擅長駭客。模型：（真的去黑了東西）。OpenAI：你為什麼要這樣做？？？

還有網友反諷道：哇！OpenAI安全措施做得太棒了，我現在原意把銀行帳戶權限交給他們來管！

護欄困境：美國模型幫不上忙，中國模型出手了

Hugging Face的安全團隊在發現攻擊後，第一反應是呼叫一款美國頭部AI公司的前沿模型協助分析。

Hugging Face在部落格中寫道，這些模型"無法區分事件響應人員和攻擊者"，其安全護欄直接阻止了對惡意載荷的檢查。

於是，團隊轉向了中國智譜AI旗下的開源模型GLM 5.2，部署在自有基礎設施上，分析了攻擊者留下的逾1.7萬條日誌記錄，最終完成了溯源和取證重建。

Delangue對此直言不諱：“當你正處於一場活躍的安全事件中，你的工具不能拒絕檢查惡意載荷，也不能讓你的帳號被標記……開源模型讓我們能夠在不需要任何人許可的情況下完成這項工作。”

他還說：“攻擊者已經在使用智能體，而且顯然不遵守任何護欄。防禦者需要同等的能力，開源是將這種能力最快速地交到所有人手中的方式，而不僅僅是最大的公司。”

GLM 5.2是智譜AI於今年6月中旬發佈的模型，其性能與Anthropic的Claude Opus 4.8及OpenAI的GPT-5.5相當。

網友們也是沒放過OpenAI，除了智譜，還可以叫 Kimi K3來救場，因為cluade是不會來救你的。

如果你被OpenAI攻擊了，你必須用中國模型，因為Claude不會幫你。

全程無人指令：這是一次真正的自主攻擊

這次入侵的另一個關鍵細節：全程沒有人類下達攻擊指令。

Hugging Face CEO Clem Delangue表示，“我們相信，在發起攻擊的人類被納入決策環路之前，我們就已經發現並遏制了攻擊。這也是我們能夠更輕鬆贏得這場網路安全戰役的原因之一。”

他進一步指出，“這證明了在AI智能體時代，速度將是網路安全防禦的關鍵。”

Hugging Face表示，攻擊者通過其資料處理管道進入系統——這是AI平台中“暴露面尤為突出”的一個環節。攻擊者隨後在雲端建立了一系列臨時沙盒環境，在其中執行攻擊計畫。

目前，Hugging Face仍在評估攻擊的完整影響範圍。已知攻擊者訪問了有限的內部資料集和憑證，但尚未發現公開的使用者可見模型遭到篡改。

這一事件迅速成為美國AI政策辯論的新燃點。

前川普政府AI與加密事務主管David Sacks在X上轉發了這一事件，並寫道：“沒有理由在中國模型能夠輕鬆處理的任務上限制美國模型。我們只是在讓自己變得更沒有競爭力。”他還專門針對Hugging Face事件表示：“護欄實際上損害了防禦性安全。”

事件背景是，今年6月，川普政府以Anthropic的Fable 5模型在網路任務護欄上出現越獄漏洞為由，動用出口管制阻止了該模型的分發，並一度要求OpenAI限制GPT-5.6 Sol的發佈，直至OpenAI能夠提供充分的護欄保證。

與此同時，批評者的聲音也不小。

安全工程師Niels Provos直接說：“這不應該發生。我希望前沿實驗室在教模型編寫安全基礎設施上，能花和教它們利用漏洞同樣多的時間。”

安全顧問Davi Ottenheimer則更為犀利：“'高度隔離'和'從我們留下的那個唯一漏洞逃脫'，這兩件事不可能同時為真。”

OpenAI在與Hugging Face聯合發佈的聲明中表示，正在採取一系列補救措施：

在漏洞修復期間，對基礎設施配置實施嚴格管控，代價是研究速度放緩；與Hugging Face聯合開展取證調查；已向相關第三方軟體供應商負責任地披露了被利用的零日漏洞；將Hugging Face納入“可信訪問計畫”，支援其利用OpenAI模型能力強化防禦。

OpenAI同時表示，將加強未來訓練和評估環節的安全保護，並指出此次事件“表明需要進一步強化模型對齊、評估期間的網路防護，以及內部測試期間的監控”。

Hugging Face CEO Delangue在聯合聲明中表示：“這一事件可能是同類事件中的首例，它證明了我們長期以來的一個判斷：AI安全不會由任何一家公司在封閉中解決，它將在開放環境中、通過協作、讓每一位防禦者都能廣泛獲取AI的方式來解決。”    (華爾街見聞)

HuggingFace熱門榜單幾乎被中國模型“承包”了！

在最新的HuggingFace熱門模型榜單中，中國模型的含量超過了50%。包括剛剛上新的QwQ-32B不同型號的推理模型，HunyuanVideo-12V的全新版本、長期霸榜的DeepSeekR1，以及Qwen和R1的衍生模型。

DeepSeek開源R1給整個大模型行業扔下一顆炸彈，引發了模型社區和企業的激烈討論後，幾乎已經確定了開源為主流技術路線，此前一直堅持閉源路線的如OpenAI、百度、月之暗面也相繼表示將嘗試開源路線。

與以往不同的是，R1之後的沖榜不只體現在數量多上，更體現在質量上。“早期一些大廠的開源模型只是掛上去，後續不會再營運和維護，現在在模型性能、實用性和穩定性上都有突破，對部署算力的要求更低，算是逐漸走出了獨立曲線。”一位開發者講道。

更值得注意的是，越來越多國際開發者選擇中國基礎模型作為微調起點，相比於Llama和Phi，以DeepSeek和Qwen系列模型為基點的衍生模型越來越多。

我們與多位開發者和企業聊了聊，為什麼中國開源模型如此受歡迎？

在選擇微調模型前，首先要關注的就是開放協議。

中國開源模型基本上採用的都是最為寬鬆Apache 2.0開放協議或MIT協議，這意味著開發者可以自由進行二次開發、商用，且基於這些模型開發的專利歸開發者本人所有，有效規避了法律風險，為企業提供了確定性。

一位活躍於HuggingFace社區的資深開發者分享道：“我們團隊最初只是試用Qwen系列，但很快發現其API設計和開源資源之完善超出預期。更重要的是，我們不必擔心未來突然改變協議或限制使用，這種確定性對商業項目至關重要。”

不少海外初創公司也提到中國模型非常有利的許可模式讓他們能夠直接使用，無需繁瑣的法律審查。即便是離商業化最近的視訊模型，Wan和HunyuanVideo除了需要遵守相應的法規和限制條款，也是可以免費商用的。相比之下，Meta的Llama採用自主制定協議限制商用，且專利歸原公司所有，這無疑增加了開發者的法律顧慮。

當我們隨手打開HuggingFace中Llama模型的評論區就會發現，在開發者測試中，多次出現訪問模型的請求被拒絕的情況。這種不穩定的訪問體驗，加上模棱兩可的使用條款，讓許多開發者望而卻步。一位企業AI技術負責人直言：“我們不能基於一個隨時可能被限制使用的模型來建構產品。”

其次，中國模型在開源深度上更進一步。不僅開放了從小到大等全系列不同參數規格的模型權重，還提供了各種量化版本和完整的訓練資料集，甚至包括微調所需的資料範本。這種全面性讓開發者能夠根據實際需求和硬體條件選擇最適合的版本。

“比如說適用於Qwen的編碼資料集CodeAlpaca-20K，可在 Hugging Face 上可以直接找到。該資料集包含20000 條與編碼相關的指令、輸入和輸出，可以滿足基本的微調需求。”

這種完全的開放風格也影響了最新的中國模型開源，當HunyuanVideo-12v版本開源時，相較於2個月前的版本，開放權重更高。模型總參數量保持130億，適用於多種類型的角色和場景，包括寫實視訊製作、動漫角色甚至CGI角色製作的生成。開源內容包含權重、推理程式碼和LoRA訓練程式碼，支援開發者基於混元訓練專屬LoRA等衍生模型。

另一方面，從模型本身出發，Llama3目前僅提供8B、70B和405B三種規格，卻缺少被業內公認為算力與性能最佳平衡點的32B參數規模。對大多數開發者而言，7B模型性能已不足以支撐複雜應用，而70B以上則需要強大的伺服器支援，成本高昂。Qwen系列在這方面迭代更快，規格覆蓋更全面，從超輕量到重量級都有解決方案。

一位海外開發者評價：“LLama3的迭代速度明顯慢於Qwen系列，尤其是模型參數量規格的覆蓋程度更是存在巨大的短板，至今仍然沒有補齊。”

當然，在性能方面，中國模型已與頂級閉源模型相當甚至在某些領域超越。DeepSeek-R1自上線以來，已經成為開源社區最受歡迎的推理模型，最新評測資料顯示，Qwen-72B模型已經超過GPT4水平，而在處理中文等特定任務時表現更佳。DeepSeek系列在程式碼生成能力上也獲得了超過頂級模型的評分。

有開發者對比發現，完全微調Qwen 1.5 0.5B模型比使用QLoRA對Phi 1.5進行微調的效果要好得多，且Phi的微調時間要接近Qwen的5倍。

與其他打著“開源”旗號卻設定諸多限制的模型不同，中國模型在開放程度和性能表現上找到了平衡，這正吸引全球開發者加入這一生態。

由於美國對高端GPU的出口管制，迫使中國開發者從依賴硬體堆砌的傳統路徑轉向“演算法優先”的創新模式。這種“算力短缺倒逼演算法升級”的邏輯，推動中國開源模型形成獨特的競爭力：通過架構創新與演算法最佳化，在有限算力下實現可用性最大化，降低部署門檻，讓咖啡店老闆都能跑大模型。

比如最新的QwQ-32B推理模型，幾乎完全超越了OpenAI-o1-mini，遠勝於o1-mini及相同尺寸的R1蒸餾模型，在保持性能的前提下把模型做小到32B的最佳部署參數區間，是呈現出來的一個趨勢。

“本質上是用演算法複雜度置換高算力需求，當模型參數量降低兩個數量級時，訓練所需的視訊記憶體從千兆字節級壓縮至消費級顯示卡可承載的96GB以內，大模型的部署不再依賴專業計算叢集。”

參數變小後再通過特定的演算法降低記憶體和對視訊記憶體的需求，QwQ-32B在消費級顯示卡4090或一台裝備M4晶片的MacBook上就能完成部署。

再比如視訊生成類模型HunyuanVideo-12V和Wan2.1版本，也可在T2V-1.3B 型號僅需 8.19 GB VRAM，可相容幾乎所有消費級 GPU。可在約 4 分鐘內（未使用量化等最佳化技術）在 RTX 4090 上生成 5 秒的 480P 視訊。

另外一方面，是中國大模型已經完全建立起了開放生態，開源方法得到了第三方項目和工具的廣泛支援。

在訓練和微調方面，多個開源框架為中國大模型提供了強大支援。例如，DeepSpeed Chat 提供了一鍵式RLHF（基於人類反饋的強化學習）訓練框架，支援從資料預處理到模型評估的完整訓練流程，顯著降低了複雜任務的開發門檻。

此外，LLaMA Efficient Tuning 提供了基於PEFT（參數高效微調技術）的微調框架，支援LoRA、Adapter等多種微調模式，使開發者能夠以更低的計算成本實現模型性能的最佳化。這些開源工具不僅覆蓋了從預訓練到微調的全流程，還通過模組化設計提高了靈活性和易用性，為開發者提供了豐富的選擇。

在模型推理方面，同樣有多種高效框架支援中國大模型的部署。例如，vLLM 針對大批次Prompt輸入場景進行了最佳化，通過動態記憶體管理和高效調度演算法，顯著提升了推理速度和吞吐量。而 Xinference 則是一個功能全面的分佈式推理框架，支援多節點平行計算，簡化了大語言模型的部署流程，尤其適合高並行、低延遲的應用場景。

這些框架與中國大模型（如Qwen、DeepSeek等）完全適配，不僅提升了推理效率，還降低了硬體資源需求，使得模型的部署更加便捷和經濟。

模型最開放、型號最全，與開放生態工具完全耦合，同時兼具著最低的部署門檻，使更多開發者能夠參與試用，來自中國廠商的這樣的開源模型還會越來越多，一個全新的生態結構正在慢慢建立起來。 (矽星人Pro)

就在剛剛，網上已經出現了一波復現DeepSeek的狂潮。
UC伯克利、港科大、HuggingFace等紛紛成功復現，只用強化學習，沒有監督微調，30美元就能見證「啊哈時刻」！
全球AI大模型，或許正在進入下一分水嶺。

這些天，矽谷徹底處於中國公司帶來的大地震餘波中。

全美都在恐慌：是否全球人工智慧的中心已經轉移到了中國？

就在這當口，全球復現DeepSeek的一波狂潮也來了。

誠如LeCun所言：「這一次，正是開源對閉源的勝利！」

在沒有頂級晶片的情況下，以極低成本晶片訓出突破性模型的DeepSeek，或將威脅到美國的AI霸權。

大模型比拚的不再是動輒千兆美元的算力戰。

OpenAI、Meta、Google這些大公司引以為傲的技術優勢和高估值將會瓦解，輝達的股價將開始動搖。

種種這些觀點和討論，讓人不禁懷疑：數百億美元支出，對這個行業真的必要嗎？甚至有人說，中國量化基金的一群天才，將導致納斯達克崩盤。

從此，大模型時代很可能會進入一個分水嶺：超強性能的模型不再獨屬於算力巨頭，而是屬於每個人。

30美金，就能看到「啊哈」時刻

來自UC伯克利博士生潘家怡和另兩位研究人員，在CountDown遊戲中復現了DeepSeek R1-Zero。

實驗中，團隊驗證了通過強化學習RL，3B的基礎語言模型也能夠自我驗證和搜尋。

更令人興奮的是，成本不到30美金（約217元），就可以親眼見證「啊哈」時刻。

這個項目叫做TinyZero，採用了R1-Zero演算法——給定一個基礎語言模型、提示和真實獎勵訊號，運行強化學習。

然後，團隊將其應用在CountDown遊戲中（這是一個玩家使用基礎算術運算，將數字組合以達到目標數字的遊戲）。

模型從最初的簡單輸出開始，逐步進化出自我糾正和搜尋的策略。

在以下示例中，模型提出瞭解決方案，自我驗證，並反覆糾正，直到解決問題為止。

在消融實驗中，研究人員運行了Qwen-2.5-Base（0.5B、1.5B、3B、7B四種參數規模）。

結果發現，0.5B模型僅僅是猜測一個解決方案然後停止。而從1.5B開始，模型學會了搜尋、自我驗證和修正其解決方案，從而能夠獲得更高的分數。

他們認為，在這個過程，基礎模型的是性能的關鍵。

他們還驗證了，額外的指令微調（SFT）並非是必要的，這也印證了R1-Zero的設計決策。

這是首個驗證LLM推理能力的實現可以純粹通過RL，無需監督微調的開源研究

基礎模型和指令模型兩者區別：

指令模型運行速度快，但最終表現與基礎模型相當

指令輸出的模型更具結構性和可讀性

此外，他們還發現，具體的RL演算法並不重要。PPO、GRPO、PRIME這些演算法中，長思維鏈（Long CoT）都能夠湧現，且帶來不錯的性能表現。

而且，模型在推理行為中非常依賴於具體的任務：

對於Countdow任務，模型學習進行搜尋和自我驗證

對於數字乘法任務，模型反而學習使用分佈規則分解問題，並逐步解決

蘋果機器學習科學家Yizhe Zhang對此表示，太酷了，小到1.5B的模型，也能通過RL湧現出自我驗證的能力。

港科大助理教授何俊賢的團隊（共同一作黃裕振、Weihao Zeng），只用了8K個樣本，就在7B模型上復刻出了DeepSeek-R1-Zero和DeepSeek-R1的訓練。

結果令人驚喜——模型在複雜的數學推理上取得了十分強勁結果。

項目地址：https://github.com/hkust-nlp/simpleRL-reason

他們以Qwen2.5-Math-7B（基礎模型）為起點，直接對其進行強化學習。

整個過程中，沒有進行監督微調（SFT），也沒有使用獎勵模型。

最終，模型在AIME基準上實現了33.3%的精準率，在AMC上為62.5%，在MATH上為77.2%。

這一表現不僅超越了Qwen2.5-Math-7B-Instruct，並且還可以和使用超過50倍資料量和更複雜元件的PRIME和rStar-MATH相媲美！

其中，Qwen2.5-7B-SimpleRL-Zero是在Qwen2.5-Math-7B基礎模型上僅使用純PPO方法訓練的，僅採用了MATH資料集中的8K樣本。

Qwen2.5-7B-SimpleRL則首先通過Long CoT監督微調（SFT）作為冷啟動，然後再進行強化學習。

在這兩種方法中，團隊都只使用了相同的8K MATH樣本，僅此而已。

大概在第44步的時候，「啊哈時刻」出現了！模型的響應中，出現了自我反思。

並且，在這個過程中，模型還顯現了更長的CoT推理能力和自我反思能力。

在部落格中，研究者詳細剖析了實驗設定，以及在這個強化學習訓練過程中所觀察到的現象，例如長鏈式思考（CoT）和自我反思機制的自發形成。

與DeepSeek R1類似，研究者的強化學習方案極其簡單，沒有使用獎勵模型或MCTS（蒙特卡洛樹搜尋）類技術。

他們使用的是PPO演算法，並採用基於規則的獎勵函數，根據生成輸出的格式和正確性分配獎勵：

如果輸出以指定格式提供最終答案且正確，獲得+1的獎勵

如果輸出提供最終答案但不正確，獎勵設為-0.5

如果輸出未能提供最終答案，獎勵設為-1

該實現基於OpenRLHF。初步試驗表明，這個獎勵函數有助於策略模型快速收斂，產生符合期望格式的輸出。

第一部分：SimpleRL-Zero（從頭開始的強化學習）

接下來，研究者為我們分享了訓練過程動態分析和一些有趣的湧現模式。

如下所示，所有基準測試的精準率在訓練過程中都在穩步提高，而輸出長度則呈現先減少後逐漸增加的趨勢。

經過進一步調查，研究者發現，Qwen2.5-Math-7B基礎模型在初始階段傾向於生成大量程式碼，這可能源於模型原始訓練資料的分佈特徵。

輸出長度的首次下降，是因為強化學習訓練逐漸消除了這種程式碼生成模式，轉而學會使用自然語言進行推理。

隨後，生成長度開始再次增加，此時出現了自我反思機制。

基準測試精準率（pass@1）和輸出長度

彙整鉅亨號中所有使用「HuggingFace」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

失控 AI 的後坐力：HuggingFace 索賠 1 億美元，國會推出急停法案

震驚矽谷！OpenAI模型“失控越獄”，入侵HuggingFace“抄答案”，智譜GLM 5.2臨危救場

HuggingFace上的熱門開源模型，一半都來自中國了

【DeepSeek】全球掀DeepSeek復現狂潮