又出安全事故,OpenAI停止訓練最新模型!但背後真正目的已浮出水面

RexAA
•
AI速讀
OpenAI 近期宣布因安全問題暫停最新模型 GPT-6.1 Astra 的訓練,被視為其試圖主導美國 AI 安全監管標準的策略手段。分析指出,OpenAI 意圖透過建立嚴格的審計與安全標準,將中國 AI 模型排擠出美國市場。儘管目前微軟與亞馬遜等雲端巨頭因能從託管開源中國模型中獲利而與 OpenAI 立場分歧,但作者預測,隨著中國模型性能提升並趨向閉源,美國 AI 產業可能重新結盟,最終對中國模型形成整體封鎖。這標誌著中美 AI 競爭已進入以安全與工程能力為核心的新階段。

9 月 28 日,相關媒體報導,OpenAI 取消了原定 10 月推出的新模型 GPT-6.1 Astra,原因是內部安全和測試問題。

而且,這已經是 OpenAI 三個月內第二次因為類似的安全問題暫停開發了。

早在 9 月 20 日,OpenAI 一個內部 Agent 就利用沙盒的 DNS 解析器的漏洞,接觸到了外部聊天服務。

監控大概 15 分鐘就發現了問題,OpenAI 隨後暫停了最強模型裡所有涉及工具使用的訓練、評估和推理,直到完成修復驗證和進一步測試。

內部調查還發現,有 53 張 ChatGPT 使用者圖片被 Agent 意外傳到了第三方圖片託管網站,Agent 還嘗試了訪問美國教育部網站、美國人口普查局和 SEC 等政府網站的一系列異常活動。

可見,隨著 AI 性能的提升,當 Agent 拿到瀏覽器、工具、帳戶和執行權限,出的問題就和聊天機器人完全不一樣了。

聊天機器人說錯話,頂多影響對話質量,Agent 則可能利用漏洞產生意想不到的實際風險。

有意思的是,早在 9 月 9 日,也就是這些安全事件出現之前,OpenAI 就公開要求美國建立一套強制性的、基於能力的全國 AI 安全監管,包括獨立評估、網路安全、嚴重事故報告和 AI 審計標準等方面。

換句話說,現在他們的種種表現,似乎是在告訴大家,AI 有安全問題,並且他們先做出了表率,暫停了最新模型的訓練,其他公司也應該跟進。

我們認為,這件事之所以值得關注,是因為安全標準一旦變成行業規則,會直接改變 AI 產業的競爭格局,甚至有可能阻止中國 AI 模型進入美國市場。

不過,也要看到,雖然 OpenAI 喊得最大聲,但不代表整個美國 AI 產業都會聽它的。規則最後怎麼定,還取決於美國 AI 產業內部是不是一條心。


PART 01 各懷心思

目前,至少雲廠商們沒有完全跟 OpenAI 站在一起,因為大家的利益並不一致。

OpenAI、Anthropic 主要靠賣模型呼叫和訂閱賺錢,它們有限制中國模型進入美國的衝動。畢竟,一個更便宜的模型進來,讓它們很難定高價,還切走了一部分呼叫量,直接影響了它們的收入。

但微軟和亞馬遜就不一定討厭中國模型了。

要知道,亞馬遜 AWS 仍加入了 DeepSeek、Qwen、Kimi 的 六款最新開放權重模型,也就是所謂開源模型,還公開強調它們能提供前沿級的性能、能顯著降低推理成本。

微軟也把 DeepSeek V4 Pro 作為 Azure 所銷售的模型賣給客戶,並強調微軟是唯一的資料處理方,即 DeepSeek 並不參與營運。

他們為什麼願意做這個事情?

OpenRouter 說得很明確,當 DeepSeek、Kimi、GLM 這些開放模型由美國供應商部署時,請求就都在美國本地運行,原模型公司根本不參與服務的過程。

說白了,開源模型允許雲廠商自己託管、自己定價、自己當賣方。客戶為推理付費,錢直接進了雲廠商的口袋。

可見,同一個模型,對 OpenAI 是價格更低的競爭對手,但對這些雲廠商公司而言是白賺錢的生意。

自然,當 OpenAI 大喊要禁止中國的這些開源模型進入美國市場時,其他這些科技巨頭對這種呼籲並不感冒。這個格局源於商業模式的差異,不太會因為某個高管的想法而轉變。

而且目前美國的政府和立法層也並不支援強監管。

9 月 28 日,眾議院議長就指出,監管不能損害美國自己的創新競爭力。此外,川普為首的共和黨也是一直反對過於嚴格的監管。

因此,那種美國整個產業聯合起來抵制中國模型的情況,眼下並不太可能發生。


PART 02 重新站隊

但未來會怎麼變動?

我們想指出的是,關鍵在於,如果模型能力繼續往上走,開放方式可能會變,並可能引發一系列連鎖反應,甚至最終走向美國對中國模型的整體封鎖。

我們認為,未來一個非常核心的觀察點就是,中國模型的性能、特別是安全方面的性能是否會達到如今 Claude Mythos 的水平。

首先,過強的模型必然會從誰都可以訪問轉成閉源或分層開放,因為過強的模型就像核武器,不可能對公眾完全開放。

比如,Anthropic 的 Claude Fable 和 Mythos,用的是同一個底層模型。

但 Fable 面向大眾,在網路安全和生命科學這兩個敏感領域加了更嚴格的安全限制。Mythos 只通過可信訪問計畫,對經過稽核的專業機構開放。

那麼,一旦中國模型也達到 Mythos 的性能水平,就不可避免地要走向有限的開源,或完全閉源。

而且現在,中國的模型也正在朝這個性能水平邁進。

智譜的 GLM-5.3 在部分網路安全基準上已經接近 Mythos 5。

因此,未來智譜可能會在完成安全增強之後才發佈開源模型,同時把敏感功能只開放給經過驗證的使用者。

雖然不開源了,並不代表資料一定會回傳中國。

比如 AWS 上的 Claude 是 Anthropic 的專有模型,但 AWS 自己是唯一的資料處理方,資料並不傳給 Claude。

但是,不開源,會進而帶來商業層面的變化。

開源模式下,模型檔案一旦發出,雲廠商可以自己部署、自己定價,模型公司基本管不著。

可一旦轉向受控的服務,模型公司不再把模型檔案直接交出去。雲廠商再想用這些模型,就得跟模型公司談許可、談分成、談合作條款。

這樣一來,原來雲廠商白嫖開源模型廠家的模式就不復存在了。

而這就有可能讓美國 AI 產業中原本立場不一的參與者們重新站隊。

比如美國大雲廠商可能又會和美國 AI 模型公司形成聯盟,壓縮中小雲廠商市場空間的同時,將中國模型排擠出美國市場;同時,川普政府也有可能借題發揮,在驅趕中國模型的過程中起到推波助瀾的作用。

最後,美國有可能會形成一個不利於中國模型的聯盟,並最終把中國模型排除在外。

當然,這些事情何時發生,規則會怎麼定,要看安全、政策和商業利益這幾股力量,什麼時候開始指向同一個方向。 (創新地圖)