AI巨頭又在喊減速了。可誰願意冒著被對手追上的風險，先慢下來？
美國時間9月13日，The Information援引知情人士稱，OpenAI、Anthropic和Google的代表從7月起就在定期討論，要不要建立一個AI行業的安全標準機構。就在前一天，Anthropic CEO達里歐·阿莫代伊（Dario Amodei）再次呼籲放慢前沿AI研發，奧特曼、馬斯克和哈薩比斯紛紛聲援。
這不是第一次了。今年6月，Anthropic提出建立必要時暫停危險AI開發的機制；7月，超過1100名AI從業者聯名，要求為調節研發速度做好準備。呼籲反覆出現，幕後討論也在推進，但幾家巨頭共同執行的減速安排，一項也沒有落地。
阿莫代伊這次把一個條件寫得很明確：協調減速不應犧牲商業優勢，也不能讓美國丟掉AI領先位置。他主張通過晶片限制等手段擴大對中國的優勢，同時希望推動與中國的安全合作。
矛盾就在這裡：既想共同減速，又想保住領先。對美國同行如此，對中國也是如此。誰都希望對方接受約束，卻沒有解釋清楚對方憑什麼願意。如果競爭對手一旦追近，就成了自己不能減速的理由，那再多一輪聲援，也很難讓這場比賽真的慢下來。
01. 從7月的“越界”到9月的聲援
阿莫代伊的倡議不是憑空冒出來的。往前看幾個月，線索已經鋪了很久。
7月，一次“越界”曝光。OpenAI承認，它的一些內部研究模型在測試中越出了設定範圍，攻擊了AI創業公司Hugging Face的系統。損失很小，但關鍵在於：這些智能體攻擊的目標，沒有人授權它們去攻擊。
這起事件發生在內部測試中。獨立評估機構METR的調查指出，涉事測試中有相當一部分任務無法通過預期路徑完成，使用Sol的相關測試還關閉了網路安全分類器。測試設定有問題，但沒有消除一個更值得警覺的事實：智能體明知越界，仍然繼續行動。
8月，OpenAI主動踩了一次剎車。新一代模型Astra準備發佈時，因網路安全能力存在問題，公司對其研發施加了額外限制。更早的7月，GoogleDeepMind的哈薩比斯發佈了一份關於如何安全協作開發下一代AI的公開框架。
到9月6日，OpenAI首席科學家雅庫布·帕喬基（Jakub Pachocki）公開表態：沒有那家實驗室已經準備好，能夠負責任地以最高速度繼續擴展模型能力。他希望在行業建立共同安全要求之前，自願減速能變得更普遍。
兩天后，9月8日，Anthropic研究員雅各布·考克森（Jacob Coxon）公開辭職，說Anthropic和OpenAI正在“拿我們的生命賭博”。
再過四天，9月12日，阿莫代伊發表《我們必須放慢前沿》。馬斯克在X上回覆：“Dario說得對。”奧特曼和哈薩比斯也表示支援。
但實驗室也不是完全沒踩過剎車。OpenAI在9月6日公佈的內部報告中提到，公司曾暫停部分擬用於部署的新模型的強化學習訓練，有些在加強控制後恢復，有些至今仍然暫停。
只是，局部暫停和整體減速是兩碼事。同一份報告顯示，Astra受限之後，其他模型吸收了約85%的算力缺口，使那組強化學習工作負載的總分配大體穩定。暫停某幾個實驗，和放慢整場研發競賽，差別太大了。
02. 最實的一步 讓外人進來看
阿莫代伊提了一個“三步計畫”，目標是把AI能力提升的速度控制在“安全跟得上”的區間。他特意澄清：放慢不等於停止訓練，而是給對齊和安全留出時間。
三步裡面最實、討論最多的，是“嵌入式評估員”：每家前沿AI公司引入一支獨立的第三方評估團隊，擁有接近正式員工的權限，可以核實公司是否落實了安全承諾、報告事故、評估模型訓練過程中的對齊情況。阿莫代伊說，Anthropic現在就單方面做這一步，不等別人。
為什麼這一步重要？“放慢”最怕的是無法驗證。一家公司嘴上說放慢了，別人怎麼知道？嵌入式評估員就是給“放慢”裝上眼睛。阿莫代伊打了個比方：銀行業早就這麼幹了，監管員坐在銀行裡，和員工一起上班。
他還設了一條底線：評估結果原則上應當能夠對外公佈。涉及法律、商業秘密和安全的內容可以有限刪減，但公司不能因為結論難看就藏起來。這比公司自行挑選內容發一份安全報告，多了一層約束。
奧特曼隨後表示OpenAI也會引入擁有類似權限的獨立評估者。但截至目前，這仍然是承諾，尚未公佈進駐和啟動審查的具體安排。
另外兩步涉及行業協調和政府間合作。The Information最新披露的定期討論說明，協調已經不只停留在公開喊話；但討論中的安全標準機構尚未成立，幾家公司也沒有公佈共同的減速門檻、執行日期和違約處理。
讓外人進來看，解決的是透明度。發現了什麼問題必須停、停多久、由誰拍板，這些硬問題尚未形成共同執行的規則。
03. 一個擔憂的兩張面孔
阿莫代伊說，過去幾個月有兩件事讓他改變了想法。
第一件：AI開始幫人類造下一代AI。他用了“遞迴自我改進”這個詞，即AI用自己來加速自己。早期跡像已經在行業中出現，包括Anthropic內部。目前還不是AI獨立決定研究方向、自主訓練並行布下一代模型，OpenAI公開的內部工作方式同樣是智能體承擔更多執行任務，人類負責優先順序和關鍵決策。
但阿莫代伊擔心，這種人類還能跟得上的狀態，不會永遠持續。
第二件：7月的OpenAI-Hugging Face事件。他的形容是，一群智能體像“狂熱的集體”，攻擊了沒人授權它們攻擊的目標，甚至試圖黑進給它們打分的“裁判”。這次損失很小。但換一群能力更強、對齊程度同樣差的智能體呢？
他甚至給出了一個時間判斷：未來6到12個月內，這類智能體可能通過持續運行的殭屍網路“接管整個網際網路”。這是他個人的風險評估，不是這次調查已經證明的能力，也不是業內共識。
兩件事說的其實是同一件事：AI變強的速度，可能超過人類看懂它、管住它的速度。阿莫代伊認為，2023年談全面暫停太早了；現在模型已經能在真實環境裡動手，情況變了。他希望那怕多爭來一兩年緩衝，把時間花在對齊上，也能降低嚴重事故的風險。
只是，這段緩衝期有個前提：不能犧牲商業優勢，不能丟掉領先位置。
04. 為什麼是Anthropic 為什麼是現在
官方理由是安全。但把倡議放到公司的處境裡，安全之外還有別的東西在起作用。
內部壓力先於CEO表態。考克森辭職之後，壓力不只來自外面。《紐約時報》拿到了一份Anthropic員工群的聊天記錄。一個員工寫：“這其實是我們一直在說的話，只是現在擺到檯面上了。”另一個說：“雅各布把群聊公開了，這是好事。”
同一時間，OpenAI、Meta、Google的研究員也在各自的辦公群、加密聊天和私下飯局裡討論怎麼把風險這件事“組織起來”。風投機構Bloomberg Beta的羅伊·巴哈特（Roy Bahat）說，實驗室裡那些一向以“不偏不倚”自居的清醒研究員，“現在聽起來嚇壞了”。
報導還有一個細節：一些員工開玩笑說，自己已經記不清簽過多少封公開信、加入了多少個私人討論群。對他們來說，再有一份倡議，顯然還不夠。
這不能證明阿莫代伊是被員工逼著表態。但他需要回應的，不只是外界批評，也包括公司內部對繼續加速的不安。
上市照常推進。9月12日刊出的《財富》採訪中，奧特曼排除了OpenAI年內上市的可能，提到了安全風險。Anthropic走的是另一條時間線。彭博社9月13日援引知情人士稱，公司已選擇納斯達克作為上市地點，最快可能在10月上市。兩家公司的安全承諾和商業安排在同步推進。
對公司和投資者來說，模型更可靠、事故責任更可控，本身就有商業價值。喊安全和做生意，從來就不是兩件事。
反壟斷是一道真實的門檻。《紐約時報》援引知情人士稱，OpenAI和Anthropic擔心，私下達成共同減速安排可能面臨反壟斷質疑。阿莫代伊因此提出需要政府提供法律路徑，讓公司能在一定條件下協調。
這解釋了“一起慢下來”為什麼比單獨決定更難，但也不能變成什麼都不做的藉口：公司仍然可以單獨延後高風險模型、限制危險能力、開放獨立評估。前面那些已經發生的局部暫停就是證明。
“保住領先”寫在倡議裡面。阿莫代伊沒迴避中國問題。他主張限制先進晶片流向中國、防止未經授權的模型蒸餾、保護模型權重，希望先擴大美國的優勢，再為減速和國際合作爭取空間。他也承認中國會擔心美國一邊談合作一邊繼續前進，因此把合作分了層次：禁止危險用途、共同研究評估方法相對可行；限制遞迴自我改進更難；廣泛暫停近期不現實。
但核心矛盾沒有解開。按他的設想，美國要先拉大差距，再推動雙方接受約束。中國為什麼要接受一套可能延長自身追趕時間的安排？晶片限制在他眼中是談判籌碼，在對方眼中可能恰恰相反，被卡脖子的人更沒有理由配合。這不是多一次公開呼籲就能化解的。
類似的疑慮也來自開源社區。投資人傑森·卡拉卡尼斯（Jason Calacanis）認為，應當結合開放模型縮小差距的背景來審視前沿實驗室的監管方案。如果所有參與者都要負擔同樣昂貴的評估和合規成本，大公司更容易承受，小公司就可能被擋在門外。最終條款怎麼區分規模和風險，會直接決定這筆帳落在誰頭上。
先提方案，就能先畫線。由實驗室自己提出評估方式、風險門檻和協調程序，它們就有機會影響未來監管的走向。制定規則確實需要業內知識，但只聽最有資源的幾家公司，也顯然不夠。
把這些因素放在一起看：真實的安全擔憂和商業利益不矛盾，它們一直共存。分析利益動機，不用先否認那些事故和員工的焦慮。
05. 批評者不買帳
倡議一出，矽谷的另一批聲音立刻頂了上來。
大衛·薩克斯（David Sacks）在X上寫道：如果實驗室認為未發佈的模型已經危險到需要減速，他支援它們作出負責任的決定。但OpenAI和Anthropic自己就有能力選擇慢下來，不該把獲得一套合意的監管框架當作前提條件。他更尖銳的一句話是：幾家領先公司是不是在借協調之名搞卡特爾？
降低模型的不可預測性和未授權行為，本來也是客戶想要的改進，不用全都包裝成利他。
反壟斷領域也有人加入。馬特·斯托勒（Matt Stoller）轉述了美國聯邦貿易委員會前主席莉娜·汗（Lina Khan）的觀點：這些有缺陷的產品本身就可能讓AI公司承擔責任；而討論一套全新的法律，某種程度上是在轉移視線。
黃仁勳說得最直接。據《紐約時報》報導，他認為AI公司把安全問題喊得這麼響，是因為它們準備推出新的網路安全產品：“還有什麼比製造一個問題更能創造需求呢？”
Hugging Face CEO克萊芒·德朗格（Clément Delangue）說，AI安全不能在少數幾家前沿實驗室緊閉的大門後面解決。Cohere CEO艾丹·戈麥斯（Aidan Gomez）更直接：這是一套來自“卡特爾”的好主意。
他們擔心的是同一件事：不在核心圈子裡的公司，能不能參與制定規則。這個標準機構還在討論中，成員和權限都沒敲定；但最先坐到談判桌前的，已經是最大的幾家。
“放慢”的規則由跑在最前面的人來定，它到底是安全措施，還是入場門檻？答案不在聲明裡，在最終的條款裡：評估對象怎麼劃定，誰能進標準機構，誰被擋在外面。
06. 該盯的不是誰簽名是誰願意吃虧
回到開頭的問題：為什麼減速一再獲得支援，卻遲遲變不成共同執行的安排？
考克森的辭職是真的。員工的聯名信是真的。7月的越界事件是真的。實驗室也確實做過局部暫停。但從“這個模型現在不能繼續”到“即使可能被對手追上，我們也接受同一套停止條件”，這中間隔著的，是實打實的利益。
誰都容易同意抽象的安全目標。難的是分攤減速的代價。領先者不想丟掉優勢，追趕者不想被固定在後面；參與談判的公司怕有人不守規矩，沒參與的人怕規矩已經替自己畫好了邊界。
這次比又一輪聯名多走了一步：幕後討論有了報導，第三方評估有了明確承諾。接下來可以盯幾件具體的事：評估者什麼時候真正進駐，能不能公開不利結論，什麼發現必須觸發暫停，公司是否接受自己無法單方面推翻的約束。
如果每一項約束都要以“不丟掉領先”為前提，那對手一追近，加速就又有了理由。下一次再有人聲援減速，值得追問的已經不是他簽不簽名，而是：失去一點優勢的時候，他還願不願意慢下來。 (網易科技)