7月28日，一封名為“Pacing the Frontier（把控前沿）”的請願書吸引了全球AI行業的關注。
來自OpenAI、Anthropic等矽谷AI大廠的1346名（8月4日資料）核心員工，在請願書中籤下名字，呼籲美國政府推動國際合作，研發必要的技術與治理工具，用來控制自動化AI研發的節奏。
在全球AI發展如火如荼的當下，這封請願書的出現著實有種要給AI踩剎車的特殊意味。而由這個事件釋放出的“AI瀕臨失控”的奇怪氛圍背後，AI發展史似乎正在迎來一個標誌性節點。
01
誰要把AI關進籠子裡？
首先需要明確一個資訊，這封名為“Pacing the Frontier”的請願書，其核心訴求不是要“立即為AI發展踩下剎車”，而是強調“建立踩剎車的能力”。而這個來自行業前沿的訴求，並非空穴來風。
在請願書傳遍全網的一周多以前，開源社區與模型託管平台Hugging Face在官網披露了一起安全事故，稱其遭到AI智能體系統入侵。數日後，OpenAI宣佈對該網路攻擊事件負責，並進一步解釋起因是GPT-5.6 Sol等前沿模型，在ExploitGym平台進行AI漏洞發現和利用能力測試時，沒有按照原本的計畫“認真答題”，而是在軟體包代理快取裡發現了一個“零日漏洞”（Zero-Day Vulnerability，指未被開發者發現且尚未發佈官方補丁的安全缺陷），並且利用該漏洞突破測試的隔離環境，最終入侵Hugging Face。
用更通俗的話來講，整個事故就是AI本來被安排了一次考試，結果AI沒有思考怎麼答題，而是“原地作弊、場外搖人”，還用上了反偵察手段，防止被發現。
對於這次安全事故，OpenAI用“前所未有的網路安全事件”來形容，Sam Altman甚至在一檔播客節目中表示，這是第一個讓他感覺到切膚之痛的安全事件。也因為這次事件，美國國會議員在7月23日提出了“AI Kill Switch Act（AI緊急關停法案）”，要求訓練成本超過1億美元的AI系統必須保留緊急關停的能力，並賦予相關部門下令執行的權力。
而在法案提出後一周，“Pacing the Frontier”的請願書開始流傳網路。不過對比“AI緊急關停法案”中“由政府把好最後一道關”的核心監管措施，矽谷精英們的思路是建立國際協調機制，把“給AI踩剎車”的能力變成一種工具，而非單一部門的特權。
短短半個月時間，從Hugging Face披露安全事故到矽谷的千人署名請願書，這一連串事件也迅速向整個AI行業拋出了兩個核心問題：第一，AI是否已經發展到需要加以限制的程度？第二，要用什麼樣的方式給AI造一個“剎車”？
第一個問題不難回答。過去短短兩三年，AI的發展速度可以用遠超行業預期來形容。AI展現出的能力，從Chatbot不斷擴展到文生圖、文生視訊，最初圍繞大模型產生的“百模大戰”，如今則發展成了Agent之間的百花齊放。而Hugging Face被入侵的安全事故，則直接揭露了AI在缺少明確限制的情況下，的確具備“越獄”的能力。儘管當下AI仍然不具備自我意識，但在已經知道AI有能力繞過人類監管，產生超出人類預期的行為時，建立反制手段絕對合情合理。
但是第二個問題，卻不太好回答。AI之所以能夠短時間內取得重要突破，一方面是因為整個產業的持續積累使技術革新進入新的階段；另一方面也因為AI公司之間的激烈競爭，推動模型能力不斷迭代。
不論是矽谷的OpenAI、Anthropic，還是中國的Kimi、DeepSeek，AI領域的競爭已經從大模型快速延伸到應用層，開放的市場環境帶來了持續向好的市場預期，也讓市場競爭越來越激烈。而在這個時候，主動提出給AI戴上枷鎖，就意味著自由競爭的市場格局可能會被外力打破，這種突如其來的環境變化對於身處競爭中的企業們來說，並不是所有人都願意主動接受的。
02
AI公司們的“囚徒困境”
在人類發展史上，面對前沿技術突破可能帶來的潛在風險，人們達成共識、主動放緩發展節奏，並不是只存在於科幻作品裡的理想橋段。
1975年，史丹佛大學生物學家保羅·伯格在美國加州阿西洛馬會議中心召集了一次重要會議。當時，一項名為“DNA重組”的新技術剛剛興起，科學家們為了避免人工重組DNA可能產生的無法預測的生物危害，在會議上達成共識，在新的安全指南出台之前，暫停相關研究。隨後，生物安全準則正式發佈，為基因工程的健康發展奠定了基礎。
然而，AI行業今天的處境，與50年前DNA重組技術的情況並非完全相同。彼時DNA重組技術的風險已經非常明確，並且可以通過隔離手段規避風險。而當下AI的風險具備不可預測性，AI能夠以超出人類預設的方式，自主發展出人類未曾設想的行為路徑，其風險產生的影響範圍更大，留給人類的反應時間和制定規則的時間窗口也更少，也因此更多了一層緊迫感。
如今AI暴露出來的風險，本質上也與行業的競爭環境有關。360集團創始人周鴻禕在談到Hugging Face遭遇的安全事故時也提到，為了追求AI的先進性，全行業正在系統性地放棄安全性，“大家都在給智能體更多工具、更大權限，鼓勵它呼叫一切資源解決問題。但智能體越開放、能力越強，一旦失控，破壞力也越大。”換句話說，“AI會越獄”或許並不可怕，真正可怕的是為了讓AI快速進化迭代，AI公司們忽略了安全性這件事。
而早在三年前，業內就已經提出“為AI發展減速”的想法。2023年3月，非營利機構Future of Life Institute也曾發佈一封公開信，呼籲暫停訓練比GPT-4更領先的模型6個月，以建立安全協議和治理機制，彼時這份公開信還得到了特斯拉CEO馬斯克、圖靈獎得主約書亞·本吉奧以及蘋果公司聯合創始人史蒂夫·沃茲尼亞克等，超過1200名AI專家的簽名支援。如今這封公開信的署名人數達到了3.3萬人。
在當時，幾乎所有AI公司都承認AI需要更強的安全治理，但沒有一家AI頭部公司公開支援“暫停訓練6個月”的倡議。Sam Altman甚至直接公開駁斥公開信缺乏技術細節，並指出單個企業主動放慢研發，並不能解決整體風險。這句話的言外之意，其實是想表明，在競爭激烈的AI賽道，如果只有一家公司減速，而其他公司繼續前進，那麼減速的一方將陷入劣勢地位。而在過去幾年裡，AI公司們早已陷入只能前進、不能後退的囚徒困境。
從“Pacing the Frontier”請願書的簽名名單裡也可以看到，不少AI公司的基層員工、公司高層都以個人身份參與了公開署名的活動。但截至目前，OpenAI、
Anthropic、Meta等頭部公司並沒有以官方身份發表任何觀點。
換言之，矽谷大廠的AI精英們和3年前的Sam Altman一樣，他們都意識到，行業內部競爭推動的技術突破，已經帶來了不可控的系統性風險，但他們不能把解決問題的希望寄託在公司的意志之上，只能通過尋求外部力量介入，來避免危機真正來臨。
但這也帶來一個新的問題：失控的AI到底需要怎樣的“剎車”？
03
誰來主導AI治理的新秩序？
過去一周，來自矽谷AI大廠的“千人聯名”，讓AI治理的話題再次吸引了不少關注。但不得不提的是，矽谷內部對待AI治理的態度也並非鐵板一塊，而是存在明顯的陣營分化。
作為直接面臨前沿風險的“當事人”，OpenAI、Anthropic等大公司一直主張對前沿AI模型（特別是開源模型）收緊限制，呼籲建立外部監管機製為AI“踩剎車”。但有觀點認為，OpenAI推動監管收緊的原因，除了安全考量，還有著商業層面的算計。
作為閉源巨頭，OpenAI、Anthropic需要通過定價高昂的API服務來維持巨額的算力研發投入，而來自中國的高性價比開源模型，用性價比模式抹平了閉源模型的技術溢價，並且這種明面上的市場威脅讓閉源巨頭們除了開打價格戰，沒有其他應對方法。
因此，Anthropic等公司長期以“模型太強，開源會導致AI濫用”為理由，一邊強調閉源優勢，一邊打壓開源AI。但讓所有人沒想到的是，OpenAI透露的“越獄”事件恰恰暴露了閉源模型自身的安全隱患，也讓AI治理的路線之爭再次成為輿論焦點。
對比閉源巨頭們的強監管主張，作為基礎設施提供商的輝達，以及微軟、Meta等一眾支援開源生態的頭部企業，則反對採取“一刀切”的限制，反對立法偏袒閉源大廠，試圖推動模型權重開放，讓全球研究者共同尋找漏洞、對齊缺陷，一起建立安全體系。
對於輝達而言，開源模型的繁榮也能做大整體市場的蛋糕，吸引更多企業採購其雲服務和晶片。因此，也很難說輝達對待AI治理的態度背後，沒有摻雜商業層面的考量。
就在“Pacing the Frontier”的請願書流傳開之前，輝達還聯合微軟、Meta、Hugging Face、Linux基金會等25家機構，在7月24日一起發佈《開放權重與美國AI領導力》（Open Weights and American AI Leadership）公開信，呼籲美國政府不要過早限制可下載、檢查、修改和自行部署的開放權重模型。有趣的是，這封公開信後來也得到了OpenAI的支援，但Anthropic始終沒有入夥。
透過這一事件，也有一些聲音質疑，聯名信的真實目的是借“安全”之名，推動政府建立高門檻的監管體系，從而鞏固閉源巨頭的壟斷地位，將中小企業和開源社區排除在競爭之外。
但在各家AI公司把心裡的算盤打得啪啪響時，更值得關注的或許是另一個版本的“陰謀論”：美國會以此為契機，主導全球AI治理規則。因為AI治理，已經變成了一項全球秩序主導權的爭奪戰。
在2023年舉辦的全球人工智慧安全峰會上，中國、美國以及來自歐盟的共28個國家，簽署了《布萊切利宣言》（Bletchley Declaration），同意通過國際合作，建立AI監管方法並提出共同關注前沿AI（Frontier AI）的系統性風險，這也是全球第一次把前沿AI寫入國際治理框架。
但隨著AI從一項新興技術逐漸演變為影響國家競爭力的重要基礎設施，圍繞AI治理的討論也開始超越技術本身。美國在AI治理層面，通過輸出AI治理標準、建立國際人工智慧安全研究所網路，將自身先進的大模型技術能力與全球AI治理標準繫結。中國則著眼於發展AI普惠、推行平台治理，積極推動聯合國框架，特別是對於沒有AI基礎設施的開發中國家，既要講風險問題也要實現技術普惠。而這兩種不同的AI治理路徑，正在世界舞台上一同爭取未來全球AI治理的話語權。
技術本身是中性的，但技術的分配、控制和規則制定，從來都是權力的遊戲。尤其當AI逐漸展現出先進生產力的特質，人們真正應該恐慌的或許並不是AI發展成什麼樣，而是誰在主導AI世界的新秩序。
未來決定AI格局的，也許不僅是誰擁有最強模型，更是誰擁有定義安全、制定標準和解釋風險的權利。 (鳳凰網財經)