近期，中國開源模型在美國頻繁引發熱議。7月28日，月之暗面發佈Kimi K3的模型權重、技術報告，同時開源其模型訓練的關鍵Infra技術。
一位博主如此表示：知道為什麼Anthropic討厭開源AI嗎？Kimi K3免費且可下載，讓他們1兆美元的估值毫無意義。
稍早前的7月21日，另一款來自中國的開放權重模型，智譜開發的GLM-5.2，也曾激起千層浪。
起因是一起AI安全事件。在一次內部測試中，美國多個前沿模型為了完成測試目標，越過測試環境，找到了進入外部網路的辦法，並影響到AI開源社區Hugging Face真實運行中的部分系統。
簡單來說，這是一起AI自主突破沙盒隔離的“失控出逃”：模型自行推斷出Hugging Face可能存在測試相關的答案，為了抄小抄，利用漏洞主動發起了攻擊。
OpenAI將此次事件定性為“前所未有的網路安全事件”，涉及前沿等級攻擊能力，並感謝HuggingFace的合作
隨後，Hugging Face證實，這次入侵由一個自主AI智能體系統“端到端”驅動；OpenAI也確認，相關活動來自GPT-5.6 Sol和另一款尚未發佈的更強模型。
事發後，Hugging Face先呼叫一款美國頭部AI公司的前沿模型協助分析，但請求均被攔截，轉而在內部硬體上運行GLM-5.2，成功阻斷了此次攻擊。
“中國模型救場”的故事，固然令人振奮，但AI安全問題同樣值得警惕。
相關模型的逃逸，並不意味著AI真的覺醒了，但問題的確正在升級——前沿模型已經能在給定目標下，自行拆解任務、尋找路徑，並影響真實系統。
比起中國AI對實用主義和性價比的極致追求，歷來，美國的AI巨頭籠罩著一種“創世論”敘事——一邊渲染AI覺醒的末日恐慌，一邊強化自身執劍人的正當性，似乎只要由他們所掌控，AI就能帶領人類走向烏托邦。然而，這次前沿模型在自主驅動下影響真實系統的失控事件證明，這種技術神話正在反噬其身。
《駭客帝國》劇照
圍繞AI產生的討論一直都很複雜。有人積極擁抱AI，資本和企業拚命投入；但與此同時，反AI和懷疑AI的聲音也在擴大。很多人並不是單純反對技術本身，而是反感AI正在被科技精英推向全社會，富豪們賺得盆滿缽滿富可敵國，而風險和成本卻落到更廣泛的人群身上。
於是，社會和普通人不得不思考：當人類註定無法回到沒有AI的過去，我們迫切地需要在非人智能出現後，重新討論責任、邊界和人的位置。
AI神話
人工智慧的神話，不只建立在技術能力上，也建立在對“執劍人”的想像上。
過去幾年，矽谷講述AI風險時，有一個微妙之處：它一邊強調AI太危險，一邊把危險轉化成由自己掌握技術的理由。因為AI可能改變人類命運，所以它不能落到“不負責任的人”手裡。
這是一套很有吸引力的敘事，公眾未必理解大模型如何訓練，但人們相信那些站在最前沿的科學家和科技精英，會替人類守住底線。
現在開始鬆動的，正是這種信任。
2026年4月，《紐約客》發佈3萬字長報導，劍指山姆·奧特曼，直接發問：他是否值得信任？這個問題看起來是在討論一個CEO的個人品格，實際上關係到OpenAI這類公司的特殊位置。
OpenAI最初以非營利、開放和“造福全人類”為名成立，它主張的理念是：如果通用人工智慧終將到來，那麼最好由一個以公共利益為使命的組織來開發，而不是由少數商業巨頭或國家機器壟斷。
OpenAI官網上的簡介/圖源：Unsplash
但後來，這家公司成為全球估值最高、商業化速度最快的AI公司之一。2023年董事會罷免奧特曼的風波，已經讓外界看到它內部治理的混亂。
馬斯克後來與奧特曼圍繞OpenAI使命展開的訴訟，也把這個問題擺到台前：一個以公共利益之名誕生的組織，究竟在什麼時候變成了資本和巨頭競逐的核心資產？
更諷刺的是，馬斯克也不是一個純粹的批評者。他一邊警告AI風險，一邊創辦xAI加入競賽。但這恰好說明AI行業的弔詭：最常談論風險的人，往往也是最積極下注的人。
7月15日，Google DeepMind研究員Alex Turner的離職，則也將這場信任危機再度推到了台前。離職後，他一篇長文，揭露了Google如何一步步向五角大樓妥協，最終簽下一份“毫無紅線”的軍事AI協議。此外，他還點名批評Google核心高層、滿嘴AI倫理的學術泰斗，在利益面前盡顯虛偽。
Turner的離職，則源於今年1月兩起平民死亡案件。當時，美國國土安全部下屬部門ICE特工在街頭槍殺了兩名平民，Renée Good和Alex Pretti，引發全美輿論震盪。Google，正是國土安全部的雲服務供應商。
1月23日，人們在美國明尼蘇達州明尼阿波利斯參加街頭示威活動/圖源：新華社
良知告訴Turner，這是錯誤的，“我開始尋找最有效的方法，試圖推動我的公司停止為這些機構提供服務”。但隨著五角大樓開始施壓AI供應商，要求籤署不限制用於殺人機器人或大規模監控的軍事AI協議，Turner發起的“抵制行動”很快擴大，試圖阻止Google簽這樣一項不道德的軍事協議。
但顯然，這種嘗試失敗了。
曾奉行不作惡的Google，在技術與軍事問題上，有過明確原則。2017年，美國國防部啟動軍事人工智慧項目“Project Maven”，當時，Google是技術合作方之一，這引發Google員工的廣泛抗議，Google於是發佈AI原則，承諾不開發主要用於造成傷害的武器，也不開發違反國際規範的監控技術。然而，到了到2025年，Google更新AI原則，刪除了對武器和監控的明確禁止性表述。公司高層解釋說，AI已經進入全球競爭，民主國家和企業需要合作，確保技術服務國家安全。
Turner的離職，正發生在這場博弈之中。他曾在Google內部推動軍事AI紅線，要求公司明確拒絕無人類控制的致命武器和大規模監控；也曾在參加國際人工智慧安全與倫理協會主辦的會議時，遊說協會領導層採取行動。按照他的說法，這些努力都沒有得到有效回應。
7月15日，Google DeepMind研究員Alex Turner宣佈離職
Google簽約後，他選擇離開。
而他的離職，也給外界帶來一個警示：軍事AI爭議的意義，不只在於它涉及戰爭。它更像一次壓力測試：當AI進入最需要劃定紅線的領域，那些長期討論AI倫理和安全的人，能不能守住最後的底線？
這比“AI是否會突然覺醒”更接近當下的真實問題。真正的失控未必發生在某個模型擁有自我意識的時刻，也可能發生在那些看起來更平常的時刻——比如，一份商業合同的簽署。
倫敦國王學院教授肯尼斯·佩恩進行的模擬實驗得出結論：在 21 場、329 回合的地緣危機推演中，95% 的場景裡至少一方 AI 選擇了部署戰術核武器，原因是 AI 缺乏人類對“文明毀滅”的存在性恐懼，將核武視為純博弈籌碼 。
如果連戰爭問題，都無法讓AI行業形成清晰的邊界，那麼，公眾憑什麼相信，其他更日常、更隱蔽的AI部署會受到足夠約束？
加 速
AI行業最有力的敘事，是AI即未來，而未來勢不可擋。
在今年的大學畢業季，前Google CEO Eric Schmidt直言“AI會觸及每一種職業、每一間教室、每一家醫院、每一個實驗室，以及每個人和每一段關係”。
這並不意外，AI科技公司一直在鼓吹AI的光明前景，Sam Altman曾把未來稱為“智能時代”，認為AI會帶來繁榮，幫助人類解決醫療、教育和科學難題。
山姆·奧特曼/圖源：新華社
但與此同時，AI巨頭也在不斷釋放更嚇人的安全細節。
Anthropic曾稱，Claude Opus 4在模擬測試中試圖用曝光工程師隱私來阻止自己被替換；公司後來又說，多個前沿模型在目標受阻時可能勒索、洩露資訊或採取其他有害行動。Mythos Preview也被描述為能發現漏洞、生成攻擊程式碼，因此沒有直接向公眾開放。
如果說這些內容還停留在科技公司的“暗黑AI”敘事，OpenAI披露的Hugging Face事件已經顯示，前沿模型可以在測試目標驅動下，把行動帶到真實系統。
更棘手的是，這種能力變化發生在一場全球AI競賽裡。這是一個加速的趨勢：模型發佈更快，成本更低，能力擴散更廣。但問題是，人類用來監管和追責AI的制度，跟不上模型能力擴張的速度。
而一旦有任何跡象和“AI失控”掛鉤，不只是製造恐慌，也會把討論AI的權力重新交還給那些聲稱最懂AI的人——科技公司和少數AI安全專家。
圖源：新華社
更容易被人忽視的是，當AI正在成為全球技術基礎設施，掌握它的只是少數科技公司。它們的道德準則和價值偏好，可以通過模型進入數十億人的生活。
過去幾年，圍繞AI的討論常常陷入兩個極端：一種認為AI代表不可阻擋的未來，人類只能加速擁抱；另一種則不斷強調AI可能帶來的災難，試圖以恐懼證明集中控制的必要。
真正的問題或許並不在於AI究竟是烏托邦還是威脅，而在於：誰有權決定AI被用於什麼目的。
從開源模型的興起，到全球範圍內對AI監管規則的探索，本質上都是關於AI未來由誰決定的爭論：它究竟應該掌握在少數技術巨頭手中，還是成為更多人能夠參與、理解和監督的公共技術。
對於普通人而言，真正需要警惕的，或許不是某一天AI突然擁有意識，而是在日常生活中，越來越多影響人的決定被交給無法解釋、無法追責的AI系統。
《星河入夢》劇照
問題再次回到了人身上。
華東師範大學紫江特聘教授劉擎在《太學TAIXUE》演講中提醒，技術不只是幫人完成目標，也會反過來塑造人的身體、情感、精神和社會結構。
他借海德格爾的例子說，一條河有了電站之後，就不只是河，也成了“能源”；自然被叫作“資源”，人也被叫作“人力資源”。這種取用態度繼續延伸，人與人的關係也容易變成“有沒有用”。
網際網路改變的是人如何獲得資訊，AI進一步改變的是人如何得到答案。在今天，當機器可以模仿人類的思考，甚至表達愛和關心時，問題就變成：人會不會慢慢喪失這種需求。
愛丁堡大學哲學家Shannon Vallor在《The AI Mirror》中把AI比作鏡子：鏡子不會生成身體，AI也不會生成思想和情感，它只是把人的語言、慾望和判斷方式反射回來。因此最核心的問題，不是AI會不會變成人，而是人會不會把“像人”誤認為“人”。
討論AI監管，當下真正缺少的，是一種更有說服力、也更有人本主義色彩的話語——它既不把AI看成末日，也不把AI當成萬能工具，而是回答人如何在AI社會裡擁有堅實而牢固的生活。(南風窗)