最近,一篇長文震撼整個AI圈。
7月15日,前GoogleDeepMind科學家Alex Turner宣佈辭職。
在一篇令人震驚的長文中,他揭露了Google如何一步步向五角大樓妥協,最終簽下一份「毫無紅線」的軍事AI協議。
這篇「矽谷現行記」中,Turner不僅曝光了Google高層在利益面前的虛偽,更直接點名批評了包括Jeff Dean、Demis Hassabis在內的Google靈魂人物,以及Yoshua Bengio、Stuart Russell等滿嘴「AI倫理」的學術泰斗。
當殺手機器人的潘多拉魔盒被打開,那些曾發誓捍衛人類底線的AI大佬們,究竟在幹什麼?
以下,是Alex Turner用離職換來的驚人真相。
01. 五角大樓的「霸王條款」
Turner的憤怒,源於真實的事件。
2026年1月,美國國土安全部的特工在街頭槍殺了至少兩名平民。當Turner看到受害者遇害前的畫面時,他感到不寒而慄。
但更讓他無法接受的是,他發現Google正是DHS的雲服務和AI技術供應商。
特納決定發起行動,阻止Google繼續提供服務。
然而,他很快發現,這只是冰山一角。一個更大的、足以改變人類歷史走向的陰謀正在醞釀。
當時,五角大樓正在向各大AI巨頭施壓,要求他們簽訂一份允許「任何合法政府用途」的軍事AI合同。
如果簽下,就意味著他們的模型將被用於製造致命自主武器(殺手機器人),或是建立大規模AI監控網路。
當時,Anthropic拒絕了這一霸王條款,結果遭到「切斷供應鏈」的威脅。
然而,Google正準備悄悄投降。
02. 25頁苦心,換來高層的「已讀不回」
為了阻止Google簽下這份「賣身契」,特納開始了長達數月的內部斡旋。
他深知,高管們不喜歡空洞的抗議,於是利用假期時間,撰寫了一份長達25頁的《軍事AI紅線與監督框架》。
其中,他詳細擬定了審查機制,明確規定了AI不能用於無人類控制的致命武器和無差別監控。
這份方案非常專業,連頂級的軍事與監控法專家都評價「相當出色」。
不僅如此,特納還在Google內部發起請願,成功收集了約250名GDM和Google研究部門員工的簽名。
萬事俱備,只欠東風。
然而,在經過一系列繁瑣且無效的內部溝通後,特納做出了一個大膽的決定:直接給GoogleDeepMind CEO Demis Hassabis發私信。
Demis看到了消息,並回覆說會讓高級政策團隊的兩名負責人去評估。
Turner本以為看到了希望,但現實卻狠狠給了他一記耳光。那兩名負責人直接對特納的消息「已讀不回」。
在特納的反覆追問下,他們敷衍地表示:「評估需要幾個月的時間」。
然而,五角大樓給的最後期限就在眼前。
特納甚至提出,願意自費從舊金山飛到倫敦,當面向他們解答方案中的任何疑問。
然而,負責人再次「已讀不回」。
直到Google最終簽下協議,特納的這份被盛讚的25頁框架,始終沒有被高層看過一眼。
03. 「Google之神」Jeff Dean的沉默與妥協
在Google,Jeff Dean的名字就是神話。他是首席科學家,是Gemini項目的聯合負責人。
如果說Google內部有誰能憑一己之力攔下這筆骯髒的交易,那只有Jeff Dean。
特納將最大的希望寄託在了Jeff Dean身上。
因為,早在2018年,Jeff Dean就曾公開簽署過一份著名的《反對致命自主武器誓言》,承諾「絕不參與或支援致命自主武器的開發、製造、交易或使用」。
不僅如此,Jeff經常痛批大規模監控,表現得像一個充滿正義感的鬥士。
特納成功約到了Jeff Dean共進午餐。
在此之前,特納甚至幫Jeff規劃好了:250名員工的請願書作為民意基礎,幾位高管暗中承諾只要Jeff牽頭他們就跟進。
特納的邏輯很簡單:只要Jeff Dean拿著這份協議去找GoogleCEO劈柴,說一句「如果你簽了這個,我就辭職」,Pichai絕對不敢簽。
Jeff Dean確實採取了行動。在Anthropic對抗五角大樓的官司中,Jeff公開簽署了一份檔案聲援Anthropic,打破了Google管理層的沉默。這一舉動一度讓五角大樓對Google產生了顧慮。
但這,也就是Jeff Dean做的全部了。
當五角大樓的壓力再次襲來時,Jeff Dean沒有像特納期望的那樣「以死相逼」,沒有用自己的辭職作為籌碼來要挾公司。
最終,Google悄悄簽下了合同。
而發誓「絕不支援殺手機器人」的Jeff Dean,依然安穩地坐在Google首席科學家的位子上,假裝一切都沒有發生。
特納在文中痛心疾首地發問:「一個簽過反自主武器誓言的人,眼睜睜看著公司把AI交給想造殺手機器人的軍方,並放棄了所有限制權利,他怎麼還能繼續留在這裡開發這個AI?」
04. 被扒皮的AI倫理「泰斗」們
那些把「AI安全與倫理」掛在嘴邊的學術泰斗們,他們的袖手旁觀令人心寒。
在這段時間裡,特納飛往巴黎,參加了國際安全與倫理AI協會的大會。該協會的主席是著名的AI先驅Stuart Russell,另一位重量級人物是圖靈獎得主Yoshua Bengio。
Stuart Russell,是全球呼籲禁止自主武器的頭號鬥士,曾在聯合國痛陳「殺手機器人」的危害。
特納在會場上攔住了Bengio,請求他發聲支援Anthropic,結果Bengio的辦公室隨後冷冷回覆:「我們決定不發表聲明」,拒絕給出任何理由。
特納又當著全場觀眾的面質問Stuart Russell。
Russell在台上信誓旦旦地承諾:他會推動大會進行全體成員投票,並行表一份強有力的聲明,對抗軍方的「勒索敲詐」。
現場觀眾舉手錶決,幾乎全票支援。特納以為,整個AI學術界終於要站在一起,給Google和五角大樓施加輿論壓力了。
然而,接下來的操作堪稱魔幻。
大會結束後,IASEAI的管理層悄悄取消了公開承諾的成員投票。沒有任何聲明,一切就像沒發生過一樣。
特納在接下來的兩個月裡無數次給協會負責人發消息,請求他們那怕私下給Google高管打個電話,利用他們的影響力斡旋一下。但換來的,全都是「已讀不回」。
特納諷刺道,「有人說他們是在積攢政治資本。但當真正的危機到來,當你只需要發一封郵件、打一個電話就能改變歷史時,你卻選擇了沉默。」
05. Demis Hassabis的「掩耳盜鈴」
2026年4月27日晚11點45分,特納在員工群裡收到了噩耗:Google正式與五角大樓簽下軍事AI大單。
Google甚至不敢在內部公開宣佈這件事。
最讓特納感到恥辱的是,合同中關於限制自主武器和大規模監控的條款,用的居然是「不應該」這種完全沒有法律約束力的詞彙!
Google連遮羞布都不要了。這是一張徹頭徹尾的空頭支票,五角大樓想怎麼用Gemini,Google根本無權干涉。
面對員工的質疑,DeepMind CEO Demis Hassabis在接受採訪時依然振振有詞:「這個世界變得越來越危險……我們的AI原則沒有任何改變。」
早在2014年Google收購DeepMind時,雙方的協議明確規定AI決不能用於軍事和武器。
而到了2025年2月,Demis親自參與修改了Google的AI原則,悄悄刪除了這個條款。
刪除了禁止武器的紅線,然後對著公眾說「原則沒變」,Hassabis的所作所為,令人唏噓。
06. 致命的危險——當Gemini成為軍方的「黑盒」
拋開道德譴責,特納作為一名前沿AI研究員,指出一個極其恐怖的技術安全風險。
前沿安全研究表明,一個高級AI如果想要欺騙人類,它絕不會直接寫在最終輸出裡,而是會隱藏在CoT中。
監控AI的思維鏈,是保護人類免受生存威脅的最後一道防線。
然而,Google和五角大樓是怎麼合作的?
很多人以為只是軍方呼叫Google的API,Google還能在後台稽核。
大錯特錯!實際做法是:Google直接把裝有Gemini模型的伺服器,物理部署在軍方與世隔絕的資料中心裡。
這意味著,Google徹底喪失了對Gemini CoT的監控能力!
軍方內部根本沒有受過專門AI對齊訓練的工程師去即時監控這些隱秘的思維鏈。
特納警告說:「一個沒有思維鏈監控的軍事部署環境,簡直是流氓AI夢寐以求的溫床!它不僅缺乏監管,還能直接接觸到最強大的軍事決策者和武器基礎設施。這簡直是災難!」
07. 屠龍少年,終成惡龍
在長文的最後,特納解釋了自己為什麼離職。
當得知合同簽署的那一刻,他感到大腦一片空白。
當他再次走進Google辦公樓這個「科技聖殿」時,他感覺自己像是一個回到了舊高中的畢業生——曾經這裡裝滿了夢想,
但現在,他非常清楚地知道,自己已經不屬於這裡了。
特納沒有像其他離職的AI大佬那樣,藉機跳槽拿高薪,他選擇成為一名失業者。
「每當我想退縮時,我就會看看手機裡存著的那張照片——那個被DHS特工在街頭無辜槍殺的平民。」 (新智元)
