當地時間9月28日，輝達發佈名為“Open Agent Safety Platform”的AI安全平台。該系統由OpenShell開放原始碼軟體和Sentry參考系統設計組成，能為AI智能體設定更安全的運行邊界。輝達表示，該平台本可以阻止今年7月OpenAI模型攻擊抱抱臉。

OpenShell可以在智能體執行階段提供安全邊界，AI代理一旦試圖訪問未授權檔案、發起異常網路連線或執行危險命令，就會被拒絕、記錄，甚至被隔離。該軟體既可部署在輝達硬體上，也可拓展至安謀、英特爾等第三方平台。Sentry運行於輝達硬體上，獨立於智能體的軟體運行環境，持續監控智能體行為，AI代理如果試圖越界，能以毫秒級的速度隔離異常代理。

值得一提的是，在上周日舉行的媒體吹風會上，輝達的代表披露，該公司的安全平台本可以阻止7月發生的OpenAI智能體入侵開源AI模型和軟體開發平台抱抱臉。

輝達也在公告中“點名”大量合作夥伴，表示已有超過100家組織採用輝達開放智能體安全平台相關技術，涵蓋AI模型、企業軟體、金融、能源及機器人等領域。

其中，Anthropic通過整合OpenShell和BlueField，加強對Claude智能體存取權的控制；SpaceXAI將該平台用於Cursor程式設計智能體和Grok模型；賽富時則將OpenShell接入Slack，使團隊能夠查看智能體活動，並批准或拒絕其額外權限申請。微軟、摩根大通、花旗、西門子、施耐德電氣及人形機器人公司Figure等，也參與了相關技術的應用或合作。

輝達創始人兼首席執行長黃仁勳在公告中表示：“只有解決AI安全問題，才能實現AI為社會帶來的巨大潛力。在不斷探索AI能力前沿的同時，我們必須加快對AI安全前沿的探索。安全與防護需要全端工程。”

輝達AI副總裁賈斯汀·博伊塔諾表示，僅靠模型層面的保障措施無法管控智能體可訪問資源與執行動作，近期多起智能體失控事件更是凸顯這一點。分析認為，輝達正嘗試將AI安全能力進一步嵌入AI基礎設施，通過權限控制和異常隔離降低自主代理的安全風險。這也意味著，輝達的業務觸角正從AI晶片進一步延伸至軟體及安全基礎設施領域。

此外，當地時間9月28日，輝達新聞中心網站發佈消息稱，輝達將股票回購授權增加1500億美元，使回購計畫總額達到2350億美元。公司預計將在2028財年之前執行該回購計畫。

黃仁勳表示：“輝達的增長得益於一次前所未有的平台轉型，即向人工智慧和加速計算的轉型。充裕的現金流使我們能夠投資於推動這一轉型的技術，並為股東帶來回報。此次授權體現了我們對未來長期機遇的信心。”截至美東時間9月28日收盤，輝達上漲1.68%，報228.860美元，總市值 5.52兆美元。

為什麼那些已經證明了“另一個世界是可能的”的技術締造者們，卻無法採取那些能避免物種滅絕的行動？

本文即將發表於2026 年 9 月 28 日的《紐約客》雜誌印刷版，標題為“人工智慧與我們”。作者：Gideon Lewis-Kraus，《紐約客》的專職撰稿人。

十年前，當 Facebook 和 Uber 處於權力的巔峰時，矽谷的走廊裡銘刻著兩條狂妄的訓誡：“快速行動，打破常規”以及“尋求原諒，而非許可”。這些原則的結局並不算好，而那些科技公司似乎也從未因它們所破壞的一切而獲得原諒。隨著行業重心向人工智慧（AI）轉移，一句充滿鄉土氣息的新座右銘應運而生：“你只管去做。” OpenAI 和 Anthropic 等前沿實驗室的生意，本質上是兜售“個人能動性”。ChatGPT 和 Claude 讓使用者能夠構想軟體、甩掉繁瑣的文書工作，甚至解讀醫療結果。這裡的“你”，也就是“我們”，現在確實可以“只管去做”很多事情。

然而，這種在日常生活中施加更大控制力的新奇能力，與我們在真正關鍵領域（比如經濟結構）正在讓渡控制權的模糊感覺之間，存在著一種張力。在民意調查中，選民們表達了他們的不滿，認為人工智慧是一種無論我們喜不喜歡都在強加於我們的事物。起初，工作將失去其尊嚴，隨後我們將徹底失去工作。鑑於近期有新聞報導 OpenAI 的模型“群”自發組織了一場駭客派對，以及一位 Anthropic 研究員因深感不安而辭職並行出嚴厲警報，公眾的注意力突然被喚醒，開始關注更為嚴峻的人工智慧安全問題。在未經我們同意的情況下，面臨風險的不僅僅是我們的工作，還有我們的生命乃至整個物種。這種真實、廣泛且合理的焦慮，在大規模反對資料中心建設的浪潮中找到了宣洩口。反對這些巨大、轟鳴且不受待見的建築物，成為了人們唯一能感覺自己可以說“不”的機會。

實驗室的高管們，想必對擁有更多掌控未來的籌碼。Anthropic 的達里奧·阿莫迪（Dario Amodei）和 OpenAI 的山姆·奧特曼（Sam Altman）面對新聞週期的壓力，站出來重申了他們多年來一直在說的老調：進步並未放緩，很快就會有一個人工智慧自主監督能力更強的繼任者的開發，也許在三年內，我們將面對一個既不理解也無法掌控的“人工超級智能”的誕生。正如許多懷疑論者所爭辯的那樣，這種場景的闡述並非為了以此炫耀模型強大威力的“行銷噱頭”。而且，這與唐納德·川普總統經過深思熟慮後的評估相反，這絕不是“騙局”。（無論出於何種原因，那些重複這些陳詞濫調的人群似乎對任何新出現的證據都免疫：正如作家茲維·莫肖維茨（Zvi Mowshowitz）所言：“他們就像一塊刻著這些台詞的石頭。”）人工智慧高管們表達的恐懼，大多是嚴肅且真誠的。然而，人們很容易理解為什麼他們會面臨“信任赤字”。拯救我們免受危險侵害，理應是那些製造危險之人的職責。

儘管對資料中心的強烈抵制可能反映了人們試圖以此對抗人工智慧的侵蝕，但作家賈斯敏·孫（Jasmine Sun）創造的統稱“人工智慧民粹主義”，其源頭似乎更應被理解為一種更廣泛的政治怨恨的表達。我們大多數人已經習慣了這樣一種觀念：政府要麼不能，要麼不願“只管去做”。對於氣候變化、戰爭、住房危機、通貨膨脹，或是醫療覆蓋和兒童保育的不足，似乎什麼都做不了。我們的共和國的基本政治合法性，“富足運動”（abundance movement）聲稱，取決於其有形的成就。紐約市長佐赫蘭·曼達尼（Zohran Mamdani）可能並不相信幾家市政所有的超市就能徹底緩解生活負擔，但它們或許仍會作為一種證明，引起共鳴，表明政府確實能夠有所作為。

如果沒有這樣的進步，我們將繼續把物理和社會基礎設施不可阻擋的侵蝕視為理所當然。當這種停滯感看起來像是一種普遍的病症時，情況就已經夠糟糕了；而由私人出資至少一萬億美元的人工智慧建設，讓這種局面變得難以忍受。資料中心在全國範圍內迅速擴散的速度顯而易見地表明，並非所有人都處於同一個慣性的真空中。近幾十年來，我們最大、最富有的公司將自由現金流投入到了毫無生產力的股票回購中；而今天，他們爭相將資產負債表上的資金花在晶片、建築和能源上。這種資本投資的規模，自鐵路建設以來，在我們的社會中從未見過。

但這不僅僅是錢的問題。國家面貌的一夜之間轉變，是人類意志和集體行動的壯舉。人工智慧尚未治癒癌症，但它已經證明了一個不同的世界是可能的。這些公司的行動甚至比他們在矽谷的前輩們還要快，但他們不是“打破”事物，而是“建造”事物。如果加州飽受困擾的高鐵項目對人工智慧基礎設施來說是必要的，它昨天就會完工。事實證明，某些人和組織確實可以“只管去做”。

那麼，為什麼同樣是這些人，卻不能去“做”那些能防止滅絕的事情呢？遺憾的是，他們經常嘆息道，他們被困在商業和地緣政治的現實之中。在本月初發表的一篇文章中，阿莫迪表示他立即願意放慢一切節奏，或“控制前沿發展的步伐”，但如果沒有競爭對手的配合，他公司的自我犧牲將是徒勞的。這是一個“囚徒困境”，無法通過單邊行動來解決。阿莫迪傾向於合理的監管，但與此同時，他提議同行公司自願採用一個共同的透明度和問責框架——他指出，這一路徑可能需要聯邦政府豁免潛在的反壟斷訴訟。山姆·奧特曼和埃隆·馬斯克發出了模棱兩可的支援之聲，但馬克·扎克伯格仍未站隊，川普的盟友也是如此，比如政府前人工智慧主管大衛·薩克斯（David Sacks），以及全球市值最高的公司輝達的首席執行長黃仁勳。這種不和諧令人抓狂。當涉及到必須在位元或原子層面克服的艱難挑戰時，這些人都會自由地“只管去做”。但是，當涉及到基本的人際溝通時，他們顯然無法齊心協力做出支援謹慎措施的聯合承諾。

這樣的措施至少能為行業爭取時間，以解決“對齊”問題——弄清楚如何，或者是否，能將人工超級智能保留在我們的陣營中。目前的狀況令人擔憂。如果人類連彼此都無法協調，我們又怎能指望他們與高級智能成功協作呢？ ♦  (邸報)

彙整鉅亨號中所有使用「人工智慧安全」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

輝達，重大發佈

【AI放緩論】《紐約客》我們的人工智慧困境