#AI安全
•

Anthropic訴川普政府受挫：美上訴法院維持「供應鏈風險」認定

週五，美國聯邦哥倫比亞特區巡迴上訴法院週五以2比1的裁決，駁回了Anthropic對五角大廈將其列為供應鏈國家安全風險的異議。不過加州聯邦法官此前發佈的，暫停政府禁令的裁定目前仍然有效。Anthropic在聲明中表示不贊同裁決，考慮尋求複審。 Anthropic與川普政府之間圍繞人工智慧技術的法律紛爭出現新進展，但雙方的對峙格局尚未終結。 週五，美國聯邦哥倫比亞特區巡迴上訴法院週五以2比1的裁決，駁回了Anthropic對五角大廈將其列為供應鏈國家安全風險的異議，為政府方面取得一項關鍵勝利。 不過，一名加州聯邦法官此前發佈的、暫停政府禁令的裁定目前仍然有效，使這場爭議的整體走向依然懸而未決。
美股#Anthropic#國家安全風險#AI安全
•

【AI放緩論】剛發佈Claude Opus5.5，Anthropic CEO說將放慢AI研發

據財聯社消息，Anthropic首席執行長達里歐·阿莫迪（Dario Amodei）在聯合國安理會就人工智慧議題發言稱，由於安全的緣故，公司將放慢AI的研發進度。 Dario Amodei表示，人工智慧的快速發展推動了健康科學領域的進步。人工智慧可能對全人類構成風險，認為存在不法分子利用人工智慧製造生物武器的風險。如果管理不善，確實認為人工智慧可能會對全人類構成生存風險。 9月12日，Dario Amodei發表長文，主張行業必須“放慢提升模型能力的速度”，以換取1至2年時間部署安全保障。Amodei表示，“限速”不等於停止訓練，而是要求在訓練與發佈之間留出足夠時間完成對齊和安全加固，並由第三方確認相關步驟確實發生。 當地時間9月22日，Anthropic宣佈推出Claude Opus 5.5模型，而不到兩個月前，Claude Opus 5發佈。
【AI放緩論】剛發佈Claude Opus5.5，Anthropic CEO說將放慢AI研發
科技#Anthropic#Dario Amodei#AI安全
•

【AI放緩論】黃仁勳《克萊恩秀》深度訪談全文：AI本質上只是軟體！如果真怕AI失控，那就別發新產品！（深度解讀）

黃仁勳認為，AI本質上只是軟體，不是具備自主意識的生命體；AI安全是電腦工程問題，而不是神秘不可控的生存危機；因此，不需要以“末日論”為依據引入全新監管，企業完全有能力也有責任“不發佈不安全產品”。 深度總結 一、總判斷：為AI“祛魅”，把安全還原為工程問題 黃仁勳整場訪談的核心立場可以概括為一句話：AI本質上只是軟體，不是具備自主意識的生命體；AI安全是電腦工程問題，而不是神秘不可控的生存危機；因此，不需要以“末日論”為依據引入全新監管，企業完全有能力也有責任“不發佈不安全產品”。
【AI放緩論】黃仁勳《克萊恩秀》深度訪談全文：AI本質上只是軟體！如果真怕AI失控，那就別發新產品！（深度解讀）
科技#黃仁勳#AI本質#AI安全
•

【AI放緩論】OpenAI與Anthropic聯袂呼籲AI放緩與國際協調，與川普立場分歧

OpenAI與Anthropic兩位CEO現身聯合國安理會，立場一致呼籲放緩AI開發節奏，並尋求跨國協調機制以應對潛在的災難性風險。而就在前一天，川普將此類努力斥為"全球主義陰謀"。 OpenAI和Anthropic兩家頂級AI公司的CEO本週在聯合國安理會發出共同呼聲，要求各國就人工智慧風險展開國際合作。而就在前一天，川普在聯合國大會上將此斥為"全球主義陰謀"。這一罕見的公開對峙，將AI監管路線之爭推上了全球外交舞臺。 週三，OpenAI首席執行官Sam Altman與Anthropic首席執行官Dario Amodei在聯合國安理會發表講話，雙雙呼籲放緩AI開發節奏，並尋求跨國協調機制以應對潛在的災難性風險。 在競爭激烈的AI行業，兩位對手CEO公開站在同一立場，本身已屬罕見。同時此番表態與川普政府的政策取向形成直接衝突。
科技#OpenAI#Anthropic#AI安全
•

【AI放緩論】Anthropic的CEO：由於安全的緣故，公司將放慢AI的研發進度

Anthropic CEO Dario Amodei在聯合國安理會警告，若管理不善，AI可能對全人類構成生存風險，並呼籲各國政府攜手製定全球AI安全標準。他指出AI存在被用於生物武器的風險，同時也可能演變為失控系統。他表示將放緩AI研發進度，並敦促推進國際安全合作框架。 Anthropic首席執行官Dario Amodei在聯合國安理會警告，若管理不善，人工智慧可能對全人類構成生存風險，並呼籲各國政府攜手製定全球層面的AI安全標準。 Amodei週三通過視頻方式出席安理會會議，明確指出AI存在被不法分子用於製造生物武器的風險，同時也可能演變為開發者無法駕馭的失控系統。 Amodei表示，出於安全考量，Anthropic將放緩AI研發進度。
科技#Anthropic#Dario Amodei#AI安全
•

【AI放緩論】Anthropic CEODario Amodei 聯合國安理會發言 ：由於安全的緣故，公司將放慢AI的研發進度(深度解讀）

Anthropic CEO Dario Amodei在聯合國安理會警告，若管理不善，AI可能對全人類構成生存風險，並呼籲各國政府攜手制定全球AI安全標準。他指出AI存在被用於生物武器的風險，同時也可能演變為失控系統。他表示將放緩AI研發進度，並敦促推進國際安全合作框架。 一、事件背景：安理會AI安全會議的召開 9月23日，聯合國安理會舉行人工智慧安全高等級會議。Anthropic首席執行官Dario Amodei通過視訊方式出席，OpenAI首席執行官Sam Altman現場出席，Hugging Face聯合創始人Clément Delangue亦參與發言。此次會議召開之際，AI行業正經歷一輪前所未有的安全辯論：Anthropic研究員Jacob Coxon因擔憂AI安全性而辭職，多家AI公司出現“AI代理失控”事件，全球範圍內要求放緩AI開發節奏的呼聲持續升溫。 Amodei的發言是其本月初發表的約3800字長文《We Must Pace the Frontier》的延續與升級。該文此前已在矽谷引發廣泛反響，OpenAI CEO Sam Altman、馬斯克旗下xAI以及Google DeepMind董事長Demis Hassabis均在社交媒體上表示認同。美國國會議員也援引該文推動了一系列AI安全立法討論。
【AI放緩論】Anthropic CEODario Amodei 聯合國安理會發言 ：由於安全的緣故，公司將放慢AI的研發進度(深度解讀）
科技#Anthropic#Dario Amodei#AI安全
•

特斯拉 AI 副總裁 Ashok Elluswamy 周日承認，Optimus 演示視訊裡的動作 "本質上由人工遠端控制"。

特斯拉 AI 副總裁 Ashok Elluswamy 週日承認，Optimus 演示視訊裡的動作 "本質上由人工遠端控制"。 這句話坐實了我此前的判斷：特斯拉在自動駕駛上的優勢，不能直接搬到人形機器人上。Optimus 短期更像演示工程，離可規模部署的生產力還遠。 其實遙控本身不丟人。機器人早期靠遙操作采資料，是行業常態。 真正值得我們關注的是：演示動作仍由人控，說明它還沒轉起自動駕駛那個 "部署 — 資料 — 訓練 — 再部署" 的飛輪。
科技#特斯拉#Optimus#人形機器人
•

OpenAI研究員驚人言論：物理隔離無法阻止失控AI！

物理隔離，有可能阻止失控AI嗎？ OpenAI核心研究員Noam Brown給出的答案是——不能！ 即使拔掉網線，將伺服器鎖進物理隔絕的暗室，足夠聰明的AI，也有可能逃脫。 9月17日，在長達一小時的深度播客對話中，Noam Brown親口說出了這個驚人的事實。
OpenAI研究員驚人言論：物理隔離無法阻止失控AI！
科技#AI安全#OpenAI#物理隔離