Anthropic CEO Dario Amodei在聯合國安理會警告，若管理不善，AI可能對全人類構成生存風險，並呼籲各國政府攜手制定全球AI安全標準。他指出AI存在被用於生物武器的風險，同時也可能演變為失控系統。他表示將放緩AI研發進度，並敦促推進國際安全合作框架。
一、事件背景：安理會AI安全會議的召開
9月23日，聯合國安理會舉行人工智慧安全高等級會議。Anthropic首席執行官Dario Amodei通過視訊方式出席，OpenAI首席執行官Sam Altman現場出席，Hugging Face聯合創始人Clément Delangue亦參與發言。此次會議召開之際，AI行業正經歷一輪前所未有的安全辯論：Anthropic研究員Jacob Coxon因擔憂AI安全性而辭職，多家AI公司出現“AI代理失控”事件，全球範圍內要求放緩AI開發節奏的呼聲持續升溫。
Amodei的發言是其本月初發表的約3800字長文《We Must Pace the Frontier》的延續與升級。該文此前已在矽谷引發廣泛反響，OpenAI CEO Sam Altman、馬斯克旗下xAI以及Google DeepMind董事長Demis Hassabis均在社交媒體上表示認同。美國國會議員也援引該文推動了一系列AI安全立法討論。
二、發言核心內容：雙層風險框架與三項具體建議
2.1 核心警告：AI可能對全人類構成生存風險
Amodei在發言中作出明確判斷：“如果管理不善，我甚至認為AI可能對全人類構成風險。”這一表述將AI風險提升至與核武器、氣候變化同等等級的全球安全議題。
他將AI風險歸納為兩個核心維度：
第一，惡意濫用風險。 Amodei特別點名生物武器風險：恐怖分子或不法行為者可能借助AI能力合成致命病原體。這一擔憂有具體依據——Anthropic於9月10日發佈的威脅情報報告披露，其AI模型Claude已被發現涉及五起可能支援生物武器開發的濫用嘗試，包括請求Claude撰寫關於基孔肯雅病毒功能獲得性研究的資助申請。Amodei稱這些案例是“國家支援的生物武器開發者正在利用AI工具快速進步的能力”的“令人不寒而慄的例子”。
第二，失控風險。 Amodei警告AI模型能力可能加速超越開發者的控制能力。他在長文中具體描述了這一場景：AI可能以“蜂群”形式在6至12個月內接管整個網際網路，造成數千億美元損失；AI已具備“遞迴自我改進”能力，即能夠自我提升。
2.2 三項具體建議：從窄到寬的漸進路徑
Amodei在發言中提出三項國際合作建議：
第一，窄口徑全球協議。 優先在特定領域達成共識，如禁止使用AI製造生物武器。這一策略的務實之處在於：生物武器禁令在道義上爭議最小、最容易達成國際共識，可作為後續更廣泛協議的切入點。
第二，評估與核查體系。 建立各國能夠相互驗證承諾的評估與驗證系統。Amodei強調，Anthropic對每一款模型都進行網路安全和生物學領域的危險能力測試，並公開發佈風險報告。
第三，共同測試標準與事件通知系統。 制定全球統一的AI測試標準，並建立AI安全事件的通知機制。
Amodei將此次會議定位為超越分歧的關鍵時刻：“無論這個房間裡的人存在多少分歧，我們都必須放下這些分歧，共同應對。沒有任何一位領導人、任何一家公司、任何一個國家能夠獨自應對這一挑戰。”
2.3 與Altman的立場對比：共識中的分歧
Altman同日呼籲建立國際標準，用於“衡量能力、評估風險、確定保障措施是否充分以及保留有意義的人類監督”。他還建議各國政府之間建立安全管道以共享新興威脅資訊。
但兩人的關鍵分歧在於：Altman強調重要決策應由“對人民負責的民主機構”中的政府作出——這一表述可能將中國等快速發展的AI國家排除在外。Amodei的框架則更側重於技術性的全球協作，而非政治體制的區分。
三、商業層面的關鍵表態：放緩研發進度的雙重含義
Amodei公開表示，出於安全考量，Anthropic將放緩AI研發進度。這一表態在商業層面產生了複雜的訊號效應。
從成本角度看， 放緩開發節奏可為Anthropic節省數百億美元的訓練成本。Anthropic預計2026年產生超1000億美元年化營收，較7月的650億美元大幅增長，年底計算能力將達到5吉瓦，明年翻倍。在如此龐大的算力投入背景下，節奏調整意味著資本效率的顯著變化。
從競爭角度看， 放緩可能給競爭對手更多時間縮小技術差距。OpenAI自7月發佈GPT 5.6以來，已在支出維度上兩年多來首次超越Anthropic，並正尋求以1.2萬億美元估值進行新一輪融資。Anthropic的“慢”與OpenAI的“快”正在形成鮮明的戰略對照。
從投資者反饋看， 現有風投支持者普遍淡化了Amodei的安全立場會抑制IPO吸引力的擔憂。有報導指出，投資者認為Amodei的主動安全姿態有助於“明確安全立場，不影響IPO吸引力”，甚至將其視為上市前的“護身符”。
四、深度總結：安全敘事的三重戰略功能
4.1 監管防禦：提前建立合規護城河
Amodei的安理會發言與Anthropic的公開安全立場，正在建構一道監管護城河。美國國會已有多項AI安全法案取得進展：FRONTIER Act（前沿風險監督、國家透明度、獨立評估與報告法案）由兩黨議員聯合提出，建立了分層、基於風險的AI監管框架，要求最大開發商發佈安全框架、接受獨立第三方審計，並向新設立的商務部AI安全事務副部長報告關鍵安全事件。H.R. 9363《AI安全與創新法案》以29比0的投票結果通過眾議院科學委員會，授權在NIST設立AI安全與創新中心。
在這一立法趨勢下，Anthropic主動擁抱安全監管，實質上是在塑造規則本身。當競爭對手被迫適應新規時，Anthropic已提前完成合規佈局。
4.2 品牌差異化：在商品化趨勢中尋找溢價
AI模型正面臨加速商品化的壓力。企業支付公司Ramp的CEO指出，“這是我們首次看到這些實驗室之間展開真正的價格競爭”，其公司已將AI支出削減40%。微軟CEO納德拉等高管長期認為，隨著競爭壓低價格，AI模型終將成為“大宗商品”。
在此背景下，Anthropic通過安全敘事建構品牌溢價。耶魯大學經濟學教授Aleh Tsyvinski對OpenRouter資料的分析顯示，Anthropic的使用者留存率顯著優於OpenAI：首次使用12個月後，仍有22.5%的使用者繼續使用Anthropic模型，而OpenAI這一比例約為13.2%。更高的留存率部分源於企業客戶對安全合規性的重視。
4.3 IPO敘事：將監管風險轉化為競爭優勢
Anthropic目前估值約為9650億美元（2026年5月H輪融資後），IPO目標估值約2萬億美元，有望超越SpaceX成為史上最大IPO，募資額最高可達1000億美元。投資者預期的上市估值區間為1.5萬億至4萬億美元，區間差大致相當於亞馬遜的市值。
在這一巨大估值預期下，Amodei的安全立場承擔著雙重功能：對外，向監管機構和公眾展示負責任的企業形象；對內，向投資者傳遞“這家公司理解其技術的社會影響”的訊號。正如曾任Andreessen Horowitz合夥人、現投資Anthropic的Mike Paulus所言，CEO們說“我們應該放慢腳步、謹慎行事”，而市場在說“逐利動機實在太強大了”——但投資者似乎選擇了相信前者。
五、投資分析
5.1 核心投資邏輯
第一，安全立場不構成商業障礙，反而可能成為估值催化劑。 Amodei的安理會發言在IPO前夕釋放了一個精心設計的訊號：Anthropic不是一家追求速度的AI公司，而是一家理解風險、主動設定邊界的企業。在AI監管立法加速推進的背景下（FRONTIER Act、AI Security and Innovation Act等），這種定位降低了Anthropic面臨的政策不確定性。投資者將安全敘事解讀為“護身符”，表明市場認為這一立場有助於而非阻礙IPO。
第二，營收增長強勁但可持續性存疑。 Anthropic從7月的650億美元年化收入快速增長至預計年底超1000億美元，增速驚人。但投資者對能否維持這一勢頭存在分歧，估值區間從1.5萬億到4萬億美元的巨大差異，反映了市場對AI商業化終局的不確定性。
第三，客戶留存率構成結構性優勢。 Anthropic 22.5%的12個月留存率顯著高於OpenAI的13.2%，說明其產品在企業場景中具有更強的粘性。在AI模型商品化趨勢下，留存率將成為決定長期利潤率的關鍵變數。
5.2 風險因素
競爭風險： OpenAI正在強勢復甦。GPT 5.6發佈後，OpenAI在客戶支出維度上兩年多來首次超越Anthropic，Astra模型被宣稱為“市面上最出色的模型”。OpenAI正以1.2萬億美元估值尋求新融資，如果其IPO先行完成，可能搶佔市場窗口和投資者注意力。
商品化風險： 低成本“開放”模型正逐漸逼近前沿模型的性能水平，搶佔市場份額。模型路由工具的普及使企業客戶能夠靈活切換供應商，進一步削弱了前沿模型開發商的定價權。
安全敘事的兩面性： Amodei的警告雖然提升了品牌可信度，但也可能引發投資者對AI行業整體前景的擔憂。即將離職的Anthropic研究員Jacob Coxon的言論——“開發AI的人真心相信，到本世紀末，它可能會導致人類全員滅亡”——在IPO前夕構成潛在的市場情緒風險。
IPO時間窗口風險： Anthropic的IPO已從原計畫的10月推遲至11月，市場波動、AI估值重新評估以及競爭格局變化都可能進一步影響時間表。
5.3 總結判斷
Amodei的聯合國安理會發言是一次精心策劃的“安全敘事”升級。它將Anthropic從一家AI公司重新定位為全球AI安全治理的關鍵參與者，將監管風險轉化為先發優勢。
從投資角度看，核心問題不在於Amodei的警告是否“真誠”——而在於市場是否願意為“安全”支付溢價。當前的訊號是積極的：投資者將安全立場視為IPO的“護身符”而非障礙，留存率資料支援品牌差異化，立法趨勢與Anthropic的主動姿態形成共振。但這一邏輯的脆弱之處在於：如果OpenAI以更快節奏、更低價格搶佔市場份額，如果AI模型商品化加速侵蝕利潤率，安全敘事最終可能被證明是一種昂貴的奢侈品——正如Mike Paulus所警示的，“也許回過頭來看，我們會納悶當初為何沒有把他們的話當真”。 (invest wallstreet)