Anthropic CEO Dario Amodei在聯合國安理會警告，若管理不善，AI可能對全人類構成生存風險，並呼籲各國政府攜手製定全球AI安全標準。他指出AI存在被用於生物武器的風險，同時也可能演變為失控系統。他表示將放緩AI研發進度，並敦促推進國際安全合作框架。
Anthropic首席執行官Dario Amodei在聯合國安理會警告，若管理不善，人工智慧可能對全人類構成生存風險，並呼籲各國政府攜手製定全球層面的AI安全標準。
Amodei週三通過視頻方式出席安理會會議，明確指出AI存在被不法分子用於製造生物武器的風險，同時也可能演變為開發者無法駕馭的失控系統。
Amodei表示，出於安全考量，Anthropic將放緩AI研發進度。
他敦促各國政府推進國際安全標準建設，並支援全球層面阻止AI被用於生化武器的相關努力。
此次表態是Amodei繼本月初發表一篇約3800字的深度文章之後，再度公開呼籲對最先進AI系統的研發加以約束，以使研究人員能夠更好地評估潛在威脅。
他的發言對市場具有直接影響：Anthropic正籌備IPO，估值或接近兆美元，其明確的安全導向立場將影響外界對該公司商業節奏與監管風險的預期。
AI兼具重大機遇與災難性風險
Amodei在發言中對AI的前景作出雙面評估。
他指出，AI的快速發展正在推動健康科學領域的實質性進步，Anthropic旗下AI模型Claude已在生命科學研究中取得具體成果，包括髮現一種帶有類CRISPR DNA重複序列的新型酶系統。
然而，他同時強調，這一技術也攜帶潛在的災難性後果。
在安全威脅方面，他特別點名生物武器風險。恐怖分子或不法行為者可能借助AI能力合成致命病原體，這也是Anthropic專門成立生命科學研究實驗室的背景之一。Amodei說：
這對全人類來說，既是機遇，也是挑戰。
呼籲超越競爭分歧，推進國際合作
Amodei將此次安理會會議定位為各國超越分歧、尋求共識的關鍵時機。
他說：
無論這個房間裡的人存在多少分歧，我們都必須放下這些分歧，共同應對。沒有任何一位領導人、任何一家公司、任何一個國家能夠獨自應對這一挑戰。
他具體呼籲建立AI安全認證體系，並推動出臺全球層面的AI監管合作框架，支援各國在阻止AI用於生化武器方面的協調努力。
這一立場與川普政府的態度形成對比，川普已將國際AI協調機制定性為"全球主義陰謀"並予以拒絕。
Amodei公開表態將放緩AI研發進度，這一表述在商業層面值得關注。
Anthropic與OpenAI同處全球最先進AI模型賽道的競爭前沿，兩家公司均在籌備IPO，估值均可能接近兆美元。
Amodei本月初發表的長文此前已在矽谷引發廣泛反響，OpenAI CEO Sam Altman及馬斯克旗下xAI均表示認同，美國國會議員也援引該文推動一系列AI安全相關立法討論。 (華爾街見聞)