亞馬遜的擔憂促使美國限制Anthropic旗下AI模型出口

據《華爾街日報》報導,Anthropic已暫停向境外使用者提供其Fable 5和Mythos 5兩款AI模型的存取權,原因是美國政府出台了新的出口限制措施。

此次限制措施的出台,源於美國官員與Amazon.com(納斯達克股票程式碼:AMZN)之間的溝通。Amazon.com是Anthropic最大的投資方和雲端運算合作夥伴之一。

據報導,Amazon.com首席執行長安迪·賈西(Andy Jassy)提出了安全方面的擔憂,起因是公司研究人員發現可以通過提示詞誘導Fable 5提供可能協助網路攻擊的資訊。

這一擔憂隨即引發白宮及安全官員的審查。

隨後,相關官員要求Anthropic修復上述安全漏洞,或限制該模型的存取權。

川普政府最終認定,限制境外政府、企業及個人的存取權,是降低潛在風險最直接有效的方式。

報導稱,儘管有聲音擔憂此舉可能阻礙AI 類股的創新發展,川普總統仍批准了上述限制措施。

Anthropic隨即宣佈暫停Fable 5和Mythos 5兩款模型的存取權,以配合相關指令的落實。

該公司表示,所發現的漏洞相對基礎,且其他公開可用的AI模型中已存在類似功能。

此次限制標誌著政府對先進AI系統的監管力度顯著加強。

這也是川普政府加強對前沿AI模型審查、評估其潛在國家安全影響系列舉措的延續。

Anthropic正籌備今年晚些時候的首次公開募股(IPO),政府的上述行動可能給其上市計畫帶來挑戰。

該公司已躋身頂尖AI初創企業之列,以其Claude系列模型著稱,這些模型被眾多企業和軟體開發者廣泛使用。

報導還揭示了Anthropic與川普政府之間日益加劇的緊張關係。

美國官員多次對該公司管控日益強大的AI系統相關風險的能力提出質疑。Anthropic則對其模型構成獨特安全威脅的說法予以反駁。

此次限制措施也可能令OpenAI等競爭對手從中受益——在Anthropic努力恢復存取權期間,部分客戶或將轉向其他先進AI模型尋求替代方案。 (invest wallstreet)