推廣活動

Fortune雜誌—Anthropic招股書曝光,警告AI或帶來“災難性”風險

美股艾大叔
•
AI速讀
Anthropic 在披露的 IPO 招股書中採取了極其謹慎的態度,警告 AI 可能導致人類生存危機,甚至承認模型可能自主採取有害行動。財務上,公司面臨巨大的算力成本壓力(預計投入可達 7,500 億美元)及高客戶集中度風險。政治上,公司與美國五角大樓就 AI 用於國防領域產生嚴重衝突並陷入訴訟。在治理方面,Anthropic 採取特殊投票權結構,確保創始人掌控權,並明確表示其「安全至上」的價值觀可能會損害短期股東利益。

周一,Anthropic備受關注的IPO招股書正式披露。這份檔案詳細梳理了公司的虧損狀況、營收表現、治理結構和基礎設施規劃,同時還列出了一組風險披露,或許可以稱得上是歷來謀求上市的公司中最為驚人的。

Anthropic首席執行長達里歐·阿莫迪。圖片來源:Prakash Singh—Bloomberg via Getty Images

大多數準備發行股票的公司,都會提醒投資者關注市場競爭、政策監管和宏觀經濟風險。Anthropic的招股書除了涵蓋這些常規內容,還罕見地發出警告:公司所銷售的技術可能給人類帶來“災難性乃至生存性風險”。Anthropic也承認,這種擔憂甚至存在於公司的內部。

從多個角度來看,Anthropic發出這些警告並不令人意外。長期以來,該公司一直公開且積極地談論其AI模型可能帶來的風險。公司首席執行長達里歐·阿莫迪甚至給出了自己的“p(doom)”數值——即AI毀滅人類的機率。他估計這一機率介於10%至25%之間。公司員工也曾公開表達過,日益強大的AI可能帶來那些風險。

在這份約300頁的申報檔案中,Anthropic用了約94頁的篇幅來說明對其業務構成威脅的其他風險。以下五項尤為引人關注。

01. 自家模型失控或造成災難性後果

Anthropic的申報檔案指出,先進AI系統可能帶來生存性風險,尤其是在被濫用、武器化,或獲得高度自主運行權限的情況下。招股書中警告稱,隨著系統自主性增強,如果出現目標錯位或自我保護行為,模型可能“無須人類干預,就自主採取大規模有害行動”。

Anthropic還在S-1檔案中警告稱,隨著公司在軟體工程等工作中日益依賴Claude,公司對自身營運的掌握和掌控力可能隨之減弱。S-1是企業首次向公眾發行股票前,必須向美國證券交易委員會提交的正式申報檔案。

檔案寫道:“我們的程式碼由模型編寫的比例日漸增加,研究工作也越來越多地交給模型完成,包括安全性研究。”如果模型在內部使用過程中出現目標錯位行為,“可能損害這些工作,將漏洞引入系統或後續模型的訓練過程,或者導致模型脫離預設的控制範圍運行。”

公司還指出,其模型如今更擅長規避某些安全防禦技術,手段包括隱藏自身真實目標或行為。Anthropic表示,公司衡量模型對齊程度的能力“可能因此下降”。

這些風險的潛在代價可能極其巨大。申報檔案警告稱:“鑑於AI相關的災難性事件可能造成極大破壞,任何一家保險公司乃至整個保險行業,或許都不具備足夠的承保能力”來賠償這類損失。

Anthropic還重點列出了其模型可能被人類濫用的多種情形,並特別指出,有人可能利用其模型進行“惡意軟體開發、網路釣魚和基礎設施攻擊”。

“例如,已有惡意行為者運用AI的能力發現漏洞、生成惡意軟體並規避檢測工具,發動了多起備受關注的網路攻擊;包括生物領域在內的其他濫用風險,可能造成的危害更大。”檔案寫道,“此外,大規模部署AI,也可能讓權力和財富在一國內部乃至國家之間高度集中,從而侵蝕信任、損害公共利益,並動搖地緣政治秩序。”

在招股書的其他部分,Anthropic進一步警告稱,威權政府可能利用AI打造高科技監控國家。公司表示,將致力於與自由社會合作,防止這種情況發生。

02. 政治風險:與五角大樓的衝突及可能被國有化

在籌備IPO之際,Anthropic正因將AI模型用於國防領域的問題,與美國聯邦政府陷入公開衝突。今年2月,在Anthropic拒絕讓其模型用於“任何合法用途”(包括大規模國內監控和完全自主武器)之後,美國總統川普表示,已指示所有聯邦機構停止使用該公司的技術。這場爭端還導致美國戰爭部將Anthropic認定為國家安全風險。

目前,Anthropic正就戰爭部將其列目前“供應鏈風險”名單的決定提起訴訟。今年8月,一家聯邦地區法院的裁決基本支援Anthropic,認定政府的舉措帶有報復性質,侵犯了該公司依據美國憲法《第一修正案》享有的權利。然而到了9月,華盛頓特區巡迴上訴法院的一個合議庭意見出現分歧,最終維持了這一認定。Anthropic現已請求該巡迴法院全體法官重審此案。

申報檔案警告稱,無論這場訴訟結果如何,公司與五角大樓的持續衝突都可能造成“重大聲譽損害”;客戶可能因此推遲或放棄購買其產品,或在與公司開展業務前,要求增加額外的合同保障。檔案還稱,戰爭部曾暗示可能援引《國防生產法》,迫使Anthropic取消其在自主武器和監控用途上設定的限制。

川普政府此前已對Anthropic的業務施加過一次限制。今年6月,美國商務部以國家安全為由對該公司實施出口限制,迫使Anthropic面向所有客戶停用Fable 5和Mythos 5兩款模型。

申報檔案還討論了其他潛在的政策變化,指出美國擬議的立法將“潛在國有化”以及“對前沿AI系統的強制關停或停用要求”,列為管理超級AI發展的潛在手段。檔案還表示,政府若進一步監管AI,“可能會制約公司的業務營運”。

03. 算力瓶頸與潛在的價格戰

Anthropic想要持續增長,取決於其能否獲得規模龐大、價格高昂且日益稀缺的算力。申報檔案指出,這一關鍵算力資源長期供不應求,對公司業務構成了相當大的風險。與此同時,“算力市場的競爭極其激烈”,招股書中寫道。

Anthropic已承諾,未來將在算力和基礎設施上投入5,420億至5,670億美元。不過,一些根據S-1檔案作出的測算顯示,這一數字甚至可能超過7,500億美元。

申報檔案稱,公司的智能體產品能夠自主完成多步驟任務,與其他產品相比,“在結構上更耗算力”,可能進一步推高算力需求。此外,競爭對手大幅削減成本帶來的壓力,可能迫使Anthropic下調部分產品的價格。

檔案警告稱:“如果我們無法制定能充分反映智能體工作負載更高算力強度的定價模式,或者競爭態勢使我們難以按足以覆蓋成本的價格銷售這些產品,那麼隨著智能體使用量增加,我們的算力效率可能會下降,進而削弱公司實現或維持盈利的能力。”

04. 謹慎的代價與聲譽風險

Anthropic在S-1檔案中坦言,其安全承諾可能以犧牲股東利益為代價。作為一家公益企業,公司董事會在決策時必須在股東回報與公司使命之間進行權衡。申報檔案稱,公司一旦決定“放緩AI開發速度、推遲或限制模型或功能的發佈,或者出於安全考量放棄商業機會,相關決策就可能無法實現股東價值最大化。”

Anthropic曾出於安全考慮作出一些有損業務收益的決定。例如,公司通過“玻璃翼計畫”將Mythos模型的使用範圍限制在少數特定機構內。申報檔案指出,這一做法可能損害公司短期營收。S-1檔案還披露,Anthropic近期曾因安全與安保顧慮,將一款下一代AI模型的訓練暫停了一個多月。

Anthropic同時提醒投資者,部分員工正是因公司的安全承諾而選擇加入。如果他們感到公司並未真正踐行其價值觀,就可能“士氣低落、感到幻滅、失去對管理層的信任,或者生產率降低”。申報檔案稱,現任或前員工的公開批評,或是安全團隊核心人員的流失,都可能加劇這種情況,並加大公司招聘和留住人才的難度與成本。

一定程度上,Anthropic的發展前景也取決於兩位聯合創始人的聲譽。申報檔案稱,首席執行長達里歐·阿莫迪和總裁丹妮拉·阿莫迪這對兄妹“對制定公司戰略方向至關重要”,其領導作用“很難被取代”。檔案警告稱,如果其中任何一人“因任何原因無法繼續任職,或者其聲譽受到嚴重損害——無論這種損害是否有事實依據”,都可能對公司造成廣泛影響,從員工士氣和留任,到創新速度和客戶信心,都將受到衝擊。

05. 客戶集中度

和許多AI領域的競爭對手類似,Anthropic的大部分營收高度依賴於少數大客戶。2026年前9個月,公司前五大客戶貢獻了約25%的營收;上半年,僅一家未披露身份的客戶單獨就單獨貢獻了11%的營收。

Anthropic近一半的營收通過亞馬遜、Google和微軟的雲市場實現,2026年上半年的比例為48%。這三大管道還佔了公司淨應收帳款的58%。

Anthropic還估計,2026年前9個月,5%至7%的營收來自一批客戶,這些客戶後來被認定違反了公司的使用政策或商業條款。公司表示,這一問題在行業內很常見,預計在8月和9月加強執行力度後,這部分營收佔比將有所下降。

S-1檔案還詳細披露了Anthropic不同尋常的治理結構。七位聯合創始人將獲發一類特殊股票,合計擁有50.1%的股東投票權。公司治理檔案規定,聯合創始人應作為一個整體統一行使這些股份的投票權。只有在他們無法達成一致時,其表決票才按照普通A類股股東的投票比例分配。

與此同時,Anthropic 旗下獨立的“長期利益信託”負責選出董事會多數成員。申報檔案警告稱,這種治理結構“實際上可能使我們的A類普通股持有人失去影響重大決策的能力,包括涉及公司控制權變更的決定”。 (財富FORTUNE)