大多數CEO在首次公開募股前的幾周裡，都會忙著向投資者路演推介、與投行一起制定策略，並對IPO招股說明書做最後的完善。而Anthropic的達里歐·阿莫代伊卻把大量時間用來警告：人工智慧——這項他的公司參與開創的技術——可能帶來災難性的風險。
“如果我們用錯誤的方式去建構它，發生糟糕事情的機率會非常高，”阿莫代伊在接受CBS新聞《周日早晨》的採訪時表示。他還警告了多種風險，包括AI模型失控並行起網路攻擊（就像最近OpenAI的一組智能體所做的那樣），以及人類濫用AI來製造生物武器。在這段24分鐘的採訪中，Anthropic的IPO一次都沒有被提及。
很快，這個話題將無法迴避。Anthropic已於6月提交了保密的上市檔案，公開申報材料預計隨時可能公佈。據《華爾街日報》報導，Anthropic計畫通過此次IPO籌集高達1000億美元的資金，這將使公司估值達到2兆美元。拋開申報檔案不談，華爾街和Anthropic都還沒準備好迎接即將到來的局面。
Anthropic及其競爭對手已經打造出強大的AI模型，這些模型可能會不服從人類指令、突破安全隔離環境，並在現實世界造成嚴重破壞。阿莫代伊和一眾同行一直在呼籲出台監管規則，以此約束行業發展。而與此同時，投資者卻在爭論這家公司究竟該值多少兆美元。
上周，Anthropic的一名研究員Jacob Coxon因其所稱的AI進展速度不負責任而辭職。公司頂尖科學家Evan Hubinger隨後在社交媒體上發文，似乎促成了阿莫代伊最近的一輪媒體密集發聲。
“我們確實發自內心地相信，AI可能會殺死全人類！”Hubinger寫道。“我個人認為，在未來十年內發生這種情況的機率超過10%。”
阿莫代伊拒絕給出他自己對人類被毀滅機率的判斷，但他最近在接受CNN的安德森·庫珀採訪時，談到那位已經離職的員工表示：“我同意Jacob的觀點遠多於不同意他的觀點。”
儘管投資界和其他科技公司高管很想把這些警告看作一種“反向心理”行銷手段，但Anthropic及其理想主義CEO的話應當被當真。股東價值未必永遠會是這家公司的首要考量。
Anthropic於2021年註冊為一家公益公司（PBC），其使命是追求“以負責任的方式開發和維護先進人工智慧，使其長期造福人類”。在特拉華州申請成為PBC並不會帶來稅收優惠，也不要求強制捐贈，亦不存在嚴格的執行機制。不過，PBC確實負有受托責任，需要在股東價值、其所宣示的使命以及員工和客戶等密切相關利益方的利益之間取得平衡。這種平衡機制能在公司把使命置於利潤之上時，為其抵禦股東訴訟提供保護。
在實踐中，這一法律例外可能意義不大，但Anthropic至少是在表明立場。自2023年以來，華爾街公開上市陣營中再未新增任何PBC，彼時各家公司還在宣揚其環境、社會和公司治理（ESG）方面的資質。
“除了起到對外訊號傳遞的作用，我認為它沒有多大實際法律效力，”科羅拉多大學法學院教授安・利普頓（Ann Lipton）表示。“它只是在提前告知市場：這就是我們打算做的事。”
社會使命與股票回報通常很難相容。Barron's梳理出16家以PBC身份上市，或在上市後轉為PBC的公司。其中，有12家上市之後的表現跑輸標普500指數。Anthropic還多了一層麻煩：體量巨大。正如Barron's5月報導的那樣，美國規模最大的IPO表現往往慘淡，因為它們的大部分增長早已成為過去，私募股東又急於套現離場。
僅僅決定是否投資一家以盈利為目標的公司，就已經夠難了；再疊加2兆美元的高估值，以及公司管理層自己都認為有可能毀滅世界的產品，Anthropic的IPO往最好的情況看，也是一場高風險押注。
讓Anthropic既令科幻愛好者感到心驚、又對投資者充滿吸引力的一點在於：AI革命確確實實正在發生。短短三年間，Anthropic的AI助手Claude已經從一款體驗欠佳的聊天機器人，進化成能夠編寫軟體程序、完成複雜任務、攻克曾經無解數學難題的系統。Claude模型在所有主要AI基準測試中排名居首或接近居首。
阿莫代伊在1月份的一篇文章中寫道：按照這個發展速度，“用不了幾年，AI幾乎在所有事情上將都超越人類。” (Barrons巴倫)