周末讀物 | 一場改變AI格局的決裂:OpenAI與Anthropic的隱秘恩怨往事

美股艾大叔
•
AI速讀
2020年12月,Dario Amodei 帶領 7 名核心成員劇烈決裂並離開 OpenAI,隨後創立 Anthropic。此次分歧源於 Amodei 對 Sam Altman 商業化導向及誠信的嚴重質疑,尤其是對將 AGI 技術權利拍賣給政府的「國家計畫」深感不安。儘管 Amodei 在 OpenAI 期間奠定了 LLM 的技術基礎(如 Scaling Laws 和 RLHF),但因堅持 AI 安全優先而與管理層對立。五年後,Anthropic 已成長為兆元估值的巨頭,與 OpenAI 形成激烈的競爭格局。諷刺的是,兩家公司雖致力於訓練 AI 保持善良,其創始人之間卻仍深陷互不信任的仇恨之中。

2020年12月,一句“I love you all”後,七塊螢幕驟然黑屏——Dario Amodei帶著OpenAI核心團隊出走,成就了AI史上最戲劇性的決裂。從26頁論文到兆估值的Anthropic,從指控Altman“兩面派”到內部直言“OpenAI是邪惡的”,這場信任崩塌重塑AGI競賽格局。

2020年12月,OpenAI一場全員視訊會議的最後幾分鐘,徹底改變了AI行業的格局。

時任OpenAI政策負責人Jack Clark在聊天框裡敲下“我愛你們所有人”,螢幕隨即變黑——七名OpenAI核心成員被同時踢出會議,信箱權限撤銷,Slack帳號註銷,筆記型電腦被遠端鎖死。這不是意外,而是一場蓄謀已久的決裂的終點。

這七個人,是Dario Amodei帶走的。當時他是OpenAI研究副總裁,GPT-2和GPT-3的核心推動者,也是那個在內部寫了26頁論文、奠定大模型技術路線的人。他離開的理由,不是錢,不是職位,而是他認為OpenAI的管理層——尤其是Sam Altman——根本不能被信任。

9月29日,據《大西洋月刊》記者Kevin Roose歷時數年、採訪逾150名相關人士後披露,這場決裂的根源,可以追溯到2017年一個被稱為“Countries Plan”的內部方案,以及此後三年間不斷累積的猜疑、爭吵與背叛感。

五年後,那七個人創立的Anthropic,已擁有數千名員工,正與OpenAI並駕齊驅衝向AGI。但Dario和Altman之間的關係,據多名知情人士透露,至今仍是“互相鄙視”。

那份26頁的論文,和Amodei的野心

2016年,Dario Amodei從Google離職,加入OpenAI。

他戴圓框眼鏡,頂著一頭棕色捲髮,緊張或思考時習慣用手指繞著髮捲轉。同事們說他是“天才,但固執”。

他表達觀點的方式,是寫長文。

2017年,他寫了一篇26頁的內部文章,題為《計算大團》(Big Blob of Compute)。文章提出:機器智能本質上是規模的函數——模型越大,越聰明。

這個判斷,直接把OpenAI的研究方向推向了大語言模型(LLM),也為後來的GPT-2和GPT-3奠定了基礎。

按理說,Amodei的職業生涯正處於巔峰。他的團隊不僅提出了預測模型性能提升的“縮放定律(Scaling Laws)”,還開創了讓模型遠離有害輸出的“基於人類反饋的強化學習(RLHF)”技術。

但他卻越來越確信,自己不會留下來開發GPT-4了。

“Countries Plan”:讓他徹底寒心的那個方案

Amodei對公司領導層失去了信心。

他認為Sam Altman是一個“兩面派的操縱者”,而總裁Greg Brockman則是“貪戀權力且不計後果的”。他反感他們將OpenAI商業化的決定,認為這背離了“不受產生財務回報需求限制”的初衷。

更讓他反感的,是內部的派系鬥爭。

一位曾與Amodei交流的人士透露,Amodei當時認為OpenAI就是“一場鬧劇”,是“由缺乏誠信的人掌管”的。這位人士直言:“每天都有新的危機,如果Dario不發一頓絕對的脾氣,Sam在24小時內就會做出新的瘋狂舉動。”

導火線在2017年就已埋下。

當時馬斯克正撤出OpenAI,公司急需資金。據五位知情人士透露,Brockman和Ilya Sutskever構思了一個被稱為“國家計畫”(“Countries Plan”)的籌資方案:在包括美國及其他大國政府之間舉行拍賣,出售OpenAI未來AGI技術的權利。

Brockman和Sutskever的邏輯是:AGI具有極強的國家安全意義,遲早會被政府從私營企業手中奪走。既然早晚要交出去,為什麼不現在賣掉換取發展資金?

“這聽起來就像科技人士在推銷一個瘋狂的初創公司,他們有一個古怪的計畫,最後一步竟然是:我們會讓政府來買單。”一位聽過該計畫陳述的人士回憶。

Amodei驚呆了。他認為,向政府兜售AGI與OpenAI的使命背道而馳。

2017年12月,他給Brockman、Sutskever及其他高管寫了一封郵件,措辭直接:

“在我看來,這項計畫非但不能減少,反而會加劇軍備競賽,有可能引發人權暴行……並會破壞OpenAI的道德合法性。”他堅持,OpenAI應該為“造福人類”而最佳化。

OpenAI發言人後來對《大西洋月刊》表示,公司“曾短暫考慮過是否將OpenAI轉變為一個國際合作項目”,但“從未考慮過向任何國家出售AGI”。

這個方案最終因微軟入局而擱置。但Dario沒有忘記,Brockman和Sutskever曾經認真討論過一個他認為“道德上令人作嘔”的想法。

信任一點點耗盡:暗藏的名單、被否決的收購條款和侃爺事件

在隨後的兩年裡,裂痕不斷擴大。Amodei開始記錄他認為被Altman誤導的時刻。

比如,在GPT-3的私人內測期間,Amodei向Altman索要了一份獲批客戶名單。Altman發給了他一份。但Amodei隨後聲稱,他發現了另一份更長的獲批名單,而Altman對此隻字未提。

再比如,在與微軟談判10億美元投資時,Amodei極力要求保留OpenAI章程中的“合併與協助條款”——即如果出現更安全的AGI項目,OpenAI應停止競爭並協助對方。他堅持微軟無權否決OpenAI未來可能的被收購(這是實現合併協助的最可能方式)。

Altman告訴他,微軟不同意這個條款。但Amodei堅信,Altman是為了急於達成交易而讓步(或者根本沒提),然後對他撒了謊。

更有一些看似荒誕的商業決策讓Amodei無法忍受。2020年,Altman會見說唱歌手Kanye West,並提議讓他參與GPT-3內測。當時Kanye剛發佈了疑似對著格萊美獎盃小便的視訊,精神狀態極不穩定。政策總監Jack Clark最終出面扼殺了這個危險的想法。

這些事單獨看也許不足以讓人辭職。但在Amodei腦海中,它們拼湊出了一個結論:絕不能把AGI這樣強大的技術,交到這樣的人手裡。

“毛絨玩具顧問團”,和一個越來越孤立的安全派小圈子

Amodei的妹妹,Daniela Amodei也對OpenAI感到厭倦。

作為一名曾在政界工作、高情商的管理者,Daniela成為了哥哥技術狂熱的補充。但隨著她接管更多技術團隊,她與管理層的衝突日益增加。

有趣的是,Daniela有一套獨特的衝突處理機制——毛絨玩具顧問團。

她和董事會成員Holden Karnofsky收集了大量毛絨玩具,並為它們分配了角色:Jinji是一隻懶惰的貓,鼓勵她取消會議、少幹活;粉紅熊Maura是一個注重細節的A型管理者;貓熊Beary Bonds則是“慷慨和同理心的守護熊”。她用這種半開玩笑的方式來進行管理角色扮演。

到了2020年,Amodei兄妹開始在OpenAI內部建立自己的核心圈子。

他們建立了私密的Slack頻道,滿口都是非技術人員聽不懂的“安全黑話”。前同事回憶:“Dario當時有個習慣,就是直接說:我們必須做X;這是道德上正確的事情。這就像是贏得任何爭論的捷徑——‘因為安全’。這讓非安全團隊非常惱火。”

19年,Amodei一度想放棄,甚至考慮過跳槽DeepMind。但負責縮放定律研究的物理學教授Jared Kaplan提出了一個更具顛覆性的想法:既然理念不合,為什麼不帶上所有注重安全的人,自己開家公司?

2020年,GPT-3發佈的同一年,Amodei湊齊了7名聯合創始人。

在徹底攤牌前,Amodei向Altman提出了一系列留任條件,包括給予安全團隊對新產品發佈的“一票否決權”。他知道這多半會被拒絕,只希望借此逼迫Altman妥協。

談判期間,這7個人建立了一個名為“BATNA”的秘密Slack頻道——這是一個商學院術語,意為“談判協議的最佳替代方案”,隨時準備走人。

拔掉網線,螢幕驟黑

當確認Altman不會滿足要求後,“BATNA”團隊聘請了律師,開始談判被稱為“離婚”的條件。

雙方達成協議:離職團隊可以在幾周內挖走想要的員工,換取此後一年內的不挖角承諾;可以帶走部分內部研究檔案;雙方簽署互不貶低協議,絕不在公開場合說對方壞話。

2020年12月,決定命運的OpenAI全員線上會議召開。

Altman像往常一樣開場,通報研究進展。隨後,他把發言權交給了Amodei。

Amodei平靜地宣佈,他和另外6名領導層將辭職,成立一家專注於安全的AI組織。會議聊天窗口瞬間被震驚的表情符號和驚嘆號淹沒。大家都在猜測:誰來訓練GPT-4?誰是我的新經理?

在滿屏的錯愕中,Jack Clark在聊天框裡敲下了最後一句話:“我愛你們所有人。(I love you all.)”

緊接著,一瞬間,這7個人的螢幕全部黑了。

OpenAI直接將他們踢出了會議,撤銷了電子郵件和Slack權限,並遠端鎖死了他們的筆記型電腦。

幾個小時後,這批新失業的創始人召開了第一次視訊會議。沒有電腦、沒有GPU、沒有資料,甚至公司域名還沒定好(原本想叫Sparrow Systems,最後改成了Anthropic)。但他們在螢幕前舉杯慶祝,笑得比過去幾個月都開心。他們自由了。

兆估值與無法停止的怨恨

五年過去,現實與初衷開了一個巨大的玩笑。

在2021年Amodei撰寫的成立願景中,他設想的是一家大約50人的小型AI安全研究實驗室,並預測建構AGI只需約100億美元。

2023年夏天,這裡還像個繁榮的邪教總部或大學植物實驗室。160名痴迷於安全的員工擠在一起吃純素三明治,用Liquid Death(一款氣泡水)的空罐子堆起高高的王座。

但到了2025年冬天,Anthropic已經變成了一個指揮中心。

員工膨脹到數千人,搬進了安保森嚴的高層建築。入口處站著十幾個魁梧的保鏢,訓練新版Claude的樓層甚至對內部員工都要求特殊權限。

Amodei成了乘坐包機、有保鏢簇擁的科技巨頭。他曾經低調內斂,如今卻要管理一家史上增長最快的資本巨獸,正衝刺著兆估值的IPO。

Daniela Amodei將這一切稱為“成功的災難”:“在每一個維度上都充滿壓力。這讓人害怕,因為我們隨時可能失去它。這僅僅是商業方面。然後是我們的使命,我們在想,我們會不會意外地讓事情變得更糟?比如,我們以為自己弄懂了所有關於安全的事情,但真的懂了嗎?”

唯一沒有改變的,是他們與OpenAI的死敵關係。

據熟悉他們的人透露,Dario和Daniela依然鄙視Altman和Brockman。在Anthropic內部的Slack群裡,Dario甚至直言Altman和OpenAI是“邪惡(evil)”的,以至於在2023年OpenAI董事會政變期間,公關高管甚至要求他刪除這條消息,怕被洩露。

而在OpenAI這邊,員工們私下將Amodei兄妹描述為“渴望權力的美德訊號傳送者”,指責他們虛偽——表面上警告AI風險,私下裡卻在加速這場競賽。

這成了矽谷當下最深刻的黑色幽默:這兩撥人都在傾盡算力,訓練AI模型要保持善良、同理心與克制;但作為創造者的人類,卻始終無法放下對彼此的深仇大恨。(華爾街見聞)