•
“暴君”主宰AGI，OpenAI走向危險未來？
OpenAI的人事動盪繼續，這次是OpenAI總裁Greg Brockman宣佈長期休假——他被公認為Sam Altaman的鐵桿，曾在Sam被趕出董事會的時候和他同進退。Greg Brockman自己對外宣稱是長假之後會返回公司，不過，很多科技公司的高管，都會在離職前休一個長假，他的舉動很難不讓人有其它猜測。
此外，還有兩位核心高管被曝離職，一位是聯合創始人之一Johnson Schulman，他在離職前短暫擔任安全團隊負責人，這個團隊之前由OpenAI前首席科學家Ilya Sutskever和研究員Jan Leike共同負責。
同時，Johnson還領導了OpenAI的GPT系列大模型的Post-Training（後訓練）過程，可以說是技術建構中一個很關鍵的人物。更耐人尋味的是，他離職之後，和Jan Leike一樣，直接入職了OpenAI的最強競爭對手Anthropic。
另外，去年加入OpenAI的產品負責人Peter Deng也已經離職，雖然他並不是聯合創始人，但是剛剛加入不到一年就離職，也會讓外界猜測，OpenAI的團隊，到底怎麼了？
OpenAI的第二次人才流動大潮
創始人僅剩3位，還有1個長期休假
經過這次變動之後，OpenAI最開始的11位聯合創始人中，只剩下Sam Altman，Wojciech Zaremba 以及 Greg Brockman（還宣佈了長期休假）還留在OpenAI之中。其餘創始成員都離開了團隊。
這11名創始人中有五位是在2017-2018年期間，那個時候馬斯克宣佈撤資，引發過OpenAI的一波動盪期。包括Trevor Blackwell、Vicki Cheung、Durk Kingma、Pamela Vagata。而另一名創始成員 Andrej Karpathy也被馬斯克直接挖走，充當特斯拉自動駕駛負責人。他直到2023年2月才重返OpenAI。
剩餘的6名創始成員，都是在OpenAI去年年末的宮斗後，於今年離職的。包括OpenAI前首席科學家Ilya Sutskever，前文提到的John Schulman 以及回歸僅一年的科學家Andrej Karpathy。可以說，2024這一年，是OpenAI繼馬斯克風波以來，經歷的最大的一場元老人員變動潮。
OpenAI離職人員都去了那？
從OpenAI離職人員的去向看，他們一般都會走上兩條路徑。其一是加入對手公司，基本上是Deepmind和Anthrophic兩家。其二就是自己創業，上文提到的絕大多數離職人員（66%）都選擇了加入新的創業項目。
這一選擇實際上也催生了所謂的“OpenAI 黑手黨”。根據媒體整理，在今年之前已有近 30 名員工離開 OpenAI，創立了自己的 AI 企業。其中有數個都達到了獨角獸水平。其中最知名的就是Dario Amodei創辦的Anthrophic，目前已經成為OpenAI最有力的競爭對手。
本次離職影響有多大
從之前Information 透露出的架構圖，本次出現人事變動的三人都屬於OpenAI中的核心管理者。從職能上看，Brockman和Shulman都向OpenAI的CTO Mira Murati報告（Greg作為主席和董事會成員應該還負責另外的工作），而作為使用者產品VP的Peter Deng應該在匯報的第三層級。他們所負責的工作基本上屬於OpenAI核心技術工作。這些人的變動影響不能說不大，大概是最核心的40人高管中更換了3人。
但實際上，具體看3人負責的內容可能當下都不太能真正關聯到OpenAI新模型的開發核心。按OpenAI過往的官方部落格介紹，Greg Brockman在2022年起擔任總裁一職，當時專注於訓練OpenAI的旗艦 AI 系統。但實際上從GPT-4之後開始，現任首席科學家Jakub Pachocki就主導了 GPT-4 和 OpenAI Five的開發。
Shulman曾經負責OpenAI的後訓練部分，曾提出近端策略最佳化（PPO）演算法。這是一套用於改進大語言模型的核心策略演算法，也是OpenAI直到現在都在應用的主要演算法之一。但從Illya離職後，他就被改換為超級對齊的負責人，目前對GPT-5項目的影響估計很有限。
產品負責VP Peter Deng負責的是客戶產品，整體與GPT-5的核心開發工作關聯有限。
目前可以基本確認，研究VP Bob MacGrew及首席科學家Jakub Pachocku才是新模型開發的最關鍵人物。
另外，OpenAI內部可能現在推動技術革新的主要人物已不是高管，而是一些基層研究員了。比如前Stability AI CEO Emad就在X上表示，只有Alec Radford離職，才能確定OpenAI垮定了。
通過GoogleScholer的論文引用數量，我們也能看出他的份量。
所以，這次離職事件對OpenAI的研究進展影響可能有限，主要影響在團隊內部士氣和外部對公司的信心上。
畢竟連鐵哥們兒都留不住，讓聯創全都出局的老闆，很難讓人對其管理能力產生信心。
衝突的關鍵猜測
離開的關鍵詞：超級對齊
OpenAI的超級對齊項目於2023年6月成立，計畫未來4年投入20%算力，用AI監督AI的方式建構一個與人類水平相當的自動對齊研究器，以解決更高層次的智能系統與人類目標的一致性問題。“超級對齊”團隊由OpenAI聯合創始人、首席科學家Ilya Sutskever和研究員Jan Leike共同負責。
Ilya Sutskever可以說是OpenAI的靈魂人物之一，當2017年那篇引起行業巨大關注的“Attention is all you need”論文發佈之後，Ilya全力支援Transformer架構方向，隨後主導了GPT及文生圖DALL-E系列模型的研發。
Ilya同時也是被稱為“深度學習之父Geoffrey Hinton”的學生，在Hinton的指導下完成了他的本科和研究生學習，最終獲得了電腦科學博士學位。Hinton也一直提出警示，人工智慧的快速發展可能帶來超越人類智能的威脅。
2023年底，被外界稱之為“OpenAI宮斗”的事件最終由Ilya的離開，Sam Altman的回歸畫上了暫時的句號。但是，這場風波延續至今。外界最大的猜測就是，OpenAI內部的分歧，更大的是信仰的巨大沖突。
從Sam Altman的背景及行為表現來看，行業傾向於把他看作是e/acc(有效加速主義）的信奉者，認為技術的發展本質上對人類有益，人類應該投入儘可能多的資源去加速創新，來改變現有的社會結構。對應到OpenAI所做的事件中，簡單粗暴地可以總結為集中財力、資源，全速突破AGI。
超級對齊和有效加速，從本質上來說，已經不是路線之爭，而是內心信仰的巨大沖突。2024年5月，Jan Leike也宣佈離職，離職的時候在社交媒體X上發貼說：“我實在不贊同管理層對重要事項所定的優先順序，建造比人類更聰明的機器本質上是一項危險的工作，但在過去的幾年裡，AI安全已經讓位於閃亮的產品。這種分歧已經持續了一段時間了，終於到了無法挽回的地步。”
隨著Jan Leike的辭職，最初的超級對齊團隊也基本上宣佈結束。剩餘成員被整合到安全團隊，由Johnson Schulman負責，就在今天，Johnson Schulman也宣佈離職。
很耐人尋味的是，Jan Leike和Johnson Schulman都去了Anthropic，這個與OpenAI可以說是同根的“德比”。Anthropic的創始人也是OpenAI的前核心員工Dario Amodei，據說Dario早在2020年離開的時候，就是因為AI安全問題。
Dario在Antropic推出了Constitutional AI（憲法 AI），這是一種訓練 AI 模型的方法，通過一組明確的行為原則來指導 AI 系統的行為，而不是依賴於人類的反饋來評估響應。這種方法的核心是利用 AI 系統自身來幫助監督其他 AI 系統，以提高 AI 的無害性和有用性，同時擴大監督規模 。
Dario強調，Constitutional AI 的主要思想是使用 AI 系統來幫助監督其他 AI 系統，從而擴大監督規模，提升 AI 的無害性和有用性。Constitutional AI 的過程涉及到自我批評、修正、監督學習和強化學習等步驟，以及一系列基於自然語言的憲法準則，用於約束 AI 的行為。
是不是和Ilya的超級對齊思想，有著無比相似的味道？
似乎從此以後OpenAI和Anthropic，成為了AI領域有效加速主義和超級對齊主義的兩種信念的不同代表。
此前，有人憂心地指出，Ilya的出走，可能是因為看到了OpenAI的某些技術已經不受控制，如果真的是這樣，走在另外一條路上的Anthropic，也許會成為牽制這頭巨獸的有利武器。
畢竟，Anthropic的Claude系列模型，在能力上，已經無限接近OpenAI的GPT系列大模型。
另一種衝突：“暴君”Sam Altman，和理想主義的治理結構
另外一個核心人物，OpenAI的創始人Sam Altman所要堅持的，可能會比一個有效加速的信仰要困難更多。
首先，考古OpenAI，2015年12月11日創立。創立之初就充滿著理想主義的色彩，願景包括積極推動開發造福全人類的通用人工智慧（AGI），普惠每個人，對抗大公司或少數人對人工智慧的壟斷。
在這個願景號召下，募集了包括埃隆·馬斯克在內的大佬的錢，資助者似乎承諾在該組織的發展過程中向該組織提供數十億美元，這個時期的OpenAI，只需要關心如何完成理想，不需要操心柴米油鹽。
然而，在那篇現在舉世聞名的Attention is All you need論文出現之後，OpenAI走向了Scaling law的路線，這是一條需要巨量資源消耗的路線。
在2019年，為了能夠獲得融資，OpenAI轉向了混合結構，在母公司OpenAI Inc.下，成立了子公司OpenAI Global，其中微軟的投資換取了OpenAI Global高達49%的股份。
這就是說，OpenAI保留了原來的非營利母公司，但在這個母公司下面，建立了一個叫做OpenAI Global的營利性子公司。這個子公司可以吸收風險投資者的錢和員工的股份，也就是說，它可以像普通的公司那樣籌集資金了。
但是，OpenAI LP並不是完全變成了一個普通的公司，它還有一個特別的地方，就是“有上限利潤”。這意味著，雖然它可以賺錢，但是有一個上限。如果賺的錢超過了這個上限，超出的部分就要返回給非營利的母公司，這樣做可以確保OpenAI LP不會偏離它最初的目標，即造福全人類。
但是，這樣一個看似創新的架構，有一個潛在的風險，那就是非營利組織OpenAI LP的董事會控制著盈利組織Open AI Global，非盈利組織的使命是全人類的福祉，而不是股東的權益。微軟拿到了49%的股權，但是沒有董事會席位，也沒有任何發言權。
更為戲劇的是，在Altman被驅逐出董事會之後，又有98%的員工以辭職威脅簽署公開信，要求他復職。Altman在後來的採訪中說：“這件事，也許將會毀掉每個人的股權，而對於很多員工來說，這是他們全部或絕大部分的財富。”
普通員工為了最世俗利益的“抱團”，戰勝了核心創立者們的宏大安全AGI理想。
除了OpenAI的治理結構，Sam Altman的某種“惹爭議"管理的風格，也在網上被爆料出來，比如Altman有一套方法被他稱之為“動態”管理的方法，就是在毫無預警的情況下，讓某人擔任臨時領導角色，並分配資源。比如Altman曾經突然提拔了另一位人工智慧研究員Jakub Pachocki為研究主管，當時Ilya Sutskever就表示很不安，同時向兩名不同的高管承諾資源和責任，雖然Sam的本意是引發競爭，但是Ilya覺得這更多會引發衝突。
另外，Sam Altman在競爭中的風格也比較狼性和直接，比如在GPT-4o上線之前,被曝沒有經過充分的安全測試，傳言稱選擇那個時機是為了給競爭對手Google更有效的阻擊。
OpenAI是這波生成式AI浪潮的點燃者，也一直被認為是引領者。但是，目前的處境也越來越有挑戰：全世界都在期待OpenAI手中還有多少王炸，但是同時也更期待這些王炸究竟能不能轉化成一個能夠創造足夠利潤的真正產品——畢竟OpenAI的產品力一直是被行業吐槽的。
另外，據投資機構預測，OpenAI今年預計還會繼續虧損，繼續訓練更強大模型，在造血能力還不夠的情況下，如何持續融資也是OpenAI不得不考慮的問題。
競爭環境也是越來越激烈，不僅巨頭環伺，連最大的股東微軟在最新的財報中都將OpenAI列為競爭對手，還要面對那個同樣實力超強的Antropic。
Sam Altman回歸之後，有可能將要變成“孤家寡人”了，外界也會擔心，這個看起來已經成了“空殼”的董事會，是否還能繼續讓OpenAI保持領先。
但是，今天一位創投領域諮詢師跟我們表達了如下的觀點：“OpenAI的原始管理層，是一群背景華麗的書生，正直有理想；但是，也許科技公司真正能夠成長，卻需要一位‘暴君’。沒有一位專斷的‘暴君’，可能做決策都要很久。”
“暴君”Altman帶領下的OpenAI，不知道最終會走向何方？ (騰訊科技)