【新智元導讀】OpenAI初心不再,奧特曼「真面目」被揭穿!300次深度訪談、8年追蹤調查,首位報導OpenAI的華人記者Karen Hao揭開震撼內幕:奧特曼如何「千人千面」,馬斯克為何憤然出局,加速派與末日派如何聯手推高AGI狂熱……
OpenAI的「宮斗」往事,還有大瓜!
因為曝料實在太過驚人,奧特曼在相關書籍正式出版之前,否認三連,撇清關係。
但曝料人Karen Hao畢業於MIT,曝料過多家美國科技巨頭的「黑幕」,因新聞報導獲得多個獎項。
在GenAI沒有爆火之前,她開始報導人工智慧,是全球首位對OpenAI做專題報導的記者。
在書中,她揭示了OpenAI內部對AGI兩種截然不同的信仰以及權力鬥爭內幕。
在她看來,「OpenAI宮斗」幾乎是必然發生的:奧特曼左右逢源,從不做決定,只是讓員工相互競爭。
奧特曼讓懷疑與敵意在OpenAI內部瀰漫。第一次創業,公司就是被他這樣搞黃的。
他能重回OpenAI,在於他說服了Greg Brockman,而後者又說服了Ilya Sutskever。
Ilya在奧特曼重回OpenAI後,不久宣佈離開OpenAI
否則,現在領導OpenAI的將是馬斯克,而xAI也不會問世。
總之,奧特曼這次被揭老底了。
為此,包括奧特曼和馬斯克在內的聯合創始人將組織設立為非營利機構,並承諾與其他機構共享研究成果。
這也是「OpenAI」這個名字的由來。
2019年,當調查記者Karen Hao開始關注OpenAI時,她覺得這是一家正派的公司。
當時,她覺得,這樣的公司,有什麼不好呢?
那時OpenAI還沒有發佈ChatGPT,默默無聞,名不經傳。
她對OpenAI做了專題報導。
她是首位對OpenAI進行專題報導的記者。
然而,隨著時間的推移,Karen Hao開始深入思考這個問題。
她逐漸意識到,這個極具顛覆性的行業的核心真相是,它對成功的定義需要幾乎前所未有的大量資源。
事實是,我們已經進入了一個新的、不祥的帝國時代:只有少數幾家全球規模的公司,才能進入AI領域。
而OpenAI憑藉ChatGPT的突破處於領先地位,它將如何抵制這種誘惑呢?
最終,OpenAI未能抵擋住誘惑。
在微軟數十億美元的支援下,OpenAI以驚人的速度發展,身後追趕著一群人類歷史上估值最高科技巨頭。
一直以來,Karen Hao消息靈通,保持著深入的內部消息源,因此她與震驚整個科技行業的事件——
奧特曼的突然被解僱和隨後的勝利回歸——有著密切的聯絡。
經過300次訪談,耗時7年,她剛剛出版了關於OpenAI版《權力與遊戲》的新書——
《人工智慧帝國:奧特曼之OpenAI美夢與噩夢》「Empire of AI:Dreams and Nightmares in Sam Altman's OpenAI」。
這裡首次完整講述的幕後故事,揭示了真正掌控AI的人到底是誰。
他屬於那種一代人中難得一見的「敘事型天才」。
這正是他為什麼能籌到大量資金、吸引頂尖人才來為他工作的重要原因。他能指派他們去做一些特定的事情,而他們也會願意跟著他去做。
他之所以講故事講得好,也跟他對「真相」的態度有關——
他不太在乎事實真相。
當他和別人一對一談話時,他總是說出對方想聽的話,而非自己真正相信的東西——這正是他建構影響力的方式。
除此之外,他也非常擅長判斷別人想要什麼。
所以,他成功的這些特質,也正是讓很多與他共事過的人感到沮喪的根源。
對此採訪之後,Karen Hao就逐漸發現了規律:無論是那一時期,奧特曼對不同的人說的話常常完全相反。
他會根據聽話對象的身份和立場,調整自己的說法。
他會告訴某一方:「我完全同意你們的看法。」然後轉身對另一方也說:「我也完全支援你們。」
結果就是,這兩個團隊會開始互相爭執,而不是達成一致
這種行為帶來的後果,就是在公司內部造成了大量不信任。
通常情況下,當兩個團隊在戰略上意見不合時,大家會希望CEO出面「當裁判」,表明一個明確的方向,那怕有些人不滿意,也要做出一個統一的決策。
但他的做法正好相反——他不會下決定。他會讓兩個團隊各自以為得到了支援,然後彼此衝突。
這種「說一套做一套」的風格,是他最終被董事會解僱的核心原因之一。
高層領導和董事開始擔心公司會因此失穩,核心人才會因此流失,因為大家已經沒法再忍受這種缺乏明確資訊和方向感的環境。
其實,這種抱怨在他早期創業的時候就已經出現過了。
他的第一家創業公司最終失敗了。當時高層也曾兩次嘗試讓董事會解僱他,理由就是他經常說一些與現實不符事情,導致團隊根本無法開展工作。
另一個很多人反映的問題是,他最終推動的事情往往對他本人是最有利的。
至於他是不是「有意為之」,看法不一。
有人覺得他是自私的,有人則認為他只是站在一個「科技億萬富翁」的位置上,有很多認知盲區——
他不理解普通人怎麼生活,因此他以為自己是在做好事,但最後的結果還是對他自己最有利。
不管他的動機是什麼,結果總是他得利最大。
被利用的馬斯克
而馬斯克覺得奧特曼利用了他。
其實很多人都有類似的感覺。
他們覺得在某種程度上,自己被利用了。
雖然很難具體說出到底是怎麼回事,但整個過程結束後,他們會留下那種「被利用了」的感覺。
奧特曼非常有技巧地接近了馬斯克,主動建立關係。
他知道馬斯克最在意什麼——比如對AI存在風險的擔憂、對Google控制AI的不信任、希望AI受到更嚴格監管等等。
於是,奧特曼順應馬斯克,表示自己也有一樣的擔憂和理念。
最終,馬斯克被說動了。他覺得:「我喜歡這個人,我喜歡他說的話,他就像是另一個我。」
於是,兩人一起建立了OpenAI,一個非營利機構,目標是成為一個與Google對抗的力量,在AI研究中倡導透明與責任。
但後來事情發生了變化。
OpenAI逐漸決定要轉向Scaling路線,也就是不斷擴大模型規模。
這就意味著,他們需要大量資金。而一家非營利機構,無法滿足這種資金需求。
於是,公司開始討論轉型為營利性結構的可能性,比如把整個非營利組織轉為營利性,或是設立一個巢狀在非營利機構內的營利實體(後來就採用了後一種方式)。
在這個過程中,馬斯克和奧特曼因為「誰該當CEO」而發生了嚴重分歧。
最終,奧特曼展現出了他最擅長的技能——說服力。
他成功說服了Greg Brockman(當時重要領導人),讓他支援自己。
然後Brockman又去說服了Ilya Sutskever(另一位聯合創始人)。
當這兩個關鍵人物都站在奧特曼一邊後,馬斯克就決定退出了。
等到OpenAI後來取得了巨大成功,馬斯克感到非常憤怒。
他覺得自己被奧特曼精心算計了:
奧特曼利用了自己的名聲,幫OpenAI在初期樹立起了良好的公眾形象,而一旦自己沒了利用價值,就被徹底排除在外。
馬斯克是「霸道總裁」的代表,他傾向於用對抗式的方式來控制局面。
而奧特曼則屬於「說服型權力」,他不會強迫別人做事,而是讓人不知不覺地被他「哄」著走進某個方向。
沒有人覺得自己是被他逼迫的,大家會覺得是自己「被說服」的。
奧特曼則擅長防守式策略。
他通過複雜的結構安排,把公司和實體層層巢狀,掩蓋實際控制關係,形成一道又一道的法律「防火牆」。
不僅是OpenAI,他創立的所有機構和公司,法律結構都非常複雜。
甚至是OpenAI需要專門的律師團隊來搞清楚,員工到底擁有那些法律權利。
奧特曼其實很樂意把自己塑造成「反馬斯克」的形象:他是那個「冷靜、理性、可靠」的好人,而馬斯克則是「瘋狂、不受控的億萬富翁」。
但實際上,他們倆只是用不同方式追求同一個目標罷了。
他們是同一場「AI帝國擴張遊戲」的兩個玩家,只是戰術不同。
這兩種對AGI的看法,從一開始就深深植根於OpenAI的文化之中。
加速派談及AI烏托邦時眼泛光芒,聲稱「一旦實現AGI,世界就會極樂世界」。
而另一些人描述AI滅絕人類時,聲音因恐懼而顫抖。
這種信念的狂熱程度讓Karen Hao震驚。部分原因在於,他們正在做史無前例的事——
掌握足以改變世界的權力後,他們需要某種宗教般的信仰體系來支撐自己,否則難以承受如此沉重的責任。
他們究竟看到了什麼,能如此狂熱地相信這一切?
Karen Hao認為背後有兩重動因:
優先解決自身問題:AI公司設計系統時,會隱晦或直白地以自身需求為中心。書中提到,奧特曼長期推動OpenAI專注程式碼生成模型,因為他認為這能鞏固競爭優勢。結果,這些模型最擅長服務開發者群體,而離矽谷越遠的人群,技術體驗就越差。
OpenAI信奉的神話是:
我們必須在別人做出對人類有害的「AGI」之前,率先開發出對人類有益的「AGI」。
而我們,正是擁有科學與道德清晰度的那一群人,能夠帶領人類走向烏托邦式的未來。
但這兩派是同一枚硬幣的兩面。
「加速派」和「末日派」實際上是攜手並進的。
「加速派」也許是有意為之,而「末日派」可能是無心插柳,但他們的共同作用,是把AI的規模推向前所未有的高度與速度。
他們都堅信,自己必須這麼做,才能將拯救人類。
當然,在公司內部,這兩個教派之間是有劇烈衝突的。
這些衝突貫穿OpenAI的整個發展歷程,最終在董事會危機時達到高潮。
「加速派」和「末日派」的衝突,正是導致那場危機的重要因素之一。
OpenAI-->CloseAI
而事實證明,這種高度集中的AI發展路徑,已經變得令人極度擔憂。
今天的OpenAI,早已背離了它當初的承諾。它名義上仍是非營利組織,但實質上卻在極力商業化產品,並追求史無前例的估值。
它也變得愈發神秘和封閉,不僅自己不再公開研究成果,還帶動整個行業形成新的「閉源」常態,連基本的技術細節都不再分享。
在所謂「科技進步」的模糊願景驅動下,OpenAI對模型規模的不斷追求,已經重塑了整個人工智慧發展的規則。
如今,每一家科技巨頭都在競相超越彼此的規模,投入的金額如此之大,以至於他們自己也在努力重新分配和整合資源。
曾經難以想像之事,如今已成常態。
結果就是,AI公司前所未有地富有。
OpenAI初心也不在了。
今年3月,OpenAI完成了有史以來規模最大的科技私募融資,籌資400億美元,估值高達3,000億美元。
Anthropic的估值也超過了600億美元。
到去年年底,美國六大科技巨頭在ChatGPT推出之後,總市值增加了超過8兆美元。 (新智元)