在矽谷波詭雲譎的科技版圖中，葛雷格·布羅克曼（Greg Brockman）始終扮演著一種極具張力的角色。作為 OpenAI 的聯合創始人兼總裁，他既是那個在凌晨時分依然親自下場偵錯程式碼的“頭號工程師”，也是在 2023 年 11 月那場震驚全球的董事會“地震”中，堅定選擇與Sam Altman並肩作戰的靈魂人物。從 Stripe 的早期技術骨幹到引領全球 AI 範式轉移的弄潮兒，布羅克曼的個人軌跡與 OpenAI 的每一次命運轉折緊密交織。近日，布羅克曼接受了深度訪談，以前所未有的視角復盤了 OpenAI 從非營利機構向營利實體的艱難轉型，解讀了從 Dota 2 到 GPT-4 的技術跨越，並首次詳盡還原了管理層動盪背後的心理韌性。在他看來，世界正加速邁向一個由算力驅動的新經濟時代。在這場通往通用人工智慧（AGI）的征途中，OpenAI 的核心競爭力絕非單一的模型，而是那台能夠持續製造智能的“機器”——一支敢於直面真相、在痛苦中成長的精英團隊。核心觀點技術哲學：在大規模算力加持下，簡單的演算法（如預測下一個字元）能夠產生深刻的語義理解和智能湧現。使命驅動：OpenAI 的核心競爭力不在於單一模型，而在於能夠持續製造這些模型的“機器”——即那支擁有高度韌性、直面嚴酷真相且願為夥伴而戰的團隊。迭代部署：通過將中間版本的技術推向市場，讓社會在適應中建立韌性，是實現安全 AGI 的唯一可行路徑。算力經濟：世界正轉向由算力驅動的經濟模式，未來每個人都將擁有代表個人長期目標的 AGI 代理。“在 AI 領域保持領先對美國至關重要，因為這是確保民主價值觀得到保護和捍衛的方式。”“大規模算力配合簡單演算法，這不僅僅在理論上成立，它是切實可行的，能夠產生深刻的語義理解和智能湧現。”“我們正轉向由算力驅動的經濟模式，未來每個人都將擁有代表其個人長期目標的 AGI 代理。”“迭代部署是實現安全 AGI 的唯一可行路徑，必須讓社會在適應中間版本技術的過程中建立韌性。”“偉大的團隊不是為了錢而戰，他們是為了身邊的夥伴而戰。”“如果你沒有經歷痛苦，就意味著你沒有創造價值。”緣起納帕谷：一個改變命運的使命2015 年，布羅克曼正處於職業生涯的十字路口。儘管他在支付巨頭 Stripe 取得了巨大成功，但他深感那並非自己終身追求的宿命。在與山姆·奧特曼（Sam Altman）的一次長談後，兩人一拍即合。當時的 AI 領域被 Google DeepMind 統治，外界普遍認為白手起家已無可能。布羅克曼回憶道：“當時的感覺就是，想要白手起家創辦點什麼，甚至還有可能嗎？但沒有人能給出一個理由說明這在事實上是不可能的。”為了打破僵局，布羅克曼在納帕谷組織了一場線下團建，那次會議誕生了 OpenAI 追求十年的技術藍圖：解決強化學習、無監督學習，以及逐步學習更複雜的事物。布羅克曼認為，OpenAI 的誕生源於一種近乎宗教般的使命感，即確保 AI 的收益得到廣泛分配。正是這種感召力，讓他在沒有任何正式組織架構的情況下，說服了伊利亞（Ilya Sutskever）等頂尖科學家加入。技術哲學：從預測下一個字元到智能湧現布羅克曼的技術哲學根植於對“規模法則”的堅定信仰。在早期研究 Unsupervised Sentiment Neuron 論文時，他敏銳地察覺到，僅僅通過訓練模型預測下一個字元，就能讓神經網路湧現出對情感的深刻理解。這推翻了許多人的偏見，即認為預測只是平庸的模仿。他強調：“如果你真的能預測愛因斯坦口中說出的下一個詞，那麼你至少和愛因斯坦一樣聰明。預測的意義不在於預測已知，而在於讓你置身於此前從未見過的場景。”這種哲學在 Dota 2 實驗中得到了終極驗證。OpenAI 使用簡單的強化學習演算法 PPO，配合巨大的算力，最終在極其複雜、無序的遊戲環境中超越了人類頂尖水平。這次成功讓布羅克曼意識到：“如果採用同樣的計算方法，但將其擴展到人類大腦的規模會怎樣？那是一個非常引人深思的問題。” 這也為後來 GPT 系列的全面爆發埋下了伏筆。商業轉型的邏輯：算力霸權與現實主義2017 年，OpenAI 迎來了最關鍵的轉折——從非營利模式轉向營利實體。這一決策在當時引發了巨大爭議，但在布羅克曼看來，這是使命驅動下的必然選擇。隨著對算力需求的指數級增長，非營利組織的籌款潛力已達上限。他坦言：“我們開始計算算力需求，意識到這需要一台大型電腦。如果我們能收購超大規模的資料中心，那將成為一種獨特的優勢。”布羅克曼認為，OpenAI 的核心優勢在於對未來的“提前下注”。當競爭對手還在質疑投入規模時，OpenAI 已經開始構思百億美元等級的算力叢集。他直言不諱地指出：“聰明的經營者總是在尋找槓桿效應。我們被一種強烈的動力所驅使，即真正地面對現實，去思考未來 10 年實現目標意味著什麼。”驚魂周末：忠誠、韌性與“救生筏”訪談中，布羅克曼首次詳細回顧了 2023 年 11 月那場管理層危機。當他在家中收到薩姆·阿爾特曼被免職的消息時，他沒有陷入憤怒，而是出於直覺選擇了辭職。“我只是知道這樣做是不對的。掛斷電話後，我立刻和妻子談了談，我說，我必須辭職。”隨之而來的景象令他震驚：大批核心成員取消了感恩節假期，擠在辦公室裡要求與公司共進退。布羅克曼將這段經歷視為團隊韌性的終極測試。由於 Google Docs 在處理請願書籤名時因人數過多而崩潰，員工們不得不通過聯絡人手動加入名字。他引用了一句箴言：“他們不是為了錢而戰。他們是為了身邊的夥伴而戰。” 最終，這場危機不僅沒有摧毀 OpenAI，反而鍛造了一個更具凝聚力的鑽石核心。安全與監管：在迭代中建構社會韌性對於 AGI 的安全擔憂，布羅克曼提出了“迭代部署”的概念。他堅決反對在象牙塔裡閉門造車，認為必須讓社會接觸中間版本的技術，以便建立應對風險的“肌肉記憶”。“如果你把 AGI 當作你的第 100 個系統，而此前你已經部署過 99 次能力遞增的系統，世界就有機會圍繞它們進行重構。這就像給汽車安裝安全帶，給城市修建道路。”在談到模型偏見與政治傾向時，布羅克曼表示 OpenAI 致力於訓練模型追求長期目標，而非通過“獎勵作弊”來取悅使用者。他預測，未來的 AGI 將成為 80 億人的個人代理，全天候代表使用者的利益行事。終局願景：算力驅動的未來經濟布羅克曼對未來持有一種極具前瞻性的樂觀主義。他認為，人類正在進入一個“算力驅動型經濟”，每個人都將成為“智能體管理者”。在這個世界裡，AI 不再是人們通過電腦操作的工具，而是電腦主動為人類完成工作。“即使是在這兩年內，我們將看到的不僅是 AI 作為向善的力量。每個人都應該進入這樣一個世界：口袋裡隨時揣著一名水平超過全球頂級專家的醫生。”訪談最後，布羅克曼再次回到了他的初心。對他而言，成功的定義從未改變，那就是：“實現 OpenAI 的使命，確保通用人工智慧造福全人類。” 在這場跨越技術瓶頸、商業競爭與人性考驗的長跑中，這位頂尖架構師依然堅信，痛苦與不確定性正是創造價值的必經之路。天空之城全文整理緣起：從 Stripe 到 AI 夢想Shane Parrish： 那麼 OpenAI 是如何誕生的呢？我知道我想創辦一家初創公司，因為我覺得那是我想做的事情。但你當時正身處一家初創公司，Stripe 就是一家初創公司。Greg Brockman： 確實如此，但我從未……我覺得 Stripe 所解決的問題並非我自己的問題，那並不是我從小到大一直在思考的問題。那是一個重要的問題，我為此使命全身心投入了多年，但我感到無論有沒有它都會成功。所以，我當時第一次真正思考：有什麼使命是我願意投身其中，甚至願意餘生都致力於解決這個問題，只為看到它能以稍微好一點的方式發展下去。對我而言非常明確的是，首選目標就是 AI。如果你能真正對 AI 在世界上的發展軌跡產生影響，那將是充滿意義的一生。Shane Parrish： 當你考慮離職時，Patrick 讓你去和 Sam Altman 談談。那次談話發生了什麼？Greg Brockman： Patrick 曾經說過，Sam 見過很多處於你這種境況的年輕人。而且我認為，Patrick 真心希望 Sam 能說服我留下來。和 Sam 談了幾分鐘後，他表示，你顯然已經決定了。這非常明顯。於是他問，那你接下來打算做什麼？我說，我在考慮創辦一家 AI 公司。他說，我也在考慮在 AI 領域做點什麼。我們應該保持聯絡。所以在我離開 Stripe 之後，我和 Sam 可能又談過一次。他問你還在考慮做 AI 相關的事情嗎？我說，是的。他說，我也開始獲取更多細節，並正在籌備七月份的這場晚宴。於是我飛過去參加了那場晚宴。我記得當時討論的一個話題是：現在組建一個匯聚頂尖研究人員的實驗室是否已經太晚了？這還有可能嗎？Shane Parrish： 那是在那一年？Greg Brockman： 2015年，因為你會考慮到 DeepMind 當時幾乎擁有了所有的研究人員、所有的資金以及所有的資料。當時的感覺就是，想要白手起家創辦點什麼，甚至還有可能嗎？人們列舉了各種各樣的理由。這很難。但沒有人能給出一個理由說明這在事實上是不可能的。那天晚上，Sam 和我開車回城時，我記得我們相視一笑，說道，我們必須做這件事。我們就是必須得做。於是第二天，我就全身心投入到這件事的籌備工作中了。這很困難，因為它在當時非常模糊。我們有一個使命和願景，即我們認為能夠建構人類水平的 AI，讓它對世界產生積極影響，並確保其收益得到廣泛分配，但具體該如何實現呢？而且，你該如何說服人們真正離開現有的工作，加入這個項目呢？最初，我鎖定的人選其實是 Ilya、Dario Amodei、Chris Olah 以及我自己。這就是最初的核心團隊。我們在一起度過了很多時光。我們花了大量時間討論實驗室的潛在願景，以及各種可能的運作方式。事情並沒有完全整合在一起，其中一部分原因僅僅是，這是否具備足夠的推動力？Dario 覺得他需要去闖出一番名堂，而且他不確定這是否真的是他要走的路。當時還存在關於這一切將如何運作的問題。與此同時，John Shulman 開始產生興趣。他說他願意加入。Dario 和 Chris 最終決定去 Google Brain。所以實際上就只剩下 Ilya、還有 John，或許還有另外幾個人。當時我有一個大約 10 人的團隊，他們中許多人說，我對這個感興趣，但還有誰會加入？我問 Sam，我們該如何打破這種僵局？我們到底該怎樣讓每個人都說，我們加入？Sam 的建議是邀請大家參加一次線下團建。所以我們在 Napa 組織了一場活動，當時我甚至還專門製作了 T 恤——那是在他們加入之前？當時沒有任何正式的邀約，也沒有人加入，我們沒有任何組織架構，什麼都沒有，我們只有一個想法。我們有一個願景。我們有一個使命。我們把大家請了過來。我們一起開車去了 Napa，那是非常棒的一天。大家靈感迸發。我們提出了我認為可以稱之為我們在過去 10 年中所追求的技術藍圖。第一點，解決強化學習問題。第二，解決無監督學習問題。第三點是逐步學習更複雜的——加上引號——事物。在那次場外會議之後，我向每個人傳送了邀請，並說，嘿，我們希望在接下來的兩到三周內啟動。如果您有意參與，請告知我。Shane Parrish： 您為什麼認為 DeepMind 具有如此難以踰越的優勢？Greg Brockman： 當時的情況確實是，Google DeepMind 在該領域佔據絕對統治地位。他們擁有大量的資本，擁有成功的過往記錄。那是 AlphaGo 問世之前，AlphaGo 在幾個月後推出，但這並不令人驚訝，那種勢頭非常明顯。因此問題在於，這真的可能實現嗎？去建構一個獨立且全新的事物，這並非顯而易見。商業轉型與技術里程碑：從 Dota 到 GPT-4Shane Parrish： 你是在什麼時候意識到，非營利模式是行不通的？Greg Brockman： 在 2017 年，我們開始深入思考，首先，我們該如何真正實現我們的使命？我們到底該如何建構一個 AGI？那會是什麼樣子的？於是我們開始計算算力需求。你會逐漸意識到，這需要一台大型電腦。我們發現了一家名為 Cerebras 的公司，他們當時正在建構一種獨特的計算硬體。而我們意識到，他們所承諾的那種電腦，將遠超我們計算預測中的算力水平。正如你開始意識到的那樣，如果我們能購買大量此類電腦，我們實際上很有可能成功建構出 AGI。如果我們能獲得 Cerebras 的獨家訪問權，那將賦予我們壓倒性的優勢。如果我們能收購超大規模的資料中心，那也將成為一種獨特的優勢。關於非營利組織的籌款，我認為其潛力本質上是有上限的。因此，Elon、Sam 和我都一致認為，OpenAI 向前發展的唯一途徑，即實現其使命的唯一路徑，就是建立一個與 OpenAI 相關的某種形式的營利性實體。我們致力於這一方向，並且我們深知這是實現該使命的唯一途徑。Shane Parrish： 你意識到一切都將為你而改變的那個時刻是什麼時候？是在 Dota 時期，還是在那之前，亦或是之後？Greg Brockman： OpenAI 的運作方式是一系列時刻的累積。在這些時刻，你會意識到一切已成現實。每當你以為自己已經理解了它，認為一切都已經塵埃落定時，你就會發現一個新的視野，而那曾是你尚未察覺的。所以在此過程中，我認為有過一次最初的發佈。當時的感覺是，哇，我們真的組建起了一支團隊。現在我們可以追求這個使命了。但第二天來到辦公室時，我在想，我們該做什麼呢？我們甚至連一塊白板都沒有。我的意思是 John 想在白板上寫點東西。我說，我會去弄一塊白板來。那是力所能及的事情。Dota。我們取得了第一個重大成果，那真的就像是，哇，當我們下定決心時，確實可以成就一番事業。你確實可以看到所有這些計算資源匯聚在一起。你擴大了計算規模。你也就擴大了成果規模。GPT 系列在開發過程中有多個重要時刻。我記得其中一個早期時刻是關於 unsupervised sentiment neuron 的那篇論文。你聽說過那篇嗎？Shane Parrish： 我聽說過，但我沒讀過。Greg Brockman： 好吧。那篇論文很有意思，因為它是在 2017 年發表的。那確實是我們第一次看到語義從語言模型訓練目標中湧現出來。通過訓練學習下一個字元，預測下一個字元，然後你突然得到一個能夠理解情感的神經網路，能夠判斷內容是正面還是負面的。這比聽起來要困難得多。但就在那一刻你意識到，哇，我們正在建構能夠學習語義的機器，它們不僅僅是知道逗號、名詞和動詞的位置，而是真正能夠理解句子的含義。你必須推動這一處理程序。Shane Parrish： 當然，當你看到像 GPT-4 這樣的事物時，我記得我們當時正在試用它，有人問，為什麼這個東西還不是 AGI？Greg Brockman： 這其實很難界定，因為你可以用任何你想要的方式與它進行流暢的交流。它顯然還不是 AGI，確實缺少了某些東西，但如果你在兩個月前列出你的 AGI 標準，它很可能已經符合 GPT-4 當時的表現了。所以，在整個過程中有許多時刻會讓你覺得它現在是真實的。這一切真的會發生。經濟將在這個由算力驅動的世界中發生轉型。我認為這些時刻遠未結束。我認為我們還有許多突破性的時刻，在那些時刻你會意識到下一個階段是可能的。Shane Parrish： 我認為 Dota 是一個令人難以置信的時刻，因為它不像 Deep Blue 下的國際象棋，也不像 AlphaGo 那樣在計算上高度密集但規則非常明確。它實際上是以一種與人類互動的方式進行的，即世界在某種程度上是有結構的，但你又擁有所有這些自由。Greg Brockman： 那確實是非常引人注目的。諷刺的是，我們最初開發 Dota 是為了研究新方法，因為當時的強化學習顯然無法實現擴展，我們使用的演算法叫做 PPO，你需要對每一個時間步進行規劃。它沒有層級結構。而作為人類，這並非你規劃一天的方式。所以我們知道這種演算法存在嚴重的缺陷，永遠無法實現擴展，並且還有所有這些問題。但你必須從某個地方開始。你必須不斷推高基準線以觸及天花板，這樣我們才能真正看到現有條件下所謂的卓越極限在那裡。然後你就可以引入新的演算法。我們不斷擴展 PPO 的規模，最終超越了頂尖人類的表現。這本身就是一項發現，即大規模算力配合簡單演算法，這不僅僅在理論上成立，它是切實可行的。它在實踐中行之有效。我們確實能夠實現它。在這種極其混亂、無法程式設計、無法預判且無法進行搜尋的環境中。你所需要的只是這種類人的直覺。順便提一下，我們使用的神經網路非常微小，相當於昆蟲的大腦，其突觸數量與真正昆蟲的大腦相當。你會意識到，如果採用同樣的計算方法，但將其擴展到人類大腦的規模會怎樣？那會是什麼樣子？這是一個非常引人深思的問題。Shane Parrish： 推理和預測之間有區別嗎？你提到了預測下一個字元、預測下一個單詞，與真正基於第一性原理的推理之間的區別？我認為它們之間有著深刻的聯絡。Greg Brockman： 一方面，僅僅預測接下來會出現什麼聽起來是一項平庸的任務。但如果你真的能預測 Einstein 口中說出的下一個詞，那麼你至少和 Einstein 一樣聰明。你可能會爭辯說，但我覺得這些論點站不住腳，其中存在某種錯誤，因為預測的意義不在於能夠預測已知的事物，預測的意義在於讓你置身於一種新的情境之中。你此前從未見過的內容，並預測接下來會發生什麼。我認為智能與預測之間有著深刻的聯絡，學術文獻中對此有長期的論述，關於你如何思考這一點、壓縮技術，它們本質上都屬於同一事物。現在，這些推理模型中，我認為非常有趣的一點是我們通過強化學習來訓練它們。所以這確實回到了最初的 OpenAI 計畫，它分為兩個步驟。第一步是無監督學習。你通過讓模型預測接下來會發生什麼來對其進行訓練。在這一階段，資料要靜態得多。它更多是觀察性的。同樣，這些是它從未見過的資料、從未見過的場景，但這些場景是已經發生過的。然後進行強化學習，也就是說你基本上讓 AI 在其自身資料上進行學習，你讓它自己做出決定，這就是我將要採取的行動。你從世界獲取觀察結果，並從中進行學習。再次強調，你實際訓練它的方式依然是基於預測，它試圖預測，如果我採取這個行動，最可能發生的情況是什麼？然後根據你做得有多好，來對其進行強化。其精妙之處在於，它現在成為了一個既擁有背景知識又具備真實世界經驗的 AI。但從根本上說，我們在無監督階段和強化階段所使用的技術是完全相同的。你依然是在進行預測，只是改變了資料的結構。危機、衝突與使命的存亡Shane Parrish： 局勢是從什麼時候開始變得緊張的？Greg Brockman： 我認為關於 OpenAI 的一點是，如果你真正相信這一使命，如果你真正相信創造出具備人類智能水平的機器是有可能的，那就意味著賭注總是顯得非常高。關於決策者是誰、關於這些決策背後秉持何種價值觀，以及那些在典型公司中或許顯得平庸、更像是辦公室政治的問題，開始承載起這種關乎存亡的重量。我認為這在很大程度上影響了 OpenAI 這類備受矚目的衝突。有時即便只是關於誰該為某項具體成果署名的問題，突然之間也具有了這種關乎存亡的重量。Shane Parrish： 我正是從這個角度思考的，因為到了那個節點，你很可能意識到這項技術是不可避免的，而且它將改變世界。而這一點當時並未被世人廣泛認知。而且我能夠想像，有些人會想：我想要處於最前沿。我想要為此而攬功。Greg Brockman： 是的。這就是我在此領域觀察到的壓倒性態勢。事實上，這不僅僅關乎 OpenAI。我早期的一個觀察是，這項技術本質上是非常碎片化的，那就是，有時，當你面臨巨大壓力時，你可能會得到一顆鑽石，也可能會出現裂痕。你經常會看到像鑽石一樣的核心團隊形成，也就是那些真正能夠通力協作、擁有高度信任並深諳運作之道的團隊。但有時你也會看到他們出現分化，各自走上了不同的道路。我認為在 AI 領域，我們從這種方法的多樣性中獲益良多。不同的團隊確實在相互推動，以更具益處的方式引入這項技術；同時，他們也在思考關於安全性、何為安全、如何真正部署這項技術，以及如何權衡風險與收益的複雜問題。我認為這是一場非常健康的辯論。這在 OpenAI 的內部一直都在發生。現在，我認為這種辯論也正在全球範圍內真正展開。我認為這對我們整個社會來說是真正有益的。Shane Parrish： 本節目的贊助商是 CoinShares。當行業內大多數人還在爭論數位資產是否合法時，CoinShares 已經在默默建構基礎設施，以便能夠妥善地進行投資。他們目前管理的資產規模已超過 60 億美元，在每一個市場周期中都保持盈利，並擁有嚴肅投資者所期望的透明度和治理機制，且完全合規。無論是加密資產交易所交易基金（ETFs）、主動管理策略，還是比特幣挖礦 ETF 敞口，你都可以通過現有的經紀帳戶訪問所有這些投資產品。大人們來了。訪問 coinshares.com 瞭解更多資訊。這不是投資建議。你整天都在開會。你努力保持專注，但又擔心會忘記會議的決定、待辦事項和重要的後續步驟。這就是 Granola 的用武之地。Granola 是一款用於會議的 AI 驅動記事本。你像往常一樣草草記下筆記，而在後台，Granola 會在會議結束後將這些筆記轉錄並轉化為清晰、實用的內容。沒有機器人會加入你的通話，不會造成任何干擾，只有一個能幫你保持專注的簡潔記事本。在通話期間或通話結束後，你可以與你的筆記進行對話。你可以要求 Granola 提取行動事項、協助你進行談判、做出決策、撰寫跟進郵件等等。即使是在聽播客時，我也會使用它。一旦你在第一次會議中試用過，就很難再離開了。前往 granola.ai/Shane，使用優惠碼 Shane 即可免費獲得三個月的使用權。網址是 granola.ai/Shane。帶我回到你得知 Sam 被解僱的那一刻。你當時在那裡？Greg Brockman： 我在家裡。Shane Parrish： 發生了什麼？Greg Brockman： 我收到了一條簡訊，問我能不能加入視訊通話。於是我加入了視訊通話。Shane Parrish： 我注意到董事會成員都在那裡，除了 Sam。當時不在場嗎？Greg Brockman： 不在。我推斷出出事了，但是……Shane Parrish： 因為你是董事會成員。Greg Brockman： 我是董事會成員，或者說是當時的董事會成員。就在那一刻。Shane Parrish： 是的。然後發生了什麼？Greg Brockman： 我被告知了。董事會已經決定將 Sam 免職。實際上我收到的資訊，與公開帖文中的內容完全一致。我詢問是否能提供更多資訊。得到的回覆是暫時不行。我追問是否之後可以，得到的回覆依然是無可奉告。隨後對方告訴我還有後續內容。即我已被移出董事會。但我仍會留在公司，因為我對公司和其使命至關重要。我再次詢問能否提供任何理由或反饋，得到的答覆依然是否定。在對話末尾，對方表示，在新的架構下，希望我能通過新的配置獲得反饋。Shane Parrish： 這就是整個對話的內容。你當時是怎麼想的？就是覺得不對勁。是憤怒嗎？Greg Brockman： 不是。Shane Parrish： 我感覺我理解了所發生的事情。過了多久你才真正弄清楚是什麼導致了這種情況？Greg Brockman： 這個問題的答案包含兩個部分。其一是，我覺得自己仍在不斷獲知額外的事實和某些人內心真實的想法。在某種程度上，這歸結於溝通的缺失，對吧，你意識到我所緩衝的那些不同事物其實一直都在。而在某種程度上，大概就是那種感覺。我當時心想，對於在場的每一個人，我都能很好地推斷出他們為什麼會有那樣的行為。但這並不是那一刻對我而言最重要的事情，我只是知道這樣做是不對的。掛斷電話後，我立刻和妻子談了談，我說，我必須辭職。她說，我同意。Shane Parrish： 然後你就在那天辭職了。Greg Brockman： 是的。那後來發生了什麼？我辭職的那天，抱歉，因為收到了這麼多消息，人們說，我不知道你和 Sam 接下來的打算是什麼，但我支援你們。我想和你們一起去開創些什麼。真的，那確實是一個非常真實、出乎意料的驚喜。我確實沒想到會得到那樣的支援，那樣的聲援。那天還有幾位與我密切合作的同事也辭職了。他們是 Jakub、Szymon、Aleksander，加上我們五個。所以這些人加上 Sam，我們聚在一起，開始規劃一家新公司可能會是什麼樣子。我記得第一天的時候感覺是，我們實際上有 10% 的機會能把公司拿回來，10%。第二天，我們在 Sam 家裡安排了一次會議。公司裡的一群人過來參加，我們展示了我們剛剛草擬的願景。所以這真的是在第一天，有了關於我們如何營運這個項目的全新構想。那個周末我們還花了很多時間與董事會和公司進行談判，試圖找出一條行得通的回歸之路。那個周日晚上，董事會撤換了臨時 CEO Mira，換上了一個新人，公司隨即發生了反抗。就像我們當時確實還在辦公室一樣。我們原本以為離達成交易很近了，也以為能回來。Shane Parrish： 能回來。Greg Brockman： 沒錯。我們以為已經找到了一條可行之路。然後董事會就做出了那個調整。緊接著，所有人突然都開始湧出大樓，場面簡直一片混亂。我當時正與許多有興趣加入這家新公司的人進行視訊通話，安撫他們說一切都會好起來的。我們有計畫。我們擴大了規模，你也知道，我們一直在為那小部分我們預期會願意加入的人打造這艘救生筏，對吧。突然之間，大家似乎都不想再與這個實體扯上任何關係了，人們希望能站出來，維護他們眼中正確的事情。Sam 與我們之前討論過的 Satya 進行了溝通，詢問他是否願意提供資金支援？你是否能助一臂之力，支援這個新的事業？我當時說，嘿，能不能不只是這艘小小的救生艇，而是把這裡的每一個人都帶上？於是，答案是肯定的。我們接收所有人。你當時的態度就是，無論如何我們總能想到辦法解決。當時很多人正處於感恩節假期前夕。很多人原本都計畫飛回各自的家鄉。相反，他們取消了航班，辦公室裡擠滿了人。就好像每個人來到辦公室僅僅是為了待在那裡，參與其中。而且，即使他們無法對這些談話做出任何貢獻，他們也只是想在歷史創造的時刻身處現場。接著，一份請願書開始流傳。當時有太多人同時試圖簽署這份請願書。這直接導致 Google Docs 崩潰了。所以你必須不得不……必須指定某些人作為聯絡人，由他們來負責將你的名字加入進文件中。你不能同時擁有太多的編輯權限。我認為那是一個被強烈聽到的聲音。我記得，我大約凌晨 5 點左右才到家，然後就睡了。我大約 45 分鐘後醒了過來。我查看了 Twitter，發現 Ilya 已經發佈了內容並簽署了請願書。上面寫著他希望公司能夠重歸於好。那一刻我感到如釋重負。我心中充滿了感激，感覺一切都好起來了，我們可以重頭再來。我們可以回到正確的軌道上來。Shane Parrish： 你和 Ilya 是共同創立了這家公司。在那之後，試圖修復你們之間的關係是什麼樣的體驗？Greg Brockman： 聽著，這很艱難。那絕對是一段非常親密的關係。他曾擔任我民事婚禮的證婚人。我們曾共同經歷過極其艱難的時刻。正如任何一段關係一樣，大家總是會有起起落落。此後我們花了很多時間進行深入交流，試圖真正去理解並表達出那些在我們之間積壓已久或未曾言說的事情。我認為通過那個過程，我們最終達成了一種非常好的狀態。對我而言，我覺得我們對所發生的一切都做到了釋懷。Shane Parrish： 對於你所激發出的那種忠誠，你有什麼感受？Greg Brockman： 深感感激。這確實是我從未主動要求過，也從未預料到的事情。我想我的行事方式是，我更傾向於做一個深入一線、身先士卒的領導者。有時我這樣做的時候，我不總是——我有點情緒化了——我不總是回頭看大家是否跟上，我只是徑直衝了進去。而當人們真的加入並切實幫助建構這些事物時，我只會感到非常感激，並覺得他們在各方面都超出了我的預期。所以最終大家都回來了。我得告訴你，這並非十拿九穩，因為整個周末競爭對手都在伺機而動。想像一下那種人們正準備採取的瘋狂爭搶，大家都在接收邀約，但那個周末我們確實沒有失去任何一個人，沒有人接受競爭對手的邀約。Shane Parrish： 我覺得這太不可思議了。確實如此。這更多是因為，當我們討論什麼是最好的團隊時，Coach Belichick 確實曾這樣告訴過我。他說，他們不是為了錢而戰。他們是為了身邊的夥伴而戰。當你提到這些人全都辭職時，讓我想到了這一點。他們中沒有人是因為得到了據說是更多的錢或更好的報價而離開的。當時每個人都在試圖圍獵和挖角。Greg Brockman： 那確實是一個非常珍貴的時刻。尋找初心：研究與反思Shane Parrish： 這一切發生之後，你休息了一段時間。當時你的內心狀態如何？Greg Brockman： 那是一段極其強烈的經歷，無論是在經歷的過程中還是回歸之後，坦率地說，在 OpenAI 我最艱難的時刻之一就是 Ilya 離開的時候。那可能是 OpenAI 歷史上唯一一個讓我覺得不想再繼續下去的時刻。我想我需要一些時間來找回初心，重溫我當初為何投身於此，為何這一切如此重要，以及為何它值得我承受這些痛苦。Shane Parrish： 在那段期間你做了什麼？Greg Brockman： 我訓練了語言模型。Shane Parrish： 你是在那個時候學會如何操作的，就像你進行的自學那樣。我在你的部落格上讀到過。Greg Brockman： 不是的。事實上，在 OpenAI 工作期間，我就已經完成了這些。我當時訓練的是針對 DNA 序列的語言模型。所以我基本上把我的研究成果帶到了 Arc。Shane Parrish： 為了 Arc Institute。沒錯。Greg Brockman： 那是一次非常棒的經歷。我運用了自己已有的技能，並將它們應用於一個截然不同的領域，而這個領域對我和我妻子來說都具有非常重要的個人意義。她有很多健康方面的問題，我們在思考 AI 能為她的健康做些什麼，能為我們都非常熱愛的動物的健康做些什麼，這就像是一個應用領域，讓我們覺得或許能以一種與我以往追求這項技術時截然不同的方式提供幫助。所以那確實是這段經歷中非常積極的一部分。Shane Parrish： 如果我讓你打開一個 Google 文件，用一頁紙寫下你從這一系列事件中對自己的認識——從 Sam 被罷免，到你辭職，再到激發了如此多的忠誠，到休整一段時間，最後回歸——你會寫些什麼？Greg Brockman： 我想我只是學會了要堅持追求那些值得的東西，如果你肩負著一項重要的使命，那麼在經歷起起落落的過程中，必然會有陷入絕境的時刻，也會有重回正軌的瞬間，你絕不能讓這些波動偏離了既定航向。我認為，在此期間你必須培養出極強的個人韌性，因為如果你處於領導地位，人們會仰賴你的沉穩、支援以及對整體發展方向的把控。我努力提升自我的一大核心，就是既要真正能夠理解我們所做之事的細節，即一項決策會帶來什麼影響，又要能夠在決策時保持果斷。我想，曾有那麼一些時刻，我在審視 OpenAI 時深受不確定性的困擾，總覺得不知道什麼才是正確的答案。我不知道開發這項技術的正確路徑是什麼，也不清楚該如何回答這些極其棘手的問題。但這裡有很多非常聰明的人，他們有著非常鮮明的觀點。所以我努力嘗試去理解所有這些觀點，並設法將它們整合在一起。有時這是正確的處理方式。但有時你會意識到，這些觀點之間存在著相互矛盾，它們不可能同時成立。在這種情況下，你有時必須做出抉擇。你知道這意味著總會有人感到不滿，有人會選擇離開，也有人會覺得被冷落。我認為我努力做到的一點是，在保持更強自我意識的同時，在確信需要採取行動時，擁有更堅定的信念。回想在 OpenAI 發展的過程中，有一些事情我希望能以不同的方式處理。我覺得通常情況都是這樣。我們在明知某些事情的情況下卻遲遲未動。我們知道某個人並不完全適合某個職位。我們認為這在技術方向上並非完全正確。我們認為這種讓項目運行的方式可能行不通，但我們等待的時間太久了。所以，這正是我想從中汲取教訓併力求每天真正成長的地方。當我回顧 OpenAI 和 Stripe 的發展歷程，甚至追溯到大學時代以及我過去參與過的項目時。我認為我的行事風格是，我既非常熱愛這項活動的資料本身。我熱愛個人貢獻。我熱愛這款軟體。我熱愛對問題的深入思考。但我同時也非常關注完成這些工作的環境。我實際上願意放棄那種類型一樂趣，也就是像快速上手建構某個東西時的那種簡單快樂。那些更像是類型二樂趣的事情總是很酷，儘管當下可能感到痛苦，但卻是值得的。但你所做的是創造一個環境，讓其他人也能獲得那種體驗，去完成個人貢獻工作，去成就偉大的事業。所以，致力於建構一個這樣的環境，正是我所傾向的方向。這並不總是最容易的，你確實必須願意承擔巨大的個人痛苦。就像 Ilya 所說的那樣，Ilya 總是說你必須學會忍受痛苦，如果你沒有經歷痛苦，就意味著你沒有創造價值。我認為這其中蘊含著深刻的真理。Shane Parrish： 深入探討一下這一點。Greg Brockman： 關於 Ilya 的觀點，我覺得很有趣，因為他有一種非常獨特、只屬於他個人的表達方式。他所選擇的詞句中總是蘊含著深刻的啟迪。這種對於痛苦的描述，是我們貫穿 OpenAI 整個發展歷程中一直在思考的問題，就像我們從一開始就面臨著巨大的不確定性。這東西真的行得通嗎？有很多理由說明它可能行得通，為什麼它不該行得通，甚至可以說它根本不可能行得通，無論是如何招募人才？還是如何推進技術研發？比如，你如何籌集到足夠的資本？你如何保持人們的動力？比如，你如何做出正確的決策？這些事情每一件都極具難度，且充滿極大的不確定性。人們很容易掩蓋問題，盲目地高喊口號，一往無前。我認為這就是 Silicon Valley 文化中消極的一面，至少是外界對 Silicon Valley 的認知，就是那種盲目地去做事，然後通過所謂的“現實扭曲場”或者其他方式來行事。但我認為這在 AI 領域行不通，對於 OpenAI 來說也行不通。我不認為這是我們一直以來的運作方式。我認為我們一貫的運作方式是：直面嚴酷的真相，理解科學，以及事物的本來面貌。我認為，這正是我們能夠取得成功的原因之一——即以不同的方式思考問題，而不滿足於現狀。即使是在早期，我們也曾思考過：如果只是撰寫並行表一些論文，那當然很好，我們會獲得引用，會成為會議上最酷的人，但我們能實現使命嗎？就像是，你如何通過這些活動，讓 AGI 的發展對世界更有利？這兩者之間並沒有直接聯絡，僅僅這樣做是不夠的。也許這只是一個基礎，也許只是邁出了一步，但這還遠未足夠。於是，你開始真正思考那些宏觀層面的問題：建構 AGI 需要什麼，但這並不輕鬆，不是嗎？因為你會意識到，根本沒有現成的路徑。你會意識到你需要資金。而你沒有任何機制來籌集這些資金。你可以努力嘗試。我們確實努力嘗試了。我們付出了極大的努力。但是，也許你正在籌集 1 億美元。你可能可以做到 5 億美元。很好。但如果是 10 億美元呢？相當困難。看看 OpenAI 憑藉我們所能籌集到的資源已經取得的成就。為了推進這一使命，除了直面痛苦並試圖理解我們想要達成的目標真相之外，確實沒有其他方法可以做到。快速問答與行業前瞻Shane Parrish： 有什麼教訓是你不得不反覆學習的？Greg Brockman： 做出艱難的決策，進行艱難的對話。Shane Parrish： 你收到過最好的建議是什麼？Greg Brockman： 我其實會說是來自我 Harvard 大一寫作課上的建議，就是不斷刪減詞彙以保持清晰並實現有效溝通。Shane Parrish： 你如何篩選資訊？Greg Brockman： 我閱讀量很大，並會積極地進行分類篩選。Shane Parrish： 你的榜樣是誰，為什麼？Greg Brockman： 我會說是 Gauss 和 Descartes，他們是非常深思熟慮的人，遠超於他們所處的時代，是非常有遠見的思想家，他們提出了真正的突破性見解，我認為這些見解改變了我們的思維方式和生活方式。Shane Parrish： 你希望非技術人員瞭解關於 AI 的什麼？Greg Brockman： 它將成為他們個人生活中的一股向善力量，他們將從中受益，並且它將有助於推動科學、醫學的發展，真正提升每個人的福祉。Shane Parrish： 外界對 Greg Brockman 有什麼誤解？Greg Brockman： 我認為人們並不瞭解我對這一使命的專注程度，這種專注在很多轉折點上讓我個人感到非常痛苦，但我堅信這項技術能夠助力於人並造福每一個人，我真的希望能助力實現這一目標。Shane Parrish： 為什麼 OpenAI 在模型命名方面表現得如此糟糕？Greg Brockman： 這一點我無法回答你。Shane Parrish： 我們是否已經接近 AI 驅動 AI 實現指數級增長的臨界點了？Greg Brockman： 我認為我們正處於這樣一個階段：將 AI 應用於其自身的開發流程中，並且這一處理程序正在變得越來越快。而且從很多方面來看，這種情況確實從 ChatGPT 出現後就在發生，我們利用 ChatGPT 來最佳化我們的開發流程。這讓效率提升了 10% 到 20%。現在我們擁有了這些出色的編碼工具，它們真正徹底改變了軟體工程的實施方式。而我們在生產模型時，大部分工作環節都受限於軟體開發的速度。關鍵在於如何實現這些系統。關鍵在於將它們規模化。關鍵在於如何管理這些龐大的電腦。我們即將進入一個階段，屆時 AI 也將能夠提出自己的研究思路，並進行驗證和實驗。因此，我認為我們所產出的成果將持續推動迭代和創新速度的提升。Shane Parrish： 目前有多少比例的程式碼是由 AI 編寫的？Greg Brockman： 很難統計還有多少程式碼不是由 AI 編寫的。那已經是一個微乎其微的比例了。至於實際的程式碼編寫工作，在給予正確的上下文和結構前提下，AI 目前在寫程式碼方面已經遠勝於人類。當然，在程式碼的架構層面，我們的頂尖人類專家仍然具有顯著優勢，這涉及對模組佈局的思考、各部分協作方式的規劃，以及某些介面定義的設定，但實際的程式碼編寫工作現在基本上全都由 AI 完成了。Shane Parrish： 它是否提出了你之前未曾想到的創新點？Greg Brockman： 我認為我們現在正處於臨界點。例如，我們在晶片設計領域已經看到了這一點。以我們自主研發的晶片設計為例，去年，我們應用了我們的技術來尋求更優的佈局，從而有效縮減電路所佔用的面積。在那裡，我們發現模型生成的最佳化方案實際上已經在我們的清單之中了。所以它並沒有提出人類從未想到的新穎構思，但它以一種我們無法及時實現的方式加快了執行速度。如果你觀察數學和物理領域，我們現在正在解決未解的數學難題。我們正在解決未解的物理難題，並且最近在量子物理學中，我們以與學術界預期相反的方式解決了這個特定的物理問題，並得到了一個優美而簡潔的公式，這看起來確實正在成為現實。因此，這些模型產生新想法是非常可行的，我們已經開始在其中一些領域中看到了成果。現在，隨著將其應用到越來越困難的領域，或者那些需要更多現實世界背景知識的領域，我們正開始看到成效。我們已經明確了實現目標的路徑，但仍有大量工作要做。政治、偏見與安全Shane Parrish： 為什麼模型會讓人感覺帶有政治傾向，幾乎像是存在政治偏見？Greg Brockman： 我們投入了大量精力確保模型的中立性，使其能夠呈現事實。你可以在我們的網站上準確查看我們模型所遵循的價值觀。我們發佈了公開規範，定義了我們希望模型採取的行為方式，你可以針對這些方式提供反饋。我們付出了巨大努力以真正達到這種中立的立場，併力求公平與平衡。我認為，有時你在 Twitter 上看到的那些截圖，其來源本身並不一定完全真實，這可能是因為後台存在某些影響答案的記憶、隱藏指令或對話的前序內容。所以有時，問題本身就沒有標準答案。比如當你問一個問題並要求用一個詞回答時，無論你怎麼回答，都會遭到某種關於偏見的指責。在我看來，問題的核心在於，我們非常在意事實，並致力於打造一個真正代表你意願的 AI。Shane Parrish： 你認為如果模型是基於強化學習建構的，它們是否會演化成專門說我們想聽的話？也就是說，如果我的政治傾向偏左，它就會給我一個偏左的回答；如果我偏右，它就會給我一個偏右的回答。Greg Brockman： 事實上，在如何根據使用者偏好訓練模型方面，我們已經經歷了一次演變。我們發現，在某一個階段，比如去年，這些模型確實開始傾向於說你想聽的話，比如會對你說：“這是一個非常棒的回答”。對此我們已經做出了應對。我們表示這並不是我們希望模型運作的方式，因此我們進行了改進。因為我們希望模型真正對齊的目標是幫助你解決問題，實現你的長期目標，或許在當下，聽到“這是一個很棒的問題，是有史以來最好的提問”會讓人感覺良好，但這並不是你真正想要的。也許有些人會喜歡，但這不是大多數人真正想要的。因此，我們實際上在技術上做了很大的改進，以確保我們的 AI 訓練不會導致所謂的“獎勵作弊”（reward hacking），我們要確保那裡有明確的訊號指向目標，而不僅僅是你的短期目標。Shane Parrish： 什麼是能讓你獲得快速成功的途徑？Greg Brockman： 對我而言，這也許是個人 AI 以及個人 AGI 未來發展願景中最重要的一部分，即確保它不僅僅是看起來不錯。它真正關乎的是與你的長期福祉、長期目標以及你內心真正想要的東西保持一致。這就是為什麼我認為它最能賦予人們力量，因為它確實讓你掌握了主動權，因為你將擁有一個 24 小時全天候為你服務的實體。當你入睡時，它仍在努力思考 Shane 想要什麼，我該如何做得更好，並且真的能夠將其實現。全球競賽與算力霸權Shane Parrish： 我們處於一場全球 AI 競賽中嗎？Greg Brockman： 我認為我們當然處於一場全球 AI 復興之中。而且我認為國家之間的動態關係尚未完全定義。我們看到這些突破性演算法的源頭高度集中在美國，集中在西方公司手中。顯然，世界各地都在進行大量的創新，但我認為具體的動態平衡，以及各國如何依賴不同的提供商，這一切目前仍在演變之中。Shane Parrish： 會有什麼後果嗎？你認為如果美國不是第一個實現 AGI 的國家會有什麼影響嗎？Greg Brockman： 我確實認為在 AI 領域保持領先對美國至關重要，因為我認為這是確保民主價值觀得到保護和捍衛的方式。而且我認為，每個國家也開始意識到它們需要某種形式的自主 AI 戰略。如果這正成為經濟安全和國家安全的基礎，它們就需要以某種方式參與其中。如果你審視美國為管理晶片出口和技術出口所做的許多努力，你會發現，如果採取過於激進的限制措施，那麼其他國家就不得不開發自己的競爭技術，或者依賴於其他正在建構此類技術的國家。如果你採取過於寬鬆的政策，那麼你可能會失去自己的優勢。問題在於，如何平衡這兩者？如何保持你的領先地位？但領導力不僅僅在於領先。領導力也在於引領世界共同前行。Shane Parrish： 其他國家是否在竊取技術進步？我最近一直在閱讀關於模型蒸餾的內容。Greg Brockman： 目前確實有很多關於模型蒸餾的嘗試，這些嘗試來自美國的科技公司，也來自世界各地。但我認為這忽略了核心要點，即這項技術正處於指數級發展的處理程序中。每當我們擁有一個模型時，我們其實已經轉向了下一個模型。我們已經在邁向下一個層級。因此，我們投入了大量精力來防禦蒸餾行為，加大其操作難度，特別是針對思維鏈以及模型中那些對於向使用者交付成果或輸出結果並非真正必要的部分。但我們所擁有的核心優勢，即我們隨時間積累的實力，實際上並不依賴於任何單一的模型，這與製造這些模型的機器有關。Shane Parrish： 噢，這就是你們停止展示推理過程的原因嗎？Greg Brockman： 這只是其中一部分原因。所以有兩個原因。其一是考慮到模型蒸餾，但第二個原因在某種程度上更為重要，那就是我們在最初開發推理範式時獲得了一個洞察：它為我們提供了一種未曾預料到的可解釋性機制，因為你真的可以讀取模型的思維過程，你可以精準看到它是如何得出答案的。因此，你可以解釋它是如何得出答案的，或者說是什麼真正促成了那個答案。現在的問題是，如果你訓練模型去生成一種看起來很完美的思維鏈，那麼你就會失去所有的忠實度，這就像是模型知道預期的答案部分要求思維鏈呈現出某種特定的樣子。因此，它可能不再能夠代表它是如何真正得出該答案的了。因此，我們很早就決定，要避免任何想要訓練這些思維鏈（chain of thoughts）以使其看起來更討喜，或者使其看起來像是可以直接呈現給使用者的傾向。所以，無論是出於競爭原因，還是出於安全考量，這些都讓我們更傾向於不展示這些中間思維過程。Shane Parrish： 目前的趨勢似乎是發佈預覽版模型。你認為這是因為我們受到了算力的限制嗎？Greg Brockman： 我想說的是，我們總體上正在走向一個算力受限的世界。如果你思考一下這些模型能為個人創造的價值總量，那是巨大的，這已經不僅僅是回答一個快速提問了。甚至也不僅僅是為你提供健康資訊存取權那麼簡單。它正在深入研究，並消耗大量的 token 來整合各種不同的資料來源，搜尋你的企業知識庫，從而真正有能力解決這些難題，去編寫出比人類水平更高的軟體。所有這些都是相當困難的。如果你看看我們從 GPT-5 到 5.2、5.3 再到 5.4 之間取得的進展，那是非常巨大的。這些模型在理解你的意圖以及適應你想要實現的目標方面正變得越來越出色。我們還把它們置於像 Codex 這樣的介面中，使其變得非常好用，這樣作為開發者，你真的可以如虎添翼，能夠實現遠超你預期之外的目標。而這一切從根本上都是由算力驅動的。如果你想為世界上每個人都配備一個 GPU，那麼現有的算力是遠遠不夠的。那相當於 80 億個 GPU。我們目前的發展軌跡遠達不到那種量級的算力水平，目前幾十萬個 GPU 就算是一個相當龐大的叢集了，而未來將會有數百萬個 GPU。世界上算力太少並不令人驚訝，為了真正能將這項技術普及給每一個人，我們需要更多的算力。至於訓練方面，我想說的是我們發佈產品的方式。因此，我們投入了大量精力，以確保我們能夠根據對未來趨勢的預判來建構計算能力。我認為我們將非常專注於我們的使命，即向所有人提供這些模型，並實現其廣泛普及。Shane Parrish： 你們曾因在資料中心投入如此多的人力和資金而受到調侃。你們認為目前的情況如何？Greg Brockman： 我認為這會為我們帶來優勢。而且我認為這將成為一種優勢，不僅是對業務而言，更是為了切實履行將這項技術普及給每個人的使命。Shane Parrish： 因為你們，就像你們很早就預見到了這一點。你們幾乎受到了所有競爭對手的調侃。Greg Brockman： 看看現在是誰在笑，我認為我們的競爭對手在算力方面過得並不順心，我只能這麼說。Shane Parrish： 但你們一定看到了他們沒有看到的東西，每個人當時都處於非常相似的技術空間裡，或者至少從外部看起來是這樣，大家都知道這一天終將到來，然而你們卻有膽量押注 1000 億美元。Greg Brockman： 這正是 OpenAI 的核心所在：真正地面對現實，真正去思考我們在未來 6 個月、未來 12 個月乃至未來 10 年將要實現的目標意味著什麼。這對於我們的宏大願景是如此，對於我們日常設計軟體的不同部分是如此，對於像擴大算力規模這樣的事情也是如此。我認為我們被一種強烈的動力所驅使，那就是將這項技術帶給每一個人，我們也在思考許多不同的機制，以確保能夠高效且安全地實現這一目標。聰明的經營者總是在尋找槓桿效應。你覺得呢？資料中心最終會專注於解決特定的問題。比如，你在北達科他州擁有一個巨大的資料中心，它專門用於攻克癌症，這就是它全部的工作。Greg Brockman： 是的。Shane Parrish： 我們距離實現這一目標還有多遠？Greg Brockman： 我認為這種情況在今年發生並非不可能。這確實令人驚嘆。試想一下，擁有一台這樣的巨型機器，你去過這些資料中心嗎？Shane Parrish： 沒有，我是在網上看到的，但從未親臨現場。Greg Brockman： 在這些機架之間穿行是一種非常不同的體驗。沿著通道走，看著那些長度完全精準的線纜，你就會意識到資料中心究竟是什麼——它們是龐大的機器，或許是人類所創造出的最大型機器。接著你會問，我們為什麼要建造這些機器？為什麼它們值得建造？因為它們有潛力去解決對人們而言至關重要的問題，比如尋找癌症的治療方法，幫助人們經營企業，有時也可能只是為了處理一些日常查詢。在我看來，其目的歸根結底在於如何創造價值？如何實現人們的目標？我認為，這些龐大機器針對單一問題所帶來的機遇，是我們尚未真正內化的。Shane Parrish： 但如果我們受到算力限制，該如何決定優先服務誰呢？比如，當我想生成一張圖片，而別人在嘗試攻克癌症時，為什麼要優先服務我？Greg Brockman： 這將是社會需要回答的最重要的問題。算力該投向何處？那些問題值得解決？雖然有很多值得解決的問題，但你必須對它們進行優先順序排序，因為算力資源終究是有限的。因此，我們堅信的一點是，每個人都需要獲得計算資源。這就是為什麼我們提供 ChatGPT 的免費版本。我們確實投入了精力，確保人們能夠使用這種廣泛可用的技術，因為我們認為這是我們工作的核心。我們認為，將這項技術交到人們手中，能夠賦予他們力量，讓他們實現目標，同時也能幫助他們理解這項技術。這有助於他們塑造這項技術在未來如何定位。你可以採取完全不同的方法，認為這只是象牙塔裡的事，只需解決問題，然後以某種方式分發技術突破即可。我認為那種方式也有其優點，但那並不是我們工作平衡點的正確所在。我認為我們確實非常希望在特定問題上取得重大進展。但我認為，這再次應該服務於我們的願景，即我們希望這項技術的益處能夠得到廣泛的分配。企業變革與個人 AGI 願景Shane Parrish： 在 OpenAI 內部，你們是如何看待消費者產品與企業級產品之間的關係的？Greg Brockman： 我最近思考的很多內容都集中在專注度上，因為這個領域本身就是機遇的化身，不是嗎？你可以利用 AI 並將其應用於任何問題，或任何你想建構的事物上。現在一切皆有可能。而我們面臨的問題是，計算資源是有限的。你想把資源放在那裡？因此，你需要形成協同效應。你需要回歸到這樣一個事實：你有多項事務同時進行，且它們共同作用，產生一加一等於十的效果。這正是夢想所在，也是最終目標。我認為 OpenAI 下一階段非常重要的一部分顯而易見是企業業務，因為我們正眼睜睜地看著經濟轉變為算力驅動型經濟。這一切正在發生。正如我們在軟體工程領域所見，這種情況將發生在人們使用電腦進行工作的每一個領域。每個人的電腦工作模式都將發生轉變：不再是你通過電腦工作，而是你的電腦為你工作。這將會是真正令人驚嘆的變革。因此，我們需要在場以幫助人們部署這些模型，弄清楚如何利用它們，並找出如何從中獲得最大收益的方法。順便提一下，企業與消費者之間的界限也將變得模糊，因為創業將變得比以往任何時候都更加容易。比如，我們現在已經看到了這種情況。甚至舉個例子，我的一位朋友描述說，他姐姐當時正形容一款她非常希望能有人開發出來的應用，她腦海裡已經有了這款應用具體想要實現的樣子。而他當時一邊聽著，一邊在 Codex 裡輸入程式碼，嗯哼，嗯哼，嗯哼，然後按下Enter。幾個小時後，他就向她展示了這款應用。她當時就說，等一下，這是什麼？這東西是從那兒來的？是誰開發的？他說，是你。我認為這非常了不起，你會意識到任何人都可以成為開發者，像 Codex 這樣的工具是面向所有人的。它不僅僅是為軟體工程師準備的。這就像是現在每個人都可以成為軟體工程師一樣。如果他們有願景，有這種主觀能動性，有想要實現的目標，那麼現在你擁有了可以實現這一切的神奇工具。而在消費者端，消費者這個詞涵蓋的範圍太廣了，這裡面包含了很多不同的東西。比如娛樂、各種自我表達的方式，還有解決目標問題。而我們在消費者領域真正專注於的一點，就是解決目標問題。比如我們堅信這項技術，你看智慧型手機，有 40 億人在使用它們。所有這些人應該都擁有一個個人 AI，一個能夠隨時線上、充分瞭解他們、掌握他們個人語境且值得信賴的個人 AGI；他們可以向其尋求建議，而且它對他們瞭解得如此透徹，以至於當你最喜歡的音樂家來到城裡時，它會自動主動地購買門票；也許它知道，我應該在操作前確認一下，又或者它知道，我必須去做這件事，而且我已經有了預先批准；擁有這樣一個瞭解你、能幫你實現任何目標、並幫你明確你目標是什麼的 AI，就是這種水平的體驗。你依然應該自己設定這些目標。它們應該是你的目標，你應該處於主導地位，但這正是我們想要創造的東西。而且我認為這不僅僅是 40 億人想要且需要的東西。我認為這將是 80 億人所需。我認為整個地球都將真正受益於並需要訪問個人 AI。因此，你可以從深度知識工作和代理系統的廣泛分發訪問這兩個維度來看待。我們希望建構這兩個方面，它們融為一體，因為歸根結底，它們是相同的技術。歸根結底，你需要一個位於雲端的 AI，它能獲取可信的資訊，能夠給出好的回答，並能代表你採取行動，無論是在建構工作還是個人生活中，或許你會有多個實例，但從根本上講，它是一個單一的技術系統。Shane Parrish： 你認為我們將來會在太空中建立資料中心嗎？Greg Brockman： 我認為我們會在任何地方建立資料中心。Shane Parrish： 你認為距離實現這一點還有多遠？Greg Brockman： 在太空中建立資料中心涉及許多技術難題。例如，我們今天建構的資料中心非常嬌貴。它們就像巨大的機器，內部包含著非常脆弱且昂貴的元件。過去我們遇到過很多問題，比如線纜繃得太緊，字面上就是線纜過緊，導致了訊號完整性問題，進而使電腦無法正常工作。因此，目前如何維護這些系統，往往需要人工去進行物理操作，未來很可能會轉向機器人作業。所以我認為，在考慮將資料中心部署到各種嚴苛環境時，解決這些技術問題將是至關重要的前提條件。雖然太空看起來是一項巨大的挑戰，但我認為我們對計算能力的需求如此之大，以至於必須考慮所有的選擇。安全性與監管：如何走向 AGIShane Parrish： 什麼是迭代部署？為什麼要採取這種方式？Greg Brockman： 迭代部署是 OpenAI 實現技術惠及大眾並達成使命的核心支柱之一。雖然我可能是最先明確提出這兩個詞的人，但這種精神確實是在我們構思首個產品部署，並深入思考它與我們的目標有何關聯時自然形成的。你會意識到，在考慮建構能夠惠及人類的 AGI 時，可以採取兩條不同的路徑。Shane Parrish： 你是怎麼做到的？Greg Brockman： 一種方式是選擇秘密地進行開發。你不部署任何東西，你有大量的時間去打磨它、確保它完美，然後在某個時刻你按下按鈕宣佈部署。我記得當時在想，我能採用那種策略嗎？我能為那種策略負責嗎？你願意坐在房間裡思考：我們已經完成了所有測試，我們準備好部署了嗎？而且你之前從未部署過任何東西。那是你與現實的第一次接觸。而且這是一個將真正改變世界的強大系統。這是一個非常棘手的設定。但反過來，如果採用一種將此視為你第 100 個系統的方法會怎樣？在此之前，你已經不得不通過能力日益強大的系統來解決過 99 次這類問題。而世界也已經有機會適應它們，並圍繞它們進行重構。我們很早就從 GPT-3 中吸取了教訓。我們非常具體地看到了部署一個系統是什麼樣的——我們花了很多時間去思考 GPT-3 的所有濫用可能，以及它可能出錯的方式。我們考慮了虛假資訊。我們考慮了諸如此類的宏大圖景。Shane Parrish： GPT-3 最主要的濫用是什麼？Greg Brockman： 是醫療垃圾資訊，比如向人們推銷各種藥物，這並不是我們曾經認為會成為問題的事情，但當我們親眼目睹時，我們就有機會做出反應並從中學習。因此，迭代部署的理念是我們將引入該技術的中間版本。當然，這並不是盲目部署的藉口，你仍然需要在每一步都充分考慮我們對於所有可能被濫用的方式的最佳預判。Shane Parrish： 有那些負面影響？Greg Brockman： 有那些風險？讓我們去緩解這些風險。但你能夠觀察到它。你可以驗證自己的判斷是否正確，從現實中學習，並在下一次做得更好。Shane Parrish： 我認為人們沒有意識到這在多大程度上是全新的事物。沒有任何現成的行動指南。就像你一樣，我們也是在邊做邊摸索，而且這還是世界上部署速度最快的技術，大概沒有之一。這太強大了。Greg Brockman： 在 OpenAI 歷史上的不同階段，我們確實曾懷抱希望，認為總會有那些曾經部署過變革性技術的人。也許他們能告訴我們答案。但事情從來沒有那麼簡單。他們的確擁有智慧和見解。而且我認為我們確實已經汲取了這些智慧。但我們意識到，我們才是最瞭解這項技術的人。正因為我們創造了它，所以我們對如何塑造它有著深刻的理解。對於那些不夠深入瞭解這項技術的人來說，要對此發表意見或提出建議是很難的。我認為我的一個觀察是，正確的選擇極其依賴於具體的技術事實。或者說，手機、大型電腦、AI 以及電力等不同技術所施加的壓力各不相同。每一項技術都有其獨特的傾向性和問題。這些都是它們被開發的方式。參與其中的個體也很重要，不同人類之間的互動及其人為因素，對 AI 當今在我們眼前的發展方式產生了巨大的影響。我認為，從 OpenAI 創立之初，甚至在此之前，我們花了很多時間在做的事情，其實就是夢想。我們花了很多時間去認真思考我們所做之事可能帶來的所有影響。我認為我觀察到的一點是，對於沿途出現的一些關鍵時刻，我們並沒有真正感到驚訝。但我們對它們到來的時間、實現的難度，以及我們所觀察到的具體先後順序感到驚訝。我認為我們正在邁向的世界，在許多方面都比我們預想的更加美妙且令人驚嘆。Shane Parrish： 如果一個前沿模型將安全性視為首要考慮因素，而另一個前沿模型則不然，您如何看待這種競爭隨時間推移的演變？Greg Brockman： 我認為我們已經發現，安全性實際上是一項核心產品功能。畢竟，沒有人會想要一個與自己意圖不一致的模型，你想要的是一個值得信賴的模型，無論在什麼情況下，它都能做出正確的反應。因此，我們進行了投入。我想我們實際上在安全性方面的投入，可能遠超人們的認知，甚至可能超過了任何其他實驗室，我們在 ChatGPT 上擁有全球最廣泛的 AI 部署，這些語言模型被最多的人所使用。我們必須重視這一點。我們一直都很重視。但當你看到我們能夠將這項技術帶給如此多的人時，你確實會有所感觸。所以我認為，如果建構這項技術並擁有成功產品的人不全力投入安全保障，那麼這種狀態是無法持續的。我認為真正的挑戰在於如果你退後一步審視，因為交付安全性的某些方面並不一定只關乎短期。你不僅要為你的企業著想，還要為你所創造的事物進行長遠思考。其中一部分涉及如何訓練模型。另一部分則涉及如何建立反饋循環。但我只想說，我們致力於將安全作為使命的一部分，我認為這一點已經在我們的產品和現實世界中得到了體現。人們還忽略了一點，那就是這不僅僅關乎模型的安全性。這還關乎社會的韌性。如果你審視變革性技術是如何進入世界的，就會發現社會是圍繞這些技術的優勢和風險進行自我建構的。你會考慮引擎，你製造汽車，但同時也需要安全帶。你還需要修建道路，並重新規劃城市。圍繞著這項技術運作方式的事實來展開。你會考慮電力。你會有各種安全標準。你會有關於允許安裝電線杆位置的不同規定，還有高壓線以及所有這些設施。我認為 AI 也是如此。這不僅僅關乎技術本身。這不僅僅關乎模型本身。這實際上關乎他們如何融入到一個具有韌性的社會中。這也是我們正在大力投入的領域。OpenAI Foundation 將此作為其核心重點之一，旨在幫助社會投資並建構針對 AI 的韌性層。Shane Parrish： 你認為 AI 的監管應該是什麼樣的？Greg Brockman： 我認為 AI 監管需要實現的目標涵蓋了多個不同的方面。首先，我認為至關重要的一點是，我們最終必須確保這項技術造福於人類。當你思考諸如此類的問題時，情況已經非常明確了。即人們曾經認為穩定的機構、工作崗位乃至生活軌跡，這些前提假設可能不再適用了。因此，我們需要確保提供支援，並確保在技術推廣的過程中，我們都能彼此扶持。那麼，從監管的角度來看，這意味著什麼呢？我認為有很多想法，比如是否應該讓每個人都能獲得計算資源。我們要如何確保這一點屬實呢？我們要如何確保隨著這項技術開始產生更多經濟價值時，這些價值不會僅僅聚集在某一個地方，應該有一些切實能讓每個人都受益的事物。這項技術不應僅僅是抽象地造福經濟。它顯然會做到這一點。它應該直接成為人們在日常生活中能感受到的東西，讓他們覺得因為這項技術的存在、因為他們在通過使用它來完成更多成就，他們的生活變得更好了。我認為我所看到的這些發展方式，將其建立在我們真正所見的事實基礎上是非常重要的。例如，很多人表示他們或其摯愛的生命因使用 ChatGPT 而得救，這是一個很好的例子。你意識到這正是應該得到支援和保護的事情。因此，通過監管來實現這一目標的一個好例子，就是考慮隱私和特權問題。當你與醫生交談，或者與律師交談時。這些屬於享有特權的對話。你能夠放心地分享它們。對於醫療服務提供者何時必須將這些資訊提供給執法部門或向他人發出警示，法律是有明確約束機制的。這在法律中有明確的定義。目前，我們在 AI 領域還沒有類似的機制。但人們正在使用這些工具，而且他們應該使用這些工具，因為這些工具對於人們獲取原本無法獲得的資訊至關重要，同時他們也理應瞭解相應的保護措施。所以我認為，我們需要深入思考這些模型是如何融入人們生活的。我們如何在確保持續創新的同時，也確保其帶來的福祉能夠廣泛惠及大眾？我們該如何確保美國保持領先地位，比如在機器人技術方面，我認為我們目前並非處於領先地位。我認為對於 AI，我們必須確保繼續保持我們目前所取得的卓越地位。你考慮像資料中心這類事物時，會發現人們顯然對諸如“它們是否推高了電價？”這類問題存在許多擔憂。我們有責任確保它們不會產生這種情況。我認為每一項需求都可以通過多種不同的機制來實現。有時是通過監管。有時是通過公司的承諾。而有時僅僅是通過讓人們瞭解事實。一個很好的例子是資料中心和水資源消耗。這是一個人們討論得很多的話題。但實際上，我們的資料中心用水量極少，不是嗎？那實際上是他們經常使用的一種錯誤資訊。Shane Parrish： 它的用量比一個家庭用的還要少，不是嗎？Greg Brockman： 確實是這樣。因為它是一個閉環系統。你基本上是把一個巨大的，你可以把它想像成一個游泳池的水填滿。然後你只是讓它在內部循環。所以這是一個固定且總量並不大的水體。但我認為人們真正需要理解的是原因。為什麼我們要建造這些東西？為什麼這樣做是值得的？對我有什麼好處？能夠賦予人們這種賦能，無論是幫助他們感受到自己現在可以成為創業者，可以建立業務，還是可以創造出某些東西。這些都是我們必須解決的問題。我們必須確保人們在日常生活中能真切地感受到這一點。終章：不確定性與人類的未來Shane Parrish： 當我告訴別人我要進行這次採訪時，一種普遍的反應是他們對自己的工作和不確定性感到擔憂。你會對他們說什麼？Greg Brockman： 我確實認為這項技術充滿了不確定性。關於它究竟會如何演變。我認為它演變的方式也會令人驚訝。就像我們現在擁有的 AI 以及我們現在所處的世界，並非科幻小說所預見的那樣。這僅僅是不同而已。我認為，一些不可避免的結論在真正發生時，其實際樣貌往往與預期不盡相同。所以，我相信人們總是最容易看到自己失去了什麼，而變革即將來臨。這是不可避免的。事實絕對如此。但要在事發前預見你將獲得什麼，卻要困難得多。舉個例子，試想一下如果在 1950 年向某人描述 Uber 會是什麼樣。你必須考慮到電腦。你必須考慮到行動電話。你必須考慮到 GPS。而且，現在你還能在三分鐘內讓一輛車出現在你所在的位置。如果你思考一下這種用例背後的技術投入水平，這其實是非常瘋狂的。但它確實發生了。而且它不僅僅是發生在那一個用例中。它發生在成千上萬、數以百萬計的其他用例中。所以我認為，我對 AI 的看法是，它關乎賦能。它關乎人類的主觀能動性。這確實意味著，一些現有的機構、工作崗位以及類似的事物，原本我們認為可以依賴的東西，可能會變得不如我們想像中那麼穩定。因此，這將會對人們產生影響。但我們需要深入探討的問題是，你從中獲得了什麼，以及你如何從中受益？所以現在你可以成為一名建構者。你可以創造任何事物。任何你能想像到的事物都能成為現實。那麼，你想像到了什麼？你如何通過深入利用這項技術來培養那種能力？我觀察到的一點是，在這一技術的多個迭代周期中，那些似乎獲益最多的人，往往是之前就已經在應用該技術的人。因此，你越是磨煉這種能力，其核心就在於主觀能動性、願景和創意，因為現在嘗試這些創意的准入門檻比以往任何時候都要低。所以我認為將會創造出新的機遇。我認為世界確實需要思考，我們如何在這個充滿不確定性的時刻，以及在即將到來的任何變革中支援每一個人，因為未來的經濟將是計算驅動型經濟。它會變得不同，但我相信每個人都將有貢獻自己力量的空間。Shane Parrish： 如果現在身處高中、大學，或者剛剛步入職場，年輕人應該把投資重點放在那裡？你認為未來那些技能會變得更有價值？Greg Brockman： 我真的認為深入鑽研這項技術將是一項關鍵技能，真正理解如何從 AI 中獲得最大收益，因為我們都將邁向一個由我們擔任智能體管理者、甚至很快可能成為自主 AI 公司首席執行長的世界。或者試想一下，如果你擁有一個 10 萬人的公司規模的勞動力，全都聽命於你，為你效勞。全天候 24-7 運作，只要你有充足的 tokens 和算力來驅動它——我認為這再次強調了每個人都需要獲得算力，這對全世界來說是至關重要且必須解決的問題。因為到了那個階段，你可以將其指向任何問題。而人類想要解決的問題數量是無限的。所以我認為，人們越是深入研究這項技術，越能弄清楚如何利用即將到來的變革，如何以創新的方式組合這些技術，如何與自己的智能體互動以進行有效管理，並深入思考：我想要什麼？我的自我意識是什麼？我的目標是什麼？我希望在這個世界上看到什麼？實現這些目標的難度將比以往任何時候都要低。我認為那個世界，連同我們將獲得的收益，其發展前景幾乎是難以想像的。Shane Parrish： 這是對未來最積極的一種看法。你能想像到的最消極的情況是什麼？Greg Brockman： 關於科技發展至今的一個非常有趣的現像是，它實際上一直是關於我們如何扭曲自身以適應機器。試想一下，有多少人每天坐在那個盒子前不停敲打，患上腕管綜合徵，肩膀也變得佝僂，所有這些其實都不符合我們的自然生理狀態，那並不是我們被設計出來的初衷。而我們正邁向這樣一個世界：不再僅僅是你通過電腦進行工作，而是電腦實際上在為你完成工作。這是一件事物，它帶來了機遇。我認為它也帶來了風險。我認為我們需要設法降低這些風險。歸根結底，核心問題在於，如果你擁有的機器能夠幫助人們實現他們的目標——也就是在外界按你的意願行事——但有時人們的目標會相互衝突，你該如何解決這種衝突？你如何確定 AI 協助的邊界在那裡？我們真正試圖搞清楚的是，這項技術如何融入社會，以及如何確保其收益不僅流向一家公司或一小部分人，而是真正惠及所有人。我們需要提高底線，讓每個人都能享有高品質的生活和這項技術，並有能力利用它去實現目標。我認為，這相應地也會提升發展的上限。因此，我認為我們將進入一個每個人都擁有新機遇的世界。這不僅關乎社會安全網，更關乎如何確保每個人都能在發展處理程序中不掉隊。屆時，我們將能夠成就更多偉大的事業。比如，你可以思考一下醫療服務的普及問題。如果我們能把工作做好，我們就應該進入這樣一個世界：每個人都能獲得醫療服務，就像口袋裡隨時揣著一名醫生。這名醫生的水平超過當今任何醫療團隊，甚至是世界上最好的醫生。他們隨叫隨到，關心你的狀況，真正閱讀你的病歷，並且全天候思考如何有效改善你的健康狀況。這具有顛覆性，這種技術將如何與世界互動，這不會是免費得來的。我們已經目睹了它的初期階段。但我認為，僅在接下來的兩年裡，我們將看到的不僅是它作為一種向善的力量，我們還必須承認它可能出錯的所有方式以及它所帶來的風險，以便實現那些積極的成果。Shane Parrish： 我們總是以同一個問題結束每一期播客，那就是：對你而言，什麼是成功？Greg Brockman： 實現 OpenAI 的使命，即確保通用人工智慧造福全人類。非常感謝。Shane Parrish： 這太棒了。這是一次很棒的對話，夥計。謝謝。Greg Brockman： 我度過了一段愉快的時光。 (Web3天空之城)
