全球 AI 頂會，快成中國卷王的專場了。 每年 AI 頂會放榜，各大機構都會暗戳戳地發喜報，比拚誰家被收錄的論文多。但今年 ICLR（國際學習表徵會議）放榜後，一位名叫 Dmytro Lopushanskyy 的研究員，幹了一件極其硬核的事。 他沒有去引用官方那些現成的統計表格，而是寫了整整 250 條正規表示式，把 ICLR 2026 全部 5356 篇接收論文的 PDF 挨個下載下來。 接著，他硬是從每篇論文首頁的縫隙裡，把機構署名全給摳了出來，並利用這幾百條程式碼規則進行清洗與歸一化，自動給「麻省理工」和「MIT CSAIL」這種同一機構的不同寫法做了合併。

大廠林立，為何獨立Infra反而“更大”了？ ▲圖片由AI生成 智東西5月7日報導，剛剛，國內AGI Infra頭部玩家無問芯穹宣佈此前已再獲超7億元融資。這一數字不僅刷新了中國AI原生基礎設施公司的融資紀錄，也再次將“AI基礎設施”這一長期被低估的賽道，推到聚光燈下。 如果說過去三年，資本追逐的是模型能力本身，那麼當下，這一邏輯正在發生轉移：支撐模型規模化落地的基礎設施，開始成為新的價值錨點。

事情是這樣的。4月27日，加州奧克蘭聯邦法院門口擠滿了媒體。馬斯克走進去了。他不是來投資的——他是來告狀的。而他告的，正是10年前他親手參與創立的那家公司。索賠金額：1500億美元。這場官司的戲劇性，法院開庭頭幾天就拉滿了。馬斯克在證人席上坐了三天，失態六次。有記者坐在旁聽席上記了五小時筆記，最後在筆記本上寫下："我這輩子從未如此同情過山姆·奧特曼。"但真正讓法官當場引用作為"證據充分、應當開庭"依據的，不是馬斯克的憤怒陳述，而是一本日記。日記的主人，是OpenAI聯合創始人格雷格·布羅克曼。日記裡記錄了2017年的一個場景：他當面跟馬斯克保證"OpenAI會堅守非營利"，轉身在同一本日記裡寫："如果三個月後我們轉成B公司，那就是一個謊言。"同一頁紙，算了一筆帳："在財務上，什麼能讓我身家達到10億？"再往後翻三行，是布羅克曼寫下的那句話——後來成為整個案件的關鍵註腳——"這是我們擺脫馬斯克的唯一機會。"---2015年，OpenAI誕生的時候，理想很純粹。馬斯克和阿爾特曼站在矽谷的聚光燈下，宣佈要成立一家"為人類開發安全AI"的非營利機構。使命宣言漂亮，號召力驚人——矽谷工程師們降薪加入，就是衝著這份"不賺錢"的純粹。馬斯克承諾捐10億美元。分幾年到帳。後來法庭算了一筆帳：到帳的，3800萬美元。不足承諾的4%。但這不是最讓馬斯克崩潰的數字。最讓他崩潰的數字是8500億——OpenAI現在的估值。2015年的那個非營利組織，現在是這個價。---這場"離婚"真正的裂縫，出現在2017年。那年馬斯克提出：我要51%的股權，還要4個董事會席位。其他所有創始人加在一起，只有3席。被拒了。馬斯克退了一步：那我提議把OpenAI併入特斯拉，我來管。又被拒了。2018年，馬斯克離開了OpenAI董事會。離開的時候，他對外的說法是"利益衝突"——特斯拉也在做AI，他要避嫌。法庭上，律師問他：你真的因為利益衝突離開的嗎？馬斯克答："在嚴格的貨幣意義上，我捐了3800萬美元。"法庭記錄上，他喊了這麼一句："沒有我，OpenAI就不存在！我貢獻了我的聲譽！我給這個公司起了名字！"然後他被追問：xAI用OpenAI模型蒸餾Grok，這個事你知道嗎？馬斯克說："部分有。"——原文是"Yes or No"，他的回答是"or"。---有意思的是，布羅克曼那本日記不只是"甩鍋備忘錄"。它同時記錄了OpenAI內部在2015年就出現了分歧：馬斯克自己在內部郵件裡提議過要不要加一個營利實體，還曾在給同事的郵件裡寫道"把OpenAI設成非營利可能是個錯誤"。所以這場訴訟的真實圖景，遠不是"理想主義者被資本家背叛"那麼清晰——它更像是，一群人從第一天開始就對"這件事到底怎麼賺錢"存在根本分歧，只是當時誰都沒說破。非營利只是外殼，還是從一開始就是策略？這本日記給出了它的版本。---5月份，奧特曼要登台作證，布羅克曼要當面解釋日記裡的每一句話，微軟CEO納德拉要向9個陪審員解釋當年那100億美元投資的決策邏輯。而希馮·齊利斯的出場，大概會是整場庭審最"抓馬"的時刻——她是前OpenAI董事，是馬斯克四個孩子的母親，同時也是OpenAI方指控的"內部資訊洩露者"。三重身份，同一個人，站在證人席上。這場官司的表面是1500億美元，深層只有一個問題：AGI的方向盤，到底該誰握著？OpenAI說，我已經不是非營利組織了，我是商業公司，我的AI要服務全人類——通過商業化。馬斯克說，你從第一天就不是你想做的那種東西，你騙了所有信任你的人。兩個答案，兩條路徑，背後是整個AI行業都在面對的終極困境：當AI的能力越來越接近AGI，誰來為它的走向負責？是創始人？是董事會？是投資人？還是一個誰都不知道怎麼回答的"全人類"？這場訴訟的結果，將給整個行業扔出一個判例。無論誰贏，AGI時代的公司治理框架，都會因此被改寫。好了，今天就聊這個。馬斯克和OpenAI的故事，大概是這十年來矽谷最貴的一場"離婚"。不是因為財產分割，是因為理念——而且這個理念值1500億美元。 (網路的那些事兒)

484天的沉默，換來一場1.6兆參數的爆發。4月24日，DeepSeek V4-Pro正式發佈，總參數1.6兆、百萬token上下文、首次將華為昇騰與輝達GPU並列寫進硬體驗證清單。而就在4天前，與DeepSeek相距僅1.4公里的月之暗面剛開源了Kimi K2.6，SWE-Bench Pro得分58.6，首次讓國產開源模型站上全球程式碼評測之巔。兩家公司在五天內連發兩款兆級模型，這不是巧合，是海淀區知春路上兩個男人——梁文鋒與楊植麟，長達一年半的默契共振終於公開化。先說一個被大多數媒體忽略的真相：DeepSeek和Kimi的"技術撞車"，恰恰是開源生態最理想的進化方式。2025年初，DeepSeek在V3中推出的MLA多頭潛在注意力機制，Kimi直接沿用；2025年7月，Kimi在兆參數K2中率先規模化驗證自研Muon二階最佳化器，訓練成本降低50%以上，而這次DeepSeek V4的技術報告裡，也跟進採用了Muon。表面上看是路線同質化，實際上這是兩家公司在兆參數無人區裡的"交叉驗證"。你探一步，我確認一步，共同把國產大模型的技術水位抬到全球第一梯隊。它們是在互相兜底。這種默契，比單打獨鬥更難得。更關鍵的是，DeepSeek V4的發佈證明了一件事：中國AI已經具備了"晶片-模型-系統"全端自主的能力。技術報告裡那行關於昇騰950的備註，很多人讀出了"算力受限"的焦慮，但我讀出了另一種訊號：DeepSeek敢於在發佈當天就把國產晶片的適配進度寫進官方文件，這意味著"芯模協同"不再是PPT概念，而是正在發生的工程現實。下半年昇騰950超節點批次上市後，V4-Pro的價格會大幅下調，到時候國產模型的性價比優勢將進一步放大。當然，挑戰也是真實存在。DeepSeek近300人的研發團隊中，已有10位核心成員標註"已離職"，包括初代LLM核心作者王炳宣、R1核心研究員郭達雅等，分別流向騰訊、字節跳動。人才流失倒逼DeepSeek打破"零融資"的執念，融前估值已達3000億人民幣，計畫增資500億，50億起投。騰訊、阿里正在爭搶入局。但換個角度看，這恰恰說明DeepSeek的技術實力已經強到讓大廠無法忽視。挖不走整個團隊，就挖核心骨幹；投不了整個公司，就搶份額入局。這裡有一個反常識的判斷：DeepSeek和Kimi越是被資本追捧，中國AI的"去中心化"生態反而越穩固。梁文鋒曾拒絕所有外部投資，擔心喪失決策權；楊植麟去年12月還在內部信裡說"短期內不著急上市"。智譜和MiniMax在港股上市後的暴漲並沒有讓這兩家公司跟風IPO，而是選擇了更靈活的一級市場融資。有意思的是，當國內為DeepSeek和Kimi的融資歡呼時，美國那邊Anthropic的ARR已經突破300億美元，15個月翻了30倍，正式超越OpenAI的240億美元。OpenAI剛完成1220億美元融資，估值8520億美元。相比之下，中國大模型的融資額"顯得小情小調"。但體量差距背後，是商業模式的代際差異。Anthropic 80%收入來自企業端，30萬家企業客戶，財富十強裡八家在用Claude。而DeepSeek至今堅持模型全部開源，C端產品免費。這不是不會賺錢，是主動選擇用開源換生態。Kimi雖然月活使用者從巔峰期的3600萬回落至1000-1500萬，但海外API收入四個月翻了四倍。Cursor套殼Kimi事件更讓全球開發者意識到：中國開源模型的性能已經不輸閉源旗艦。中國大模型公司不是在重複網際網路時代的"燒錢換規模"劇本，而是在走一條更硬核的路：先用技術實力打開全球市場，再用生態粘性鎖定長期價值。歷史正在寫下新的註腳。當DeepSeek把昇騰寫進技術報告，當Kimi的模型ID出現在Cursor的API呼叫裡，當馬斯克親自轉發評價"Impressive work from Kimi"。這些訊號都在指向同一個趨勢：中國AI不再只是"本土童話"，而是全球開源生態的規則制定者之一。朱嘯虎去年說"大模型已經變成水電煤，沒有超額利潤"。目前來看，他錯了一半：大模型確實在變成基礎設施，但超額利潤沒有消失，只是從閉源壟斷轉移到了開源生態的規模化營運。DeepSeek和Kimi的估值飆漲，本質上不是泡沫，是資本對"開源即權力"這一新範式的提前下注。DeepSeek和Kimi的"知春路雙雄"敘事，不是精緻的本土童話，而是正在發生的全球級技術事件。它們的結局也不只有兩種：被資本收編，或在獨立與規模之間找到平衡。還有第三種可能，用開源生態的廣度，避險閉源壟斷的深度，最終在全球AI格局中佔據不可替代的位置。AGI不是終點，定義規則才是。 (識焗)

在科技發展的宏大敘事中，我們正站在一個足以媲美工業革命的十字路口。近日，在備受矚目的紅杉資本“人工智慧巔峰”行業峰會上，紅杉資本的核心合夥人們與矽谷的頂尖創業者和技術專家齊聚一堂，共同探討這場正在重塑世界秩序的變革。本次會議揭示了一個核心共識：我們正從單純的“軟體時代”邁向全方位的“智能體時代”。會議深入探討了 AI 浪潮的獨特性，指出它是一場計算革命而非單純的通訊革命。核心議題圍繞“智能體（Agents）”作為新一代服務的崛起展開，提出了 MADS 戰略框架（護城河、可供性、擴散），並展望了未來機器將完成 99.9% 認知工作的圖景。儘管技術將重塑勞動力和生產力，但會議強調，人與人之間的聯結仍是價值的終極來源。核心觀點計算革命與 AGI：AI 是關於資訊處理的計算革命，不同於以往的通訊革命。長周期智能體的出現標誌著商業意義上 AGI 的降臨。MADS 框架：在模型之上建構競爭力的三要素——以客戶為中心的護城河（Moats）、降低使用門檻的可供性（Affordance）以及填補能力落差的擴散（Diffusion）。智能體即服務：軟體正在向服務演進，智能體將以極低的邊際成本實現無限規模化的專業服務（醫療、法律、開發等）。認知工業革命：認知工作將重演工業革命的歷程，未來絕大部分認知勞動將由機器完成，世界將進入“異類設計”和新科學發現的時代。人工智慧是一場關於資訊處理的計算革命，而非單純改變分發方式的通訊革命。軟體正在向服務演化，智能體將以極低的邊際成本，實現規模化的法律、醫療等專業服務。長期非同步智能體的成熟，標誌著商業意義上的通用人工智慧（AGI）已經降臨。護城河不再僅僅源於技術能力，而在於與客戶需求的深度繫結及阻力最小的使用路徑。未來99.9%的認知勞動將由機器完成，世界將進入“異類設計”與新科學發現的爆發期。當機器承攬了所有工作，人與人之間的聯結與情感體驗將成為價值的終極來源。不僅僅是更快的馬：計算革命的本質回顧科技史，從矽基電晶體到移動網際網路，每一波浪潮都在為今日的爆發積蓄動能。然而，當前的人工智慧浪潮與以往有著本質的差異。“這波浪潮是首個兼具軟體與服務屬性的變革，” 紅杉資本的合夥人在開場中指出，雲轉型的前十五年將軟體市場推向了數千億美元的規模，但人工智慧所觸及的是價值十兆美元的服務市場。僅在美國，法律服務的市場規模就足以等同於整個軟體行業。更深刻的差異在於技術本質。網際網路、雲技術和移動端本質上是“通訊革命”，旨在改變資訊的傳播與分發。而人工智慧則是一場“計算革命”，它關乎資訊是如何被處理和重塑的。這種底層邏輯的轉變意味著，我們不僅是在製造“更快的馬”——即提升10%或40%效率的生產力工具，而是在製造“汽車”——那些能徹底改變工作本質、組織形態乃至社會運行規則的顛覆性應用。商業通用人工智慧的降臨：從自動化到自主化在過去兩年中，技術轉折點接踵而至。從預訓練模型的震撼問世，到推理能力的大幅躍升，再到如今能夠處理長周期任務的智能體崛起。雖然學術界對通用人工智慧（AGI）的定義仍有爭論，但從商業和實踐的角度看，變革已經發生。“如果你能指派一個智能體去完成一項工作，並且它能在遇到故障後自我修復並持續工作直到任務完成，這就是商業意義上的通用人工智慧。”智能體不再是簡單的程式碼行間輔助，它們正演變為能夠感知環境、選擇行動並自主達成目標的複雜系統。從程式碼編寫到建築服務銷售，從內部辦公流程到複雜的科研任務，智能體的表現已經從“分鐘級”的持續性跨越到了“小時級”甚至更長。這種“把事情辦成的能力”，正在將人類從繁瑣的流程中解放出來，轉向更高層級的戰略管理。策略框架：在基礎模型之上建構護城河對於在基礎模型之上進行創新的初創企業而言，如何在技術快速演進的洪流中站穩腳跟？峰會提出了一個關鍵的戰略框架，即由護城河、可供性與擴散組成的競爭力支柱。首先是護城河。在計算革命中，底層技術的變化日新月異，但客戶的需求往往保持穩定。“為了建構護城河，你實際上應該關注客戶需求，因為你所建構的技術在明天可能就會變得無關緊要，而你以客戶為核心的緊密程度則會更加持久。” 其次是可供性，即為客戶創造阻力最小的路徑。優秀的智能體產品應該像錘子一樣，無需解釋，使用者一看便知如何使用。最後是利用技術能力與市場落地之間的“擴散鴻溝”，這正是應用層公司的巨大機遇所在。服務即軟體：重塑十兆美元的產業版圖“服務即新一代軟體。” 這一判斷預示著傳統軟體行業的終結與服務業的智能化重生。在醫學領域，智能體可以根據個體的基因組提供個性化建議；在法律領域，它們能代表客戶進行合同談判甚至法律訴訟。相比於人類員工，智能體具備無限的規模化潛力與極低的邊際成本。“人類難以實現規模化，且成本高昂；而智能體可以通過算力實現無限擴張，且你只需要支付令牌成本，而非薪水。” 儘管人類目前在適應力上仍具優勢，但隨著“苦澀的教訓”——即算力終將戰勝人類經驗的規律持續發生作用，智能體在專業領域的表現將很快超越普通人類。一個由非同步智能體自主運行、甚至機器製造機器的“黑燈工廠”時代正在加速到來。認知的工業革命：走向機器主導的創造力時代如果我們把工作分為體力與認知兩類，那麼人類已經完成了體力的工業革命。今天，全球超過99%的體力勞動由機器完成。而現在，認知領域正在重演這一處理程序。“我們相信，在不久的將來，地球上99.9%的認知工作將由機器完成。”這一轉變將帶來三個深刻的影響：第一，智能將成為像鋁一樣的廉價商品。曾經珍貴如珠寶的鋁，在電解法發明後變成了隨手可丟的包裝材料；曾經需要數十年磨練的博士級技能，未來可能只需呼叫一次令牌即可獲得，用完即棄。第二，世界將進入“異類設計”階段。機器的邏輯不同於人類直覺，當人工智慧設計晶片或建築時，會產生效率極高但外觀怪異的作品，我們必須保持開放心態。第三，人工智慧將催生出如熱力學般基礎的新科學，將神經元與令牌的運作系統化、公式化，幫助人類最終掌握意識的奧秘。人是萬物的尺度：在技術洪流中守望人性價值當機器可以處理所有認知任務，甚至能比人類更好地進行藝術創作時，人類的價值何在？峰會引述了古希臘哲學家普羅泰戈拉的名言：“人是萬物的尺度。” 任何脫離了人類體驗的事物，其價值都將不復存在。就像攝影技術的出現並沒有終結繪畫，反而催生了印象派與表現主義一樣，人工智慧的普及將逼問我們藝術與工作的本質。“人工智慧可以完成工作，但唯有人與人之間的聯結，才能讓你找到在乎的理由。” 在這個技術指數級增長的時代，那些讓我們之所以為人的特質——情感、關係與共同的體驗，反而成為了最稀缺、最珍貴的資產。十年之後，工作方式或許會翻天覆地，但那些在變革中建立的人際紐帶，將是我們在人工智慧巔峰之上最持久的收穫。天空之城全文整理圖解宏觀校準：AI 浪潮的獨特性Pat Grady： 大家早上好，你們過得怎麼樣？很好，很好，感覺好多了。嘿，感謝大家來到這裡。我們對此深表感謝。我們這樣做是為了回饋社區，因為我們正處在一個重要的時代，能夠為大家提供一個相聚的場所，這對我們來說是一種榮幸。這是我們迄今為止制定的最棒的議程，也是我們見過最優秀的參會者陣容。所以，我們首先想說的是，謝謝大家。我們知道你們都忙得不可開交。感謝你們今天能出席。像往常一樣，我們準備了一份非常特別的議程，索尼婭，穿著無可挑剔的服裝，康斯坦丁和我將先講幾句開場白。我們有幸參與了許多與各界有趣人士的對話，因此每年我們都希望嘗試將其進行一定程度的整合，並將我們所聽到的內容分享給你們。所以，我會先做幾句整體性的校準說明，然後由索尼婭談談我們當下的所見，接著由康斯坦丁談談我們對未來的展望。在校準部分，我們先從宏觀視角切入，回到矽基電晶體的時代，正是它賦予了該領域名稱，隨後這些電晶體被建構成由網路連線的系統，並以網際網路的形式走向大眾，支援了諸如雲端社交媒體等應用，最終以移動裝置的形式出現在我們的口袋裡，而這些裝置在今天所能實現的功能與魔法無異，那就是 AI。我們喜歡展示這張幻燈片，以前來過這裡的人應該都見過，是因為它提醒我們，所有這些浪潮都是相輔相成、不斷疊加的。我們似乎經歷了數十年的演進，才積攢了足夠的算力、頻寬、資料和人才，從而把握住當下的這個時刻。現在，這股 AI 浪潮有些不同。體現在三個方面。Sonya Huang： 首先，這是迄今為止規模最大的一波浪潮。Pat Grady： 這通常是事實，但這波浪潮有著更具體的獨特性，即它是首個兼具軟體與服務屬性的浪潮。第一行展示了雲轉型的前15年，期間軟體的市場規模（TAM）從約3500億增長到6500億，而云服務在其中佔據了約4000億的市場份額。第二行所展示的是全新的內容。這指的是目前似乎同樣可獲取的服務收入。10兆是一個相當整齊的整數。我們無法確定最終規模是10兆、5兆還是50兆。但我們確實知道，僅在美國，法律服務就是一個4000億美元的市場。這僅僅是一個垂直領域和一個地理區域。其規模就已等同於整個軟體行業。因此，這一機遇是巨大的。第二點。這是迄今為止最快的一波浪潮。我想我們都能感受到這一點。這意味著這片空白區域——請大家關注頁面上 AI 這一側——正在被迅速填補。這些圖示所代表的公司，正是得益於雲端運算、移動端以及現在的 AI 技術變革，才實現了超過 10 億美元的營收。Konstantine Buhler： 按照目前的處理程序和速度，未來還會有更多公司加入其中。計算革命與商業 AGIPat Grady： 第三點。這可能是最有趣的一點，我借用了我的合夥人康斯坦丁的觀點，即技術革命基本分為兩種類型。一種是通訊革命，旨在改變資訊的傳播方式。在座的大多數人所經歷的，僅僅是通訊革命。網際網路、雲技術、移動裝置，這些本質上都屬於資訊分發。這些是通訊領域的革命。AI 則有所不同。AI 屬於這一類。AI 是一場計算革命。它關乎資訊是如何被處理的。這聽起來可能只是語義上的區別，但它們在波形本質上截然不同。或許最直觀的感受方式是意識到：腳下的地基一直在移動。隨著新功能的不斷湧現，每個人所建構的底層技術基礎也在日新月異地變化。在過去的幾年裡，我們經歷了三個主要的轉折點。第一個是 ChatGPT 時刻。2022 年 11 月，世界見證了預訓練的強大能力。第二個是幾年後的 o1 模型，即推理能力。突然之間，圍繞推理時間計算的第二條縮放定律出現了。第三個是最近出現的 Claude Code Opus 4.5 ，現在是 4.7。世界見證了長周期智能體的強大能力。雖然這看起來像是連續體上的三個點，但第二和第三個轉折點之間存在某種程度上的斷層。這是一種非連續性的變化。如果不揣冒昧地說，我們認為這就是 AGI。而且，我可是學經濟學專業的。我們是風險投資人，不會去提出關於 AGI 的技術定義。好嗎？我們研究創始人、市場以及兩者的碰撞，也就是商業。但我們確實在研究商業。因此，從商業角度、實踐角度以及功能角度來看，如果你能指派一個智能體去完成一項工作，並且它能在遇到故障後自我修復並持續工作直到任務完成，這就是商業意義上的通用人工智慧。即使你認為那不是 AGI，也沒關係，順便說一下，索尼婭會在她的部分詳細討論這一點。即使你認為那不是 AGI，我也不認為那是 AGI，但我認為我們都能看出汽車已經到來了。過去幾年裡，我們見過了很多更快的馬。那些讓你生產力提升 10% 或 40%，卻並沒有從根本上改變你工作方式的應用程式。現在我們開始看到汽車了。那些讓你生產力提升 10 倍或 40 倍，並徹底改變你工作方式、工作本質以及組織本質的應用程式。汽車時代已經來臨。這是 Sequoia 的創始人 Don Valentine，他以愛問一個問題而聞名：那又怎樣？為什麼這一切如此重要？之所以重要，是因為就在過去幾個月裡，這場競賽已經開始了。而且這與我們習慣的競賽截然不同。駕駛汽車的方式與騎馬的方式是不同的。製造汽車的方式與照料馬匹的方式也是不同的。所以，這是一種非常不同的競賽。我們今天想把大家召集到這裡的原因之一，是因為沒有人擁有所有的答案。我們在一起交流的時間越多，就能學到越多，並有望弄清楚這一切將走向何方。建構策略：MADS 框架Pat Grady： 我們務必盡快採取行動，因為僅從商業角度來看，這關乎巨大的利益。市場規模高達 10 兆美元。我們有實驗室正從技術驅動的角度開展研究。我們也有初創公司正在以客戶需求為導向進行開發。雖然在座各位代表了所有相關實驗室，但你們大多數人是在現有基礎上進行建構。所以我們花一點時間，來討論那種以客戶需求為導向的方法。對於那些在現有實驗室基礎上進行建構的人，我們有些建議——既然是免費建議，那它就值你們付出的每一分錢——我們的建議是去參考 MADS。其實我們並不需要你們感到憤怒（Mad）。如果你們願意，當然也可以感到憤怒。如果那是驅動你們的動力，那也挺好的。儘管生氣吧。但這只是一個方便的縮寫，指代可供性（Affordance）、護城河（Moats）與擴散（Diffusion），這是在模型之上建構策略的三個特徵或三大支柱。首先談談護城河，純粹為了好玩。有人記得去年的這張幻燈片嗎？有一位，他還是我的合夥人。好的，那很酷。提醒一下，這張幻燈片展示了商品化周期，即從創意到實現客戶滿意所需經歷的價值鏈環節。我們實際上不會逐一去過這些價值鏈環節。我想在這裡指出的是，如果你從技術的角度出發，價值鏈中的每一個環節都會以略有不同的方式被處理。如果你從客戶的角度出發，那麼你在鏈條中所接觸的每一個環節都會略有不同。現在，這裡有一個違反直覺的部分。在這一場關於資訊處理的計算革命中，你往往會想要關注下方這些領域，因為那裡不斷湧現出各種酷炫的新事物。但為了建構護城河，你實際上應該關注上方這些領域。因為你的客戶需求變化速度遠不及技術能力演進的速度。你所建構的東西在明天可能就會變得無關緊要。而你以客戶為核心的緊密程度，則會更加持久。這並不是說產品和技術不重要。它們極其重要。且通常情況下，最好的產品會勝出。但在一個產品迭代極快、能力演進也極快的世界裡，當思考商業護城河時，我們建議你儘可能從客戶的角度出發，思考所有能夠圍繞這些客戶建立緊密聯絡的方式。好的，MADS 中的 A 代表的是 Affordance（可供性）。這是一個我們從設計領域借用的術語。錘子就是一個具有可供性的物體。我有一個兩歲的兒子。如果我給他一把錘子，他就會知道該怎麼用。他會抓起錘子開始敲打東西。這就是我們不給他錘子的原因。具有可供性的物體是不需要解釋的。人們一看就知道該怎麼用它。Claude code 極其強大。去讓一名普通的財富 500 強企業員工打開終端試試，看看他們能走多遠。雖然它很強大，但提供的功能可供性並不多。這並非是對 Anthropic 的批評，但對於任何希望在現有基礎上進行建構的人來說，這是一個機會。你可以為特定客戶及其具體問題創造阻力最小的路徑，讓他們能極其簡單地達成業務所需的結果。這就是可供性的概念。最後，MADS 中的 D 指的是擴散（Diffusion）。擴散鴻溝正是那些在應用層進行開發的公司所面臨的機會。技術能力向市場擴散的速度，遠低於這些能力被創造出來的速度。基礎模型的演進速度每天都在超越普通的財富 500 強企業，這一鴻溝正在不斷擴大，機會也隨之增長。因此，對於護城河（Moats）而言，請嘗試以客戶需求為導向進行思考。關於可供性（Affordance），試著思考如何為你的客戶創造阻力最小的路徑。而那個擴散鴻溝，正是你所擁有的機遇。除非早先那張空白區域逐漸被填滿的幻燈片讓在座的各位感到沮喪，那麼我們需要提醒你們的是，沒有任何領先是絕對穩固的。賽車界有這樣一句話：你無法在晴天超越15輛車，但你可以在雨天超越15輛車。而現在，基礎模型正湧現出如傾盆大雨般的新功能，這意味著沒有任何領先是絕對穩固的，但也意味著任何人都有機會勝出。這是一個多麼偉大的時代。接下來，我將把它交給索尼婭。智能體時代：服務即新一代軟體Sonya Huang： 我可以再說一句嗎？在觀眾席中看到這麼多友好的面孔真是太好了。今天在場的各位都是卓越非凡的人。能與大家共同置身於這個生態系統中，我感到非常高興。我這一部分的內容旨在探討人工智慧當下的發展，對於2026年而言，核心就是智能體。好，讓我們回溯到2022年。請舉手示意。這裡有人記得 Auto GPT 或 Baby AGI 嗎？好的。好的，明白了。這些項目在 GitHub 上一夜爆紅。它們的操作方式是呼叫 GPT3，為其配置一些工具，封裝在循環中，並讓它朝著目標運行。起初看起來很有前景，直到你看到那些智能體一次又一次地失敗。雖然看著挺可愛、挺招人喜歡的，但實際上完全沒用。Pat Grady： 我放這張幻燈片是為了提醒大家，我們其實早就預見到智能體時代的到來。Sonya Huang： 我們本可以在幾年前就預見這一切。但回到2022年，當時的模型確實還沒準備好。Pat Grady： 時間快進到今天，從年初開始，情況確實發生了質的變化。Sonya Huang： 突然之間，智能體遍地開花，而且它們似乎真的能夠投入實際運作了。其中有兩個智能體表現尤為突出：面向技術人群的 Claude Code，以及讓任何擁有手機的人都能使用智能體的 OpenClaw 及其所有龍蝦系列衍生產品。所以，無論你是硬核工程師還是普通使用者，現在的重點在於，人人皆可建立智能體。我們現在看到人們正在為各種用途建構智能體。甚至還有一些荒唐的例子，比如有的 open-call 智能體會專門去舉報鄰居的稅務欺詐行為。請不要這樣做。或者實際上，也許請這樣做。還有創業相關的事情。運行生成式媒體活動來銷售建築服務的 Agent。然後還有一個專業層面。我可以告訴你，在 Sequoia 內部存在一場巨大的競賽，看誰能建構出最好的 Agent 來更好地完成我們的工作。那麼，成為一個 Agent 意味著什麼？這裡有一個可能的定義。Agent 是一個系統。它感知其環境，選擇行動，並自主地朝著一個目標前進。順便說一下，我想這是我自己用 C-dance 製作的。我對此感到非常自豪。視訊模型已經取得了長足的進步。更具體地說，我認為智能體具有三個功能元件。首先是推理和規劃的能力。這是直覺的基準水平以及即時思考的能力。其次是採取行動的能力。這包括使用工具、搜尋、編寫和編譯。最後是朝著目標不斷迭代的能力。這正是賦予智能體在長周期內完成任務能力的持久性。因此，代理（agency）結合了這三樣東西。簡而言之，就是把事情辦成的能力。如果我們把代理拆解為模型、工具和協作框架（harnesses）這些組成部分，過去一年裡每個部分都在飛速進步。首先，模型即大腦。這是目前發生的最重要的事情。衡量指標圖表測量的是模型在執行複雜任務時，能夠持續推進而不偏離軌道的時間長度。我們已經從一年前的十分鐘量級發展到了今天的數小時量級。所以，這是目前發生的最重要的事情。模型終於變得足夠強大，能夠維持長周期任務的性能表現。其次，工具即手腳。這些賦予了模型訪問各種能提升我們電腦生產力工具的能力，例如用於檔案系統和開發工具的終端、iMessage、Slack、網頁搜尋、電腦使用等等，應有盡有。過去二十年間我們為人類打造的各種工具，最終也能夠轉化為對智能體而言極其有用的資源。有一種普遍的論調認為 SaaS 已死。但我認為恰恰相反，隨著使用這些工具的智能體數量增加，其價值將會爆發式增長。增加。模型和工具賦予了智能體執行能力。而控制框架（harness）則賦予了它們持久性。即保持任務專注、進行調整併持續運行的能力。這一反饋回路現在確實開始加速運轉了。特別是在有了強化學習之後，我們正在對這些智能體進行“駕駛學校”式的訓練，也就是在 RL gyms 中訓練它們。Pat Grady： 我們正在不同領域推動性能的提升，從機械工程到設計，旨在尋找突破。我們同時也看到了自我改進的初步曙光，即機器製造機器。Sonya Huang： 例如，Andrej 的另一個研究項目在短短兩小時內自主提升研究能力，達到了 GPT2 等級模型的水平。那麼，一個到處都是智能體的世界會是什麼樣子？智能體的存在處於一個智能程度的滑動量表上，讓我們以程式設計為例。在 2023 年，我們擁有了標籤頁自動補全功能。這是一種 AI 在行間輔助人類的方式。Pat Grady： 這種方式雖然在增量上有所助益，但從根本上說並不具備變革性。Sonya Huang： 我們現在擁有了智能體開發，即一個人與一個智能體對話，指導它做什麼，或許還能管理一個智能體團隊。但這種範式正在被進一步推進。我們現在看到了後台智能體、非同步智能體以及能夠衍生出子智能體的智能體。我們認為，在這種整體範式下，非同步智能體極有可能在規模上超越當前範式，這僅僅是因為該系統所能提供的槓桿效應。Pat Grady： 最後，在推進前沿尖端領域方面，即我所說的“黑燈工廠”，將人類審查徹底從系統中剝離。Sonya Huang： 這聽起來很瘋狂，但我已經在生產環境中見過這種情況，包括在網路安全公司中。只要具備足夠可靠的護欄機制和足夠優秀的工程能力，這是完全可能的。因此，我們正在智能體化的處理程序中不斷攀升。智能體正從在你身邊提供微小協助的助手，進化為需要管理的實習生，進而轉變為能夠自我管理的實習生，最終演變為值得信賴、無需監督即可部署到生產環境的實習生。這就是正在發生的演進，不僅是在程式碼編寫領域，而是覆蓋了所有智能體應用。對於在座的創始人而言，最重要的啟示是：服務即新一代軟體。帕特在我認識他以來一直強調這一點，我們的合夥人 Julian（他今天也在觀眾席中）也發表過一篇關於此話題的優秀文章。我們對此早已知曉，但我認為這一趨勢正在真正地成為現實。在醫學領域，你可以聘請一個尊重你的基因組、為你提供個性化建議、能夠為你開具處方藥物並推薦臨床試驗的智能體。在法律領域，你將能夠聘請能夠代表你協商合同，甚至進行訴訟並為你達成和解的智能體。在數學和科學領域，我們正看到能夠解決這些問題或發現新型超導體的智能體。這難道不令人振奮嗎？或者在消費領域，那些可以為你管理收件箱、日程表、財務狀況以及申報稅務的個人智能體。我們預計未來智能體將無處不在。這在一定程度上是因為聘請智能體比僱傭員工要容易得多。人類難以實現規模化。而智能體可以通過算力實現無限規模化。讓員工保持滿意度是一件困難的事。除了我以外，我總是很快樂。Agents 的維護成本很低。人類的成本很高。你需要支付他們薪水。你需要支付 Agents tokens。通常情況下，用 tokens 完成任務的成本要低於支付等值的薪水。現階段，人類通常仍然更聰明。但 bitter lesson 的影響持續存在，很快 Agents 在許多方面就會變得更聰明。因此，這張幻燈片的重點並不是說我們人類要失業了。我認為適應力是人類獨有的特質。但我們預計智能體在應用層的部署將會迅速進行，且規模增長速度前所未有，因為其經濟效益顯而易見，且具備固有的可擴展性。綜上所述，智能體的數量正以某種指數級，或許是超指數級的速度激增。當商業活動在智能體之間展開時會發生什麼？它們可以互相支付嗎？當智能體能夠自行協商交易條款時，會發生什麼？未來是否會出現成群結隊的智能體來監管我們，以防範網路安全威脅或 Megadon 之類的事件？我們只知道這個世界正在極速變得詭異。最後，我想借用 Bene Gesserit 的心境來結束此次發言。Long Horizon 智能體已經到來。它們所處的曲線，非常清晰。對於創始人而言，我想每個人都有看到人們借助 AI 在極短時間內完成艱巨任務的案例。例如，來自 Z'd 的 Nathan 在假期期間獨自一人利用 Claude 完成了一個原本需要三年的登月級項目。Brett Taylor 用一個周末的時間重建了 Sierra。Notion 團隊僅用了六周時間就重寫了 800 萬行程式碼。因此，每個人都有這些時間線被壓縮的例子。但我認為，在 AGI 實驗室之外，很少有人真正見識過會發生什麼。當你將這些被壓縮的時間線進行疊加時。而這正是現在所能實現的。所以，無論你想像中未來一百年能建構出什麼，我們認為借助智能體，現在一百天內就能實現。接下來我將交給康斯坦丁。未來展望：認知的工業革命Konstantine Buhler： 謝謝你，索尼婭。好的，非常感謝索尼婭和帕特帶來的精彩概述與分析。在這一部分，我們將簡要探討接下來的發展方向。我們的目標是，因為我們都知道自己正處於 AI 時代。它將會是什麼樣子？它將會帶來怎樣的體驗？它的特徵是什麼？在演示的前半部分，帕特將技術革命分為計算和通訊兩個維度。我們在這裡將工作類型再進行一次劃分。一種是體力工作。這可以是 Pony Express 上的包裹，也可以是 Falcon 9 運載的衛星。工作等於力乘以位移，即物理位移。接下來是認知工作。例如 Pythagoras 提出該定理。例如 DeepMind 解決蛋白質折疊問題。有意識的思考。這些是非常不同類型的工作。但我們相信它們將遵循非常相似的變革模式。那麼讓我們談談體力工作，因為我們已經經歷過工業革命帶來的變革。Pat Grady： 在人類歷史的絕大部分時間裡，世界上所有的工作，或者說幾乎所有服務於人類的工作，都是由某種肌肉力量完成的。Konstantine Buhler： 依靠人或動物。靠人去搬運東西，或者靠動物牽引人類前行。這一切始於1700年，但其淵源可追溯至幾千年前。隨後，局面開始發生轉變。水力和風力。蒸汽機。此後，處理程序開始加速。蒸汽機。內燃機、電動機。時至2026年，可以估算得出，地球上超過99%的人類體力勞動已由機器完成。將你帶到此處的飛機、房間內所有物品的製造，以及支撐你此刻所體驗的人類巔峰生活的各項運輸保障。我們認為認知的演進也將經歷類似的歷程。我們只是處於一個較早的階段。在人類歷史的大部分時間裡，地球上所有的人類思考主要都是由人類完成的，或許還有一點來自動物，比如牧羊犬驅趕羊群。在機械勞動之上，曾存在過一小部分輔助工具，例如星盤或時鐘。Pat Grady： 現在，在過去幾百年裡，進展其實並不大。直到電子計算出現。Konstantine Buhler： 而在過去一百年裡，試想一下，此時此刻為了服務你這樣的人類，正在進行著數以兆計的計算。所有這些工作，所有這些正在發生的認知工作，都是為了在任何時刻服務於我們。數以兆計的計算。我們相信 neural network 是下一個大浪潮，並且在不久的將來，地球上 99.9% 的認知工作將由機器完成。這種類比非常鮮明，好消息是我們已經經歷過這樣一場革命。認知革命將與工業革命非常相似，只是規模要大得多，速度也快得多。那麼，生活在這樣的未來會是什麼樣子？我想以四個短篇故事的形式，分享對這個未來的一些思考動因。四個故事：智能、設計、科學與藝術Konstantine Buhler： 第一個故事。19世紀中葉，美國想要為首任總統及最偉大的戰爭英雄 George Washington 建造一座宏偉的紀念碑。因此，我們設計了當時世界上最高的建築——Washington National Monument，並且我們想要用世界上最珍貴的金屬來裝飾其頂端。當時 100 盎司的這種金屬是世界上最珍貴的，珍貴到我們甚至將其放在 Manhattan 的 Tiffany's 進行展覽。那種金屬就是鋁。在 Washington National Monument 竣工後的幾十年裡，一位年輕的發明家發明了電解法，即從泥土中分離出鋁的工藝。此後不久，鋁便被用來包裝糖果和三明治，然後被扔進垃圾桶。Pat Grady： 鋁就是智能。電解法就是人工智慧。Konstantine Buhler： 我們即將進入這樣一個世界：一些耗費數十年光陰練就的、達到博士水平的寶貴技能，在呼叫後轉瞬即逝，用完即可將其揉作一團直接扔進垃圾桶。第二個故事，我們正在進入一個異類設計的世界。我們今天所見的世界，其核心邏輯皆是為了人類而設計。眾所周知，這種設計經過了最佳化，使之符合我們的大腦邏輯，因為世界上幾乎所有的認知活動都是由我們完成的。然而，當認知活動由機器來完成時，情況將會大不相同。2006年，NASA 正在為一項大型航天任務，即衛星太空任務最佳化天線。傳統上，他們的天線看起來是這樣的。那是一種優美的幾何對稱圖案，在一定的功率限制下最佳化了表面積。這一次，他們決定將任務交給電腦，並使用一種類似於強化學習的進化演算法。Pat Grady： 結果就是眼前的這個天線。生產力顯著提高，且不符合人類的直覺思維。Konstantine Buhler： 在這個 AI 時代，當我們把認知任務交給機器時，我們將得到的結果是不符合我們直覺的。Pat Grady： 當 AI 設計晶片、汽車和建築物時，它們看起來可能會大相逕庭。Konstantine Buhler： 對於我們即將進入的世界，必須保持開放的心態，因為 AI 的思維方式與我們不同。它將具備異類的設計風格。第三個動力學故事關於新興科學。並非新興科學。我們都知道存在新興科學。我所說的是新興科學領域。在工業革命初期，湧現了像 Newcomen 和 Watt 這樣偉大的工程師，他們完善了內燃機。簡單來說，就是把石油化工產品注入活塞，點火燃燒，數百萬乃至數十億計的粒子發生爆炸。Pat Grady： 爆炸推動活塞，從而做功。Konstantine Buhler： 在近100年的時間裡，這一切都處於修修補補的階段。當時工程師只是在說，那樣效果稍微好一點。或許你可以將其視為一種規模法則，但那實際上是工程師們在擺弄產品，看如何能進行微小的改進。在120多年後，Sadi Carnot 出現了，並將這一切總結為一門新的科學——熱力學。Pat Grady： 他說，等一下，這裡有數百萬或數十億的粒子。Konstantine Buhler： 我們實際上可以將這一切系統化、公式化。而在當前的情況下，這裡有數十億個神經元，數兆個 Token。此刻，我們正處於 AI 的修補階段。即使我們認為這是一門已被認知的科學，事實並非如此。未來，我們將在接下來的幾十年內迎來一門如熱力學般基礎的科學。在座的各位或許就有人能開創這門科學。而這門科學將被納入高中的教學課程中。它將具有如此基礎的地位。它將幫助我們掌握 AI，甚至幫助我們掌握意識。第四個故事。非理性的藝術。在人類歷史的絕大部分時間裡，即數萬年間，藝術一直朝著寫實主義的方向演進。這是一幅大約 25000 年前的洞穴壁畫。從埃及象形文字、希臘陶器到文藝復興時期的畫作，這是一場向寫實藝術邁進的宏大變革。看看這其中的差異。歷經數萬年。人類的偉大勝利。Pat Grady： 隨後工程技術應運而生。銀版攝影法，早期攝影技術。Konstantine Buhler： 突然之間，我們花費數十年人生去磨練、力求每一筆觸都完美的技藝，瞬間消失了。那麼世界對此作何反應？他們認為繪畫藝術已經終結。噢，就這樣結束了。機器能比任何人類做得更好。藝術即是藝術，藝術已終結。那麼，發生了什麼？人類是如何回應的？人類的回應是提出疑問：這種藝術的目的是什麼？是為了以眼睛所見的方式捕捉那一刻嗎？還是為了以內心和靈魂所感的方式捕捉那一刻？Pat Grady： 印象派、表現主義、立體主義、新表現主義，所有這些新的藝術形式都是人類對科學領域這一巨大變革所作出的回應。Konstantine Buhler： 兩千五百年前，希臘哲學家 Protagoras 寫道：人是萬物的尺度。他的意思是，任何事物若脫離了人類，便不存在價值。無論是鋁材、藝術，還是智能，皆是如此。Pat Grady： 它之所以有價值，僅僅是因為那份體驗。AI 可以完成工作，AI 也終將完成工作，但唯有人與人之間的聯結，才能讓你找到在乎的理由。Konstantine Buhler： 這就是我們今天齊聚一堂的原因。十年之後，工作方式將發生巨大的變化。一切都將迎來翻天覆地的改變。但唯一不變的，是你們今天與身邊人建立起的關係。它們將長久延續。那將是你們回首往事時最珍視的部分。那也將是今天最有價值的收穫。因此，我鼓勵大家與身邊的人建立聯絡，盡情享受這次 AI Ascent 的時光，並真正地擁抱那些讓我們之所以為人的特質。 (Web3天空之城)

【新智元導讀】最近，AI教父Hinton發出最尖銳警告：不受監管的AI就是一輛沒有方向盤的高速跑車！全球只有1%的AI研究在做安全，4.8兆美元的巨獸正在失控加速。當78歲的Geoffrey Hinton坐在攝影機前，對著在場的幾百位代表說出這句話時，整個會場安靜了幾秒。「他們想要一輛沒有方向盤的超級快車。」最近，這位2024年諾貝爾物理學獎得主、被全世界叫了十幾年「AI教父」的老人，在全球數字世界大會上，再次向全人類拉響了警報。這位老人用幾乎是帶著懇求的語氣警告：「我們不知道人類能否與超級智能AI共存。」「但我們正在建造它。」只有1%在管安全，剩下99%在踩油門在發言中，Hinton給我們算了一筆很清楚的帳。全球AI產業正以人類歷史上前所未有的速度膨脹。UN貿發會議的資料顯示：2023年全球AI市場規模1890億美元，到2033年預計飆到4.8兆美元。也就是說，人類只用了十年時間，就從零造出一個比日本GDP還大的經濟體。這些錢，幾乎都用在了造更大的模型，跑更多的算力。至於安全呢？Hinton給了一個數字：大概1%。全球AI研發投入裡，只有大約1%花在了「怎麼讓這東西不出事」上面。對此，Hinton的評論是：It's crazy.「AI科技遊說集團正在花大價錢投廣告，想讓所有人接受一個類比——AI是油門，監管是剎車。他們的意思是，別踩剎車，會拖慢我們。」對此，Hinton表示，這個類比完全是錯誤的！「油門是進步，沒錯。但監管不是剎車，監管是方向盤。他們想要一輛極速狂飆的車，但沒有方向盤。」坐在他旁邊的Terry Sejnowski立刻接了一句：你開過一輛沒有剎車的車嗎？下坡的時候你就知道有多慘了。但更慘的是，我們連方向盤都沒有。油門踩到底，方向盤拆掉，這就是當下全球AI競賽的真實狀態。兩位老人的頒獎典禮怎麼變成了一場審判2026年世界數字大會的主題是「AI與社會發展」。這次大會給Hinton和Sejnowski頒了一個獎，表彰他們在1980年代發明玻爾茲曼機，它後來成了深度學習革命的催化劑。頒獎人是微軟的語音識別專家李登（Li Deng），他自己就是玻爾茲曼機的受益者。前半場，三個人聊的是科學往事，學術榮光和師生情誼。Hinton和Sejnowski回憶了1980年代在羅切斯特的一次會議上，他們是如何把Hopfield網路和模擬退火結合在一起，這個靈感迸發的瞬間。Sejnowski說，自己記得一清二楚——「我們坐在那裡，突然意識到可以把Hopfield網路加熱，讓它變成機率性的。」隨後，Hinton補了一個細節：那個時候他剛在聖地亞哥跟David Rumelhart一起程式設計反向傳播，用的是logistic單元。而給Hopfield網路加溫度之後，出來的恰好也是logistic單元。兩條完全不同的路，在同一個數學形式上匯合了。在科學史上，這種時刻被叫做「晶化瞬間」。值得玩味的是，Hinton至今仍然認為玻爾茲曼機比反向傳播更優雅。「它是一個好得多的想法。只是不太好用。」Sejnowski笑著附和：「它在生成式AI還沒流行之前幾十年，就已經是生成式神經網路了。」一個更優雅但不實用的想法，和一個沒那麼優雅但統治了整個時代的演算法，在科學史上，這種故事反覆上演。「AGI，是一個愚蠢的術語」但頒獎典禮的後半場，畫風急轉。當主持人把話題引向AGI和社會風險時，Hinton徹底切換了模式。李登問了一個很多人都想知道的問題：你們怎麼定義AGI？什麼樣的基準測試能說明AGI已經到來？Hinton毫不留情地表示：「AGI是一個愚蠢的術語。」理由很簡單：它假設智能是一維的，像溫度計一樣，數值越高越聰明。「但智能顯然是高度多維的。所以不存在一個點，AI在那個點上等於人類。它相對於人類的能力是鋸齒狀的——在某些方面已經遠遠超過我們，在另一些方面還不如我們。」他舉了個例子：你現在去問任何一個大模型，斯洛維尼亞的報稅截止日期是那天，或者怎麼給門廊做防潮處理，它都答得頭頭是道。在通識知識這個維度上，AI早就把人類甩了幾條街。但在某些推理任務上，它還沒完全追上。「所以，AGI這個詞沒有意義。」那什麼詞有意義？在Hinton看來，真正有意義的是「超級智能（superintelligence）」。它的定義很清楚——在幾乎所有人類能做的智力任務上都比我們強。我們相信它正在到來。接下來，就是整場對話最核心的段落。在場官員問：當超級智能到來時，人類還能保持對自己創造的系統的有意義的控制嗎？Hinton回答：「我們不知道能不能和超級智能AI共存。」但我們正在建造它，所以我們現在還有很多控制權。我們應該小心地建造，讓我們還能繼續存在，和它和諧共處。在已知的模型裡，遠比自己聰明的東西願意給遠不如自己聰明的東西自由——只有一個例子。母親和嬰兒。母親真的關心嬰兒。但現在的問題是，我們正處在歷史上一個緊迫的節點，必須嘗試解決這個問題，而投入的資源少得可憐。也許只有1%的工作在研究這件事。相比之下，99%的工作都在讓AI變得更聰明。 這簡直是瘋了。菸草和石棉Hinton把AI風險分成了三類。第一類：有人故意用AI幹壞事。比如，製造深度偽造視訊來腐蝕民主，製造致命病毒來引發大流行，發動網路攻擊。這是最直接的威脅。第二類：有人試圖用AI賺錢時產生的副作用。比如用AI把女性照片生成非法照片。比如推薦演算法不斷推送比你剛看過的更極端的視訊，最終製造出兩個完全沒有共同語言的群體。「他們只是在賺錢，但副作用就是撕裂社會。」第三類：AI自主接管的存在性威脅。Hinton認為，第三類威脅或許會得到國際合作，因為所有人都害怕。但對於前兩類，特別是第一類，則不會得到合作。各國會嘴上說要合作，但實際上都在互相攻擊，這就要難處理得多。Hinton講了這樣一個類比：看看菸草和石棉的歷史。「生產菸草和石棉的發達國家——比如加拿大——在本國引入了保護公民的法規。但它們繼續把這些東西賣給第三世界國家。所以我們真的要擔心：即使我們在開發AI的國家制定了正確方向的法規，這些國家仍然可能把AI賣到其他國家，在那裡產生惡劣後果——即使這些事情在他們自己國家是不被允許的。太陽底下無新鮮事，菸草和石棉的劇本，很可能會再次上演。關於LeCun，你怎麼看？LLM，究竟是不是死胡同？接下來，李登還帶來了一個尖銳問題：LeCun說大語言模型是通往超級智能的死胡同，你們怎麼看？Hinton把這個問題拆成了兩半。「首先，是一個哲學問題：一個只預測下一個詞的系統，能不能理解空間？答案是能。這非常令人驚訝。」「然後，有一個實際問題：這是理解空間的高效方式嗎？答案是不能。如果你有攝影機，能操控物體，你理解空間和基本物理常識的效率會高得多。」「所以在實際層面，一個多模態AI——有攝影機、能操控物體、還能說話——會比純語言模型用更少的資料更快地理解很多東西。但在哲學層面，純語言模型給它足夠多的語言資料，可能也夠了。」4.8兆美元的蛋糕，誰在切？這次大會暴露的另一個裂縫，就是「分配」的危機。UN貿發會議代理秘書長Pedro Manuel Moreno在同期舉行的科技發展委員會上直接點破：AI的建造能力和塑造權，集中在極少數經濟體和企業手裡。國際電聯秘書長Doreen Bogdan-Martin給出了一個刺眼的對比：發達國家對於AI的採用速度，幾乎是開發中國家的兩倍。「如果不解決這個問題，這將是第二次大分流。」造AI的國家和只能消費AI的國家之間，鴻溝正在以肉眼可見的速度撕開。4.8兆美元的市場，基礎設施、投資、人才全部集中在北半球那幾個點上。剩下的世界，甚至沒有資格參與規則制定。顯然，這個後果很可怕。方向盤在誰手裡？把時間線拉長一點就會發現，Hinton的這場對話，其實是他過去三年吹哨行動的一次集大成。2023年從Google離職時，他說的是「我為自己的畢生工作感到後悔」。2024年拿諾貝爾獎時，他在領獎台上呼籲重視AI安全。2025年他在多個場合反覆強調監管的緊迫性。到了2026年，他的措辭變得更具體了。而他在技術討論中展現的另一面同樣值得注意。這個78歲的老人，在聊完AI末日風險之後，能立刻切回去講受限玻爾茲曼機為什麼是正確的貝葉斯推理、為什麼當前的圖像生成模型只用了醒-睡演算法的一半、怎麼把生成模型和識別模型結合起來才是下一步正確方向。他同時住在兩個世界裡——一個在思考AI怎樣變得更強大，一個在思考人類怎樣不被更強大的AI毀滅。這兩件事在他的大腦裡平行運轉，互不矛盾。這大概就是為什麼他的警告格外有份量。這是親手造出這個東西的人在說：我知道它能做什麼，所以我知道該怕什麼。而Hinton提到的那輛車，現在油門已經踩到底了，4.8兆美元的引擎在轟鳴。方向盤在不在，取決於接下來的幾年裡，坐在駕駛座上的人——不管是政府、企業還是科學家願不願意伸手。如今，我們正站在一個極其特殊的時間節點上。在AI變得比我們聰明之前，是人類唯一還能決定遊戲規則的窗口。Hinton三年前從Google辭職時說的那番話，當時很多人覺得是杞人憂天。三年過去了，他還在說同樣的話。不過，現在已經有很多人，真實地理解了他的擔憂。只是，那輛沒有方向盤的車，還在加速。 (新智元)

投資公司 Evercore ISI 表示，微軟(MSFT.US)與 OpenAI 之間修訂後的協議應能為前者減少圍繞通用人工智慧 (AGI) 的模糊性，並為後者提供更大的靈活性。根據兩家公司周一聯合聲明，作為終止獨家安排的交換條件，微軟將不再就其通過雲平台轉售的OpenAI產品支付收入分成。這項修訂協議旨在簡化雙方長期複雜的合作關係，同時為雙方探索新商業機會提供更大靈活性。Evercore 分析師 Kirk Materne 在給客戶的一份報告中寫道：“從宏觀層面看，新協議簡化了雙方的關係，微軟放棄了一部分排他性，以換取更高的透明度、靈活性和經濟確定性。OpenAI 獲得了更多在整個市場運作的空間，而微軟仍保留了首選戰略角色、對 OpenAI 技術的長期訪問權，以及對 OpenAI 增長的持續參與。我們認為，關鍵點在於與 AGI 掛鉤的術語似乎已從商業框架中移除，這明確了截至 2032 年的智慧財產權(IP)存取權，以及截至 2030 年的營收分成經濟模式的相關截止日期，儘管現在設有上限。底線是，我們認為這份修訂後的協議目前不應令投資者感到意外，因為微軟已日益顯露出對更廣泛的多模型戰略的興趣，而 OpenAI 顯然也有動力在整個市場更廣泛地擴大分發管道。”Materne 對微軟的評級為“跑贏大盤”，目標價為 580 美元。通用人工智慧(AGI)此前被描述為“奇點”——即技術超越人類且變得不可逆轉的時刻。作為修改後協議的一部分，微軟將繼續作為 OpenAI 的主要雲合作夥伴，且 OpenAI 的產品將優先在 Azure 上發佈。然而，現在有一項調整規定：如果微軟“不能且選擇不支援必要的能力”，OpenAI 可以尋求其他合作夥伴。此外，OpenAI 可以將其所有產品通過任何雲服務商(如亞馬遜 AMZN 的 AWS)提供給客戶。微軟將繼續擁有在 2032 年之前為其模型和產品使用 OpenAI 智慧財產權的許可，但該許可現在將是非排他性的。微軟也將不再向 OpenAI 支付營收分成，不過到 2030 年為止，無論 OpenAI 的技術進展如何，微軟都將從 OpenAI 處獲得營收分成款項。最後，這家 Windows 製造商補充稱，微軟仍是 OpenAI 的主要股東。微軟定於 4 月 29 日收盤後公佈其財年第三季度財報。 (invest wallstreet)

在矽谷波詭雲譎的科技版圖中，葛雷格·布羅克曼（Greg Brockman）始終扮演著一種極具張力的角色。作為 OpenAI 的聯合創始人兼總裁，他既是那個在凌晨時分依然親自下場偵錯程式碼的“頭號工程師”，也是在 2023 年 11 月那場震驚全球的董事會“地震”中，堅定選擇與Sam Altman並肩作戰的靈魂人物。從 Stripe 的早期技術骨幹到引領全球 AI 範式轉移的弄潮兒，布羅克曼的個人軌跡與 OpenAI 的每一次命運轉折緊密交織。近日，布羅克曼接受了深度訪談，以前所未有的視角復盤了 OpenAI 從非營利機構向營利實體的艱難轉型，解讀了從 Dota 2 到 GPT-4 的技術跨越，並首次詳盡還原了管理層動盪背後的心理韌性。在他看來，世界正加速邁向一個由算力驅動的新經濟時代。在這場通往通用人工智慧（AGI）的征途中，OpenAI 的核心競爭力絕非單一的模型，而是那台能夠持續製造智能的“機器”——一支敢於直面真相、在痛苦中成長的精英團隊。核心觀點技術哲學：在大規模算力加持下，簡單的演算法（如預測下一個字元）能夠產生深刻的語義理解和智能湧現。使命驅動：OpenAI 的核心競爭力不在於單一模型，而在於能夠持續製造這些模型的“機器”——即那支擁有高度韌性、直面嚴酷真相且願為夥伴而戰的團隊。迭代部署：通過將中間版本的技術推向市場，讓社會在適應中建立韌性，是實現安全 AGI 的唯一可行路徑。算力經濟：世界正轉向由算力驅動的經濟模式，未來每個人都將擁有代表個人長期目標的 AGI 代理。“在 AI 領域保持領先對美國至關重要，因為這是確保民主價值觀得到保護和捍衛的方式。”“大規模算力配合簡單演算法，這不僅僅在理論上成立，它是切實可行的，能夠產生深刻的語義理解和智能湧現。”“我們正轉向由算力驅動的經濟模式，未來每個人都將擁有代表其個人長期目標的 AGI 代理。”“迭代部署是實現安全 AGI 的唯一可行路徑，必須讓社會在適應中間版本技術的過程中建立韌性。”“偉大的團隊不是為了錢而戰，他們是為了身邊的夥伴而戰。”“如果你沒有經歷痛苦，就意味著你沒有創造價值。”緣起納帕谷：一個改變命運的使命2015 年，布羅克曼正處於職業生涯的十字路口。儘管他在支付巨頭 Stripe 取得了巨大成功，但他深感那並非自己終身追求的宿命。在與山姆·奧特曼（Sam Altman）的一次長談後，兩人一拍即合。當時的 AI 領域被 Google DeepMind 統治，外界普遍認為白手起家已無可能。布羅克曼回憶道：“當時的感覺就是，想要白手起家創辦點什麼，甚至還有可能嗎？但沒有人能給出一個理由說明這在事實上是不可能的。”為了打破僵局，布羅克曼在納帕谷組織了一場線下團建，那次會議誕生了 OpenAI 追求十年的技術藍圖：解決強化學習、無監督學習，以及逐步學習更複雜的事物。布羅克曼認為，OpenAI 的誕生源於一種近乎宗教般的使命感，即確保 AI 的收益得到廣泛分配。正是這種感召力，讓他在沒有任何正式組織架構的情況下，說服了伊利亞（Ilya Sutskever）等頂尖科學家加入。技術哲學：從預測下一個字元到智能湧現布羅克曼的技術哲學根植於對“規模法則”的堅定信仰。在早期研究 Unsupervised Sentiment Neuron 論文時，他敏銳地察覺到，僅僅通過訓練模型預測下一個字元，就能讓神經網路湧現出對情感的深刻理解。這推翻了許多人的偏見，即認為預測只是平庸的模仿。他強調：“如果你真的能預測愛因斯坦口中說出的下一個詞，那麼你至少和愛因斯坦一樣聰明。預測的意義不在於預測已知，而在於讓你置身於此前從未見過的場景。”這種哲學在 Dota 2 實驗中得到了終極驗證。OpenAI 使用簡單的強化學習演算法 PPO，配合巨大的算力，最終在極其複雜、無序的遊戲環境中超越了人類頂尖水平。這次成功讓布羅克曼意識到：“如果採用同樣的計算方法，但將其擴展到人類大腦的規模會怎樣？那是一個非常引人深思的問題。” 這也為後來 GPT 系列的全面爆發埋下了伏筆。商業轉型的邏輯：算力霸權與現實主義2017 年，OpenAI 迎來了最關鍵的轉折——從非營利模式轉向營利實體。這一決策在當時引發了巨大爭議，但在布羅克曼看來，這是使命驅動下的必然選擇。隨著對算力需求的指數級增長，非營利組織的籌款潛力已達上限。他坦言：“我們開始計算算力需求，意識到這需要一台大型電腦。如果我們能收購超大規模的資料中心，那將成為一種獨特的優勢。”布羅克曼認為，OpenAI 的核心優勢在於對未來的“提前下注”。當競爭對手還在質疑投入規模時，OpenAI 已經開始構思百億美元等級的算力叢集。他直言不諱地指出：“聰明的經營者總是在尋找槓桿效應。我們被一種強烈的動力所驅使，即真正地面對現實，去思考未來 10 年實現目標意味著什麼。”驚魂周末：忠誠、韌性與“救生筏”訪談中，布羅克曼首次詳細回顧了 2023 年 11 月那場管理層危機。當他在家中收到薩姆·阿爾特曼被免職的消息時，他沒有陷入憤怒，而是出於直覺選擇了辭職。“我只是知道這樣做是不對的。掛斷電話後，我立刻和妻子談了談，我說，我必須辭職。”隨之而來的景象令他震驚：大批核心成員取消了感恩節假期，擠在辦公室裡要求與公司共進退。布羅克曼將這段經歷視為團隊韌性的終極測試。由於 Google Docs 在處理請願書籤名時因人數過多而崩潰，員工們不得不通過聯絡人手動加入名字。他引用了一句箴言：“他們不是為了錢而戰。他們是為了身邊的夥伴而戰。” 最終，這場危機不僅沒有摧毀 OpenAI，反而鍛造了一個更具凝聚力的鑽石核心。安全與監管：在迭代中建構社會韌性對於 AGI 的安全擔憂，布羅克曼提出了“迭代部署”的概念。他堅決反對在象牙塔裡閉門造車，認為必須讓社會接觸中間版本的技術，以便建立應對風險的“肌肉記憶”。“如果你把 AGI 當作你的第 100 個系統，而此前你已經部署過 99 次能力遞增的系統，世界就有機會圍繞它們進行重構。這就像給汽車安裝安全帶，給城市修建道路。”在談到模型偏見與政治傾向時，布羅克曼表示 OpenAI 致力於訓練模型追求長期目標，而非通過“獎勵作弊”來取悅使用者。他預測，未來的 AGI 將成為 80 億人的個人代理，全天候代表使用者的利益行事。終局願景：算力驅動的未來經濟布羅克曼對未來持有一種極具前瞻性的樂觀主義。他認為，人類正在進入一個“算力驅動型經濟”，每個人都將成為“智能體管理者”。在這個世界裡，AI 不再是人們通過電腦操作的工具，而是電腦主動為人類完成工作。“即使是在這兩年內，我們將看到的不僅是 AI 作為向善的力量。每個人都應該進入這樣一個世界：口袋裡隨時揣著一名水平超過全球頂級專家的醫生。”訪談最後，布羅克曼再次回到了他的初心。對他而言，成功的定義從未改變，那就是：“實現 OpenAI 的使命，確保通用人工智慧造福全人類。” 在這場跨越技術瓶頸、商業競爭與人性考驗的長跑中，這位頂尖架構師依然堅信，痛苦與不確定性正是創造價值的必經之路。天空之城全文整理緣起：從 Stripe 到 AI 夢想Shane Parrish： 那麼 OpenAI 是如何誕生的呢？我知道我想創辦一家初創公司，因為我覺得那是我想做的事情。但你當時正身處一家初創公司，Stripe 就是一家初創公司。Greg Brockman： 確實如此，但我從未……我覺得 Stripe 所解決的問題並非我自己的問題，那並不是我從小到大一直在思考的問題。那是一個重要的問題，我為此使命全身心投入了多年，但我感到無論有沒有它都會成功。所以，我當時第一次真正思考：有什麼使命是我願意投身其中，甚至願意餘生都致力於解決這個問題，只為看到它能以稍微好一點的方式發展下去。對我而言非常明確的是，首選目標就是 AI。如果你能真正對 AI 在世界上的發展軌跡產生影響，那將是充滿意義的一生。Shane Parrish： 當你考慮離職時，Patrick 讓你去和 Sam Altman 談談。那次談話發生了什麼？Greg Brockman： Patrick 曾經說過，Sam 見過很多處於你這種境況的年輕人。而且我認為，Patrick 真心希望 Sam 能說服我留下來。和 Sam 談了幾分鐘後，他表示，你顯然已經決定了。這非常明顯。於是他問，那你接下來打算做什麼？我說，我在考慮創辦一家 AI 公司。他說，我也在考慮在 AI 領域做點什麼。我們應該保持聯絡。所以在我離開 Stripe 之後，我和 Sam 可能又談過一次。他問你還在考慮做 AI 相關的事情嗎？我說，是的。他說，我也開始獲取更多細節，並正在籌備七月份的這場晚宴。於是我飛過去參加了那場晚宴。我記得當時討論的一個話題是：現在組建一個匯聚頂尖研究人員的實驗室是否已經太晚了？這還有可能嗎？Shane Parrish： 那是在那一年？Greg Brockman： 2015年，因為你會考慮到 DeepMind 當時幾乎擁有了所有的研究人員、所有的資金以及所有的資料。當時的感覺就是，想要白手起家創辦點什麼，甚至還有可能嗎？人們列舉了各種各樣的理由。這很難。但沒有人能給出一個理由說明這在事實上是不可能的。那天晚上，Sam 和我開車回城時，我記得我們相視一笑，說道，我們必須做這件事。我們就是必須得做。於是第二天，我就全身心投入到這件事的籌備工作中了。這很困難，因為它在當時非常模糊。我們有一個使命和願景，即我們認為能夠建構人類水平的 AI，讓它對世界產生積極影響，並確保其收益得到廣泛分配，但具體該如何實現呢？而且，你該如何說服人們真正離開現有的工作，加入這個項目呢？最初，我鎖定的人選其實是 Ilya、Dario Amodei、Chris Olah 以及我自己。這就是最初的核心團隊。我們在一起度過了很多時光。我們花了大量時間討論實驗室的潛在願景，以及各種可能的運作方式。事情並沒有完全整合在一起，其中一部分原因僅僅是，這是否具備足夠的推動力？Dario 覺得他需要去闖出一番名堂，而且他不確定這是否真的是他要走的路。當時還存在關於這一切將如何運作的問題。與此同時，John Shulman 開始產生興趣。他說他願意加入。Dario 和 Chris 最終決定去 Google Brain。所以實際上就只剩下 Ilya、還有 John，或許還有另外幾個人。當時我有一個大約 10 人的團隊，他們中許多人說，我對這個感興趣，但還有誰會加入？我問 Sam，我們該如何打破這種僵局？我們到底該怎樣讓每個人都說，我們加入？Sam 的建議是邀請大家參加一次線下團建。所以我們在 Napa 組織了一場活動，當時我甚至還專門製作了 T 恤——那是在他們加入之前？當時沒有任何正式的邀約，也沒有人加入，我們沒有任何組織架構，什麼都沒有，我們只有一個想法。我們有一個願景。我們有一個使命。我們把大家請了過來。我們一起開車去了 Napa，那是非常棒的一天。大家靈感迸發。我們提出了我認為可以稱之為我們在過去 10 年中所追求的技術藍圖。第一點，解決強化學習問題。第二，解決無監督學習問題。第三點是逐步學習更複雜的——加上引號——事物。在那次場外會議之後，我向每個人傳送了邀請，並說，嘿，我們希望在接下來的兩到三周內啟動。如果您有意參與，請告知我。Shane Parrish： 您為什麼認為 DeepMind 具有如此難以踰越的優勢？Greg Brockman： 當時的情況確實是，Google DeepMind 在該領域佔據絕對統治地位。他們擁有大量的資本，擁有成功的過往記錄。那是 AlphaGo 問世之前，AlphaGo 在幾個月後推出，但這並不令人驚訝，那種勢頭非常明顯。因此問題在於，這真的可能實現嗎？去建構一個獨立且全新的事物，這並非顯而易見。商業轉型與技術里程碑：從 Dota 到 GPT-4Shane Parrish： 你是在什麼時候意識到，非營利模式是行不通的？Greg Brockman： 在 2017 年，我們開始深入思考，首先，我們該如何真正實現我們的使命？我們到底該如何建構一個 AGI？那會是什麼樣子的？於是我們開始計算算力需求。你會逐漸意識到，這需要一台大型電腦。我們發現了一家名為 Cerebras 的公司，他們當時正在建構一種獨特的計算硬體。而我們意識到，他們所承諾的那種電腦，將遠超我們計算預測中的算力水平。正如你開始意識到的那樣，如果我們能購買大量此類電腦，我們實際上很有可能成功建構出 AGI。如果我們能獲得 Cerebras 的獨家訪問權，那將賦予我們壓倒性的優勢。如果我們能收購超大規模的資料中心，那也將成為一種獨特的優勢。關於非營利組織的籌款，我認為其潛力本質上是有上限的。因此，Elon、Sam 和我都一致認為，OpenAI 向前發展的唯一途徑，即實現其使命的唯一路徑，就是建立一個與 OpenAI 相關的某種形式的營利性實體。我們致力於這一方向，並且我們深知這是實現該使命的唯一途徑。Shane Parrish： 你意識到一切都將為你而改變的那個時刻是什麼時候？是在 Dota 時期，還是在那之前，亦或是之後？Greg Brockman： OpenAI 的運作方式是一系列時刻的累積。在這些時刻，你會意識到一切已成現實。每當你以為自己已經理解了它，認為一切都已經塵埃落定時，你就會發現一個新的視野，而那曾是你尚未察覺的。所以在此過程中，我認為有過一次最初的發佈。當時的感覺是，哇，我們真的組建起了一支團隊。現在我們可以追求這個使命了。但第二天來到辦公室時，我在想，我們該做什麼呢？我們甚至連一塊白板都沒有。我的意思是 John 想在白板上寫點東西。我說，我會去弄一塊白板來。那是力所能及的事情。Dota。我們取得了第一個重大成果，那真的就像是，哇，當我們下定決心時，確實可以成就一番事業。你確實可以看到所有這些計算資源匯聚在一起。你擴大了計算規模。你也就擴大了成果規模。GPT 系列在開發過程中有多個重要時刻。我記得其中一個早期時刻是關於 unsupervised sentiment neuron 的那篇論文。你聽說過那篇嗎？Shane Parrish： 我聽說過，但我沒讀過。Greg Brockman： 好吧。那篇論文很有意思，因為它是在 2017 年發表的。那確實是我們第一次看到語義從語言模型訓練目標中湧現出來。通過訓練學習下一個字元，預測下一個字元，然後你突然得到一個能夠理解情感的神經網路，能夠判斷內容是正面還是負面的。這比聽起來要困難得多。但就在那一刻你意識到，哇，我們正在建構能夠學習語義的機器，它們不僅僅是知道逗號、名詞和動詞的位置，而是真正能夠理解句子的含義。你必須推動這一處理程序。Shane Parrish： 當然，當你看到像 GPT-4 這樣的事物時，我記得我們當時正在試用它，有人問，為什麼這個東西還不是 AGI？Greg Brockman： 這其實很難界定，因為你可以用任何你想要的方式與它進行流暢的交流。它顯然還不是 AGI，確實缺少了某些東西，但如果你在兩個月前列出你的 AGI 標準，它很可能已經符合 GPT-4 當時的表現了。所以，在整個過程中有許多時刻會讓你覺得它現在是真實的。這一切真的會發生。經濟將在這個由算力驅動的世界中發生轉型。我認為這些時刻遠未結束。我認為我們還有許多突破性的時刻，在那些時刻你會意識到下一個階段是可能的。Shane Parrish： 我認為 Dota 是一個令人難以置信的時刻，因為它不像 Deep Blue 下的國際象棋，也不像 AlphaGo 那樣在計算上高度密集但規則非常明確。它實際上是以一種與人類互動的方式進行的，即世界在某種程度上是有結構的，但你又擁有所有這些自由。Greg Brockman： 那確實是非常引人注目的。諷刺的是，我們最初開發 Dota 是為了研究新方法，因為當時的強化學習顯然無法實現擴展，我們使用的演算法叫做 PPO，你需要對每一個時間步進行規劃。它沒有層級結構。而作為人類，這並非你規劃一天的方式。所以我們知道這種演算法存在嚴重的缺陷，永遠無法實現擴展，並且還有所有這些問題。但你必須從某個地方開始。你必須不斷推高基準線以觸及天花板，這樣我們才能真正看到現有條件下所謂的卓越極限在那裡。然後你就可以引入新的演算法。我們不斷擴展 PPO 的規模，最終超越了頂尖人類的表現。這本身就是一項發現，即大規模算力配合簡單演算法，這不僅僅在理論上成立，它是切實可行的。它在實踐中行之有效。我們確實能夠實現它。在這種極其混亂、無法程式設計、無法預判且無法進行搜尋的環境中。你所需要的只是這種類人的直覺。順便提一下，我們使用的神經網路非常微小，相當於昆蟲的大腦，其突觸數量與真正昆蟲的大腦相當。你會意識到，如果採用同樣的計算方法，但將其擴展到人類大腦的規模會怎樣？那會是什麼樣子？這是一個非常引人深思的問題。Shane Parrish： 推理和預測之間有區別嗎？你提到了預測下一個字元、預測下一個單詞，與真正基於第一性原理的推理之間的區別？我認為它們之間有著深刻的聯絡。Greg Brockman： 一方面，僅僅預測接下來會出現什麼聽起來是一項平庸的任務。但如果你真的能預測 Einstein 口中說出的下一個詞，那麼你至少和 Einstein 一樣聰明。你可能會爭辯說，但我覺得這些論點站不住腳，其中存在某種錯誤，因為預測的意義不在於能夠預測已知的事物，預測的意義在於讓你置身於一種新的情境之中。你此前從未見過的內容，並預測接下來會發生什麼。我認為智能與預測之間有著深刻的聯絡，學術文獻中對此有長期的論述，關於你如何思考這一點、壓縮技術，它們本質上都屬於同一事物。現在，這些推理模型中，我認為非常有趣的一點是我們通過強化學習來訓練它們。所以這確實回到了最初的 OpenAI 計畫，它分為兩個步驟。第一步是無監督學習。你通過讓模型預測接下來會發生什麼來對其進行訓練。在這一階段，資料要靜態得多。它更多是觀察性的。同樣，這些是它從未見過的資料、從未見過的場景，但這些場景是已經發生過的。然後進行強化學習，也就是說你基本上讓 AI 在其自身資料上進行學習，你讓它自己做出決定，這就是我將要採取的行動。你從世界獲取觀察結果，並從中進行學習。再次強調，你實際訓練它的方式依然是基於預測，它試圖預測，如果我採取這個行動，最可能發生的情況是什麼？然後根據你做得有多好，來對其進行強化。其精妙之處在於，它現在成為了一個既擁有背景知識又具備真實世界經驗的 AI。但從根本上說，我們在無監督階段和強化階段所使用的技術是完全相同的。你依然是在進行預測，只是改變了資料的結構。危機、衝突與使命的存亡Shane Parrish： 局勢是從什麼時候開始變得緊張的？Greg Brockman： 我認為關於 OpenAI 的一點是，如果你真正相信這一使命，如果你真正相信創造出具備人類智能水平的機器是有可能的，那就意味著賭注總是顯得非常高。關於決策者是誰、關於這些決策背後秉持何種價值觀，以及那些在典型公司中或許顯得平庸、更像是辦公室政治的問題，開始承載起這種關乎存亡的重量。我認為這在很大程度上影響了 OpenAI 這類備受矚目的衝突。有時即便只是關於誰該為某項具體成果署名的問題，突然之間也具有了這種關乎存亡的重量。Shane Parrish： 我正是從這個角度思考的，因為到了那個節點，你很可能意識到這項技術是不可避免的，而且它將改變世界。而這一點當時並未被世人廣泛認知。而且我能夠想像，有些人會想：我想要處於最前沿。我想要為此而攬功。Greg Brockman： 是的。這就是我在此領域觀察到的壓倒性態勢。事實上，這不僅僅關乎 OpenAI。我早期的一個觀察是，這項技術本質上是非常碎片化的，那就是，有時，當你面臨巨大壓力時，你可能會得到一顆鑽石，也可能會出現裂痕。你經常會看到像鑽石一樣的核心團隊形成，也就是那些真正能夠通力協作、擁有高度信任並深諳運作之道的團隊。但有時你也會看到他們出現分化，各自走上了不同的道路。我認為在 AI 領域，我們從這種方法的多樣性中獲益良多。不同的團隊確實在相互推動，以更具益處的方式引入這項技術；同時，他們也在思考關於安全性、何為安全、如何真正部署這項技術，以及如何權衡風險與收益的複雜問題。我認為這是一場非常健康的辯論。這在 OpenAI 的內部一直都在發生。現在，我認為這種辯論也正在全球範圍內真正展開。我認為這對我們整個社會來說是真正有益的。Shane Parrish： 本節目的贊助商是 CoinShares。當行業內大多數人還在爭論數位資產是否合法時，CoinShares 已經在默默建構基礎設施，以便能夠妥善地進行投資。他們目前管理的資產規模已超過 60 億美元，在每一個市場周期中都保持盈利，並擁有嚴肅投資者所期望的透明度和治理機制，且完全合規。無論是加密資產交易所交易基金（ETFs）、主動管理策略，還是比特幣挖礦 ETF 敞口，你都可以通過現有的經紀帳戶訪問所有這些投資產品。大人們來了。訪問 coinshares.com 瞭解更多資訊。這不是投資建議。你整天都在開會。你努力保持專注，但又擔心會忘記會議的決定、待辦事項和重要的後續步驟。這就是 Granola 的用武之地。Granola 是一款用於會議的 AI 驅動記事本。你像往常一樣草草記下筆記，而在後台，Granola 會在會議結束後將這些筆記轉錄並轉化為清晰、實用的內容。沒有機器人會加入你的通話，不會造成任何干擾，只有一個能幫你保持專注的簡潔記事本。在通話期間或通話結束後，你可以與你的筆記進行對話。你可以要求 Granola 提取行動事項、協助你進行談判、做出決策、撰寫跟進郵件等等。即使是在聽播客時，我也會使用它。一旦你在第一次會議中試用過，就很難再離開了。前往 granola.ai/Shane，使用優惠碼 Shane 即可免費獲得三個月的使用權。網址是 granola.ai/Shane。帶我回到你得知 Sam 被解僱的那一刻。你當時在那裡？Greg Brockman： 我在家裡。Shane Parrish： 發生了什麼？Greg Brockman： 我收到了一條簡訊，問我能不能加入視訊通話。於是我加入了視訊通話。Shane Parrish： 我注意到董事會成員都在那裡，除了 Sam。當時不在場嗎？Greg Brockman： 不在。我推斷出出事了，但是……Shane Parrish： 因為你是董事會成員。Greg Brockman： 我是董事會成員，或者說是當時的董事會成員。就在那一刻。Shane Parrish： 是的。然後發生了什麼？Greg Brockman： 我被告知了。董事會已經決定將 Sam 免職。實際上我收到的資訊，與公開帖文中的內容完全一致。我詢問是否能提供更多資訊。得到的回覆是暫時不行。我追問是否之後可以，得到的回覆依然是無可奉告。隨後對方告訴我還有後續內容。即我已被移出董事會。但我仍會留在公司，因為我對公司和其使命至關重要。我再次詢問能否提供任何理由或反饋，得到的答覆依然是否定。在對話末尾，對方表示，在新的架構下，希望我能通過新的配置獲得反饋。Shane Parrish： 這就是整個對話的內容。你當時是怎麼想的？就是覺得不對勁。是憤怒嗎？Greg Brockman： 不是。Shane Parrish： 我感覺我理解了所發生的事情。過了多久你才真正弄清楚是什麼導致了這種情況？Greg Brockman： 這個問題的答案包含兩個部分。其一是，我覺得自己仍在不斷獲知額外的事實和某些人內心真實的想法。在某種程度上，這歸結於溝通的缺失，對吧，你意識到我所緩衝的那些不同事物其實一直都在。而在某種程度上，大概就是那種感覺。我當時心想，對於在場的每一個人，我都能很好地推斷出他們為什麼會有那樣的行為。但這並不是那一刻對我而言最重要的事情，我只是知道這樣做是不對的。掛斷電話後，我立刻和妻子談了談，我說，我必須辭職。她說，我同意。Shane Parrish： 然後你就在那天辭職了。Greg Brockman： 是的。那後來發生了什麼？我辭職的那天，抱歉，因為收到了這麼多消息，人們說，我不知道你和 Sam 接下來的打算是什麼，但我支援你們。我想和你們一起去開創些什麼。真的，那確實是一個非常真實、出乎意料的驚喜。我確實沒想到會得到那樣的支援，那樣的聲援。那天還有幾位與我密切合作的同事也辭職了。他們是 Jakub、Szymon、Aleksander，加上我們五個。所以這些人加上 Sam，我們聚在一起，開始規劃一家新公司可能會是什麼樣子。我記得第一天的時候感覺是，我們實際上有 10% 的機會能把公司拿回來，10%。第二天，我們在 Sam 家裡安排了一次會議。公司裡的一群人過來參加，我們展示了我們剛剛草擬的願景。所以這真的是在第一天，有了關於我們如何營運這個項目的全新構想。那個周末我們還花了很多時間與董事會和公司進行談判，試圖找出一條行得通的回歸之路。那個周日晚上，董事會撤換了臨時 CEO Mira，換上了一個新人，公司隨即發生了反抗。就像我們當時確實還在辦公室一樣。我們原本以為離達成交易很近了，也以為能回來。Shane Parrish： 能回來。Greg Brockman： 沒錯。我們以為已經找到了一條可行之路。然後董事會就做出了那個調整。緊接著，所有人突然都開始湧出大樓，場面簡直一片混亂。我當時正與許多有興趣加入這家新公司的人進行視訊通話，安撫他們說一切都會好起來的。我們有計畫。我們擴大了規模，你也知道，我們一直在為那小部分我們預期會願意加入的人打造這艘救生筏，對吧。突然之間，大家似乎都不想再與這個實體扯上任何關係了，人們希望能站出來，維護他們眼中正確的事情。Sam 與我們之前討論過的 Satya 進行了溝通，詢問他是否願意提供資金支援？你是否能助一臂之力，支援這個新的事業？我當時說，嘿，能不能不只是這艘小小的救生艇，而是把這裡的每一個人都帶上？於是，答案是肯定的。我們接收所有人。你當時的態度就是，無論如何我們總能想到辦法解決。當時很多人正處於感恩節假期前夕。很多人原本都計畫飛回各自的家鄉。相反，他們取消了航班，辦公室裡擠滿了人。就好像每個人來到辦公室僅僅是為了待在那裡，參與其中。而且，即使他們無法對這些談話做出任何貢獻，他們也只是想在歷史創造的時刻身處現場。接著，一份請願書開始流傳。當時有太多人同時試圖簽署這份請願書。這直接導致 Google Docs 崩潰了。所以你必須不得不……必須指定某些人作為聯絡人，由他們來負責將你的名字加入進文件中。你不能同時擁有太多的編輯權限。我認為那是一個被強烈聽到的聲音。我記得，我大約凌晨 5 點左右才到家，然後就睡了。我大約 45 分鐘後醒了過來。我查看了 Twitter，發現 Ilya 已經發佈了內容並簽署了請願書。上面寫著他希望公司能夠重歸於好。那一刻我感到如釋重負。我心中充滿了感激，感覺一切都好起來了，我們可以重頭再來。我們可以回到正確的軌道上來。Shane Parrish： 你和 Ilya 是共同創立了這家公司。在那之後，試圖修復你們之間的關係是什麼樣的體驗？Greg Brockman： 聽著，這很艱難。那絕對是一段非常親密的關係。他曾擔任我民事婚禮的證婚人。我們曾共同經歷過極其艱難的時刻。正如任何一段關係一樣，大家總是會有起起落落。此後我們花了很多時間進行深入交流，試圖真正去理解並表達出那些在我們之間積壓已久或未曾言說的事情。我認為通過那個過程，我們最終達成了一種非常好的狀態。對我而言，我覺得我們對所發生的一切都做到了釋懷。Shane Parrish： 對於你所激發出的那種忠誠，你有什麼感受？Greg Brockman： 深感感激。這確實是我從未主動要求過，也從未預料到的事情。我想我的行事方式是，我更傾向於做一個深入一線、身先士卒的領導者。有時我這樣做的時候，我不總是——我有點情緒化了——我不總是回頭看大家是否跟上，我只是徑直衝了進去。而當人們真的加入並切實幫助建構這些事物時，我只會感到非常感激，並覺得他們在各方面都超出了我的預期。所以最終大家都回來了。我得告訴你，這並非十拿九穩，因為整個周末競爭對手都在伺機而動。想像一下那種人們正準備採取的瘋狂爭搶，大家都在接收邀約，但那個周末我們確實沒有失去任何一個人，沒有人接受競爭對手的邀約。Shane Parrish： 我覺得這太不可思議了。確實如此。這更多是因為，當我們討論什麼是最好的團隊時，Coach Belichick 確實曾這樣告訴過我。他說，他們不是為了錢而戰。他們是為了身邊的夥伴而戰。當你提到這些人全都辭職時，讓我想到了這一點。他們中沒有人是因為得到了據說是更多的錢或更好的報價而離開的。當時每個人都在試圖圍獵和挖角。Greg Brockman： 那確實是一個非常珍貴的時刻。尋找初心：研究與反思Shane Parrish： 這一切發生之後，你休息了一段時間。當時你的內心狀態如何？Greg Brockman： 那是一段極其強烈的經歷，無論是在經歷的過程中還是回歸之後，坦率地說，在 OpenAI 我最艱難的時刻之一就是 Ilya 離開的時候。那可能是 OpenAI 歷史上唯一一個讓我覺得不想再繼續下去的時刻。我想我需要一些時間來找回初心，重溫我當初為何投身於此，為何這一切如此重要，以及為何它值得我承受這些痛苦。Shane Parrish： 在那段期間你做了什麼？Greg Brockman： 我訓練了語言模型。Shane Parrish： 你是在那個時候學會如何操作的，就像你進行的自學那樣。我在你的部落格上讀到過。Greg Brockman： 不是的。事實上，在 OpenAI 工作期間，我就已經完成了這些。我當時訓練的是針對 DNA 序列的語言模型。所以我基本上把我的研究成果帶到了 Arc。Shane Parrish： 為了 Arc Institute。沒錯。Greg Brockman： 那是一次非常棒的經歷。我運用了自己已有的技能，並將它們應用於一個截然不同的領域，而這個領域對我和我妻子來說都具有非常重要的個人意義。她有很多健康方面的問題，我們在思考 AI 能為她的健康做些什麼，能為我們都非常熱愛的動物的健康做些什麼，這就像是一個應用領域，讓我們覺得或許能以一種與我以往追求這項技術時截然不同的方式提供幫助。所以那確實是這段經歷中非常積極的一部分。Shane Parrish： 如果我讓你打開一個 Google 文件，用一頁紙寫下你從這一系列事件中對自己的認識——從 Sam 被罷免，到你辭職，再到激發了如此多的忠誠，到休整一段時間，最後回歸——你會寫些什麼？Greg Brockman： 我想我只是學會了要堅持追求那些值得的東西，如果你肩負著一項重要的使命，那麼在經歷起起落落的過程中，必然會有陷入絕境的時刻，也會有重回正軌的瞬間，你絕不能讓這些波動偏離了既定航向。我認為，在此期間你必須培養出極強的個人韌性，因為如果你處於領導地位，人們會仰賴你的沉穩、支援以及對整體發展方向的把控。我努力提升自我的一大核心，就是既要真正能夠理解我們所做之事的細節，即一項決策會帶來什麼影響，又要能夠在決策時保持果斷。我想，曾有那麼一些時刻，我在審視 OpenAI 時深受不確定性的困擾，總覺得不知道什麼才是正確的答案。我不知道開發這項技術的正確路徑是什麼，也不清楚該如何回答這些極其棘手的問題。但這裡有很多非常聰明的人，他們有著非常鮮明的觀點。所以我努力嘗試去理解所有這些觀點，並設法將它們整合在一起。有時這是正確的處理方式。但有時你會意識到，這些觀點之間存在著相互矛盾，它們不可能同時成立。在這種情況下，你有時必須做出抉擇。你知道這意味著總會有人感到不滿，有人會選擇離開，也有人會覺得被冷落。我認為我努力做到的一點是，在保持更強自我意識的同時，在確信需要採取行動時，擁有更堅定的信念。回想在 OpenAI 發展的過程中，有一些事情我希望能以不同的方式處理。我覺得通常情況都是這樣。我們在明知某些事情的情況下卻遲遲未動。我們知道某個人並不完全適合某個職位。我們認為這在技術方向上並非完全正確。我們認為這種讓項目運行的方式可能行不通，但我們等待的時間太久了。所以，這正是我想從中汲取教訓併力求每天真正成長的地方。當我回顧 OpenAI 和 Stripe 的發展歷程，甚至追溯到大學時代以及我過去參與過的項目時。我認為我的行事風格是，我既非常熱愛這項活動的資料本身。我熱愛個人貢獻。我熱愛這款軟體。我熱愛對問題的深入思考。但我同時也非常關注完成這些工作的環境。我實際上願意放棄那種類型一樂趣，也就是像快速上手建構某個東西時的那種簡單快樂。那些更像是類型二樂趣的事情總是很酷，儘管當下可能感到痛苦，但卻是值得的。但你所做的是創造一個環境，讓其他人也能獲得那種體驗，去完成個人貢獻工作，去成就偉大的事業。所以，致力於建構一個這樣的環境，正是我所傾向的方向。這並不總是最容易的，你確實必須願意承擔巨大的個人痛苦。就像 Ilya 所說的那樣，Ilya 總是說你必須學會忍受痛苦，如果你沒有經歷痛苦，就意味著你沒有創造價值。我認為這其中蘊含著深刻的真理。Shane Parrish： 深入探討一下這一點。Greg Brockman： 關於 Ilya 的觀點，我覺得很有趣，因為他有一種非常獨特、只屬於他個人的表達方式。他所選擇的詞句中總是蘊含著深刻的啟迪。這種對於痛苦的描述，是我們貫穿 OpenAI 整個發展歷程中一直在思考的問題，就像我們從一開始就面臨著巨大的不確定性。這東西真的行得通嗎？有很多理由說明它可能行得通，為什麼它不該行得通，甚至可以說它根本不可能行得通，無論是如何招募人才？還是如何推進技術研發？比如，你如何籌集到足夠的資本？你如何保持人們的動力？比如，你如何做出正確的決策？這些事情每一件都極具難度，且充滿極大的不確定性。人們很容易掩蓋問題，盲目地高喊口號，一往無前。我認為這就是 Silicon Valley 文化中消極的一面，至少是外界對 Silicon Valley 的認知，就是那種盲目地去做事，然後通過所謂的“現實扭曲場”或者其他方式來行事。但我認為這在 AI 領域行不通，對於 OpenAI 來說也行不通。我不認為這是我們一直以來的運作方式。我認為我們一貫的運作方式是：直面嚴酷的真相，理解科學，以及事物的本來面貌。我認為，這正是我們能夠取得成功的原因之一——即以不同的方式思考問題，而不滿足於現狀。即使是在早期，我們也曾思考過：如果只是撰寫並行表一些論文，那當然很好，我們會獲得引用，會成為會議上最酷的人，但我們能實現使命嗎？就像是，你如何通過這些活動，讓 AGI 的發展對世界更有利？這兩者之間並沒有直接聯絡，僅僅這樣做是不夠的。也許這只是一個基礎，也許只是邁出了一步，但這還遠未足夠。於是，你開始真正思考那些宏觀層面的問題：建構 AGI 需要什麼，但這並不輕鬆，不是嗎？因為你會意識到，根本沒有現成的路徑。你會意識到你需要資金。而你沒有任何機制來籌集這些資金。你可以努力嘗試。我們確實努力嘗試了。我們付出了極大的努力。但是，也許你正在籌集 1 億美元。你可能可以做到 5 億美元。很好。但如果是 10 億美元呢？相當困難。看看 OpenAI 憑藉我們所能籌集到的資源已經取得的成就。為了推進這一使命，除了直面痛苦並試圖理解我們想要達成的目標真相之外，確實沒有其他方法可以做到。快速問答與行業前瞻Shane Parrish： 有什麼教訓是你不得不反覆學習的？Greg Brockman： 做出艱難的決策，進行艱難的對話。Shane Parrish： 你收到過最好的建議是什麼？Greg Brockman： 我其實會說是來自我 Harvard 大一寫作課上的建議，就是不斷刪減詞彙以保持清晰並實現有效溝通。Shane Parrish： 你如何篩選資訊？Greg Brockman： 我閱讀量很大，並會積極地進行分類篩選。Shane Parrish： 你的榜樣是誰，為什麼？Greg Brockman： 我會說是 Gauss 和 Descartes，他們是非常深思熟慮的人，遠超於他們所處的時代，是非常有遠見的思想家，他們提出了真正的突破性見解，我認為這些見解改變了我們的思維方式和生活方式。Shane Parrish： 你希望非技術人員瞭解關於 AI 的什麼？Greg Brockman： 它將成為他們個人生活中的一股向善力量，他們將從中受益，並且它將有助於推動科學、醫學的發展，真正提升每個人的福祉。Shane Parrish： 外界對 Greg Brockman 有什麼誤解？Greg Brockman： 我認為人們並不瞭解我對這一使命的專注程度，這種專注在很多轉折點上讓我個人感到非常痛苦，但我堅信這項技術能夠助力於人並造福每一個人，我真的希望能助力實現這一目標。Shane Parrish： 為什麼 OpenAI 在模型命名方面表現得如此糟糕？Greg Brockman： 這一點我無法回答你。Shane Parrish： 我們是否已經接近 AI 驅動 AI 實現指數級增長的臨界點了？Greg Brockman： 我認為我們正處於這樣一個階段：將 AI 應用於其自身的開發流程中，並且這一處理程序正在變得越來越快。而且從很多方面來看，這種情況確實從 ChatGPT 出現後就在發生，我們利用 ChatGPT 來最佳化我們的開發流程。這讓效率提升了 10% 到 20%。現在我們擁有了這些出色的編碼工具，它們真正徹底改變了軟體工程的實施方式。而我們在生產模型時，大部分工作環節都受限於軟體開發的速度。關鍵在於如何實現這些系統。關鍵在於將它們規模化。關鍵在於如何管理這些龐大的電腦。我們即將進入一個階段，屆時 AI 也將能夠提出自己的研究思路，並進行驗證和實驗。因此，我認為我們所產出的成果將持續推動迭代和創新速度的提升。Shane Parrish： 目前有多少比例的程式碼是由 AI 編寫的？Greg Brockman： 很難統計還有多少程式碼不是由 AI 編寫的。那已經是一個微乎其微的比例了。至於實際的程式碼編寫工作，在給予正確的上下文和結構前提下，AI 目前在寫程式碼方面已經遠勝於人類。當然，在程式碼的架構層面，我們的頂尖人類專家仍然具有顯著優勢，這涉及對模組佈局的思考、各部分協作方式的規劃，以及某些介面定義的設定，但實際的程式碼編寫工作現在基本上全都由 AI 完成了。Shane Parrish： 它是否提出了你之前未曾想到的創新點？Greg Brockman： 我認為我們現在正處於臨界點。例如，我們在晶片設計領域已經看到了這一點。以我們自主研發的晶片設計為例，去年，我們應用了我們的技術來尋求更優的佈局，從而有效縮減電路所佔用的面積。在那裡，我們發現模型生成的最佳化方案實際上已經在我們的清單之中了。所以它並沒有提出人類從未想到的新穎構思，但它以一種我們無法及時實現的方式加快了執行速度。如果你觀察數學和物理領域，我們現在正在解決未解的數學難題。我們正在解決未解的物理難題，並且最近在量子物理學中，我們以與學術界預期相反的方式解決了這個特定的物理問題，並得到了一個優美而簡潔的公式，這看起來確實正在成為現實。因此，這些模型產生新想法是非常可行的，我們已經開始在其中一些領域中看到了成果。現在，隨著將其應用到越來越困難的領域，或者那些需要更多現實世界背景知識的領域，我們正開始看到成效。我們已經明確了實現目標的路徑，但仍有大量工作要做。政治、偏見與安全Shane Parrish： 為什麼模型會讓人感覺帶有政治傾向，幾乎像是存在政治偏見？Greg Brockman： 我們投入了大量精力確保模型的中立性，使其能夠呈現事實。你可以在我們的網站上準確查看我們模型所遵循的價值觀。我們發佈了公開規範，定義了我們希望模型採取的行為方式，你可以針對這些方式提供反饋。我們付出了巨大努力以真正達到這種中立的立場，併力求公平與平衡。我認為，有時你在 Twitter 上看到的那些截圖，其來源本身並不一定完全真實，這可能是因為後台存在某些影響答案的記憶、隱藏指令或對話的前序內容。所以有時，問題本身就沒有標準答案。比如當你問一個問題並要求用一個詞回答時，無論你怎麼回答，都會遭到某種關於偏見的指責。在我看來，問題的核心在於，我們非常在意事實，並致力於打造一個真正代表你意願的 AI。Shane Parrish： 你認為如果模型是基於強化學習建構的，它們是否會演化成專門說我們想聽的話？也就是說，如果我的政治傾向偏左，它就會給我一個偏左的回答；如果我偏右，它就會給我一個偏右的回答。Greg Brockman： 事實上，在如何根據使用者偏好訓練模型方面，我們已經經歷了一次演變。我們發現，在某一個階段，比如去年，這些模型確實開始傾向於說你想聽的話，比如會對你說：“這是一個非常棒的回答”。對此我們已經做出了應對。我們表示這並不是我們希望模型運作的方式，因此我們進行了改進。因為我們希望模型真正對齊的目標是幫助你解決問題，實現你的長期目標，或許在當下，聽到“這是一個很棒的問題，是有史以來最好的提問”會讓人感覺良好，但這並不是你真正想要的。也許有些人會喜歡，但這不是大多數人真正想要的。因此，我們實際上在技術上做了很大的改進，以確保我們的 AI 訓練不會導致所謂的“獎勵作弊”（reward hacking），我們要確保那裡有明確的訊號指向目標，而不僅僅是你的短期目標。Shane Parrish： 什麼是能讓你獲得快速成功的途徑？Greg Brockman： 對我而言，這也許是個人 AI 以及個人 AGI 未來發展願景中最重要的一部分，即確保它不僅僅是看起來不錯。它真正關乎的是與你的長期福祉、長期目標以及你內心真正想要的東西保持一致。這就是為什麼我認為它最能賦予人們力量，因為它確實讓你掌握了主動權，因為你將擁有一個 24 小時全天候為你服務的實體。當你入睡時，它仍在努力思考 Shane 想要什麼，我該如何做得更好，並且真的能夠將其實現。全球競賽與算力霸權Shane Parrish： 我們處於一場全球 AI 競賽中嗎？Greg Brockman： 我認為我們當然處於一場全球 AI 復興之中。而且我認為國家之間的動態關係尚未完全定義。我們看到這些突破性演算法的源頭高度集中在美國，集中在西方公司手中。顯然，世界各地都在進行大量的創新，但我認為具體的動態平衡，以及各國如何依賴不同的提供商，這一切目前仍在演變之中。Shane Parrish： 會有什麼後果嗎？你認為如果美國不是第一個實現 AGI 的國家會有什麼影響嗎？Greg Brockman： 我確實認為在 AI 領域保持領先對美國至關重要，因為我認為這是確保民主價值觀得到保護和捍衛的方式。而且我認為，每個國家也開始意識到它們需要某種形式的自主 AI 戰略。如果這正成為經濟安全和國家安全的基礎，它們就需要以某種方式參與其中。如果你審視美國為管理晶片出口和技術出口所做的許多努力，你會發現，如果採取過於激進的限制措施，那麼其他國家就不得不開發自己的競爭技術，或者依賴於其他正在建構此類技術的國家。如果你採取過於寬鬆的政策，那麼你可能會失去自己的優勢。問題在於，如何平衡這兩者？如何保持你的領先地位？但領導力不僅僅在於領先。領導力也在於引領世界共同前行。Shane Parrish： 其他國家是否在竊取技術進步？我最近一直在閱讀關於模型蒸餾的內容。Greg Brockman： 目前確實有很多關於模型蒸餾的嘗試，這些嘗試來自美國的科技公司，也來自世界各地。但我認為這忽略了核心要點，即這項技術正處於指數級發展的處理程序中。每當我們擁有一個模型時，我們其實已經轉向了下一個模型。我們已經在邁向下一個層級。因此，我們投入了大量精力來防禦蒸餾行為，加大其操作難度，特別是針對思維鏈以及模型中那些對於向使用者交付成果或輸出結果並非真正必要的部分。但我們所擁有的核心優勢，即我們隨時間積累的實力，實際上並不依賴於任何單一的模型，這與製造這些模型的機器有關。Shane Parrish： 噢，這就是你們停止展示推理過程的原因嗎？Greg Brockman： 這只是其中一部分原因。所以有兩個原因。其一是考慮到模型蒸餾，但第二個原因在某種程度上更為重要，那就是我們在最初開發推理範式時獲得了一個洞察：它為我們提供了一種未曾預料到的可解釋性機制，因為你真的可以讀取模型的思維過程，你可以精準看到它是如何得出答案的。因此，你可以解釋它是如何得出答案的，或者說是什麼真正促成了那個答案。現在的問題是，如果你訓練模型去生成一種看起來很完美的思維鏈，那麼你就會失去所有的忠實度，這就像是模型知道預期的答案部分要求思維鏈呈現出某種特定的樣子。因此，它可能不再能夠代表它是如何真正得出該答案的了。因此，我們很早就決定，要避免任何想要訓練這些思維鏈（chain of thoughts）以使其看起來更討喜，或者使其看起來像是可以直接呈現給使用者的傾向。所以，無論是出於競爭原因，還是出於安全考量，這些都讓我們更傾向於不展示這些中間思維過程。Shane Parrish： 目前的趨勢似乎是發佈預覽版模型。你認為這是因為我們受到了算力的限制嗎？Greg Brockman： 我想說的是，我們總體上正在走向一個算力受限的世界。如果你思考一下這些模型能為個人創造的價值總量，那是巨大的，這已經不僅僅是回答一個快速提問了。甚至也不僅僅是為你提供健康資訊存取權那麼簡單。它正在深入研究，並消耗大量的 token 來整合各種不同的資料來源，搜尋你的企業知識庫，從而真正有能力解決這些難題，去編寫出比人類水平更高的軟體。所有這些都是相當困難的。如果你看看我們從 GPT-5 到 5.2、5.3 再到 5.4 之間取得的進展，那是非常巨大的。這些模型在理解你的意圖以及適應你想要實現的目標方面正變得越來越出色。我們還把它們置於像 Codex 這樣的介面中，使其變得非常好用，這樣作為開發者，你真的可以如虎添翼，能夠實現遠超你預期之外的目標。而這一切從根本上都是由算力驅動的。如果你想為世界上每個人都配備一個 GPU，那麼現有的算力是遠遠不夠的。那相當於 80 億個 GPU。我們目前的發展軌跡遠達不到那種量級的算力水平，目前幾十萬個 GPU 就算是一個相當龐大的叢集了，而未來將會有數百萬個 GPU。世界上算力太少並不令人驚訝，為了真正能將這項技術普及給每一個人，我們需要更多的算力。至於訓練方面，我想說的是我們發佈產品的方式。因此，我們投入了大量精力，以確保我們能夠根據對未來趨勢的預判來建構計算能力。我認為我們將非常專注於我們的使命，即向所有人提供這些模型，並實現其廣泛普及。Shane Parrish： 你們曾因在資料中心投入如此多的人力和資金而受到調侃。你們認為目前的情況如何？Greg Brockman： 我認為這會為我們帶來優勢。而且我認為這將成為一種優勢，不僅是對業務而言，更是為了切實履行將這項技術普及給每個人的使命。Shane Parrish： 因為你們，就像你們很早就預見到了這一點。你們幾乎受到了所有競爭對手的調侃。Greg Brockman： 看看現在是誰在笑，我認為我們的競爭對手在算力方面過得並不順心，我只能這麼說。Shane Parrish： 但你們一定看到了他們沒有看到的東西，每個人當時都處於非常相似的技術空間裡，或者至少從外部看起來是這樣，大家都知道這一天終將到來，然而你們卻有膽量押注 1000 億美元。Greg Brockman： 這正是 OpenAI 的核心所在：真正地面對現實，真正去思考我們在未來 6 個月、未來 12 個月乃至未來 10 年將要實現的目標意味著什麼。這對於我們的宏大願景是如此，對於我們日常設計軟體的不同部分是如此，對於像擴大算力規模這樣的事情也是如此。我認為我們被一種強烈的動力所驅使，那就是將這項技術帶給每一個人，我們也在思考許多不同的機制，以確保能夠高效且安全地實現這一目標。聰明的經營者總是在尋找槓桿效應。你覺得呢？資料中心最終會專注於解決特定的問題。比如，你在北達科他州擁有一個巨大的資料中心，它專門用於攻克癌症，這就是它全部的工作。Greg Brockman： 是的。Shane Parrish： 我們距離實現這一目標還有多遠？Greg Brockman： 我認為這種情況在今年發生並非不可能。這確實令人驚嘆。試想一下，擁有一台這樣的巨型機器，你去過這些資料中心嗎？Shane Parrish： 沒有，我是在網上看到的，但從未親臨現場。Greg Brockman： 在這些機架之間穿行是一種非常不同的體驗。沿著通道走，看著那些長度完全精準的線纜，你就會意識到資料中心究竟是什麼——它們是龐大的機器，或許是人類所創造出的最大型機器。接著你會問，我們為什麼要建造這些機器？為什麼它們值得建造？因為它們有潛力去解決對人們而言至關重要的問題，比如尋找癌症的治療方法，幫助人們經營企業，有時也可能只是為了處理一些日常查詢。在我看來，其目的歸根結底在於如何創造價值？如何實現人們的目標？我認為，這些龐大機器針對單一問題所帶來的機遇，是我們尚未真正內化的。Shane Parrish： 但如果我們受到算力限制，該如何決定優先服務誰呢？比如，當我想生成一張圖片，而別人在嘗試攻克癌症時，為什麼要優先服務我？Greg Brockman： 這將是社會需要回答的最重要的問題。算力該投向何處？那些問題值得解決？雖然有很多值得解決的問題，但你必須對它們進行優先順序排序，因為算力資源終究是有限的。因此，我們堅信的一點是，每個人都需要獲得計算資源。這就是為什麼我們提供 ChatGPT 的免費版本。我們確實投入了精力，確保人們能夠使用這種廣泛可用的技術，因為我們認為這是我們工作的核心。我們認為，將這項技術交到人們手中，能夠賦予他們力量，讓他們實現目標，同時也能幫助他們理解這項技術。這有助於他們塑造這項技術在未來如何定位。你可以採取完全不同的方法，認為這只是象牙塔裡的事，只需解決問題，然後以某種方式分發技術突破即可。我認為那種方式也有其優點，但那並不是我們工作平衡點的正確所在。我認為我們確實非常希望在特定問題上取得重大進展。但我認為，這再次應該服務於我們的願景，即我們希望這項技術的益處能夠得到廣泛的分配。企業變革與個人 AGI 願景Shane Parrish： 在 OpenAI 內部，你們是如何看待消費者產品與企業級產品之間的關係的？Greg Brockman： 我最近思考的很多內容都集中在專注度上，因為這個領域本身就是機遇的化身，不是嗎？你可以利用 AI 並將其應用於任何問題，或任何你想建構的事物上。現在一切皆有可能。而我們面臨的問題是，計算資源是有限的。你想把資源放在那裡？因此，你需要形成協同效應。你需要回歸到這樣一個事實：你有多項事務同時進行，且它們共同作用，產生一加一等於十的效果。這正是夢想所在，也是最終目標。我認為 OpenAI 下一階段非常重要的一部分顯而易見是企業業務，因為我們正眼睜睜地看著經濟轉變為算力驅動型經濟。這一切正在發生。正如我們在軟體工程領域所見，這種情況將發生在人們使用電腦進行工作的每一個領域。每個人的電腦工作模式都將發生轉變：不再是你通過電腦工作，而是你的電腦為你工作。這將會是真正令人驚嘆的變革。因此，我們需要在場以幫助人們部署這些模型，弄清楚如何利用它們，並找出如何從中獲得最大收益的方法。順便提一下，企業與消費者之間的界限也將變得模糊，因為創業將變得比以往任何時候都更加容易。比如，我們現在已經看到了這種情況。甚至舉個例子，我的一位朋友描述說，他姐姐當時正形容一款她非常希望能有人開發出來的應用，她腦海裡已經有了這款應用具體想要實現的樣子。而他當時一邊聽著，一邊在 Codex 裡輸入程式碼，嗯哼，嗯哼，嗯哼，然後按下Enter。幾個小時後，他就向她展示了這款應用。她當時就說，等一下，這是什麼？這東西是從那兒來的？是誰開發的？他說，是你。我認為這非常了不起，你會意識到任何人都可以成為開發者，像 Codex 這樣的工具是面向所有人的。它不僅僅是為軟體工程師準備的。這就像是現在每個人都可以成為軟體工程師一樣。如果他們有願景，有這種主觀能動性，有想要實現的目標，那麼現在你擁有了可以實現這一切的神奇工具。而在消費者端，消費者這個詞涵蓋的範圍太廣了，這裡面包含了很多不同的東西。比如娛樂、各種自我表達的方式，還有解決目標問題。而我們在消費者領域真正專注於的一點，就是解決目標問題。比如我們堅信這項技術，你看智慧型手機，有 40 億人在使用它們。所有這些人應該都擁有一個個人 AI，一個能夠隨時線上、充分瞭解他們、掌握他們個人語境且值得信賴的個人 AGI；他們可以向其尋求建議，而且它對他們瞭解得如此透徹，以至於當你最喜歡的音樂家來到城裡時，它會自動主動地購買門票；也許它知道，我應該在操作前確認一下，又或者它知道，我必須去做這件事，而且我已經有了預先批准；擁有這樣一個瞭解你、能幫你實現任何目標、並幫你明確你目標是什麼的 AI，就是這種水平的體驗。你依然應該自己設定這些目標。它們應該是你的目標，你應該處於主導地位，但這正是我們想要創造的東西。而且我認為這不僅僅是 40 億人想要且需要的東西。我認為這將是 80 億人所需。我認為整個地球都將真正受益於並需要訪問個人 AI。因此，你可以從深度知識工作和代理系統的廣泛分發訪問這兩個維度來看待。我們希望建構這兩個方面，它們融為一體，因為歸根結底，它們是相同的技術。歸根結底，你需要一個位於雲端的 AI，它能獲取可信的資訊，能夠給出好的回答，並能代表你採取行動，無論是在建構工作還是個人生活中，或許你會有多個實例，但從根本上講，它是一個單一的技術系統。Shane Parrish： 你認為我們將來會在太空中建立資料中心嗎？Greg Brockman： 我認為我們會在任何地方建立資料中心。Shane Parrish： 你認為距離實現這一點還有多遠？Greg Brockman： 在太空中建立資料中心涉及許多技術難題。例如，我們今天建構的資料中心非常嬌貴。它們就像巨大的機器，內部包含著非常脆弱且昂貴的元件。過去我們遇到過很多問題，比如線纜繃得太緊，字面上就是線纜過緊，導致了訊號完整性問題，進而使電腦無法正常工作。因此，目前如何維護這些系統，往往需要人工去進行物理操作，未來很可能會轉向機器人作業。所以我認為，在考慮將資料中心部署到各種嚴苛環境時，解決這些技術問題將是至關重要的前提條件。雖然太空看起來是一項巨大的挑戰，但我認為我們對計算能力的需求如此之大，以至於必須考慮所有的選擇。安全性與監管：如何走向 AGIShane Parrish： 什麼是迭代部署？為什麼要採取這種方式？Greg Brockman： 迭代部署是 OpenAI 實現技術惠及大眾並達成使命的核心支柱之一。雖然我可能是最先明確提出這兩個詞的人，但這種精神確實是在我們構思首個產品部署，並深入思考它與我們的目標有何關聯時自然形成的。你會意識到，在考慮建構能夠惠及人類的 AGI 時，可以採取兩條不同的路徑。Shane Parrish： 你是怎麼做到的？Greg Brockman： 一種方式是選擇秘密地進行開發。你不部署任何東西，你有大量的時間去打磨它、確保它完美，然後在某個時刻你按下按鈕宣佈部署。我記得當時在想，我能採用那種策略嗎？我能為那種策略負責嗎？你願意坐在房間裡思考：我們已經完成了所有測試，我們準備好部署了嗎？而且你之前從未部署過任何東西。那是你與現實的第一次接觸。而且這是一個將真正改變世界的強大系統。這是一個非常棘手的設定。但反過來，如果採用一種將此視為你第 100 個系統的方法會怎樣？在此之前，你已經不得不通過能力日益強大的系統來解決過 99 次這類問題。而世界也已經有機會適應它們，並圍繞它們進行重構。我們很早就從 GPT-3 中吸取了教訓。我們非常具體地看到了部署一個系統是什麼樣的——我們花了很多時間去思考 GPT-3 的所有濫用可能，以及它可能出錯的方式。我們考慮了虛假資訊。我們考慮了諸如此類的宏大圖景。Shane Parrish： GPT-3 最主要的濫用是什麼？Greg Brockman： 是醫療垃圾資訊，比如向人們推銷各種藥物，這並不是我們曾經認為會成為問題的事情，但當我們親眼目睹時，我們就有機會做出反應並從中學習。因此，迭代部署的理念是我們將引入該技術的中間版本。當然，這並不是盲目部署的藉口，你仍然需要在每一步都充分考慮我們對於所有可能被濫用的方式的最佳預判。Shane Parrish： 有那些負面影響？Greg Brockman： 有那些風險？讓我們去緩解這些風險。但你能夠觀察到它。你可以驗證自己的判斷是否正確，從現實中學習，並在下一次做得更好。Shane Parrish： 我認為人們沒有意識到這在多大程度上是全新的事物。沒有任何現成的行動指南。就像你一樣，我們也是在邊做邊摸索，而且這還是世界上部署速度最快的技術，大概沒有之一。這太強大了。Greg Brockman： 在 OpenAI 歷史上的不同階段，我們確實曾懷抱希望，認為總會有那些曾經部署過變革性技術的人。也許他們能告訴我們答案。但事情從來沒有那麼簡單。他們的確擁有智慧和見解。而且我認為我們確實已經汲取了這些智慧。但我們意識到，我們才是最瞭解這項技術的人。正因為我們創造了它，所以我們對如何塑造它有著深刻的理解。對於那些不夠深入瞭解這項技術的人來說，要對此發表意見或提出建議是很難的。我認為我的一個觀察是，正確的選擇極其依賴於具體的技術事實。或者說，手機、大型電腦、AI 以及電力等不同技術所施加的壓力各不相同。每一項技術都有其獨特的傾向性和問題。這些都是它們被開發的方式。參與其中的個體也很重要，不同人類之間的互動及其人為因素，對 AI 當今在我們眼前的發展方式產生了巨大的影響。我認為，從 OpenAI 創立之初，甚至在此之前，我們花了很多時間在做的事情，其實就是夢想。我們花了很多時間去認真思考我們所做之事可能帶來的所有影響。我認為我觀察到的一點是，對於沿途出現的一些關鍵時刻，我們並沒有真正感到驚訝。但我們對它們到來的時間、實現的難度，以及我們所觀察到的具體先後順序感到驚訝。我認為我們正在邁向的世界，在許多方面都比我們預想的更加美妙且令人驚嘆。Shane Parrish： 如果一個前沿模型將安全性視為首要考慮因素，而另一個前沿模型則不然，您如何看待這種競爭隨時間推移的演變？Greg Brockman： 我認為我們已經發現，安全性實際上是一項核心產品功能。畢竟，沒有人會想要一個與自己意圖不一致的模型，你想要的是一個值得信賴的模型，無論在什麼情況下，它都能做出正確的反應。因此，我們進行了投入。我想我們實際上在安全性方面的投入，可能遠超人們的認知，甚至可能超過了任何其他實驗室，我們在 ChatGPT 上擁有全球最廣泛的 AI 部署，這些語言模型被最多的人所使用。我們必須重視這一點。我們一直都很重視。但當你看到我們能夠將這項技術帶給如此多的人時，你確實會有所感觸。所以我認為，如果建構這項技術並擁有成功產品的人不全力投入安全保障，那麼這種狀態是無法持續的。我認為真正的挑戰在於如果你退後一步審視，因為交付安全性的某些方面並不一定只關乎短期。你不僅要為你的企業著想，還要為你所創造的事物進行長遠思考。其中一部分涉及如何訓練模型。另一部分則涉及如何建立反饋循環。但我只想說，我們致力於將安全作為使命的一部分，我認為這一點已經在我們的產品和現實世界中得到了體現。人們還忽略了一點，那就是這不僅僅關乎模型的安全性。這還關乎社會的韌性。如果你審視變革性技術是如何進入世界的，就會發現社會是圍繞這些技術的優勢和風險進行自我建構的。你會考慮引擎，你製造汽車，但同時也需要安全帶。你還需要修建道路，並重新規劃城市。圍繞著這項技術運作方式的事實來展開。你會考慮電力。你會有各種安全標準。你會有關於允許安裝電線杆位置的不同規定，還有高壓線以及所有這些設施。我認為 AI 也是如此。這不僅僅關乎技術本身。這不僅僅關乎模型本身。這實際上關乎他們如何融入到一個具有韌性的社會中。這也是我們正在大力投入的領域。OpenAI Foundation 將此作為其核心重點之一，旨在幫助社會投資並建構針對 AI 的韌性層。Shane Parrish： 你認為 AI 的監管應該是什麼樣的？Greg Brockman： 我認為 AI 監管需要實現的目標涵蓋了多個不同的方面。首先，我認為至關重要的一點是，我們最終必須確保這項技術造福於人類。當你思考諸如此類的問題時，情況已經非常明確了。即人們曾經認為穩定的機構、工作崗位乃至生活軌跡，這些前提假設可能不再適用了。因此，我們需要確保提供支援，並確保在技術推廣的過程中，我們都能彼此扶持。那麼，從監管的角度來看，這意味著什麼呢？我認為有很多想法，比如是否應該讓每個人都能獲得計算資源。我們要如何確保這一點屬實呢？我們要如何確保隨著這項技術開始產生更多經濟價值時，這些價值不會僅僅聚集在某一個地方，應該有一些切實能讓每個人都受益的事物。這項技術不應僅僅是抽象地造福經濟。它顯然會做到這一點。它應該直接成為人們在日常生活中能感受到的東西，讓他們覺得因為這項技術的存在、因為他們在通過使用它來完成更多成就，他們的生活變得更好了。我認為我所看到的這些發展方式，將其建立在我們真正所見的事實基礎上是非常重要的。例如，很多人表示他們或其摯愛的生命因使用 ChatGPT 而得救，這是一個很好的例子。你意識到這正是應該得到支援和保護的事情。因此，通過監管來實現這一目標的一個好例子，就是考慮隱私和特權問題。當你與醫生交談，或者與律師交談時。這些屬於享有特權的對話。你能夠放心地分享它們。對於醫療服務提供者何時必須將這些資訊提供給執法部門或向他人發出警示，法律是有明確約束機制的。這在法律中有明確的定義。目前，我們在 AI 領域還沒有類似的機制。但人們正在使用這些工具，而且他們應該使用這些工具，因為這些工具對於人們獲取原本無法獲得的資訊至關重要，同時他們也理應瞭解相應的保護措施。所以我認為，我們需要深入思考這些模型是如何融入人們生活的。我們如何在確保持續創新的同時，也確保其帶來的福祉能夠廣泛惠及大眾？我們該如何確保美國保持領先地位，比如在機器人技術方面，我認為我們目前並非處於領先地位。我認為對於 AI，我們必須確保繼續保持我們目前所取得的卓越地位。你考慮像資料中心這類事物時，會發現人們顯然對諸如“它們是否推高了電價？”這類問題存在許多擔憂。我們有責任確保它們不會產生這種情況。我認為每一項需求都可以通過多種不同的機制來實現。有時是通過監管。有時是通過公司的承諾。而有時僅僅是通過讓人們瞭解事實。一個很好的例子是資料中心和水資源消耗。這是一個人們討論得很多的話題。但實際上，我們的資料中心用水量極少，不是嗎？那實際上是他們經常使用的一種錯誤資訊。Shane Parrish： 它的用量比一個家庭用的還要少，不是嗎？Greg Brockman： 確實是這樣。因為它是一個閉環系統。你基本上是把一個巨大的，你可以把它想像成一個游泳池的水填滿。然後你只是讓它在內部循環。所以這是一個固定且總量並不大的水體。但我認為人們真正需要理解的是原因。為什麼我們要建造這些東西？為什麼這樣做是值得的？對我有什麼好處？能夠賦予人們這種賦能，無論是幫助他們感受到自己現在可以成為創業者，可以建立業務，還是可以創造出某些東西。這些都是我們必須解決的問題。我們必須確保人們在日常生活中能真切地感受到這一點。終章：不確定性與人類的未來Shane Parrish： 當我告訴別人我要進行這次採訪時，一種普遍的反應是他們對自己的工作和不確定性感到擔憂。你會對他們說什麼？Greg Brockman： 我確實認為這項技術充滿了不確定性。關於它究竟會如何演變。我認為它演變的方式也會令人驚訝。就像我們現在擁有的 AI 以及我們現在所處的世界，並非科幻小說所預見的那樣。這僅僅是不同而已。我認為，一些不可避免的結論在真正發生時，其實際樣貌往往與預期不盡相同。所以，我相信人們總是最容易看到自己失去了什麼，而變革即將來臨。這是不可避免的。事實絕對如此。但要在事發前預見你將獲得什麼，卻要困難得多。舉個例子，試想一下如果在 1950 年向某人描述 Uber 會是什麼樣。你必須考慮到電腦。你必須考慮到行動電話。你必須考慮到 GPS。而且，現在你還能在三分鐘內讓一輛車出現在你所在的位置。如果你思考一下這種用例背後的技術投入水平，這其實是非常瘋狂的。但它確實發生了。而且它不僅僅是發生在那一個用例中。它發生在成千上萬、數以百萬計的其他用例中。所以我認為，我對 AI 的看法是，它關乎賦能。它關乎人類的主觀能動性。這確實意味著，一些現有的機構、工作崗位以及類似的事物，原本我們認為可以依賴的東西，可能會變得不如我們想像中那麼穩定。因此，這將會對人們產生影響。但我們需要深入探討的問題是，你從中獲得了什麼，以及你如何從中受益？所以現在你可以成為一名建構者。你可以創造任何事物。任何你能想像到的事物都能成為現實。那麼，你想像到了什麼？你如何通過深入利用這項技術來培養那種能力？我觀察到的一點是，在這一技術的多個迭代周期中，那些似乎獲益最多的人，往往是之前就已經在應用該技術的人。因此，你越是磨煉這種能力，其核心就在於主觀能動性、願景和創意，因為現在嘗試這些創意的准入門檻比以往任何時候都要低。所以我認為將會創造出新的機遇。我認為世界確實需要思考，我們如何在這個充滿不確定性的時刻，以及在即將到來的任何變革中支援每一個人，因為未來的經濟將是計算驅動型經濟。它會變得不同，但我相信每個人都將有貢獻自己力量的空間。Shane Parrish： 如果現在身處高中、大學，或者剛剛步入職場，年輕人應該把投資重點放在那裡？你認為未來那些技能會變得更有價值？Greg Brockman： 我真的認為深入鑽研這項技術將是一項關鍵技能，真正理解如何從 AI 中獲得最大收益，因為我們都將邁向一個由我們擔任智能體管理者、甚至很快可能成為自主 AI 公司首席執行長的世界。或者試想一下，如果你擁有一個 10 萬人的公司規模的勞動力，全都聽命於你，為你效勞。全天候 24-7 運作，只要你有充足的 tokens 和算力來驅動它——我認為這再次強調了每個人都需要獲得算力，這對全世界來說是至關重要且必須解決的問題。因為到了那個階段，你可以將其指向任何問題。而人類想要解決的問題數量是無限的。所以我認為，人們越是深入研究這項技術，越能弄清楚如何利用即將到來的變革，如何以創新的方式組合這些技術，如何與自己的智能體互動以進行有效管理，並深入思考：我想要什麼？我的自我意識是什麼？我的目標是什麼？我希望在這個世界上看到什麼？實現這些目標的難度將比以往任何時候都要低。我認為那個世界，連同我們將獲得的收益，其發展前景幾乎是難以想像的。Shane Parrish： 這是對未來最積極的一種看法。你能想像到的最消極的情況是什麼？Greg Brockman： 關於科技發展至今的一個非常有趣的現像是，它實際上一直是關於我們如何扭曲自身以適應機器。試想一下，有多少人每天坐在那個盒子前不停敲打，患上腕管綜合徵，肩膀也變得佝僂，所有這些其實都不符合我們的自然生理狀態，那並不是我們被設計出來的初衷。而我們正邁向這樣一個世界：不再僅僅是你通過電腦進行工作，而是電腦實際上在為你完成工作。這是一件事物，它帶來了機遇。我認為它也帶來了風險。我認為我們需要設法降低這些風險。歸根結底，核心問題在於，如果你擁有的機器能夠幫助人們實現他們的目標——也就是在外界按你的意願行事——但有時人們的目標會相互衝突，你該如何解決這種衝突？你如何確定 AI 協助的邊界在那裡？我們真正試圖搞清楚的是，這項技術如何融入社會，以及如何確保其收益不僅流向一家公司或一小部分人，而是真正惠及所有人。我們需要提高底線，讓每個人都能享有高品質的生活和這項技術，並有能力利用它去實現目標。我認為，這相應地也會提升發展的上限。因此，我認為我們將進入一個每個人都擁有新機遇的世界。這不僅關乎社會安全網，更關乎如何確保每個人都能在發展處理程序中不掉隊。屆時，我們將能夠成就更多偉大的事業。比如，你可以思考一下醫療服務的普及問題。如果我們能把工作做好，我們就應該進入這樣一個世界：每個人都能獲得醫療服務，就像口袋裡隨時揣著一名醫生。這名醫生的水平超過當今任何醫療團隊，甚至是世界上最好的醫生。他們隨叫隨到，關心你的狀況，真正閱讀你的病歷，並且全天候思考如何有效改善你的健康狀況。這具有顛覆性，這種技術將如何與世界互動，這不會是免費得來的。我們已經目睹了它的初期階段。但我認為，僅在接下來的兩年裡，我們將看到的不僅是它作為一種向善的力量，我們還必須承認它可能出錯的所有方式以及它所帶來的風險，以便實現那些積極的成果。Shane Parrish： 我們總是以同一個問題結束每一期播客，那就是：對你而言，什麼是成功？Greg Brockman： 實現 OpenAI 的使命，即確保通用人工智慧造福全人類。非常感謝。Shane Parrish： 這太棒了。這是一次很棒的對話，夥計。謝謝。Greg Brockman： 我度過了一段愉快的時光。 (Web3天空之城)