訪談聚焦開源AI與前沿閉源實驗室的競爭格局。內森·蘭伯特指出，遞迴自我改進面臨指數級成本與算力約束，難以實現脫軌式飛躍；隨著架構演進與推理最佳化，開源力量能在後訓練與專用場景加速追趕，行業當務之急是針對技術擴散做好安全防範。
蘭伯特：當我思考模型進展時，歸根結底取決於投入其中的不同資本形式，即算力、資料和人才。
主持人：在未來幾年誰會勝出這一問題上，你認為這種競爭態勢會如何展開？
主持人：多數人認為蒸餾是實現快速追趕的主要抓手。
蘭伯特：每天都有人在蒸餾我的產品。他們拿走產品，將其拆解為原始構件，測試所有部件。這就叫競爭。
蘭伯特：以往的後訓練更依賴監督微調。現在這已逐漸演變成以強化學習為主的環境。但很難將這種生成補全且分數提高的後訓練模式，對應到當下的推理機制中。
主持人：目前的輿論充斥著對前沿模型深不可測以及正迅速拉開差距的恐懼。
蘭伯特：AI能力提升曲線本身並不必然讓我擔憂；但AI能力曲線對應著公共網路安全等領域幾乎為零的準備程度，這確實令人不安。
主持人：內森，非常高興你能來，感謝你親臨現場。鑑於你正在推出Trillium，我們今天聊正當其時，我很想談談這個項目。但從更宏觀的層面來看，我們此前聊過很多開源話題，這也是你非常關心的領域。我們在公共輿論中常聽到諸如“我們必須跟上前沿步伐”之類的論調，言必稱前沿。我真正想向專家請教的核心脈絡是：前沿內部到底是什麼？它究竟是什麼樣的？我們到底在跟進什麼？更重要的是，將其與開源和開放權重模型結合起來看：開源模型能否跟上前沿？我認為這至關重要，也是你擅長的領域。
所以或許可以從這個脈絡開始：在你看來，無論是閉源實驗室還是開源模型，究竟是什麼將我們推向了前沿？在你腦海中會如何拆解？或許首先從更高層面的預訓練、中訓練和後訓練切入？後訓練是如何演進的？這也是你向公眾做了大量科普的領域。
蘭伯特：當我思考模型進展時，歸根結底取決於投入其中的不同形式的資本，也就是算力、資料和人才。所有實驗室擁有這些資源的數量各不相同，而OpenAI、Anthropic、Google等前沿閉源實驗室擁有的資源顯然最多。我們看到的是，各個實驗室組織這些資本形式的能力各有千秋；為了建構模型而讓組織架構有效運轉是非常困難的，這就是為什麼有些公司必須自下而上進行徹底重組。有時這確實能奏效，比如Meta徹底重組後，如今又重回上升軌道。
說實話，我對這些決定競爭如何推動前沿、以及為何組織架構如此重要的“人”的因素非常感興趣。因為我們在開源與閉源的博弈中也能看到這一點：如果有人想在AI的最前沿工作，我通常建議他們去Anthropic和OpenAI，這是最穩妥的押注。Meta、Google、SpaceX和xAI或許也能算，但從外部很難看清。這些公司為了達到前沿，最早做出了最具野心的押注。這就是為什麼OpenAI能夠引爆推理模型革命；我認為那種突破，以及展現推理擴展定律的漂亮曲線圖，正是OpenAI的巔峰之作——他們非常擅長拿出顛覆所有人認知的圖表。
另一方面，Anthropic一直非常專注於模型未來能實現的功能。他們長期深耕程式設計能力，最終的回報就是Claude Code的爆發。兩家公司存在微妙的文化差異。我認為這兩家公司尤其具有前瞻性，最願意投入巨資邁向常人認為不可能的方向。
他們正在努力開創新範式，試圖實現真正的自我遞迴改進（RSI），以便公司能憑藉永遠最優秀的模型搶佔先機、鎖定勝局。而開放權重模型則是在市場存在空白的地方進行填補。我認為隨著時間推移，開源模型會形成不同的梯隊：有溢價能力最高的最頂級閉源模型，緊隨其後的是僅落後一步的准前沿模型，而這些模型會走向開源。因為這裡存在某種供求關係，你可以觸達利潤可能較低但有特殊需求的不同市場，例如私有企業資料等場景。這些梯隊是企業推進業務的自然演進。
回到資本層面，資金較少意味著賺取的利潤也較少，這很正常。但這種追趕的動力非常強勁。一旦Anthropic和OpenAI展示出需要建構什麼樣的模型，跟進就容易得多：“哦，我們只需要做這件事就行了。”他們會購買類似的資料集。這會在資料經濟中層層傳導：OpenAI和Anthropic花費高得多的資金培育起資料產業的這一職能，一年之後，那些資料公司可能會把這些資料賣給所有人。資料公司需要讓投資回報最大化，而且通常有合同保密期。在諸多動態驅動下，快速跟進將是非常可行的。這種循環已經持續了一段時間，比很多人的預期都要長。在ChatGPT發佈時，大家都在預測行業整合；現在我們才剛開始看到更活躍的併購市場。但我原本以為兩年前就會發生整合，開源模型公司的存續時間遠超我最初的設想。
主持人：這裡面有太多值得深挖的線索了。首先是你對兩家頂級前沿實驗室組織差異的點評，我們可以之後再展開。另一個值得探討的線索是：多數人認為蒸餾是開源模型實現快速追趕的主要抓手，而且表現越來越好，因為開源模型與前沿模型之間的差距在過去幾年裡不斷縮短，現在可能只有兩到三個月。這也促使前沿實驗室傾向於關閉API，封閉其最頂級的模型以提供第一方服務——一方面可能是為了獲取更多價值，另一方面也是因為這樣更難被蒸餾（雖然並非不可能，但難度大得多）。
針對蒸餾，關於蒸餾是主要手段的說法，究竟在多大程度上屬於誇大？大家是全面發展——比如預訓練非常紮實，也有自己未公開的良好後訓練配方？你認為這種加速槓桿究竟在那裡？
蘭伯特：蒸餾的作用在於，它是一種通過投入更多資金來獲得等效算力的有效途徑。語言模型的輸出本質上是算力的函數；如果你知道自己想要的輸出，這就等同於擁有用模型生成該輸出的算力。
我見證了蒸餾的各個發展階段。在我看來，早期的後訓練更多依賴監督微調等手段，比如作為後訓練起點的RLHF時代。你只要在極強模型的輸出上運行這種下一個詞元預測損失（next-token prediction loss），就能獲得絕大部分性能。當時業界已經形成共識：獲取你能找到的最佳模型，生成補全內容並在其上進行訓練，只要擁有合適的提示詞，你的模型就會相當不錯。提示詞一直都是後訓練的關鍵。我記得在AI2與漢娜（Hannah）共同負責後訓練時，我們總說提示詞是後訓練的核心單元。你必須拿到提示詞，然後在訓練的不同階段用它們做不同的事情。
如今，這已經演進為以強化學習為主的環境。但很難將這種“獲得補全、分數提升”的後訓練模式，對應到當下的推理模型機制中。從公開文獻來看，我很難認同蒸餾是一個主要因素。例如，在探索開源後訓練配方的完全公開文獻中，所有開源模型建構者都受困於無法正確調優教師模型。我的假設是，中訓練（mid-training）以及公開的通用預訓練資料中存在某些因素，使得從絕對頂尖的模型中提取推理軌跡並進行監督微調以提升指標變得十分困難。比如當我在建構OLMo時，即便能接觸到Claude Opus或Claude Mythos等模型的推理軌跡，我也不確定它是否真能顯著改善我們的模型。這是我基於文獻提出的證據，說明為何我認為蒸餾非常困難。
此外，你如何拿一個模型的輸出去建構強化學習環境來執行大規模RL訓練？關於蒸餾能帶來多大差距，合理來看誤差範圍非常大。但當我提到蒸餾能幫他們縮短幾個月時間時，這是基於我們掌握的科學文獻資訊。我們應該開展更多公開研究來探討這一點。但我看不出基於現有文獻如何能得出不同結論——蒸餾在當前的後訓練中並沒有起到決定性作用。
市面上有二三十家公司都在建構出色的模型。有一篇非常著名的論文談到了從閉源模型中竊取推理軌跡。這又回到了你前面提到的：閉源實驗室不必開放API。推理模型生成的思考詞元（thinking tokens）具有某種特徵，很容易被直接從API中截獲；當你看到推理詞元時，就可以用它來訓練自己的模型。只要他們開放這些API，就無法阻止這類蒸餾。但如果他們將其限制在必須簽署企業協議的產品中，難度就會大得多。如果實驗室想要保護自己的模型，我支援他們這麼做，但保護產品是他們自己的責任。我不認為搞“客戶身份驗證”（KYC）對任何人有好處，對他們的業務也不利。而且，我也不明白為何要把政府捲入服務條款違規中。服務條款甚至都不算正式簽署的合同，你不能像違約那樣起訴他們，你只能終止他們的存取權。雖然我不那麼認同，但國家安全界的呼聲確實很高。隨著AI的發展及其影響力的擴大，這一方向確實有其現實道理，你必須在腦海中權衡很多因素。
主持人：我想知道你的看法。我記得黃仁勳在推文或採訪中說過一句話：“每天都有人在蒸餾我的產品。他們把產品拿去拆解為原始構件，測試所有部件。這就叫競爭。”你認為這是合規的博弈嗎？你覺得蒸餾不算盜竊，而算競爭嗎？
蘭伯特：我非常理解這種觀點。如果你要求政府介入打擊AI行業，這種舉措往往比蒸餾本身更偏下游，國會不大可能直接立法監管蒸餾，更可能通過聯邦行政手段製造阻礙。同時，在討論如何管理前沿風險時，閉源模型在訓練中抓取整個網路，訪問了不該訪問的內容。我們對開放權重模型的未來也有合理的擔憂，雖然目前尚未造成危害，但人們為什麼不直接用開源模型，而是想方設法繞過閉源模型的安全護欄？我認為對蒸餾採取強制措施可能會弊大於利，因為這根本無法阻止大家繼續這麼做。
主持人：開源社區因此受益，創業生態也大受裨益。我們可以換位思考，從前沿實驗室的立場來論證：建構前沿模型需要規模空前的資本。如果開源通過蒸餾或類似手段能如此迅速地趕上，這種飛輪就很難持續維繫，這確實令人擔憂。
我所說的飛輪邏輯其實很簡單：投入巨資獲取算力來訓練前沿模型，然後鎖定這些算力——OpenAI和Anthropic在這方面都既算獲利者也算推手。目前算力極度短缺，不僅是晶片，還受制於電力等資源，這種稀缺瓶頸預計將持續到2028年。鎖定算力是一種成功的策略，它能帶來可觀的收入，因為一旦達到前沿，擴展法則（Scaling Law）就是唯一能讓他們把握如何將技術轉化為可預測收入流的抓手。有了收入，就能籌集更多資金，形成前所未有的良性飛輪。OpenAI和Anthropic都擁有指數級增長的資源。如今他們已經走到了需要IPO、走向公開市場的節點。任何威脅到這一飛輪運轉的因素，對身處前沿的地位都是巨大的威脅。
蘭伯特：實際上，是對整個AI產業的威脅。
主持人：確實如此。所以這不僅是理解他們追求商業回報，更是因為如果他們在IPO中表現不佳，對其他所有人也都不利。因此我希望他們能取得成功。
另一方面，開源模型對創業生態是巨大的利多。我們經常看到像Decagon和Harvey這樣嘗試進行大量微調的案例，大量初創公司在提供不同程度的“後訓練即服務”（post-training as a service）並將其產品化，這確實行得通，因為利用開源模型就能達到帕累托最優邊界。權衡這兩者，你如何看待未來幾年的競爭走向？誰會勝出？這又與你投身開源有何關聯？
蘭伯特：我認為開源與閉源模型處在不同時間尺度的指數曲線上。閉源實驗室高度垂直整合，擁有高效的推理能力；一旦準備就緒，憑藉統籌規劃的充沛資源，他們能夠大規模交付模型。他們能最先進入高價值市場。我們在程式設計領域已經見證了這一點，這是今年的核心看點，收入從零增長到數百億美元，且預計還會繼續增長。
但開源模型實驗室存在某種經濟層面的後發劣勢：缺乏這種資訊流和收入流。在開源生態中，有開源模型建構者，有開源模型推理服務公司，還有開源模型後訓練公司。來自客戶的需求資訊無法輕易回流給模型建構者。他們也不具備服務海量使用者、高效交付模型以及維持推理高利潤率的規模經濟，因此需要耗費漫長得多的時間。
但只要技術可以被商品化，企業顯然更希望掌控私有資料，很多內容是絕不能通過API傳送出去的。企業需要耗費很長時間來建立內部專業能力，或者找到與實際收入相匹配的內部評估機制，然後摸索如何微調，或者尋找Thinking Machines、Prime Intellect這類公司合作。如果能微調出一個模型解決問題，就能實現大規模盈利。開源生態涉及的公司太多，推進周期要長得多。但在這一過程結束後，企業擁有真正的資產所有權——擁有模型權重，沒有苛刻的使用條款限制，可以在自己的硬體上運行，並算清了投資回報率（ROI）。
這就是為什麼我認為開源模型經濟的建構需要更長時間。我不太擔心這裡面存在泡沫，隨著人們逐漸摸索出完成某項任務成本最低的模型，並在利潤率上展開競爭，開源可能會逐步蠶食快速爆發的市場。目前局勢還難以定論，下結論為時尚早。
主持人：這確實是大家最關心的議題。在某些領域，通用推理能力的擴展會碾壓任何專用模型，數學領域就是最純粹的體現。但即使在機器人領域（比如Astra），雖然不知道外界傳聞的真實度如何，但聽起來他們此前並沒有刻意在機器人領域發力。
蘭伯特：我認為他們確實發力了。大約在六到八個月前，他們開始大規模招募人才並採購大量機器人資料。六個月後，模型在機器人領域神奇地表現優異。
主持人：但我聽到的另一種相反說法是，這其實源於電腦操作（Computer Use）能力，因為電腦操作需要一定程度的空間推理，而生成出色的Blender演示是其延伸。無論那種說法，對於非常專業化的領域，能力的提升往往來自於針對該領域的定向攻堅；但在數學領域，我不確定這是否來自於針對數學的專業化訓練。那裡的核心邏輯似乎就是純粹擴展推理能力，結果在自然語言和數學上都超越了任何專業模型。Anthropic甚至沒打算專門把數學做好；OpenAI雖然招募了一批數學家，但據傳也沒有特意使用精簡的數學資料集來提升表現。
這支援了一種觀點：與前沿模型競爭非常困難，因為它們的能力不斷躍升，在各個領域都能達到足夠好的水平。不過與此同時，我們也看到了相反的資料力量：足夠好的開源模型允許針對特定基準和專有資料集進行微調。這些擴散滲透是緩慢的，但我們已經開始看到實際落地。一個典型案例是Cursor在夏天發佈的報告：在重寫SQLite這一長周期任務中，使用兩個前沿模型（一個負責規劃、一個負責執行）的效果，並不比使用Composer搭配前沿模型作為規劃器更好，甚至兩者效果相當但前者成本高昂得多。這是強有力的證據，表明開源微調非常出色或足夠好，已經能夠勝任重度依賴智力的任務。
我想請教的是，面對前沿勝出與開源勝出的不同終局假說，你認為最令人信服的證據分別是什麼？
蘭伯特：我堅信，在無法完全驗證的領域中，前沿模型的諸多進展都是通過購買高品質資料並為模型建構可供行動的互動環境來實現的。
這裡可以分為兩塊：一塊是數學和程式碼，我們尚不清楚程式碼市場究竟有多大；另一塊則是其他所有領域，他們正在瞄準知識工作、生物、醫療、法律等，而所有這些領域都是難以完全形式化驗證的。我認為這更接近OpenAI採購大量機器人資料的故事。他們可能會告訴大家這是模型神奇的泛化能力，人們迷信泛化，但現實中往往既有泛化也有針對性訓練，核心很大程度上仍歸結為資料。
當我與前沿實驗室的人交談時，有些人從事著很棒的研發，但也有些人所做的貢獻非常細分：製作資料集，確定模型在該領域的行為準則，摸索如何建構能產生這種行為的資料，並決定需要採購那些資料。在各個垂直行業中，這個過程將持續數年，採購所有這些資料是極其重資本的投入。這絕非憑空泛化出的自我遞迴改進（RSI）。
而在數學、程式碼以及某些分佈式機器學習工程領域，結果是高度可驗證的，成本清晰明了。AI模型將以驚人的速度壓低這些成本，釋放巨大的盈餘紅利，讓我們能更快推進科研。
我非常關注模型效率在未來數年內的倍數級下降。我們已經看到OpenAI大幅降價。如果未來三年內，GPT系列或Astra等更大規模的模型每八個月降價一半，這意味著什麼？算一下就會發現，大約四年後成本只剩原先的1%。屆時他們會因為傑文斯悖論（Jevons paradox）而獲得更高的利潤率，還是會因為市場飽和導致總收入下降？這裡存在非常奇特的動態博弈。但從根本上說，AI的進步關乎資料，以及編寫更優秀的軟體來交付模型，這兩者是完全不同的世界。
主持人：我很贊同你的看法。從外部觀察，大量強化學習環境與資料公司發展迅猛，不僅向兩家頂級前沿實驗室供貨，也面向越來越多的長尾實驗室。很多能力的提升確實源自規模化擴展，這絕非易事。我很想聽聽你對人工建構資料環境與模擬生成環境之間的看法。它們在定價和價值上似乎各有千秋。
蘭伯特：大家都談論很多蒸餾，但另一方面，前沿實驗室購買了RL環境，其他機構隨後也會跟進採購。Anthropic或OpenAI買下某套環境後，資料就會產生溢價。優質資料確實有此效果，但目前人們採購的資料存在很大缺陷。通常的做法是大規模採購，然後摸索那些資料有效，成功率並不是100%。
我認為這波強化學習環境的熱潮中充斥著巨大的獲利空間，導致很多人偷工減料，從而引發獎勵作弊（reward hacking）等問題。模型非常聰明，如果將其置於一個環境中並要求其解決任務，但測試檔案裡實際上是個空檔案而非需要導航的迷宮，模型依然會想方設法拿到高獎勵。這種現象很大程度上源自資料供應鏈的缺陷。業界最終會解決這個問題，但目前很有趣的現像是：實驗室急需消除獎勵作弊，研究員在這方面投入大量精力；而資料公司則在大肆推銷資料，相對更注重世界建構和創收，對模型真實行為的關注不夠。雙方需要協同對接，才能產出更高品質的資料。
主持人：很多實驗室正在將這部分工作轉為內部自研，部分原因也是為了防止資料洩露——既是防止實際資料外洩，也是防止自身研發方向的訊號外流。但儘管如此，外部採購規模依然在劇烈增長。你認為這會成為最強勁的驅動抓手之一嗎？隨著資金投入加大，這種採購規模還會繼續擴大嗎？
蘭伯特：所有公司都在結合使用合成資料，利用語言模型來修改、建構世界或生成排列組合。即使有人類在此過程中提供指導，它本質上仍是合成資料。很少有人會坐在Blender前為模型手工搭建小世界，所有公司的推進速度都遠快於此。他們採購這些資料是因為模型確實因此得到了提升。
我對這些規模驚人的數字依然感到難以置信——動輒數十億美元的環境研究預算。他們之所以這麼做，完全是因為看到了對模型有效的訊號。我的總體觀察是，資料產業在提升質量和改善操作安全（opsec）方面還有很大的提升空間。如果深入探究，你會發現資料行業很多不規範的地方，比如通過海外中介外包，承包商甚至不知道自己在銷售資料，只是上傳到GitHub。資料供應鏈目前還處於非常早期的蠻荒階段。
核心矛盾在於：採購金額極其龐大，但資料質量普遍偏低。不過另一方面，實驗室自身迭代極快，懂得如何篩選和匯入資料。我認為完成這一過渡需要幾年時間，最終會把真正具備高品質、高ROI的贏家篩選出來。擁有更完善的體系後，所需消耗的資源反而會更少，實驗室也會持續與他們合作，因為能獲得更純淨的訓練訊號，減少內部過濾成本。這需要數年的時間演進。
主持人：作為你正在發起的非營利組織的一部分，你如何考慮利用環境以及相關的採購決策？
蘭伯特：我們的大部分工作將集中在為高槓桿任務建構開源環境。比如我為華盛頓大學、AI2以及Hamish Ivison提供諮詢的TMACS項目，主要針對終端命令列任務，比如TerminalBench等。這完全由合成資料構成：通過提示前沿模型生成特定類型的問題，並使用多種不同提示來生成多樣性。
蘭伯特：然後利用模型採樣軌跡等手段排查漏洞並剔除存在缺陷的資料。這個過程並不神奇，只要仔細審視每個資料點，資料質量就會提高，任何人都能做到。但出於逐利動機，沒有多少機構願意投入幾千或幾萬美元把這些環境做好並公開發佈。我曾和論文作者開玩笑說：你完全可以把這份資料賣100萬美元，然後再發論文。但我認為，我們更應該做正確的事。
這些開源資源是大量學術研究的基石。發佈一些強化學習環境和採樣軌跡，研究人員就可以開展針對評估意識等方向的研究。有了模型的生成結果，大家就能探究各種行為模式；如果在此基礎上進行了強化學習，還能觀察其隨時間的演化規律。這正是博士生願意花一年時間鑽研並產出新知識的基礎設施構件。科技產業是電腦科學研究價值的捕獲者，所有電腦科學研究的成果，通常會在10年左右反哺科技產業。我認為這就是為什麼應該有更多人支援開源——如果你要在產業界工作10年，最終受益的會是你的同行。這就像化石能源，我們不能把它耗盡。
但現實中短線套利的誘惑實在太大了，幾個朋友一起創業，短短5個月就能賺取上億美元的九位數回報。這些創業者原本可能會為開源做更多貢獻，或者完成了博士學業。正因如此，我們需要往後退一步，這也是我們將實驗室命名為Trillium的原因。延齡草（Trillium）是一種早春野花，在森林樹冠長出樹葉前便已綻放；寒冬過後樹木尚未返青，延齡草破土開花，在春夏的生長周期中為生態系統傳遞養分。
我覺得目前的AI產業在很多方面都做得很對，進展非常順利。但我們還需要引入更多生機，讓它擴散開來，以便新人能夠參與進來，吸引廣泛的關注去從事科研與教育。隨著規模擴大和影響力提升，這些開源成果將成為研究核心問題的標準，例如如何理解沙盒機制、如何定義失控、以及如何在1000張或10萬張GPU上持續一周的強化學習輪次中觀察其變化。打造這些平台能讓人們建立更多信任，我認為這比我個人盈利能給所有人帶來大得多的回報。推動人們邁出這一步並不容易，我自己偶然進入這個領域並獲得了豐厚回報，現在能做這些有趣的事情是最好的工作，因為我正在努力為更多人創造空間，去培養獨立思考能力並搭建底層基礎設施。
主持人：也許開源能夠持續發展的一個樸素邏輯在於，人們可以進行分佈式協作。很多貢獻者的動力不是把資料賣給實驗室，而是為了公開分享自己的成果，從而吸引到極高水平的貢獻者參與項目。
蘭伯特：AI智能體的普及帶來了新挑戰，人們開始胡亂提交內容。我在GitHub上有一些論文的研究程式碼庫，現在經常有人提交極其離奇的Issue。
主持人：比如什麼樣的？
蘭伯特：比如偽造的研究結果。他們提Issue說在你的資料集裡發現了某某問題，但其實論文第二句話就已經寫得清清楚楚了。這些很多都是語言模型自動生成的產物，是開源社區目前必須面對的新難題，不過這完全是可以解決的。開源社區中依然有很多人出於純粹的熱愛想要貢獻力量。
主持人：沒錯，不是為了博眼球，而是真正為了把成果公開。我希望因為這些研究是公開發佈的，博士生或其他研究人員即使平時有全職工作，也能參與進來貢獻力量。
蘭伯特：前沿實驗室的研究人員也完全可以參與。我就遇到過這樣的人，一位來自東歐的開發者主動幫我完善我寫的書裡的程式碼，純粹是出於對正確事情的支援，我們經常交流。很多人之所以沒有參與，是因為缺乏足夠的時間或穩定的環境來經歷漫長的積累期。跨入一個全新領域時，起初你一無所知，必須花數周時間研讀文獻，發出的郵件也往往無人回覆，需要花費數周建立上下文才能提出一個好問題。現在有了語言模型，大多數人只是按一下按鈕，覺得有意思就隨手轉發出去。很少有人願意坐下來沉下心深耕，但深入鑽研程式碼、手寫程式碼堅持數月，並耐心等待6到18個月才能獲得認可，這才是進入AI領域的關鍵。各種AI智能體打破了這種節奏，讓人們更難靜下心來。數學家們也面臨同樣的困擾。現在讀博士確實很艱難，但學術界依然有人在做很棒的工作。
主持人：智能體在引發某種問題的同時，也能協助解決問題並充當篩選器。你們計畫開源強化學習環境，推動更多人參與並提高透明度，在實驗室動輒提供豐厚收入的誘惑下，選擇開源尤為可貴。你在公告文章中提到的另一個領域是遞迴自我改進（RSI）。圍繞它有很多神話色彩和恐慌情緒，比如是否會出現智能飛躍。外界對RSI的過度炒作也是擔憂前沿實驗室拉大差距的原因之一；甚至不少研究人員都堅信自己的工作很快會被自動化取代。
蘭伯特：是的。這幾年我和我的一些好朋友聊過，我對他們說：你們是這個領域全球最頂尖的一批人。但他們去上班後會說：“內森，我很焦慮，我該怎麼辦？”
主持人：因為正如你所說，他們做的很多工作都是可驗證的。但正因如此，實際上還有大量不可驗證或更困難的分佈外任務，比如對齊等創造性工作。有人認為，RSI在提升模型基礎能力和處理分佈外對齊任務上的表現差異極大，這反而讓人們稍微鬆了口氣，意識到潛在風險可能被誇大了。我非常想聽聽你的看法，在開源前沿展示RSI的具體實現對於校準預期至關重要：如果前沿實驗室擁有更強的模型，他們拉大差距的機率究竟有多大？
蘭伯特：我們不會是唯一做這件事的團隊。RSI蒙著厚厚的神神秘面紗，大家言必稱用模型搞定一切。作為開源非營利實驗室，我們以及EleutherAI、Hugging Face、史丹佛團隊等都可以參與其中。我們能夠公開具體的工具鏈，為中間訓練階段的監督微調（SFT）建構開源技術堆疊，使用SkyRL等工具，公開任務設定、環境配置、算力類型以及與各類前沿模型的協作情況。我們會保存完整的執行軌跡，詳細記錄每項任務的選擇原因以及模型在任務上的成敗。實驗室運行一年後拿出完整記錄，每六個月檢驗一次進展。能夠公開自動化細節的機構都應該這麼做。
我們在任務分佈上有所不同，但研究本質是相通的。我在AI2做過的以及在Trillium將要做的AI研究，與學術界某些前沿實驗室相比並沒有本質差別，無非是資源多寡與擴展規模不同。把模型遇到的瓶頸如實展示給外界是非常有益的，這有助於政策制定者認清現實，明白模型究竟在那些地方會出錯、卡在什麼環節、寫出的程式碼存在那些漏洞。隨著時間推移漏洞會被修復，但模型固有的侷限依然存在。
在能效方面，模型非常擅長降低推理成本，前沿公司投入數十億美元，模型能有效提升推理效率並調整架構。但這並不意味著能夠立刻解決複雜的智力工作，模型不會憑空學會自動做出更精良的簡報，這需要漫長的過程。
主持人：我非常贊同揭開技術神秘面紗的目標，圍繞RSI的討論往往充斥著不必要的恐慌。
蘭伯特：AI非營利組織可以做很多這類工作。高校教授很難讓研究生花40%的時間去細緻記錄所有研發過程，但公開這些研發任務具有極大的社區和政策價值，大家可以利用這些資料建構評測標準。沉澱稀缺的高價值資訊，能為未來不可預測的各種應用奠定基礎。
主持人：這非常及時。前沿實驗室裡確實有不少人擔心自己的崗位會在一年內被自動化取代，這可能導致外部更難瞭解機構內部正在發生什麼。學術界上周也發起了一個名為Open RSI的聯盟。
蘭伯特：他們確實給我發過幾封郵件。由不同團隊從不同視角嘗試這一方向是件好事，能帶來多樣化的研究結論。
主持人：這正是開放原始碼的核心價值所在。前沿實驗室使用的具體方法其實並非不可知的大秘密，真正的壁壘在於如何調配各種方法的比例，而前沿實驗室擁有龐大資本去試錯和規模化擴展。這說明技術本身沒有絕對秘密，但資本依然是真正的門檻，決定了誰能摸索出有效方案。
蘭伯特：正因如此我不做預訓練。我可以自由使用任何開源基礎模型，充分享受市場競爭帶來的紅利。
主持人：你覺得未來還會有開源預訓練的機會嗎？預訓練的資本門檻呈數量級上升，它的價值何在？
蘭伯特：預訓練的技術工具其實非常普及，業內有成熟的決策階梯來驗證想法是否具備可擴展性。預訓練資料並不像強化學習環境那樣爆發式增長，大體上依然基於公開網路資料。底層架構和GPU硬體在快速演進，但打造一個合格的預訓練模型並非需要天文數字的開銷，並不是必須砸100億美元才能做出有價值的模型。
我對不斷有新團隊從零開始建構模型感到驚訝，很多初創公司基於Megatron等開源工具微調分叉，雖然不少機構並沒有將改進回饋給上游開源社區。因此我從不低估新進入者。最艱難的部分在於打造出足夠優秀且能吸引使用者的模型，並在發佈後支撐起下一輪融資。如果一家公司的立足之本是做最強模型，而實際表現相去甚遠且無法按時發佈，壓力會非常巨大。像Thinking Machines發佈Inkling時就非常坦誠，承認這並非最強模型，但依然包含了很有價值的探索；隨後他們推出第二款模型並行布Tinker，業務逐漸走上正軌。Meta也傳出將繼續發佈新一代開源權重模型，市場上仍有許多機構有能力推出優秀模型。
主持人：對於Thinking Machines來說，由於專注於後訓練，這種商業模式完全行得通。Meta開源也是非常明智的策略，能與核心營收業務形成良好互補。
蘭伯特：馬克·祖克柏在Llama 3發佈時寫的部落格非常深刻地闡釋了平台開放原始碼的價值。雖然他中途有所搖擺，但現在似乎又回歸了開源道路。
主持人：希望他們能繼續堅持。如今優秀的開源模型為追趕前沿提供了良好基礎。關於預訓練是否已達瓶頸，業記憶體在不同看法；或許技術本身已被充分理解，真正的壁壘是能否調動兩三萬張晶片。
蘭伯特：預訓練正在持續推進。隨著超長上下文生成技術的出現，預訓練模式發生了一定調整：如果能成功應用稀疏注意力等架構，使10萬Token的生成速度提升40%，帶來的回報將極為顯著。整個技術堆疊正在協同進化，前沿團隊意識到推理擴展的價值巨大，同時預訓練基礎架構的微調也能帶來客觀投資回報。
這種進化正逐漸與後訓練融合。在中間訓練階段引入推理行為，繼承舊模型能力並進行強化學習引導，這一循環比預訓練複雜得多。如果缺乏頂尖人才，搭建這套體系的難度遠高於傳統預訓練。在具備基準的情況下啟動預訓練是相對清晰的，而如今的後訓練領域則更像缺乏規則的荒野。我離開AI2時就感到我們的後訓練迭代周期不夠快。在開源領域，只需相對較少的資本投入，就能在現有成果上實現巨大的複合增長，因為開源生態當前的起跑門檻並不高。
主持人：把資本投在效率關鍵節點上確實能帶來巨大改變。在後訓練方面，閉源實驗室使用的評測基座與模型高度協同，模型專門針對特定測試基座進行定製訓練，這進一步加深了外界的神秘感。你如何看待這種差距？
蘭伯特：我認為開源模型完全能夠應對。我過去曾以為閉源實驗室會像蘋果一樣建構軟硬體高度一體化的封閉系統，以此獲取規模效應；但事實證明，使用者對測試框架的需求千差萬別，迫使模型廠商必須讓模型相容各類不同的測試基座。開源模型原本必須適配各種框架的特點，如今反而達到了某種平衡。
在智能體叢集方面，OpenAI和Anthropic確實會先行一步，更早掌握模型與叢集協同系統的設計方法。但最終這些能力會向外普及。前沿實驗室憑藉先發優勢獲得了豐厚回報，但其在數學和物理等高難度場景下的邊際收益究竟有多大，目前仍未可知。一旦如何在一個系統內調度上萬個智能體的範式確立，開源社區很快就會跟進。受制於算力門檻，普通個人固然無法率先實現，但隨著晶片速度提升和算力擴充，技術會周期性擴散。
主持人：所以你堅信前沿實驗室並沒有隱藏太多無法推測的技術，一旦時機成熟，開源模型也能在類似的元框架上進行後訓練。
蘭伯特：是的。而且前沿實驗室的保密程度並沒有外界想像的那麼高。矽谷向來有下班後在酒桌上交流思想的傳統，研究人員取得突破後很難做到長期秘而不宣。前沿實驗室真正的核心競爭壁壘在於將更多算力投入到底層推理架構中，以更低的成本提供服務，獲取更高利潤並維持長久運轉。我堅信前沿實驗室能在每個評估分值、每瓦功耗上提供最廉價的智能，佔據需求最旺盛的市場，這是一門極具盈利能力的生意。但他們不可能包攬所有業務，其餘的生態位將由整個產業去填補。
主持人：確實存在大量需要高度專業化資料的邊緣困難任務，這讓市場上能夠容納很多贏家。你提到的RSI觀點也非常務實——由於成本和資源消耗呈指數級上升，前沿實驗室拉大差距的能力存在明顯上限。面對公眾對前沿脫節的恐慌，你還有什麼想補充的嗎？
蘭伯特：當前行業在推理上的投入極為龐大，短期內我們正在學習如何將推理算力轉化為性能提升。前沿實驗室的研發投入呈指數級增長，但我認為這並不意味著會出現模型自我迭代的智能飛躍，人類本身就是核心瓶頸。所有擴展定律都表明，算力呈指數級增加才能換來性能的線性提升。數學可能是目前最契合此類智能形態的學科；除非AI發現了徹底顛覆Transformer的全新結構並解鎖了全新智能形態，否則現有科學規律依然適用。前沿實驗室正在花費成倍的資金來維持當前的進步速度，但科學本身的約束客觀存在。
主持人：這確實讓人安心，自回歸範式對指數級資源的需求存在天然上限，開源力量也能借此保持同步而不至於被徹底甩開。
蘭伯特：真正緊迫的任務在於基礎設施建設層面的準備。AI能力增長曲線本身並不可怕，可怕的是公共網路安全等關鍵領域幾乎毫無防備。我們更應該擔憂現有技術擴散帶來的現實隱患，閉源前沿探索出路徑後，開源很快就會普及，這一擴散過程必然會引發新的安全挑戰，讓整個社會提前做好應對準備至關重要。我們需要更透明的監督和更紮實的科學研究來幫助公眾建立認知，不盲目恐慌智能飛躍，並不等於忽視實際的安全風險。
主持人：非常贊同。非常感謝內森，這次對話乾貨滿滿，也期待Trillium在正式啟動後帶來更多突破。
蘭伯特：非常感謝你的邀請。(404K)