一攬子增量政策“既重視發力解決當下存在的困難和問題，更關注、更重視解決經濟中長期發展中的重大問題，強化打基礎、利長遠、可持續，推動高品質發展”。

10月8日上午10點，由國家發展改革委主任鄭柵潔和副主任劉蘇社、趙辰昕、李春臨、鄭備“一正四副”高配陣容出席的新聞發佈會如期召開。兩天前，市場已經開始期待這場發佈會的召開。此次發佈會並未明確提出部分市場人士預期、部分經濟學家建議的“大刺激政策”，但闡釋了“一攬子增量政策”的全貌。

9月26日召開的中共中央政治局會議提出，“要抓住重點、主動作為，有效落實存量政策，加力推出增量政策”；9月29日召開的國務院常務會議中提出，“研究部署一攬子增量政策的落實工作”。

當天發佈會中，國家發展改革委主任鄭柵潔說針對當前經濟運行中的新情況新問題……在有效落實存量政策的同時，圍繞加大宏觀政策逆周期調節、擴大中國有效需求、加大助企幫扶力度、推動房地產市場止跌回穩、提振資本市場等五個方面，加力推出一攬子增量政策。

國家發展改革委投資所研究員吳亞平說，此次一攬子增量政策釋放的一個重要政策思路是將短期宏觀調控和長期發展結合起來，“目前的政策不僅著眼於鞏固短期經濟回升向好的基礎，還著眼於長期的高品質發展和高水平安全。這也意味著不能為瞭解決短期問題，給長期帶來更多問題”。

從目前的表述看，本次發佈會釋放了以下幾方面值得關注的訊號：

第一，從發佈會的資訊看，尚未釋放大幅度拉動投資的訊號。

9月下旬，多位經濟學家曾建議實施一攬子的刺激政策，比如一些研究者以GDP的10%為線，推演出一份“十兆”的刺激性政策；余永定接受本報採訪時，也曾表示：“2024年僅剩三個月，倉促上陣可能會產生許多問題。中央政府可以先拿出一份綜合性的刺激性方案，告訴市場政府打算做什麼，以進一步扭轉預期。”

余永定的計算是：如果2024年消費增速為5%（同計畫的GDP增速同步）、房地產和製造業投資增速與2023年相同（-9.6%和6.5%），要實現5%的GDP增速目標，基建投資增速應該達到雙位數、規模要達到約20兆元以上。

這些建議普遍以投資為抓手，強調財政政策的進一步加強。

但從發佈會釋放的訊號看，投資可能難以出現如當年“四兆”政策時期陡峭的上漲——2009年基建投資的單月增幅曾經觸及50%的歷史高線。國家發展改革委副主任劉蘇社在回答記者提問時稱：“統籌擴大有效投資的增量政策和存量政策，促進投資平穩有序增長”。

一些政策也釋放了加大投資的訊號，但更多集中在提前釋放和對既有政策工具的充分利用。比如，擬在本月底按程序提前下達1000億元“兩重”建設項目清單和1000億元中央預算內投資計畫；加大“十四五”規劃102項重大工程的推進力度；督促有關地方到10月底完成今年剩餘約2900億元的地方政府專項債額度的發行工作等。

吳亞平表示，此次會議已經釋放了一些重要訊號，提醒地方政府可以提前進一步做好項目謀劃儲備工作，做好項目論證決策等前期工作，這也是為進一步擴大有效投資做好準備。

一位熟悉政策的人士表示，按照流程，財政政策若是進行大幅度的調整，比如增發特別國債等，也需要在10月底的中國人大常委會通過後才能披露並落地實施。

此次發佈會也有部分內容涉及財政政策。例如，“要加力支援地方開展債務置換，化解債務風險”“要加力支援地方開展債務置換，化解債務風險”。

第二，促消費將是擴內需更重要的抓手，擴內需要和惠民生結合起來。

目前中國經濟面臨的主要問題之一是總需求不足。提振內需，投資和消費是兩個重要抓手，應該優先提振那一方？市場曾展開過多輪討論。

在此次發佈會中，鄭柵潔說：“針對中國有效需求不足等問題，把擴內需增量政策重點更多放在惠民生、促消費上，積極發揮投資有效帶動作用”“在消費方面，重點是把促消費和惠民生結合起來，促進中低收入群體增收，實施提振消費行動。”

具體政策涉及三個方面：一是加大對特定群體的支援力度。比如提高學生資助補助標準並擴大政策覆蓋面，提高本專科生、研究生國家助學貸款額度，推動降低貸款利率；二是結合“兩新”推動大宗商品消費持續擴大；三是擴大養老、托育等服務消費。

吳亞平說，這也是此次發佈會值得關注的點之一，反映了目前提振消費的思路更加注重精準有效，而非此前部分市場人士討論過的普遍性的“發錢發券”。相對而言，低收入群體的消費彈性更大，邊際效益更好，精準提高中低收入人群的支援力度，能夠更有效地提振消費。另外，將促消費與惠民生相結合，也實現了“一錢兩用”。

第三，對當前經濟形勢的研判仍在不斷調整。

宏觀政策逆周期調節的力度需要依據宏觀經濟運行情況進行調整。

本次發佈會對當下經濟的最新研判是：“綜合分析，從發展態勢看，中國經濟發展的基本面沒有改變，市場潛力大、經濟韌性強等有利條件沒有改變，隨著各項存量政策效應繼續釋放特別是增量政策出台實施，近期市場預期明顯改善，製造業採購經理指數（PMI）回升較快，股票市場回暖上漲，‘十一’假期市場消費旺盛。我們對實現全年經濟社會發展目標任務充滿信心，對保持經濟社會持續平穩健康發展充滿信心。”

鄭柵潔在發佈會上稱：“我們認為，精準把握中國經濟實際，要做到全面客觀冷靜，看宏觀全域、看發展態勢，既要看當下，也要看未來。”

吳亞平說，宏觀政策的決策要結合三季度的經濟形勢。目前三季度的整體經濟運行情況還需要十來天才能全部呈現，到時候可以更好地研判宏觀調控政策的重點、力度和實施節奏。

第四，正在落地的一攬子增量政策更強調綜合性、系統性、針對性、精準性、有效性、可持續性。

鄭柵潔在發佈會上表示，貫徹落實一攬子增量政策，是項綜合性、系統性工作，要提高針對性和精準性，增強有效性和可持續性。

鄭柵潔說，一攬子增量政策體現了三個“更加注重”，就是更加注重提高經濟發展質量，更加注重支援實體經濟和經營主體健康發展，更加注重統籌高品質發展和高水平安全。這些政策的謀劃制定，也體現了四個“堅持”。一是堅持目標導向，錨定全年目標任務，用好用足政策空間，努力激發更大發展潛能；二是堅持問題導向，聚焦經營主體和社會關切，緊扣經濟社會發展和企業生產經營中的困難問題，採取針對性更強的措施；三是堅持系統施策，統籌財政、金融、消費、投資、房地產、股市、就業、民生等各領域政策，增強宏觀政策取向一致性，強化政策合力；四是堅持長短結合，統籌做好今明兩年政策的銜接，推動經濟持續平穩健康發展，確保“十四五”順利收官。

吳亞平說，此次發佈會提及的一攬子增量政策並不僅侷限於宏觀經濟政策，顯示了更強的綜合性和系統性。在經濟政策以外，還涉及養老、就業、生育甚至法治等多個方面政策。比如，不能違規異地執法和趨利執法，不能亂罰款、亂檢查、亂查封。及時對罰沒收入增長異常的地方進行提醒，必要時進行督查。除短期政策外，還涉及諸如支援未來產業發展和鼓勵支援生育等跨周期的政策，以及諸多改革等“軟建設”，這些都顯示了一攬子增量政策注重短期和長期相結合、軟建設和硬投資相結合、消費和投資相結合。   (經濟觀察報)

我們被倡導要想明白自己的目標是什麼、並做出計畫。然而，兩位人工智慧研究者卻認為，這只適用於普通的小願望。

一旦涉及過於高遠的、不確定能否實現的目標，比如打造 AGI（通用人工智慧）、登月計畫等等——那麼根據興趣進行自由的、開放性的探索，才更能實現想要的。他們把這一觀點寫成了《為什麼偉大不能被計畫》一書。

在這本書出版的 2015 年，OpenAI 成立，它一開始就確定了實現 AGI 的目標。九年間，OpenAI 取得的巨大成功，似乎證明了人工智慧界是一場「目標導向者」的勝利。「OpenAI 看似是目標導向的，但實際上在內部，它有很多有趣的、開放性的探索。」本書作者之一肯尼斯·斯坦利 (Kenneth Stanley) 告訴極客公園。

2015 年，他任美國中佛羅里達大學電腦科學系助理教授，和前博士生喬爾·雷曼（Joel  Lehman）一起合著了該書。第二年，他們進入產業界，加入 Uber AI 團隊。2020 年，他們又一起加入了 OpenAI，肯尼斯擔任 OpenAI「開放性研究團隊」負責人。

OpenAI 的 CEO Sam Altman 是他們這本書的推崇者。他曾在一個公開場合提到，OpenAI 訓練模型時會設定指標，指標的上升讓人開心，「但對於找出一個新的研究範式，就不起作用了」。受書中觀點啟發，他願意嘗試更多新奇性探索，「我們願意耐心等待數月、數年，大多數時候它（探索）並不起作用，但當它起作用的時候、效果驚人地好。」

加入內部，肯尼斯和喬爾看到開放性探索如何塑造了 OpenAI 的成功。例如 ChatGPT 本是一個意料之外的項目，它曾是內部幾大方向中最邊緣的；碰巧撞上了Google的 Transformer 架構；而 Dario Amodei（前 OpenAI 研發副總裁、現 Anthropic CEO）提出 Scaling Law（縮放定律）是為了測試模型安全性、而非湧現智能等等。

隨著 2022 年底 GPT-3.5 發佈，全球人工智慧行業開啟了激烈競賽。在二人看來，AGI 仍然是一個遙遠的、而非近在咫尺的目標，僅靠 Scaling Law 這個「踏腳石」還不夠。在這種情況下，開放性探索非常重要——而目前行業極具收斂的目標和計畫、以及激烈的競爭，反而可能讓研究走進「死胡同」。

即便 OpenAI 也面臨挑戰，喬爾感覺到，一種緊張的氛圍開始在內部出現，開放性探索的空間也在縮窄。2022 年，他們離開了 OpenAI。隨著人工智慧越來越強大，他們希望更多研究一些開放性命題，比如 AI 會如何影響人類和社會、如何從哲學角度看待 AI 等等。

目前，喬爾加入了一家研究虛擬生命的公司，而肯尼斯創辦了基於開放性系統的社交網路 Maven、並獲得了 Sam Altman 的投資。他們都在開放性探索的路上繼續前進著。

以下為極客公園與肯尼斯、喬爾的對話實錄，經整理後發佈：

《為什麼偉大不能被計畫》一書的中英版 | 圖片來源：受訪者

01  OpenAI 看似是「目標導向型」的成功，實則是「開放性探索」的成功

極客公園：先從這本書的起源聊起，我很好奇你們十年前是怎麼想到提出「為什麼偉大不能被計畫」這個觀點的？你們最早研究人工智慧的「開放性系統」，做了圖片孵化器、機器人迷宮等實驗，好奇那些事實讓你們覺得這個觀點是成立的、並且可以應用到除了人工智慧以外的其他領域？

Kenneth：最初的想法來自於人工智慧領域的研究，也就是我們所說的「開放性系統」（Open-Endedness）。這種系統早已存在，比如生物的演進，在幾十億年中，從單細胞進化為各種各樣的動物。又比如簡單的發明創造，我們可能花了數千年，才創造了一個輪胎、空間站和電腦等等。

作為歷史學家和電腦科學家，我們希望用演算法打造一個「開放性系統」，想瞭解它的工作原理，怎麼不斷創新、產生非常有趣的東西。所以我們做了「圖片孵化器」網站。這個 AI 系統沒有任何目標，人們隨機在上面將不同圖片進行「繁殖」，這些圖片會構成類似生物學「分支樹」的關係。

雖然每個使用者都是從亂塗亂畫開始的，但漸漸我們看到了一些熟悉的、可辨認的圖片，比如蝴蝶、頭顱、行星、汽車等等。我們進而得出一些有意思的洞察，比如你孵化出了一張酷似車的圖片，但你最初並不是以此為目標的。而如果你以此為目標，你根本得不出這張照片。這是矛盾之處。遵循這樣的原則，我們提出了基於新奇性探索、而非目標驅動的搜尋演算法。

最後我們發現，這不僅適用於演算法領域，也適用於個人和機構。每一個個人和機構都會設定目標，但這種目標驅動並不總是對我們的創造和發明奏效。Joel 和我覺得這個過程非常重要，值得公開說出來。我們試圖找到相關資訊、並進行多次對話，這就是我們這本書想法的來源。

極客公園：可否理解為這本書的核心觀點是，無論在演算法、個人還是組織層面，面對一個更遙遠的目標，制定計畫不如自由探索有效？

Joel：一般來說，普通的做法是我們樹立一個目標、制定計畫。但我們是不制定目標、只是去探索新奇的東西。比如迷宮裡的機器人，如果給它制定走出迷宮的目標，那它可能很難走出這個死胡同。但如果不告訴它去那裡、而是讓它自由探索，它會更容易走出迷宮。

肯尼斯和喬爾做的「圖片孵化器」網站，從亂塗亂畫中出現了一些熟悉的、可辨認的圖片 | 圖片來源：受訪者

極客公園：我注意到，在你們剛出完這本書不久的 2015 年，OpenAI 成立了。這家公司從創立起就確定了一個非常偉大的目標，那就是實現 AGI，它的每個步驟都是圍繞這個目標進行。今天我們看到，OpenAI 似乎取得了成功。所以我想問，在你們這本書出版後的十年裡，OpenAI 的故事是否反而證明了「目的驅動模式」的成功？

Kenneth：非常好的問題。我認為非常重要的一點就是要注意到，OpenAI 雖然取得了一定的進展，但還沒有取得 AGI 的成功。另外，我們也要意識到，公司往往會向公眾講述目標，但這其實是它們一種敘述的手段，這並不意味著企業內部就是這麼推動工作的。

如果你去看 OpenAI 的幕後，你會發現它們不僅僅是目標導向的，它們也有很多有趣的、開放性的探索。實際上，ChatGPT 就是這樣一種開放性探索，它是在一個意料之外的項目。我並不認為 OpenAI 的工作人員最早就設立了要做 ChatGPT 這個項目（的目標），或者說預見到了它能取得如此巨大的成功。它們只是在探索過程中發現這個項目非常有意思，然後一步步更新迭代才有了今天的 ChatGPT。

我們書中也提到過，創新究竟該如何推進呢？其實就是我們從有趣的一些想法開始，那究竟它是否會將我們引導向最終 AGI 的成功呢？其實這並不一定，但這是非常重要的一步，它們最終都有可能帶來革命性的變化。

另外，它也能實現其他一些重要的成就，比如吸引更多的投資。我們知道 GPT-2 並沒有帶來巨大的革命性變化，但我們仍然要儘可能地宣傳，才能吸引更多投資來發展 GPT-3、GPT-4，並最終向 AGI 的目標前進。OpenAI 就是這麼做的，這正體現了我們書中的觀點。

Joel：OpenAI 看上去是一個目標導向型的成功，但其實 OpenAI 剛成立的時候，內部有嘗試很多不同的發展方向。比如當時他們非常看重強化學習，包括視訊、遊戲的強化學習，為此內部做了很多嘗試。

而且 GPT 背後的核心技術是 Transformer 架構，這是由Google推出的，所以 OpenAI 也是在Google這樣的巨人的肩膀上不斷髮展的。如果回顧 10 年前、20 年前、30 年前、40 年前，沒有這麼多「踏腳石」的情況下，OpenAI 也不可能取得這樣的成功。

極客公園：你們定義了 OpenAI 看似是目標導向、但其實是自由探索式的成功。OpenAI 內部人士曾跟我們說，鋪墊 GPT 3.5 的幾個「踏腳石」都是隨機碰撞出來的，比如聊天機器人曾是內部最邊緣的項目、碰巧撞上了Google的 Transformer 架構、而 Dario 提出 Scaling Law 也不是為了智能湧現而是想測試模型是否安全……這是否跟你們瞭解的情況接近？

Joel：是的，這些隨機探索的確是非常重要的。尤其是 OpenAI，它很早就開始推進 Scaling Law 等嘗試，並且不斷在做選擇，這是非常正確的。

Kenneth：的確探索很多時候是隨機的、根據興趣進行的。但 Dario 提出 Scaling Law，這不僅是一個隨機的探索、這其實也是一個目標導向性的做法。

這背後是團隊從自己的興趣出發、做了很多嘗試，想要找到解決方案，最終提出了 Scaling Law 這個解決方案。這某種意義上也是一種目標導向。

極客公園：所以開放探索和目標驅動並不是彼此對立的，而是可以統一和融合的？

Kenneth：的確兩者是可以並存的，能夠從一方轉向另一方。但是在我看來，這其實也是一個非常困難的問題。什麼時候該進行轉向？什麼時候是目標導向、什麼時候是興趣導向？這非常微妙，很難去找到最佳的轉變時機。

極客公園：你們能夠看到 OpenAI 的核心其實是一個「開放性探索」的組織，這是當初吸引你們加入 OpenAI 的重要原因嗎？

Joel：哈哈，有許多原因。一個最主要的當然因為 OpenAI 是 AI 領域的前沿公司。另外，它的確一開始就是一家「開放性探索」的公司，雖然它們肯定有一些目標導向的元素存在。這與我的個人興趣也是相關的。所以確實很難拒絕這樣一份工作。

極客公園：那麼 Sam 有看過你們這本書嗎、他是否認同你們提出的「開放性探索」觀點？這是他招募你們進入 OpenAI 的原因嗎？

Kenneth：Sam 非常喜歡我們書中的想法，我相信他是在觀看了我關於這本書的演講時接觸到這些想法的。他曾在公眾場合提到，他受到了這本書的一些想法的影響。Sam 對這些想法是非常包容和開放的，我覺得他暴露在這些想法當中、他認為這些想法非常有意思。

當然，我在 OpenAI 也不僅僅是因為 Sam，內部很多人都有開放的想法。比如 Jeff Clune（前 OpenAI 研究團隊負責人），他在我們之前加入 OpenAI。他也覺得，開放性探索是一個有趣且值得投資的領域。我們在那個時候達成了共識，所以我們被僱傭了。

在我看來，這本書並不是 OpenAI 的工具書。但我相信，這一文化確實對他們有影響，開放性探索是非常重要的。

極客公園：Ken 當時是 OpenAI「開放性探索」團隊的負責人，當時 OpenAI 對你們的期待是怎樣的？有給你們制定了怎樣的目標嗎？

Kenneth：我們面臨的挑戰在於，幾乎任何一家公司都會感興趣設定目標。但如果我們探索的一些想法，並不完全是目標導向的、甚至會背離目標的話，我們肯定會面臨一些溝通上的挑戰。這有一些複雜，因此在日常的工作中，我們需要取得一個平衡。

有時候很難理解我們來自那裡、僱傭我們幹嘛。他們可能會非常奇怪，覺得我們做的是非客觀性的一些東西。不過最終他們意識到，對於推動 AGI 來說，這些工作是非常有用的。這已經超出了傳統團隊的認識。

Joel：這裡面分為兩部分：一個層面是關於組織的架構，很多人會困惑我們的工作，所以我們要跟他們解釋我們在做什麼，並找到我們工作跟 AGI 目標的關聯度；另一方面是我們實際工作的開放性，要創造新的東西。

就像 Ken 說的，我們需要在公司內部找到一種開放性的方法，既要讓大家瞭解我們在做什麼，也要新奇探索、取得進步，這兩者的平衡是一種微妙的舞蹈。

極客公園：你們是否感受到，在「開放性探索」上，OpenAI 這樣的初創公司可能比科技巨頭做得更好？我曾聽說，Google 雖發明了 Transformer 架構，但沒有率先做出 GPT，是因為它的技術路線更目標導向——Google 更強調 Encoder（輸入），因為它可以解決更多具體業務問題；而 OpenAI 更強調 Decoder（輸出），因為它沒有那麼強的業務導向，更願意像無頭蒼蠅一樣做「開放性探索」，你們怎麼看？

Joel：我的理解是Google也有這種對話模型，也是很領先的。談到好奇、興趣、技術能力、率先應用於大眾等，我認為其中包含了不同的變數。Google是一個更大的機構，可能有更多的「橡皮章」、繁文縟節這些東西，而 OpenAI 可能更開放。

Kenneth：我只是想說，涉及到任何一個大機構的成功，都包含了很多要素。不過我有一點我同意，OpenAI 確實在探索方面做得更好、它有更大的意願去冒險，而Google可能在這方面更加謹慎和猶豫，比如在公眾面前展示技術，Google可能會慢一步。

這可以理解。因為Google作為一個大公司，在發佈東西之前，需要做很多嘗試和實驗。他們更不願意失敗，它對於風險更有顧慮。但這並不一定是確定的，只是我們的看法。

我們看到，Google注重強化學習和各種方法，OpenAI 也注重強化學習、並在不同領域下注，最終它們都取得了成功。

極客公園：距離你們當時寫這本書已經過去快 10 年了，中間你們還加入了 OpenAI、Uber 等科技公司，經歷了這些再看這本書，你們覺得書中那些觀點仍歷久彌新？那些需要變化更新？

Kenneth：回頭望，這已經是我們這本書出版的第九年了。關於建立目標，我們有過非常多的、激進的爭論，但許多事情隨著時間的推移得到了驗證。

正如你剛才提到的一些例子，有些人可能會認為有些目標是有效的。但在過去十年的時間裡，我們越來越發現，目標導向有時會讓人感到困惑，會讓你有盲點、抓不到其他機會、看不到更多的可能。我們認為十年後、甚至一百年後，這個觀點可能都不會過時。

在每一章中，我們都引入了一些歷史案例和引語，比如「行者無疆」——一個好的旅行者是沒有固定計畫的，他對於要到達那裡並不太清楚——我不確定中國的哲學家老子是否在幾千年前提出了這種描述。這是一種哲學的觀點、一種經驗之談，並不是有很多科學證據，有時候聽上去是反直覺的、是一個離經叛道的東西。

社會中確實有一些問題，例如，整個社會的組織都在圍繞目標推動，並且把「目標是非常重要的」這種文化意識強加給我們。以教育為例，老師根據考試內容教學、學生根據考試內容學習，這就是目標對教育的影響。在書中，我們強調了目標的影響是無處不在的，我們需要去掙扎往前走。

再次強調一下，我們認為「偉大無法被計畫」這個觀點，是不會發生變化的。如果我們的人生只是目標導向的話，將無法取得完整的幸福。這也是為什麼我們這本書如此成功和受歡迎的原因。

02  沿著 Scaling Law、卷模型性能，可能會走到「死胡同」

極客公園：雖然你們反對「目標導向」，但似乎目前全球人工智慧界的目標都非常收斂且明確，一是追上 OpenAI 等公司、二是盡快實現 AGI，你們怎麼看這種現象？這種「目標至上」會是你們反對的嗎？

Kenneth：謝謝您的問題。我同意在目前的人工智慧行業中，大家定了這兩個宏偉的目標，覺得「北極星」就在那兒、我們要朝著那兒走。不過回到我一開始說的，企業往往會對外有一套說辭，但它們內部可能並不是這樣做的。

我主要想談一談，我們到底離這樣的目標有多遠？如果說只差一個「踏腳石」、離得非常近，就像上世紀 60 年代制定登月計畫的時候、已經有很好的技術基礎，那麼我們可以通過制定目標去實現。

但問題在於，如果我們還需要很多個「墊腳石」、離目標還很遠，那設定目標可能會讓我們陷入困境、無法前進。歷史上有很多這樣的例子。比如在 2017 年，我們聽到有人說第二年就會有自動駕駛汽車上路，但其實不是這樣。

因此，單純採取目標導向的方法往往會無法實現目標，可能是因為目標設定的時間太早、或者太過雄心勃勃。很多人認為現在人工智慧領域只差一個「踏腳石」，只需要擴大規模就可以了，這其實是過於簡單化了這個問題。但在我看來，真正核心的「踏腳石」還沒有被發現、我們並不僅僅差一個「踏腳石」。我們很可能正在陷入目標的陷阱和迷思之中。

Joel：的確我們現在處於一個「荒誕」的歷史階段，全球的科技公司都在追求 AGI，這種過於聚焦的目標是人類「革命性的時刻」。但我們要知道，AGI 的發展還要很長的時間。

現在許多人認為，只需要擴大規模、參數，有更多的資料和算力，就可以可發展人工智慧。這對我來說有些無聊，或者說有些無趣。這並不是最核心的「踏腳石」，我相信還有其他的路徑和方法需要我們去探索。

極客公園：為什麼我們離 AGI 不只是「一步之遙」、不只差一個「踏腳石」？你們做出這個判斷的依據是什麼？

Joel：我們到底距離 AGI 有多遠，其實大家是有認知偏差的。就像自動駕駛一樣，並不太清楚到底需要多少個「踏腳石」。我們唯一確信的是，如果有一步之遙的東西，你必須要在那裡、你必須去做、必須去放大。

Kenneth：最近有一個類比，GPT-3 就像是一個孩子，GPT-4 像是高中生。但實際上，ChatGPT 更像是教科書中的知識，在某些方面，它可能超越了我們，而在其他方面，它可能不如我們。奇特之處在於，我們會感到某些東西非常接近了，但這不一定是 AGI。

但我們也不清楚究竟還要等待多久。我們甚至可能需要一位「愛因斯坦」的出現，才能達到下一個台階。

極客公園：這讓我想到你們在書裡提到，其實從單細胞到人類的進化過程中，重要的「踏腳石」不只是智力，還包括對稱性等。那麼對於 AGI 來說，Scaling Law 帶來的智能提升會是一個靠譜的踏腳石嗎？它能支撐多久？

Kenneth：智能這個詞很容易讓人困惑，因為它涉及許多方面。Scaling Law 遵循一些普遍的原理，但它也會喪失一些東西。比如在技術上，你必須將大量人類資料進行更好的壓縮和訓練，它不再是傳統意義上的智能、而是不斷提升的智能。我們最終可能會遇到一個瓶頸或死胡同、會在訓練上遇到走不下去的時刻。

就像 OpenAI 在不斷擴大規模、增加參數，但它還是遇到了瓶頸（註：比如 GPT-5 處於難產狀態）。這也是為什麼我們需要新的踏腳石。

Joel：如果想要達到 AGI 那模糊的彼岸，有點像做一個賭注，很多明顯的路徑都必須要去嘗試。因為 AGI 可能不僅來自 AI，還可能來自數學、哲學和其他領域。

《神經語⾔模型的縮放定律》論文寫道，隨著模型⼤⼩、資料集⼤⼩和⽤於訓練的計算量的增加，語⾔建模性能平穩提升 | 圖片來源：OpenAI

極客公園：現在各大人工智慧公司都在這一維度激烈競逐，而你們在書裡提到，競爭其實跟「開放性探索」相悖、因為它是極其收斂的目標。你們怎麼看待現在人工智慧領域的激烈競爭？

Kenneth：這就是目標導向的悖論，它會使得我們更加盲目，對其他方法和路徑視而不見。像 OpenAI、Anthropic 和 Google 這樣的公司，它們存在激烈競爭，因為那家如果落後了，就可能無法獲得更多資金，公司會受到生存威脅。

在這種競爭中，大家唯一的目標就是活下來。公司更傾向於繼續沿著既定路徑前進、擴大規模。如果這時候嘗試創新，會面臨失敗的風險、可能會被踢出局。所以創新往往會減少。我認為在這樣的競爭環境下，很容易進入死胡同。

不過當這些企業遇到瓶頸時，他們可能會意識到需要轉向、進行更多開放性探索。

極客公園：這跟很多人的看法相反，一般我們認為激烈競爭會推動模型智能水平的提升、加速 AGI 的實現，但在你們看來反而會適得其反？激烈競爭會弊大於利嗎？

Kenneth：是的，這可能有些反直覺。雖然競爭會引發「軍備競賽」，使得模型性能有所提升，但過度的競爭會減少開放性的嘗試，使得創新更加聚焦和侷限、無法取得真正的進展。

極客公園：說了這麼久的「開放性探索」，那麼對於現在目標和路徑已經相對明確的人工智慧企業來說，它們應該怎樣才能做好這件事？你們對於「開放性探索」有沒有一些建議？

Kenneth：我們會發現，很多公司太早就建立了一套體系，並且非常目標導向。如果一些探索在測試中表現不佳，他們就會放棄研究。我認為這會減少開放性探索的機會，是非常不利的。

對於 AGI 也是如此。當前的 Transformer 架構可能還遠遠不夠，甚至我們對神經網路的運作機制還瞭解得不夠，目前仍有許多失敗的案例。我們並不清楚究竟還差多少步才能實現 AGI，因此我們需要多重的、開放性的探索。

在當前階段，對於 OpenAI 和其他公司來說，它們不僅需要改善現有的模型、更需要探索新的路徑，這兩件事需要同步推進。

03  離開 OpenAI，人工智慧界  還需要更多「開放性探索」

極客公園：不久前 Ken 接受了一個採訪，提到你離開 OpenAI 是因為「有一些的沮喪、有一些頓悟」，我好奇你的「沮喪」、「頓悟」是什麼？方便跟我們分享一下嗎？

Kenneth：讓我想一想，我並不是說我對 OpenAI 不滿意，而是我越來越意識到，我對人工智慧的影響存在一些擔憂。現在有很多關於人工智慧消極影響、安全以及文明終結的討論，這都是很明顯的一些問題。

我越來越感覺到，社會中存在一些對人工智慧的不滿情緒、人們感到越來越多的失落，大家會追問生命的意義究竟是什麼？比如，未來機器人可能有數百萬個非常好的想法，一秒之間就可以超越我們一生的成就、或者比我們個人多年的經驗更具智慧，那麼我們如何再去做有創意性的工作、並從中獲得成就感呢？這是一個非常嚴重的問題。

我感覺我的工作，似乎在某種程度上加劇了人們的這種擔憂和焦慮。因此，我想思考人工智慧未來的發展方向、解決它深層次的問題——我們究竟該如何改善人工智慧，使其更好地為人類服務，促進人類之間的連接，而不是加劇競爭？

這是我最近非常關注的問題，我認為需要進行開放性探索，我相信這對人類社會會更有助益。基於這樣的原則，我成立了一家自己的公司，希望建立一種開放性的社交網路。

極客公園：你創立了 Maven，它是一款基於開放性探索的社交產品，可不可以介紹下 Maven 是一個怎樣的產品？為什麼它能解決你提到的人工智慧存在的問題？

Kenneth：你可能也注意到一些社交媒體存在的問題，比如資訊繭房、對立觀點、不斷爭論的意識形態導向、甚至陰謀論等。那麼這些問題從何而來呢？實際上，這是因為這些系統的質量有問題。

幾十年前人們就曾說過，人們會產生各種各樣的觀點和內容，但很多內容是負面的或不好的。而現在的社交媒體過於關注內容的受歡迎程度。我們認為這種資訊分發模式需要改進。

所以我創立了 Maven，這是一個基於內容質量來推薦的「開放性系統」。人們打分、評價，去找到好的內容。這種客觀的評價方式、而不是靠點贊排序，才能帶來更好的內容。

極客公園：我注意到 Twitter 的聯合創始人投資了你、Sam 也投資了你，為什麼 Sam 會決定投資你？他對你這次創業有沒有提出建議？

彙整鉅亨號中所有使用「目標導向」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

尚未見“大規模刺激政策”訊號，一攬子增量政策更加注重系統性和有效性

親歷者揭秘 OpenAI 崛起的關鍵：興趣驅動的探索，而非目標導向的馬拉松