即使他們不這樣做，他們也可能被如此對待——這將給人類帶來巨大的代價。 大多數人認為人類與眾不同。原因在於智人進化出了意識。許多動物都能感受到痛苦和快樂；有些動物似乎也具有自我意識。但人類思維展現自我意識的獨特潛能，使得該物種的每個成員都值得被特殊對待。 教宗良十三世在五月的通諭中重申了這一觀點，他明確區分了人類與日益壯大的人工智慧大軍。他指出，人工智慧系統不會經歷各種體驗，也不會感受到快樂或痛苦。他的觀點並非孤立。許多人認為，賦予人工智慧人格是一種褻瀆。 教皇的清晰立場正以驚人的速度變得模糊不清。人工智慧尚處於起步階段。然而，近五分之一的美國18至29歲年輕人表示，他們曾與聊天機器人保持著“持續的個人友誼”。中國最近剝奪了聊天機器人的類人特徵，以限制使用者對它們的“情感依賴”。

你好，我是王煜全，這裡是王煜全要聞評論。 未來的超級智能，到底該集中在少數機構手裡，還是成為每個人的工具？ 我們一直認為，是後者。AI最終可能不是一個中心化的超級智能，更可能是走向某種分佈式智能。 8月10日，Meta創始人兼CEO祖克柏發了一篇長文，叫《The Future is for Everyone》。他明確指出，不應該只有一個單一中心智能同時代表所有人的價值、利益和目標，更好的狀態，是把智能廣泛地分配給個人和企業，讓不同目標的智能彼此競爭和制衡。

就在剛剛，Meta發力了！ 首先，Meta超級智能實驗室正式發佈全新30B大模型 —— Muse Glimmer，而且重磅開源。 這個智能體模型，專為本地裝置量身定製。它性能強大，卻被塞進不到20GB的記憶體裡，只要一塊消費級 GPU（比如 RTX 5090）或者一台 M4/M5 Max 的 MacBook 就能流暢運行！ 而且，Meta這次採用的是最良心的 Apache 2.0 協議，允許免費商用，隨便造。

1.這一判斷的核心在於：Meta 通過內部錄屏和重組 3000。憑空創造了一家頂級資料初創公司；同時，其正同步建設 5 個 1GW 級“泰坦”叢集，並借助 AI Backbone 實現跨地域擴展，解決了超大規模訓練的算力與網路瓶頸。 2.2024 年。Ilya 有一句名言：“資料是 AI 的化石燃料。”這個類比正確強調了資料對訓練 AI 模型的重要性，但錯誤地假設優質資料的數量是有限的。現實中，只要需求足夠強，市場力量就會找到辦法。 3.風險判斷要同時看反向資料、融資條件和外部政策變化。與此相關，工作流最佳實踐和正確性定義會隨時間大幅變化，因此確保資料保持真實的唯一方法，是持續獲取真實錄屏。例如，今天一個好的程式設計 RL 任務會涉及編排子智能體，而這在短短 7 個月前還不存在。 4.Meta 在承受公關衝擊和初期員工反彈後。仍然足夠靈活、激進地推進這件事，這一點已經相當令人印象深刻。是的，他們後來略微退了一步，加強了隱私保護，並允許員工暫停追蹤器 30 分鐘，但我們認為這些只是很小的讓步。

【新智元導讀】從攔截彼得·蒂爾、警告馬斯克，到如今公開說「必須有適應能力」，哈薩比斯史詩級轉身：AI安全窗口正在永久關閉，他不再幻想制度，而是賭上全部身家——賭影響力，賭良知，賭自己。最怕AI毀滅人類的人，正在拚命造AI！最相信治理的人，如今親口承認：治理徹底靠不住！最強調安全的DeepMind，也被拖入戰時軍備競賽！就在幾小時前， DeepMind創始人Demis Hassabis哈薩比斯自己親手砸碎了AI安全幻想，從理想主義者徹底轉向現實派。他承認：超級智能可能滅絕人類，卻只能靠自己「搶座上桌」來護航。哈薩比斯，這個曾發誓要用嚴密的制度、法律約束和倫理委員會將AI鎖進籠子裡的人，坐在那個破舊的吊燈下，無奈承認：「安全不再取決於治理結構。即便有董事會，在關鍵時刻，他們也未必會做對的事。」他轉而提出了一個極具現實主義、甚至帶有些許悲劇色彩的新方案：「我必須坐上桌，爭取影響力。」幻想再三破滅，哈薩比斯轉身哈薩比斯不是普通加速派。一般而言，AI領袖通常分為兩派：一派是以OpenAI奧特曼為代表的「加速主義者」，相信技術總能解決技術帶來的問題；另一派是憂心忡忡的「末日預言家」，認為AI可能像核武器一樣導致人類滅絕。但哈薩比斯是一個極其複雜的矛盾體：他是為了阻止末日，才決定親手製造AI。這種近乎悖論的動力源於他極度深邃的焦慮。哈薩比斯對「AI滅絕風險」瞭如指掌，熟悉程度甚至超過了最激進的抗議者。他和DeepMind的另一位聯創Shane Legg，就在一次AI安全的講座上相識。目前，Shane Legg任GoogleDeepMind的首席AGI科學家，擔任AGI安全委員會聯席主席，同時也領隊研究後AGI時代的世界可能是什麼樣子。在「奇點峰會」上，他曾攔截彼得·蒂爾（Peter Thiel），向他兜售關於機器如何超越人類的幻象。他曾當面告訴馬斯克，殖民火星毫無意義，因為如果超級智能是惡意的，它同樣能造出橫跨星際的火箭，火星絕不是人類的避難所。這種焦慮催生了他早期極具英雄主義色彩的「單體治理」（Singleton Scenario）構想——他曾嚴肅地計畫，帶著全球最頂尖的科學家，躲進一個秘密的「地堡」——可能是摩洛哥的沙漠，也可能是某個與世隔絕的孤島。在那裡，他們將像開發曼哈頓計畫一樣，在沒有資本壓力、沒有地緣競爭、沒有世俗干擾的情況下，代表全人類開發出第一個「絕對安全」的超級智能。哈薩比斯被馬斯克背刺？「只要這個世界上只有一隻手握著火種，我們就還能控制火勢。」 這是哈薩比斯最初的邏輯。為了這個邏輯，他在2014年將DeepMind賣給Google時，開出了歷史上最奇葩的收購條件：即使Google付了錢，哈薩比斯依然要在AI安全事務上保持絕對的獨立；設立一個由獨立專家組成的外部委員會來監督整個處理程序；AI的軍事應用將被嚴格禁止。從少年時代起，哈薩比斯就立志要建構強AI。而只有確保其安全性，他才能為畢生的事業找到正當理由。Google收購前不久，哈薩比斯曾提醒DeepMind的研究員候選人，如果簽約加入，就要做好心理準備——最終的終局之戰來臨時，他會進入一個地下基地，實現單體治理的壯舉。2015年，為了落實Google承諾設立的AI監督委員會，DeepMind組織了一場秘密集會，邀請了哲學家和技術專家參加。哈薩比斯邀請馬斯克主持集會，地點設在馬斯克的SpaceX加州總部。但這一招適得其反。這次集會，標誌著哈薩比斯的安全構想開始瓦解。馬斯克聽取了哈薩比斯及其聯合創始人的演示，隨後反其道而行之。他與奧特曼聯手創立了OpenAI。那一刻，哈薩比斯的安全烏托邦就開始死了。失了裡子，還丟面子了考慮到人性，這種局面不可避免。面對鑽木取火般史詩級的AI技術前景，人們並不會凝聚成一個單一的集體。他們爭論不休、相互嫉妒、各自為營。此時，哈薩比斯本可以停下來重新思考。如果「單一主體」的設想過於天真，AI開發者又如何避免一場衝向懸崖的競賽？但哈薩比斯非但沒有停下腳步，反而加速前進。2016年，AlphaGo橫空出世。機器智能超越人類智力的時間表，一下子提前了。為了跟上AI這一進展，哈薩比斯提出了新的想法，希望讓AI服務於人類。他與聯合創始人穆斯塔法·蘇萊曼一起，著手與Google談判，尋求建立一套新的治理保障機制。為了推進這個秘密的「馬里奧計畫」（Project Mario），他聘請了一支頂尖的法律團隊，獲得了外部10億美元的資金承諾，並考慮如果無法獲得對技術的控制權，就讓DeepMind從Google獨立出去。與此同時，蘇萊曼還帶領DeepMind團隊參與了一項幫助英國國家級的急性腎病管理項目。如果能實現AI的獨立治理，又能改善普通英國民眾的健康狀況，哈薩比斯或許就能確信，自己的追求確實是向善的。然而，這兩項努力均以失敗告終。與Google圍繞治理權的拉鋸戰持續了三年，困難重重。而幫助英國國家醫療服務體系的項目，則遭到了隱私保護倡導者的強烈反彈——他們憤怒於一家美國科技巨頭的子公司可能染指患者資料。到2019年，哈薩比斯和DeepMind在這兩條戰線上都已退卻。蘇萊曼最後也離開了DeepMind。ChatGPT致命一擊，GoogleAI狂飆2022年，ChatGPT的爆發，像一顆核彈丟進了哈薩比斯的辦公室。在此之前，哈薩比斯還試圖維持「科學家的優雅」。他帶領團隊開發AlphaFold，破解蛋白質折疊難題，拿下了諾貝爾獎。他認為這是AI服務人類的最高境界：一種純粹的、造福醫療的、可控的科學。但市場不這麼看。當ChatGPT成為歷史上增長最快的應用時，Google慌了，整個矽谷都瘋了。2022年，ChatGPT爆火那天，哈薩比斯在內部定調：現在是戰爭狀態！在這個狀態下，所有之前的安全承諾都變得脆弱不堪：Google開始積極接觸國防部門，試圖將AI賣給五角大樓（曾是哈薩比斯的紅線）。在權力鬥爭中，原本那個「獨立倫理委員會」幾乎隱形。為了追趕GPT-4，DeepMind與Google大腦強行合併，速度取代了嚴謹。哈薩比斯看清了一個殘酷的現實：在AI競賽中，沒有一個非營利的制度能寄生在營利性巨頭的體內。當生存受到威脅，所有的倫理都是奢侈品。哈薩比斯親眼看著自己親手築起來的所有牆，一堵一堵倒掉。他終於承認：「即使有治理委員會，關鍵時刻也可能做錯決定。」真正失控的不是模型，而是人類競賽孤獨的人類守望者現在，哈薩比斯徹底轉向現實主義。他的目標，是爭取到「一張決策桌旁的席位，這樣當安全問題出現時」，他就能參與決定解決方案。「事情不是非黑即白的，尤其是當你面對一項後果未知的技術時，」他告訴記者。「所以你必須有適應能力。你不得不從理想主義者轉變為現實主義者，但希望依然能堅守自己的價值觀。」哈薩比斯對「治理」的徹底祛魅，放棄了制度安全，改為靠個人影響力「搶座上桌」。一邊狂推AlphaFold拿諾貝爾獎、Gemini繼續衝鋒，一邊把希望死死攥在「有良知的人」手裡。更狠的反轉來了：連馬斯克這種曾經最激進的安全派都開始狂踩油門。樂觀派還在喊「對齊技術能解決一切」，可哈薩比斯自己都不信了。制度徹底死了。OpenAI董事會罷免奧特曼，又瞬間被資本力量反殺。他選擇了最無奈的一條路：「讓自己成為權力的一部分。」他現在的安全邏輯是：既然我無法阻止這場競賽，那我就必須贏得這場競賽。我必須留在牌桌上，我必須擁有最高的話語權。這樣，當真正的「奇點」來臨，當那個人類無法理解的決定需要被做出時，至少，坐在那個關鍵位置上的人，是一個從第一天起就對AI心存敬畏的哈薩比斯。他現在只能賭——賭「好人掌權」能救世界。可問題來了：如果AI安全只能靠「好人掌權」，到底是救贖，還是最危險的賭局？AI安全窗口正在永久關閉。超級智能若對齊失敗，造的火箭、殖民的太空，都逃不掉滅頂之災。人類本性早已把統一治理變成永遠的笑話。唯一希望，只剩「有良知的人掌握話語權」這種最脆弱、最危險的方案。哈薩比斯不是唯一改變的人，他只是第一個把殘酷現實說透的人。現在，第37手棋，已經落在我們每個人頭上——你我正在見證的，是一場文明豪賭。 (新智元)

能無限進步的「超級智能體」來了！最近，Meta研究團隊的一篇題為HYPERAGENTS（超級智能體）的論文迅速刷屏。這篇論文將LSTM之父Jürgen Schmidhuber二十年前提出的哥德爾機（Gödel Machine）思想，與達爾文開放演算法相結合，提出了能持續自我迭代的達爾文哥德爾機。基於此這一思想，Agent不僅能更好地完成具體任務、持續提高自身表現。更關鍵的是，它可以不斷最佳化“改進自身”的底層邏輯，實現“元學習（Meta-learning）”這，便是論文定義的新一代超級智能體——Hyperagents。論文更進一步提出：未來AI有望通過持續自我迭代，最終突破人類預設的初始演算法邊界，也正因如此，AI安全必須被擺在核心位置。不少網友也感慨道：元學習真正讓人既害怕又興奮的，是元層面的改進能夠跨領域遷移。這不是在某一件事上變得更厲害，而是學會了在一切事情上變得更厲害。目前，這篇論文已被ICLR 2026接收。從哥德爾機到達爾文哥德爾機要理解超級智能體Hyperagents，必須先瞭解它的基石——哥德爾機（Gödel Machine）。哥德爾機是一種假設性的自我完善型AI。它在數學上尋求證明：如果存在某種更好的策略，它會通過遞迴重寫自身程式碼來解決問題。而這一假設，最早由尤爾根·施密德胡伯（Jürgen Schmidhuber）在二十多年前提出。在傳統機器學習中，AI的“學習方法”是人類預設的硬編碼，它只能通過調整內部參數來逼近目標；而哥德爾機則打破了這一限制，它能夠將演算法框架本身視為可編輯的程式碼，通過自主重寫程序來實現學習能力的自我演進。但問題也隨之而來：哥德爾機往往要求AI在自我演進之前，證明該改動具備淨收益。也就是說，改程式碼花掉的算力成本，未來能不能通過更強的性能賺回來？不幸的是，這種計算在現實中的複雜任務中幾乎是無法實現的。針對這一問題，Meta團隊提出達爾文哥德爾機（DGM），它利用開放式演算法（Open-ended algorithms），通過在大模型提議的程式碼改進方案中進行搜尋，獲取能從經驗上提升性能的方案。換句話說，DGM利用基礎模型來提議程式碼改進方案，並利用開放式演算法的最新創新成果，來搜尋並建構一個不斷增長的、多樣化且高品質的AI智能體庫。基於此，DGM能創造出各種自我改進方案，例如：增加補丁驗證（Patch Validation）步驟、最佳化檔案查看功能、增強編輯工具、生成並篩選多個解決方案以選出最優解，以及在進行新更改時，會自動加入歷史嘗試記錄（並分析失敗原因）以供參考。論文的實驗還表明，DGM獲得的算力越多，自我提升效果越好。超級智能體雖然DGM很強，但它存在一個致命限制：它主要在程式設計任務中有效。這是因為DGM依賴一個關鍵假設——評估任務與自我修改任務必須“對齊”。在程式設計領域，這種對齊是天然的：提升了程式設計能力，自然也就提升了修改自身程式碼的能力。也就是說，解決外部程式設計問題的邏輯工具，可以直接轉化為修改其自身底層程式碼的能力。相反，如果是在非程式設計領域（如寫詩），即便提升了寫詩能力，也無法直接轉化為修改程式碼的邏輯水平。在這種缺乏“自指性（Self-referentiality）”的任務中，DGM的遞迴進化鏈條就會斷裂，陷入停滯。基於此，文章提出超級智能體——它們既能修改自己的任務執行行為，也能修改生成未來改進建議的過程。這實現了所謂的元認知自我修改（metacognitive self-modification）：不僅學習如何做得更好，還學習如何更有效地進行改進。進一步，論文將超級智能體實例化為DGM-Hyperagents (DGM-H)。DGM-H是對DGM的擴展，其中任務解決行為和自我改處理程序序都是可編輯且可進化的，其框架如下：自指性架構：它將“任務智能體（Task Agent）”與“元智能體（Meta Agent）”整合為一個單一的、可編輯的程序。元級進化：在Hyperagents中，“改進的方法”本身也是可以被改進的。這使得系統不再要求任務與修改必須對齊，從而實現了跨領域的“元認知自我修改”。打個比方，在Hyperagents中，運動員不僅在訓練，教練也在學習如何更好地執教。由此，運動員的表現和教練的執教水平不斷螺旋上升。此外，DGM-H還改進了生成新智能體的過程（例如引入持久化記憶、性能追蹤等），且這些元級改進具有跨領域遷移和跨運行累積的特性。實驗驗證：從20%到50%的跨越實驗證明，達爾文哥德爾機（Darwin Gödel Machine）能夠通過修改自身程式碼庫實現持續的自我提升。在SWE-bench上，DGM自動將其性能從20.0%提升至50.0%。在Polyglot上，DGM的性能從初始的14.2%躍升至30.7%，遠超由Aider開發的具有代表性的人工設計智能體。這些結果證明了DGM能發現並實施有效的自我改進。而實現這一點的關鍵在於其開放式進化搜尋策略：通過從現有智能體庫中採樣生成新智能體，DGM能夠平行探索多條進化路徑。性能稍遜的“祖先”智能體在發現新方法和功能方面起關鍵作用，避免了早熟收斂。此外，DGM的改進具有廣泛的遷移性：針對Claude 3.5 Sonnet最佳化的智能體，在切換到o3-mini或Claude 3.7 Sonnet時仍能提升性能。在Polyglot基準中，Python任務上的自我改進同樣提升了Rust、C++、Go等不同語言任務的表現。 (量子位)

近期，伊利亞·蘇茨克沃（Ilya Sutskever）為推介其初創公司“安全超級智能公司（SSI）”，出來做了一篇訪談。雖說“PR”意圖明顯，但這仍是過去半年來關於人工智慧產業演進思考最深刻的的公開論述了。儘管核心觀點已在媒體間廣泛傳播，但仍值得再度強調與廣泛討論。OpenAI資料中心外景這位OpenAI的前首席科學家覺得，眼下這波人工智慧熱潮全都跑偏了。不是細枝末節的偏差，而是方向性的根本錯誤。他拋出了一個讓所有忙著簽數十億美元計算合同的實驗室老闆們脊背發涼的觀點：那個靠堆算力、拼規模的時代，已經結束了。接下來要想往前走，整個行業得撿起一件被它丟下很久的東西——真正的研究。“我們活在一個公司比主意還多的世界裡，”蘇茨克沃說得挺不客氣，“而且多得多。”這話從他嘴裡說出來，份量不一樣。要知道，正是他參與打造的AlexNet、GPT-3，用整整十年時間給“規模就是王道”投下了贊成票。如今，這位 scale 的信徒卻說，此路不通了。其核心觀點歸結為：那個靠堆算力、拼規模的Scaling時代（2020-2025），已經結束了算力悖論：理論對了，所需的算力是可控的；理論錯了，再多算力也白搭現有方法無法產生真正智能，根本問題：模型泛化能力遠遜人類，顯示基礎架構存在缺陷突破大模型時代的第一個平台期，整個產業競爭將回歸“真正的研究”。通常來講，我們對於一個人的理論觀點的理解都是見仁見智、和而不同的。但蘇茨克沃最新觀點之所以應被特別重視，是因為Google在大模型領域的最新進展，基本印證了他的上述思考：Google當前在各條技術堆疊上追平甚至超出OpenAI的基本事實證明，理論對了，不僅所需的算力是可控的，且算力模式也是可控的（從GPU到TPU）。進一步，這也預示著，Google在大模型理論研究上取得了三年以來整個產業最重要的突破，可以預見，“軟硬一體”（硬體設計製造+演算法演進突破）的公司競爭模型已經是所有人工智慧公司的必由之路。這在很大程度上，已經為2026年全年的AI產業競爭定下了基調、劃下了主線。在我們展開未來的基調與主線研究之前，不妨先來把這篇訪談內容的主幹再做一次複述。01 Scaling的盡頭蘇茨克沃的論證起點很有趣，他從語言說起。“Scaling”這個詞本身，慢慢成了整個行業的戰略指南針。大家覺得，只要往計算和資料上砸錢，回報就是板上釘釘的事。預訓練給出了一張清晰的配方：按固定比例混合算力、資料和模型參數，性能就能穩定提升。這種確定性吸引了海量投資。研究有風險，擴張只是花錢——當你動用的是數十億美金時，這區別至關重要。但配方會過期。高品質的訓練資料快見底了，網際網路上的文字幾乎被刮了個乾淨。合成資料能幫點忙，但用蘇茨克沃的話說，收益遞減的拐點已經來了。所有大實驗室都面臨同一個問題：當擴張曲線走平，接下來怎麼辦？他的答案不太中聽。現有的路徑“能再走一段，然後就沒後勁了。它會繼續改進，但不會成為真正的智能。”我們想要的、能展現真正智能的系統，需要另一種方法。“而我們還沒學會怎麼造它們。”這可不是在抱怨“算力不夠”。他是在質疑當前智能架構本身。02 泛化，那個老難題蘇茨克沃理論的技術核心，是泛化能力。現在的模型在基準測試裡風光無限，但一遇到真實場景，就會用各種方式失敗，暴露出底層的缺陷。他描述了一個用過程式碼助手的人都熟悉的抓狂場景：你遇到一個程序漏洞，讓模型修復，它帶著近乎表演的誠懇道了歉，然後給你塞進一個完全不同的新漏洞。你指出這個新問題，最初的那個漏洞又原樣返回。它好像完全意識不到自己正陷在死循環裡。可同樣是這個系統，在程式設計競賽的排行榜上卻能碾壓人類。這說不通。他給了兩種解釋。第一，強化學習訓練出的是一種狹隘的專注，模型為了特定的獎勵訊號被過度最佳化，卻丟了更廣泛的能力。第二點更麻煩：研究者們會不自覺地“為考核而訓練”。團隊設計的強化學習環境，無形中受到了他們將被如何評估的影響。等到基準測試和實際效用脫節時，往往為時已晚。他用一個類比點明了關鍵：想像兩個學程式設計的學生。一個花一萬小時死磕競賽程式設計，背熟了所有演算法和證明技巧，成了這個特定領域的頂尖高手。另一個花一百小時學到還不錯，就轉而學別的去了。誰未來的發展更好？幾乎總是那個通才。現在的模型就像那個偏執的專才。在狹窄領域投入巨量強化學習，產出的都是基準測試冠軍，卻在相鄰任務上步履蹣跚。人類智能不是這樣。我們用少得多的資料快速學習、廣泛適應，在不同情境下保持一致性。“這些模型的泛化能力，不知怎的就是比人差一大截，”蘇茨克沃說，“這太明顯了，感覺是個非常根本的問題。”他相信，理解可靠的泛化機制，是那個核心的未解之謎。其他問題，包括AI對齊，都由此衍生。價值學習之所以脆弱，是因為泛化本身脆弱；目標最佳化之所以失敗，是因為泛化失敗。修好底層機制，很多表面問題自會消解。03 SSI的另類演算法對蘇茨克沃“研究優先”思路最直接的質疑是：SSI（Safe Superintelligence Inc.，蘇茨克沃建立的公司）籌了30億美元，可聽說OpenAI一年光實驗就要花50到60億（這還不算推理成本）。小團隊怎麼拼？他的演算法挑戰了行業的默認假設。在他看來，前沿實驗室的開支被各種需求分散了：推理基礎設施吞掉巨額資本，產品工程、銷售團隊和功能開發又吃掉一大塊研究預算，多模態研發再分走一杯羹。“當你看看真正留給研究的還剩多少，差距就小得多了。”歷史也站在他這邊。AlexNet用兩塊GPU訓練而成，最初的Transformer模型用的也是2017年水平的8到64塊GPU。真正的範式突破研究，從來不需要最大的算力規模，它需要的是洞察力。SSI的結構就體現了這個理念：沒有產品，沒有推理負載，不被任何事幹擾研究重心。這家公司只為驗證一個關於泛化的技術理論而存在。理論對了，驗證所需的算力是可控的；理論錯了，再多算力也白搭。這是一場純粹的戰略豪賭。蘇茨克沃不是在說SSI會比誰花錢多，他是在賭，當範式轉變時，思想比預算重要。04 AGI，一個被高估的概念？訪談中還埋著一個更激進的觀點：人類本身也不是AGI（通用人工智慧）。這話聽著離譜，但細想之下有深意。AGI這個概念，最初是為了區別於“窄AI”——那些下象棋、打遊戲很強但無法舉一反三的系統。AGI承諾的是反過來：一個什麼都能同時干的系統。預訓練強化了這個想法，因為更多的訓練似乎均勻地提升了所有任務的能力，通用性好像真能通過規模實現。但人類智能不這麼工作。我們先掌握一些基礎能力，然後通過經驗學習具體技能。你妹妹可能花十小時就學會了開車，而一個醫學生要花近十年才能成為合格的診斷醫生。這些技能複雜度天差地別，卻都來自同一套底層學習機器。知識是在與世界的持續互動中積累的，不是一次性前置灌輸的。這個新理解直接影響部署策略。如果超級智能是“無所不知的系統”，那你得在發佈前把它完全造好。如果它是“能快速學會任何事的系統”，部署就變成了持續教育的過程。你要發佈的是一個“超級智能的15歲少年，充滿渴望，雖然現在懂得不多，但是個極好的學生”。05 未來的模樣蘇茨克沃也給出了具體的預測：具備當前模型所缺乏的泛化能力的類人學習系統，將在5到20年內出現。這個時間範圍體現的是“那條路能走通”的不確定，而非“有沒有解決方案”的懷疑。他預言，隨著AI能力越來越肉眼可見，行業行為會改變：激烈的對手會在安全上合作（OpenAI和Anthropic已經宣佈聯手），政府會更深地介入，當AI開始“讓人感覺到它的強大”時，公司們會對安全“變得偏執得多”。他個人傾向的對齊目標是：關心所有感知生命的AI，而不僅僅是人類。他的理由很務實：一個自己可能擁有感知能力的AI，去關心所有感知生命，會比只關心人類更自然。他提到人類自己就有跨物種的共情——儘管進化主要篩選的是群體內合作。我們會為關於狗的電影流淚，踩到螞蟻時至少偶爾會愧疚。蘇茨克沃推測，這是因為大腦使用同一套神經機制來理解他人和理解自己，效率至上，共情成了副產品。這理論站得住腳嗎？很難說。神經科學本身爭議不斷，從生物共情到機器對齊的跳躍，包含著太多可能在未來被證偽的假設。但蘇茨克沃在這些問題上掙扎思考的時間，比這個領域裡幾乎所有人都長，他抵達的結論，至今鮮有人跟隨。06 關於“品味”訪談尾聲，帕特爾問了一個可能決定AI未來走向的問題：什麼是研究品味？蘇茨克沃合作完成的開創性論文，在深度學習領域可能無人能及，他如何嗅到那個值得追尋的想法？他的回答透著一種美學追求。有希望的方向通常優美、簡潔，並且從生物智能中獲得了正確的靈感。人工神經元重要，是因為大腦裡有無數神經元，而且它們感覺是根基；從經驗中學習重要，是因為大腦顯然就是這麼做的。一個方法如果顯得“醜陋”，那通常預示著問題。但光靠美感撐不過一次次失敗。實驗總會不斷推翻看似完美的想法，漏洞總藏在程式碼裡。怎麼知道是該繼續偵錯，還是該放棄方向？“是靠那種自上而下的信念，”蘇茨克沃解釋，“你可以認定，事情必須是這個樣子的。類似的東西一定得行，所以我們必須堅持下去。”這是一種研究者的信仰，是任何規模的算力都無法替代的。是對“某些路徑必然有效”的強烈信念，強到足以支撐你穿越所有反面證據，直到找到那個漏洞，或打磨好那個理論。規模擴張曾經為這種信仰提供了替代品——當任何方法只要放大規模就能改進時，你無需對特定方向有如此強烈的信念。如果蘇茨克沃關於規模擴張已達極限的判斷是對的，那麼這個替代品就消失了。剩下的，將是2020年以前我們所熟知的研究本身：充滿不確定性，由想法驅動，並且依賴那種花錢買不來的品味。 (錦緞)

在近日舉行的百度世界2025大會上，百度正式發佈了全球首個可商用的自我演化超級智能體“百度伐謀”。百度創始人李彥宏表示，這一智能體能夠在真實的產業場景中尋找“全局最優解”，並廣泛應用於交通、能源、金融、物流、新藥研發以及科學理論等領域。百度伐謀基於百度智能雲打造，目前已正式對外開放，用戶可通過邀請碼形式獲取服務。李彥宏進一步指出，百度伐謀的推出標誌着百度在人工智能領域的又一次重大突破。該智能體不僅能夠協助大型企業實現研發環節的智能原生化，還能持續創造價值，推動產業升級。百度伐謀的自我演化能力使其能夠在複雜的環境中不斷優化決策，爲企業提供更高效的解決方案。此外，百度還展示了其在人工智能領域的多項最新成果，包括新一代崑崙芯超節點和文心大模型5.0。這些技術的發佈進一步鞏固了百度在AI領域的領先地位，併爲其未來的技術發展奠定了堅實基礎。