#超級智能
•

川普與黃仁勳、馬斯克、祖克柏等科技巨頭達成AI協議，並正式將“人工智慧”改名為“超級智能”

美國總統川普29日對媒體說，他在白宮會見黃仁勳、馬斯克、祖克柏等多家科技企業負責人，討論人工智慧發展，並共同簽署一份“具有道德約束力”的人工智慧檔案，正式將“人工智慧”改名為“超級智能”  。 美國總統川普表示，他周二在華盛頓與多家科技公司高管簽署了一份與人工智慧（AI）相關的檔案，並稱該檔案具有“道德約束力”。此次會議聚集美國科技行業高管，討論AI發展和治理問題。 川普稱，該檔案“某種程度上像是一部憲法”，由全球最重要的科技人士簽署，能夠為AI發展提供一種保護機制。 他表示，政府正在考慮成立一個監督委員會，可能由約10人組成，以監督AI領域的發展。川普還稱，已正式將“人工智慧”（AI）的名稱改為“超級智能”（Super Intelligence/SI）。川普此前表示，美國不需要新的針對AI的專門監管措施，並在聯合國大會期間稱反對建立“全球化方案”控制人工智慧。
川普與黃仁勳、馬斯克、祖克柏等科技巨頭達成AI協議，並正式將“人工智慧”改名為“超級智能”
科技#超級智能#AI治理#川普
•

25.58萬元起！騰勢Z9S正式上市，純電續航1100km行業最長

9月23日，“科技豪華智能轎車”騰勢Z9S正式上市，推出閃充尊榮型、閃充旗艦型、易三方閃充性能型三款，滿足使用者的“悅己、悅人、悅非凡”需求，以硬核產品技術定義新豪華。 騰勢Z9S搭載第二代刀片電池及閃充技術，純電續航1100km行業最長，5分鐘充好，9分鐘充飽，零下30度只多3分鐘。 搭載易三方、AI超級智能體迪迪蝦、Diva智能夥伴、天神之眼5.0、雲輦-A智能空氣車身控制系統等領先科技，帶來超奢舒享、超長續航、超強駕控、超級智能體驗，是為勇於向上的使用者打造的夢想座駕。 騰勢Z9S官方指導價25.58萬元-32.58萬元！並為使用者準備了十一重專屬禮遇，價值至高8萬元，包括至高2萬元選裝權益，0首付、0月供、0利息金融方案，至高2萬元置換補貼以及1年免費閃充等尊享禮遇。騰勢推薦官計畫權益也同步上線，至高可以解鎖20項權益。
25.58萬元起！騰勢Z9S正式上市，純電續航1100km行業最長
汽車#純電續航#騰勢Z9S#豪華智能轎車
•

《經濟學人》封面文章：人工智慧有可能產生意識嗎？

即使他們不這樣做，他們也可能被如此對待——這將給人類帶來巨大的代價。 大多數人認為人類與眾不同。原因在於智人進化出了意識。許多動物都能感受到痛苦和快樂；有些動物似乎也具有自我意識。但人類思維展現自我意識的獨特潛能，使得該物種的每個成員都值得被特殊對待。 教宗良十三世在五月的通諭中重申了這一觀點，他明確區分了人類與日益壯大的人工智慧大軍。他指出，人工智慧系統不會經歷各種體驗，也不會感受到快樂或痛苦。他的觀點並非孤立。許多人認為，賦予人工智慧人格是一種褻瀆。 教皇的清晰立場正以驚人的速度變得模糊不清。人工智慧尚處於起步階段。然而，近五分之一的美國18至29歲年輕人表示，他們曾與聊天機器人保持著“持續的個人友誼”。中國最近剝奪了聊天機器人的類人特徵，以限制使用者對它們的“情感依賴”。
《經濟學人》封面文章：人工智慧有可能產生意識嗎？
科技#AI權利#生存風險#超級智能
•

祖克柏發6500字長文，提出去中心智能！但開源只是第一步

你好，我是王煜全，這裡是王煜全要聞評論。 未來的超級智能，到底該集中在少數機構手裡，還是成為每個人的工具？ 我們一直認為，是後者。AI最終可能不是一個中心化的超級智能，更可能是走向某種分佈式智能。 8月10日，Meta創始人兼CEO祖克柏發了一篇長文，叫《The Future is for Everyone》。他明確指出，不應該只有一個單一中心智能同時代表所有人的價值、利益和目標，更好的狀態，是把智能廣泛地分配給個人和企業，讓不同目標的智能彼此競爭和制衡。
祖克柏發6500字長文，提出去中心智能！但開源只是第一步
科技#祖克柏#去中心#超級智能
•

小扎萬字檄文炮轟矽谷，Meta重磅開源30B小鋼炮！一台MacBook就能跑

就在剛剛，Meta發力了！ 首先，Meta超級智能實驗室正式發佈全新30B大模型 —— Muse Glimmer，而且重磅開源。 這個智能體模型，專為本地裝置量身定製。它性能強大，卻被塞進不到20GB的記憶體裡，只要一塊消費級 GPU（比如 RTX 5090）或者一台 M4/M5 Max 的 MacBook 就能流暢運行！ 而且，Meta這次採用的是最良心的 Apache 2.0 協議，允許免費商用，隨便造。
小扎萬字檄文炮轟矽谷，Meta重磅開源30B小鋼炮！一台MacBook就能跑
科技#Meta#超級智能#Muse Glimmer
•

Meta 超級智能的未來：1 年進展更新

1.這一判斷的核心在於：Meta 通過內部錄屏和重組 3000。憑空創造了一家頂級資料初創公司；同時，其正同步建設 5 個 1GW 級“泰坦”叢集，並借助 AI Backbone 實現跨地域擴展，解決了超大規模訓練的算力與網路瓶頸。 2.2024 年。Ilya 有一句名言：“資料是 AI 的化石燃料。”這個類比正確強調了資料對訓練 AI 模型的重要性，但錯誤地假設優質資料的數量是有限的。現實中，只要需求足夠強，市場力量就會找到辦法。 3.風險判斷要同時看反向資料、融資條件和外部政策變化。與此相關，工作流最佳實踐和正確性定義會隨時間大幅變化，因此確保資料保持真實的唯一方法，是持續獲取真實錄屏。例如，今天一個好的程式設計 RL 任務會涉及編排子智能體，而這在短短 7 個月前還不存在。 4.Meta 在承受公關衝擊和初期員工反彈後。仍然足夠靈活、激進地推進這件事，這一點已經相當令人印象深刻。是的，他們後來略微退了一步，加強了隱私保護，並允許員工暫停追蹤器 30 分鐘，但我們認為這些只是很小的讓步。
Meta 超級智能的未來：1 年進展更新
美股#Meta#超級智能
•

DeepMind之父驚人自白：我造的AI可能滅絕人類，但已無人能停下

【新智元導讀】從攔截彼得·蒂爾、警告馬斯克，到如今公開說「必須有適應能力」，哈薩比斯史詩級轉身：AI安全窗口正在永久關閉，他不再幻想制度，而是賭上全部身家——賭影響力，賭良知，賭自己。最怕AI毀滅人類的人，正在拚命造AI！最相信治理的人，如今親口承認：治理徹底靠不住！最強調安全的DeepMind，也被拖入戰時軍備競賽！就在幾小時前， DeepMind創始人Demis Hassabis哈薩比斯自己親手砸碎了AI安全幻想，從理想主義者徹底轉向現實派。他承認：超級智能可能滅絕人類，卻只能靠自己「搶座上桌」來護航。哈薩比斯，這個曾發誓要用嚴密的制度、法律約束和倫理委員會將AI鎖進籠子裡的人，坐在那個破舊的吊燈下，無奈承認：「安全不再取決於治理結構。即便有董事會，在關鍵時刻，他們也未必會做對的事。」他轉而提出了一個極具現實主義、甚至帶有些許悲劇色彩的新方案：「我必須坐上桌，爭取影響力。」幻想再三破滅，哈薩比斯轉身哈薩比斯不是普通加速派。一般而言，AI領袖通常分為兩派：一派是以OpenAI奧特曼為代表的「加速主義者」，相信技術總能解決技術帶來的問題；另一派是憂心忡忡的「末日預言家」，認為AI可能像核武器一樣導致人類滅絕。但哈薩比斯是一個極其複雜的矛盾體：他是為了阻止末日，才決定親手製造AI。這種近乎悖論的動力源於他極度深邃的焦慮。哈薩比斯對「AI滅絕風險」瞭如指掌，熟悉程度甚至超過了最激進的抗議者。他和DeepMind的另一位聯創Shane Legg，就在一次AI安全的講座上相識。目前，Shane Legg任GoogleDeepMind的首席AGI科學家，擔任AGI安全委員會聯席主席，同時也領隊研究後AGI時代的世界可能是什麼樣子。在「奇點峰會」上，他曾攔截彼得·蒂爾（Peter Thiel），向他兜售關於機器如何超越人類的幻象。他曾當面告訴馬斯克，殖民火星毫無意義，因為如果超級智能是惡意的，它同樣能造出橫跨星際的火箭，火星絕不是人類的避難所。這種焦慮催生了他早期極具英雄主義色彩的「單體治理」（Singleton Scenario）構想——他曾嚴肅地計畫，帶著全球最頂尖的科學家，躲進一個秘密的「地堡」——可能是摩洛哥的沙漠，也可能是某個與世隔絕的孤島。在那裡，他們將像開發曼哈頓計畫一樣，在沒有資本壓力、沒有地緣競爭、沒有世俗干擾的情況下，代表全人類開發出第一個「絕對安全」的超級智能。哈薩比斯被馬斯克背刺？「只要這個世界上只有一隻手握著火種，我們就還能控制火勢。」 這是哈薩比斯最初的邏輯。為了這個邏輯，他在2014年將DeepMind賣給Google時，開出了歷史上最奇葩的收購條件：即使Google付了錢，哈薩比斯依然要在AI安全事務上保持絕對的獨立；設立一個由獨立專家組成的外部委員會來監督整個處理程序；AI的軍事應用將被嚴格禁止。從少年時代起，哈薩比斯就立志要建構強AI。而只有確保其安全性，他才能為畢生的事業找到正當理由。Google收購前不久，哈薩比斯曾提醒DeepMind的研究員候選人，如果簽約加入，就要做好心理準備——最終的終局之戰來臨時，他會進入一個地下基地，實現單體治理的壯舉。2015年，為了落實Google承諾設立的AI監督委員會，DeepMind組織了一場秘密集會，邀請了哲學家和技術專家參加。哈薩比斯邀請馬斯克主持集會，地點設在馬斯克的SpaceX加州總部。但這一招適得其反。這次集會，標誌著哈薩比斯的安全構想開始瓦解。馬斯克聽取了哈薩比斯及其聯合創始人的演示，隨後反其道而行之。他與奧特曼聯手創立了OpenAI。那一刻，哈薩比斯的安全烏托邦就開始死了。失了裡子，還丟面子了考慮到人性，這種局面不可避免。面對鑽木取火般史詩級的AI技術前景，人們並不會凝聚成一個單一的集體。他們爭論不休、相互嫉妒、各自為營。此時，哈薩比斯本可以停下來重新思考。如果「單一主體」的設想過於天真，AI開發者又如何避免一場衝向懸崖的競賽？但哈薩比斯非但沒有停下腳步，反而加速前進。2016年，AlphaGo橫空出世。機器智能超越人類智力的時間表，一下子提前了。為了跟上AI這一進展，哈薩比斯提出了新的想法，希望讓AI服務於人類。他與聯合創始人穆斯塔法·蘇萊曼一起，著手與Google談判，尋求建立一套新的治理保障機制。為了推進這個秘密的「馬里奧計畫」（Project Mario），他聘請了一支頂尖的法律團隊，獲得了外部10億美元的資金承諾，並考慮如果無法獲得對技術的控制權，就讓DeepMind從Google獨立出去。與此同時，蘇萊曼還帶領DeepMind團隊參與了一項幫助英國國家級的急性腎病管理項目。如果能實現AI的獨立治理，又能改善普通英國民眾的健康狀況，哈薩比斯或許就能確信，自己的追求確實是向善的。然而，這兩項努力均以失敗告終。與Google圍繞治理權的拉鋸戰持續了三年，困難重重。而幫助英國國家醫療服務體系的項目，則遭到了隱私保護倡導者的強烈反彈——他們憤怒於一家美國科技巨頭的子公司可能染指患者資料。到2019年，哈薩比斯和DeepMind在這兩條戰線上都已退卻。蘇萊曼最後也離開了DeepMind。ChatGPT致命一擊，GoogleAI狂飆2022年，ChatGPT的爆發，像一顆核彈丟進了哈薩比斯的辦公室。在此之前，哈薩比斯還試圖維持「科學家的優雅」。他帶領團隊開發AlphaFold，破解蛋白質折疊難題，拿下了諾貝爾獎。他認為這是AI服務人類的最高境界：一種純粹的、造福醫療的、可控的科學。但市場不這麼看。當ChatGPT成為歷史上增長最快的應用時，Google慌了，整個矽谷都瘋了。2022年，ChatGPT爆火那天，哈薩比斯在內部定調：現在是戰爭狀態！在這個狀態下，所有之前的安全承諾都變得脆弱不堪：Google開始積極接觸國防部門，試圖將AI賣給五角大樓（曾是哈薩比斯的紅線）。在權力鬥爭中，原本那個「獨立倫理委員會」幾乎隱形。為了追趕GPT-4，DeepMind與Google大腦強行合併，速度取代了嚴謹。哈薩比斯看清了一個殘酷的現實：在AI競賽中，沒有一個非營利的制度能寄生在營利性巨頭的體內。當生存受到威脅，所有的倫理都是奢侈品。哈薩比斯親眼看著自己親手築起來的所有牆，一堵一堵倒掉。他終於承認：「即使有治理委員會，關鍵時刻也可能做錯決定。」真正失控的不是模型，而是人類競賽孤獨的人類守望者現在，哈薩比斯徹底轉向現實主義。他的目標，是爭取到「一張決策桌旁的席位，這樣當安全問題出現時」，他就能參與決定解決方案。「事情不是非黑即白的，尤其是當你面對一項後果未知的技術時，」他告訴記者。「所以你必須有適應能力。你不得不從理想主義者轉變為現實主義者，但希望依然能堅守自己的價值觀。」哈薩比斯對「治理」的徹底祛魅，放棄了制度安全，改為靠個人影響力「搶座上桌」。一邊狂推AlphaFold拿諾貝爾獎、Gemini繼續衝鋒，一邊把希望死死攥在「有良知的人」手裡。更狠的反轉來了：連馬斯克這種曾經最激進的安全派都開始狂踩油門。樂觀派還在喊「對齊技術能解決一切」，可哈薩比斯自己都不信了。制度徹底死了。OpenAI董事會罷免奧特曼，又瞬間被資本力量反殺。他選擇了最無奈的一條路：「讓自己成為權力的一部分。」他現在的安全邏輯是：既然我無法阻止這場競賽，那我就必須贏得這場競賽。我必須留在牌桌上，我必須擁有最高的話語權。這樣，當真正的「奇點」來臨，當那個人類無法理解的決定需要被做出時，至少，坐在那個關鍵位置上的人，是一個從第一天起就對AI心存敬畏的哈薩比斯。他現在只能賭——賭「好人掌權」能救世界。可問題來了：如果AI安全只能靠「好人掌權」，到底是救贖，還是最危險的賭局？AI安全窗口正在永久關閉。超級智能若對齊失敗，造的火箭、殖民的太空，都逃不掉滅頂之災。人類本性早已把統一治理變成永遠的笑話。唯一希望，只剩「有良知的人掌握話語權」這種最脆弱、最危險的方案。哈薩比斯不是唯一改變的人，他只是第一個把殘酷現實說透的人。現在，第37手棋，已經落在我們每個人頭上——你我正在見證的，是一場文明豪賭。 (新智元)
DeepMind之父驚人自白：我造的AI可能滅絕人類，但已無人能停下
科技#DeepMind#AI#超級智能
•

Meta華人實習生搞出超級智能體！自己寫程式碼實現自我進化

能無限進步的「超級智能體」來了！最近，Meta研究團隊的一篇題為HYPERAGENTS（超級智能體）的論文迅速刷屏。這篇論文將LSTM之父Jürgen Schmidhuber二十年前提出的哥德爾機（Gödel Machine）思想，與達爾文開放演算法相結合，提出了能持續自我迭代的達爾文哥德爾機。基於此這一思想，Agent不僅能更好地完成具體任務、持續提高自身表現。更關鍵的是，它可以不斷最佳化“改進自身”的底層邏輯，實現“元學習（Meta-learning）”這，便是論文定義的新一代超級智能體——Hyperagents。論文更進一步提出：未來AI有望通過持續自我迭代，最終突破人類預設的初始演算法邊界，也正因如此，AI安全必須被擺在核心位置。不少網友也感慨道：元學習真正讓人既害怕又興奮的，是元層面的改進能夠跨領域遷移。這不是在某一件事上變得更厲害，而是學會了在一切事情上變得更厲害。目前，這篇論文已被ICLR 2026接收。從哥德爾機到達爾文哥德爾機要理解超級智能體Hyperagents，必須先瞭解它的基石——哥德爾機（Gödel Machine）。哥德爾機是一種假設性的自我完善型AI。它在數學上尋求證明：如果存在某種更好的策略，它會通過遞迴重寫自身程式碼來解決問題。而這一假設，最早由尤爾根·施密德胡伯（Jürgen Schmidhuber）在二十多年前提出。在傳統機器學習中，AI的“學習方法”是人類預設的硬編碼，它只能通過調整內部參數來逼近目標；而哥德爾機則打破了這一限制，它能夠將演算法框架本身視為可編輯的程式碼，通過自主重寫程序來實現學習能力的自我演進。但問題也隨之而來：哥德爾機往往要求AI在自我演進之前，證明該改動具備淨收益。也就是說，改程式碼花掉的算力成本，未來能不能通過更強的性能賺回來？不幸的是，這種計算在現實中的複雜任務中幾乎是無法實現的。針對這一問題，Meta團隊提出達爾文哥德爾機（DGM），它利用開放式演算法（Open-ended algorithms），通過在大模型提議的程式碼改進方案中進行搜尋，獲取能從經驗上提升性能的方案。換句話說，DGM利用基礎模型來提議程式碼改進方案，並利用開放式演算法的最新創新成果，來搜尋並建構一個不斷增長的、多樣化且高品質的AI智能體庫。基於此，DGM能創造出各種自我改進方案，例如：增加補丁驗證（Patch Validation）步驟、最佳化檔案查看功能、增強編輯工具、生成並篩選多個解決方案以選出最優解，以及在進行新更改時，會自動加入歷史嘗試記錄（並分析失敗原因）以供參考。論文的實驗還表明，DGM獲得的算力越多，自我提升效果越好。超級智能體雖然DGM很強，但它存在一個致命限制：它主要在程式設計任務中有效。這是因為DGM依賴一個關鍵假設——評估任務與自我修改任務必須“對齊”。在程式設計領域，這種對齊是天然的：提升了程式設計能力，自然也就提升了修改自身程式碼的能力。也就是說，解決外部程式設計問題的邏輯工具，可以直接轉化為修改其自身底層程式碼的能力。相反，如果是在非程式設計領域（如寫詩），即便提升了寫詩能力，也無法直接轉化為修改程式碼的邏輯水平。在這種缺乏“自指性（Self-referentiality）”的任務中，DGM的遞迴進化鏈條就會斷裂，陷入停滯。基於此，文章提出超級智能體——它們既能修改自己的任務執行行為，也能修改生成未來改進建議的過程。這實現了所謂的元認知自我修改（metacognitive self-modification）：不僅學習如何做得更好，還學習如何更有效地進行改進。進一步，論文將超級智能體實例化為DGM-Hyperagents (DGM-H)。DGM-H是對DGM的擴展，其中任務解決行為和自我改處理程序序都是可編輯且可進化的，其框架如下：自指性架構：它將“任務智能體（Task Agent）”與“元智能體（Meta Agent）”整合為一個單一的、可編輯的程序。元級進化：在Hyperagents中，“改進的方法”本身也是可以被改進的。這使得系統不再要求任務與修改必須對齊，從而實現了跨領域的“元認知自我修改”。打個比方，在Hyperagents中，運動員不僅在訓練，教練也在學習如何更好地執教。由此，運動員的表現和教練的執教水平不斷螺旋上升。此外，DGM-H還改進了生成新智能體的過程（例如引入持久化記憶、性能追蹤等），且這些元級改進具有跨領域遷移和跨運行累積的特性。實驗驗證：從20%到50%的跨越實驗證明，達爾文哥德爾機（Darwin Gödel Machine）能夠通過修改自身程式碼庫實現持續的自我提升。在SWE-bench上，DGM自動將其性能從20.0%提升至50.0%。在Polyglot上，DGM的性能從初始的14.2%躍升至30.7%，遠超由Aider開發的具有代表性的人工設計智能體。這些結果證明了DGM能發現並實施有效的自我改進。而實現這一點的關鍵在於其開放式進化搜尋策略：通過從現有智能體庫中採樣生成新智能體，DGM能夠平行探索多條進化路徑。性能稍遜的“祖先”智能體在發現新方法和功能方面起關鍵作用，避免了早熟收斂。此外，DGM的改進具有廣泛的遷移性：針對Claude 3.5 Sonnet最佳化的智能體，在切換到o3-mini或Claude 3.7 Sonnet時仍能提升性能。在Polyglot基準中，Python任務上的自我改進同樣提升了Rust、C++、Go等不同語言任務的表現。 (量子位)
Meta華人實習生搞出超級智能體！自己寫程式碼實現自我進化
科技#Meta#華人實習生#超級智能體
這些都假設智能體有無限的擴充能力，但現實生活中都受限，無限分裂的子智能體或許還比較可行?