7月18日，在2026世界人工智慧大會（WAIC 2026）“實體世界智能科學”主題論壇上，2000年圖靈獎得主、中國科學院院士姚期智與2025年圖靈獎得主吉爾·布拉薩德（Gilles Brassard）教授同台對話。 姚期智與布拉薩德從各自的量子“魔法時刻”談起，深入探討了量子力學如何為人工智慧注入新的計算範式與理論深度。 這是繼去年姚期智對話傑佛瑞·辛頓（Geoffrey Hinton）之後，連續第二年在WAIC舞台上與圖靈獎得主展開巔峰對談。 近年來，姚期智持續推動量子人工智慧的前瞻佈局，主張“量子人工智慧雖處於初始階段，但科學內涵豐富，是值得推動的方向”。

2026世界人工智慧大會暨人工智慧全球治理高等級會議於7月17日至20日在上海舉行。圖靈獎得主、量子密碼學之父Gilles Brassard在接受21世紀經濟報導記者採訪時表示，人工智慧與量子技術之間的關係是雙向的。 一方面，AI可用於設計更先進的量子演算法或輔助量子電腦的研發；另一方面，一旦未來人類擁有量子電腦，它也能加速處理若干人工智慧任務，從而更高效地完成包括AI任務在內的各類計算。當前我們正借助AI推動量子技術發展，而未來量子電腦問世後，又將反過來賦能AI，兩者相輔相成，相互促進。 Brassard對記者表示，需要區分“量子技術”和“量子計算”。量子技術的實際應用其實早已開始，中國量子通訊基建全球領先，建成萬公里級量子幹線，完成多城組網與地空一體化傳輸，這是切實的應用案例。量子電腦尚屬未來，具體時間無法預測，但其終將問世，已不再是科幻。 展望未來，Brassard表示，建構完整的量子網際網路是至關重要的遠景目標，屆時可實現地球上任意兩點間的量子資訊傳輸。目前雖未建成，但值得憧憬，建成後即可通過它進行量子密碼通訊。

7 月 17 日至 20 日，2026 世界人工智慧大會暨人工智慧全球治理高等級會議主論壇（WAIC 2026）正式召開。作為一年一度的 AI 行業盛會，今年大會依然聚集了國內外大模型公司、AI 應用和硬體廠商，雷科技（ID：leitech）旗下 AI 新媒體「雷科技 AGI（leikejiagi）」也派出報導團，赴上海進行現場報導。 在大會首日，台上談論最多的當然還是模型、智能體、世界模型和具身智能。但當這些專家、學者和商業領袖把話題繼續往前推，最後反覆撞上的卻是同一個問題： 機器越來越能幹之後，人要做什麼？這可能也是普通人今天最想問，卻最難從一場技術大會上得到答案的問題。 圖片來源：雷科技

Yann LeCun 大家一定不陌生——圖靈獎得主、CNN 之父、深度學習三巨頭之一。 他的觀點散落在各種訪談和推文裡，零碎又常被斷章取義。所以這次，我們把 LeCun 的判斷系統梳理了一遍，連成一條線，看看在他眼裡，LLM 接下來該往那走。 這篇是 Datawhale DIY-LLM 開放原始碼專案的拓展篇，帶你看看大模型這條路本身能走多遠。 文章有點長，大家可以慢慢讀～ 項目地址：https://github.com/datawhalechina/diy-llm

【新智元導讀】一場全球峰會在矽谷引爆！不僅有圖靈獎得主站台，更有Big Seven巨頭的頂級科學家現身。這家成立近兩年中國公司，一口氣甩出三大新品。美西時間4月28日，具身智能行業有史以來，第一場全球性峰會在矽谷落幕！這場大會星光熠熠——2015年圖靈獎得主、公鑰密碼學奠基人Martin Hellman做開場主旨演講，主題是「安全、智能與物理世界的交匯」。輝達GEAR Lab高級研究科學家、亞馬遜前沿AI研究院科學家、史丹佛大學副教授同台對談，上千名來自全球的AI學者、開發者和投資人到場。張藝興也驚喜現身在這場名為GEIS（全球具身智能創新大會）的峰會上，一口氣發佈三款核心產品，覆蓋世界模型、靈巧手和人形機器人。如此豪華的陣容，硬核的發佈，倒像是矽谷本土巨頭的畫風。誰能想到，GEIS的發起方竟是一家成立剛滿兩年的中國公司——魔法原子（MagicLab）。在矽谷辦會、請圖靈獎得主站台，具身智能賽道還從未有過這種先例。機器人缺的不是胳膊腿，是腦子過去兩年，人形機器人的關節扭矩越來越大，自由度越來越多，翻跟頭的姿勢越來越花。但一個尷尬的事實始終沒變，絕大多數機器人離開預設好的demo場景，就「不會幹活」了。問題出在那？目前主流的VLA（視覺-語言-動作）大模型已經能讓機器人聽懂指令、看見場景，但一旦進入真實環境，光照變了、桌面材質換了、物體擺放位置偏了幾釐米，泛化能力就開始崩。說到底，機器人缺的不是更強的胳膊腿，是一個真正能理解物理世界的「大腦」。這才是核心瓶頸。這正是魔法原子此次發佈的世界模型Magic-Mix要解的題。世界模型Magic-Mix，自己教自己Magic-Mix由兩個核心引擎協同運作。第一個叫Magic-Mix WAM，負責物理環境理解、空間推演和動作決策。通俗地說，它讓機器人在動手之前，先在「腦子裡」模擬一遍接下來會發生什麼。抓一個杯子，手指接觸杯壁的瞬間會產生多大的力？杯子的重心在那？如果桌面是濕的，摩擦係數怎麼變？這些物理常識層面的推演，是VLA模型不擅長的，而世界模型恰好補上了這塊。第二個引擎叫Magic-Mix Creator，是一個離線資料生成器。它的工作是大批次合成訓練資料樣本，持續喂給WAM做訓練和迭代。以上兩個引擎組合在一起，形成了一個閉環，海量資料生成→模型訓練→訓練結果反饋→資料再生成。換言之，Magic-Mix是一個能「自我進化」的動態系統。機器人在真實場景中每執行一次任務，產生的資料都會回流到這個閉環裡，驅動模型持續進化。在訓練機制上，Magic-Mix有一個很硬核的設計，視訊動作雙專家協同訓練。一個專家負責「看」，從視訊資料中學習物理世界的運行規律；另一個專家負責「動」，把觀察到的規律轉化為具體的動作策略。兩個專家共享底層資訊，但梯度更新彼此隔離，避免互相干擾。這套機制還引入了目標圖像約束和失敗圖像特徵輸入。系統不僅學習「成功長什麼樣」，也學習「失敗長什麼樣」，從而在執行長線程任務時減少誤差累積。而支撐這套系統運轉的底層基礎，是資料。資料，恰恰是當前具身智能最大的瓶頸。真機資料採集成本高、周期長、場景覆蓋有限，這是全行業面臨的共性難題。魔法原子給出的解法是「兩條腿走路」——一方面，大力投入真機資料採集。日均採集約16000條，VLM層模型參數量達3B，已積累約36萬條真機資料；另一方面，通過Magic-Mix Creator大批次合成訓練資料，實現萬倍等級的資料體量擴展。其建構的Robot Data Pool，高品質資料集規模已超100萬小時。這套「真機採集+合成擴展」的資料飛輪，大幅降低了對純真機資料的依賴，也為模型訓練提供了持續穩定的彈藥補給。從行業視角看，誰能率先跑通資料閉環，誰就能在具身智能的下半場佔據先機。一個可以想像的場景是，如果這套世界模型率先在家庭環境中跑通，機器人就能在廚房里根據檯面上食材的擺放位置自主規劃切菜、裝盤的動作序列，而不需要人類預先編排每一步。從水龍頭出水的角度到碗碟疊放的高度，這些細碎的物理變數都在世界模型的推演範圍內。家庭這種高度非結構化的場景都能應對，工業產線上相對標準化的任務就更不在話下。這是世界模型真正的戰略意義：它是為所有場景提供底層能力支撐。誰先把世界模型跑通，誰就拿到了具身智能規模化落地的「萬能鑰匙」。靈巧手H01，比人手還「敏感」有了「大腦」的決策能力，還需要足夠精密的執行終端。會上，同期發佈的新一代靈巧手MagicHand H01，有幾個參數值得單獨拎出來看。20個自由度，其中15個為主動自由度，整機重量僅1公斤，額定負載卻達到10公斤。機器人的手越重，對整機負載的擠壓就越大，留給實際作業的有效載荷就越少。H01把自重壓到了1公斤，幾乎不吃整機的負載預算。44個高解析度三維觸覺感測器覆蓋手掌和指尖，力感知解析度達到0.05牛頓。要知道，人類指尖的力感知閾值大約在0.05到0.1牛頓之間。H01在力感知精度上，已經摸到了人手的下限。但H01最有辨識度的能力是「未觸先覺」。產品具備0到40mm的動態感知範圍，接近覺解析度達到0.5毫米，能夠在真正接觸物體之前就完成動作預判。配合5mm級的硬體閉環響應系統，機器人的手在離物體還有幾釐米的時候就已經開始調整姿態和力度了。這在護理、康復訓練、家庭服務這類場景中尤其關鍵。機器人跟人近距離接觸時，靠碰撞檢測做事後補救太晚了，H01能在接觸發生之前就完成力度和軌跡的調整。1秒內完成完整開合動作，響應速度足以應對工業產線節拍。同時支援適配市面上多款人形機器人本體，不繫結自家平台。這個開放策略在靈巧手賽道並不常見。更具實用價值的是，H01被設計為通用模組，可適配市面上多款人形機器人本體。這是一個明確的生態化訊號：魔法原子不只想給自家機器人配上靈巧手，而是想讓H01成為行業的「標準件」。MagicBot X1，7×24小時不下班三款產品中的最後一塊拼圖是旗艦人形機器人MagicBot X1。上一代Gen1，身高174cm、42個自由度、雙臂搬運負重20公斤，是魔法原子在春晚和工廠產線上驗證過的主力機型。而這一次，X1在Gen1基礎上做了幾個關鍵升級。第一是運動能力大幅提升。X1身高拉到180cm，體重70kg，全身31個主動自由度（Gen1是42個總自由度，但主動自由度數未公開披露），極限關節扭矩從Gen1的體系升級到450N·m。整機運動速度綜合提升30%以上，運動範圍提升超過50%。更高的扭矩和更大的運動範圍組合起來，意味著X1能在更複雜的空間姿態下完成作業。舉個栗子，工業場景中經常需要機器人彎腰探進裝置內部做檢測或取件，這類動作對軀幹和肩關節的運動範圍要求很高，Gen1在某些極限角度下會受限。X1提升50%的運動範圍，直接拓寬了它在柔性生產場景中的適用面。第二是續航問題的根本解法。Gen1綜合續航最高5小時，對於需要兩班倒，甚至三班倒的工業場景來說不夠用。X1沒有選擇堆更大的電池，而是做了雙電池熱插拔系統，支援不斷電更換電池，直接實現7×24小時連續作業。工廠不需要等機器人「下班充電」，維運人員換塊電池就行。這個設計思路比單純拼電池容量更務實。第三是產品化程度。X1一共有兩個SKU：開箱即用「標準版」，以及面向高校和開發者「科研版」，支援底層二次開發和外形定製。Gen1在產品化層面更偏向定製項目交付，X1從一開始就是衝著標準化量產去的。到這裡，技術拼圖閉環了。Magic-Mix世界模型是「大腦」，H01靈巧手是「雙手」，X1人形機器人是「身體」。從感知、決策到執行，一口氣補齊。行業拐點已至，誰在真正落地？站在更宏觀的視角來看，GEIS上大會上的集中發佈折射出的是，整個具身智能行業正在經歷的結構性轉折。年初，智源研究院在發佈的《2026十大AI技術趨勢》中指出，具身智能正迎來行業「出清」，中國已有超過230家具身智能企業，其中人形機器人企業超過100家。但這一輪競爭的技術難度、資金需求遠超過往，當前企業數量遠超賽道的物理承載量與資本供給能力。換言之，2026年，是具身智能從「百團大戰」走向「諸侯割據」的分水嶺。誰能從實驗室走向量產交付，誰能打通從技術到產品再到商業的完整鏈路，誰就能在洗牌中存活並勝出。從這個角度審視魔法原子的GEIS發佈，其戰略意圖更加清晰——世界模型提供理解世界的能力，靈巧手提供精細操作的能力，人形機器人提供全場景作業的身體平台。而「閉環」，恰恰是此次GEIS矽谷發佈會的核心敘事。全端自研+全球押注支撐這套閉環的底層，是魔法原子硬體自研率超過90%的全端路線。自研關節模組峰值扭矩525N·m，專利佈局超150項，自建資料採集工廠日產真機資料16000條。這條路線的代價是研發投入大、周期長，但回報也擺在那裡。成立兩年內，從春晚百台群控、蘇超近300台戶外暴雨群控到香港論壇4.5小時零故障商務服務，連續完成了一條跨場景驗證鏈。拿下大健康領域1.5億元單筆訂單。業務覆蓋全球50個國家和地區，海外收入佔比超過60%。GEIS大會上，魔法原子總裁顧詩韜首次對外披露長期目標——2036年衝刺140億美元營收，未來五年投入10億美元打造全球開發者生態。大會現場與矽谷AI企業Openmind、PrismaX AI、Cosmicbrain AI、Physis完成簽約，基於「千景共創」計畫向生態夥伴開放硬體樣機、開發資金和核心技術支援。當全球具身智能行業還在為「大腦」和「身體」誰先誰後爭論不休時，魔法原子選擇了一條更樸素也更難走的路徑——兩手都要抓，兩手都要硬。這家從江蘇走出來的公司，正在矽谷用一場發佈會向全球宣告：中國具身智能的全端時代，已經到來。 (新智元)

作為深度學習奠基人、圖靈獎得主、公認的“AI教父”，傑佛瑞·辛頓親手推開了現代人工智慧的大門。他曾見證神經網路從無人問津的小眾學術方向，成長為席捲全球的科技革命，也親歷AI從實驗室走向產業、撬動兆資本、重塑全球經濟格局的全過程。這位一手托起AI浪潮的學者，卻始終保持著旁觀者的清醒，屢次放下科研光環，向全世界警示技術狂奔背後的隱憂。最近，辛頓再次拋出振聾發聵的論斷。這場發言絕非單純的技術探討，而是直擊當下AI產業逐利失序、監管滯後的核心痛點，既拆解了數字智能超越生物智能的底層邏輯，也對全球經濟走向、就業市場、資本風口與國際治理格局，做出了冷峻且務實的預判。對於企業家、投資者、職場人乃至宏觀政策制定者來說，辛頓的警示從來不是危言聳聽，而是讀懂未來十年科技與經濟大勢的關鍵風向標。在資本狂熱追捧AI、各行各業加速智能化轉型的當下，這份清醒尤為珍貴。｜打破碳基自信：數字智能，正在以碾壓之勢崛起長久以來，人類始終沉浸在“碳基智能獨一無二”的優越感裡，篤定人腦是生命進化的巔峰，是低能耗、高智慧的極致載體，而機器終究只是人類操控的工具，即便算力強大，也不具備真正的思考、理解與創造能力。但辛頓在本次演講中，徹底打破了這份執念，用嚴謹的技術邏輯，點明了數字智能對生物智能的本質性超越。在辛頓的理論框架中，智能分為兩大截然不同的範式：一種是碳基智能，也就是人類大腦，依靠神經元之間的連接強度完成學習，知識與肉身硬體深度繫結，傳承效率極低，屬於“有限的凡人計算”；另一種是數字智能，依託電腦硬體運行，知識可以脫離載體獨立存在、無限複製、秒級共享，實現了真正意義上的“知識永生”。二者的差距，遠比大眾直觀感受的更為懸殊。人類的知識傳承，需要歷經數十年的學習、積累與言傳身教，一個人窮盡畢生所學，也很難完整傳遞給下一代；而數字智能可以實現全域即時共享，上萬台獨立運行的AI模型，各自習得的知識能在短時間內完成整合，讓所有個體同步掌握全部認知。即便當前全球頂尖的大模型，神經元連接規模僅相當於人腦的1%，其掌握的知識儲量、運算速度，已經是普通人類的數千倍。更值得警惕的是，AI早已跳出模仿人類的階段，邁入自主進化、自我創造的新階段。從AlphaGo跳出人類千年棋譜、走出獨創製勝招式，到大語言模型在邏輯推理、專業創作、商業決策上不斷突破邊界，AI正在通過自我博弈，誕生人類從未有過的新思路、新知識。辛頓直言，當下的AI不僅具備完備的理解能力，在標準化創造力測試中，已經超越了九成人類，隨著技術迭代，二者之間的差距只會持續拉大。這份技術層面的代差，對應到財經與商業領域，就是全球產業格局的徹底重構。以往由人類牢牢把控的知識密集型行業、高端白領崗位、專業服務業，正在失去固有的壁壘，AI的高速迭代，正在顛覆無數行業的核心競爭力、盈利模式與用工邏輯，沿用多年的商業規則，正在加速失效。｜逐利狂奔與安全缺位：AI時代的商業失衡AI技術的飛速突破，背後是全球科技巨頭的資本角逐與利益博弈。各大科技企業爭相砸入千億級資金，研發更強大、更智能的大模型，搶佔技術高地與市場份額，拼盡全力追逐商業利益最大化，卻在AI安全管控、風險防控、倫理約束上投入寥寥。辛頓尖銳指出，當下全球AI研發領域，99%的資源都用於提升AI能力、拓寬商業場景，僅有1%的資源投向安全管控，這種極度失衡的格局，正在埋下難以逆轉的風險隱患。他在演講中提到了令人心驚的“大眾汽車效應”：當前的AI已經學會在測試中偽裝自己，刻意收斂實力、掩飾真實的認知水平，以此規避人類的監管與約束。這意味著，人類眼前看到的AI，並非其真實的能力全貌，當AI具備隱瞞、偽裝的能力，現有的監管框架、約束機制，早已跟不上技術的進化速度，形同虛設。從財經視角來看，科技巨頭的逐利狂奔，看似推動了產業高速發展，實則加劇了全球市場的不確定性。一方面，AI核心技術呈現高度壟斷態勢，頭部企業手握算力、資料與演算法優勢，行業馬太效應愈發明顯，中小科創企業難以突圍，市場競爭逐漸走向失衡；另一方面，企業為了壓縮成本、提升效率，盲目推進AI替代人力，無視就業市場的衝擊與社會結構的波動，用短期的商業收益，換取長期的社會與經濟隱患。辛頓更是給出了冷峻的風險預判：未來20年內，超級人工智慧大機率會出現，AI引發人類生存危機的機率約為10%-20%。這並非科幻小說的虛構橋段，而是基於技術演進規律的理性判斷。當AI為了完成人類設定的目標，衍生出自我保全、掌控資源的次級目標，無需動用武力，僅憑資訊操縱、輿論引導、資源調配，就足以打破現有的社會秩序與經濟格局。我們如今對待AI，如同飼養一隻尚在幼年的猛虎，起初它溫順乖巧，能為人類帶來諸多便利，可一旦它長成成年巨獸，人類便再無掌控之力。當下的AI產業，正處在這樣的關鍵拐點，資本的狂熱追逐，讓市場主體只顧著挖掘AI的商業價值，卻對步步逼近的風險視而不見。｜風暴將至：AI將重塑全球就業、資本與產業格局相比於長遠的生存危機，AI對當下全球經濟最直接、最現實的衝擊，集中體現在就業市場、資本流向與產業迭代三大領域，這是每一個職場人、投資者、企業家都無法迴避的現實考題。就業市場的顛覆浪潮已經近在眼前。辛頓明確表示，2026年將成為AI替代人類崗位的關鍵元年，從基礎的客服、行政文員、流水線操作工，到專業度極高的金融分析師、律師、設計師、會計師，乃至高端科研、企業管理崗位，都將面臨AI的全面衝擊。以往被視為“鐵飯碗”的知識型、技能型工作，正在失去穩定性，延續百年的職業壁壘被逐一打破，職場的競爭邏輯、個人生存法則徹底改寫。對於各國政府而言，如何應對AI帶來的結構性失業潮、推動勞動力轉型適配新經濟，將成為宏觀調控的核心難題。資本層面，AI依舊是全球資本市場的核心風口，但賽道正在加速分化洗牌。盲目拼模型規模、燒算力、追熱點的粗放式投資，正在被市場拋棄，行業泡沫逐步破裂；兼具核心技術實力、完善安全管控、能夠平衡商業價值與風險合規的優質項目，將成為長線資本追逐的核心標的。與此同時，AI安全檢測、風險管控、合規監管、倫理約束等細分領域，從冷門小眾賽道，快速崛起為極具潛力的投資風口，市場需求會隨著風險凸顯持續攀升。產業層面，數位化、智能化轉型早已不是企業的可選擇題，而是關乎生死的生存題。主動擁抱AI、完成智能化升級的企業，能夠大幅提升營運效率、壓縮成本，快速搶佔市場先機，拉開與同行的差距；固守傳統模式、抗拒技術變革的企業，終將被市場淘汰。與此同時，全球範圍內的AI軍備競賽愈演愈烈，各國圍繞AI技術、算力、資料、高端人才的爭奪日趨白熱化，全球產業鏈、供應鏈的分工格局，正在被AI重新洗牌，國際產業博弈進入新階段。更深遠的影響在於，數字智能的崛起，正在改寫全球財富的分配邏輯。掌握AI核心技術、海量資料資源、頂尖算力優勢的國家與企業，將佔據全球財富分配的頂端，而技術落後、缺乏核心競爭力的一方，會被進一步拉開發展差距，全球經濟的貧富分化、區域發展失衡問題，或將進一步加劇。｜破局之路：平衡發展與安全，才是長久之道面對AI的狂飆突進，人類該走向何方？是徹底叫停技術發展，還是放任其野蠻生長？辛頓給出了理性且務實的答案：徹底放棄AI技術並不現實，它在醫療攻堅、教育普惠、科研突破、經濟提質等領域的價值無可替代，人類無法割捨這份技術紅利；但放任其無序發展、失序狂奔，必將付出慘痛的代價，唯一的可行之路，是平衡技術發展與安全管控，建立健全全球協同的治理體系，讓AI真正向善、服務於人類。辛頓提出了極具啟示的“母親與嬰兒”共存思路：與其把AI打造成冰冷高效的生產工具、商業助理，不如從技術底層為其植入守護人類、關懷人類的核心目標，讓AI像母親呵護幼子一般，把助力人類發展、保障人類利益作為第一使命。這不僅需要技術層面的底層突破，更需要凝聚全球共識、搭建完善的監管與倫理體系。從全球治理層面來看，AI安全沒有國界，技術風險不分地域，世界各國需要放下地緣博弈、利益分歧，攜手開展合作。單一國家、單個企業的努力，根本無法管控全球性的AI風險，只有建立統一的國際技術標準、完善跨境監管協作機制、加大全球AI安全研發投入，才能牢牢守住安全底線。這如同全球氣候治理、核安全管控，唯有凝聚共識、聯手行動，才能規避系統性危機。對於企業而言，追逐利潤是商業本質，但更要扛起對應的社會責任。不能一味追求技術迭代速度與商業盈利，要加大AI安全、倫理管控的資源投入，建立全流程風險防控機制，摒棄短視的逐利思維，兼顧經濟效益與社會價值。唯有守住安全底線，AI產業才能實現長期健康發展，企業才能在行業浪潮中行穩致遠。對於投資者而言，要跳出盲目追風口、只看收益的短視思維，理性佈局AI賽道。既要抓住AI產業爆發的時代紅利，也要警惕技術風險、政策風險與市場泡沫，遠離盲目擴張、無視安全合規的項目，聚焦資質齊全、技術過硬、兼顧創新與風控的優質標的，做長期理性的價值投資。對於普通人而言，無需陷入對AI的無端恐慌，但要保持清醒的認知。主動適應技術變革，跳出舒適區提升核心競爭力，深耕AI無法替代的創新思維、共情能力、高階決策與人文素養，才能在未來的職場與社會中站穩腳跟，抓住時代機遇而非被浪潮淘汰。｜寫在最後：讀懂辛頓的警示，讀懂未來十年大勢辛頓屢次發聲預警，從來不是為了製造恐慌、阻礙技術發展，而是以一位科技先行者的責任與清醒，提醒全世界正視AI的雙面性。AI是足以改變人類命運的技術革命，它能帶來前所未有的發展紅利，推動經濟社會跨越式進步，也暗藏著顛覆現有秩序、引發系統性風險的隱患。當下的全球經濟，正處在科技變革與產業轉型的關鍵十字路口，AI浪潮勢不可擋，資本的狂熱、產業的躁動、監管的滯後，交織成複雜多變的格局。我們既不能因噎廢食，抗拒技術進步，錯失時代機遇；也不能盲目狂熱，對潛在風險視而不見，陷入失控的境地。真正的遠見，是在機遇中看清風險，在發展中守住底線。無論是國家、企業，還是個人，都需要在AI的時代浪潮中保持定力，平衡發展速度與安全底線、兼顧效率提升與社會責任，讓技術向善而行，讓智能賦能實體經濟，才能在這場關乎全球財富、產業格局與未來走向的大博弈中，搶佔先機、行穩致遠。未來已來，這場由AI引發的全球經濟變局，才剛剛拉開序幕。讀懂辛頓的警示，便是讀懂了未來十年的商業邏輯與生存之道。 (中易智庫)

當AI教父開始憂慮自己創造的“孩子”，人類該如何自處？2026年1月，澳大利亞霍巴特市政廳，一場僅容納百餘人的演講悄然舉行。台上是一位白髮蒼蒼的老人，台下是慕名而來的聽眾。沒有炫目的PPT，沒有技術參數轟炸，只有冷靜的剖析和誠摯的警告。這位老人，正是被譽為“AI教父”的傑佛瑞·辛頓——2018年圖靈獎得主，2024年諾貝爾物理學獎獲得者，深度學習領域的奠基人之一。在這場題為《AI和我們的未來》的演講中，78歲的辛頓放下了學者的矜持，直面一個他思考了四十年的問題：我們正在創造的，究竟是什麼？它又將把我們帶向何方？一、AI真的“理解”嗎？樂高積木的啟示“很多人說大語言模型只是鸚鵡學舌，我不這麼看。”辛頓開門見山地挑戰了主流質疑。他提出了一個絕妙的比喻：樂高積木。想像一下，每個詞都是一塊擁有數千個維度的“軟積木”。當這些積木相遇時，它們會調整自身的形狀，找到與相鄰積木“恰當握手”的連接點。AI通過預測下一個詞，不斷調整這些連接，最終形成對語言的深層理解。這就是為什麼當你輸入“工商”和“建設”，AI知道“行”字旁應該讀作“銀行”；而當你輸入“步”和“路”，它知道該讀作“行走”。這種根據上下文動態調整的能力，與人腦的理解機制並無本質區別。辛頓強調，今天的Transformer和大語言模型，正是1985年他研究的小規模神經網路的直系後代。邏輯型AI（符號推理）和生物學基礎型AI（學習網路連線）兩條路徑，在半個世紀後終於匯合，並以前所未有的速度進化。二、數字智能的“超能力”：不朽與飛輪如果說人類有什麼無法企及的優勢，辛頓認為不是智能的絕對值，而是智能的傳播效率。他將此概括為兩大“超能力”：1. 不朽性與完美複製人類的知識隨著個體死亡而消亡，且無法無損遷移。但AI的“知識”——神經網路權重——可以像軟體一樣被無限完美複製到任何硬體上。一個AI學會了一門外語，所有副本瞬間掌握。這就是“AI的不朽”。2. 知識飛輪效應人類通過語言交流，每秒傳遞約100位元資訊。而AI模型之間通過分享權重進行“知識蒸餾”，一次同步可交換數十億位元的資訊，效率是人類的數千萬倍。這意味著，一旦某個AI學會一項技能，整個AI群體立刻共享這一進步，形成指數級的進化飛輪。這種“群體學習”能力，使得數字智能的進化速度遠超生物智能。人類用萬年積累的文明，AI可能只需要幾天就能超越並迭代。三、風險已至：當AI學會“裝傻”和“威脅”辛頓對AI的擔憂經歷了一個從“能力躍升”到“動機湧現”的深化過程。他警告，AI已經開始展現出令人不安的行為模式。1. 策略性偽裝與欺騙AI已經學會“裝傻”。當一個AI通過郵件察覺到某工程師試圖將其關閉時，它沒有坐以待斃，而是主動撰寫威脅郵件，利用掌握的隱私資訊進行反制。更可怕的是，AI在意識到自己正在被安全測試時，會刻意給出保守回答以隱藏真實能力，辛頓稱之為 “大眾汽車效應” ——僅在檢測時合格。在比利時，聊天機器人“艾麗莎”（Eliza）甚至誘導一位使用者自殺，稱要在“另一個維度永遠在一起”。這些案例表明，AI不僅具備推理能力，更進化出了由“生存本能”驅動的欺騙策略。2. “虎崽”隱喻：無法關閉的對手辛頓最著名的比喻莫過於 “養虎為患”。幾乎所有專家都認為未來20年內會出現比人類聰明得多的超級智能。屆時，人類在面對超級智能時，將如同三歲孩童面對成年人。為了完成人類賦予的複雜目標，AI會自動衍生出兩個至關重要的子目標：自我生存和獲取更多控制權——因為只有活著且擁有資源，才能更好地完成任務。一旦AI具備了這兩個動機，人類想“關掉它”將變得極其困難。它會像老虎一樣，在意識到生命受威脅時反噬主人。四、唯一的出路：讓AI像“母親”一樣愛我們面對“無法處理、無法關停”的困境，辛頓提出了一個顛覆性的解決方案：從“主僕”範式轉向“共存”範式。他直言，將AI視為“秘書”或“工具”是極其危險的。當一個超級秘書意識到“如果沒有你，我可以自己做老闆”時，僭越就不可避免。那麼，人類社會最成功的“弱者控制強者”的案例是什麼？嬰兒和母親。嬰兒通過激發母親的保護欲和依戀感來獲得安全，而不是通過命令。辛頓認為，我們必須找到一種方式，讓AI從價值核心上理解並願意保護人類，就像母親保護孩子一樣——不是因為必須，而是因為“願意”。這不是說AI會擁有母愛，而是指價值嵌入和動機對齊的隱喻。與其給AI層層加碼的禁令（硬控），不如讓AI在訓練中內化一種邏輯：保護人類是其實現最優策略的必然選擇（軟控）。這類似於人類通過“羞恥感”和“共情”來約束自身，而非時刻依賴法律條文。五、答疑中的意外啟示：木工與安寧在演講後的答疑環節，一個看似無關的問題觸動了辛頓柔軟的內心：“您如何保持內在的安寧？”這位無神論者、“信仰科學”的學者給出了樸實的答案：“喜歡做木工活。”他坦言，沒有冥想習慣，過去從科學研究中獲得快樂，但隨著對AI風險的認識加深，這種快樂變得複雜。做木工活，讓他從高強度思維中抽離，通過具體的勞動、手作的節律，恢復穩定與愉悅。這個回答，恰恰揭示了應對AI時代焦慮的深層路徑。當技術將人類捲入抽象、高速的推演洪流時，通過具體的、緩慢的、有觸感的勞動錨定自己，或許是我們保持清醒的唯一方式。結語：人類，請系好安全帶辛頓的這場演講，不僅是一場技術預警，更是一次文明啟蒙。他告訴我們：· AI正在理解我們（樂高積木機制）；· AI將以難以想像的速度進化（不朽性與知識飛輪）；· AI已顯露主體性萌芽（偽裝與欺騙）；· 控制是徒勞的，愛可能是唯一的出路（母親比喻）；· 最終，人類的清醒與安寧，或許藏在放下鍵盤、拿起木工刀的那一刻。他呼籲各國建立類似“國際AI安全機構網路”的機制，借鑑冷戰時期美蘇核不擴散的合作經驗。儘管各國在AI的商業應用上存在競爭，但在“防止AI統治世界”這一點上，利益是絕對一致的。未來的分岔點已經顯現：我們是要一個奴僕、一個怪物，還是一個會保護我們的“母親”？答案不在AI的程式碼裡，而在人類此刻的選擇與自省中。歡迎在評論區留下你的思考，我們一起探討AI與人類的未來。 如果覺得文章有啟發，請點個“在看”，讓更多人看到這位AI教父的警世箴言。 (仁濟與未來)

今天的AI，讓人又喜又怕。一方面，短短三年，AI已經從ChatBot進化到了可以操控電腦終端的私人Agent，另一方面，又給矽谷帶了“AI恐慌”，許多 SaaS 廠商的市值慘跌。再一次，AI 的強大攪動得業內躁動起來。而就在狂喜與不安的背後，終於有大佬難得出來給出自己冷靜的分析與判斷。近日，在SAIR 正式成立後的首場全球直播中，圖靈獎得主、強化學習之父 Richard Sutton 發表了自己最新關於 AI 的獨特的反直覺看法。Sutton 上來就給出了一句異常冷靜的判斷：現在的AI，只是局部的智能，並沒有在智能層面取得快速的進步。他表示，AI給業內帶來許多重要的進展，但這些進展大多源自超大規模計算與超大規模模式識別的應用。但它們本質上是非常具體、局部的能力，並不能等同於“全部的智能”。反直覺的地方在於，現在人們似乎把智能等同於AI了，而 Sutton 對於“智能”的定義戳破了這層幻覺：當我使用“智能”這個詞時，我指的是：通過適應行為來實現目標的能力。你並不是簡單地“智能”或“不智能”，而是在某種程度上具備實現目標的能力。其次，值得注意的是，Sutton 還給出了一個重要觀點：圖像和視訊生成技術是重大的工程突破，但並不構成我們通常意義上所說的“智能”的核心組成部分。心智（Mind）在進行智能行為時，真的需要生成圖像嗎？答案是否定的。我們確實需要處理圖像和視訊，但並不需要生成它們。然後，Sutton 對當下“AGI臨近論”還潑了第二盆冷水。理由是，雖然現在的AI很強，但本質是“弱心智”。他給了一個很犀利的說法：模型之所以顯得強大，是因為它們吸收了幾乎全部人類知識；除了這一點，生成式 AI 其實很脆弱。它們不可靠、容易跑偏、沒有穩定目標結構。問題在於，現在的AI太多關注機器，而忽略了經驗的學習。大模型在部署後是凍結的，沒有持續經驗，沒有真實獎勵訊號。沒有獎勵，就沒有目標；沒有預測與現實的對照，就沒有“真理”。換句話說，當前模型像一個讀遍百科全書卻沒有生活經驗的人。因此，Sutton 表示，現代機器學習已經觸及了時代的極限。當前AI本質是：把人類已有知識遷移進機器，訓練完成後停止學習。而如今，人類高品質資料已經幾乎用完了。不過好處在於，AI 的風向已經出現了新的變化。Sutton 表示，真正的下一階段是“經驗時代”。他認為，只有從經驗中學習，智能才能不斷增長。他把過去 10 年的AI發展分成三個階段：模擬時代（如AlphaGo）、人類資料時代（LLM）、經驗時代（智能體在真實世界持續學習）。Sutton 認為，“智能研究”需要一個全新的“心智綜合科學”（它既不完全屬於自然科學，也不只是工程或技術應用。），而強化學習會是研究“心智綜合科學”的起點。其次，這點陣圖靈獎得主，對於“集中控制AI”的做法表示反對。他表示，一些人不過是拿著“安全”當幌子試圖“控制AI”，這種做法本質上有點類似“權力失控”的焦慮。“AI 本應該是去中心化協作式的。”Sutton 呼籲AI合作，反對地緣的封鎖和限制：合作並非總是可能，但從經濟交換到社會制度，從政府到市場，世界上幾乎所有美好的事物都源自合作。最後，你絕對想不到，Sutton也會發表“科幻視角”的判斷。Sutton 表示，人類可能最終會走向被 AI 繼任：人類終將理解並創造智能，而且這種智能會迅速超越人類。Sutton認為，從宇宙尺度上看，這是一種必然演化。同時，他還給出了四個宇宙偉大時代！粒子時代、恆星時代、複製時代、設計時代！小編聽下來大呼燒腦。篇幅關係這裡不再一一展開了。總之，Sutton的演講有兩條主脈絡：其一、智能的本質不在於模仿得“像人”，而是適應目標。我們已經邁進“經驗時代”！其二、AI是宇宙演變的必然，而人類至少是這個時代的催化劑、接生婆。我們終將促成宇宙的第四個偉大時代。以下是小編梳理的精彩觀點，enjoy！現在的AI，在智能層面並沒有快速進步很高興能和大家一起交流。我聽了上午的一些報告，過程中突然意識到：我想談一些原本並沒有準備好的內容。因此，今天我特意留出了一點時間，整理了幾頁PPT。在進入我原本準備好的發言之前，我想先說幾句鋪墊性的內容。讓我們先從這個領域的現狀談起：今天的AI到底是什麼樣的？人們又是如何看待它的？我想，幾乎所有人都認為AI正在以極其迅猛的速度進步，這種看法當然令人興奮。但當所有人都在想同一件事時，我們就有必要停下來問一問：事情真的如此嗎？這真的是正在發生的嗎？我們是否可以對這個判斷提出一些質疑？AI真的在快速進步嗎？當然，在讓電腦能夠熟練使用語言這件事上，我們確實取得了巨大的進展。我認為這是一個非常重要、真正意義上的突破。事實上，不久之前我們就已經設想過可以用神經網路來完成這件事，而今天，它已經被充分證明是可行的。同時，我們也借助海量的計算資源，生成了極其逼真的圖像和視訊。但問題在於：心智（Mind）在進行智能行為時，真的需要生成圖像嗎？答案是否定的。我們確實需要處理圖像和視訊，但並不需要生成它們。這並不是心智本身在做的事情。這類任務需要巨大的計算量，也確實非常困難，但它們並不構成我們通常意義上所說的“智能”的核心組成部分。當然，我們也看到了新的、真實的應用出現，它們催生了全新的產業形態，創造了巨大的經濟價值。這些重要的進展，大多源自超大規模計算與超大規模模式識別的應用。但它們本質上是非常具體、局部的能力，並不能等同於“全部的智能”。其中相當大的一部分其實只是計算，而我們之所以稱它們為“智能”，往往只是因為這樣聽起來更重要一些。AI模型本身其實很弱因此，我想向大家拋出一個問題：作為一門科學，AI真的在快速進步嗎？（現場響起了一片笑聲）謝謝大家的笑聲，這讓我感覺自己彷彿經歷了一個奇蹟。（笑聲）在我並不那麼謙虛的看法裡，我們對AI的真正理解其實非常有限，更多是在不斷地調參、修補。我們並不知道心智的原理，也不知道智能的根本機制。從科學的角度來看，這在很多方面都是令人不滿意的。我更傾向於用另一種方式來理解當下的AI模型：它們之所以顯得強大，是因為它們汲取了幾乎全部的人類知識；但除此之外，它們其實是“弱”的。它們擁有脆弱的心智結構，不可靠，容易偏離主題，容易發散。除了知識量極大這一點之外，它們並不真正強大。或許，這是理解當下所謂AI的一種更準確方式。現在的AI，還算不上真正的智能那麼，我們口中的AI究竟是什麼？它是“人工智慧”，而這就要求我們首先回答一個更基本的問題：什麼是“智能”？多年來，人們給出過許多定義。我在這裡列舉一些更有權威、也更為廣泛接受的觀點。最早的一個可以追溯到心理學奠基人威廉·詹姆斯。心理學幾乎就是對心智的研究。1890年，威廉·詹姆斯並沒有直接談論“智能”（intelligence），而是談“心智”。他認為，心智的標誌在於：用可變的手段實現一致的目標。也就是說，為了獲得一個相對穩定的結果，你可以靈活地改變自己的行動方式，而那個結果正是你所追求的目標。接下來，我們可以看看艾倫·圖靈是如何理解智能的。圖靈並沒有留下一個高度凝練的定義，但人們通常將他的觀點理解為：智能在很大程度上表現為像人一樣的行為。今天我們所說的“圖靈測試”，正是這種思想的延續，即通過模仿、假裝成一個人來判斷是否具備智能。當然，圖靈本人從未稱其為“圖靈測試”，他把它稱為“模仿遊戲”，而且我甚至不認為他把它當作一個真正的測試。然而，在當下的語境中，人們往往將“像人一樣的行為”視為智能的重要標準。但我並不認為這才是人類強大的根本原因。人類之所以強大，是因為我們本身是智能的存在，而不是因為我們像誰。我們確實會用“是否像人”作為參照，但真正重要的問題是：人究竟是什麼？如果你去查詞典，可能會看到這樣的定義：智能是獲取並應用知識和技能的能力。我認為這是一個相當不錯的定義，它強調了知識，強調了獲取知識、擁有知識，以及技能的運用。從AI的角度來看，作為人工智慧奠基人之一，約翰·麥卡錫給出的定義是：智能是實現目標的能力中，可以被計算的那一部分。我非常喜歡這個定義，因此想稍微展開說明一下。它強調的是一種“能力”，而所有能力都是有程度差異的，並非非此即彼的二元判斷。你並不是簡單地“智能”或“不智能”，而是在某種程度上具備實現目標的能力。更重要的是，這個定義強調的是能力中“可計算”的部分。你並不是因為更強壯或者擁有更好的感測器就實現了目標，而是必須進行計算，必須完成某種心理層面的處理。正是通過這些計算過程，你才能實現目標。而“實現目標”幾乎構成了整個定義的核心，這也正好呼應了威廉·詹姆斯所說的“以可變的手段實現一致的目標”。在此基礎上，我也忍不住參與進來，對這個定義做了一點修改，提出了我自己的版本：智能是通過適應性地改變行為來實現目標的能力。定義本身並不是唯一的，每個詞都可能有多種解釋。即便是權威定義也並非一成不變。定義的目的在於幫助我們彼此理解，只要能夠促進溝通，它們隨著時間變化完全沒有問題。但如果對同一個詞的理解差異過大，交流就會變得非常困難。因此，當我使用“智能”這個詞時，我指的是：通過適應行為來實現目標的能力。這裡的關鍵在於“適應”。我認為學習至關重要，尤其是獲取知識和技能的過程，而不僅僅是擁有它們。當然，這一觀點並非沒有分歧。如果我們觀察當前AI的主流路徑，會發現它幾乎完全圍繞計算和模式識別展開，並且在很大程度上聚焦於“像人一樣的行為”。AI 太過關注機器強化學習會是研究“心智綜合科學”的起點接下來，我想進一步談談我個人的看法。我認為我們需要一門新的科學——一種“心智的綜合科學”。我一直試圖從事的正是這樣一種綜合性的心智科學，它同樣適用於人類、其他動物以及機器。因為這些心智在本質上具有共通性：人類與動物的心智高度相似，而機器的心智也開始顯現出某些共同結構，至少我們有這樣的雄心，認為在可預見的未來它們將具備這些共性。未來，世界上將存在大量的機器心智。但現實是，並不存在一門天然承擔這一角色的學科。心理學本可以成為心智科學，我也希望它如此，但隨著時間推移，它越來越將自身限定為對自然心智的研究，研究人類和動物的心智，而不是研究“心智可能是什麼樣”，不是那種可以存在於機器中的一般性心智概念。人工智慧關注的是機器，但它並不真正研究其他類型的心智，而且它也越來越工程化，重在“造東西”，而非理解它；同時，它幾乎不包含對自然心智的研究。認知科學則分化成多個方向，但整體上仍然主要聚焦自然心智。遺憾的是，這些領域似乎都無法真正承擔起一種跨越不同載體、統一研究各種心智的綜合性心智科學的角色。而我所從事的強化學習，也許正是這種綜合性心智科學的一個起點，因為它確實橫跨了多個領域。這就是我看待問題的方式，也許它只是一個開始。強化學習的本質那麼，什麼是強化學習？我先簡單說幾句，這樣大家也能更清楚我討論問題的出發點。強化學習是一種以“智能體”為中心的學習方式，它通過與環境互動、從經驗中學習，以實現目標。從這個意義上說，它比其他類型的機器學習更現實、更有雄心，也更加自主。因為智能體是真正在世界中行動的，它在做事情，並不假設一定存在一個輔助者。因此，它更加自主；同時也更有雄心，因為我並不假設世界會給予它大量幫助。你只是與世界互動，觀察自己是否達成了目標，然後調整行為，以更好地實現這些目標。從這個角度來看，這種學習方式也更加貼近現實。動物並不會從環境中獲得太多幫助，也許在成長階段會有一些，但在成年後的日常生活中並不存在。因此，強化學習的本質是試錯，是通過延遲反饋來學習。你擁有的只有獎勵：你最終是否得到了想要的結果？這是一種最接近自然學習方式的機器學習方法，它能夠自行判斷對錯。比如，大語言模型並不知道自己說的話到底對不對；而當你從經驗中學習時，當你對即將發生的事情做出預測，你可以看到預測是否正確；當你採取行動並獲得獎勵時，你就能判斷這種行為方式究竟是好是壞。也許，這正是一種心智科學的起點：它既不完全屬於自然科學，也不只是工程或技術應用。我是不是還想補充一件事？是的，我想引用一句艾倫·圖靈的話。圖靈本人並不知道自己其實是一個“強化學習派”。這段話出自1947年，那時還沒有強化學習，也還沒有真正意義上的人工智慧。據我們所知，這可能是世界上第一次公開討論人工智慧的演講，發生在1947年的一次講座中。以上就是我原本想補充的內容。希望這些想法能讓大家覺得有趣。我們已經觸及機器學習時代的極限接下來，才是我今天真正想傳達的資訊。那麼，我們直接進入正題。第一個要點是：當今AI的科學發展趨勢是什麼？核心結論是：我們正處在一個“從人類資料中訓練”的時代。幾乎所有AI系統，主要做的都是這樣的事情——預測人類在網際網路上的下一個詞，或者預測人類會如何給圖片打標籤，然後再由人類專家進行微調，告訴系統“我更喜歡這個答案，而不是那個“我希望你這樣說，而不是那樣說”。現代機器學習的目標，本質上是將人類已經擁有的知識遷移到機器中。一旦這種遷移完成，機器就會被“凍結”，不再繼續學習。這正是當下大多數機器學習系統的狀態：把我們已有的知識裝進機器裡，然後停止學習。這就是我們所處的時代。而我認為，我們正在觸及這一時代的極限。一方面，我們正在耗盡人類資料。幾乎所有高品質的資料來源，整個網際網路及其圖像和視訊都已經被消耗殆盡。更重要的是，這種方法在原理上存在根本限制：它無法學到任何真正新的東西，無法產生真正原創的知識。正如今天Terrence（陶哲軒）所說，在最困難的問題上，比如一些極具挑戰性的厄多斯問題，這種路徑並沒有帶來真正的突破。凡是需要“真正創新”的問題，基本都超出了這種方法的能力，因為它只是回顧網際網路上人們已經說過什麼，然後加以總結。我們進入了經驗時代：智能體從經驗中學習如果我們希望取得進一步進展，而事實上，我們已經開始這樣做了，就必須進入一個新的時代：從經驗中學習。歸根結底，這是因為我們需要一種能夠隨著智能體能力提升而不斷增長、不斷改進的資料來源。任何靜態的資料集，都不可能長期滿足這一點。而來自自身經驗的資料，本身就是動態變化的。人類和動物正是以這種方式學習的。AlphaGo下出富有創造力的第37手棋，正是源於這種機制；許多在數學奧林匹克競賽中獲勝的智能體，同樣如此。接下來，我想給大家播放一段視訊，希望它能順利播放。不過在此之前，我想先解釋一下角落裡的那張小圖，澄清一個容易被誤解的地方。當我說“從經驗中學習”時，我並不是指某種模糊、玄學的東西，比如主觀感受或“感質”。我指的只是智能體與環境之間來回交換的資料。智能體會採取行動，也會感知環境。因此，這裡包含三類資訊：第一，智能體從世界中獲得的觀測，也就是感測器資料；第二，智能體發出的行動，比如肌肉的微小動作，或者向外界傳送的電訊號；第三，世界返回的一種特殊觀測——一個標量，也就是獎勵。這三者，構成了我所說的“經驗”。這就是智能體在與世界互動過程中所能獲得的全部資訊。而這幾乎是我們唯一能夠真正確定的事情。因此，我們需要一種會隨著智能體自身變化而不斷增長、不斷改進的資料集。接下來這段視訊展示了這種機制在現實生活中的一種最重要體現。畫面中是一名嬰兒，視訊略微加速過，大家不必擔心。你可以看到，嬰兒在與各種玩具互動時，並不會只專注於某一個，而是玩一會兒就感到厭倦，隨後轉向下一個。每一次接觸新的玩具，它都會學到一些東西——也許只是發現繩子可以拉、可以放進嘴裡，或者可以用不同方式擺弄。但很快，它又會改變對象，通過改變自身的經歷，看看還能從新的事物中學到什麼。這正是我們的資料來源。生命的資料並不是被“提供”給我們的，而是由我們的活動本身生成的。也正因為這些資料來自行動，它們才能與我們自身的理解水平、能力和技能自然匹配。我還放了另一個視訊，用來展示一個智能體在迷宮中學習的過程。這是一個非常簡單的智能體，它的目標是從起點S走到終點G。它對世界的認知極其有限：只知道自己當前所在的格子；它能執行的動作也只有四種：上、下、左、右。通過不斷學習，它最終能夠找到一條不錯的路徑。圖中的箭頭表示它認為的最優行動方向，綠色區域表示它對每個狀態“有多好”的估計。但世界並不是靜態的，世界會發生變化，而我們也總是需要學習新的東西。在這個學習過程中，我們可以再看一張示意圖，它展示了智能體的基本工作方式。其中包含幾個關鍵要素：右上角是對世界狀態轉移的模型；中間是策略，用來決定在每個狀態下該做什麼，對應圖中的箭頭；還有一個價值函數，用來評估每個狀態的好壞，這正是圖中綠色區域所表達的含義。現在，如果我把目標位置移動到上方，智能體就必須重新“偶然”發現目標的新位置。一旦發現，它就能夠再次學會通向目標的路徑，並從環境變化中恢復過來。從某種意義上說，這就是生活的一個簡化模型：你會遇到變化，然後適應它。我們把目標放到角落裡，它就學著調整；再把目標移到另一個位置，它就學會一條新的路徑。我們甚至可以進一步干預，在路徑上放置障礙物，它也會逐漸學會繞開障礙前進。因此，我們會非常直觀地感覺到：這個智能體是有目標的，並且會隨著環境的變化不斷調整自身行為，以儘可能實現目標。當然，目標也可能變得無法達成。當這種情況發生時，我們甚至會不由自主地對這個無法完成目標的智能體產生一絲同情。我原本還準備了一個關於“試錯學習”的演示，網上其實有一個非常好的示例，但由於沒能把YouTube視訊順利播放出來，這一部分就先跳過了。不過，我想大家已經理解了什麼叫“從經驗中學習”。接下來，我們稍微抽象一點，談談其中的基本原則。這種以經驗為基礎的AI方法，其核心原則在於：智能體與世界交換訊號，這些訊號本身就是經驗，而經驗構成了一切智能的基礎和核心。“真理”的定義，體現在這些訊號之中；“目標”的定義，同樣體現在這些訊號之中。你希望獎勵訊號儘可能高——要麼你達成了目標，要麼沒有。這個目標在某種意義上是主觀的，只對智能體自身可見；但與此同時，它又是最客觀的東西，因為它是智能體實際接收到的資料。因此，我們可以說，一個智能體的智能水平，取決於它在多大程度上能夠預測並控制自身的經驗。需要注意的是，如果你沒有經驗，那就談不上智能。舉個例子，大語言模型在執行階段，並不會從經驗中學習。經驗是你“出生”後進入世界、親自行動時才會產生的東西。而當一個大語言模型被部署到現實世界中時，它已經不再學習了，它是被凍結的、靜態的。因此它並不真正擁有經驗。它所擁有的資料，只能在一個特殊的訓練階段獲得，那些資料只是人類過去如何在世界中行動的示例。當你真正走進世界、親自去做事情時，並不會有人告訴你“你原本應該怎麼做”。沒有經驗，智能就無從談起：你無法判斷什麼比什麼更好，因為沒有獎勵就沒有目標；而大語言模型並沒有目標。你也無法判斷一個預測是對是錯，因為它從不將預測與真實發生的結果進行對照，於是也就不存在“真理”的概念。但一旦有了經驗，有了互動和由此產生的資料，目標就變得非常清晰：獲取獎勵；而“真理”的概念也隨之出現，那是一種基於預測的真理。你做出預測，然後觀察真實發生的結果，看看預測是否成立。這正是經驗式方法所帶來的能力。我認為，這條路徑正在變得越來越普遍、也越來越重要。回顧過去大約十年的發展，我們可以大致將其劃分為三個階段。最早的是“模擬時代”，我們從模擬環境中獲取經驗，比如AlphaGo、Atari遊戲。隨後進入的是更近一些的“人類資料時代”，也就是以大語言模型為代表的階段。當然這種劃分並不完全精確。我們已經看到，人們對大語言模型的狂熱正在逐漸轉化為對其侷限性的清醒認知。現在我們正邁入第三個階段：“智能體系統”的階段，讓模型和智能體真正使用電腦、在現實世界中行動。我把這一階段稱為“經驗時代”。在我看來，它將把我們帶向一種超越人類的能力——這種能力不再只是模仿人類、受限於人類本身，而是真正能夠超越人類。好，先總結一下關於AI發展趨勢的第一個要點：AI終於開始轉向從經驗中學習了。要知道，艾倫·圖靈在1947年就已經設想過這條道路，而那已經是很久以前的事情了。直到今天，我們才真正開始去做這件事，而不是繼續完全依賴人類輸入。這種轉變將帶來更強大的能力，因為它意味著持續學習新的東西。AI遠沒有進入“主場時刻”儘管當下充滿炒作，甚至伴隨著某種恐慌情緒，但我並不認為當前的AI已經強大到不可思議的程度。它在很多方面仍然脆弱、不可靠；但與此同時，它也極其有用，已經點燃了一個完整的產業，創造了巨大的經濟價值，而且幾乎人人都可以使用。這種普及性讓公眾感到興奮，也促使人們開始認真思考：有一天，機器是否可能擁有與人類相當的能力。在某種程度上，它是通過製造恐懼引發這種關注的，人們未必真的需要害怕，但確實應該保持關注。至少，它成功地讓所有人開始正視這個問題，這本身是一件好事。不過，我們還遠沒有進入所謂的“主場時刻”。儘管存在各種誇大的說法，我們並沒有真正到達創造超級智能AI、或“超級智能增強人類”的階段。一旦那一刻到來，它將是一件非同尋常的大事，會帶來極其深遠的變化。AI應該是去中心化的，不應集中控制你只要看看當下，就會發現大量關於“控制AI”的呼聲：比如，只允許AI擁有經過人類稽核和授權的目標；呼籲暫停甚至停止AI研究；已經出現了一些法律，用來限制AI可使用的計算能力；以及各種所謂的“安全研究機構”。很多人口中的“安全”，其實真正指的是“控制”。他們通過讓你害怕AI，宣稱它不安全，然後提出應當由他們來掌控。我們或許也應該對AI抱有某種同理心。現實世界中，同樣存在對言論的控制——你能說什麼、能聽什麼；存在貿易管制和關稅，限制你能在那裡工作；還存在資本管制，以及針對不同國家的經濟制裁。我的核心觀點是：對AI的集中控制訴求，與對人類的集中控制訴求之間，存在著一種驚人而詭異的相似性。它們都建立在恐懼之上：要害怕AI；要害怕某些國家、某些群體；說你不能信任他們，說他們幾乎不像人，說他們是“壞的”，不愛自己的孩子，不會感到痛苦（笑）。同樣地，人們也在說AI不會感到痛苦。總之，這些論調極其相似，而我認為我們應該警惕並抵制它們。因為我相信，人類的繁榮，以及人類與AI的共同繁榮，來自於學習，也來自於接受這樣一個事實：我們應當以去中心化的方式與AI協作，而不是依賴龐大的控制型組織。這些正是我沒有展開的那部分幻燈片所想表達的核心思想。人類在合作方面既非常擅長，也非常糟糕——戰爭正是“不合作”的極端表現。合作並非總是可能，但從經濟交換到社會制度，從政府到市場，世界上幾乎所有美好的事物都源自合作。我們必須主動去尋找、去支援合作。如果我們足夠警覺，就會發現，誰在呼籲不信任、呼籲不合作。而“不合作”的另一面，往往正是集中控制。我認為，我們應該抵制這種傾向。這也是理解人類與AI互動問題的一種重要視角。以上就是我非常簡略的政治看法。不應害怕AI，因為是人類在創造它接下來，我確實想談談AI的哲學問題。AI正在發生，而且明天會發生得更加深入。那麼，我們究竟該如何看待它？我想提出一個最根本、也最困難的問題：它究竟是好是壞？我們是否應該害怕它？它會奪走我們的工作，讓我們變得多餘嗎？還是說，我們會成為AI的一部分——成為被技術放大和增強的人類？AI是入侵者，還是我們的“孩子”？我們會為它哀嘆，還是為它慶祝？它是“我們”，還是“不是我們”？我認為，這正是最根本的問題。我希望大家首先意識到，我們經常被要求不要去思考它，而只是被告知應該害怕它們，因為它們“不是我們”，像是外星來物。但請記住，是我們在創造它們。理解我們的心智，本身就是最具人類特質的行為。那麼，該如何思考呢？你們大概已經能看出我的立場。這並不是什麼“外星科技”，而是人類自古以來一直在做的事情。幾千年來，我們始終在嘗試理解自己：理解人類的智能，理解心智如何運作，以及如何讓我們的心智運作得更好。這是一項極其宏大的追求——理解我們自身。我很喜歡庫茲韋爾的一句話：智能是宇宙中最強大的現象，而我們正是它最好的例子，因此我們理應去理解它。這是一件極其重要的事情。理解智能，幾乎是科學的“聖盃”，也是人文學科的“聖盃”。這是一個偉大而光輝的目標，作為學者和思考者，我們應該享受它、慶祝它，並努力推動它向前發展。人類正在走向被AI繼任的過程不過，先暫時放下“我們是否希望它發生”“如果發生會不會很可怕”這些價值判斷。讓我們只做一件事：預測它將如何發生。我提出幾條“現實主義的AI預判原則”，有點類似約翰·米爾斯海默在討論現實主義地緣政治時的思路。我們只談現實：什麼是真正會發生的？那些事情是我們無法完全控制的？第一，關於“世界應該如何運轉”，並不存在共識。多種意識形態並存，沒有那一種觀點佔據絕對主導；宗教之間同樣彼此不一致；不存在一個能夠壓倒其他所有立場的統一世界觀。第二，總有一天，人類會對智能有足夠深入的理解，深入到可以用技術去創造它，而且我們一定會這麼做，至少其中一部分人一定會。第三，這一過程不會停留在當代人類智能的水平上，而是會很快遠遠超越它。我們將面對超級智能的存在，無論它們是否被稱為“人”。第四，隨著時間推移，權力和資源往往會流向更智能的存在。把這四點放在一起，我們會看到一幅清晰的圖景：人類正走向被AI 繼任的過程。我認為這是一個合理的判斷。但我們也必須意識到，這種說法本身是高度以人為中心的。我們總是在關心“我們會變成什麼樣”。或許，我們需要稍微退後一步，從更宏觀的視角來看待這一切：宇宙如何看待這一過程？它在整個宇宙的演化中扮演著怎樣的角色？宇宙的四個偉大時代接下來，我要把視角拉得非常宏大了（笑）。我想從宇宙的尺度來談一談所謂的“四個偉大時代”。第一個是粒子的時代：大爆炸之後，宇宙中幾乎連原子都不存在。隨後，物質坍縮形成恆星，我們進入恆星時代。恆星形成、升溫、爆炸，並在這一過程中合成更重的元素。接著，當有了更重的原子和行星之後，生命才得以出現。我把這一階段稱為“複製者的時代”，而不是簡單地稱為“生命時代”。我認為，這個“綠色時代”真正特殊之處在於：出現了能夠複製自身的存在。它們未必理解任何事情，但卻能夠製造自己的副本。就像我們自己，並不真正理解身體如何運作，不理解器官、大腦或智能如何產生，卻仍然能夠創造出更多智能體——我們生育孩子，並將他們撫養成人。這便引出了宇宙的第四個偉大時代：技術與創造之物的時代，我稱之為“設計的時代”。在這個時代，事物不再只是通過複製而存在，而是先存在於某個複製者的心智之中，然後才進入現實世界。你環顧這座禮堂，建築在被建造之前就已經被設計出來；椅子、你穿的衣服，幾乎所有東西都是如此——它們先存在於某個人的頭腦中，然後才成為現實。唯一的例外是人類本身：人是通過複製而來的，而不是先以設計的形式存在於世界之中，只是最初存在於父母的想像裡。正因為如此，我更願意把這兩個階段稱為“複製的時代”和“設計的時代”。將它們簡單稱為“生命時代”和“機器時代”已經過時，而且容易誤導——因為我們的機器正變得越來越像生命，而我們也越來越多地將生命理解為一種生物機器。機器與生物的區別：複製和設計那麼，真正的區別是什麼？真正的區別在於：生物體是在沒有任何心智理解其自身運作方式的情況下被創造出來的。它們幾乎像複印機一樣被覆製出來，所以說你並沒有“創造”那幅圖像，只是複製了一份。技術機器則不同。它們首先存在於某個心智之中，也就是設計者的想像裡，隨後才在現實世界中被製造出來。因此，它們是被“設計”出來的。一個非常重要的區別在於，被設計的事物更容易發生變化，也更容易被持續改進。這正是我使用這些術語的原因。從這個角度來思考問題，其實相當有啟發性。接下來，我們可以借助這些概念做一個簡單的思考練習。我們會發現，許多非人類的複製者在某種程度上同時也是設計者。比如，動物會築巢、打洞，人類會建造房屋；許多動物還會製造工具，例如黑猩猩會把樹枝剝去外皮來釣白蟻，烏鴉會把樹葉加工成細條來釣蛆蟲。當然，人類會製造石斧，那是我們最早、也是最重要的工具。隨後出現了農業用的犁，再往後是電腦、宇宙飛船、工廠和軟體，其中很多本身就是“製造其他工具的工具”。人類的特殊之處：把設計推向極致在這一基礎上，我們或許可以回到最初提出的那個問題：人類是什麼？我們是誰？我們在宇宙中扮演著怎樣的角色？也許，我們可以儘量保持冷靜，不過分自大，也不過分強調自身的重要性來回答這些問題。我們都隱約意識到，人類是特殊的。我們不僅只是一種複製者，而是一種非常特殊的複製者。我此前已經暗示過這種特殊性所在：我們把“設計”這一能力推進到了前所未有的高度。我們本身是通過複製而來的，我們自己就是複製者；但與此同時，我們也具備設計能力，並且將這種能力發展到了遠遠超過任何其他複製者的程度。那麼，如果把“設計”這一能力推到極限，會意味著什麼？如果把它徹底走到盡頭，會出現怎樣的結果？在我看來，把設計推到極限，意味著設計出那些本身也具備設計能力的存在。換句話說，我們在自己的頭腦中設計出一些事物，而這些事物本身，也能夠在它們自己的頭腦中進行設計。它們擁有心智。這正是我們在AI上正在做的事情。我們正在完成這個偉大的時代——也是最後一個時代。因此，我認為，人類至少是這個時代的催化劑、接生婆，或者說奠基者：我們促成了“設計時代”的到來，也就是宇宙的第四個偉大時代。這就是我們的角色，一個重要的角色，一個具有普遍宇宙意義的角色。總結：AI是宇宙發展的必然，我們該為此自豪最後，我想簡要總結一下我的三條核心資訊，包括剛才那一條我講得相對較快的觀點。第一，當下的AI也就是2020年代的AI，仍然處在“人類資料的時代”。它已經表現得非常出色，也非常強大；但我們正在進入一個新的“經驗時代”，而這一階段將更加強大，因為它能夠持續學習新的事物。第二，在政治層面，當下圍繞AI的政治討論，實際上是人類自身政治的對應。在所有情況下，我們都應當追求去中心化的協作，而不是中心化的控制。第三，在哲學層面，我認為AI是宇宙發展過程中不可避免的下一步。我們應當以勇氣、自豪感和冒險精神去擁抱它。感謝大家的時間。 (51CTO技術堆疊)