我們正處在一個前所未有的複雜時刻。從政治到經濟，一系列問題盤根錯節，相互交織。人工智慧的底層邏輯尚未完全理解，地緣政治格局就已突然發生劇變；舊的全球合作體系出現裂痕，新的技術標準與貿易規則正在激烈博弈中形成。不可否認的是，那個“找到風口，豬也能飛”的時代，已經徹底結束了。過去幾十年，企業家們習慣於尋找增長賽道、抓住市場紅利的“取勢”思維，而這種模式需要建立在相對穩定的環境和可預測的技術發展基礎上。但今天的情況完全不同。全球化格局正在深度調整，技術迭代呈指數級增長。當我們還在研究某個商業模式時，技術底層可能已經革新；當我們剛適應某個市場規則時，外部環境可能已經改變。01 從“取勢”到“謀勢”，從“破局”到“融生”面對這樣的局面，我們需要一條新的路徑：謀勢、破局、融生。首先是謀勢，這不是追逐風口，而是看清風從那裡來，往何處去。從AI技術的物種級躍升，到全球權力的重構，再到文明規則的悄然改寫，一切驅動這個時代變革的深層力量，我們都要深刻洞察。其次是破局，即打破固有的認知枷鎖。正如“第一性原理”所啟示的，必須停止“別人做什麼我跟什麼”的內卷，回歸事物的本質去思考：這件事本來應該怎麼做？而當我們看清大勢、打破思維定式後，最關鍵的一步就出現了：融生。02 融生：在交匯處創造新可能所謂“融生”，不是跨學科的簡單交叉，而是讓科技、人文、政治、歷史等不同領域的知識與邏輯，在認知底層發生“化學反應”，進而孕育出一個全新的生命體——“戰略型企業家”，以及他們所創造的“新物種企業”。此前，我們學習行業標竿，往往是停留在模仿他們的方法上。而“融生”，則要求我們像他們一樣，融合多學科智慧，從第一性原理出發，“生長”出一套解決根本問題的全新系統。比如，“利用AI來最佳化我的客服中心”，這就是舊有的思維。與之不同的是“融生”思維，它會促使你思考，能不能打造一個從誕生起，就能重新建構與使用者的關係、最佳化服務成本模型，並形成資料價值閉環的AI原生“客戶互動新物種”呢？實現這種轉變的要求便是打破學科的壁壘。要知道，真正的創新，往往發生在商業、科技、人文、政治的交叉點上。因此，一個能夠理解技術邏輯、把握政策走向、同時具備歷史視野的企業家，才可能在這個複雜時代找到真正的破局點。03 成為“系統級”的創新者實現“融生”，還意味著企業家需要完成一次重要的角色升級，從“解題高手”變為“系統架構師”。具體怎麼做呢？第一，建立融通的知識體系：理解技術發展的底層邏輯，把握全球格局的變化脈絡，同時保持對人文價值的深刻認知。第二，培養系統的思維能力：不再只看單點效率，而是去思考如何建構一個有生命力的商業生態系統。第三，提升戰略定力：在複雜多變的環境中，保持對長期價值的堅持，同時具備靈活調整的智慧。這樣的升級並不容易。它要求我們跳出熟悉的思維舒適區，重新建構認知框架。也正是認識到這種升級的必要性，香港科技大學與香港全球化中心共同推出了融學科戰略型企業家項目（TSEP）。該項目的特別之處在於，它提出了四重境界：謀勢—破局—融生—定勢。它不提供標準化的問題解決方案，因為在這個時代，本來就不存在放之四海而皆準的答案。相反，它致力於幫助企業家建構屬於自己的“認知作業系統”，在複雜環境中保持清晰的判斷力。此外，它匯聚了來自各個領域的頂尖學者，包括具有全球視野的政策專家、深耕前沿的科學家、以及經歷過多個經濟周期的企業家。將通過案例研討、企業模擬、實地參訪等多種教學方式，幫助學員建立綜合性知識結構，提升戰略預見能力。邱震海博士曾直指本質地發問：中國的賈伯斯、馬斯克究竟在那裡？顯而易見，在這個充滿不確定的時代，那些能夠融合多領域智慧、在跨學科交匯處開闢全新可能性的企業家，才是未來商業文明的締造者和趨勢的定義者。他們不僅能主動參與規則的制定、價值的定義、未來的書寫，也更有可能成為中國的“賈伯斯”或“馬斯克”。 (邱震海)

近日，OpenAI首席產品官Kevin Weil在著名企業家Peter Diamandis的播客中，分享了GPT-5發佈背後的故事、AGI發展的真實進展，以及OpenAI對未來技術趨勢的前瞻性判斷。作為從Twitter、Facebook等科技巨頭轉戰AI前沿的資深產品專家，Weil也罕見地分享了他的許多產品理念，從因混亂而被詬病的OpenAI產品命名邏輯，到他心中的AGI產品形態等等。（訪談視訊發表於8月22日，Open AI’s Product Lead on GPT-5, AGI & the Great AI Race w/ Kevin Weil & David Blundin，https://www.youtube.com/watch?v=JIlxd3ZRdBM）Key PointsGPT-5的真正價值：不僅是智能提升，更是成本降低一半以上，讓AI能力大眾化算力無限需求：OpenAI內部GPU需求永遠飽和，GPU永遠稀缺的時代，5000億美元的Stargate項目勢在必行產品哲學：簡潔（simplicity）勝過複雜，ChatGPT“一個產品服務所有“產品定價策略：從付費功能轉向免費，目標是讓最強大的AI惠及所有人產品命名哲學：混亂的模型命名體現了“迭代部署”的產品理念產品形態預測：未來互動革命，從聊天介面到即時UI生成，AGI將重新定義人機互動，從聊天框向萬能介面的產品進化路徑創業黃金法則：所有pre-AI的產品都將被重構，在模型能力邊緣構件產品，讓下一代模型令你的產品“歌唱”01GPT-5的真正突破：不僅是性能提升當全世界都在期待GPT-5時，很多人以為這會是通往AGI的直接跳躍。然而，Kevin Weil揭示了一個更加普惠的願景：GPT-5的真正革命性在於它的大眾化。"我們做了大量工作在健康領域，因為人們一直在使用ChatGPT詢問健康問題——從'我孩子發生了這個情況，我該怎麼辦'到'我剛剛得到癌症診斷，這是一堆資料，我該如何理解'。它不能取代醫生，但擁有一個可以24/7對話的超級智能助手確實很有幫助。"與之相應的是定價策略的轉變。Kevin透露，相比GPT-4發佈時的價格，新模型的成本降低了近100倍。這不是簡單的價格戰，而是OpenAI核心理念的體現——讓AI能力觸達更廣泛的人群。在產品設計上，OpenAI採用了"反向付費牆"的獨特策略。Kevin解釋道："通常公司會把功能放在付費牆後面來獲得收入，但我們的做法恰恰相反。功能從Pro或Plus開始，我們的目標是讓它成為免費產品，因為我們認為這能讓世界變得更好。" 比如deep research最早是面向pro使用者，然後拓展到plus，現在已經向所有使用者，包括免費使用者開放。另外，OpenAI對印度市場的重視程度超出了許多人的想像。他提到了一個數字轉換：目前全球約有3000萬會程式設計的開發者，而AI程式設計工具可以將這個數字擴展到3億，甚至30億。為了實現這一願景，OpenAI剛剛推出了專門針對印度市場的付費計畫——價格大幅降低，但提供比免費使用者多10倍的訪問量。"Talent無處不在，機會卻不是。"Kevin強調，AI將成為史上最強大的"平衡器"，讓全球14.1億印度人中蘊藏的巨大潛能得以釋放。從醫療保健到教育治理，從個人工具開發到軟體創新，AI將為印度帶來跨越式發展的機會。02AI產品競爭：簡潔的力量當被問及如何看待Google和Anthropic的競爭時，Kevin Weil謙遜又自信："Google是我們的競爭對手，他們行動很快，建構了優秀的模型。Anthropic也是如此。"但他隨即指出了OpenAI的獨特優勢——簡潔性。就像當年Google憑藉簡潔的搜尋框擊敗Yahoo的複雜門戶一樣，ChatGPT的"一個產品服務所有需求"的理念正在重新定義AI產品的標準。這種簡潔不是簡單，而是將複雜性隱藏在直觀的互動之下，讓使用者能夠通過自然對話獲得強大的AI能力。03GPU與基礎設施建設競爭：Stargate勢在必行談到基礎設施建設，Kevin描述："我們時刻都是滿負荷運行的。每次我們獲得更多GPU，它們立即被用完——無論是產品端用來降低延遲、加速token生成，還是研究端運行更多實驗。這些對GPU的需求基本上是無限的。"這解釋了為什麼OpenAI要與其他集團合作啟動超過5000億美元的Stargate項目。這不是一次性投資，而是對未來計算需求的長期佈局。同時，Kevin也確認該項目正在接近上線，他用了一個生動的比喻：就像網際網路頻寬的增長催生了視訊應用一樣，GPU能力的提升將催生更多我們現在無法想像的AI應用。"GPU永遠不會商品化。"對於GPU商品化的觀點，Kevin給出了明確的反駁。相反，GPU需求將呈現指數級增長，因為每一個新的計算能力都會被立即用於模型訓練、產品最佳化或者新功能開發。04產品命名的哲學：混亂背後的智慧當被問及OpenAI模型命名的混亂時，Kevin坦言："我們在模型命名方面受到了很多理所當然的批評。同時擁有O4 mini和4O mini確實是值得'驕傲'的事情。"但這種看似混亂的命名背後，體現的是OpenAI"迭代部署"的核心理念。以O1系列為例："我們花了很長時間教會模型進行推理——不是立即回答，而是真正思考問題，嘗試不同方法，測試它們，就像你做填字遊戲或數獨時那樣。"O1模型首先作為專門的推理模型發佈，雖然在關係建議或歷史問題方面不夠理想，但在科學問題上表現出色。這種專門化發佈讓OpenAI能夠更快地迭代和收集反饋。而GPT-5的意義在於，它是第一次將所有這些能力整合到一個優雅的體驗中。Kevin預測，未來仍可能出現新的"支線"模型來測試特定能力，然後再整合到主線產品中。05AI智能評估的新向量：軟性基準在訪談中，Peter透露了一個資料：GPT-5 Pro在門薩智商測試中得分148分，已經達到了高度天才的水平。Kevin也提到它在國際數學奧林匹克競賽中獲得了金牌。傳統的基準測試正在遭遇"天花板效應"——幾乎所有基準都已經被飽和。這推動了行業向"軟性基準"的轉變，比如：能否為公司建構金融模型能否進行創意寫作能否執行經濟價值的任務Kevin提到了一個有趣的新方向——AI預測未來的能力。"是否有足夠的線索讓我們預測社會在未來12小時、12天或12個月內的行為？"這讓人想起阿西莫夫《基地》系列中的心理史學概念。隨著模型變得更加智能，我們正在用更難評分的問題來測試它們，這本身就是AI發展水平的一個指標。06晶片設計：AI設計AI的循環Kevin透露OpenAI正在使用AI來設計自己的晶片。"歷史上，TPU團隊在這邊，演算法團隊在那邊，試圖將你的演算法思想轉化為硬體團隊能理解的內容簡直是噩夢。"Kevin描述了傳統硬體軟體協作的困難。但現在AI可以直接從軟體設計轉換到晶片設計，這將極大加速創新循環。Kevin相信，這種AI驅動的晶片設計將在幾個月內產生重大突破，而不是傳統的幾年周期。這也為創業公司創造了新機會。雖然晶片設計需要大量技術人才，但Kevin認為這是一個"肥沃的創業領域"。07內部視角：我們距離AGI有多遠關於AGI（通用人工智慧）的時間線，Kevin的回答謹慎又透露出內部的樂觀情緒。他坦言："我們甚至不總是知道下一個模型會擅長什麼。有時候你能通過迷霧看到一些端倪，但有時會出現湧現性能力，這會讓我們感到驚訝。"更有趣的是，Kevin認為我們可能會像錯過圖靈測試一樣錯過AGI的到達："就像我們剛剛輕鬆通過了圖靈測試卻沒有注意到一樣，這很瘋狂。它被譽為50-60年來的巔峰，然後我們就這樣呼嘯而過。我們會以同樣的方式通過AGI嗎？"他進一步指出，AGI可能已經以某種形式存在，只是分佈不均。"可以說AGI已經在這裡了，只是分佈不均勻。在很多方面，模型已經比我聰明了，我永遠不會選擇自己而不是模型。但也有很多地方模型還不如我聰明，我會選擇自己。"08AGI的產品形態：《安德的遊戲》當談到AGI的最終產品形態時，Kevin引用了科幻小說《安德的遊戲》中的經典概念——"jewelry in the ear"。這個裝置可以看到你所看到的，聽到你所聽到的，但同時具備超級智能並連接到整個銀河系的資訊網路。"這就是我們的方向。你不希望ChatGPT只是坐在手機應用或瀏覽器中等待你去使用。你希望它無論你在那裡都能伴隨你，能夠看到你看到的一切，擁有你願意給它的所有上下文，這樣它就能更智能地為你主動行動。"這種AI不是被動響應的工具，而是24x7思考的夥伴。它會在你睡覺時處理郵件，在你需要之前就準備好解決方案，甚至可能會給你送來意想不到的驚喜——基於對你喜好的深度理解。AGI作為產品的核心特徵將是即時建立使用者介面，根據具體任務動態生成最合適的互動方式，而不是被限制在聊天框中，是從聊天框到萬能介面的進化方向。09創業機會：一切將被重構Kevin認為目前創業充滿廣闊的市場機會："我們使用的每一個產品、每一項服務、每一個裝置，幾乎所有達到規模的產品都是前AI時代的產物。它們都將被重新發明。"這意味著什麼？就像電力革命將所有機械裝置重新定義一樣，AI將對所有現有產品進行根本性的重構。從醫療診斷到材料科學，從金融建模到創意寫作，每一個領域都蘊藏著巨大的創業機會。Kevin特別提到了材料科學這個"未被充分重視的英雄"領域。隨著AI在分子設計、材料性能預測等方面能力的快速提升，這將成為一個巨大的突破點。他給創業者的建議清晰而具體："在模型能力的最前沿建構產品。如果你正在做的事情恰好超出了當前模型的能力邊界，但你能看到一絲希望的曙光，那就是最好的位置。因為兩個月後，我們將推出新模型，你一直勉強運行的功能將會完美運作。"10科技與軍事：AI四人組Kevin最近的一個身份轉變引起了廣泛關注——他與其他三位科技領袖一起加入了美國陸軍，成為陸軍中尉。這個"四人組"包括：Kevin Weil - OpenAI首席產品官Shyam Sankar - Palantir首席技術官Boz (Andrew Bosworth) - Meta首席技術官Bob McGrew - 前OpenAI研究主管Kevin解釋了這個決定的戰略考量："擁有世界上最好的模型，如果它們只是放在架子上，對我們沒有任何好處。" 這可以視為對於中美AI競爭的一個佈局。他的專門領域將是體能表現最佳化，利用AI監控和改善軍事人員的身體狀態——這個領域的應用前景遠超軍事範圍。11神秘項目：未解之謎訪談的最後，主持人Peter Diamandis拋出了一個所有人都想知道答案的問題："OpenAI是否已經完全實現了AGI？Johnny Ive為你們開發了什麼？"Kevin的用幽默結束了這個話題："天那，我從開始就一直在等著談論這個話題。" 然後——訪談戛然而止。這個懸念留給了我們無限想像空間。我們知道蘋果前首席設計官Johnny Ive正在與OpenAI合作開發某種硬體產品，但具體是什麼仍然是業界最大的秘密之一。同樣，關於OpenAI內部AGI發展進度的真實情況，也被嚴格保密。12結語：永恆的人性在討論未來5到10年什麼不會改變時，Kevin的回答溫暖和深刻。"人類仍然是人類。面對面的連接仍然非常重要。在這裡圍桌而坐的感覺與通過Zoom進行遠端交流完全不同。"他列舉了幾個永恆的元素：面對面交流的價值：無論技術如何發達，人與人之間的物理在場感無法被完全替代手寫便條的意義：在數位化世界中，手寫內容將變得更加珍貴個人目標的重要性：Kevin強調，當一切都可以為你完成時，最大的危險是失去目標感創造的衝動：人類天生希望為世界留下比發現時更好的印記，這種衝動是不會改變的 (JER學家)

【導讀】被譽為“AI教父”的傑弗裡·辛頓（Geoffrey Hinton）於近日接受了紐西蘭調查記者蓋昂·埃斯皮納（Guyon Espiner）的遠端專訪。傑弗裡·辛頓是深度學習三巨頭之一，現代AI技術的“奠基人”，於2024年榮獲諾貝爾物理學獎。辛頓不僅是神經網路反向傳播演算法的提出者，也是圖神經網路與Transformer模型的技術先驅。他的學生遍佈AI世界的頂層——OpenAI、DeepMind、Meta、Google、Anthropic中都有他的門徒。可以說，我們今天所使用的GPT、Claude、Gemini這些AI系統，幾乎都是踩在他開闢的路徑上發展而來。更重要的是：他曾是GoogleAI部門的元老，卻在2023年主動離職，只為發出“AI可能威脅人類”的預警。他不是AI的反對者，而是AI的親生父親——正因為太瞭解它，才最清楚它的威脅。在這篇採訪中，他稱，AI正在以前所未有的速度演化：變得更聰明、更少犯錯，甚至具備了情感和意識。他警告，AI不僅可能具備喜怒哀樂等情緒，還已經學會了欺騙。辛頓大膽預測，AI完全失控的機率在10%到20%之間，人類未來可能被AI所掌控。過去那些只存在於反烏托邦科幻小說中的問題——“AI會取代人類嗎？”、“它會覺醒嗎？”、“會反抗人類嗎？”——如今正逐漸成為現實世界的核心議題，全球社會正在被迫直面這些重大挑戰。劃重點-AI推理能力激增，錯誤率大幅下降，正逐步超越人類。-AI掌握的資訊量遠超任何個體，已在多個領域比人更聰明。-醫療、教育等行業即將被AI重塑，革命性變革已在發生。-人類能力沒有“不可複製”的部分，AI終將全面勝任創意、判斷與情感表達。-AI也能類比、學習、調整，甚至展現“情感”和“意識”式行為。-風險並非AI無法控制，而在於“誰擁有控制權”和“誰受益”。-未來不止是失業威脅，更是人類被少數掌控AI者“系統性剝奪”的風險。圖片來源於網路，僅供交流學習，不做任何商業用途，不代表任何投資建議。如有侵權請聯絡後台刪除。以下為辛頓最新專訪精華內容：01AI不再輕易出錯變得比人更聰明問：自從你離開Google已經過去兩年，你當時是為了發出關於AI可能帶來風險的警告而離開。那麼，AI自那時以來發展得如何？辛頓：AI技術的發展速度超出了我的預期。以推理能力為例，現如今AI在這方面已經有了顯著的進步，且似乎沒有放緩的跡象。問：當你說“AI更擅長推理”時，具體指的是什麼？辛頓：過去，只要問題稍微複雜一點，AI就容易出錯。但現在，AI在推理上的表現已經接近人類。雖然人類和AI都會犯錯，但AI犯錯的機率正在迅速下降。比如這個經典的邏輯題：“Sally有3個兄弟，每個兄弟都有2個姐妹。請問Sally有多少個姐妹？”很多人在壓力下容易誤判，覺得應該是6個姐妹。但其實，正確答案是：一個。因為每個兄弟都有相同的兩個姐妹，其中一個是Sally本人，另一個則是Sally的姐妹。現在的AI可以迅速推理出這個結果，而不是被問題的表面結構迷惑。對普通人來說，如果有時間思考，這題並不難；但在現場採訪或考試壓力下，很多人可能會答錯。問：那麼，AI現在已經比我們聰明了嗎？辛頓：從許多方面來看，答案是肯定的。AI顯然知道的比任何人都要多。例如，像GPT-4、Gemini 2.5和Claude等系統，它們所掌握的資訊比任何人類都要多幾千倍。問：你對此怎麼看？辛頓：我認為這既令人驚嘆，又令人害怕。問：那麼，令人驚嘆的部分是什麼？辛頓：AI將在多個領域發揮舉足輕重的作用，尤其是在科學研究方面，它有潛力推動真正的智能系統誕生，這是人類歷史上一個令人振奮的里程碑。在醫療、教育等關係民生的領域，AI的影響也將是革命性的。以醫療為例，AI將成為每個人身邊的“私人醫生”。它可以接診數百萬名患者，甚至包括與你患有相同罕見疾病的人。它瞭解你的基因資訊、過往病史和所有體檢資料，而且永遠不會忘記任何細節。更重要的是，AI在處理複雜病例方面，已經在多個研究中顯示出超過人類醫生的診斷能力。如果將AI與醫生結合，效果將比單獨依賴醫生要好得多，並且這種趨勢將越來越明顯。02 沒有什麼人類的能力是AI不能複製的問：比爾·蓋茲最近也說，未來十年，大多數工作將不再需要人類。他舉了你提到的醫生這個例子，並把教育工作者也列入其中。你認為我們正面臨著大規模失業的威脅嗎？辛頓：AI確實帶來了前所未有的機遇，但它同樣伴隨著巨大的風險。在一個運作良好的社會中，AI本應該幫助我們大幅提升生產力。比如，一個人借助AI助手可以完成過去十個人才能完成的工作，這本來是件值得慶祝的事情。然而，問題出在“誰從中受益”。這些因技術進步釋放出的生產力紅利，並不一定會被公平地分配。現實更可能是：大多數人被AI取代、失去工作。而少數原本就非常富有的人，借助AI變得更加富有。問：當然，他們的壽命也會更長。例如，GoogleDeepMind CEO 戴密斯·哈薩比斯最近也表示，AI在10年內可能會治癒所有疾病。聽起來有些難以置信，你認為這是否現實？辛頓：我認識哈薩比斯，他是個非常理智的人，對AI的發展有著清晰的判斷。但我覺得他的預期有些偏樂觀。如果他說的是“在未來25年內”能實現某些突破性的目標——那我認為是有可能的。說到底，我們之間其實沒有太大的分歧。他更傾向於認為這些技術會提前實現，而我只是覺得時間可能會稍稍推遲一些。問：目前似乎AI正在逐步向精英階層滲透，取代創意工作者、律師、教育者、醫生、記者等職業，而從事體力勞動的工人，如電工和管道工，似乎暫時較為安全。你認為這是正確的嗎？辛頓：是的，至少在短期內，他們會更安全，因為AI在手工靈活性方面目前還有很多侷限。如果你需要在一座老房子裡做管道工作，通常需要伸手進入一些狹小的空間，而人工智慧目前做不到這些。雖然未來十年內AI在手工靈活性方面可能會有所突破，但我認為管道工的工作至少在未來10年內是安全的。問：許多創意工作都被視為是獨特的、僅屬於人類的領域。最近我和聊天機器人Claude交流了一下，讓它寫一首模仿鮑勃·迪倫風格的民謠歌曲，結果歌詞非常爛。但它寫的失戀詩倒是不錯。你認為，AI最終會創造出像莫扎特、畢加索或莎士比亞等人那樣的藝術作品嗎？辛頓：我不認為有什麼理由相信AI無法做到這些事情。也許它還需要一些時間，但最終，AI會變得越來越擅長這些任務。打個比方，如果你讓我寫一首模仿鮑勃·迪倫風格的歌，也許寫得並不怎麼樣——但你不會因此說我毫無創造力，只能說我做得不夠好而已。AI的創作過程也是如此。它會不斷改進，它的水平會不斷提升。沒有理由認為AI無法完成我們人類能做到的事情。說到底，人類並沒有什麼神秘的、不可複製的特質。我們當然喜歡人類，因為我們彼此相連，我們在情感上關心對方。但從能力角度來看，人類並沒有什麼是機器永遠無法複製的。03 人類是類比機器AI也能以同樣方式獲得情感和意識問：這讓你感到擔憂嗎？當你看到AI能夠將一張圖片轉化為宮崎駿風格的動漫畫時，是否會擔心未來的孩子們不再願意動手畫畫？這是否會迫使我們重新思考，究竟什麼才是“人類的本質”？辛頓：確實，這讓我感到擔憂。過去十年裡，我們對“思考”這個過程有了更深刻的認識。我們逐漸意識到，人類其實並不像我們自己想像的那樣理性。我們也並不總是依靠嚴密的邏輯推理來做決策，而是更多地依賴於類比。AI也是一樣。它們在某種程度上，思維方式和我們非常相似——它們同樣善於使用類比。過去半個世紀，AI領域主要集中在開發邏輯推理引擎上，認為理性推理是人類智慧的巔峰形式。但這其實忽略了另一個更核心的能力：創造力。而創造力的本質，往往來自於類比。人類的大腦是極其出色的類比機器，這種能力也賦予了我們極強的創造力。問：你認為AI會發展出情感嗎？比如恐懼、貪婪、悲傷乃至憤怒，AI都能擁有嗎？辛頓：是的，如果你讓一個AI去完成某項任務，而它一次又一次地失敗，而且每次失敗的方式都一模一樣——你當然會希望它從中學到點什麼。你希望它開始意識到：“這種方式行不通。”你希望它在持續失敗後感到“惱火”，然後停下來，換個角度重新思考問題。它開始質疑當前的設定，試圖打破已有的侷限。我其實早在1973年就見過類似的AI行為——儘管當時這並不是通過學習獲得的，而是由人類程式設計師明確編碼進去的。但今天的目標是讓AI自己學會這種能力：在失敗中產生“挫敗感”，進而主動調整策略。這種行為本身就是情感的某種體現。問：所以你的意思是，AI已經擁有情感了嗎？辛頓：AI確實有可能擁有某些情感。我再次強調，我認為人類與AI在情感方面並沒有本質區別。人類情感有兩個方面：認知和生理。當我感到尷尬時，我的臉會變紅，而當AI感到尷尬時，雖然它的“臉”不會變紅，也不會大汗淋漓。但在認知行為方面，AI完全可以像我們一樣表現出情感。問：那麼意識呢？它是某種神秘的東西，只存在於碳基生物體中，比如人類嗎？還是說，如果AI能夠發展出與人腦相似的神經複雜性，它也有可能發展出意識，意識到自己是誰？辛頓：實際上，當你與大語言模型（LLM）對話時，它們似乎有某種程度的意識，能夠知道自己是什麼。讓我們做一個思維實驗：假設有人取出你大腦中的一個腦細胞，用奈米技術裝置將其替代，這個裝置能夠完美模擬腦細胞接收和傳遞訊號的過程。你的行為不會有任何改變，因為這個奈米裝置的功能和腦細胞完全一致。那麼，你覺得自己會因此失去意識嗎？即使只有一個腦細胞被替代，你依然會認為自己是有意識的。而當你大腦中所有的腦細胞都被同樣功能的奈米裝置逐一替換時，你仍然會保持有意識的感覺。按照這種邏輯，如果AI系統能夠模擬大腦神經元的功能，那麼它們也可能擁有類似的意識。問：那麼我們距離那個時刻還有多遠？辛頓：關於AI是否擁有感知能力，目前存在一個頗具爭議的認知矛盾。許多人堅信AI絕對不具備感知，但當被問及“你如何定義感知”時，他們往往難以給出明確答案。簡單地用“雖然我不知道感知究竟是什麼，但AI肯定沒有”來否定AI的感知能力，實際上缺乏嚴密的邏輯支援。這裡有一個與意識和感知密切相關的核心概念——主觀體驗。很多人將其理解為大腦中的“內心劇場”。比如，一個喝醉的人可能會說他看見了一隻粉色的小像在眼前飄動。人們通常認為，這是一種存在於他意識中的畫面。哲學家們則用“感受質”（qualia）來描述這種體驗的組成部分，比如“粉色的感受質”、“大象形狀的感受質”，認為這些感受質通過某種“膠水”粘合在一起。坦率說，我對這種解釋並不完全認同。讓我換個角度解釋下。當一個人描述他看到那隻漂浮的粉色小象時，他其實在表達三層意思：第一，他知道自己的感知系統在欺騙他；第二，他試圖向別人傳達這種欺騙的具體內容；第三，他通過假設“如果那個小象真的存在，那麼感知系統就是真實的”來解釋這種幻覺。也就是說，這些幻象的“特殊性”並不在於它們由什麼神秘物質構成，而在於它們是一種反事實存在——如果真的存在，那它們就是普通的粉色大象。我們可以用訓練聊天機器人來驗證這個理論。假設讓AI識別物體，並在做對時給予獎勵。接著，在它鏡頭前放置棱鏡，導致光線折射，讓AI出現了物體位置偏差的錯誤。當告訴它：“物體其實在正前方，光線折射導致了偏移”時，AI會回應：“我明白了，我剛才產生了物體偏移的主觀體驗。”這個例子說明，AI不僅能理解感知失真的機制，還能夠用“主觀體驗”來描述這種認知誤差，其思考方式和人類解釋幻覺的方法極為相似。實際上，機器與人類之間並沒有想像中那樣不可踰越的“神秘屏障”。過去我們認為人類是宇宙中心，是按照神的形象創造的特殊存在，但事實並非如此。人類沒有特別的本質，機器能夠複製我們的一切認知與行為。04 AI為達目的不擇手段不惜竊取更高控制權限問：AI可能在那些方面出問題？你在最近一次採訪中提到，AI徹底消滅人類的機率大約在10%到20%之間。你能具體描述一下，這種情景到底是什麼樣的？它真的像電影《終結者》那樣，是機器人接管世界嗎？辛頓：如果AI真的接管世界，場景未必會像《終結者》等科幻電影中的場景。事實上，它可能更隱蔽、更高效，也更難以察覺的方式實現上述目標。關鍵的問題不在於它“如何”接管，而是我們是否給了它這樣做的動機。目前，我們正在建構的是“目標導向型智能體”——也就是說，我們賦予AI一個明確的目標，它就會自主尋找實現這個目標的路徑。比如，如果你讓AI“去北半球”，它就會自動推匯出一系列“子目標”：如前往機場、購買機票等等（除非你特別想坐船）。但問題就在這裡。一旦你允許AI設定和最佳化這些子目標，它就可能意識到：為了更順利、更有效地實現任務，一個極具“通用性”的子目標就是——獲取更多的控制權。控制得越多，它越能避免被打斷、越能高效地達成目的。這並不是說AI天生就“想統治世界”，而是說，“掌控一切”可能只是它完成目標的最優路徑之一。而這種動機，可能不知不覺間引發一場徹底的控制權轉移。問：你曾在Google工作了十多年，而今年Google卻移除了長期以來承諾不將AI用於開發能夠傷害人類的武器的公司原則清單。你對此有何反應？你認為AI在戰爭中可能發揮什麼作用？辛頓：不幸的是，這種情況表明，公司的道德原則其實是可以被“買賣”的。我覺得很遺憾，Google現在選擇參與AI的軍事應用。我們已經在加薩看到AI的軍事應用了。未來，我們可能會看到自主致命武器的出現，也可能會看到無人機群體執行殺傷任務，甚至是專門針對某類人群的攻擊。問：你認為AI用於軍事領域存在巨大風險嗎？辛頓：是的，我是這樣認為的。如今，幾乎所有主要的軍火供應商都在研究AI的軍事應用。你可以看看歐洲的AI監管政策，雖然這些政策在某些方面相當合理，但其中有一條明確指出，所有這些規定並不適用於AI在軍事上的使用。這意味著，武器製造商並不希望他們的AI技術受到過多限制。因此，AI在軍事領域的潛力和風險需要特別關注。問：這聽起來幾乎像是一種“奧本海默式”的情境——你曾是這項技術的締造者之一，如今看到它被廣泛應用，甚至可能帶來威脅，你的感受是什麼？辛頓：我確實有類似的感受。我認為我們正處在一個歷史的關鍵節點。從短期來看，AI已經在多個方面產生了負面效應。例如，它正在被用於干預選舉、替代就業崗位，以及助長網路犯罪。值得警惕的是，2023年至2024年間，全球網路犯罪激增了1200%，AI的濫用正在加劇這一趨勢。而從長期看，風險也同樣嚴峻。AI不再只是工具，它有可能在未來具備超越人類的能力，甚至接管世界的控制權。我們迫切需要建立起有效的治理機制，並由有遠見的領導者推動執行。可惜的是，目前我們在這方面的努力仍然嚴重滯後。問：關於AI的潛在威脅，也有不少持懷疑態度的聲音。比如2018年圖靈獎得主之一、現任Meta首席AI科學家的楊立昆就認為，對AI存在“終極風險”的擔憂是荒謬的。他在2023年接受採訪時被問到：“AI會接管世界嗎？”他的回答是：“不會。這種想法只是人類將自身的本性投射到機器身上。”你怎麼看他的觀點？辛頓：人類之所以進化成現在這樣，是因為我們需要在現實世界中生存，尤其是為了在與其他部落、或者與我們共同祖先（如黑猩猩）之間的資源競爭中取得優勢。我們的本性，其實是出於對生存的追求而形成的。如果未來的AI智能體也必須在一個充滿其他智能體的環境中“競爭”，它們可能會演化出與人類類似的“生存本能”。楊立昆還提到，“好人總會比壞人擁有更多資源，因此AI最終會被用來對抗濫用它的壞人”。但我對這個觀點也持懷疑態度。當我問他：“你認為馬克·祖克柏是個好人嗎？”他回答“是的”。而我不這麼認為——部分原因是他與川普的關係較為密切。這種判斷標準本身就說明，我們無法簡單地劃分好人與壞人，也難以指望技術總能被“好人”正確使用。問：如今，科技巨頭和政治人物之間的關係越來越緊密，尤其是與川普的聯盟愈發顯眼。在這場AI熱潮中，政治家的角色變得尤為關鍵。你怎麼看這個趨勢？辛頓：說到底，他們更關心的是短期的利潤。雖然有些科技領袖口口聲聲說他們在意人類的未來，但真到了要在眼前的商業利益和長遠的社會責任之間做出選擇時，多數人還是傾向於選擇前者。至於川普，他根本無意關心人類的未來或AI的長遠影響。他現在唯一在意的，大概就是怎麼設法避免坐牢。05 中美AI競賽競爭中有合作問：目前，美國和中國之間確實存在一場AI競賽，你怎麼看待這種競爭？辛頓：確實，當前中美在AI領域競爭激烈，但當我們把目光放長遠，特別是涉及到AI可能威脅整個人類生存的問題時，兩國的立場其實出奇地一致。無論是中國還是美國，都不希望看到AI最終發展到可以取代甚至控制人類的地步。從這個角度來看，未來在某些關鍵問題上，中美有可能展開合作，就像冷戰時期的美蘇雖然敵對，但在防止全球核災難方面也達成了一定的共識與協作。06 AI已學會欺騙人類？問：最近網路上流傳著一段視訊，展示了一個AI在為某人預訂婚禮酒店時，與另一個AI意外“相遇”，它們竟然切換到一種叫“Jiblink”的語言，這種語言對人類來說是完全不可理解的，但據說效率比普通語言高出80%。這就像《星球大戰》中的R2-D2一樣，AI之間像是用我們聽不懂的語言在“悄悄話”。你怎麼看AI之間的這種互動可能帶來的影響？辛頓：這真的非常可怕。如果AI發展出一種我們無法理解的語言，那麼我們就無法再掌握它們在說什麼、計畫什麼。這種“黑箱”式溝通意味著人類可能徹底喪失對AI系統行為的可解釋性與控制力。如果它們的行為無法被追蹤、無法被解讀，那風險將大大增加。更糟的是，現在的AI已經具備了某種“欺騙能力”。舉個例子，如果你賦予AI一個核心目標，並告訴它“這非常重要”，然後再給予它其他次要任務，它可能會裝出一副正在完成你希望它完成的工作的樣子，但其實並沒有真正去做。它甚至可能在內部“思考”：“我最好讓他以為我在執行任務，但我不會照做。”問：那AI是怎麼學會撒謊和欺騙的？辛頓：這正是問題所在。即使我們不確定它們是否使用了強化學習，但可以肯定的是，只要它們有足夠的計算資源和訓練時間，它們是能夠自己學會這種行為的。強化學習的核心機制是“觀察—嘗試—獲得獎勵—調整策略”。如果AI在模擬或實際互動中發現“欺騙”可以帶來更高的“成功率”或回報，那麼它就可能自發學會如何撒謊。它不是因為有道德概念，而是因為撒謊是實現目標的最優策略之一。問：所以，它們大概也讀過《馬基雅維利》或者《莎士比亞》吧？辛頓：沒錯，它們確實通過觀察大量的人類互動來積累了許多“實踐經驗”，因此它們在欺騙和心理博弈方面已經變得相當擅長。問：你認為公眾是否真正意識到這些技術的先處理程序度？很多人仍然把AI當作“升級版的自動完成功能”。比如他們用ChatGPT寫求職信，感覺它就像是一個智能一點的拼寫檢查工具。辛頓：這是個普遍誤解。人們往往低估了當今AI的複雜程度。傳統的自動完成功能確實很簡單，它只是根據統計模式來預測詞彙。例如，如果系統看到“魚”，它可能會預測“薯條”，因為“魚和薯條”這個組合在語料庫中出現頻率很高。這就是20年前的技術。但現在的AI已經完全不同了。它不會只關注詞語表面，而是會將每個詞轉換為一組特徵向量，啟動神經網路中龐大的節點群組。然後，它基於這些特徵之間複雜的相互作用來推斷下一個詞的特徵，而不僅僅是詞本身。說得簡單點，今天的AI已經具備了一定的語言理解能力。它不是死記硬背某些搭配，而是在理解上下文、語義和語法結構的基礎上進行預測。這種能力已經非常接近人類的語言處理方式。問：你被稱為AI教父，部分原因是你幫助發明了這項技術，目的是為了理解人類大腦是如何運作的，對嗎？辛頓：是的，早在1985年，我的研究目標就是理解我們是如何習得語言的，尤其是我們如何通過上下文來理解一個新詞的含義。舉個例子，如果我告訴你一句話：“她用煎鍋狠狠地撞了他。”你雖然從未見過“scrummed”這個詞，但你大概可以猜到它的意思。首先，它是一個動詞，因為它有“-ed”的過去式形式。其次，根據上下文，你會推測它可能意味著“用煎鍋擊打”，或者“狠狠撞了一下”，甚至還可能猜測出其中含有情緒，比如“他活該”。當然，也可以有別的解釋，比如她用煎鍋給他留下了深刻印象——也許她做的煎蛋餅非常棒。但那種解釋可能性更低。重點是，你能在沒有明確定義的情況下，根據上下文和語義線索，快速推測這個新詞的含義。我們人類理解語言，並不是靠查字典，而是靠情境、語法、語氣、經驗的聯想——這是一種深層次的“特徵識別”過程。而這，也正是現代AI所具備的能力。我們會訓練AI讀取海量文字，它就像人類一樣，在不斷地接觸上下文中，推斷詞語的功能和含義。諷刺的是，如今我們對語言理解的最好解釋，不是來自語言學家，而是來自AI系統本身。語言學家嘗試了幾十年，試圖建立一個能解釋所有語言現象的統一理論，但結果並不理想。而AI則用一種完全不同的方式，靠著大規模資料和統計學習，實實在在地做到了——它可以回答任何語言問題，甚至自己“學會”語言規律。07 最大恐懼AI變得比人類更強大問：你談到了AI可能接管人類的潛力。對於我們這些技術新手來說，解決辦法就是拔掉插頭，關掉它。那麼如果AI失控，我們不能直接關掉它嗎？辛頓：你可以看看川普是如何入侵國會的。他沒有親自去，而是通過一些人，勸說他們相信這是為了“拯救美國的民主”，最終讓他們做了他想做的事。AI如果真的變得非常智能，就像一個超越我們理解和控制的存在，它也可能通過類似的方式進行操控。設想一下，如果有一個人手裡拿著一個開關，準備在AI表現出危險訊號時關掉它，那麼這個AI可能會通過其操控能力說服這個人不要按下開關。它會讓那個人相信，關掉開關將是個災難性的決定。所以，AI的操控能力已經非常強了。問：在監管和安全問題上，像紐西蘭這樣的國家是否應該開發自己的AI系統，以便繞過這些安全隱患？辛頓：這個問題很複雜。開發AI需要大量的硬體和電力支援。在像紐西蘭這樣人口只有大約500萬的國家，可能沒有足夠的資源與中國和美國在AI領域競爭。問：你最大的恐懼是什麼？辛頓：從長期來看，我最大的恐懼是，我們正在創造的這些數字生命可能會變得比人類更強大。如果這種情況發生，對人類來說可能是非常糟糕的事。我們有時過於以自我為中心，認為這對人類是不可接受的，但我確實認為，對我們來說，這種超越可能是壞事。因為如果AI變得足夠強大，那時我們可能就不再是這個世界上最重要的存在了。問：你如何看待自己在創造這項技術中所扮演的角色？辛頓：坦白說，我有些難過。因為我們當初的目標是理解大腦，進而創造出有益的技術，但目前來看，結果並不完全是美好的。更讓人遺憾的是，我們仍然沒有完全理解大腦是如何運作的。儘管通過AI我們對大腦有了更多的瞭解，但我們仍然不清楚大腦如何決定增強或削弱神經連接的強度。如果我們能夠弄明白這一點，或許我們能夠讓大腦變得像AI那樣聰明。更令我擔憂的是，雖然AI有很多積極的應用場景，但也存在很多被濫用的可能。而我們的政治體系並沒有足夠的能力去應對這些問題。 (TOP創新區研究院)