在赫拉利看來，AI有著巨大的積極潛力，可以在很多方面幫助人類，比如發明新的藥物、避免氣候變化帶來災難性結果，但AI同時也帶來很多挑戰和威脅什麼是AI（人工智慧）？AI的危險是什麼？人類在AI時代怎麼樣繁榮發展？3月24日，英國劍橋大學特聘研究員、《人類簡史》作者尤瓦爾·赫拉利在出席中國發展高層論壇2025年年會期間就關於人工智慧（AI）的三個問題發表主題演講。赫拉利表示，儘管目前有許多關於AI的炒作，但AI並不只是自動化，它意味著一種主體性和主動性。“AI並不是我們手裡的工具，AI是一個智能體。要成為一個AI，僅僅讓機器自動化還不夠，它還必須有能力去自己學習、自己改變、自己做出決定，而且還要發明新的想法。”他說。尤瓦爾舉例說，如果通過人類操作咖啡機的按鈕，機器自動準備好了一杯咖啡，由於機器有設定的程序，它沒有學到，也沒有創造任何新東西，所以這不是AI。但如果人類還沒有按下按鈕，咖啡機基於對人類的監控和瞭解，預估對方會想要一杯濃縮或者是美式咖啡，這才是AI，因為它能夠學習和創造新的東西。“所以從主體性的角度而言，它其實是一個異質的、非有機的智能體。它的智能不是人類的智能，甚至不是有機體的智能，它能夠做決策、創造想法，可能不是人類所能想到的。”赫拉利說。在赫拉利看來，AI有著巨大的積極潛力，可以在很多方面幫助人類，比如發明新的藥物、避免氣候變化帶來災難性結果，但AI同時也帶來很多挑戰和威脅。對於AI帶來的危險，赫拉利表示，一個基本的問題在於它是異質性的智能體，因此AI是不可信也是不可預測的。“在發展AI的過程中，一個核心問題是信任的悖論。人類要相互信任很不容易，但卻覺得可以或者應該相信AI。”赫拉利說。在遇到AI行業的領導者時，赫拉利總會問他們兩個問題：為什麼AI發展得這麼快，雖然存在那麼多風險？可以相信你們正在開發的超智能AI嗎？對於第一個問題的答案，對方通常回答稱，發展AI確實有危險，最好能夠小心謹慎地往前走，但他們同時擔心，如果自己放慢腳步而競爭對手沒有放慢速度的話，對方就會贏得這場比賽。面對第二個問題，對方給出的答案是，他們不相信人類競爭者，但相信超級智能的AI。“這真是一個悖論。”赫拉利指出。他進一步解釋，人類打交道已經有幾千年的歷史，我們對人類的心理和生理很瞭解，對於人類對權力的渴望以及控制這種權力慾望的力量也很瞭解。已經有許多方式在人類之間建立信任，網路可以把全世界80億人連接在一起，這些完全陌生的人一起生產食物、發明藥物來保護人類。“雖然我們遠沒有解決人類之間的信任問題，但至少知道挑戰是什麼。”與此形成鮮明對比的是，人們缺乏與人工智慧打交道的經驗。現在人類已經知道AI會撒謊，會出現一些偏離，這是人類事先可能沒有預料到的。赫拉利表示，人類發明了AI，可以通過設計使它們對人類是安全的，但由於AI能夠學習和自己改變自己，因此存在以不可預測方式改變的可能。對於“人類如何在AI時代實現繁榮”這個問題，赫拉利認為答案很簡單：人類團結在一起可以控制AI；如果人類相互鬥爭，AI就會控制我們。他因此提出，在開發超級智能的AI之前，應該在人類之間建立更多信任。不幸的是，人類之間的信任正在崩塌。太多國家認為，強大意味著不要相信任何人，與他人徹底隔絕，但徹底的分離是不可能的，不合作是不可能生存的。赫拉利說，幾千年來，中國為世界做出了很多貢獻，從儒家思想到茶、圍棋、火藥、印刷術；也從外部世界接收了很多東西，從佛教到咖啡、足球、火車、電腦。如果只接受來自自己國家的東西，人類的生活將非常貧乏，甚至難以維繫。赫拉利表示，在AI時代，如果人類忘記共同的遺產，不信任他人，將使我們成為失控AI的獵物。人們從歷史書中讀到了很多過去的戰爭、暴行和不公正，他們看著周圍其他國家和人，可能剩下的只有焦慮。但對痛苦的恐懼對於生存是非常重要的，有些時候它會保護我們遠離危險。為什麼地球是被人類控制，而不是被大猩猩或者大象等其他動物所控制？赫拉利表示，這並不是因為人類更聰明，而是因為我們比動物更知道如何和陌生人建立信任與合作。幾千年來，人類發展出了這樣的能力，這種能力在AI時代更加重要。他在最後指出，想要在AI時代生存和繁榮，相比信任AI，我們更要信任人類。 (財經雜誌)

刷完了赫拉利的《智人之上》，我先說幾點： 前文鋪墊過於冗長，我認為整體篇幅可以壓縮60%。 作者赫拉利是一位歷史學家，他對IT演算法的瞭解可能有限，更多的是站在人類社會發展的角度發表意見。 內容並沒有《人類簡史》驚豔，豆瓣三顆星。

在人類文明的長河中,某些技術革命會如同一道閃電,瞬間照亮整個時代,並在之後的歲月裡持續釋放能量,徹底重塑人類社會。 15 世紀中葉古騰堡發明活字印刷術,開啟了人類歷史上最偉大的資訊革命之一。近600 年後的今天,我們正站在另一個時代的分水嶺上—— 人工智慧正在以前所未有的速度和規模改變著世界。 著名歷史學家尤瓦爾·赫拉利在他的新書《紐結》(Nexus)中提出了一個引人深思的觀點: 人工智慧可能是自印刷術以來最具顛覆性的技術革命。 這一大膽論斷引發了廣泛討論,也讓我們不禁要問:為什麼說AI 堪比甚至超越了印刷術的影響?我們能從印刷術革命中汲取那些經驗教訓來應對AI 時代的挑戰?讓我們跟隨赫拉利的思路,以歷史的眼光審視這場正在發生的技術革命。

是的，今天我想和大家談的是人工智能和人類的未來。 我知道這次會議的重點是人類正面臨的生態危機，而人工智能無論好壞都是這場危機的一部分。人工智能可以在很多方面幫助我們解決生態危機，但也可以加劇危機。 事實上，人工智能可能會改變生態系統的意義。因為，40億年以來地球的生態系統只包含有機生命形式，而現在或不久的將來我們可能會看到第一批無機生命形式的出現，或至少是無機媒介的出現。 日前，著名暢銷書《人類簡史》《未來簡史》與《今日簡史》的作者尤瓦爾·赫拉利，發表了關於人工智能與人類的未來主題演講，他認為，人工智能正在以超過人類平均水平的能力掌握語言，而通過掌握語言，人工智能正在掌握入侵人類文明系統的鑰匙。