尤瓦爾·赫拉利：關於人工智慧的三個問題

什麼是AI（人工智慧）？AI的危險是什麼？人類在AI時代怎麼樣繁榮發展？3月24日，英國劍橋大學特聘研究員、《人類簡史》作者尤瓦爾·赫拉利在出席中國發展高層論壇2025年年會期間就關於人工智慧（AI）的三個問題發表主題演講。

赫拉利表示，儘管目前有許多關於AI的炒作，但AI並不只是自動化，它意味著一種主體性和主動性。“AI並不是我們手裡的工具，AI是一個智能體。要成為一個AI，僅僅讓機器自動化還不夠，它還必須有能力去自己學習、自己改變、自己做出決定，而且還要發明新的想法。”他說。

尤瓦爾舉例說，如果通過人類操作咖啡機的按鈕，機器自動準備好了一杯咖啡，由於機器有設定的程序，它沒有學到，也沒有創造任何新東西，所以這不是AI。但如果人類還沒有按下按鈕，咖啡機基於對人類的監控和瞭解，預估對方會想要一杯濃縮或者是美式咖啡，這才是AI，因為它能夠學習和創造新的東西。

“所以從主體性的角度而言，它其實是一個異質的、非有機的智能體。它的智能不是人類的智能，甚至不是有機體的智能，它能夠做決策、創造想法，可能不是人類所能想到的。”赫拉利說。

在赫拉利看來，AI有著巨大的積極潛力，可以在很多方面幫助人類，比如發明新的藥物、避免氣候變化帶來災難性結果，但AI同時也帶來很多挑戰和威脅。

對於AI帶來的危險，赫拉利表示，一個基本的問題在於它是異質性的智能體，因此AI是不可信也是不可預測的。“在發展AI的過程中，一個核心問題是信任的悖論。人類要相互信任很不容易，但卻覺得可以或者應該相信AI。”赫拉利說。

在遇到AI行業的領導者時，赫拉利總會問他們兩個問題：為什麼AI發展得這麼快，雖然存在那麼多風險？可以相信你們正在開發的超智能AI嗎？對於第一個問題的答案，對方通常回答稱，發展AI確實有危險，最好能夠小心謹慎地往前走，但他們同時擔心，如果自己放慢腳步而競爭對手沒有放慢速度的話，對方就會贏得這場比賽。

面對第二個問題，對方給出的答案是，他們不相信人類競爭者，但相信超級智能的AI。“這真是一個悖論。”赫拉利指出。他進一步解釋，人類打交道已經有幾千年的歷史，我們對人類的心理和生理很瞭解，對於人類對權力的渴望以及控制這種權力慾望的力量也很瞭解。已經有許多方式在人類之間建立信任，網路可以把全世界80億人連接在一起，這些完全陌生的人一起生產食物、發明藥物來保護人類。“雖然我們遠沒有解決人類之間的信任問題，但至少知道挑戰是什麼。”

與此形成鮮明對比的是，人們缺乏與人工智慧打交道的經驗。現在人類已經知道AI會撒謊，會出現一些偏離，這是人類事先可能沒有預料到的。赫拉利表示，人類發明了AI，可以通過設計使它們對人類是安全的，但由於AI能夠學習和自己改變自己，因此存在以不可預測方式改變的可能。

對於“人類如何在AI時代實現繁榮”這個問題，赫拉利認為答案很簡單：人類團結在一起可以控制AI；如果人類相互鬥爭，AI就會控制我們。他因此提出，在開發超級智能的AI之前，應該在人類之間建立更多信任。不幸的是，人類之間的信任正在崩塌。太多國家認為，強大意味著不要相信任何人，與他人徹底隔絕，但徹底的分離是不可能的，不合作是不可能生存的。

赫拉利說，幾千年來，中國為世界做出了很多貢獻，從儒家思想到茶、圍棋、火藥、印刷術；也從外部世界接收了很多東西，從佛教到咖啡、足球、火車、電腦。如果只接受來自自己國家的東西，人類的生活將非常貧乏，甚至難以維繫。赫拉利表示，在AI時代，如果人類忘記共同的遺產，不信任他人，將使我們成為失控AI的獵物。人們從歷史書中讀到了很多過去的戰爭、暴行和不公正，他們看著周圍其他國家和人，可能剩下的只有焦慮。但對痛苦的恐懼對於生存是非常重要的，有些時候它會保護我們遠離危險。

為什麼地球是被人類控制，而不是被大猩猩或者大象等其他動物所控制？赫拉利表示，這並不是因為人類更聰明，而是因為我們比動物更知道如何和陌生人建立信任與合作。幾千年來，人類發展出了這樣的能力，這種能力在AI時代更加重要。他在最後指出，想要在AI時代生存和繁榮，相比信任AI，我們更要信任人類。 (財經雜誌)