•
對話凱文·凱利：不必過多擔憂，AI變強後，人類只需專注於“玩”
當人工智慧以顛覆性姿態重構人類文明時，一個無法迴避的問題浮出水面：我們究竟在創造怎樣的未來？
若要尋找這個時代的科技先知來探討這個問題，凱文·凱利（Kevin Kelly）的名字必然位列其中。
這位《連線》雜誌創始主編、《失控》作者，早在1994年網際網路方興未艾之際，便預言了雲端運算、物聯網和虛擬現實的技術趨勢。他的“技術元素”理論重構了矽谷對技術本質的認知，而“一千個鐵桿粉絲”法則至今仍是創作者經濟的核心指導思想之一。
如今，在其新作《2049：未來10000天的可能》中，他將目光投向2049年——一個被AI徹底重塑的世界。
凱利給出的答案依然充滿預言性的洞見。他讓我們忘掉AGI和大一統模型的存在，轉而擁抱像動物園一樣千奇百怪的“異類智能”AI。他不相信AI將是凌駕於人類之上的神明，而是像外星人一樣與我們共存的"他者"。
在他描繪的2049年，我們將生活在一個“鏡像世界”中。一個增強版的“元宇宙”，疊加在現實之上的虛擬維度。在那裡，人類與AI在三維空間中相遇、協作、創造。在這個世界中，人類的價值不會因AI而貶值，反而會因其稀缺性而倍增。
這份烏托邦式的願景是否經得起現實檢驗？回望1990年代，凱利曾堅信網際網路會帶來去中心化的民主盛世，但現實卻演變為演算法壟斷與資訊戰的血腥戰場。而今天，當我們審視這個被演算法主宰、被巨頭壟斷、充斥著虛假資訊的網際網路時，不得不承認現實與理想之間存在著巨大的鴻溝。
因此，當凱利再次描繪一個由AI主導的美好未來時，我們既需要他的遠見照亮前路，更需以清醒之姿追問：當智能眼鏡記錄一切時，人是否真的可以為了便利放棄所有的隱私？當AI助理接管人類時，平等的主張是否還有意義？
這些問題的答案，將決定2049年是“酷中國”的崛起，還是新一輪失控的開端。
騰訊科技：KK你好！在我們2024年的對話中，你曾提到ChatGPT和AI圖像生成技術帶來的顛覆性體驗。今年呢，是否有任何新的AI模型或智能體讓你感到驚訝？
Kevin Kelly：沒有什麼令人震驚的新產品，新模型似乎沒有那麼革命性。很多人都會有同感。這可能表明擴大規模正變得越來越困難。自我們上次對話以來，我對當前的模型印象深刻，但並不驚訝。這也包括中國的模型，它們非常出色，但與美國的模型相比仍沒有太大區別。
騰訊科技：當下的模型能通往AGI嗎，還是說需要更多的東西？
Kevin Kelly：我認為還需要更多。但這只是我的直覺，也可能會錯。很多聰明的投資者相信，僅靠擴大現有模型的規模就能實現AGI，基於我過去的經驗，我對此表示懷疑。
在寫《失控》和《新經濟新法則》時，我試圖說明的是，我們無法用一種完全自下而上、完全去中心化、完全扁平化的東西走完全程。而這些大語言模型就是這樣的，沒有層級，所有神經元都一樣。所以，我懷疑通過擴大這種扁平模型能否實現AGI。
這是一個絕佳的起點，但無法帶領我們到達終點。智能不是單一元素，而是由幾十種不同元素構成的複雜化合物。我們可能需要新的術語去描述智能。
我的基本前提是，我們普通人和研究它的科學家對智能到底是什麼一無所知。就像1700年代發現電和元素時一樣，當時最聰明的人對它有各種理論，但最終都錯了。
我們正處於這個階段——對智能毫無頭緒。
騰訊科技：這個新術語是你在書中提到的“異類智能”（Alien Intelligence）嗎？你為何認為用它來描述未來25年的AI，比AGI或ASI更準確？
Kevin Kelly：“異類智能”對我來說是一個思考AI的隱喻。把它想像成來自另一個星球的外星人。
它們可能有感知，有意識，但關鍵是它們是不同的，而不是更高級的。
騰訊科技：它和通用人工智慧（AGI）或人工超級智能（ASI）有什麼區別？
Kevin Kelly：“超級”（Super）這個詞暗示著在人類之上。而我說的是，它不在我們之上或之下，而是“他者”（Other）。就像《星際迷航》裡的斯波克，它是外星智能，但它比柯克船長更優越嗎？不，它只是不一樣而已。
智能不是一個向上的階梯，“超級AI”這種說法是錯誤的隱喻。它們是不同的物種，是異類的，不在我們之上。
騰訊科技：按照這個邏輯，對我們人類來說，其它動物也是一種異類智能，因為我們無法理解它們的想法。但我們歷史上一直認為自己比動物和植物更高級。
Kevin Kelly：是的，這源於我們的進化，我們可能無意中滅絕了其他智慧物種。但事實上，我們甚至不知道鯨魚是否比我們更聰明，比如你的計算器在算術上就比你聰明。
問題在於，我們本能地想把事物放在一個階梯上，但智能並非如此，它不是單一維度，而是多維度的廣闊空間。當我們開始繪製動物智能和機器智能的圖譜時，會發現我們的智能只是處於某個邊緣。
目前，缺少一門關於“可能心智的分類學”（taxonomy of possible minds）。我們需要建立一個分類學，能夠標示出動物心智（狗、鯨魚、黑猩猩等）、人類心智以及各種AI的位置。
認為我們比長頸鹿更優越的想法是沒有意義的。
同樣，我們對“超級智能”沒有任何定義或度量，對它的無知是巨大的。我認為這個詞沒有幫助，到2049年，我們甚至不會再使用AGI或ASI了。
騰訊科技：但似乎學界也有不同的想法。比如辛頓在最近的發言中說，AI最終能做我們能做的一切，並且做得更好。
Kevin Kelly：萬物皆有取捨。你不可能製造一台在所有方面都優於其他所有機器的機器。
為了讓某樣東西更快，必然要在工程上做出犧牲，我們無法同時最佳化靈活性、速度、成本和能效，這是工程學的真理。
智能也是如此，無法在所有維度上都進行最佳化。
騰訊科技：所以你才認為AGI無法實現，或者一個基礎大模型無法做所有事？
Kevin Kelly：就像我們和螞蟻。有很多事是螞蟻能做而我們做不到的，比如鑽進小洞、聞到我們聞不到的氣味。我們可能會說我們不在乎，但螞蟻在乎。你不能說我們在所有方面都優於螞蟻。
我們在很多方面優於它們，但不是所有方面。
騰訊科技：你描述的這種“異類智能”，似乎是會專注於不同的事情，而不是一個能做所有事的通用大模型。這也與Google、OpenAI等公司的發展方向不同。他們正試圖通過微調和強化學習，讓一個基礎模型能快速掌握新技能，而不需要專門的小模型。
Kevin Kelly：是的，如我所說，世界上最聰明的人和最大的資本都在賭這條路，它完全有可能成功。
但是，我對此持懷疑態度。所以，我們必須考慮兩種情況。提出不同場景的目的不是為了預測未來，而是為了讓我們對未來不感到意外。你需要預演，如果薩姆·奧特曼的版本成功了，我作為個人、公司或國家，是否準備好吸收其益處？
如果他不正確，我們迎來的是一個更加去中心化、不需要巨量資料的AI世界，就像DeepSeek正在做的那樣，我也不想感到意外，我要準備好如何充分利用它。
騰訊科技：現在我們來談談你對2049年AI世界的描述。你提到了“鏡像世界”（Mirror World）這個新概念，並將其定義為下一代網際網路。它到底是什麼？與我們現在所說的“元宇宙”（Metaverse）有何根本不同？
Kevin Kelly：它有點像虛擬現實（VR），像電影《頭號玩家》那樣，你可以進入一個非常逼真的三維空間並與之互動，但這只是其中一小部分。
第二個更重要的部分是，我們是在真實世界之上疊加了一個虛擬世界，這個虛擬世界是真實世界的孿生或鏡像。
比如現在我們對話，我戴上眼鏡會看到你的一個三維化身（Avatar）坐在我旁邊的沙發上，我會確信你就在那裡。這個化身是在我的真實房間裡，看起來像一個全息圖。你也可以通過它看到我房間的樣子。
第三個層面是所謂的“空間智能”。在這個虛擬世界裡，虛擬的球會像真球一樣彈跳，液體會遵循同樣的物理定律，有遠近、上下、左右。這種空間維度是我們目前不具備的。它能讓你通過一句話生成一個具備空間邏輯的完整三維世界，理解物體的前後遮擋關係。
第四個層面是，當汽車和機器人在移動時，比如一輛Waymo無人車行駛在路上，它所“看到”的世界就是鏡像世界。它在自己的“腦海”中建立了一個虛擬表徵，這個表徵就是鏡像世界。可以說，我們將會在鏡像世界中與機器人和AI相遇。
在這個鏡像世界裡，你可以戴上一副智能眼鏡，看到你的房間，並要求疊加不同的資訊層。比如讓它顯示所有物體的材質，或者在進入房間的人頭頂上顯示他們的名字。但這只是最容易描述的版本。
所有這些都只有在廉價、普及的AI支援下才可能實現。沒有AI，就沒有增強現實的鏡像世界。
騰訊科技：我理解你說的第三和第四層面的鏡像世界，即對物理世界的完全復刻，必須基於能理解物理世界的AI模型。但前兩個層面，Meta在AI時代之前就已經在嘗試了。為什麼鏡像世界在你的未來構想中如此重要？
Kevin Kelly：這是一個終點，是不可避免的。
現在我們用全世界的視訊來數位化和訓練AI，這是在用“過去”的資料。當所有已記錄的資料都用完後，我們唯一剩下的就是用“現在”——即時發生的真實世界來喂養AI。一旦你這麼做，你就擁有了鏡像世界。
因為AI在觀察真實世界時，必須對其進行處理、渲染和想像，這就構成了鏡像世界。然後我們便可以進入其中，進行社交、培訓、導航等。
我們在那裡與它們相遇，並將其用於娛樂、協作等我們甚至還沒想到的事情。
我認為娛樂只是其中一小部分，其主要用途是作為協作的工具。
我斷言，在所有社交媒體中，鏡像世界將是最具社交性的。人們會願意花數小時與其他人的虛擬化身待在一起。
它還能讓我們發明新的協作工具，實現前所未有的規模協作，比如讓一百萬人在同一個虛擬公司世界裡即時合作一個項目，這是在現實空間裡無法做到的。
騰訊科技：但現在網際網路本身，比如在微信裡，一個500人的群也可以一起聊天。溝通的規模已經被拓寬了。
Kevin Kelly：是的，但我們想變得更寬。
騰訊科技：但這怎麼實現？在交流中，人腦接收和處理資訊的頻寬非常有限。
Kevin Kelly：問題不在於接收更多資訊，而在於在正確的時間獲得正確、最少或最佳的資訊。這關乎智能。
一個能讓百萬人協作的系統，必須能很好地“閱讀”我，理解我的才能、情緒等各種情況，以進行最佳化匹配。這不是發發郵件或簡訊就能解決的。
想像一下，你要和一個將與你共事一生的人合作，你需要瞭解他的一切，現在再把這個需求乘以一百萬。
騰訊科技：這個鏡像世界不僅僅是把我們的聲音或文字加上虛擬形象，而是以一種全新的協作方式。它需要AI來篩選，找到合適的話題和合作者。
Kevin Kelly：沒錯。它是一個協作、社交和創造的平台。
我曾提出“1000個鐵桿粉絲”理論，即每個人都可以通過為1000個粉絲創作來謀生。難點不在於創作，而在於找到你的1000個鐵桿粉絲，並讓他們找到你。
AI可以幫我們解決這個問題。
騰訊科技：這聽起來更像是一個新版的推薦系統。
Kevin Kelly：是的，匹配就像推薦，但這只是其中一部分。
它也是一個能讓你更高效、更有創造力的平台。戴上眼鏡，我所看的一切都會被監測，系統會知道我盯著什麼看了多久，瞭解我的興趣和厭倦，知道我何時最高效。它也是一種自我認知和自我提升的平台。
騰訊科技：我們來談談AI將如何影響世界。你提到鏡像世界可能會由一個超級公司主導。為什麼你會這樣認為？
Kevin Kelly：會有少數幾家，形成寡頭壟斷，一兩家或三家。
就像Windows和Mac，會有一兩個巨頭。這遵循網路效應——越大越好，越好越大。AI也是如此，儘管現在AI還不能通過使用者使用來學習，但一旦它們可以，我們就會看到這個效應。最大的會變得更大，因為它們越大，學得越好。
所以這種動態不會改變，會一直持續到2049年。
我認為這是一種“自然壟斷”。所有這樣的通訊系統都有這種贏家通吃的動態。但這種自然壟斷的生命周期很短。它們崛起很快，但主導地位消失得也很快。因為新的平台會到來。
比如Google搜尋80%的份額，可能在兩年內就消失了，因為大家都會直接問AI。OpenAI可能取代Google。
現在，如果你有了AI，主導者可能不會是Google或Facebook，而是一家像OpenAI、Anthropic或DeepSeek這樣的新興公司。然後，當鏡像世界到來時，它們的主導地位也會被一個更大的新平台所取代。
騰訊科技：讓我們從公司這個層面轉向人。你在書中說人類擁有AI不具備的“大寫的創造力”（Capital C creativity）。為什麼只有人類擁有這種能力？
Kevin Kelly：我要明確，這是就目前而言。我不是說AI最終學不會“大寫的創造力”，事實上AGI的目標就是實現它。
“大寫的創造力”是指突破性的創新。
用電腦科學的術語來說，AI非常擅長“爬山”。“爬山”，即通過不斷最佳化找到一個已知的山頂。現在的AI，只能找到已知的解決方案，但突破性的創造力不是爬山，而是創造新的山，發現一個更大的山。現在的AI不擅長提出前所未有的新想法。
也許有一天我們能教會它們，但這需要新的模型，擴大現有模型的規模是做不到的。
騰訊科技：但是在一個資本主義世界，有價值的東西是因為它可以被出售。我們可以建構一個在所有可出售的技能上都比我們強的AI。
Kevin Kelly：是的，它們可以在對經濟有價值的技能上比人類做得更好。
如果你只專注於那些對我們當前工作有價值的少數技能，AI確實可以做得比我們好。
騰訊科技：我們當今經濟所依賴的，正是我們擅長的這些事。因為AI還不能比我們更好地完成這些日常工作，我們才有工作。當AI達到能比我們做得更好的水平時，我們的社會會如何改變？
Kevin Kelly：如果機器人和AI變得非常出色，它們會賺到所有的錢，然後給我們任何我們想要的錢，我們只需要玩耍。
對很多人來說，這似乎是他們的夢想。“我為什麼要工作？如果我不用工作，我就應該玩。”
我對此不會抱怨。
騰訊科技：但這有可能發生嗎？你之前提到AI可能會被幾家公司集中控制，它們擁有巨大的權力，會讓我們什麼都不做只玩嗎？
Kevin Kelly：我假設那些公司裡工作的人也在玩。
大多數人早上醒來並不會想：“我想做電子表格，我想開公車。”這類工作我認為會消失。這很奇怪，我們認為文明的目標是我們不必工作，但我們又常常擔心失去工作。
我們應該希望盡快失去工作才對。
騰訊科技：人們現在需要工作，是因為他們要維持生計。
Kevin Kelly：工作與生計這兩者是分開的。但如果AI發展得如此之快，下個月就取代了我們所有的工作，那確實是個問題。但沒有任何證據表明它會發生得那麼快。
大語言模型已經出現了好幾年，因為AI而被解僱的人數非常非常少。也許這會在十年內發生，但這給了我們充足的時間來調整。
騰訊科技：所以在AI能提供足以支撐全民基本收入（UBI）的生產力之前，會有多長的過渡期？
Kevin Kelly：我認為UBI並不會發生。因為沒有必要。我們會發現，與其他人待在一起非常有價值。
我喜歡觀察富人的行為作為未來的指標。過去只有富人出國度假，現在中產階級也這麼做。我認為，未來富人會只讓自己被人類包圍。
億萬富翁不會與AI打交道，他們身邊只會是人，因為人會變得更有價值，會成為一種稀缺品。
所以我們作為人類，很多時候會花錢僱傭其他人類來“做人”，來陪伴我們。你會花很多錢去見一個通常只在Zoom上見的朋友；你會花很多錢在你生病時請一個真人坐在你旁邊；你會花很多錢請一個真人老師來教你，並讓AI作為輔助。
這就是我們賺取收入和價值的方式。我們的價值在於我們的人性。
即使AI和機器人非常聰明能幹，作為人類，我們永遠更願意花時間和另一個人在一起，這是天性。
所以人類本身，我們的存在，就變得非常有價值。我們不需要為此做什麼，只要我們活著、健康、有活力，這就變得極具價值。
騰訊科技：當我們有了完美的AI虛擬化身，為什麼還需要與人交流呢？相比完美的AI，人類有太多缺點。現在已經有年輕人更願意和聊天機器人交談，因為覺得AI更懂他們。
Kevin Kelly：我堅信我們會交流得更多。
會有一些人因此感到被隔離，但找到連接感的人會遠遠超過他們。
人類的存在，無法被偽造，你能聞到、感受到它。
它會變得稀缺。地球上的人口在減少，一百年後可能會減少一半。所以人類的存在會變得極其珍貴。
騰訊科技：但讓AI替代人去做事，有一些風險。你假設AI助理需要你的資訊來為你提供個性化的AIOS服務，照顧你的一切。這些資料會被提供這些助理的公司掌握。這不危險嗎？
Kevin Kelly：我認為我們應該有一個可以調節的“旋鈕”，讓使用者自己選擇願意開放多少透明度來換取多大程度的個性化服務。我們發現，大多數人為了獲得個性化，會把旋鈕調到最大透明度。
所以答案是，人們會為了個性化而放棄隱私。我們願意將資訊交給一個我們信任的公司或機構，關鍵是“信任”。如果我們不信任他們，就不會感到安心。
所以問題是，未來人們更信任政府，還是更信任企業或非營利組織？在美國，人們更信任企業。目前，人們在一定程度上願意將資訊交給公司，只要他們能從個性化服務中獲得好處。隨著好處增多，他們會願意放棄更多。
所以我認為AI助理需要你的資料，只要它能提供巨大的價值作為回報。
騰訊科技：現在已經有很多論文講了用AI操縱人類的可能，甚至用機器人組建軍隊的水平。所以我們應該在事情發生前就立法防範，對嗎？
Kevin Kelly：不，我們不必。我們必須等待看看實際發生了什麼，然後基於證據而不是想像來制定政策。
基於想像的叫做“預防原則”，這是非常危險的。而“主動原則”是指你使用並不斷測試，基於實際發生的好壞證據來制定政策。
騰訊科技：但根據AI安全主義的敘事，在AI時代情況可能完全不同。當AI相關的風險發生時，你可能沒有第二次機會去糾正它。
Kevin Kelly：這個說法沒有證據。
騰訊科技：你覺得在AI時代的核心技能是什麼？你在書中預測，對高中畢業生來說，最重要的將是“知道如何為自己最好地學習”。你為什麼這麼想？
Kevin Kelly：這是一個很自然的問題：“我應該在學校學什麼？我的孩子應該主修什麼？”
很明顯，到2049年，一些薪水最高的工作在今天根本不存在。所以解決方案是你必須成為一個終身學習者。
人們已經這樣說了一段時間，但“學會如何學習”這項技能，我沒在任何學校見過。我找不到任何一所學校會教你如何最佳化自己的學習。兩年後又會有新東西出現，你必須再重新學習。
所以你必須非常擅長學習，但我們卻沒有被教導如何為自己最好地學習。如果是面向學習方法的教育，當你畢業時，老師應該幫助你改進過學習方式，讓你確切地知道你需要多少次重複、多少休息、用什麼方法去學習。
我認為這是真正的核心技能，因為回答問題，AI會做；執行任務，AI會很擅長。你將需要不斷學習新東西。
騰訊科技：但我們現在在學校也被教了一些學習方法，比如讀書、做練習。
Kevin Kelly：是的，但這些方法未必對每個人都適用。教育學告訴我們，每個學生都應該按照自己的節奏進行自定進度的學習。
其次，學校沒有嘗試去最佳化你獨立於科目之外的學習能力本身。歷史老師關心的是你是否在學習歷史，而不是你是否在學習以及如何學習。所以沒有人真正關注最佳化你自己的學習能力，而這才是你唯一需要學習的東西。
當然，有些基礎是必要的，比如閱讀、一些批判性思維技能、基礎詞彙和數學。確實存在一個每個人都應該知道的知識子集，但它非常小。
騰訊科技：現在關於教育有一個很流行的說法是，AI時代know-how可能不再那麼重要，因為AI可以為你完成所有過程，最重要的是提出好問題和做出好選擇。你認為這與學習技能有何關聯？
Kevin Kelly：是的，我在另一本書《必然》裡有一整章都在談論從答案到問題的轉變，以及為什麼問題變得更有價值。
學習如何提問，本身就是一種學習方式。
如果你在學習如何“學習”，你很快就會發現，學會提問是最佳化學習的方法之一。所以我同意，教人如何提問的課程是正確的方向。 (騰訊科技)