•
Anthropic CEO發表2萬字小作文：強人工智慧即將到來，人類壽命將翻倍
近期，Anthropic CEO Dario Amodei發表了2萬字預測文章，其中包括提到2026年就可能開發出強人工智慧（AGI）。此後，短短5~10年，人類壽命將翻倍。
同時，他認為，如果願意，半永久性的，大部分精神障礙可以治癒，體重得到控制，健康福利迅速蔓延到世界上最貧窮的國家。大多數傳染病和癌症將被根除，老年痴呆症將被預防。
此外，他強調，強人工智慧（AGI） 的影響是將把 21 世紀 50-100 年的生物醫學進步壓縮到 5-10 年，這將是一場“難以想像的人道主義勝利”，而這一結論“在並不太科幻的假設下”，強大的人工智慧能力將一舉消除困擾人類數千年的大多數弊病。
Dario Amodei本身在生物學和神經科學方面都有專業經驗，Dario Amodei （出生於 1983 年）是一位義大利裔美國人工智慧研究員和企業家，他本科從加州理工轉學到了斯坦福學習物理學，又在普林斯頓大學拿到了物理學博士，期間又研究了神經科學，博士後在斯坦福大學醫學院。他是Anthropic的聯合創始人兼首席執行官，該公司是大型語言模型系列Claude AI 背後的公司。他曾擔任OpenAI 研究副總裁。
人工智慧如何讓世界變得更美好
Dario Amodei
2024 年 10 月
我經常思考並談論強大的人工智慧的風險。我擔任 CEO 的公司 Anthropic，在如何降低這些風險方面做了大量研究。正因如此，人們有時會得出結論，認為我是一個悲觀主義者或“末日論者”，認為人工智慧大多是壞的或危險的。我完全不這麼認為。事實上，我關注風險的主要原因之一是，它們是我們與我所看到的根本性積極未來之間唯一的障礙。我認為，大多數人低估了人工智慧的積極方面可能帶來的巨大變革，正如我認為大多數人低估了風險可能帶來的嚴重程度一樣。
在這篇文章中，我試圖勾勒出這種積極方面可能是什麼樣子——如果一切順利，一個擁有強大的人工智慧的世界會是什麼樣子。當然，沒有人能夠確定地或精確地知道未來，而強大的人工智慧的影響可能比過去的技術變革更不可預測，所以這一切都不可避免地會包含一些猜測。但我至少力求做出有根據的、有用的猜測，即使大多數細節最終是錯誤的，也能抓住將會發生的事情的本質。我之所以加入很多細節，主要是因為我認為一個具體的願景比一個高度模糊的抽象願景更有利於推進討論。
然而，首先，我想簡要解釋一下為什麼我和 Anthropic 沒有過多談論強大的人工智慧的積極方面，以及為什麼我們總體上可能會繼續更多地談論風險。具體來說，我做出這個選擇是出於以下願望：
最大化影響力。 人工智慧技術的基本發展及其許多（並非全部）好處似乎是不可避免的（除非風險破壞了一切），並且從根本上是由強大的市場力量驅動的。另一方面，風險並非預先確定的，我們的行動可以極大地改變它們的可能性
避免被認為是宣傳。 人工智慧公司談論人工智慧的所有驚人好處，可能會讓人覺得像是在宣傳，或者像是在試圖掩蓋負面影響。我也認為，原則上，把太多時間花在“自吹自擂”上對你的靈魂有害
避免誇大其詞。 我經常對許多人工智慧風險公眾人物（更不用說人工智慧公司領導人）談論後通用人工智慧世界的方式感到反感，就好像這是他們單槍匹馬地像先知帶領人民走向救贖一樣帶來的使命。我認為將公司視為單方面塑造世界是危險的，將實際的技術目標本質上視為宗教目標也是危險的
避免“科幻”包袱。 雖然我認為大多數人低估了強大的人工智慧的積極方面，但確實討論激進的人工智慧未來的人群往往以過度的“科幻”語氣來討論（例如，上傳意識、太空探索或一般的賽博朋克氛圍）。我認為這會導致人們不太認真地對待這些說法，並賦予它們一種不真實感。需要明確的是，問題不在於所描述的技術是否可能或是否可能發生（主要文章會詳細討論這一點）——更多的是“氛圍”隱含地夾雜了一堆文化包袱和關於什麼樣的未來是可取的、各種社會問題將如何發展等等的未說明的假設。結果往往讀起來像是針對一個小眾亞文化的幻想，同時讓大多數人感到反感
儘管有上述所有擔憂，但我確實認為，在盡力避免上述陷阱的同時，討論一個擁有強大的人工智慧的良好世界可能是什麼樣子是很重要的。事實上，我認為擁有一個真正鼓舞人心的未來願景至關重要，而不僅僅是一個救火的計畫。強大的人工智慧的許多影響都具有對抗性或危險性，但歸根結底，我們必須有一些為之奮鬥的東西，一些積極的總和結果，讓每個人都過得更好，一些能夠團結人們克服爭吵並迎接未來挑戰的東西。恐懼是一種激勵因素，但這還不夠：我們也需要希望
強大的人工智慧的積極應用列表非常長（包括機器人、製造、能源等等），但我將重點關注少數幾個似乎最有可能直接改善人類生活質量的領域。我最興奮的五個類別是：
1. 生物學和身體健康
2. 神經科學和心理健康
3. 經濟發展和消除貧困
4. 和平和治理
5. 工作和意義
按照大多數標準（科幻“奇點”願景除外），我的預測將是激進的，但我真誠而認真地表達它們。我所說的所有內容都可能很容易出錯（重複我上面提到的觀點），但我至少試圖根據對各個領域可能取得多大進展以及這在實踐中可能意味著什麼的半分析評估來支援我的觀點。我很幸運擁有生物學和神經科學方面的專業經驗，並且我對經濟發展領域略知一二，但我肯定會在很多事情上犯錯。寫這篇文章讓我意識到的一件事是，將一群領域專家（在生物學、經濟學、國際關係和其他領域）聚集在一起，寫一個比我在這裡寫出的版本更好、更詳細的版本將是有價值的。最好將我在這裡的努力視為該小組的初始提示
基本假設和框架
為了使整篇文章更精確、更有根有據，我們需要明確強大的人工智慧的含義（即 5-10 年倒計時開始的閾值），以及闡述一個框架來思考這種人工智慧出現後的影響。
強大的人工智慧（我不喜歡 AGI 這個術語）會是什麼樣子，以及何時（或是否）會到來，本身就是一個巨大的話題。我曾經公開討論過這個問題，並且可以寫一篇完全獨立的文章（我可能以後會寫）。顯然，許多人對強大的人工智慧是否會很快建成持懷疑態度，有些人甚至懷疑它是否會建成。我認為它最早可能在 2026 年出現，儘管也有可能需要更長的時間。但在本文中，我想把這些問題放在一邊，假設它很快就會到來，並重點關注此後 5-10 年內會發生什麼。我還想對這樣一個系統的樣子、它的功能以及它如何互動做出定義，即使在這個問題上存在爭議的餘地。
我所想的強大的人工智慧是一個人工智慧模型——其形式可能類似於今天的 LLM，儘管它可能基於不同的架構，可能涉及幾個互動模型，並且可能以不同的方式進行訓練——具有以下屬性：
在純粹的智力方面，它比大多數相關領域的諾貝爾獎獲得者都更聰明——生物學、程式設計、數學、工程、寫作等等。這意味著它可以證明未解決的數學定理，寫出非常優秀的小說，從頭開始編寫複雜的程式碼庫等等
除了僅僅是一個“可以與之交談的聰明東西”之外，它還擁有一個人在虛擬環境中工作的所有 “介面”，包括文字、音訊、視訊、滑鼠和鍵盤控制以及網際網路訪問。它可以參與任何由這個介面支援的操作、通訊或遠端操作，包括在網際網路上採取行動，向人類發出或接收指示，訂購材料，指導實驗，觀看視訊，製作視訊等等。它完成所有這些任務的技能都超過了世界上最能幹的人
它不只是被動地回答問題；相反，它可以被分配需要數小時、數天或數周才能完成的任務，然後它會以一個聰明的員工的方式自主地完成這些任務，並在必要時要求澄清
它沒有物理實體（除了在電腦螢幕上顯示之外），但它可以通過電腦控制現有的物理工具、機器人或實驗室裝置；理論上，它甚至可以為自己設計機器人或裝置
用於訓練模型的資源可以重新利用來運行數百萬個實例（這與~2027 年的預計叢集大小相符），並且模型可以吸收資訊並以大約 10 倍-100 倍於人類的速度生成動作。然而，它可能會受到物理世界或與其互動的軟體的響應時間的限制
這數百萬個副本中的每一個都可以在不相關的任務上獨立行動，或者如果需要，可以像人類協作一樣一起工作，可能不同的子群體經過微調以特別擅長特定任務
我們可以將其概括為“資料中心裡的天才之國”。
顯然，這樣的實體能夠非常快速地解決非常困難的問題，但要弄清楚有多快並非易事。在我看來，兩種“極端”立場都是錯誤的。首先，你可能會認為世界會在幾秒鐘或幾天的時間尺度上瞬間改變（“奇點”），因為卓越的智能會建立在自身之上，幾乎立即解決所有可能的科學、工程和營運任務。這個問題在於存在真正的物理和實踐限制，例如圍繞建構硬體或進行生物實驗。即使是一個新的天才之國也會遇到這些限制。智能可能非常強大，但它不是魔法仙塵
其次，相反，你可能會認為技術進步已經飽和或受到現實世界資料或社會因素的限制，而優於人類的智能只會增加很少的東西。這在我看來同樣難以置信——我能想到數百個科學甚至社會問題，如果有一大群真正聰明的人，他們會大大加快進步，特別是如果他們不侷限於分析，並且可以讓事情在現實世界中發生（我們假設的天才之國可以做到，包括通過指導或協助人類團隊）
我認為真相可能是這兩種極端情況的某種混亂混合，因任務和領域而異，並且在細節上非常微妙。我相信我們需要新的框架來以富有成效的方式思考這些細節
經濟學家經常談論“生產要素”：諸如勞動力、土地和資本之類的東西。“勞動力/土地/資本的邊際收益”這句話抓住了這樣一個想法，即在給定情況下，給定要素可能是也可能不是限制因素——例如，空軍需要飛機和飛行員，如果飛機用完了，僱用更多飛行員也無濟於事。我相信在人工智慧時代，我們應該討論智能的邊際收益，並試圖弄清楚那些其他因素與智能互補，那些因素在智能非常高時成為限制因素。我們不習慣以這種方式思考——問“變得更聰明對這項任務有多大幫助，在什麼時間尺度上？”——但這似乎是在一個擁有非常強大的人工智慧的世界中概念化的正確方式
我猜測限制或與智能互補的因素列表包括：
外部世界的速度。 智能代理需要在世界上進行互動操作才能完成任務，也需要學習。但是世界移動的速度只有這麼快。細胞和動物以固定的速度運行，因此對它們進行實驗需要一定的時間，這可能是不可減少的。硬體、材料科學、任何涉及與人交流的事情，甚至我們現有的軟體基礎設施也是如此。此外，在科學中，許多實驗通常需要按順序進行，每個實驗都從上一個實驗中學習或建立在上一個實驗的基礎上。所有這些都意味著一個主要項目（例如開發一種治療癌症的方法）的完成速度可能有一個不可減少的最低限度，即使智能持續增加，也不能進一步降低
對資料的需求。 有時缺乏原始資料，在沒有原始資料的情況下，更多的智能也無濟於事。今天的粒子物理學家非常聰明，並且已經發展了一系列廣泛的理論，但由於粒子加速器資料非常有限，因此缺乏在它們之間進行選擇的資料。目前尚不清楚，如果他們是超級智能的，他們是否會做得更好——除了也許通過加快建造更大的加速器之外
內在複雜性。 有些事情本質上是不可預測的或混沌的，即使是最強大的人工智慧也無法比今天的人類或電腦更準確地預測或解開它們。例如，即使是極其強大的人工智慧，與今天的人類和電腦相比，也只能在一般情況下對混沌系統（例如三體問題）中的未來做出略微更遠的預測
來自人類的限制。 許多事情在不違反法律、不傷害人類或不擾亂社會的情況下是無法完成的。一個對齊的人工智慧不會想要做這些事情（如果我們有一個不對齊的人工智慧，我們又回到了討論風險的問題）。許多人類社會結構效率低下，甚至積極有害，但很難在尊重諸如臨床試驗的法律要求、人們改變習慣的意願或政府行為等限制的同時改變它們。在技術意義上運作良好，但其影響因法規或錯誤的恐懼而大大降低的進步的例子包括核能、超音速飛行，甚至電梯
物理定律。 這是第一點的更嚴格版本。有一些物理定律似乎是牢不可破的。不可能比光速更快地旅行。布丁不會自動攪拌。晶片每平方釐米只能有這麼多電晶體，否則它們就會變得不可靠。計算需要每個被擦除的位元一定的最小能量，從而限制了世界上計算的密度
還有另一個基於時間尺度的區別。短期內難以約束的事情，從長遠來看可能會變得更容易被智能所改變。例如，智能可以用來開發一種新的實驗範例，使我們能夠在體外學習過去需要活體動物實驗的東西，或者建造收集新資料所需的工具（例如更大的粒子加速器），或者（在道德範圍內）找到繞過基於人類的限制的方法（例如，幫助改進臨床試驗系統，幫助建立臨床試驗官僚機構較少的新司法管轄區，或者改進科學本身以使人類臨床試驗變得不必要或更便宜）
因此，我們應該設想這樣一幅圖景：智能最初受到其他生產要素的嚴重瓶頸，但隨著時間的推移，智能本身越來越多地繞過其他要素，即使它們從未完全消失（而像物理定律這樣的東西是絕對的）。關鍵問題是這一切發生的速度有多快，以及以什麼順序發生
考慮到上述框架，我將嘗試回答導言中提到的五個領域的問題
1. 生物學和健康
生物學可能是科學進步最有可能直接且明確地改善人類生活質量的領域。在上個世紀，一些最古老的人類疾病（例如天花）終於被根除，但許多疾病仍然存在，戰勝它們將是一項巨大的人道主義成就。除了治癒疾病之外，生物科學原則上還可以通過延長人類的健康壽命、增強對自身生物過程的控制和自由，以及解決我們目前認為是人類狀況不可改變部分的日常問題，來提高人類健康的基線質量
在前一節的“限制因素”語言中，將智能直接應用於生物學的主要挑戰是資料、物理世界的速度和內在複雜性（實際上，這三者相互關聯）。當涉及臨床試驗時，人類的限制也會在後期發揮作用。讓我們逐一分析這些因素
對細胞、動物甚至化學過程的實驗受到物理世界速度的限制：許多生物學方案涉及培養細菌或其他細胞，或者只是等待化學反應發生，這有時可能需要幾天甚至幾周的時間，而且沒有明顯的方法可以加快速度。動物實驗可能需要幾個月（或更長時間），而人體實驗通常需要幾年時間（長期結果研究甚至需要幾十年）。與此有點相關的是，資料通常很缺乏——數量上並非如此，而是質量上：總是缺乏清晰、明確的資料，將感興趣的生物學效應與其他 10,000 個混雜因素隔離開來，或者因果地干預給定過程，或者直接測量某些效應（而不是以某種間接或嘈雜的方式推斷其後果）。即使是大量的定量分子資料，例如我在研究質譜技術時收集的蛋白質組學資料，也是嘈雜的，並且遺漏了很多（這些蛋白質位於那種類型的細胞中？細胞的那個部分？在細胞周期的那個階段？）
這些資料問題部分原因在於內在的複雜性：如果您曾經見過顯示人類新陳代謝生物化學的圖表，您就會知道很難隔離這個複雜系統的任何部分的影響，更難以精確或可預測的方式干預系統。最後，除了在人類身上進行實驗所需的時間之外，實際的臨床試驗還涉及大量的官僚主義和監管要求（在許多人看來，包括我），這些要求增加了不必要的時間並延誤了進度
鑑於所有這些，許多生物學家長期以來一直對人工智慧和更廣泛的“巨量資料”在生物學中的價值持懷疑態度。從歷史上看，在過去 30 年中將自己的技能應用於生物學的數學家、電腦科學家和物理學家取得了相當大的成功，但並沒有像最初希望的那樣產生真正的變革性影響。一些懷疑主義因 AlphaFold（其創造者剛剛應得地獲得了諾貝爾化學獎）和 AlphaProteo 等重大和革命性突破而減少，但仍然存在這樣一種看法，即人工智慧在有限的情況下是有用的（並將繼續如此）。一個常見的表述是“人工智慧可以更好地分析你的資料，但它不能產生更多的資料或提高資料的質量。垃圾進，垃圾出”
但我認為這種悲觀的觀點是以錯誤的方式思考人工智慧。如果我們關於人工智慧進步的核心假設是正確的，那麼思考人工智慧的正確方法不是將其視為一種資料分析方法，而是將其視為一個虛擬生物學家，執行生物學家所做的所有任務，包括在現實世界中設計和運行實驗（通過控制實驗室機器人或簡單地告訴人類要運行那些實驗，就像首席研究員對他們的研究生一樣），發明新的生物學方法或測量技術，等等。正是通過加快整個研究過程，人工智慧才能真正加速生物學。我想重複這一點，因為這是我談到人工智慧改變生物學的能力時出現的最常見的誤解：我不是在談論人工智慧僅僅是分析資料的工具。根據本文開頭對強大的人工智慧的定義，我所說的指的是使用人工智慧來執行、指導和改進生物學家所做的幾乎所有事情。
為了更具體地說明我認為加速可能來自那裡，生物學中很大一部分進展來自數量極少的一些發現，這些發現通常與廣泛的測量工具或技術有關，這些工具或技術允許對生物系統進行精確但通用的或可程式設計的干預。每年可能有~1 個這樣的重大發現，它們共同推動了生物學中 >50% 的進展。這些發現如此強大的原因恰恰在於它們克服了內在的複雜性和資料限制，直接增加了我們對生物過程的理解和控制。幾十年來的少數發現使我們能夠對生物學有基本的科學理解，並推動了許多最強大的醫學治療方法。
一些例子包括：
CRISPR： 一種允許對活生物體中的任何基因進行即時編輯的技術（用任何任意基因序列替換任何任意基因序列）。自最初的技術開發以來，一直在不斷改進以靶向特定細胞類型、提高精準性和減少對錯誤基因的編輯——所有這些都是安全用於人類所需的
各種顯微鏡技術，用於精確地觀察正在發生的事情： 先進的光學顯微鏡（具有各種螢光技術、特殊光學器件等）、電子顯微鏡、原子力顯微鏡等
基因組測序和合成， 在過去的幾十年中，其成本下降了幾個數量級
光遺傳學技術， 允許您通過照射光線來觸發神經元放電
mRNA 疫苗， 原則上，它允許我們設計針對任何事物的疫苗，然後快速對其進行調整（mRNA 疫苗當然在 COVID 期間成名）
細胞療法，如 CAR-T， 允許將免疫細胞從體內取出並“重新程式設計”以攻擊原則上任何東西
概念性見解，如疾病的細菌理論或免疫系統與癌症之間聯絡的認識。
我之所以不厭其煩地列出所有這些技術，是因為我想對它們提出一個關鍵的主張：我認為如果有很多更有才華、更有創造力的研究人員，它們的發現速度可以提高 10 倍或更多。或者，換句話說，我認為這些發現的智能回報率很高，生物學和醫學中的其他一切主要都源於它們
為什麼我這麼認為？因為當我們試圖確定“智能回報率”時，我們應該養成問一些問題的習慣，這些問題的答案可以解釋這一點。首先，這些發現通常是由少數研究人員做出的，通常是同一個人反覆做出，這表明是技能而不是隨機搜尋（後者可能表明冗長的實驗是限制因素）。其次，它們通常“本來可以在”比實際發生時間早幾年就完成：例如，CRISPR 是細菌免疫系統中自 80 年代以來就已知的天然成分，但又花了 25 年人們才意識到它可以重新用於一般基因編輯。它們也經常因為缺乏科學界對有希望方向的支援而被推遲多年。第三，成功的項目通常是零散的，或者是人們最初不認為有希望的想法，而不是資金雄厚的項目。這表明，推動發現的不僅僅是大規模的資源集中，還有獨創性。最後，儘管其中一些發現具有“序列依賴性”（您需要先進行發現 A 才能擁有進行發現 B 的工具或知識）——這可能會再次造成實驗延遲——但許多發現（也許是大多數）是獨立的，這意味著可以同時進行許多發現。所有這些事實，以及我作為生物學家的總體經驗，都強烈地表明，如果科學家更聰明，更善於在人類擁有的海量生物學知識之間建立聯絡，那麼還有數百個這樣的發現等待著被發現（再次考慮 CRISPR 的例子）。儘管經過了數十年精心設計的物理模型，AlphaFold/AlphaProteo 在解決重要問題方面仍然比人類更有效，這提供了一個原理證明（儘管是在一個狹窄的領域中使用一個狹窄的工具），它應該為我們指明前進的方向
因此，我猜測強大的人工智慧至少可以將這些發現的速度提高 10 倍，使我們在 5-10 年內獲得未來 50-100 年的生物學進展。為什麼不是 100 倍？也許有可能，但這裡的序列依賴性和實驗時間變得很重要：在 1 年內獲得 100 年的進展需要很多事情第一次就做對，包括動物實驗和設計顯微鏡或昂貴的實驗室設施之類的事情。我實際上對（也許聽起來很荒謬的）想法持開放態度，即我們可以在 5-10 年內獲得 1000 年的進展，但非常懷疑我們可以在 1 年內獲得 100 年的進展。換句話說，我認為存在一個不可避免的恆定延遲：實驗和硬體設計具有一定的“延遲”，並且需要迭代一定數量的“不可約”次數，才能學習無法通過邏輯推匯出來的事情。但是，在此基礎上可能可以進行大規模平行化
臨床試驗呢？雖然它們存在大量的官僚主義和拖延，但事實是，很多（儘管絕非全部！）它們的緩慢最終源於需要嚴格評估幾乎不起作用或作用不明確的藥物。遺憾的是，今天大多數療法都是如此：平均而言，癌症藥物會使生存期延長幾個月，同時會產生需要仔細測量的重大副作用（阿爾茨海默氏症藥物也有類似的故事）。這導致了大型研究（為了獲得統計功效）和難以權衡的取捨，而監管機構通常不擅長做出這些取捨，這又是因為官僚主義和相互競爭的利益的複雜性
當某些東西真的有效時，它的速度會快得多：有一個加速審批程序，當效應量較大時，審批更容易。COVID 的 mRNA 疫苗在 9 個月內獲得批准——比通常的速度快得多。也就是說，即使在這種情況下，臨床試驗仍然太慢——mRNA 疫苗可以說應該在2 個月內獲得批准。但是，這些類型的延遲（藥物從頭到尾1 年）加上大規模平行化以及需要一些但不是太多迭代（“幾次嘗試”）與 5-10 年內的根本性變革非常相容。更樂觀的是，人工智慧支援的生物科學可以通過開發更好的動物和細胞實驗模型（甚至模擬）來減少對臨床試驗迭代的需求，這些模型可以更準確地預測人類會發生什麼。這在開發抗衰老藥物時尤其重要，抗衰老藥物會在幾十年中發揮作用，我們需要一個更快的迭代循環
最後，關於臨床試驗和社會障礙的話題，值得明確指出的是，在某些方面，生物醫學創新在成功部署方面有著非常強大的記錄，這與其他一些技術形成了對比。如導言中所述，許多技術儘管在技術上運作良好，但仍受到社會因素的阻礙。這可能表明對人工智慧可以實現的目標持悲觀看法。但生物醫學的獨特之處在於，儘管開發藥物的過程過於繁瑣，但一旦開發出來，它們通常會成功部署和使用
綜上所述，我的基本預測是，人工智慧支援的生物學和醫學將使我們能夠將人類生物學家在未來 50-100 年內取得的進展壓縮到 5-10 年內。我將稱之為“壓縮的 21 世紀”：這個想法是，在強大的 AI 發展之後，我們將在幾年內在生物學和醫學領域取得所有我們在整個 21 世紀取得的進展
儘管預測強大的人工智慧在幾年內可以做什麼仍然很困難，而且具有推測性，但問“人類在接下來的 100 年裡在沒有幫助的情況下能做什麼？”有一些具體性。簡單地看看我們在 20 世紀取得的成就，或者從 21 世紀的頭 20 年推斷，或者問“10 個 CRISPR 和 50 個 CAR-T”會給我們帶來什麼，都提供了一種實用、有根據的方法來估計我們可能期望從強大的人工智慧中獲得的總體進展水平
下面我試著列出我們可能期望的內容。這不是基於任何嚴格的方法，並且幾乎肯定會在細節上被證明是錯誤的，但它試圖傳達我們應該期望的總體激處理程序度：
可靠地預防和治療幾乎所有自然傳染病。 鑑於 20 世紀在傳染病方面取得的巨大進步，不難想像我們或多或少可以在壓縮的 21 世紀“完成這項工作”。mRNA 疫苗和類似技術已經指明了“針對任何事物的疫苗”的方向。傳染病是否會從世界上完全根除（而不是僅僅在某些地方根除）取決於貧困和不平等的問題，這些問題將在第 3 節中討論
消除大多數癌症。 過去幾十年來，癌症死亡率每年下降約 2%；因此，按照目前人類科學的步伐，我們有望在 21 世紀消除大多數癌症。某些亞型已經基本治癒（例如，某些類型的白血病通過 CAR-T 療法治癒），我對針對嬰兒期癌症並防止其生長的非常有選擇性的藥物可能更感興趣。人工智慧還將使針對癌症的個體化基因組的治療方案變得非常精細——這在今天是可能的，但在時間和人力專業知識方面成本巨大，人工智慧應該使我們能夠擴大規模。死亡率和發病率降低 95% 或更多似乎是可能的。話雖如此，癌症變化多端，適應性強，可能是這些疾病中最難完全根除的。如果仍然存在各種罕見、難以治療的惡性腫瘤，也就不足為奇了
非常有效的預防和有效的基因疾病治療方法。 大大改進的胚胎篩查可能會使預防大多數基因疾病成為可能，而 CRISPR 的某些更安全、更可靠的後代可能會治癒大多數現有患者的基因疾病。影響大部分細胞的全身性疾病可能是最後的障礙
預防阿爾茨海默氏症。 我們很難弄清楚是什麼導致了阿爾茨海默氏症（它與β-澱粉樣蛋白有關，但實際的細節似乎非常複雜）。這似乎正是可以用更好的測量工具來解決的問題類型，這些測量工具可以隔離生物學效應；因此，我看好人工智慧解決這個問題的能力。一旦我們真正瞭解發生了什麼，就有很大的機會可以通過相對簡單的干預措施來預防它。話雖如此，由已經存在的阿爾茨海默氏症造成的損害可能很難逆轉
改進大多數其他疾病的治療。 這是一個包羅萬象的類別，涵蓋其他疾病，包括糖尿病、肥胖症、心臟病、自身免疫性疾病等等。其中大多數似乎比癌症和阿爾茨海默氏症“更容易”解決，並且在許多情況下已經急劇下降。例如，心臟病死亡人數已經下降了 50% 以上，而 GLP-1 激動劑等簡單干預措施已經使肥胖症和糖尿病取得了巨大進展
生物自由。 過去 70 年見證了節育、生育、體重管理等方面的進步。但我懷疑人工智慧加速的生物學將極大地擴展可能的範圍：體重、外貌、生殖和其他生物過程將完全由人們控制。我們將把這些稱為生物自由：每個人都應該有權選擇自己想成為什麼樣的人，並以最吸引他們的方式生活。當然，關於全球平等獲取的問題將非常重要；請參閱第 3 節中的這些內容
人類壽命翻一番。 這看起來可能很激進，但預期壽命在 20 世紀幾乎翻了一番（75 歲），因此“壓縮的 21 世紀”再次翻一番達到 150 歲是“順理成章的”。顯然，減緩實際衰老過程所需的干預措施將與上個世紀為預防（主要是兒童）疾病過早死亡所需的干預措施不同，但變化的幅度並非史無前例。具體來說，已經存在一些藥物，可以在有限的不良影響的情況下將大鼠的最大壽命延長 25-50%。有些動物（例如某些類型的龜）已經活了 200 年，因此人類顯然沒有達到某個理論上限。我猜想，最需要的東西可能是可靠的、非古德哈特定律的人類衰老生物標誌物，因為這將允許對實驗和臨床試驗進行快速迭代。一旦人類的壽命達到 150 歲，我們或許就能達到“逃逸速度”，為現在活著的大多數人贏得足夠的時間，讓他們能夠想活多久就活多久，儘管當然不能保證這在生物學上是可能的
值得一看這份清單，並思考如果所有這些都在 7-12 年後實現（這與激進的人工智慧時間表一致），世界將會多麼不同。毫無疑問，這將是一場難以想像的人道主義勝利，一舉消除困擾人類數千年的多數災難。我的許多朋友和同事正在撫養孩子，當這些孩子長大後，我希望他們聽到任何關於疾病的提及，都會像我們聽到壞血病、天花或鼠疫一樣。這一代人還將受益於日益增長的生物自由和自我表達，並且幸運的話，他們也許還能活到自己想要的年齡
很難高估這些變化對除了少數期待強大人工智慧的人之外的所有人來說是多麼令人驚訝。例如，目前美國有數千名經濟學家和政策專家正在辯論如何保持社會保障和醫療保險的償付能力，以及更廣泛地說，如何降低醫療保健成本（醫療保健主要由 70 歲以上的人以及尤其是患有癌症等絕症的人消費）。如果所有這些都實現，這些項目的處境可能會得到根本改善，因為工作年齡人口與退休人口的比例將發生巨大變化。毫無疑問，這些挑戰將被其他挑戰所取代，例如如何確保廣泛獲得新技術，但值得反思的是，即使生物學是唯一一個被人工智慧成功加速的領域，世界也將發生多大的變化
2. 神經科學和心智
在上一節中，我重點介紹了身體疾病和一般生物學，沒有涵蓋神經科學或心理健康。但神經科學是生物學的一個分支學科，心理健康與身體健康同等重要。事實上，如果說有什麼不同的話，那就是心理健康比身體健康更直接地影響人類的福祉
數億人由於成癮、抑鬱、精神分裂症、低功能自閉症、創傷後應激障礙、精神變態或智力殘疾等問題而生活質量非常低。還有數十億人與日常問題作鬥爭，這些問題通常可以解釋為這些嚴重臨床疾病的一種更輕微的表現形式。與一般生物學一樣，我們或許可以超越解決問題，提高人類體驗的基線質量
我為生物學制定的基本框架同樣適用於神經科學。該領域是由少量發現推動的，這些發現通常與用於測量或精確干預的工具有關——在上面的列表中，光遺傳學是一項神經科學發現，最近 CLARITY 和擴展顯微鏡是同一領域的進展，此外還有許多一般的細胞生物學方法直接應用於神經科學。我認為這些進展的速度將同樣被人工智慧加速，因此“5-10 年內取得 100 年的進展”的框架以同樣的方式適用於神經科學，原因也相同。與生物學一樣，20 世紀神經科學的進步是巨大的——例如，我們直到 1950 年代才瞭解神經元如何以及為什麼放電。因此，期望人工智慧加速的神經科學在幾年內取得快速進展似乎是合理的
有一件事我們應該新增到這個基本圖景中，那就是我們在過去幾年中瞭解到（或正在瞭解）的關於人工智慧本身的一些事情可能會幫助推進神經科學，即使它繼續只由人類完成。可解釋性是一個明顯的例子：儘管生物神經元在表面上以與人工神經元完全不同的方式運作（它們通過尖峰和通常的尖峰率進行通訊，因此存在人工神經元中不存在的時間元素，以及一堆與細胞生理學和神經遞質相關的細節會顯著改變它們的運作），但“執行組合線性/非線性運算的簡單單元的分佈式、訓練有素的網路如何協同工作以執行重要計算”的基本問題是相同的，我強烈懷疑單個神經元通訊的細節將在大多數關於計算和電路的有趣問題中被抽象出來。作為一個例子，人工智慧系統中的可解釋性研究人員發現的一種電腦制最近在小鼠的大腦中被重新發現
在人工神經網路上做實驗比在真實神經網路上做實驗要容易得多（後者通常需要切入動物大腦），因此可解釋性很可能成為改進我們對神經科學理解的工具。此外，強大的人工智慧本身可能能夠比人類更好地開發和應用此工具
但是，除了可解釋性之外，我們從人工智慧中學到的關於智能系統如何訓練的知識應該（儘管我不確定它是否已經）在神經科學領域引起一場革命。當我在神經科學領域工作時，很多人專注於我現在認為是關於學習的錯誤問題，因為縮放假設/痛苦教訓的概念還不存在。簡單的目標函數加上大量資料可以驅動極其複雜的行為的想法使得理解目標函數和架構偏差變得更有趣，而理解湧現計算的細節則變得不那麼有趣。近年來，我沒有密切關注這個領域，但我隱約覺得計算神經科學家還沒有完全吸取教訓。我一直對縮放假設的態度是“啊哈——這是對智能如何工作以及它如何如此容易地進化的高級解釋”，但我認為這不是普通神經科學家的觀點，部分原因是縮放假設作為“智能的秘訣”甚至在人工智慧領域也沒有被完全接受
我認為神經科學家應該嘗試將這種基本見解與人腦的特殊性（生物物理限制、進化史、拓撲結構、運動和感覺輸入/輸出的細節）結合起來，試圖弄清神經科學的一些關鍵難題。有些人可能會這樣做，但我懷疑這還不夠，而且人工智慧神經科學家將能夠更有效地利用這個角度來加速進展
我預計人工智慧將通過四種不同的途徑加速神經科學的進展，所有這些途徑都有望協同作用，以治癒精神疾病並改善功能：
傳統的分子生物學、化學和遺傳學。 這與第 1 節中的一般生物學基本相同，人工智慧可以通過相同的機制加快它的速度。有許多藥物可以調節神經遞質以改變大腦功能、影響警覺性或感知、改變情緒等，人工智慧可以幫助我們發明更多藥物。人工智慧也可能加速對精神疾病遺傳基礎的研究
精細的神經測量和干預。 這是指測量許多單個神經元或神經元回路正在做什麼，並干預以改變它們的行為的能力。光遺傳學和神經探針是能夠在活生物體中進行測量和干預的技術，並且已經提出並原則上似乎可能的一些非常先進的方法（例如分子定時帶，用於讀出大量單個神經元的放電模式）
高級計算神經科學。 如上所述，現代人工智慧的具體見解和整體情況可能可以有效地應用於系統神經科學中的問題，包括可能揭示複雜疾病（如精神病或情緒障礙）的真正原因和動態
行為干預。 鑑於對神經科學生物學方面的關注，我沒有過多提及它，但精神病學和心理學當然在 20 世紀發展了廣泛的行為干預措施；理所當然地認為，人工智慧也可以加速這些干預措施，既可以開發新方法，也可以幫助患者遵守現有方法。更廣泛地說，“人工智慧教練”的想法似乎很有希望，人工智慧教練總是幫助你成為最好的自己，研究你的互動並幫助你學會更有效率
我猜測，與身體疾病一樣，這四種進步途徑的共同作用將有望在未來 100 年內治癒或預防大多數精神疾病，即使沒有人工智慧的參與——因此可能在 5-10 個人工智慧加速的年份內完成。具體來說，我猜測會發生的事情是這樣的：
大多數精神疾病可能可以治癒。 我不是精神疾病方面的專家（我在神經科學領域的時間花在了建構探針來研究小群神經元上），但我猜測像 PTSD、抑鬱症、精神分裂症、成癮等疾病可以通過上述四種方向的某種組合來弄清楚並得到非常有效的治療。答案可能是“生物化學方面出了問題”（儘管它可能非常複雜）和“神經網路出了問題（在高層次上）”的某種組合。也就是說，這是一個系統神經科學問題——儘管這並沒有否定上述行為干預的影響。測量和干預工具，尤其是在活人身上，似乎可能會導致快速迭代和進步
非常“結構性”的疾病可能更難治療，但並非不可能。 有一些證據表明，精神變態與明顯的神經解剖學差異有關——精神變態者的一些大腦區域 simplemente 更小或發育不足。人們還認為，精神變態者從小就缺乏同理心；無論他們的大腦有什麼不同，它可能一直都是那樣的。某些智力障礙也可能是如此，也許其他情況也是如此。重塑大腦聽起來很難，但它也像是一項對智力回報很高的任務。也許有什麼方法可以讓成年人的大腦回到更早或更具可塑性的狀態，在那裡它可以被重塑。我不太確定這有多大可能，但我的直覺是對人工智慧能發明的東西持樂觀態度
有效預防精神疾病的基因似乎是可能的。 大多數精神疾病部分是遺傳的，全基因組關聯研究開始在識別相關因素方面取得進展，這些因素通常數量眾多。通過胚胎篩查預防大多數此類疾病可能是可能的，類似於身體疾病的故事。一個區別是精神疾病更有可能是多基因的（許多基因都有貢獻），因此由於複雜性，存在不知不覺地選擇對抗與疾病相關的積極特徵的風險。然而奇怪的是，近年來 GWAS 研究似乎表明這些相關性可能被高估了。無論如何，人工智慧加速的神經科學可能會幫助我們弄清楚這些事情。當然，對複雜性狀進行胚胎篩查會引發許多社會問題，並且會引起爭議，儘管我猜想大多數人會支援對嚴重或使人衰弱的精神疾病進行篩查
我們認為不是臨床疾病的日常問題也將得到解決。 我們大多數人都有日常的心理問題，這些問題通常不被認為上升到臨床疾病的水平。有些人很容易生氣，另一些人難以集中注意力或經常昏昏欲睡，有些人恐懼或焦慮，或者對變化反應不好。如今，已經存在藥物可以幫助提高警覺性或注意力（咖啡因、莫達非尼、利他林），但與之前的許多其他領域一樣，更多的事情可能是可能的。可能存在更多此類藥物，但尚未被發現，並且也可能存在全新的干預方式，例如靶向光刺激（參見上面的光遺傳學）或磁場。鑑於我們在 20 世紀開發了多少種調節認知功能和情緒狀態的藥物，我非常樂觀地認為在“壓縮的 21 世紀”，每個人都可以讓自己的大腦表現得更好，擁有更充實的日常生活
人類的基線體驗可以變得更好。 更進一步，許多人經歷過非凡的頓悟、創造性靈感、同情心、滿足感、超越感、愛、美或冥想般的平靜時刻。這些經歷的性質和頻率因人而異，在不同時間段同一個人也可能不同，有時還可以由各種藥物引發（儘管通常伴有副作用）。所有這些都表明，“可以體驗到的空間”非常廣闊，並且人們生活中更大一部分可以由這些非凡的時刻組成。提高各種認知功能也可能是可能的。這也許是“生物自由”或“延長壽命”的神經科學版本
科幻小說中經常出現的一個話題，但我在這裡故意沒有討論，那就是“意識上傳”，即將人腦的模式和動態捕獲並實例化到軟體中的想法。這個話題本身就可以寫一篇文章，但我只想說，雖然我認為上傳原則上幾乎肯定可以實現，但在實踐中，即使有強大的人工智慧，它也面臨著重大的技術和社會挑戰，這可能使它不在我們討論的 5-10 年窗口之內
總之，人工智慧加速的神經科學可能會極大地改善甚至治癒大多數精神疾病的治療方法，並極大地擴展“認知和精神自由”以及人類的認知和情感能力。它將與上一節中描述的身體健康方面的改進一樣具有根本性。也許世界從外部看起來不會有明顯的不同，但人類體驗的世界將是一個更好、更人性化的地方，以及一個提供更多自我實現機會的地方。我還懷疑改善的心理健康將改善許多其他社會問題，包括那些看起來是政治或經濟的問題
3. 經濟發展和貧困
前兩節是關於開發能夠治癒疾病和提高人類生活質量的新技術。然而，從人道主義的角度來看，一個顯而易見的問題是：“每個人都能獲得這些技術嗎？”
開發一種疾病的治療方法是一回事，將這種疾病從世界上根除是另一回事。更廣泛地說，許多現有的健康干預措施尚未在世界各地應用，就此而言，（非健康）技術的改進也是如此。換句話說，世界許多地方的生活水平仍然非常低：撒哈拉以南非洲的人均 GDP 約為 2,000 美元，而美國為 75,000 美元。如果人工智慧進一步提高發達國家的經濟增長和生活質量，而對開發中國家幾乎沒有幫助，我們應該將其視為嚴重的道德敗壞，以及前兩節中真正人道主義勝利的污點。理想情況下，強大的人工智慧應該幫助開發中國家趕上發達國家，即使它正在徹底改變後者
我不像相信人工智慧可以發明基礎技術那樣相信人工智慧可以解決不平等和經濟增長問題，因為技術對智能的回報如此明顯（包括繞過複雜性和缺乏資料的能力），而經濟涉及來自人類的許多限制，以及大量的內在複雜性。我有點懷疑人工智慧能否解決著名的“社會主義計算問題”，而且我不認為政府會（或應該）將其經濟政策交給這樣一個實體，即使它可以這樣做。還有一些問題，比如如何說服人們接受有效的治療方法，但他們可能會對此表示懷疑
開發中國家面臨的挑戰由於公共和私營部門普遍存在的腐敗而變得更加複雜。腐敗造成了一個惡性循環：它加劇了貧困，而貧困又滋生了更多的腐敗。人工智慧驅動的經濟發展計畫需要考慮到腐敗、薄弱的機構和其他非常人為的挑戰。
然而，我確實看到了重要的樂觀理由。疾病已被根除，許多國家已從貧窮走向富裕，很明顯，這些任務中涉及的決策對智能的回報很高（儘管存在人為限制和複雜性）。因此，人工智慧可能會比目前做得更好。也可能有一些有針對性的干預措施可以繞過人類的限制，而人工智慧可以專注於這些干預措施。但更重要的是，我們必須嘗試。人工智慧公司和發達國家的政策制定者都需要盡自己的一份力量，以確保開發中國家不會被落下；道義上的當務之急太大了。因此，在本節中，我將繼續做出樂觀的假設，但請記住，成功並非有保障，而且取決於我們共同的努力
下面我對我認為在強大人工智慧發展後的 5-10 年內開發中國家可能會發生的事情進行一些猜測：
健康干預措施的分配。 我最樂觀的地方也許是在世界範圍內推廣健康干預措施。疾病實際上已被自上而下的運動根除：天花在 1970 年代被完全消滅，脊髓灰質炎和麥地那龍線蟲病也即將被根除，每年病例不到 100 例。數學上複雜的流行病學模型在疾病根除運動中發揮著積極作用，而且看起來很有可能，更智能的人工智慧系統可以比人類做得更好。分配的物流可能也可以得到極大的最佳化。我作為 GiveWell 的早期捐贈者瞭解到的一件事是，一些健康慈善機構比其他慈善機構有效得多；希望人工智慧加速的努力會更有效。此外，一些生物學上的進步實際上使分配的物流變得更加容易：例如，瘧疾一直難以根除，因為它需要在每次感染時進行治療；只需接種一次的疫苗會使物流變得更加簡單（事實上，目前正在開發這種瘧疾疫苗）。甚至更簡單的分配機制也是可能的：原則上，某些疾病可以通過針對其動物載體來根除，例如釋放感染了阻斷其傳播疾病能力的細菌的蚊子（然後這些蚊子會感染所有其他蚊子），或者簡單地使用基因驅動來消滅蚊子。這需要一個或幾個集中的行動，而不是必須單獨治療數百萬人的協調一致的運動。總的來說，我認為 5-10 年是一個合理的時間表，可以讓很大一部分（也許是 50%）的人工智慧驅動的健康益處傳播到世界上最貧窮的國家。一個好的目標可能是，在強大的 AI 出現 5-10 年後，開發中國家的健康狀況至少要大大優於現在的發達國家，即使它繼續落後於發達國家。實現這一目標當然需要在全球衛生、慈善事業、政治宣傳和許多其他方面做出巨大努力，人工智慧開發者和政策制定者都應該為此提供幫助
經濟增長。 開發中國家能否迅速趕上發達國家，不僅在健康方面，而且在經濟方面全面趕上？這方面有一些先例：在 20 世紀的最後幾十年，幾個東亞經濟體實現了持續約 10% 的實際 GDP 增長率，使它們能夠趕上發達國家。人類經濟規劃者做出了導致這一成功的決定，不是通過直接控制整個經濟體，而是通過拉動幾個關鍵槓桿（例如出口導向型增長的產業政策，以及抵制依賴自然資源財富的誘惑）；“人工智慧財政部長和央行行長”複製或超過這一 10% 的成就是有可能的。一個重要的問題是如何讓開發中國家政府在尊重自決原則的同時採用它們——有些人可能會對此充滿熱情，但其他人可能會持懷疑態度。從樂觀的一面來看，前一點中提到的許多健康干預措施可能會自然地促進經濟增長：根除艾滋病/瘧疾/寄生蟲將對生產力產生變革性影響，更不用說一些神經科學干預措施（例如改善情緒和注意力）對發達國家和開發中國家的經濟效益。最後，非健康人工智慧加速的技術（例如能源技術、運輸無人機、改進的建築材料、更好的物流和配送等等）可能只是自然地滲透到世界各地；例如，即使是手機也通過市場機制迅速滲透到撒哈拉以南非洲地區，而無需慈善努力。更消極的是，雖然人工智慧和自動化有很多潛在的好處，但它們也對經濟發展構成挑戰，特別是對尚未工業化的國家而言。在自動化程度日益提高的時代，找到確保這些國家仍然可以發展和改善其經濟的方法是經濟學家和政策制定者面臨的一項重要挑戰。總的來說，一個理想的設想——也許是一個值得追求的目標——是開發中國家的 GDP 年增長率達到 20%，其中人工智慧支援的經濟決策和人工智慧加速技術的自然傳播各佔 10%，包括但不限於健康。如果實現這一目標，這將在 5-10 年內使撒哈拉以南非洲地區的人均 GDP 達到中國的水平，同時使其他大多數開發中國家的人均 GDP 超過目前的美國水平。再說一次，這是一個理想的設想，而不是默認會發生的事情：這是我們所有人都必須共同努力才能更有可能實現的事情
糧食安全。 作物技術的進步，如更好的肥料和殺蟲劑、更多的自動化和更有效的土地利用，在 20 世紀極大地提高了作物產量，使數百萬人免於飢餓。基因工程目前正在進一步改善許多作物。找到更多的方法來做到這一點——以及提高農業供應鏈的效率——可以給我們帶來人工智慧驅動的第二次綠色革命，幫助縮小開發中國家和發達國家之間的差距
減緩氣候變化。 氣候變化在開發中國家的感受將更加強烈，從而阻礙其發展。我們可以預期，人工智慧將改進減緩或阻止氣候變化的技術，從大氣碳清除和清潔能源技術到減少我們對碳密集型工廠化養殖依賴的實驗室培養肉。當然，如上所述，技術並不是限制氣候變化進展的唯一因素——與本文討論的所有其他問題一樣，人類社會因素也很重要。但我們有充分的理由認為，人工智慧增強的研究將使我們能夠以更低的成本和更少的破壞性來減緩氣候變化，從而使許多反對意見變得毫無意義，並使開發中國家能夠騰出精力來取得更大的經濟進步。
國家內部的不平等。 我主要討論的是作為全球現象的不平等（我確實認為這是其最重要的表現），但當然，不平等也存在於國家內部。隨著先進的健康干預措施，尤其是壽命的根本性延長或認知增強藥物的出現，肯定會有人擔心這些技術“只適用於富人”。我對國家內部的不平等，尤其是在發達國家，更為樂觀，原因有兩個。首先，市場在發達國家運作得更好，而市場通常擅長隨著時間的推移降低高價值技術的成本。其次，發達國家的政治機構對公民的反應更靈敏，並且擁有更大的國家能力來執行普遍准入計畫——而且我預計公民會要求獲得能夠從根本上改善生活質量的技術。當然，這些要求是否成功並非預先確定的——這裡又是我們集體必須盡一切努力確保公平社會的地方。財富不平等（而不是獲得拯救生命和改善生活的技術的不平等）是一個單獨的問題，這似乎更難解決，我將在第 5 節中討論。
選擇退出問題。 發達國家和開發中國家的一個擔憂是人們選擇退出人工智慧帶來的好處（類似於反疫苗運動或更普遍的勒德運動）。最終可能會出現惡性循環，例如，最不善於做出良好決策的人選擇退出能夠提高其決策能力的技術，從而導致差距越來越大，甚至創造出一個反烏托邦式的底層階級（一些研究人員認為這將破壞民主，我將在下一節中進一步討論這個話題）。這將再次給人工智慧的積極進步帶來道德污點。這是一個難以解決的問題，因為我認為在倫理上強迫人們是不對的，但我們至少可以嘗試提高人們的科學理解——也許人工智慧本身可以幫助我們做到這一點。一個充滿希望的跡像是，從歷史上看，反技術運動雷聲大雨點小：抨擊現代技術很流行，但大多數人最終都會採用它，至少在個人選擇的問題上是這樣。個人傾向於採用大多數健康和消費技術，而真正受阻的技術（如核能）往往是集體政治決策。
總的來說，我對迅速將人工智慧的生物學進步帶給開發中國家的人民持樂觀態度。我充滿希望，但不確定，人工智慧還可以帶來前所未有的經濟增長率，並使開發中國家至少超過發達國家目前的水平。我擔心發達國家和開發中國家的“選擇退出”問題，但我懷疑它會隨著時間的推移而逐漸消失，並且人工智慧可以幫助加速這一處理程序。這不會是一個完美的世界，落後的人不會完全趕上來，至少在最初的幾年裡不會。但只要我們做出巨大的努力，我們或許能夠讓事情朝著正確的方向發展——而且速度很快。如果我們做到了，我們至少可以為我們欠地球上每個人的尊嚴和平等的承諾支付首付。
4. 和平和治理
假設前三節中的所有事情都進展順利：疾病、貧困和不平等顯著減少，人類體驗的基線大幅提高。這並不意味著所有造成人類苦難的主要原因都得到瞭解決。人類仍然是彼此的威脅。儘管存在技術進步和經濟發展導致民主與和平的趨勢，但這只是一種非常鬆散的趨勢，而且經常（以及最近）出現倒退。在 20 世紀初，人們認為他們已經把戰爭拋在身後；然後是兩次世界大戰。三十年前，弗朗西斯·福山寫了關於“歷史的終結”和自由民主的最終勝利；這還沒有發生。試圖理解強大的人工智慧將如何與和平、民主和自由這些問題相交似乎很重要
不幸的是，我看不到有充分的理由相信人工智慧會優先或結構性地促進民主與和平，就像我認為它會結構性地促進人類健康和減輕貧困一樣。人類衝突是對抗性的，人工智慧原則上可以幫助“好人”和“壞人”。因此，作為個體行為者，我們有責任讓事情朝著正確的方向發展：如果我們希望人工智慧有利於民主和個人權利，我們就必須為實現這一結果而奮鬥
很明顯，很難預測這裡會發生什麼，但我確實有一些樂觀的想法，即在民主國家控制最強大人工智慧的全球環境下，人工智慧實際上可能在結構上有利於世界各地的民主。甚至可以通過提供資訊和人工智慧服務來創造一個全球自由的資訊環境。儘管不是立竿見影的，但這樣的公平競爭環境很有可能逐漸將全球治理轉向民主，原因有幾個:
首先，在所有條件相同的情況下，第 1-3 節中提到的生活質量的提高應該會促進民主：從歷史上看，它們確實在一定程度上促進了民主。我尤其期望心理健康、福祉和教育方面的改善能夠促進民主
其次，與神經科學和生物學一樣，我們也可以問事情如何才能“比正常情況更好”——不僅僅是如何避免專制主義，而是如何讓民主國家比今天更好。即使在民主國家內部，不公正的事情也一直在發生。法治社會向其公民承諾，每個人在法律面前一律平等，每個人都有權享有基本人權，但顯然人們在實踐中並不總是能獲得這些權利。即使只是部分履行了這一承諾，也值得我們引以為豪，但人工智慧能否幫助我們做得更好？
例如，人工智慧能否通過使決策和流程更加公正來改進我們的法律和司法系統？如今，在法律或司法環境中，人們主要擔心的是人工智慧系統會導致歧視，而這些擔憂很重要，需要加以防範。與此同時，民主的活力取決於利用新技術來改進民主機構，而不僅僅是對風險做出反應。真正成熟和成功的人工智慧的實施有可能減少偏見，對每個人都更公平
幾個世紀以來，法律制度一直面臨著這樣的兩難境地：法律的目標是公正，但它本質上是主觀的，因此必須由有偏見的人來解釋。試圖使法律完全機械化是行不通的，因為現實世界是混亂的，不能總是用數學公式來表達。相反，法律制度依賴於眾所周知的不精確的標準，例如“殘酷和不尋常的懲罰”或“完全沒有社會救贖的重要性”，然後由人類來解釋——而且他們這樣做的方式往往會表現出偏見、偏袒或武斷。“智能合約”並沒有徹底改變法律，因為普通程式碼不足以裁決所有那麼多有趣的事情。但人工智慧可能足夠聰明來做到這一點：它是第一項能夠以可重複和機械的方式做出廣泛、模糊判斷的技術
我並不是建議我們真的用人工智慧系統取代法官，但公正性與理解和處理混亂的現實世界情況的能力相結合，感覺應該對法律和正義有一些積極的應用。至少，此類系統可以與人類一起工作，以協助決策。在任何此類系統中，透明度都很重要，成熟的人工智慧科學可以想像地提供它：可以廣泛研究此類系統的訓練過程，並且可以使用先進的可解釋性技術來查看最終模型的內部並評估其是否存在隱藏的偏見，這是人類根本無法做到的。此類人工智慧工具還可用於監控司法或警察部門是否存在侵犯基本權利的行為，從而使憲法更具自我執行力。
類似地，人工智慧可用於彙總意見並在公民之間達成共識，解決衝突，找到共同點，並尋求妥協。計算民主項目已經開展了這方面的一些早期想法，包括與 Anthropic 的合作。更知情、更深思熟慮的公民顯然會加強民主機構
人工智慧顯然還有一個機會，可以用來幫助提供政府服務——例如健康福利或社會服務——這些服務原則上每個人都可以獲得，但在實踐中往往嚴重缺乏，而且在某些地方比其他地方更糟。這包括健康服務、DMV、稅收、社會保障、建築規範執法等等。擁有一個非常體貼和消息靈通的人工智慧，其工作是以一種您可以理解的方式向您提供您在法律上有權從政府那裡獲得的一切——並且還幫助您遵守通常令人困惑的政府規則——將是一件大事。提高國家能力既有助於兌現法律面前人人平等的承諾，又有助於加強對民主治理的尊重。服務執行不力是目前對政府產生不滿情緒的主要原因。
所有這些都有些不切實際的想法，正如我在本節開頭所說的那樣，我對它們的可行性遠不如我對生物學、神經科學和扶貧的進步那麼有信心。它們可能是不切實際的烏托邦。但重要的是要有一個雄心勃勃的願景，願意大膽夢想並嘗試新事物。將人工智慧視為自由、個人權利和法律面前人人平等的保障者的願景是一個過於強大的願景，不容錯過。21 世紀人工智慧賦能的政體既可以成為個人自由的更強大保護者，也可以成為希望的燈塔
5. 工作和意義
即使前四節中的所有內容都進展順利——我們不僅減輕了疾病、貧困和不平等，而且自由民主成為主要的政府形式，現有的自由民主國家也成為了更好的版本——至少還有一個重要的問題仍然存在。“我們生活在一個技術如此先進的世界，以及一個公平體面的世界，這真是太好了，”有人可能會反對，“但有了人工智慧做所有事情，人類將如何擁有意義？就此而言，他們如何在經濟上生存？”
我認為這個問題比其他問題更難。我的意思並不是說我必然比對其他問題更悲觀（儘管我確實看到了挑戰）。我的意思是它更模糊，更難提前預測，因為它與關於社會如何組織的宏觀問題有關，這些問題往往只會在一段時間內以分散的方式解決。例如，歷史上的狩獵採集社會可能認為，沒有狩獵和各種與狩獵相關的宗教儀式，生活是沒有意義的，並且會認為我們衣食無憂的技術社會是沒有目標的。他們也可能不理解我們的經濟如何養活所有人，或者人們在機械化社會中可以發揮什麼作用。
儘管如此，至少值得說幾句，同時記住本節的簡短絲毫不表示我不認真對待這些問題——相反，這表示缺乏明確的答案。
關於意義的問題，我認為認為你承擔的任務僅僅因為人工智慧可以做得更好就毫無意義是一個很大的錯誤。大多數人不是世界上任何事情上最棒的，這似乎並沒有特別困擾他們。當然，今天他們仍然可以通過比較優勢做出貢獻，並可能從他們創造的經濟價值中獲得意義，但人們也非常喜歡不產生經濟價值的活動。我花了很多時間玩電子遊戲、游泳、在戶外散步和與朋友交談，所有這些都不會產生經濟價值。我可能會花一天時間試圖在電子遊戲中做得更好，或者更快地騎自行車上山，而某個地方的某個人在這些事情上做得更好對我來說並不重要。無論如何，我認為意義主要來自人際關係和聯絡，而不是來自經濟勞動。人們確實想要一種成就感，甚至是一種目標感，在後人工智慧世界中，完全有可能花數年時間嘗試一些非常複雜的任務，採用複雜的策略，類似於今天人們著手研究項目、試圖成為好萊塢演員或創辦公司時所做的事情。某個地方的人工智慧原則上可以做得更好，而這項任務不再是全球經濟中經濟回報的因素，這兩個事實在我看來無關緊要。
經濟部分實際上對我來說比意義部分更難。在本節中，“經濟”是指大多數或所有人可能無法對足夠先進的人工智慧驅動型經濟做出有意義貢獻的可能問題。這比不平等的單獨問題（尤其是獲得新技術的不平等）更宏觀，我在第 3 節中討論了這個問題。
首先，在短期內，我同意比較優勢將繼續保持人類的相關性，並實際上提高他們的生產力，甚至可能在某些方面平衡人類之間的競爭環境。只要人工智慧在給定工作的 90% 中做得更好，其餘的 10% 將使人類變得高度槓桿化，從而增加報酬，並實際上創造一堆補充和放大人工智慧擅長之處的新人類工作，這樣“10%”就會擴大以繼續僱用幾乎所有人。事實上，即使人工智慧能夠 100% 地比人類做得更好，但在某些任務上效率低下或成本高昂，或者如果人類和人工智慧的資源投入明顯不同，那麼比較優勢的邏輯仍然適用。人類可能會在相當長的一段時間內保持相對（甚至絕對）優勢的一個領域是物理世界。因此，我認為即使在我們達到“資料中心裡的天才之國”之後，人類經濟也可能繼續有意義。
然而，我確實認為從長遠來看，人工智慧將變得如此廣泛有效且如此便宜，以至於這將不再適用。到那時，我們目前的經濟體系將不再有意義，我們需要就如何組織經濟進行更廣泛的社會對話。
雖然這聽起來可能很瘋狂，但事實是，文明在過去成功地應對了重大的經濟轉變：從狩獵採集到農業，從農業到封建主義，從封建主義到工業主義。我懷疑需要一些新的、更奇怪的東西，而且這是當今沒有人做好工作的。它可能就像為每個人提供大量的普遍基本收入一樣簡單，儘管我懷疑這只是解決方案的一小部分。它可能是一個人工智慧系統的資本主義經濟，然後根據人工智慧系統認為在人類中獎勵有意義的一些次要經濟（基於最終源自人類價值觀的某種判斷）向人類分配資源（大量的資源，因為整體經濟蛋糕將是巨大的）。也許經濟運行在 Whuffie 點數（社會信用貨幣）上。或者也許人類畢竟會繼續具有經濟價值，這是通常的經濟模型沒有預料到的。所有這些解決方案都有大量可能的問題，如果不進行大量迭代和實驗，就不可能知道它們是否有意義。與其他一些挑戰一樣，我們可能不得不努力爭取一個好的結果：剝削性或反烏托邦的方向顯然也是可能的，必須加以預防。關於這些問題可以寫更多的東西，我希望以後再做。
總結
通過上面不同的主題，我試圖描繪出一個如果人工智慧一切順利，既合理又比今天的世界好得多的世界願景。我不知道這個世界是否現實，即使是，它也需要許多勇敢而敬業的人付出巨大的努力和奮鬥才能實現。每個人（包括人工智慧公司！）都需要盡自己的一份力量來預防風險並充分實現效益。
但這是一個值得為之奮鬥的世界。如果所有這些真的在 5 到 10 年內發生——戰勝大多數疾病，生物和認知自由的增長，數十億人擺脫貧困，分享新技術，自由民主和人權的復興——我懷疑每個看到它的人都會對它對他們的影響感到驚訝。我的意思不是親身體驗所有新技術帶來的好處，儘管這肯定很神奇。我的意思是看著一套長期持有的理想在我們所有人面前一下子實現的體驗。我想很多人會被它感動得熱淚盈眶。
在寫這篇文章的過程中，我注意到了一種有趣的張力。從某種意義上說，這裡提出的願景極其激進：這不是幾乎任何人都期望在未來十年發生的事情，並且可能會讓許多人覺得這是一種荒謬的幻想。有些人甚至可能認為它不可取；它體現了並非每個人都會同意的價值觀和政治選擇。但與此同時，它有一些顯而易見的東西——一些過度決定的東西——就好像許多不同的嘗試去想像一個美好的世界不可避免地會導致大致相同的結果。
在 Iain M. Banks 的《遊戲玩家》中，主角是文化社會的一員，該社會的原則與我在這裡提出的原則並無二致——他前往一個專制的、軍國主義的帝國，在那裡領導地位是由一場錯綜複雜的戰鬥遊戲的競爭決定的。然而，遊戲足夠複雜，以至於玩家在遊戲中的策略往往反映了他們自己的政治和哲學觀。主角設法在遊戲中擊敗了皇帝，表明他的價值觀（文化的價值觀）即使在由一個基於殘酷競爭和適者生存的社會設計的遊戲中也代表著一種成功的策略。斯科特·亞歷山大的一篇著名文章也表達了同樣的觀點——競爭是弄巧成拙的，並且往往會導致一個基於同情和合作的社會。“道德宇宙之弧”是另一個類似的概念。
我認為文化價值觀是一種成功的戰略，因為它們是數百萬個具有明確道德力量的小決定的總和，這些決定往往會將每個人拉到同一邊。人類對公平、合作、好奇心和自主的基本直覺難以反駁，並且以我們更具破壞性的衝動通常不會累積的方式累積。很容易爭辯說，如果我們能夠預防，兒童就不應該死於疾病，並且很容易從那裡爭辯說，每個人的孩子都應該享有平等的權利。從那裡很容易爭辯說，我們都應該團結起來，運用我們的智慧來實現這一結果。很少有人不同意應該懲罰那些不必要地攻擊或傷害他人的人，從那裡到懲罰應該對所有人一致和系統化的想法只有一步之遙。人們應該對自己的生活和選擇擁有自主權和責任，這也是同樣直觀的。這些簡單的直覺，如果得出其邏輯結論，最終會導致法治、民主和啟蒙價值觀。如果不是不可避免地，那麼至少作為一種統計趨勢，這是人類已經走向的地方。人工智慧只是提供了一個讓我們更快到達那裡的機會——使邏輯更鮮明，使目的地更清晰
然而，它是一件具有超凡脫俗之美的東西。我們有機會在實現它方面發揮一些微小的作用。(鈦媒體AGI)