Sam Altman 剛剛更新部落格撰文，基於三大冷靜的經濟學觀察，預判 AGI (通用人工智慧) 將如何 顛覆我們的工作、生活和社會。

從 AI 智能的指數級增長，到 成本斷崖式下跌，再到 超乎想像的社會價值，他大膽預言：未來每個人都將擁有 “虛擬同事”，甚至擁有 “無限天才” 的智力資源！

全文如下：

三個觀察

我們的使命是確保通用人工智慧（AGI）惠及全人類。

開始指向通用人工智慧* 的系統正在出現，因此我們認為理解我們所處的時刻非常重要。AGI 是一個定義模糊的術語，但一般來說，我們指的是一種能夠在許多領域以人類水平解決日益複雜問題的系統。

人類是工具製造者，天生具有理解和創造的驅動力，這使得世界對我們所有人來說都變得更好。每一代人都在前人的發現基礎上再接再厲，創造出更強大的工具——電力、電晶體、電腦、網際網路，以及即將到來的 AGI。

隨著時間的推移，人類創新的穩步邁進，儘管時有起伏，但已經帶來了前所未有的繁榮，並改善了人們生活的幾乎各個方面。

在某種意義上，AGI 只是我們共同建構的越來越高的的人類進步腳手架中的另一個工具。但在另一種意義上，它是一個新時代的開始，我們不禁要說“這次不同了”；我們面前的經濟增長看起來驚人，我們現在可以想像一個世界，在那裡我們可以治癒所有疾病，有更多的時間與家人共享天倫之樂，並能充分發揮我們的創造潛力。

在十年內，也許地球上的每個人都將能夠完成比今天最有影響力的人更多的事情。

我們持續看到人工智慧開發的快速進展。以下是關於人工智慧經濟學的三個觀察：

1. 人工智慧模型的智能程度大致等於用於訓練和運行它的資源量的對數。這些資源主要包括訓練算力、資料和推理算力。看起來你可以花費任意數量的資金並獲得持續且可預測的收益；預測這一點的擴展定律在許多數量級上都是精準的。
2. 使用給定水平人工智慧的成本大約每 12 個月下降 10 倍，而更低的價格導致更多的使用。你可以從 2023 年初 GPT-4 的 token 成本到 2024 年中期 GPT-4o 的 token 成本中看到這一點，在此期間，每個 token 的價格下降了約 150 倍。摩爾定律每 18 個月改變世界 2 倍；這要強大得難以置信。
3. 線性增加的智能的社會經濟價值本質上是超指數級的。其結果是，我們看不到近期指數級增長的投資停止的理由。

如果這三個觀察結果繼續成立，那麼對社會的影響將是巨大的。

我們現在開始推出人工智慧代理，它們最終會感覺像虛擬同事。

讓我們想像一下軟體工程代理的案例，我們預計它將特別重要。想像一下，這個代理最終能夠完成頂級公司具有幾年經驗的軟體工程師可以完成的大部分事情，任務時長最多為幾天。它不會有最偉大的新想法，它需要大量的人工監督和指導，並且它在某些方面會很出色，但在另一些方面會出奇地糟糕。

儘管如此，把它想像成一個真實但相對初級的虛擬同事。現在想像一下 1000 個這樣的同事。或者 100 萬個。現在想像一下知識工作領域的每個領域都有這樣的代理。

在某些方面，人工智慧可能最終會像電晶體在經濟上一樣——一項偉大的科學發現，可以很好地擴展，並滲透到經濟的幾乎每個角落。我們不太在意電晶體或電晶體公司，收益分佈非常廣泛。但我們確實期望我們的電腦、電視、汽車、玩具等等能夠創造奇蹟。

世界不會一下子改變；它從來沒有這樣發生過。短期內生活將基本保持不變，2025 年的人們大部分時間仍將以與 2024 年相同的方式度過。我們仍然會墜入愛河，組建家庭，在網上爭吵，在自然界中徒步旅行等等。

但是未來將以一種不可忽視的方式向我們走來，對我們的社會和經濟的長期改變將是巨大的。我們將找到新的事情要做，新的方式來彼此有用，以及新的方式來競爭，但它們可能與今天的工作大相逕庭。

能動性、意志力和決心可能會非常寶貴。正確地決定做什麼以及弄清楚如何在不斷變化的世界中航行將具有巨大的價值；韌性和適應性將是有助於培養的技能。AGI 將成為人類意志力有史以來最大的槓桿，並使個人能夠比以往任何時候都發揮更大的影響力，而不是更小。

我們預計 AGI 的影響將是不均衡的。儘管一些行業的變化很小，但科學進步可能會比今天快得多；AGI 的這種影響可能會超越其他一切。

許多商品的價格最終將大幅下降（目前，智力和能源成本限制了很多東西），而奢侈品和一些天生有限的資源（如土地）的價格可能會更加急劇地上漲。

從技術上講，我們面前的道路看起來相當清晰。但是，關於我們應該如何將 AGI 融入社會的公共政策和集體意見非常重要；我們儘早且頻繁地推出產品的原因之一是讓社會和技術有時間共同進化。

人工智慧將滲透到經濟和社會的各個領域；我們將期望一切都變得智能。我們中的許多人期望需要給予人們比以往更多的技術控制權，包括更多地開源，並接受在安全性和個人賦權之間存在平衡，這將需要權衡。

雖然我們永遠不想魯莽行事，並且可能會有一些與 AGI 安全相關的重大決策和限制，這些決策和限制可能不受歡迎，但從方向上來說，隨著我們越來越接近實現 AGI，我們認為更多地傾向於個人賦權非常重要

確保 AGI 的好處得到廣泛分配至關重要。技術進步的歷史影響表明，我們關心的絕大多數指標（健康結果、經濟繁榮等）平均而言和長期來看都會變得更好，但增加平等似乎並非技術決定的，而要做好這一點可能需要新的思路。

特別是，資本和勞動之間的力量平衡很容易被搞砸，這可能需要早期干預。我們對聽起來很奇怪的想法持開放態度，例如給予一些“計算預算”以使地球上的每個人都能使用大量人工智慧，但我們也看到了許多方法，僅僅無情地降低智力成本就能達到預期的效果。

2035 年的任何人應該能夠調動相當於 2025 年所有人的智力；每個人都應該能夠獲得無限的才華，並按照他們能想像到的任何方式進行指導。現在有大量的才華橫溢的人缺乏充分表達自己的資源，如果我們改變這一點，世界由此產生的創造性產出將為我們所有人帶來巨大的好處。

特別感謝 Josh Achiam、Boaz Barak 和 Aleksander Madry 審閱了本文草稿。

*通過在此處使用術語 AGI，我們的目標是清晰地溝通，我們無意更改或解釋定義我們與微軟關係的的定義和流程。我們完全希望與微軟長期合作。這個腳註看起來很傻，但另一方面，我們知道一些記者會試圖通過寫一些愚蠢的東西來獲取點選量，所以我們在這裡先發制人地阻止這種愚蠢行為…… (AI寒武紀)