“我們已經越過了事件視界;騰飛已經開始。人類即將打造數字超級智能,至少目前為止,它遠沒有想像中那麼奇怪。”奧特曼再次在他的個人部落格上發表了一篇文章。這無疑是對未來的一瞥。
2025-2030:奧特曼眼中的智能未來與技術飛躍
溫和奇點
我們已經越過了事件視界;智能爆炸(或稱“起飛”)已然啟動。人類距離造就能勝任真實認知工作的數字超級智能已經不遠。值得慶幸的是,至少到目前為止,情況遠沒有想像中那麼詭異驚悚。
機器人尚未遍佈街頭,我們大多數人也不會整天與AI對話。人類依然會死於疾病,太空旅行仍未輕而易舉,宇宙對我們而言仍充滿無數未解之謎。
然而,我們近期建構的系統已在眾多方面超越了人類智能,並能顯著放大使用者的工作產出。最困難的研究階段已成過往;像GPT-4和o3這樣的模型所依賴的科學洞見來之不易,但其影響將極為深遠。
AI將以多種方式助力世界發展,而它對科學處理程序提速與生產效率提升所帶來的巨大福祉改善尤為顯著;未來的生活質量將遠超當下。科學進步堪稱人類進步的最大引擎;想到我們將可能實現的突破,便令人心潮澎湃。
在某種重要意義上,ChatGPT的能力已然超越歷史上任何個體。數億人每天都依賴它處理日益重要的任務;一項微小的新功能可能創造巨大正面效益,而細微的對齊偏差被數億人使用時,也會引發顯著負面影響。
更多人將有能力創造軟體與藝術。但世界對兩者的需求遠超當前供給,只要擁抱新工具,專家們極可能仍遠勝於新手。總體而言,到2030年,單人所能實現的成就會遠超2020年,這種巨變將令人矚目,許多人也將從中獲益。
最重要的層面上,2030年代或許不會天翻地覆。人們依然會愛家人、表達創造欲、享受遊戲、暢遊湖中。
但在同樣至關重要的層面上,2030年代或將與前代所有時刻都迥然不同。人類智能的超越邊界尚不可知,但我們即將親見分曉。
2030年代,智能與能源——即創見本身及使其成真的能力將變得無比豐沛。長久以來,這兩者正是制約人類進步的根基;有了充足智能與能源(以及優良治理),理論上我們就無所不能。
令人難以置信的數字智能已融入日常生活,度過初期的衝擊後,多數人已習以為常。我們迅速從驚嘆AI能寫出優美段落,轉為期待它何時能創作完整小說;從震驚於它能提供救命診療方案,到追問何時能研發出治癒手段;從訝異它能編寫小程序,到思索它何時能建立新公司。奇點之路正是如此:神奇化為尋常,繼而成為基礎配置。
科學家們紛紛反饋,其效率較AI時代前提升了兩三倍。先進AI的意義多元而重大,但或許最根本的意義在於:我們能利用它加速AI自身的研究處理程序。我們有望發現新型計算基質、更優演算法,及諸多未知。若能將十年研究壓縮至一年甚至一月,發展速率必將煥然一新。
從現在起,已建成的工具將協助我們探尋更深層的科學洞見,助力打造更強大的AI系統。誠然,這與AI系統完全自主更新程式碼尚有區別,但它已然構成遞迴式自我改進的雛形機制。
其它自我強化的正反饋循環也在形成。經濟效益的創造啟動了基礎設施建設飛輪,以運行日益強大的AI系統。能製造其他機器人的機器人(某種意義上,即能建造其他資料中心的資料中心)已為期不遠。
若首批百萬仿人機器人需以傳統方式製造,但它們隨後能接管整條供應鏈(採礦冶煉、卡車運輸、工廠營運等),以量產更多機器人——而這些機器人又能建造晶片廠、資料中心等——那麼發展速度顯然不可同日而語。
隨著資料中心生產自動化,智能的成本終將趨近於電力成本。(人們常好奇一次ChatGPT查詢的能耗:平均約0.34瓦時,相當於烤箱一秒多耗電,或節能燈幾分鐘耗電。其用水量約0.000085加侖,近似十五分之一茶匙。)
技術進步的腳步將持續加快,人類適應變革的能力亦然。某些轉型會異常艱難,例如整類職業的消失,但世界也將以驚人速度積累財富,使我們有能力切實考量前所未聞的新政策理念。我們或許無法一次性重塑社會契約,但幾十年後回望,點滴漸變終將匯聚成巨變。
歷史經驗昭示,人類總能發掘新價值、創造新需求,並迅速接納新工具(工業革命後的職業變遷即是力證)。期望會提升,能力亦並進,人人將享有更優生活。我們將為彼此構築愈加非凡的造物。相對於AI,人類保有一項深刻而獨特的優勢:我們天生關切他人及其思想行為,卻很少關注機器。
千年前的農夫若審視我們許多工作,或會稱之為“虛職”,視其為物質豐饒後的自娛遊戲。但願我們回望千年後的職業時,亦覺其“虛幻”,但我毫不懷疑,對彼時的從業者而言,它們將意義非凡且充滿滿足感。
新奇蹟的湧現速率將超乎想像。我們甚至難以預估2035年會有何等發現:也許今年攻克高能物理,明年便啟星際殖民;或今年顛覆材料科學,明年即現高頻寬腦機介面。許多人的生活方式或許依舊,但至少部分人可能選擇“接入”虛擬世界。
展望未來,這一切似乎令人難以參透。但親歷其中時,感受或將是震撼而可控的。從相對論視角看,奇點循序漸進,融合悄然而至。我們正攀爬技術指數增長的長弧;未來之路總似峭壁,回望時卻如坦途,唯有一條平滑曲線。(試想2020年:若有人說2025年接近通用人工智慧[AGI],其震撼度必遠超今日展望2030。)
伴隨巨大收益而來的是嚴峻挑戰。技術與社會層面的安全問題亟需解決,而超級智能的普及也至關重要,因其蘊藏巨大的經濟格局重塑力。最佳路徑可能是:
社會韌性強、創意足、適應快。若能凝聚集體意志與智慧,縱使錯誤頻出、風波難免,我們也能迅速學習調整,運用技術放大收益、規避風險。在廣泛的社會邊界內給予使用者高度自由,似乎至關重要。世界越早對“邊界”與“集體共識定義”展開探討,則前景越佳。
我們(整個產業,不限於OpenAI)正在建構世界的思維核心。它將高度個性化且人人易用;唯一制約將是創意優劣。科技初創圈曾長期調侃“點子王”——空有創意而需團隊實現的人。而今我預見,他們或將迎來高光時刻。
OpenAI如今承擔多重角色,但首要身份始終是超級智能研究企業。前路漫漫,但光明已現,晦暗正疾速消退。能肩負此任,我們倍感榮幸。
“智能廉價如免費”(Intelligence too cheap to meter)近在咫尺。此言雖顯激進,但若在2020年預言今日成就,其震撼度必遠超當下對2030的展望。
願人類在超級智能的時代指數級安穩前行。 (三次方AIRX)