5月18日,當地時間凌晨兩點半,有人早已入眠,有人剛剛進入夜生活的最高潮……
不論如何,幾乎所有人,都處於自我意識最為淡薄的時刻。
只有極少數例外。
深夜視訊連線中(以色列Samson智能出行峰會),主持人善意提醒:看得出你累了,快去睡覺吧。
馬斯克頂著黑眼圈笑了笑:不必,這是我的榮幸。
在極度的疲憊中,他依然能滔滔不絕40分鐘。
有幾個判斷,值得所有人認真思考。
01
1. 自動駕駛
自動駕駛比人類安全十倍,“不再是一個問號”。
十年後,90%的行程都將由AI完成,人自己開車就像現在的騎馬一樣,成為一種小眾愛好。
“出行”這件事本身,將成為純粹的服務,不再需要人參與。
2. 人形機器人
人口數量×人均生產力=總經濟產出,這是最基本的演算法。
如果機器人的數量遠遠超過人,且擁有不低的生產力,那未來的經濟體量可能十倍、甚至百倍膨脹。
全民高收入的時代,必然很快就來臨。
換句話說,“生產”這件事,也將不再有需要用到人的必要。
3. 腦機介面
馬斯克用了一個詞,“耶穌般的技術”。
目前已經有完全喪失大腦與身體連接的患者,通過Neuralink重新開口說話,重新操控電腦和手機。
接下來要讓脊髓嚴重受損的患者重新行走:在大腦運動皮層和脊髓損傷部位以下植入晶片,兩個晶片之間傳遞訊號,繞過受損的部分,重新啟動肢體。
同時,今年內計畫進行首次“盲視”晶片的植入手術。即使一個人天生失明,也可以給他一定程度的視覺輸入。
初期,是有限的視力。迭代數次後,很可能是遠超常人的視力。
你想到了什麼?
腦機介面技術,現階段只是讓病患成為正常人;但隨著技術的成熟,它有機率賦予人成為“超人”的能力。
4. 星艦
這是馬斯克說得最多的內容。
核心還是完全且快速可重複利用,只有當這項技術真正完美實現後,人類才有可能在太陽系內的其它星球,建立能自我維持的城市。
邁出成為星際物種的第一步。
……
他描述的未來過於美好,以致於很難讓人相信是真的。
最後,主持人問了一個開放式問題:十年、二十年後(當你說的這些都已成真),你還會為什麼事而煩惱?
馬斯克沒有直接回答,而是反問:你想要什麼樣的未來?
所有人都能享受前所未有的財富,不會再為疾病而困擾,可以自由去做自己想做的任何事,甚至離開地球前往異星探險……
但這一切,都是AI技術和機器帶給我們的。
人並沒有參與產出的過程,只能享受成果。
當機器在所有方面都比人優秀的時候,人除了享樂,該如何獲得“自我”的意義、得到人“人性”?
這個問題並非針對我們這一代人,而是從出生起就生活在這種環境中的新一代人。
人如果沒有“人性”,還能叫人類嗎?
馬斯克無法解答。
或者說,解決這方面的問題,並非他的使命。
有人更專業。
02
5月26日,可能是人類歷史上最具深遠影響的一場跨界發佈會,將於梵蒂岡主會議大廳舉行。
面向全球14.3億天主教徒,教宗利奧十四世將正式發佈任期內的首份通諭《Magnifica Humanitas》(輝煌的人性),副標題直擊當下的最痛點:“關於在人工智慧時代保護人類尊嚴”。
這一次,打破了兩個慣例。
其一,教宗親自下場。
歷史上,通諭通常是由幾位樞機主教代為發佈,教宗本人極少公開露面。
其二,邀請非神職人員作為發言人。
特邀Anthropic創始人Chris Olah作為平信徒發言人。這一位不僅不是神職人員,甚至從來沒有承認過自己的信仰。
歷史上從來沒有此類先例。
除此之外,還有一個值得深思的點。
根據《衛報》披露,教宗簽署通諭的日期是2026年5月15日。
而135年前的同一天,同名先皇利奧十三世發佈了著名的《新事》通諭。
歷史在這裡押韻了。
1891年的《新事》,針對的是工業革命對勞工權利的衝擊。
當時,機器大規模用於生產,工人淪為流水線上的零件,貧富極端分化。
教廷第一次站出來介入工業文明治理,劃定勞工人權底線,反對機器對“肉體”的異化。
135年後的今天,情況似乎更為嚴重。
此時此刻,AI取代的不再是體力,而是創造力,甚至是人之為人的最基本存在意義。
在天主教的神學框架裡,人是按照神的形象造的,擁有自由意志和不朽的靈魂。
這是人類作為萬物之靈的絕對尊嚴,也是宗教存在的最基本理論。
換句話說,宗教是依附人而存在的,如果人不再是人,宗教也將立刻消失。
不論是為了維護人性,還是為了保證宗教的延續,教廷都不會允許這種事發生。
很多人可能無法理解,宗教領袖的態度,真的能影響到深陷AI軍備競賽的各國政府和科技圈嗎?
永遠不要小看一個存在了近兩千年組織的能量。
通諭是天主教會最高等級的教導檔案之一,雖然在世俗法律上沒有強制執行力,但會通過兩個路徑產生實質性的商業影響:
1. 科技倫理的盡職調查
大量具有宗教背景的大學、主權財富基金以及ESG投資基金,極有可能將《Magnifica Humanitas》中的原則作為新的投資負面清單。如果某家AI公司涉嫌大規模侵犯人類尊嚴(如收集隱私資料、參與武器研發),可能會面臨巨額資本的撤資。
2. B端市場的合規壓力
一旦“梵蒂岡合規”永遠是最重要的道德護城河之一,需要面向全球消費者(尤其是天主教重鎮)的跨國企業,在採購大模型API時,必然優先選擇符合倫理規範的模型。
教宗親自出席發佈會,本質上就是給這份白皮書的頂格背書,向全世界的監管機構和科技巨頭發出了一個明確的訊號。
沒有人會傻到去反對。
看看當前全球AI治理的格局:
歐盟《AI法案》,按風險等級分類,條條框框極其繁瑣,本質上是官僚防禦戰;
美國,川普政府主張“國家安全優先”與“自由放任主義”;
中國,側重“安全可控”與“產業落地”。
很明顯,無論是那一方,本質上在意的都是算力霸權、資料主權、模型開源與閉源。
除了教廷,沒有那個經濟體有能力在超主權的層面上,給AI的底層倫理定調。
簡而言之,地球上只有教廷有這個能力和聲望彌補AI治理的道德真空。
那麼,誰為教廷提供技術方面的支援?
03
所有人都必須重新審視Anthropic。
馬斯克的Colossus 1海量算力租給了Anthropic,教廷要給AI的底層倫理定調,還是找的Anthropic。
如果未來一切朝預想的發展,Anthropic很可能將不是一家單純的科技公司,而是類似於“裁決所”的權威機構。
為什麼不是OpenAI?不是Google?
當前大模型最突出的問題是黑盒效應。
模型裡數以千億計的參數,經過極其複雜的非線性矩陣乘法,輸入一句提示語,輸出一段的回答。
即便是開發這個模型的工程師,也無法解釋模型內部究竟是那幾個神經元的組合導致了這個特定的輸出。
在神學和倫理學看來,一個不可解釋的黑盒,等同於一個不受控制的偽神。
如果AI要介入醫療診斷、司法判決甚至戰爭,而人卻不知道它是如何做決定的,就等於向機器讓渡了“道德代理權”。
而目前只有Anthropic的核心研究“機理分析”,才能解決這方面的困境。
他們試圖通過逆向工程,把巨大的神經網路拆解為人類可以理解的“特徵”和“電路”。
簡單來說,就是給AI的“大腦”做核磁共振,在數百萬個啟動狀態中,精確定位出那塊程式碼在產生“同理心”,那塊程式碼在產生“欺騙性”。
本質上是在追求“道德透明度”,讓AI成為“透明”的機器。
只有當AI的決策機制是可解釋的,人類才能追究其背後的倫理責任。
在此基礎上,才有可能實現最完美的“憲法AI”。
相比於OpenAI大量依賴“基於人類反饋的強化學習(RLHF)”(極其依賴於標註員的個人偏好,容易產生道德偏差),Anthropic的做法是:直接給AI輸入“憲法”《聯合國世界人權宣言》和各種核心價值觀,讓AI在訓練階段不斷用這套“憲法”來審查和修正自己的輸出。
你想到了什麼?
相當於給AI制定了一份必須遵守的《十誡》。
未來的矽基智能生命,將是人最忠實的信徒。 (格隆)
