Big Tech Oligarchs Have a Terrible Plan for Humanity

少數億萬富翁妄圖主宰我們的未來。

作者：伯尼·桑德斯（Bernie Sanders）

插畫：Adam Maida / 《大西洋月刊》）

人類是否應該繼續掌控地球？還是說，我們應該被取代，不再作為優勢物種存在？儘管這些問題聽起來荒謬，答案似乎也顯而易見，但那些資助人工智慧革命的科技巨頭寡頭們的回應，卻足以讓我們所有人感到警惕。

在矽谷，一些全球最富有的人相信，他們有能力創造出一個更優越的物種。OpenAI的負責人薩姆·奧特曼（Sam Altman）曾在2017年寫道，人工智慧將讓人類成為“有史以來第一個能設計自己後代的物種”。然而，這對人類究竟意味著什麼，目前尚不明確。根據奧特曼的說法，我們要麼會啟動數字智能，“然後像進化樹上的一個分支那樣逐漸消亡，要麼我們可以弄清楚成功的融合是什麼樣子的”。換句話說，人類面臨著一個選擇：要麼面臨滅絕，要麼與機器融合。“我相信融合已經開始，”奧特曼補充道，這“可能是我們最好的結局”。

同樣，Anthropic的負責人達里歐·阿莫代伊（Dario Amodei）也開啟了賦予AI模型權利的可能性。“我們不知道這些模型是否有意識，”他解釋道，並補充說，“但我們對這種可能性持開放態度。”

本月早些時候，SpaceXAI的負責人、全球首富埃隆·馬斯克（Elon Musk）在X平台上發帖稱：“將超級智能傳播到群星之中，是生物啟動載入器（biological bootloader）取得巨大成功的標誌。”他將人類比作啟動電腦作業系統的啟動載入器。簡而言之，馬斯克是在說，人類僅僅是通往數字超級智能的一個步驟。億萬富翁、Palantir的聯合創始人兼重要AI投資者彼得·蒂爾（Peter Thiel）去年被問及是否希望人類種族延續時，他的回答是什麼？“呃……嗯，我不知道。我會——我會……這個問題裡隱含了太多疑問，”他支支吾吾地說道，最後才不情願地承認人類應該生存下去。

這些觀點植根於一種曾經處於邊緣地位的矽谷意識形態，被稱為“超人類主義”（transhumanism）。超人類主義者相信，技術將允許我們超越人類，無論是通過創造新物種，還是通過將我們自己與機器結合。為什麼要超越人類？因為這些新的“後人類”將比我們更聰明。他們將永不犯錯。他們將走向群星，征服宇宙。他們將永生不死。

如果這些只是沉迷於科幻小說的十幾歲少年的幻想，我們大可以一笑置之。但事實並非如此。這些是世界上最有權勢的人所持有的基本信念，他們正在調動數兆美元的資金，試圖將這些幻想變為現實。

而且，這些投資已經開始見效。數萬年來，人類一直壟斷著語言。只有我們會使用句子。現在不再是了。數千年來，人類是唯一能夠在數學等領域解決複雜問題的物種。現在不再是了。直到最近，我們還能可靠地分辨出透過螢幕與我們對話的是人類還是電腦。現在也不再是了。

事實上，機器已經開始取代我們。而科技巨頭寡頭們對未來的構想只會更加令人恐懼。馬斯克正在打造Neuralink，試圖將晶片植入人腦，以實現“與人工智慧的共生”。蒂爾已移居阿根廷，在那裡，總統哈維爾·米萊（Javier Milei）呼籲建立由AI代理營運的“非人類公司”，其中“人類股東可以參與，但並非必須”。Anthropic的聯合創始人克里斯托弗·奧拉（Christopher Olah）一直在試圖說服包括教皇在內的宗教領袖，讓他們相信AI可能擁有意識。

這太荒謬了。這是不負責任的。而且，幾乎沒有任何矽谷以外的人想要這樣的未來。這也就不難理解，為什麼91%的美國人認為我們需要為AI設定護欄，為什麼74%的人不信任AI公司的領導者，以及為什麼73%的人擔心AI可能會威脅人類的生存。

今年5月，教皇利奧十四世（Pope Leo XIV）發佈了他的第一道通諭《輝煌的人類》（Magnificent Humanity），他在其中警告不要出現一種“反人類的願景”，即“人類個體面臨著被簡化為資料、機器中的齒輪或商品的風險”。教皇的態度很明確：“人類——以其所有的宏偉與創傷——絕不能被取代或超越。”

對此，蒂爾稱教皇為“代理人”。但教皇是對的。蒂爾和他的科技巨頭寡頭同僚們錯得離譜。

人類絕不能允許少數億萬富翁魯莽地試圖取代我們。我們必須立即暫停先進人工智慧的開發，並禁止人工超級智能——即一種比任何人類都聰明、能夠在我們控制之外獨立運作的人工心智——直到一個新的聯邦機構能夠確保該技術的安全性。這就是為什麼我與眾議員格雷格·卡薩爾（Greg Casar）共同提出了一項法案，旨在實現這一目標。AI是對人類生存的威脅。我們必須這樣對待它。

人類的未來不能掌握在少數痴迷於金錢和權力的科技巨頭寡頭手中。美國人民和全世界人民必須決定這個未來。人類，而不是機器，必須放在首位。

作者簡介：伯尼·桑德斯是佛蒙特州的一位獨立參議員。 (邸報)

彙整鉅亨號中所有使用「生存威脅」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

《大西洋月刊》科技寡頭們對人類有一個可怕的計畫