AI Is a Mass-Delusion EventThree years in, one of AI’s enduring impacts is to make people feel like they’re losing it.八月的一個周一下午，我正在網上觀看一名前有線電視新聞主播在Substack 平台上採訪一個已故的少年。這名少年叫華金·奧利弗（Joaquin Oliver），在佛羅里達州帕克蘭市的瑪喬麗·斯通曼·道格拉斯高中大規模槍擊案中遇害。他被生成式人工智慧復活了，其聲音和對話都是根據他的寫作片段和家庭錄影模仿生成的。動畫效果很僵硬，模型的語速太快，有兩次在試圖表達興奮時，音調急劇升高，發出了數位化的尖叫聲。我很好奇，究竟得有多少人同意這是個好主意，才讓我們走到了今天這一步？看著這一切，我感覺自己快要瘋了。吉姆·阿科斯塔（Jim Acosta），這位前美國有線電視新聞網（CNN）名人，正在主持這場採訪。他似乎完全接受了這個設定，更增添了超現實的感覺：儘管互動如此怪異，他卻一本正經地進行著。阿科斯塔問了一些簡單的問題，關於奧利弗的興趣以及他是如何去世的。這個聊天機器人是在奧利弗父母的全力配合下建立的，旨在倡導槍支管制。它的回答就像一份新聞稿：“我們需要為對話和連接創造安全的空間，確保每個人都感到被看見。”它還說出一些諸如“更多的善意和理解確實能帶來改變”之類的陳詞濫調。在直播聊天中，我看到觀眾們和我一樣，都在努力理解眼前發生的一切。“不知道該作何感想，”一個人寫道。“天啊，這感覺太奇怪了，”另一個人說。還有人想到了他的家人，寫道：“這一定非常艱難。”有人說出了我猜我們所有人都在想的話：“他本該活在這裡的。”阿科斯塔的採訪讓人難以消化，正如人工智慧時代許多事情都讓人難以消化一樣。我為阿科斯塔感到噁心，他“把一個被謀殺的孩子變成了內容”，正如評論家帕克·莫洛伊（Parker Molloy）所說。我也對那些科技公司感到憤怒，它們如今以產品的形式提供了一隻“猴爪”【典故出自W. W. Jacobs的短篇小說，講述了一個被施了魔法的猴爪能實現三個願望，但每個願望的實現都會帶來可怕的、意想不到的災難性後果。】，能夠復活逝者。當奧利弗的父親在後續交談中告訴阿科斯塔，奧利弗“將開始擁有粉絲”時，我感到警惕，這預示著一個被謀殺兒童成為網紅的時代。但同時，我也理解奧利弗父母的衝動，他們仍在消化巨大的悲痛，願意盡一切力量來保留兒子的記憶，並從毫無意義的暴力中尋找意義。我怎麼能去評判那種失落感呢？奧利弗的父親告訴阿科斯塔，他的妻子會連續幾個小時與那個聊天機器人交談。當我知道她喜歡聽聊天機器人用她已故兒子的聲音說“我愛你，媽媽”時，我又能做什麼呢？這次採訪引發了一種在過去三年裡變得異常熟悉的感覺。這是一種社會正奔向一個未來的沉淪感，這個未來感覺冷冰冰、構思草率，卻又被人們漫不經心地接受了。我們真的要這麼做嗎？誰覺得這是個好主意？從這個意義上說，阿科斯塔的採訪只是一個集體錯覺的產物。我意識到，這種由震驚、困惑和矛盾交織而成的奇特感受，正是生成式人工智慧時代的決定性情緒。在這場炒作進行了三年之後，人工智慧一個持久的文化影響似乎就是讓人們感覺自己快要瘋了。在接受阿科斯塔採訪時，奧利弗的父親提到，家人計畫繼續開發這個機器人。“任何一個矽谷的技術人員都會說，‘這只是人工智慧的開始，’”他說，“‘這也只是我們正在做的事情的開始。’”僅僅是開始。或許你也聽過這種說法。“歡迎來到 ChatGPT 時代。”“生成式人工智慧革命。”“人類的新紀元，”正如馬克·祖克柏最近所說。我們被告知，這是計算領域大爆炸前的時刻——一切都將改變；你等著瞧。上帝很可能就在機器之中。矽谷發明了一種新的心智。這是一個值得慶賀的時刻——應該加倍投入。如果你在工作中不用它，那你就是個傻瓜。是時候加速了。我們能活在當下是何其幸運！是的，事情是有點怪。但你又能期待什麼呢？你正暢遊在機器認知的原始湯中，難免會有成長的陣痛和附帶的傷害。生活在這樣一個有趣的時代，意味著要與“機械希特勒格羅克”（MechaHitler Grok）【這是作者創造的一個複合詞，結合了“機械”（Mecha）、“希特勒”（Hitler）和“Grok”（埃隆·馬斯克旗下xAI公司開發的一個AI模型名稱）。】之類的東西抗衡，要從法西斯宣傳的垃圾洪流中飲水。這意味著爺爺會在“蝦耶穌”（Shrimp Jesus）【指由AI生成的各種怪誕、不合邏輯的圖像，這些圖像在社交媒體上廣泛傳播。】的渲染圖下留下困惑的臉書評論，或者更糟，迷上一個輕浮的人工智慧聊天機器人。這個未來很可能需要一份新的社會契約。但同時，也出現了人工智慧復仇式色情和“一鍵脫衣”應用，這些應用利用人工智慧脫掉女性和兒童的衣服，還有吞噬了人類全部創造性產出的大語言模型。我們被告知，從這片泥潭中，一個“通用人工智慧”終將出現，它要麼為人類發展提供渦輪增壓，要麼……嗯，可能會毀滅人類。但你看：每個用著 T-Mobile套餐的傻瓜，口袋裡的原始智能很快將超過世界上有史以來的任何智能。保持信念。那些正在建構這項技術的人，其慣用手法就是誇誇其談。風險投資家（馬克·安德森在 X 平台（前身為推特）上引用一些人的推文，這些人激動地發表著諸如“我認識的每個人都相信，最多幾年，勞動力的價值將徹底崩潰，資本將以失控的循環方式向所有者積聚——基本上是馬克思最壞的噩夢/幻想”之類的言論。如果你把他們當真，又怎能不瘋掉呢？的確，生成式人工智慧的眾多產物之一似乎就是一種“精神病即服務”（psychosis-as-a-service）。如果你真的“吃了通用人工智慧的藥丸”（AGI-pilled）——這是一個用來形容那些相信機器超級智能即將來臨的人的術語，那麼理性的反應可能包括建個地堡、辭掉工作，然後投身於這項事業。正如我的同事今年早些時候與這個群體相處後所寫，對於這些真正的信徒來說，政治、經濟和時事基本上都無關緊要。如果你相信我們所知的世界即將永遠改變，那麼很難再去關心關稅、威權主義的侵蝕或是拿個學位了。這種言論在下游產生了令人抓狂的影響。有人在與聊天機器人建立關係後，被強制送醫或出現精神崩潰。這些故事本身已經形成了一個“家庭作坊”式產業，每一個故事都暗示著，諂媚的模型、將虛假資訊當作事實呈現的方式，以及這些工具模仿人類對話的能力，共同作用，導致脆弱的使用者認為他們與機器建立了人類關係。像 r/MyBoyfriendIsAI 這樣的 Reddit 子版塊（人們在其中描述自己與聊天機器人的關係）或許不能代表大多數使用者，但瀏覽這些帖子時，很難不感覺到，在生成式人工智慧時代僅僅幾年之後，這些工具已經對那些可能不理解自己正在與什麼互動的人產生了強大的控制力。在這一切發生的同時，年輕人正在經歷一種作家凱拉·斯坎倫（Kyla Scanlon）稱之為“可預測的進步的終結”（End of Predictable Progress）的現象。廣義上說，該理論認為，通往穩定經濟生活的傳統路徑已不再可靠。“你會想：我賴以踏上職業階梯最底層的那些工作，將被人工智慧奪走，”她最近告訴記者埃茲拉·克萊因（Ezra Klein）。“我認為這製造了一種恐懼元素。”她所描述的不穩定感是生成式人工智慧時代的標誌。目前尚不清楚到底有多少入門級工作會被人工智慧取代，但那些熱情高漲的首席執行官和公司傳遞的資訊聽起來確實很可怕。今年五月，Anthropic 公司的 CEO 達里奧·阿莫迪（Dario Amodei）警告說，人工智慧可能會消滅一半的入門級白領工作。六月，Salesforce 公司的 CEO 馬克·貝尼奧夫（Marc Benioff）暗示，公司高達50%的工作正由人工智慧完成。圍繞失業的焦慮凸顯了當下的模糊性。目前，關於人工智慧是否對就業產生有意義的影響，存在著相互矛盾的理論。但真實影響和感知影響是兩回事。最近一項昆尼皮亞克（Quinnipiac）民意調查發現，“就日常生活而言”，44%的受訪美國人認為人工智慧的弊大於利。調查發現，美國人相信這項技術會導致失業——但許多工人似乎對自己的工作穩定性充滿信心。許多人根本不知道該對人工智慧得出什麼結論，但又不可能不去思考它。OpenAI 的 CEO 薩姆·奧爾特曼也表現出了他自己的不確定性。在六月發表的一篇題為《溫和的奇點》（The Gentle Singularity）的部落格文章中，奧爾特曼認為，“我們已經越過了事件視界（event horizon）”，接近於建構數字超級智能，並且“在某種重大意義上，ChatGPT 已經比任何活過的人類都更強大。”他使用了人工智慧支持者經典的誇張言辭，認為“2030年代很可能將與以往任何時代都截然不同。”然而，這篇文章也從他之前慣用的那種不可避免的“革命”的戲劇性言論中略微後退了一步。“在最重要的方面，2030年代可能並不會有太大不同，”他寫道。“人們仍然會愛他們的家人，表達他們的創造力，玩遊戲，在湖裡游泳”，這是對我們肉體形態持久性的俏皮致意，算是一種小小的安慰。奧爾特曼是一位熟練的行銷人員，這篇文章可能只是為了向那些有點害怕的人展示一個更友好、更容易接受的未來。但對這篇文章的另一種解讀是，面對這項技術潛在的進步侷限，奧爾特曼在稍微留有餘地。本月早些時候，OpenAI 發佈了 GPT-5，評價褒貶不一。奧爾特曼曾承諾它在任何主題上都具有“博士水平”（Ph.D.-level）的智能。但 GPT-5 的早期測試揭示了各種各樣的軼事性例子，顯示其對查詢的回答很草率，包括幻覺、簡單的算術錯誤和基本推理失敗。一些曾迷戀於該軟體先前版本的重度使用者對這次更新感到憤怒甚至失落。奧爾特曼特別強調了產品的可用性和設計：結合“溫和的奇點”一文來看，GPT-5 似乎承認了超級智能仍只是一個概念。然而，扮演哲學家的戲碼仍在繼續。在發佈前不久，奧爾特曼出現在喜劇演員西奧·馮（Theo Von）的熱門播客上。討論轉向了奧爾特曼慣於涉足的深思熟慮的科幻領域。在某個時刻，兩人有如下對話：薩姆·奧爾特曼：我確實猜想，隨著時間的推移，世界大部分地區將被資料中心覆蓋。西奧·馮：你真這麼認為？奧爾特曼：但我不知道，因為也許我們會把它們放在太空裡。比如，也許我們在太陽系周圍建一個巨大的戴森球（Dyson sphere），然後說，“嘿，把這些東西放在地球上其實毫無意義。”馮：是啊。奧爾特曼：我希望我能給你更具體的答案，但，我們也是在摸索著前進。一個正在開車去雜貨店路上的人，聽到這樣的對話，究竟該作何感想？當然，有一群人會覺得用資料中心覆蓋地球或大氣層非常令人興奮。但我們這些不這麼想的人呢？奧爾特曼和人工智慧領域其他次要人物經常這樣說話，對未來做出極端、不容置疑的宣告，聽起來就像孩子們在玩戰略遊戲。這不是商業計畫，而是白日夢。同樣令人迷失方向的是，這些願景和說教正在推動現實世界的變革。即使你個人不相信這場炒作，你也生活在一個已經圍繞人工智慧重塑的經濟體中。《華爾街日報》最近的一份報告估計，大型科技公司在2025年的資訊技術基礎設施上的支出“正起到一種私營部門經濟刺激計畫的作用”，科技七雄（Magnificent Seven）——Meta、Alphabet、微軟、亞馬遜、蘋果、輝達和特斯拉——最近幾個月在資本支出上花費了超過1000億美元。這種對單一技術領域集中投資的另一面是巨大的經濟脆弱性，可能導致金融危機。這就是人工智慧時代的縮影。換個角度看，你可以將其描繪成世界經濟的救星。再仔細看，它又像是埋在全球金融體系中的一顆滴答作響的定時炸彈。對話總是兩極分化。保持信念。不可否認，生成式人工智慧工具是變革性的，因為它們的普及已從根本上改變了經濟和數字世界。社交網路和整個網際網路充斥著人工智慧垃圾（AI slop）和合成文字。Spotify 和 YouTube 上充滿了人工智慧生成的歌曲和視訊，其中一些獲得了數百萬的播放量。機器人無處不在，它們對數字生活產生了深刻、奇特而有意義的影響。有時它們是種族主義者。很多時候它們是馬屁精。其他時候，它們會召喚惡魔。Google的人工智慧摘要正在導致網站流量暴跌，並重塑網路。在學校裡，ChatGPT 不僅扼殺了學生論文，它似乎還威脅著人類認知的一些基本組成部分。一些研究認為，聊天機器人正在同質化人們的說話方式。無論如何，它們似乎顛覆了網際網路作為一個可以自行導航的無窮資訊檔案庫的承諾。“自己做研究”（Do your own research）在短時間內變成了“得到一個標準答案”（Get one canonical answer）。有時這很有用：一個機器人巧妙地總結了一份複雜的 PDF 文件。根據大多數人的說法，它們確實是很有用的編碼工具。孩子們用它們來製作有用的學習指南。它們擅長通過生成蒼白無力的郵件來為你節省時間。同時，一個醫療保健聊天機器人編造了假的身體部位。美國食品藥品監督管理局引入了一款生成式人工智慧工具，以幫助加速藥品和醫療裝置的審批——但該工具不斷編造虛假研究。瀏覽人工智慧新聞頭條，就像每天都在試圖確定社會為這些所謂的生產力效益付出了多大代價。例如，有了一款新的支援Google Gemini 的智能手錶，你可以讓機器人“用開玩笑的語氣告訴我的配偶我晚到15分鐘”，而不是自己去溝通。緊接著又有新聞報導一項研究，表明 ChatGPT 的重度使用者可能正在因使用該工具而累積“認知負債”。近幾個月來，我被這一切搞得無所適從：一項我在某些情況下覺得有用的技術，卻被當作通往意識的門戶；一個億萬富翁自信地宣稱，他通過與聊天機器人交談，即將取得物理學突破；一種“搞錢至上”（get that bag）的文化，似乎不怎麼考慮後果就接受了這些工具；還有這種無處不在的公共討論。我到處都能聽到閒聊——農貿市場的菜販半開玩笑地說人工智慧種不出藍莓；機場的一位女士告訴朋友她讓 ChatGPT 推薦化妝品。這些對話大多資訊不足，談論者多年來被炒作轟炸，但也目睹了其中一些工具融入他們自己或他們認識的人的生活。他們算不上興奮或厭倦，但幾乎所有人都似乎無奈地接受了將與這些工具共度未來。記住——這僅僅是開始……對吧？這是這項技術的創造者和支持者給我們的語言，這意味著，將技術置於未來背景下的討論，都是在他們的語境下進行的。這是一個錯誤，或許也是為什麼那麼多人感到迷惘的原因。最近，我一直被一個不同的問題所困擾：如果生成式人工智慧既不是機器中的上帝，也不是“霧件”（vaporware）【科技行業術語，指那些被宣傳得天花亂墜，但遲遲未能發佈甚至從未打算發佈的軟體或硬體產品。】呢？如果它只是“足夠好”，對許多人有用，但並非革命性呢？目前，這些模型不會思考——它們預測並排列語言標記，以對查詢提供看似合理的回答。幾乎沒有令人信服的證據表明，如果沒有某種量子研究的飛躍，它們會進化。如果它們永遠無法停止產生幻覺，也永遠無法發展出驅動真正人類智能的那種創造性獨創力呢？模型“足夠好”並不意味著這個行業會一夜崩潰，或者這項技術毫無用處（儘管有可能）。這項技術可能仍然會出色地讓我們的教育體系變得無關緊要，讓一代人依賴於從聊天機器人那裡獲取答案，而不是自己思考，卻沒有得到承諾中能夠發明癌症療法的有意識的機器人的好處。“足夠好”讓我夜不能寐。因為“足夠好”很可能意味著，在為時已晚之前，沒有足夠多的人認識到真正被建構的是什麼，以及被犧牲的是什麼。如果真正的末日情景是，我們污染了網際網路和地球，重塑了我們的經濟並讓自己債台高築，把我們大部分的思維外包出去，重新調整我們的地緣政治和文化，並為一項永遠無法接近其宏偉承諾的技術無休止地爭吵，那該怎麼辦？ (不懂經)
