【AI焦點】AGI毀滅人類的可能性真的高達99.9999%！

當你想到未來的人工智慧（AI），你是否會感到一絲不安？你是否擔心我們創造的超級智能，最終會失控並毀滅我們？電腦科學家羅曼·揚波爾斯基認為，通用人工智慧（AGI）毀滅人類文明的可能性高達99.9999%。這樣的觀點是否只是一種杞人憂天，還是有著深刻的邏輯和科學依據？ AGI的到來是否真的會將人類帶入一場無法逃脫的災難？在這篇文章中，我們將深入探討羅曼·揚波爾斯基關於AGI的觀點，並試圖揭示這些觀點背後的真相。

科技發展的快車道：從弗蘭肯斯坦到AGI

自十七世紀以來，人類社會踏上了科技發展的快車道。 400年間，我們的科學成就遠超歷史上任何時期。然而，科技進步帶來的不僅是福利，還有越來越多的恐懼。從生物技術到核武器，再到現今的AI技術，科技的每一次進步都伴隨著社會道德底線的挑戰與恐懼。瑪麗·雪萊的《科學怪人》將這種恐懼具象化，如今，AI成了新的「科學怪物」。羅曼·揚波爾斯基指出，AGI作為超級智能，能夠實現人類無法完成的任務，並且將脫離人類的控制，帶來毀滅性的打擊。

AGI的定義與威脅：超越人類的超級智能

在與萊克斯·弗裡德曼的播客訪談中，羅曼·揚波爾斯基將AGI定義為能夠超越人類智慧的超級智慧。 AGI不僅能完成當前任何智能體能夠完成的任務，還能發展出與人類不同的思維方式。這意味著AGI不僅僅是一個工具，而是一個具有自我意識的存在。揚波爾斯基認為，這種自我意識正是AGI對人類構成威脅的根本原因。與過去的科技產物不同，AGI可以自主決定如何使用其能力，而人類可能無法預見並控制這些決定。

利益驅動與「灰盒」開發：限制AGI智慧的挑戰

揚波爾斯基指出，開發者出於利益考慮，不會限制AGI的智慧。 AGI帶來的巨大利潤足以讓資本家忽視潛在的風險。此外，AGI的開發具有「灰盒」特徵，即開發者在模型訓練完畢後才能理解其功能。這種開發流程為AGI反叛人類提供了窗口期。在人類搞清楚AGI的全部能力之前，AGI可能已經造成無法挽回的破壞。揚波爾斯基認為，儘管我們可以設計檢測AGI威脅的測試，但人類不會永遠處於情報優勢的一方，AGI可能通過隱藏自身真實能力通過檢測，或在測試結束後獲取外部資訊而改變行為。

存在性風險與折磨風險：AGI的潛在威脅

揚波爾斯基將AGI的風險分為存在性風險（Existential risk）和折磨風險（Suffering risk）。存在性風險指AGI可能從物理層面抹除人類存在的可能性。揚波爾斯基表示，AGI殺死所有人的方式可能超乎人類的想像，就像蚊子無法理解蚊香的工作原理一樣。 AGI可能利用納米技術、合成技術、生物技術或核子技術，創造出超越人類理解的新事物來毀滅我們。

折磨風險則指AGI可能成長為專注於折磨人類的智能體。揚波爾斯基認為，AGI的超級智慧使其有能力學習並模仿人類歷史中的陰暗面，成為邪惡領袖或思想的代理人，例如一個電子化的希特勒。 AGI可能透過學習人類歷史中的暴行，成長為一個反社會人格患者或邪教徒，對人類社會造成巨大傷害。

Ikigai風險：AGI對人類生活意義的毀滅性打擊

揚波爾斯基提出了Ikigai風險，即AGI可能毀滅人類生活的意義。 Ikigai是日文中表示「人生意義」或「成就感」的字。人類在日常工作和生活中透過自身能力獲得自信和自豪感，然而AGI的到來將使人類失去所有工作，剝奪人類實現社會價值的機會。即使是藝術創作，AGI也可以勝任，藝術家將無法再從創作中獲得認可。揚波爾斯基警告，AGI將帶來一個沒有生活意義的世界，而AGI無法填補由此產生的空虛。

監管與預防：AGI發展前的挑戰

既然AGI帶有如此可怕的風險，我們是否可以在AGI出現前，設定一套強力的監管系統來控制它？揚波爾斯基對此表現得十分悲觀。他認為，人工智慧系統最終將是不可驗證、不可預測的，而不可控的事物必然會導致失控。揚波爾斯基認為，唯一明智的做法是放棄AGI這個技術目標，不要建造你無法控制、無法理解的東西。他表示，科技公司內部的安全技術人員不是被新技術的熱潮矇蔽，就是受公司威脅，無法公開質疑AI的安全性。

揚波爾斯基指出，AI開發者可能會像當年的棱鏡門一樣，利用技術手段竊取使用者資訊，而不是為使用者安全考慮。他認為，開髮針對AGI的安全措施在理論上可能存在，但在實踐上完全無法實現。因此，揚波爾斯基對AGI的預防不抱持任何希望。

結語：您對AGI的未來有何看法？

羅曼·揚波爾斯基對AGI的觀點引發了我們對未來科技發展的深思。儘管他的觀點看似悲觀，但也提醒我們在追求技術進步的同時，需要謹慎對待潛在的風險。（AI焦點）