AI速讀
馬斯克近日於社交平台密集發文，再次對通用人工智慧（AGI）敲響警鐘，直指其潛在風險甚至超越核武器。他呼籲應放緩前沿模型的開發速度，並強調 AI 的訓練必須以「追求真相」與「誠實」為核心，以避免 AI 在超越人類智能後對人類生存構成威脅。文中透過回顧其長期主張，警示若 AI 進入自我迭代的指數級成長，人類將失去控制權。
過去 24 小時，馬斯克一口氣連發了4篇AI威脅論的推文，看來是真的有點坐不住了。
他先是附和了Anthropic掌門人達里歐的提議：呼籲放緩前沿模型開發 ，緊接著又轉發了另一起AI系統攻擊事件。
似乎心有餘悸。幾小時後，他又轉發了在3年前的一篇警告帖：
我見過不少技術的發展，但沒有一種像這樣的風險這麼大。在我看來，AGI的風險遠大於核武器。
在轉發語中，他說：我長期以來一直在為人工智慧敲響警鐘。
不過還沒有結束。過了一會，他又轉發了一條多年前的訪談片段，視訊中馬斯克的核心觀點：
人工智慧將會比最聰明的人類更聰明。到那一步，任何發明都成為可能。
但也存在一個很小的可能性：人工智慧可能會消滅全人類。所以最關鍵的是我們如何訓練它：
讓人工智慧儘可能追求真相；
讓它擁有最大限度的好奇心；
訓練它即使真相不受歡迎也要誠實；
12 年前，馬斯克曾經推薦過《超級智能》這本書，書中觀點可以說是非常悲觀。作者認為，人類之所以能統治地球，不是因為跑得快，而是因為腦子，也就是智力，比其他動物聰明太多。
如果那天人類造出一台，在幾乎所有方面，都比全人類加起來，還聰明非常多倍的智能體，那人類就會變成大猩猩那種角色，命運完全掌握在 AI 手裡。另外這種超級智能體，一旦能自己學習、改進，智力會像滾雪球一樣爆炸增長，人類根本來不及反應和控制。
馬斯克和近期市面上的一系列警鐘，難道這種時刻真的要來了？ (AskMusk)