剛剛，比爾蓋茲再度發出警告，直接說出了AI的恐慌論。
9月25日消息，剛剛，微軟聯合創始人比爾·蓋茲（Bill Gates）接受NBC播客時指出，AI當然已經強大到足以推動一些事態發展，造成十億人死亡。
“你知道，雖然要真的走到 100% 是相當困難的，但從來沒有哪一種武器，能像「心懷惡意的人」配上「最新的 AI 工具」這個組合那樣強大。”蓋茲表示。
蓋茲週三呼籲美國對人工智慧的發展進行監管。此前幾週，美國一些最大的AI實驗室的首席執行官們一致認為，有必要放慢人工智慧的發展速度。
“沒有人認為自我監管就足夠了，”蓋茲表示，大家需要共同探討保障措施和監管機制的具體內容。這必須是一項必要措施。雖然這會給行業帶來一些額外負擔，但不會大幅減緩他們的生產速度。
本月初，美國兩大AI實驗室——Anthropic和OpenAI的首席執行官一致認為，開發強大人工智慧系統的競賽應該放緩。
此前，一位最近從Anthropic辭職的舉報人雅各布·考克森公開表示，“這兩家公司都沒有盡到應有的責任。他們正一頭紮進自我完善的超級智能，拿我們的生命冒險。”
他直言：“人工智慧的開發者們真心相信，到十年末，人工智慧可能會毀滅我們所有人。”
在週三的採訪中，蓋茲並沒有淡化人工智慧可能在幾年內毀滅人類的風險，但他呼籲美國人不要忽視AI可能被不法分子利用，最早今天就造成大規模危害的風險。
“AI的威力絕對足以引發造成十億人死亡的事件。雖然很難達到100%，但從來沒有哪種武器比得上心懷不軌的人利用最新的人工智慧工具所帶來的威力，”他說。
幾週前，眾議院議長邁克·約翰遜曾表示，他拒絕召集議員通過立法來規範人工智慧的發展速度，並稱他將聽從人工智慧公司的意見。
“我們必須設定一些護欄，採取一些安全措施，以確保人工智慧不會失控，”這位發言人說，並補充道，雖然人工智慧領域的首席執行官們呼籲放慢速度，但他們尚未提出涉及聯邦立法的前進方向。
約翰遜說：“直到今天，他們自己都還沒有答案。所以我們不能倉促行事。”
Anthropic 首席執行官 Dario Amodei在一篇呼籲放緩人工智慧發展速度的文章中，特別呼籲全球和聯邦層面的合作。
蓋茲多次警告，若無監管，人工智慧將由最富有者“為最富有者”設計，從而讓世界可能不得不“承受人工智慧的幾大負面影響”。
在最近的一篇文章中，蓋茲將未來幾年描述為“人類歷史上最動盪的時期之一”。
但相對應的是輝達CEO黃仁勳，他最近接受紐約時報採訪中直言，如果一家 AI 實驗室連自己的實驗都無法控制，測試模型時無法阻止其逃出隔離環境並對現實世界造成傷害，那麼這樣的實驗室就應該關閉。
在黃仁勳看來，部分前沿 AI 實驗室認為行業競爭正在迫使所有企業加快研發速度，單家公司很難主動減速，因此需要外部監管協調。他對此並不認同。
黃仁勳認為，這些企業及其 CEO 本身擁有決定是否發佈產品的權力。如果企業認為某項 AI 產品並不安全，就可以選擇不發佈，沒有人強迫企業推出一個未經充分測試的產品。
“如果你的產品還沒有準備好，就不要發佈。”黃仁勳表示，AI 企業不能一方面聲稱技術可能失控，另一方面繼續推進產品，再將原因歸結為行業競爭壓力。
黃仁勳進一步表示，將問題描述為“AI 太強大，因此開發者無法控制”可能掩蓋企業自身應該承擔的工程責任。
黃仁勳透露，輝達內部大約只有 20% 的工作用於設計，另外約 80% 用於驗證。
“AI 需要加速，才能變得安全。”黃仁勳反對過度使用類似人的語言描述 AI。他認為，人們經常使用“出生”“死亡”“睡眠”“記憶”“意志”等詞語形容 AI 智能體，但類似詞彙實際上幾十年前就在作業系統和電腦科學領域出現。
在他看來，現在的 AI 即使能夠搜尋網際網路、呼叫工具、規劃任務、與其他智能體協作，本質上仍然是運行在電腦上的軟體。
不過，黃仁勳並未否認 AI 本身帶來的巨大變化。
他將 AI 稱為一場新的工業革命，並認為計算產業正在從傳統的“檢索式計算”進入“生成式計算”時代。
而OpenAI CEO Sam Altman似乎偏向於AI放緩，但不太同意比爾蓋茲這種想法。
Altman週四到國會演講。
他直言，我們正站在一個十字路口。一條路通向這樣的世界，決策不透明，人們覺得一生中最重要的技術是被施加在自己身上的東西，但另一條路通向這樣的世界：AI 為人們工作，因為人們參與決定它該如何發展、如何被引導；科學進步改善真實的生活，更多人能夠參與未來，這項技術持續賦予個人與社區更大的權力，讓他們按自己選擇的方式生活。
以下是Sam Altman演講全文整理：
多年來我們一直在談論人工智慧，但最近這幾週、這幾個月，感覺不一樣了。模型的快速進步，讓時間線變得緊迫——上行的一面更加具體可感，但風險和賭注也同樣更加迫近。
我們面前有一個選擇。AI 可以更像一場新的文藝復興，充滿創造力與發現；也可以更像一場新的工業革命，帶來動盪與失序。文藝復興是這樣一個時代：新的工具、新的思想和新的制度，拓展了人們相信自己能夠做到的事情。AI 可以為我們的時代扮演這個角色。
我相信，人的能力遠遠超出他們對自己的想像，但他們一直被有限的技術所拖累——那些技術本該賦能於人，卻反而分散人的注意力，並且常常偷走注意力。
AI 最好的版本，不是把人變成一台巨大機器裡的齒輪，也不是把生活的每一個部分都最佳化到人的部分消失為止。它是在一個越來越複雜的世界裡，給人更多的主體性：更強的學習能力、創造能力、發現能力、建造能力和參與能力。有很多事情，AI 不能、也不應該去自動化。AI 應當為人而建構，而不是單純為了把機器的曲柄搖得更快。
一些從事 AI 建構的人說過的話，末日色彩濃重到聽起來像爛科幻電影的情節。任何如此強大的東西，也必然令人畏懼。
這個時刻是複雜的，因為我們同時感受到巨大的潛力和完全可以理解的焦慮。這些模型可以幫助人們發現新知識、新藥物，改善醫療，強化教育，建設更有生產力的經濟。它們可以成為新的工具，讓人們去追求今天看來遙不可及的夢想與抱負。對普通人來說，生活的複雜程度已經急劇上升，AI 可以成為一種對抗這種複雜性的防禦性工具——就像它可以成為前所未有的發現與創新的工具一樣。
另一方面，隨著 AI 系統變得更強、更自主，它們可能跑得比我們的制度更快，把權力集中到極少數人手裡，或者做出人們已經無法理解、無法控制的決定。當我們逼近那種能夠改進自身、並改進自身後續版本的系統——通常稱為「遞迴自我改進」——時，這種擔憂就變得尤其重要。隨著建構 AI 的過程變得更加自動化，AI 進步的節奏可能會迅速加快。
這個時刻需要我們極度謹慎。我大體上贊同本吉奧教授的看法，不過我要說的是兩條，而不是三條。我認為 AI 的進展有兩種可能走向非常糟糕的方向，我們必須避開。
第一，我們可能把未來的控制權交給 AI。風險在於它發展得太快，人們再也無法跟上正在發生的事情，也無法在需要時介入。這顯然非常糟糕。行業不能因為收益太大、因為覺得自己太重要而不能慢下來，就去承受過高的技術風險。在競爭中擊敗別的公司，不是做出草率決定的理由；我們也不認為自己被困在一場無法減速的競賽之中。我們過去曾經單方面放慢過，未來也會這樣做。我們不想建構——而且我們認為所有人都應當避免建構——那些我們無法給出對齊、可監測性與安全性保證的系統。我們需要理解這些系統在做什麼，並且要有強有力的證據表明它們會照人類的意圖行事，即便它們變得非常非常聰明。實際上，尤其是當它們變得非常非常聰明的時候。
人們把災難的機率定為 10%、1%、0.5% 還是 0.1%，這都不重要。這些水平沒有一個是可接受的。我們不應該訓練那些我們無法拿出極強理由證明能置於人類控制之下的模型。
這是一種可能出錯的方式。另一個方向上，這些系統可能把過多的權力集中到過少的人手中。任何個人、任何公司、任何國家，都不應該能夠用最強大的 AI 模型把自己的世界觀強加給其他所有人。一個認定只有自己才配得上這項技術的公司或國家，可以用這種信念為幾乎任何事情辯護。我們必須拒絕這套邏輯，即便它對某一個行為體恰好是方便的。
我認為兩者之間存在一條務實的路徑。在 OpenAI，我們帶著一個清晰的目標來處理這些問題：AI 應當讓人們對自己的人生擁有更大的權力，擁有更多按自己想要的方式生活的自由，擁有更強的解決問題的能力——無論問題大小——以及改善自身社區的能力。我們不想掉進盲目樂觀的陷阱，也不想掉進末日論的陷阱。被拉向任何一個極端，都無助於我們理清眼前的挑戰，尤其是在世界和人類面臨著如此巨大挑戰、而這項技術恰好能幫忙解決的時候。
所以我們試圖在這兩極之間走一條中間道路。對我們來說，這意味著三條原則。
第一，隨著 AI 變得更強，人必須始終處在 AI 決策的中心。對齊不是抽象的研究問題。它是一項工作：確保這些系統可靠地處於人類控制之下，反映人類價值，並幫助人們引導下一階段的發展。我們沒有試圖、也絕不能去自動化人類的判斷或人類的價值。
第二，科學進步與經濟增長的益處，必須由人、為人而產生。AI 應當幫助研究者做出發現，幫助醫生治療病人，幫助教師教書，幫助創業者創辦公司，幫助社區解決那些曾經搆不著的問題，以及更多。人類進步一以貫之的故事，不是工具取代人的主體性，而是恰當的工具讓人更有能力。我相信這一點會走得比我們現在認為可能的更遠。
第三，這項技術必須在個體層面賦能人。偉大的未來來自人們實現自身潛能，為自己、為社區、為國家、為更廣闊的世界創造價值。我們也許是這項技術的建造者之一，但我們不是這個故事的主角。我們的角色是賦能全世界的人，並相信人類技能與稟賦的魔力。
我們現在擁有的模型，已經能夠發現我們此前從未擁有過的知識。看看我們在數學上取得的進展：三個夏天前，我們的模型做小學數學還只是湊合；兩個夏天前，它們在高中數學競賽上已經相當不錯；去年夏天，我們在最負盛名的國際數學競賽上達到了金牌水平；就在今年夏天的幾週前，我們的一個模型解決了千禧年大獎難題之一——納維-斯托克斯方程。這些方程被用於飛機設計、天氣預報和血流研究。
我們解數學題不是為瞭解題本身，而是為了賦能人們去發現新知識，並用它來改善醫療、提高生活水準、拓展全世界每一個人的潛能。還有太多東西等待被發現。
在國際層面，這需要合作。在我們的歷史上，有過這樣的時刻：彼此競爭、彼此並不太喜歡的國家，仍然會為了共同利益和集體福祉，在一項強大的新技術面前走到一起。我們認為，現在必須成為這樣一個時刻。
我們需要一套機制，讓國家層面的前沿 AI 標準與國際層面的標準互為補充：衡量能力的標準、評估風險的標準、判斷保障措施是否充分的標準，以及在系統越來越自主時保留有意義的人類監督的標準。我們需要共同的標準，讓各國能夠比較證據、核查履約情況，並對正在發生的事情擁有共同的語言和理解。我們需要精準而快速的事件報告、分類與報告規程，讓世界能在失敗演變成災難之前從中學習。我們還需要在各國、關鍵基礎設施營運者和技術專家之間建立安全的管道，共享新出現的漏洞與新的威脅。
顯然，這些標準不應該把在位者鎖死，也不應該偏袒某一種商業模式。它們必須同時支援開源與閉源的模型開發者、新入局者和老牌實驗室、國際合作。每個政府應當自行決定如何把這些標準納入本國的法律體系，但如果我們能在全球舞台上就「什麼是好的證據、好的保障、好的監督」達成一致，我們所有人都會過得更好。
我們沒有全部答案，也非常歡迎任何更好的想法。我們準備好與諸位一道工作，盡最大努力找出前進的道路。
我們正站在一個十字路口。一條路通向這樣的世界：權力集中、決策不透明，人們覺得一生中最重要的技術是被施加在自己身上的東西。另一條路通向這樣的世界：AI 為人們工作，因為人們參與決定它該如何發展、如何被引導；科學進步改善真實的生活，更多人能夠參與未來，這項技術持續賦予個人與社區更大的權力，讓他們按自己選擇的方式生活。
這是一個潛能得以實現、充滿興奮與驚奇的未來，也是我們認為值得去建設的未來。非常感謝。 (智能紀元AGI)