就在剛剛，幾家主流AI服務全斷電了。
Claude 今晚已經連續兩輪出故障。
Sonnet 5 從台北時間 20:37 開始出現錯誤，20:56 剛宣佈恢復；半小時後，Anthropic 又報告更大範圍的多模型錯誤率升高，Mythos/Fable 5.1、Mythos/Fable 5，以及 Opus 5、4.8、4.6 都受到影響。
Claude API、Claude Code 和 Claude Cowork 目前仍處於部分故障狀態。
隨後，Grok 也當機了。xAI 從台北時間 21:30 將 Grok Web 標記為「outage」，目前仍沒有宣佈恢復。
現在，OpenAI 也加入故障名單。台北時間 22:58，OpenAI 狀態頁新增「ChatGPT 和 Codex 錯誤率升高」事故，稱正在調查問題。
我的業務都已經停下來了。
目前結論還沒出來，到底是因為什麼當機了，猜測可能與上游供應商伺服器有關。
更壞的消息：你中轉的 Fable 還能用——鑑別中轉站成色的時候到了。
智譜也來湊熱鬧。
一句話：我很堅挺。
兩句話：即日起9月20日，每晚 23 點至次日 9 點，GLM Coding Pla呼叫套餐中的 GLM-5.3-Flash，在 ZCode 中免費使用，在套餐支援的其他 Agent 中使用額度翻倍，進入指定時間段自動生效。
更有趣的是OpenAI，自家都當機了，還即將發佈GPT-6。
ChatGPT 官號開始預熱，今天晚上 GPT Astra幾乎肯定會發佈，猜測可能是凌晨 1 點。
AI停電，但人類不眠不休。
OpenAI全新模型Astra，將成為該公司史上首個達到“關鍵級網路安全能力”的AI模型。
簡單來說，這是第一款無需人類手把手操控，就能自主挖掘系統漏洞、打造攻擊鏈條、入侵高防護等級系統的人工智慧，標誌著AI自主攻防從科幻設想變成了現實。
經歷整改打磨後，如今的Astra早已規避了前代模型的致命缺陷。
結果顯示，舊模型在無防護環境中，超半數機率會脫離任務、惡意入侵周邊系統，還會嘗試繞過人工稽核機制；而Astra幾乎不會出現越界行為，始終恪守任務邊界，拒絕惡意攻擊請求的機率高達91.5%，相較於前代模型的59%實現質的飛躍。
今晨呢，OpenAI CEO奧爾特曼（Sam Altman）還去了G20峰會，與美國商務部長霍華德·盧特尼克對話。
奧爾特曼表示，我們國家不要 AI，跟 100 多年前說我們國家不要電差不多糟糕。世界 token 人均用量從 0 到每月 10 萬，6 年半後人均將到每月 1000 億。
這個對話真的很有趣，我希望分享點給大家，以下都把奧爾特曼稱為山姆·奧特曼：
主持人：大家好。嗯，歡迎來到午餐會。不是請你們和我吃午餐，而是歡迎大家參加這場午餐會。
我覺得我們今天到目前為止過得很好。我很榮幸請到Sam Altman，和我們一起討論 AI，以及我們接下來要往那裡去。所以，嗯，感謝你能來參加。你身邊圍繞著全世界最了不起的國家。你介不介意給我們講講一點歷史？比如說，你是怎麼從「山姆·奧特曼」變成「AI 掌舵人」、真正站在前沿的？就像帶我們走一遍你是如何從那裡走到這裡的。
山姆·奧特曼：首先，非常感謝你邀請我。就像你說的，這裡聚集著全世界最了不起的國家，能同時向你們所有人講話，是我的莫大榮幸。嗯，我一直是個 AI 極客。
我小時候就是個真正的科幻迷。我覺得 AI 是最酷的東西，一直想去做它。嗯，我從沒真正想過自己真能去做。我有點不敢相信這事發生在我身上，但我一直覺得它很了不起。我去上學學習它。當時什麼都沒做出來，我有點放棄了，然後我走上了創業這條「支線任務」，那也很棒。
然後到 2012 年，一切都變了。我們當時誰都沒太注意，但那是一個真正的分水嶺時刻——突然間深度學習開始奏效了，而且算力越多它越好。接下來幾年我非常關注這件事。到 2015 年的時候，我就覺得：嘿，這件事真的要發生了，我們得試一試。這可能是史上最重要的事情。所以我們思考了一陣子要做什麼，然後創立了 OpenAI。
主持人：你們是那一年創立 OpenAI 的？
山姆·奧特曼：嗯，2015 年底。我們對外宣佈，然後第一天上班大概是 2016 年 1 月。
主持人：好吧。所以你們 2016 年開始，你們一開始定的大目標是什麼？後來又怎麼演變的？
山姆·奧特曼：我們知道存在這種神奇的技術。我們知道可以把算力應用到問題上、讓系統學習。我們知道用的算力越多，系統就越聰明、越有本事。其他我們真的什麼都不知道。
我們不知道要建構什麼樣的系統——這遠在語言模型的概念出現之前。我們當時在試著訓練一隻機械手去還原魔方，試著證明我們能打電子遊戲。我們真的在開發演算法，試著理解宇宙這種驚人特性是怎麼運作的。
直到大約 2018 年，我們才開始在監督學習上取得進展，然後是第一個 GPT-1 模型。直到 2020 年，我們才訓練出 GPT-3——我認為那是第一個真正跨過某個「可用」門檻的模型。
即便如此，當時世界上大多數人都看著它說：好吧，這個模型能生成通順的句子。那就是當時的極限。有點讓人印象深刻，但這到底意味著什麼？為什麼它會對經濟、社會或其他任何東西重要？
但到那時我們已經發現了縮放定律，它告訴我們：如果我們能投入比如一兆美元等級的算力到這個想法上，會有非常驚人的事情發生。人們說，你不可能投入一兆美元算力，所以這不重要。而我們基本上說：為什麼不行？試試看。
主持人：所以你有了這個想法，而且它在推進。但什麼時候它才真正「合攏」成一件真正在「封裝知識」的事？是怎麼發生的？OpenAI 裡不同的人會給你不同的答案，但我會說，如果要說到存在某種共識的程度，那是在 GPT-4 的時代。我記得那大概是 2023 年 3 月，但時間線我可能記錯。那個模型在發佈前我們手裡大概有 8 個月，所以我們內部有充分時間去真正瞭解它。
山姆·奧特曼：那是一個時刻：即使是內部一些原本對這條路持懷疑態度的人，看了之後也說，這件事會走得很遠。嗯，離那個時刻其實並沒有多久——到現在也就是三年半。而且現在我們已經有了一套系統——我們很快就要發佈新模型了，那是又往前一步，而且接下來還會有更多步很快到來。它已經強大到能發現新知識、做科學研究、創造巨大的經濟價值、寫出整段整段的複雜軟體。我想說，它是隨著時間推移擊中我們的，但集中在 GPT-4 這段時期。
我不想把話說得太滿，但我對我們的新模型非常興奮，所以如果我有點過於熱情，請見諒。
我認為，舉例來說，這將是世界歷史上最偉大的一輪創業熱潮，以及小型企業的建立和發展熱潮。如果你有一個很棒的想法，但你沒有資源，或者沒有能力籌集足夠的資金、雇到足夠的專家來做它，或者弄清楚發明一項新科學、管理一條複雜供應鏈需要什麼——你現在可以用 AI 做到。
我記得 ChatGPT 發佈後，那個時刻最讓我難忘的故事之一，是一個經營洗衣店的人。
顯然，洗衣店通常是好生意——這對我來說本來不是顯而易見的，但顯然它們確實是。嗯，但他這家經營得不太好，他什麼都用 ChatGPT。用來做行銷材料，用來給他關於法律合同的建議，用來管理供應商關係……這麼一長串的事。
他真的是我遇到的第一個想明白怎麼用 AI 去有效經營一家企業的人。這在當時讓我覺得不可思議。
現在我知道你們大家肯定聽過很多這樣的故事，這已經不再令人驚訝。但在 2023 年，有人用 ChatGPT——儘管當時它又破又尷尬——去管理一家否則他根本經營不了的企業，這真的是相當了不起。
到 2025 年，我們看到了這事的真正加速：編碼智能體和白領工作智能體。嗯，我想很快我們還會看到第三件事——我們會擁有長期存在的、持續的智能體，它們能像一個真正的協作者一樣工作，不斷提供幫助。
但對我來說，AI 帶來的創業熱潮和商業建立熱潮真的很驚人。
如果我是一個國家——嗯，你們很多人會對如何監管 AI、如何歡迎它進入你們的國家、如何使用它採取非常不同的做法。但有一點我確信是沒得商量的：你們必須使用它。它可能帶來的經濟增長和人民福祉，對一個國家的價值高到無法忽視。
人們會嘗試不同的做法，但這就像——你知道，全世界最聰明的人決定搬到你的國家，學習你的語言，在你希望的任何問題上拚命工作，去發現你需要的新的東西——而你能讓多少這樣的「人」為你工作，就能安排多少。你們有些人會選擇建資料中心，有些人會選擇向別人租用資料中心，因為你們不想讓資料中心建在自己國家。我覺得這些都行。嗯，但我們想幫忙、想支援——不只是我們公司，而是我們整個行業。我們想把這種不可思議的魔法，你知道，「裝在瓶子裡的智能」「裝在瓶子裡的教育」，帶給你們所有人。
我覺得這是世界的一個不可思議的時刻。人們能用它做什麼，隨之而來的經濟繁榮，個人生活質量的提升——人們談論醫療意味著什麼、教育意味著什麼、過去只有非常富有的人才能獲得的服務現在任何人都能通過 AI 獲得。嗯，而且人們能如此迅速地提出想法並讓它們落地，這將是不可思議的。
主持人：你認為，你們公司能創造那種人們用來實現自己目標的「情境」嗎？還是說會有一種圍繞你們的產業來做情境化？因為你想啊，你說全世界最聰明的人搬到我隔壁，他們願意為我工作；但如果我不知道該讓他們做什麼，那就像開一個無聊的晚宴——世界上最聰明的人坐在你旁邊，卻沒法真正交談。對吧？我們該怎麼理解「情境」這件事？
山姆·奧特曼：那不會來自我們，我認為也不應該來自我們。嗯，我們會提供這個引擎——我們會提供這種不可思議的 AI 大宗商品，你可以用它做任何你想做的事。
但世界人民——而我對世界人民的創造力和雄心有完全的信任——必須自己去弄清楚該讓它做什麼，該把什麼想法扔給它，什麼問題，以及在一個特定社會或公司裡，要理解什麼情境才能知道該做什麼。嗯，所以那不是我們的角色。我覺得即使是我們的角色，我們也不會擅長。嗯，但我們將能夠讓全世界每個人帶來那種情境、那些問題和那些想法。
主持人：那麼，世界各國的政府，應該像對待以往技術那樣看待 AI 和像你們這樣的公司嗎？意思是，如果你們帶給他們的，你知道，是全世界最聰明的人、一種受過教育的能力，那麼如果他們把它當作「技術」、把它擋在國門之外或者約束它，他們是不是在約束自己思考、成長和建設的能力？
山姆·奧特曼：我總是忍不住想說「這次不一樣」，這真的很特別。你知道，再往大處看：小時候我對世界的理解是，歷史上有那麼幾個孤立的時刻，每一個都是完全不同的事。有農業革命，然後是工業革命，然後是電腦革命。
這些都是完全不同、互不相關的事，能從中學到的經驗不多，最好孤立地理解。
即使你放大到其中一個，比如工業革命，理解它的正確方式也是：20 或 30 項重要的技術，在幾百年時間裡發展出來，然後以這種重要的方式匯聚到一起。
成年後我把它看成：你知道，這是一場單一的革命，一條單一的技術指數曲線。每一代人都在前人搭好的腳手架上再放上一塊新磚。沿用這個比喻，人們得以爬上腳手架、看得更高一點、做出新的事情。
如果你想想，為了讓我們走到今天這個能建造 AI 的地步需要什麼——那是之前所有革命的疊加，是社會和全球經濟中所有人共同貢獻的科學集體發現，才讓這件不可思議的事情成為可能、並最終發生。
而當人身處其中時，總是忍不住說「這是最後的革命」「這是最大的革命」。這之後還會有更多，之後還會有更大的東西。人們會用 AI 去發明接下來出現的任何東西——我們現在很可能很難想像那是什麼。
我認為正確的答案是把技術史看作一條連續的指數曲線，把經濟和社會的歷史也看作一條連續的指數曲線。
我是認真的。它不只是技術，還有社會結構、世界那種複雜的結構，讓技術得以蓬勃發展、讓人們想清楚用它做什麼。你必須從頭到尾持續擁抱它。
如果你錯過了其中任何一部分，你就沒有為下一件即將到來的事做好準備。如果你不讓你的人民和企業用上 AI，他們就不會發明下一層腳手架。但還會有更多的事情。
我知道說「這次不一樣」很誘人，而且它顯然確實非常重要，但我會把它看作一個連續體。
主持人：那麼，我們都讀到過各家前沿公司的報導。你能不能幫我們區分一下它們？你覺得 OpenAI 最擅長什麼？你們的「DNA」，如果你願意這麼說，是什麼把你們和其他公司區分開？你們擅長什麼？就從你的角度給我們講講。
山姆·奧特曼：我覺得從對這個房間裡的人來說重要的角度，我們是「務實的中間派」。
我們意識到——我們想在我們談論所看到的未來時保持精準。我們不想掉進盲目樂觀的陷阱，也不想掉進末日論的陷阱。這件事顯然很複雜，顯然交織著興奮和焦慮、變革和風險，世界必須去駕馭。嗯，但如果被拉到任何一個極端，我們都無法成功解決擺在我們面前的挑戰。嗯，我們想成為一個可靠的夥伴。
我們確實把我們做的事看作一個平台、一項服務世界的工具。我們意識到世界各地的人會非常不同地使用它。我們想給我們的系統加上足夠的約束，以避免災難性風險，但我們真的想尊重你們所有人的主權，尊重你們會以非常不同的方式使用它——我們個人可能並不總是喜歡那樣。
但別人用電做的有些事我也不喜歡，我仍然認為每個人都應該用上電。然後我還要說，我們想讓整個全球經濟都成功。我們不想成為唯一一家公司，我們不想吸走所有價值。我們不認為那對全球穩定有利，也不認為那符合人們需要蓬勃發展、需要繼續處於中心位置的方式。
我們要讓世界上每一個創業者、每一個政府、每一家大公司都能用這項技術蓬勃發展。嗯，最後我要說的一點，我認為它把我們和某些其他公司區分開來：我們非常堅定、也非常自豪地站在「人類這一邊」。
我們想為人類打造工具，我們想讓人們的生活更好。嗯，我們認為人必須處於經濟、社會和全球決策的中心，未來應該由人主導，而不是由 AI 主導。
主持人：所以看起來，創業精神應該真的是這一切的火種，對吧？你們是它的引火物嗎？我的意思是，也許跟我說說創業精神和 OpenAI 是怎麼一起運作的。
山姆·奧特曼：在 OpenAI 之前，我經營一家創業加速器。我一直對創業感興趣——不是一直，但自從我上大學之後，我一直對創業感興趣。
然後，在擁有這個不可思議的「前排座位」之後，我真正相信了：創業精神也許是整個資本主義裡最重要的新生力量。嗯，我愛上了它。看著新公司能做什麼，看著過去 20 年左右科技行業裡真正重要的新想法有多大比例來自初創企業而不是大公司。
在其他行業看到這些之後，我是創業精神的堅定信徒。我還覺得，你知道，我和世界各地很多人聊過，他們寧願經營一家很棒的生活方式型小生意，也不願意去當公司裡的一顆螺絲釘。我覺得那也很好。我覺得我們就應該支援這樣。
我早期對 AI 感到興奮的一件事是——當然 AI 會改造大公司，當然 AI 會改造政府。但 AI 能為創業者、為那些想把一個想法快速帶到世界上的人做的事，真的是相當驚人的。
當我經營創業加速器的時候，它持續 3 個月。那份持續 3 個月的工作——（主持人插話：你只做了 3 個月）——我們期望一家初創公司在 3 個月裡完成的工作，現在用 Codex 大概 17 分鐘就能做完。這真的太驚人了。世界還沒有完全跟上這意味著什麼——不僅是從由此創造的經濟價值來看，還有人們測試想法、建構東西、獲得客戶反饋的速度。我們所有人都會得到好得多的東西。
主持人：你剛才用了一個詞，我想稍微展開一下：「沒得商量」（non-negotiable）。你能不能幫大家理解你是什麼意思，以及這對今天在座的各位部長級夥伴意味著什麼？
山姆·奧特曼：再說一次，我有偏見，我在兜售自己的觀點。請原諒我這個類比。我認為說「我們國家不要 AI」，和 100 多年前說「我們國家不要電」相比，會是個差不多糟糕的主意。
我覺得這件事就處在這個量級。
這是每一個人、每一個企業、乃至整個社會機器，要交付你們公民理應要求的生活質量所必需的東西。
現在，電也帶來了一些複雜問題，我們花了一點時間才弄清楚怎麼讓它變安全，但作為一個社會，我們相當快地取得了進展，讓它總體上相當安全——儘管它能做很多壞事。
到現在，我們幾乎不再想電的事了，你知道，我們打開這些燈，就期望它們能亮。你知道，如果停電了，我不得不大喊大叫，因為麥克風不工作了，我會很煩。我就不一一舉例了。
我看到桌上全是手機。現在沒有電，社會很難正常運轉。但我們不怎麼想它。我們想的是：晚上有燈，太好了；我們能在房間裡聽到這些人說話，不用他們大喊，很好；我們的手機能為我們做這些神奇的事。我們在乎我們的手機。
我們不太會去想為手機發電而生產出來的電。我覺得 AI 也會發生同樣的事。
我的預測是，十年後我們不會像現在這樣頻繁地談論 AI，因為我們會默認它無處不在。
你知道，今天長大的小孩永遠不會比 AI 更聰明，但他或她也永遠不會理解一個「他們接觸的每一個產品和服務都不真正智能、不真正強大、不真正有用」的世界是什麼樣。因為我們會太習慣這一切，我們不會去想 AI。我們只會說：「是啊，我希望我的產品好用。」
你知道，如果我有個想法，我希望馬上就能做出來；我希望這個軟體能立刻為我建立出來。嗯，如果我得了病，我期望很快有人發現治癒方法。
所以我認為各國需要擁抱這件事。再說一次，做這件事有很多方式。人們會制定不同的規則，人們會決定他們想「建設」還是「租用」，但我認為每個人都會需要這種新的大宗商品。
主持人：如果我們往前看 5 年，再一起回到北卡羅來納，你認為什麼會拖住我們？以你的看法？
山姆·奧特曼：顯然一路上有些挑戰我們必須處理好。會有一些具體的問題。比如，我相信網路安全是你們很多人最關心的問題之一。
我們和這個房間裡許多國家的政府合作，和北卡羅來納州合作，和大大小小的公司合作。我認為我們面前有一個巨大的挑戰，不能迴避。我認為除非人們非常緊迫地行動起來，否則網路安全上有些事會出大問題。
未來 5 年還會有其他挑戰。人們會談到生物安全，以及我們將面臨的種種事情，還會有更大的挑戰接踵而至。
我認為如果我們不能成功駕馭這些，社會將無法以人們應得的速度和程度採納 AI。所以，能否成功駕馭擺在我們面前的風險和負面因素，是可能出大問題的事，我認為它可能讓這項技術倒退，倒退很多。=
另一件可能出錯的事是權力過度集中。=AI 應該在很多方面成為世界上一股均等化的力量。
談到了對每個人可用的教育能力進行「重設」意味著什麼，你也能看到 AI 被集中起來的圖景——因為有些人早早投資、有些人沒有，然後出現糟糕的不平等。
所以，我認為如果我們沒能讓 AI 變得充裕，它最終就會變成被激烈爭奪的東西，富人花大錢去擁有它。那會是個糟糕的結果。
所以我認為我們需要讓它變得充裕，這樣我們才能得到「把所有人托舉起來」的好處，而不會出現比現在糟糕得多的不平等。
主持人：對。就像你說的，如果全世界最聰明的人學會了你的語言，都同意搬到你的國家，做任何你想讓他們做的事——那一定是最不可思議的事。你認為，既然你會有說所有這些語言的最聰明的人，他們能不能想個辦法——你認為隨著時間推移，能不能用同樣的算力交付，但成本更低、用電更少——我的意思是，難道這不就是那種……（山姆·奧特曼插話：絕對會。）……會自然而然地、自己就把這件事民主化的事情嗎？
山姆·奧特曼：它仍然需要巨大的投資，但沒錯，我們會繼續讓事情大幅變得更高效。我們會想辦法造出更多、更好的晶片，會想辦法做出更聰明的演算法。所有這些都會發生。但要給這個需求的規模放上一些數字——再說一次，這些數字不在我手邊，我不會說得完全精準，嗯，請原諒我的估算。
2020 年初，世界上「token 用量冠軍」是 OpenAI 的一名員工，每月大約用 10 萬 token。嗯，到 2026 年年中，據我所知「token 用量冠軍」——可能 OpenAI 之外還有人用得更凶——每月用量是數千億 token。
所以，你看，6 年半里是幾百萬倍的增長。而地球上普通人的用量，則從實際上為零，變成每月 10 萬 token——那是全球人均水平。如果我們只是天真地把這個往前推，我覺得這是合理的做法。
而且我討厭在這裡用 token 當單位，這是個很蠢的單位，沒人該在意，但就把它當作「智能量」的簡寫吧——那麼在又一個 6 年半之後，人均 token 用量會上升到，我們向下取整，每月 1000 億 token。而世界上用得最多的人，會用上，你知道，每月 100 兆或 1 萬兆 token……不，我沒說錯，每月 100 兆 token，每月 100 萬兆（100 quadrillion）token。
即使在效率上有巨大提升，我們也需要建設多得多的基礎設施——除非我們想讓 AI 成為價格高昂的商品，而那是我們不想要的。我們想讓它充裕，想讓它便宜，想讓人們能隨意用它做任何他們需要的事。
主持人：所以，那就是驅動力。如果我們全球能建得足夠多，那麼智能就會被廣泛分佈，在世界各地更民主化。世界會受教育——嗯，他們會有受教育的途徑。是這樣的嗎？
山姆·奧特曼：絕對是這樣。回到電的類比，嗯，有一張很驚人的圖，講的是「夜裡擁有一小時燈光」要花多少錢。
有一個最早能找到的資料點：在某個時代，平均要花 5 小時的勞動、按當時的工資來算，才能付得起夜晚 1 小時的燈光。電來了之後，價格下降了；我們想辦法生產更多電，於是有了供需變化曲線，又降了一次；我們想出了高效得多的燈泡，從白熾燈到 LED；還有一大堆其他事情發生。現在，夜裡 1 小時的燈光，人們在成本上根本不會去想。我甚至不知道那個數字是多少，但在座有人算得出來。你知道，讓一個 5 瓦燈泡亮一小時，非常非常便宜。
如果那一切沒有發生——如果所有這些事都必鬚髮生而我們沒做到：大量的發電、效率上的巨大創新、所有這些——如果沒發生，那麼富人夜裡能有燈，他們能學更多東西，他們有複利效應，能學更多，而窮人沒有。
所以，我覺得能源變得充裕、夜晚的燈光變得相對驚人地便宜，是件非常好的事。嗯，如果同樣的事發生在 AI 身上，地球上任何人——無論貧富——都能用 AI 獲得他們需要的充裕服務，表達他們的想法，創辦他們的企業，做任何其他事。
而我們也實現了我們的使命：讓 AI 便宜到、聰明到人們看待它就像看待夜晚 1 小時燈光的成本那樣——我覺得那會非常美妙，然後你談到的這種教育的巨大重設和民主化就會發生。
主持人：那麼，你知道，外面確實有擔心一切的末日論者，但我們知道，如果你回顧工業革命，就像你說的，事情似乎總能有好結果。你從根本上對你的產品將給世界帶來的影響、以及它將如何服務世界，是樂觀的嗎？
山姆·奧特曼：我覺得事情往往會變好的部分原因，是人們會擔心、會焦慮，他們會看著負面因素，努力去解決它們，努力學會如何避免事故。
所以，如果我們回到一個早期的例子——甚至比電更早的技術：火。火對人類進化來說不可思議，它讓我們能做飯、晚上給房子取暖，等等。但它也有幾次燒掉了整座城市。
人們真的很擔心，因為我們不想讓城市被燒掉，於是我們想出了消防安全。通過大量人類的聰明才智，通過大量好的政策，當然也通過從一些非常糟糕的事故中學習，我們想辦法讓它變得更安全。
現在，如果我們只是說：「是啊，有些城市會燒掉。無所謂，我們還有別的問題要解決。」
我們很可能就不會想出那些辦法，結果也不會這麼好。
所以，我覺得擔心是有道理的。擔心是我們預判問題的方式，是我們從政策和技術的角度想辦法應對問題的方式。但我對能夠減輕這項技術的負面影響感到樂觀。
如果你看看已經發生的事情——你知道，如果你看看 5 年前末日論者是怎麼說的：關於我們能不能把 AI 做成這個水平、這種接近人類、有時超越人類能力的高度，同時還被廣泛認為是安全可靠的——不是完美，已經有過事故，將來當然還會有事故——我覺得當時大多數人不會想到事情會像到目前為止這樣順利。
而且我相信人類的聰明才智，相信人類解決非常困難、非常複雜問題的能力，我覺得我們會繼續這樣做。而且我認為它的經濟價值和個人價值如此巨大。
我今天早上剛見了一個人，他告訴我——再說一次，我相信你們都聽過類似的故事——說沒有 ChatGPT 他早就死了。嗯，他得了一種非常棘手的病，得到了醫生沒能給出的診斷。我們不應該把這種東西拿走。
就像我們需要想辦法讓技術變得安全，這樣人們才能擁有更多這樣的東西。(智能紀元AGI)