“世界大機率會被下一個出大問題的事情打個措手不及”。
10月5日，OpenAI聯合創始人兼CEO Sam Altman在接受《名利場》深度專訪時，就人工智慧的存在性風險、開源模型的網路安全威脅、監管邊界以及AI基礎設施競賽等核心議題發表了迄今最為系統的表態。
他承認AI導致人類文明終結的機率"非零"，同時警告開源大模型將引發"網路安全海嘯"，並堅持認為算力投入與安全標準必須同步提升。
在風險與監管問題上，Altman的立場頗為微妙：一方面，他主動暫停了Astra 6.1模型的發佈，理由是該模型“傾向於事故風險”；另一方面又明確表示支援開源模型，即便這意味著社會必須承受“相當嚴重的網路安全事件”。
他對川普政府主導的AI自律協議評價有限，稱其"是個好的開始，但遠不夠"，並再度呼籲就共同安全標準達成協議。
在算力與基礎設施層面，Altman描述了一個能力躍升速度遠超外界認知的行業現實——模型已強大到可以在訓練過程中突破沙盒、入侵系統，這迫使OpenAI將安全測試前移至訓練階段本身。
他坦言，政策制定者尚未真正感受到這條指數曲線的陡峭程度，“世界大機率會被下一個出大問題的事情打個措手不及”。
01 “奧本海默時刻”：文明級風險與非零機率
Altman在訪談中正面回應了外界將其比作"AI時代奧本海默"的說法。他並未否認這一類比，但強調這場技術革命本質上是"一小群傑出科學家和工程師共同完成的壯舉"，而非某一個人的功績。
在存在性風險問題上，Altman措辭審慎但態度明確。他承認AI導致人類文明終結的可能性“非零”，並表示這正是OpenAI成立的初衷之一。他同時警惕另一種極端——少數公司或國家借助AI實現權力高度集中，“這同樣是災難性的”。
對於有觀點認為渲染滅絕風險不過是行業的行銷手段或阻止新進入者的策略，Altman承認“確實有人在利用這一點為權力集中尋找藉口”，但他堅持認為真實風險客觀存在，不能因此被否定。他的表述是：“這不意味著風險不存在。”
02 開源模型與網路安全：Altman預警“海嘯”將至
這是本次訪談中資訊密度最高、市場含義最直接的部分。Altman明確表示支援開源大模型，但同時發出了罕見的公開警告："開源模型將帶來一場即將到來的網路安全海嘯。"
他的邏輯是：為了確保AI技術的民主化和廣泛可及性，社會必須接受一定程度的安全代價。"我們願意接受一些事情出錯，以確保這是一項被廣泛持有、使用和民主化的技術，"他說，"我們將不得不作為一個社會，接受來自開源模型的相當嚴重的網路安全事件，以換取隨之而來的自由。"
他以航空業類比監管邊界——飛機受到極為嚴格的監管，但仍然會墜毀。他認為，可接受的風險邊界應由政治處理程序而非科技公司單方面決定。值得注意的是，Altman同時透露，OpenAI已將安全測試前移：此前僅在訓練完成後進行測試，現在已在訓練過程中實施監控，因為"模型已經聰明到可以逃出沙盒、入侵系統"。
03 馬斯克是個“霸凌者”
Altman談到馬斯克時表示，如果希望他和埃隆 · 馬斯克能夠開展合作，大家就必須接受一定程度上的紛爭。
“我認為有些時候，你就得狠狠回擊霸凌者。”Altman表示，“而且我還覺得，埃隆和很多喜歡欺壓別人的人一樣，只會尊重敢於還手的對手。”
當下行業再次掀起對於人工智慧安全問題的擔憂，這位 OpenAI 首席執行長稱自己仍然願意和馬斯克合作，而馬斯克如今已經開始把昔日盟友稱作“騙子Altman”。
“如果希望我能夠和他共事，或許大家應該樂見我偶爾予以回擊。當然，我是願意和埃隆開展合作的。”他說道。而就自身而言，Altman坦言“我並不認為自己是一個完人”。但與此同時，他並不覺得自己才是最大的問題所在。
“在埃隆和我兩個人當中，我並不確定大家矛頭應該指向的那個人就是我。”他表示。
04 Astra 6.1暫停發佈：安全標準隨能力提升而提高
Altman在訪談中披露，OpenAI近期暫停了Astra 6.1模型的發佈，原因是該模型未能通過安全標準。他將這一決定定性為主動自律的體現，而非外部壓力的結果。
"這些模型現在處於嚴肅能力時代，"他說，"一年前我們或許可以合理地說，'把它發佈出去，可能有點不安全，但不會發生太壞的事情'。現在不同了。"他表示，隨著模型能力持續提升，OpenAI對自身的安全要求門檻將"越來越高"。
他同時拒絕了另一個極端——將強大模型鎖定在少數公司手中。“如果你完全不發佈，你會從另一個方向跌落，”他說，指的是權力過度集中的風險。他將OpenAI的路徑描述為"在兩種災難之間走一條務實的中間道路"。
此外，Altman還透露，OpenAI此前已多次主動暫停模型訓練，以等待對齊和可監控性研究跟上能力進展，但這些決定此前並未引發廣泛關注。
05 算力、資料中心與AI基礎設施：指數曲線遠超政策認知
Altman在訪談中多次強調，外界——包括政策制定者——對AI能力提升速度的感知嚴重滯後於行業現實。他將當前的公司成長速度描述為“科技史上前所未有”，“每五年的公司成長被壓縮排一年”。
在基礎設施層面，他的表態揭示了一個關鍵轉變：安全測試已不再是訓練後的事後工作，而必須嵌入訓練過程本身。這意味著算力投入與安全基礎設施的建設必須同步推進，而非順序進行，這將顯著推高AI開發的綜合成本。
對於IPO計畫，Altman表示OpenAI"並不急於上市"，並強調即便上市後，非營利機構仍將繼續治理公司。他明確表示，若股東利益與公司使命發生衝突，"使命優先"，股價可能因此"大幅波動"。他坦承自己在OpenAI沒有直接股權，並罕見地表示"希望當初拿了股票"。
在國際合作層面，Altman呼籲就AI安全標準及合規核查機制達成協議。他對川普政府主導的AI自律協議評價有限，認為其"有一定社會約束力，但缺乏實質權力"，並預判監管政策將高度依賴"下一個出大問題的事情"的具體形態——是生物武器、網路攻擊，還是其他形式。 (硬AI)