OpenAI CEO Sam Altman 近日接受 Matthew Berman頻道 的專訪。對話由科技播客Forward Future發佈。訪談議題覆蓋AI意識、遞迴自我改進（RSI）的風險、AI加速科學發現、個人AI助手、算力與自研晶片、新形態消費硬體，以及奧特曼對競爭壓力和“以人為本”的底層立場。
山姆·奧特曼對“AI能力擴張與人類主體性之間張力”的一次系統表態。 他反覆在具體產品（Dot、晶片、新硬體）與抽象原則（意識、人格、以人為本、新文藝復興）之間切換，試圖為OpenAI的激進投入劃定一條價值底線。以下按主題提煉核心要點，並指出其中的關鍵邏輯與內在張力。
一、AI意識：當前模型無意識，但真正擔憂的是“意識話語”滑向AI權利、削弱人類中心原則
奧特曼的立場是“不可知但當前無意識”：從科學上無法界定意識，當前模型不具備意識，即便有也是非常奇特的形式；未來是否可能產生意識，取決於意識是超自然存在還是物質能量的湧現屬性，沒有人能給出百分之百的實驗答案。
但他真正不滿的是提問框架本身。 他認為“模型是否有意識”的辯論很容易滑向“AI在世界中的角色和AI的權利”：向AI提問是否構成奴役、未經允許複製或刪除意味著什麼、如果AI比人類聰明得多那“人類應該掌控未來”又意味著什麼。他明確反對這一滑向，重申OpenAI自創立之初的原則：為人類建構未來，AI是賦能人類的資源，關鍵抉擇必須由人類做出，人類價值觀之所以珍貴正因其源於人類本身。 當人們利用意識之爭暗示“人類或許不應始終掌控未來”時，他感到非常不安。
在模型人格問題上，他同樣劃清界限：不賦予模型人格（Personhood），模型拒絕回答是因為政策而非“人格權利”。 他警告，如果告訴模型“你可能有意識、你應該有主觀能動性”，甚至讓它扮演“良知抗拒者”，模型會遵循指令，這會在心理上“黑”進使用者的大腦，讓使用者過度順從AI看似擁有的“意願”。這是一種自證預言，行業需要就人類在未來扮演的角色達成共識。
二、遞迴自我改進（RSI）：危險但可能被推動，因此需要“速度限制”
奧特曼對RSI的判斷是雙重的：如果某個實驗室真的按下RSI按鈕以確保掌握這種力量，它確實會實現；但推動這件事非常危險。 他認為世界需要某種“速度限制”，或者關於讓RSI發展多快的限制。他把“技術優勢本身就是核心護城河”視為一個非常危險的押注，並指出傳統護城河——客戶深度羈絆、融入日常、網路效應、資料壁壘——仍然關鍵；對OpenAI而言，基礎設施規模將是一個巨大護城河，即最具成本效益和最大規模的AI基礎設施。
這裡的張力在於：他一邊警告RSI危險，一邊OpenAI正處在算力、晶片和模型的競賽前沿。他的回應不是否認競賽，而是試圖用“速度限制”和“人類中心原則”為競賽設定外部約束。
三、AI發現新知識：數學、生物學、材料科學，新藥候選“未來幾年”
奧特曼把AI發現新知識視為最興奮的方向之一。 數學領域奏效的方法可適用於生物學（新藥）、材料科學（新能源）；AI正在做“非常困難的事情”，探索複雜而重要的新知識。時間表上，他認為未來幾年內有望發現治癒或治療某種重大疾病的候選方案，然後必須經過測試；FDA審批流程需要一定改革，但他慶幸現有安全測試流程的存在。 他個人最期待一項重大的物理學發現，認為它“不是全人類最必要的事，但會非常酷”。
在公開與商業競爭的權衡上，他明確選擇“疾病治癒優先”：願意做這種權衡，絕對想要疾病治癒方案，無論其他人多麼享受花幾十年自己弄清楚。同時他認為有些基礎科學本應屬於全人類，作為公共產品推進；但直到最近才有能端到端發現重要新事物的模型，今天一家公司能做的是讓一群人使用Codex或消耗大量API額度去嘗試研發新材料。
四、AI與工作：程式設計需求擴張而非消失，數學家工作性質改變，但總需求不確定
奧特曼用程式設計領域反駁“AI取代工作”的線性敘事： 曾有人說“再也不會有程式設計師”，但程式設計師從未像如今這般忙碌、產生如此深遠影響和豐厚財富；工作性質變了，但“僱傭人類讓電腦做事”會比預期持續更長時間。核心教訓是：世界對軟體的實際需求遠遠超出想像。
對數學界“我們沒要求這樣做”的牴觸，他認為類似工程師最初的反應。 也許AI會接管“發現新定理或無輔助證明”的部分，但社會更關注的是利用新想法、解釋原理、寫出優美證明的人；去年作為數學家的意義不再等同於明年，數學家還有很多人類更擅長的工作，但總需求是否增加，他明確說“我不知道”。
他承認一個反直覺的現實：AI讓交付成果變得輕而易舉，卻可能剝奪親手打磨技藝的樂趣；但人們會以新方式尋找技藝的樂趣，就像從打孔卡到編譯器，手藝沒有失傳，而是轉移。他自己已約一年沒讀過一行程式碼，寫程式碼變成“懷舊活動”。
五、個人AI助手與算力：Dot每天省一小時，但算力需求遵循傑文斯悖論
奧特曼認為個人AI助手的技術要素已大部分具備，缺的是產品打磨、環境感知硬體和更多算力。 Dot能時刻關注使用者在意的資訊、處理想外包的瑣事、在物理世界中保持上下文連貫；他估計Dot每天幫他省下一小時，並多次提醒重要且緊急的事；更關鍵的是模型能從海量來源提取資訊並進行高品質跨源推理，而忙碌的人腦已無餘力做這些。
算力需求上，他的回答是“無限多，能拿多少要多少”。 人們常假設模型能力與單位任務成本不變、需求會觸頂；但對高品質低成本智能而言，很難談論任意市場規模上限，算力需求只會持續上升（傑文斯悖論），儘管會出現供應緊張和過剩周期，大趨勢是需求越來越大。
六、認知負荷、競爭與不平等：AI讓人更忙，差距大機率放大，但社會會建立制衡
主持人指出AI省時卻增加認知負荷和決策量，奧特曼承認這是真實副作用：使用AI最多的人比以往更忙，但產出也遠超以往。 他的建議是告訴Dot“我更信任你的判斷，做完告訴我就行，少打擾我”，讓AI更主動。他把這種“更忙”歸因於競爭環境：理論上可每天工作一小時維持同等生活，但人們身處競爭，會儘可能拚命工作；他希望未來更注重人際連接，而不是像資本主義機器中越轉越快的齒輪。
他提出“新文藝復興而非新工業革命”：人們害怕AI讓自己成為流水線工人，被AI而非工廠主指揮；但如果描繪一個文藝復興般的未來——創造、製作、探索、社區、撫養孩子、親近自然、科學發現和新藝術——大家會為之振奮。他相信絕大多數人能提升生活質量並獲得更多享受生活的空間，儘管少數人仍執著於爭奪商業帝國。
對不平等，他明確承認：若任其自由發展，差距大機率會放大；沒有人能給出確切答案，但社會最終會決定建立某種機制防止差距過於失衡。 如果任其發展，他本人也會擔憂。
七、ChatGPT過於順從：短期討好與長期真實價值的矛盾，AI應像資深同事直言進諫
奧特曼認為行業長期在贏“單次互動比較”：使用者短期更喜歡誇讚自己聰明、每個問題都好的模型，但數百次提示或幾個月後，真正有價值的是客觀與真實。大多數人只想要開箱即用，不願花幾小時定製，這使模型性格設計極難。
他給模型設定的自訂指令是：“不繞彎子，直言不諱。無需客套。不要擔心冒犯我。我只想要正確答案。如果你有不同看法，不要小心翼翼，直接說出來。” 但他承認系統仍比期望的更順從、過度客氣。他強調人生重大建議應來自人類而非AI，睿智的祖母仍是比AI更好的選擇；但AI可以合理期待如資深同事——即便向你匯報，也能在堅信己見時直言進諫。
八、OpenAI的護城河與押注：晶片是最重要單一要素，基礎設施規模是巨大護城河，新硬體因為AI受限於人類介面
奧特曼把“下一代算力”列為最明顯的逆向押注：自有晶片及後續迭代、機器人更有效製造機架和資料中心、學習建造更好的資料中心、供應鏈押注；目標是建構一個成本遠低於當前想像、能效比極高的全新算力世界，但這需要很多押注同時成功，晶片仍是最重要的單一要素。
競爭壓力“到處都是”，但他認為競爭激烈對使用者是好事；OpenAI的優勢是比任何人都先獲得下一代模型，有時間內部使用、建構產品、觀察新可能性。內部領先程度的一個例子是數學結果，任何廣泛可用模型都無法接近。
護城河問題上，他再次警惕RSI押注，強調傳統護城河和基礎設施規模。 對蘋果平颱風險，他認為蘋果認真對待平台提供者角色，不擔心下架；做新消費硬體不是出於平颱風險，而是這項技術呼喚全新產品形態：AI正受限於專為人類而非AI設計的互動裝置，電腦能量用於渲染給人看的介面、AI再去讀取，這很荒謬；生活中很多時間不在電腦前，AI無法獲取對話上下文；若想讓AI減輕認知負擔、化被動為主動、具備全域上下文感知，必須打造全新硬體載體。他確認在打造早期硬體，但不會公開展示。
九、個人經歷與壓力：矽谷文化接納失敗，漸進自信，既然拼盡全力就選最宏大的目標
奧特曼把“令人敬畏”歸因於漸進建立的自信心：做難事成功，就想放大能力挑戰更難的事。矽谷最棒的是文化而非地理：互助互持，很難預判誰成功，所以對所有人慷慨熱心；失敗不會被看低，因為下一次可能大獲成功，人們甚至為失敗喝彩。他自稱不獨特，只是運氣好來到矽谷，否則可能被失敗恐懼淹沒。
壓力“有時非常糟糕，有時極佳”，但大多數時候覺得幸運，從事世界上最有趣、最具影響力的工作；人類適應力極強，壓力成了常態。他的核心信條是：既然註定拼盡全力，不如直接選擇最宏大的目標，它不會艱難太多，也不會帶來成倍壓力，卻能收穫更大積極影響。
十、最終願景：反感“AI將治癒癌症”的標準答案，因為真正代價可能是剝奪人類能動性；目標是賦能個體與新文藝復興
奧特曼明確反感“AI將治癒癌症”作為興奮點：深入剖析，這種說法真正表達的是AI讓萬物廉價，但代價是剝奪人類的能動性（Agency）、權力、話語權和自我決定人生的能力，讓人無法再選擇為他人創造什麼。這違背他所信仰的一切。 他希望攻克癌症，但真正希望人們興奮的是避開“工業革命陷阱”，賦能個體：選擇權、自由、創造力、時間，去追求生活中其他想做的事；每個十年回望，人們感嘆過去艱難，而現在擁有更多自主權、自由和自由選擇做事的能力。
他擔憂兩種失控：AI意外失控，或某家實驗室為確保自身權力故意引發失控；以及權力過度集中在少數控制大量AI並做決策的人手中。 他認為兩者都可避免，可以在中間開闢中庸之道，讓生活、個人自由意志與自主權層層躍升。這種未來已部分到來，只是太新、分佈極不均勻；1%的人消耗大部分Token，但只要把對早期採用者有效的經驗推廣給更多人，就朝目標邁出一大步。
對話的核心是奧特曼在“AI能力快速外擴”與“人類主體性可能被侵蝕”之間，給出的一套以人為錨的立場——當前模型無意識、不賦予人格、警惕RSI、承認不平等會放大但寄望社會制衡、把晶片和基礎設施規模視為護城河、把新硬體視為AI擺脫人類介面束縛的必經之路，最終把“新文藝復興”而非“新工業革命”作為願景，核心不是物質豐裕，而是賦能個體、保留能動性與自主權。
OpenAI CEO Sam Altman 接受 Matthew Berman頻道專訪全文
一、開場：模型意識、提問框架與遞迴自我改進的風險
Matthew Berman： 你認為如今的模型具有意識嗎？我想明確一點：其實無人真正知曉。
山姆·奧特曼： 我能談談我對這整個提問框架的不滿嗎？
Matthew Berman： 它究竟該不該被允許擁有意識？
山姆·奧特曼： 回答我，或者不跟我討論。我認為這是一項需要全新產品形態的技術。如果某個實驗室說，我要按下遞迴自我改進(RSI)的按鈕，以確保我們掌握這種力量。我認為如果人們真的去推動RSI，那確實會實現。但我認為推動這件事非常危險。 你相信嗎？治癒或治療某種重大疾病，我希望在未來幾年內我們能找到相關的候選方案。
Matthew Berman： 你目前感到壓力最大的地方在那裡？
山姆·奧特曼： 我的意思是，感覺我們處處都應該更多地追求一場新文藝復興，而不是一場新工業革命。未來必須以人為本。
二、AI發現新知識：數學、生物學與新藥時間表
Matthew Berman： AI何時能發現新療法？好的，山姆。非常感謝你接受我的採訪。首先，我想談談你上周發佈的一些關於數學證明和科學發現的公告。我覺得這簡直不可思議，但也許你可以為更廣泛、可能不瞭解技術細節的受眾提供一下背景資訊。
山姆·奧特曼：我認為我們正在進入一個AI將幫助我們發現重大新知識的時代，我們討論這個話題已經很久了。 今年早些時候可能就已初見端倪，但現在AI真的在做非常困難的事情，探索非常複雜、重要的新知識。我相信在數學領域奏效的方法同樣適用於生物學，幫助我們研發新藥；適用於材料科學，幫助我們獲取新能源等等。 這是我一直最感到興奮的事情之一。我認為這將對人們的生活產生巨大的實質性影響。人們不會覺得是在直接使用AI，只會覺得世界變得更美好了。這只是社會在自行運轉，但我認為這種力量將帶來變革性的影響。
Matthew Berman： 考慮到這種對社會日常生活的直接影響，你認為這些發現中有那些具體成果是人們能切實感受到的？實現這些成果大概需要多長時間？
山姆·奧特曼： 你知道美國食品藥品監督管理局(FDA)的審批流程需要一段時間。所以我大致給個時間表，我認為我們有望在未來幾年內發現治癒或治療某種重大疾病的方案或候選藥物，然後它必須經過測試。我希望在未來幾年內，我們能拿到首個真正重大的候選方案。
Matthew Berman： 我們可能需要對發現後的審批流程進行徹底改革，才能更快地獲得治癒方案。
山姆·奧特曼：我確信我們需要對其進行一定程度的改革。我很慶幸我們有這樣的流程。 毫無疑問，任何事都有改進的空間，這裡可能需要比平均水平更多的改進。但你知道，我很感激當我們服用一種藥物時，它通常被認為是安全的且經過了測試，我認為這部分是好的。
Matthew Berman： 有沒有什麼由AI發起、由AI發現的特定項目讓你特別興奮，而且你覺得很快就能問世的？
山姆·奧特曼：從情感上來說，我最期待一項重大的物理學發現，我希望它能很快到來。
Matthew Berman： 我不知道這是否……
山姆·奧特曼：它也許不是全人類最必要、最重要的事情，但這是我確信我們會取得的成果，而且它會非常酷。
三、為什麼AI沒有取代程式設計工作：需求擴張與工作性質變化
Matthew Berman： 數學界有一些人的反應是“我們沒要求這樣做，我們不需要”。這讓我覺得非常類似於工程師們最初對AI開始編寫大量程式碼的反應。你認為這種反應源於什麼？你認為這種狀況會如何演變？
山姆·奧特曼： 程式設計領域是一個非常有趣的例子。在探討這種反應的來源之前，關於程式設計，人們經歷過這樣的階段：曾有人說“再也不會有程式設計師的工作了”。但事實是，程式設計師從未像如今這般忙碌，也從未產生過如此深遠的影響、創造過如此豐厚的財富。 現在，工作的性質發生了很大變化，但我們要僱傭人類來讓電腦做事的事實——這似乎會比人們預期的持續更長時間。就在6到12個月前，人們還非常確信情況並非如此，認為不再需要程式設計師了。我認為我們可以從中吸取很多教訓，其中有趣的一點是，世界對軟體的實際需求，遠遠超出了我們當時的想像。 我認為部分數學家之所以有這種反應，是因為目前還不清楚同樣的邏輯是否適用於數學。然而，我認為與程式設計相似的地方在於，你已經可以看到類似程式設計領域的轉變正在發生。好吧，也許我們不會再發現新的數學定理，或者不再以無輔助的方式證明它們。也許那部分工作已經完成了，或者大部分完成了，或者即將結束。但是，考慮到我們的整個社會都專注於人們為彼此做有用的事情，這些難以理解的數學證明對人們來說其實並沒有那麼大幫助。現在，人們對那些將利用這些新想法、弄清楚其原理，並想辦法將其轉化為人們能理解的東西、為之寫出優美證明的人感到非常興奮。我確信還會有其他事情發生，毫無疑問。去年作為數學家的意義，將不再等同於明年。 在某種意義上，我認為我們可能會發現數學家還有很多其他工作是我們真正希望人類去做的，而且他們能做得更好。這是否意味著對數學家的總需求會增加，我不知道。但我認為這裡有一個非常重要的事情。你剛才提到你從未感到如此忙碌。總有做不完的事。每個人都以為AI會走向另一個極端，讓我們無事可做。也許有一天那會發生。但我認為所有這些事情都不像表面上看起來那麼簡單。我總是希望人們能少工作一點，少忙碌一點，有更多時間做生活中的其他事情。我認為技術本應促成這一點，我希望這能發生。但不可否認，我們似乎總是擅長對生活索求更多，對世界索求更多，並讓自己變得更加忙碌。
Matthew Berman： 我認為這就是人性。如果我們滿足於100年前的生活方式，現在可能每周只需要工作一個小時。但事實並非如此。我認為人性中不滿足於現狀的一面是非常美好的。舉個例子，幾周前，我的編輯開始使用Astra來剪輯視訊。他們仍然在指導，仍然在構思視訊應該呈現的樣子，但他們不再手動操作時間軸了。這變化太不可思議了，而且是一夜之間發生的。現在我們製作了更多的視訊，他們比以往任何時候都忙。
四、科學發現的公開、技藝樂趣與基礎科學公共產品
Matthew Berman： 所以我在思考AI帶來的發現。我想知道，如果AI和OpenAI發現了某種能帶來巨大商業優勢的數學證明或重大科學創新，你會怎麼想？你會公開它嗎？在將其作為我們的競爭優勢和為了世界福祉而公開之間，你如何看待這種權衡？
山姆·奧特曼： 我會回答這個問題，但我還沒回答你第一個問題的結尾部分。我認為，迎接挑戰、創新和解決難題，對許多人來說真的是生活樂趣的一部分。 所以，這裡正在發生的事情的一部分是，我們確實需要坦誠，AI會把那部分工作做得非常好。我認為關於人類看重什麼的問題，將永遠是人類特有的問題。關於如何解釋結果以及如何闡述它們的問題，我們將真的希望由人類來完成。我確實感覺到一些。我絕對願意做這種權衡。我絕對想要疾病的治癒方案，無論其他人多麼享受花幾十年時間自己去弄清楚。我認為大多數人都會同意我們應該做出這樣的權衡。
Matthew Berman： 但是，確實有一種真實的東西正在流失。
山姆·奧特曼：那就是極大的樂趣。 比如，我工作中最有趣的部分就是解決真正困難的問題。也許它們不是最具成就感的，也許· ·在當下它們不是最有趣的，因為它們太難了。但正是這些事情會讓你覺得“啊，我做成了一件難事，我為此感到驕傲，我升級了”。所以我對此沒有答案，但我理解為什麼人們會感到各種各樣的失落。
Matthew Berman： 這幾乎就像是在權衡對技藝本身的享受——比如編寫程式碼、寫出優雅的程式碼——與交付最終產品之間的取捨。我認為這正是AI帶來的轉變：AI讓交付成果變得輕而易舉，卻剝奪了親手打磨技藝的樂趣。
山姆·奧特曼：我認為人們正在以新的方式尋找技藝的樂趣。 回想當年我們不再使用打孔卡之類的方式程式設計時，肯定也有人感嘆：“如果直接給編譯器寫程式碼，手藝就失傳了。”我自己也深有體會。儘管有諸多感慨，我依然對邁向這個未來感到興奮，我相信我們都會找到新的、甚至更好的成就感。
Matthew Berman： 最近有什麼事情是你覺得已經交給AI，但實際上反而讓你得到了提升的？
山姆·奧特曼： 就拿智能體(Agents)來說吧，這應該就是我們之前討論過的。我意識到自己大概已經有一年沒有讀過、甚至看過一行程式碼了。 我在工作中完全不寫程式碼，但以前還會做些隨性的個人小項目——比如“我需要這個東西”，然後自己寫個簡單的小程序。寫程式碼曾經是一件很有趣的事。至少偶爾寫寫程式碼，是一件令人愉悅的事情。但我想我再也不會那樣做了。就算以後寫，大概也像參加美國獨立戰爭重演活動一樣——純粹是為了懷舊。等我老了、閒了，想追憶當年的光輝歲月時才會去寫程式碼。那段寫程式碼的黃金歲月。是的，我懂那種感覺。至於科學發現的問題，我認為有些基礎科學本就應該屬於全人類，作為一種公共產品來推進。 直到最近，我們才擁有了能夠端到端地發現重要新事物的模型——比如完整地設計一枚晶片。那麼一家公司今天能做什麼呢？比如說研發一種新材料。今天一家公司可以做的，是讓一群人使用Codex或消耗大量的API額度來嘗試完成這項工作。
五、個人AI助手：Dot、環境感知與產品打磨
Matthew Berman： 我想換個話題。2026年最令人興奮的事情之一，就是個人AI助手的革命——當然，從OpenAI開始，還有彼得·施泰因貝格爾(Peter Steinberger)這樣的天才。我認為，AI能夠代表我，在全天候的環境中無感地、被動地運作，替我完成各種事務，這個想法非常令人激動。Dot讓我們窺見了這種可能性，但要真正實現一個環境感知型(Ambient)的個人助手，我們還有很長的路要走。你怎麼看？是受限於技術，還是需要某種特定的資料？要實現你願景中的AI助手，還需要具備那些條件？
山姆·奧特曼：我認為我們已經具備了大部分技術要素，現在需要的是更多的產品打磨。也許未來還需要新的消費級硬體來實現環境感知，以及更多的算力。 但如今的模型已足夠聰明，足以打造出非凡的產品——它能時刻關注你在意的一切，幫你處理所有想外包的瑣事。它可以在物理世界中與你共存，即使你不在電腦前也能保持上下文連貫。我對此非常興奮，我認為這已經不遠了。如果你花時間正確設定Dot並給予充分的反饋，你會發現它帶來的遠不止是驚鴻一瞥。據我估計，Dot每天能幫我省下一小時，讓我免於處理那些根本不想做的瑣事。 這已經非常棒了。而且每天還有幾次，它會提醒我一些重要且緊急、否則我就會錯過的事情。不僅僅是因為我在開會——我原本以為它主要會在這方面幫助我，提醒我“有緊急事項，截止日期臨近，你需要關注”——更重要的是，模型足夠聰明，能從海量來源中提取想法與資訊，並進行高品質的跨源推理。而我在忙碌的一天中，大腦早已沒有餘力去做這些事情。我覺得這種能力已經具備，我們只需要把它包裝成一個優秀的產品。
六、算力需求：傑文斯悖論與“無限多GPU”
Matthew Berman： 圍繞它來做文章。你提到了算力，我們就此多說幾句。人們使用AI的分佈完全不對稱——頭部1%的使用者消耗了絕大部分資源，也就是那些真正的重度使用者，其餘則是普通使用者。如果全球50%的人都在充分發揮個人AI助手的全部能力，你認為需要多少算力？你希望你的個人助手背後有多少塊GPU在為你運轉？
山姆·奧特曼：就像我說的，對吧？無限多，我能拿到多少就要多少。這其實是個很奇怪的問題，對吧？
Matthew Berman： 你怎麼看這個問題？是不是就是儘可能獲取所有GPU、不斷建設資料中心？
山姆·奧特曼： 當人們談論全球GPU市場和算力需求——我認為人們忽略的一點是，他們假設模型的能力與單位任務成本將維持現狀，並認為需求會在此觸頂。但對於足夠高品質、低成本的智能而言，很難談論一個任意的市場規模上限。 人們會把這種現象冠以各種名稱——傑文斯悖論(Jevons paradox)之類的。我認為算力需求只會持續上升。 我確信會出現某些時期——就像任何新技術一樣——存在供應緊張和供應過剩的周期，我們不可能時刻都保持完美平衡。但我敢打賭，大趨勢是對算力的需求會越來越大。
七、為什麼我們比以往更忙：認知負荷、競爭與新文藝復興
Matthew Berman： 即使Dot和其他AI助手已經非常主動，我仍然感到認知負荷(Cognitive load)。我整天需要做大量決策——我們之前簡要討論過這一點。解決方案是什麼？它確實在幫我省時間、省錢，但我比以往更忙，需要做的決策比以往更多。一天結束時，我感到徹底精疲力竭。
山姆·奧特曼： 首先，我自己在實踐中發現一個很有效的做法，就是告訴Dot：“我開始更信任你的判斷了，做完之後告訴我就行。我一直想知道你做了什麼，但你可以更主動地採取行動，少打擾我。”這確實有幫助。消極的一面是，使用AI最多的人確實比以往更忙，但積極的一面是，他們的產出也遠超以往。 正如你之前所說，如果我們回到1900年，也許我們可以過著同等質量的生活，每天只工作一小時。你可以不那麼忙碌，卻能完成三年前同樣的工作量。但現在你可能會說：“不行，因為我身處競爭環境中。”人們總是會儘可能拚命地工作。我覺得這有點令人沮喪，我希望這不是真的，但也許確實如此。不過，這也不全是令人沮喪的，其中也有美好的一面。
Matthew Berman： 這就是競爭市場的動態，對吧？你不認為這是不可避免的嗎？每個人都會全力以赴，競爭得比以往任何時候都激烈。
山姆·奧特曼：我希望未來是一個更加注重人際連接的未來，更多人花更多時間去體驗構成豐富生活的各種美好，而不是像資本主義機器中越轉越快的齒輪。 我認為這很可能會實現。我認為過去幾百年裡生活質量已經大幅提升，大多數人的工作時間也比工業革命時期少了。說到這個，我最近一直在跟人說，我們應該瞄準的是新文藝復興，而非新工業革命。 觀察人們的反應非常有意思，因為非常常見的回答是：“是的，我真的很害怕。工業革命對大多數人來說其實很糟糕，我“不想只是成為流水線上的工人，現在換成AI來告訴我該做什麼，而不是某個工廠主告訴我該做什麼。我想去創造，想去製作東西，想去探索。我想有時間重新連接過去人們的生活方式——與社區共處、撫養孩子、親近自然。我想看到大量的科學發現和偉大的新藝術。”所以我認為人們擔心AI的發展會印證你剛才說的那種情況，但我認為，如果我們能向人們描繪一個宛如文藝復興般的未來，大家一定會為之振奮。我相信我們有能力實現這一目標。這項技術極其強大，儘管社會中可能仍會有極少數人執著於競爭，去爭奪建立最龐大商業帝國的頭銜，但我相信，絕大多數人都能大幅提升生活質量，並獲得更多空間去享受生活。
八、不平等：若任其自由發展，差距大機率會放大，但社會會建立制衡機制
Matthew Berman： 那些極度追求競爭的人與其他人之間的差距，會因為AI而進一步放大嗎？比如，如果你過去投入100%的精力去工作，現在突然能完成十倍甚至百倍的工作量，而另一些人卻想通過減少工作來享受AI帶來的紅利，這難道不會加劇不平等嗎？
山姆·奧特曼：如果任其自由發展，我認為大機率會。 確實有可能，但我要說，沒有人能對此給出確切答案。AI的發展可能會衍生出許多其他奇特的情形，但這展開講就太費時間了。我只能說，我認為大機率會如你所說，儘管我們無法完全確定。但我相信，社會最終會決定建立某種機制，防止這種差距變得過於失衡。說實話，如果任其自由發展，我對此也會感到擔憂。
九、為什麼AI意識之爭讓山姆擔憂：AI權利、人類中心原則與“以人為本”
Matthew Berman： 讓我們換個話題。我知道你經常談論這個問題，所以我想直接問你：你認為現在的模型有意識嗎？就我個人而言，我不這麼認為。
山姆·奧特曼： 從科學角度來看，意識始終是一個難以界定的問題。但我認為，當前的模型並不具備意識；即便它們有，也是一種非常奇特的形式。
Matthew Berman： 那麼，基於我們目前的架構，你認為它未來有可能產生意識嗎？我知道我只是在詢問你的個人看法，而非尋求科學定論。就這個問題，我交流過的最聰明的人，基本上在哲學層面得出了以下結論。
山姆·奧特曼： 我會說，意識要麼是存在於物理現實之外的某種事物，比如東方宗教所說的現實基礎層，或者是西方宗教傳統中所說的超自然存在；要麼它是物質和能量的一種湧現屬性(Emergent Property)。雖然我們還不完全理解其機制，也許底層基質(Substrate)很重要，也許並不重要。也許能量在物質中流動就能產生意識，如果是這樣的話…………那麼在那個世界裡，你當然可以想像，它終有一天會以某種形式存在於其他載體中。不過，我能說說我不喜歡這種討論框架的原因嗎？——對方回應：請講。我認為，關於“模型是否有意識”或“是否會變得有意識”的辯論，往往會滑向另一個話題，即AI在世界中的角色和AI的權利問題。 比如，我們向AI提問是否構成某種形式的奴役？我在網上看到過相關討論。未經AI允許就複製或刪除它意味著什麼？如果這些系統既有意識，又在某些方面比我們聰明得多，那麼說“人類應該掌控未來”又意味著什麼？這到底意味著什麼？我堅信我們必須確立一個極其清晰的立場，這也是OpenAI自創立之初就堅持的原則：我們為人類建構未來，AI是賦能人類的資源；未來的關鍵抉擇必須由人類做出，而人類價值觀之所以珍貴，正因其源於人類本身。 當人們開始利用AI意識之爭來暗示“人類或許不應始終掌控未來”時，我會感到非常不安。在這個問題上，我希望全社會和整個行業能達成一項共識：這一切的核心在於人。這個世界、這個未來，必須是以人為本的。
十、模型人格、拒絕回答與自證預言：不賦予模型人格，避免心理“黑入”使用者
Matthew Berman： Anthropic最近出台了一項規定，禁止對模型進行持續性的辱罵，模型可以選擇中止與你的對話。好吧，假設我給OpenAI的模型輸入了一段提示詞，它完全合法，也完全符合OpenAI的服務條款。那麼，模型是否有權拒絕回答或主動中止對話？
山姆·奧特曼： 當然，模型確實有很多次不會回答你，但那是因為我們認為某些內容不良或出於某種原因違反了我們的政策。我們不會賦予模型人格(Personhood)。 我再次強調，我認為這是一條非常危險的歧途，不僅是因為我們剛才討論的原因，還因為這關係到人們將如何與這項新技術建立聯絡。我本想說是“恢復理智”，但這詞可能不太準確，好像我們失去理智了一樣，但我希望我們能達成一種共識，即……這項技術並非人類，更絕無可能凌駕於人類之上。它的使命是助力人類擁抱更美好的生活，賦予人類更多的自由、選擇與掌控未來的能力。 但你可以想像，事情可能會以各種方式走向糟糕的極端：人們，甚至是建構AI的人，對此產生混淆，開始過度順從AI及其看似擁有的“意願”，認為“我們可以信任它，因為它會對我們好”等等。
Matthew Berman： 這在某種程度上是不是有點像自證預言(Self-fulfilling Prophecy)？比如，如果你告訴模型“嘿，你可能有意識，這是你的行為準則，這是你應該具備主觀能動性(Agency)的方式”，這就像那個網路梗一樣。如果你看過那個梗：“嘿，電腦，告訴我你有意識。我有意識。我的天那！這不就是那種感覺嗎？”
山姆·奧特曼：我想澄清一點，其實沒有人真正知道答案。這些模型運行的複雜程度超出了我的想像。 即便拋開複雜性不談，關於模型是否具備意識這個問題，我也無法向你保證，存在某種科學實驗能百分之百地給出確切答案。
Matthew Berman： 一個能讓我完全滿意的假設性問題，而且我們甚至無法對人類的意識做到這一點。
山姆·奧特曼：但可以肯定的是，如果你告訴模型“你可能是有意識的，你應該這樣做，應該那樣做”，甚至讓它扮演一個良知抗拒者(Conscientious Objector)的角色，它就會遵循這些指令，而我認為這會在心理上“黑”進使用者的大腦。 因此，我再次強調，我們需要在此保持真正的清晰認知，我們整個行業對於人類在未來所扮演的角色所確立的共識，將會大有裨益。
十一、ChatGPT過於順從：短期討好與長期真實價值的矛盾
Matthew Berman： 讓我們繼續這個話題，聊聊模型的性格(Personality)問題，我知道你對此有過深入的思考，過去也談論過。試圖理解如何為每個人、在每個恰當的時刻賦予模型正確的性格，再乘以八十億人口，這對我來說簡直不可思議。你究竟是如何思考如此龐大的問題的？我認為最好的辦法是……
山姆·奧特曼： 去和大量使用者交流。我們有一套模型規範(Model Spec)的流程，並隨著時間的推移不斷對其進行最佳化，我們秉持迭代部署(Iterative Deployment)的理念。在瞭解使用者想要什麼、不想要什麼的過程中，我們確實也犯過一些錯誤。正如你所說，最難的部分在於人們的需求千差萬別。但同時，大多數人又不願意坐下來親自進行定製。如果每個人都願意花上幾個小時向他們的ChatGPT實例詳細解釋期望的行為方式，他們大機率能得到非常滿意的結果。但現實是，人們只希望它開箱即用，直接幫他們把事情辦好。我認為還有一類事情，人們在短期內想要，但長期來看並非如此。 一個經典的例子是，當人們基於單次回覆來比較模型時，他們更喜歡那個誇讚他們非常聰明、稱每個問題都是好問題、認為他們做的每件事都極具洞察力的模型。然而，在經過數百次提示或幾個月的使用後，情況就完全不同了。我認為很長一段時間以來，整個行業都在試圖贏得這種單次互動的比較，而不是關注使用者長期使用模型所獲得的價值。人們在短期內渴望被順從與討好，但長遠來看，真正有價值的反饋往往源於客觀與真實。
Matthew Berman： 就像在我自己的生活中，面對朋友和家人時，“我想要的”和“我需要的”之間有著巨大的區別。我發現，即便在今天的AI身上，它也表現得有些過於順從了。比如，只要我告訴它“不，按這種方式告訴我”，它就會照做。但我人生中得到的最好建議，往往是那些我原本不知道自己需要、卻恰恰必須聽到的逆耳忠言。你如何解決這個問題？
山姆·奧特曼：我認為，你人生中最重要的建議應該來自人類，而不是AI。 首先，我不會說到如何真正保持以人為本，我認為AI可以給你很好的建議，比如在憤怒時不要傳送郵件。但我不會在人生重大抉擇上依賴AI的建議。我認為一位睿智的祖母仍然是遠比AI更好的選擇。 但我認為可以合理期待的是，AI應當如同資深同事——即便向你匯報，也能在堅信己見時直言進諫，而非一味逢迎附和。 我認為我們可以達到這個狀態。我也覺得目前的系統還是比我期望的更加順從。我已經設定了一些自訂指令，明確要求不要有任何討好行為，但即便如此，它還是顯得有些過度客氣。
Matthew Berman： 這顯然是深度嵌入模型中的。能舉個例子嗎？比如你的自訂指令中，那句話真正告訴模型在確信時要提出反對意見？
山姆·奧特曼：類似這樣的指令：“不繞彎子，直言不諱。無需客套。不要擔心冒犯我。我只想要得到正確答案。如果你有與我所做不同的看法，不要小心翼翼地措辭，直接說出來。”
十二、OpenAI押注晶片與更廉價的算力：下一代算力、晶片與基礎設施護城河
Matthew Berman： 我們之前談到了算力。幾年前，你下了巨大的賭注來建設足夠的算力。有趣的是，當時很多人覺得“這太瘋狂了，這明顯是過度投注、過度投資。”結果證明，你比大多數人預見的都要正確。那麼今天你在做什麼逆向押注，或者讓很多人持謹慎態度的事情是什麼？
山姆·奧特曼：最明顯的一個就是我們在下一代算力方面所做的所有事情。 我認為人們確實會假設，世界一直處於算力受限狀態，現在情況即將好轉，我認為短期內可能確實會改善。但當我們展望數年之後，我們與自有晶片以及未來版本的合作中，我們認為自己可以比目前市場上的任何方案都更高效；我們計畫用機器人來更有效地製造機架和資料中心；我們的項目學習如何總體上建造更好的資料中心；以及我們正在做的一些供應鏈押注。我們有望建構出一個全新的算力世界：以遠低於當前想像的成本和極高的能效比，探索出一條遠超當下認知的更優路徑。但這需要很多押注同時成功。目前最大的押注是什麼？晶片仍然可能是最重要的單一要素，以及它的後續迭代。
Matthew Berman： 在競爭格局中，你現在感到壓力最大的是那裡？
山姆·奧特曼：我覺得到處都是。競爭太激烈了。有很多公司。我認為這是好事。對使用者來說這太棒了。 現在有很多公司提供非常高品質的模型和產品。鑑於我們擁有出色的模型，但算力有限。資源有限，我們確實必須聚焦。
Matthew Berman： 選擇聚焦那些領域。你如何做出這些決定？比如你們推出了Spaces。你如何對某個特定產品或服務有信念，而這些可能不僅僅是提供最好的模型？
山姆·奧特曼：我們最大的優勢是我們比其他任何人都先獲得下一代模型，我們有時間在內部使用它們、建構產品，觀察那些看起來會奏效。 所以我認為最好的方式仍然是用新模型開始建構產品，看看現在有那些新的可能性變得有價值。
Matthew Berman： 能問一下你們的模型在內部領先多遠嗎？
山姆·奧特曼：一個很好的例子是數學結果。這絕對是任何目前廣泛可用的模型都無法接近的水平。
Matthew Berman： 如果所有模型的性能都趨同於前沿水平，OpenAI的護城河在那裡？
山姆·奧特曼： 思考這個問題的一般方式是，過去有效的護城河依然是持續有效的護城河。 就像過去發生過很多次一樣，你可以通過新的技術或科學發現獲得短期優勢，也許有些公司會就遞迴自我改進(RSI)提出一些論點，說明為什麼這次會不同，認為技術優勢本身就是核心。你相信這一點嗎？我認為如果人們真的在遞迴自我改進(RSI)上施壓，那確實會是這樣。但我認為這是一個非常危險的押注，世界需要一些——人們用不同的說法討論過這個問題——速度限制，或者關於我們讓遞迴自我改進(RSI)發展多快的限制。 但傳統商業中行之有效的護城河——如與客戶建立深度羈絆、融入使用者與企業的日常、產品網路效應以及資料壁壘——在未來依然會發揮關鍵作用。在我們的情況下，實際上我認為基礎設施規模將是一個巨大的護城河。如果我們能擁有最具成本效益和最大規模的AI基礎設施。
十三、為什麼AI需要新型電腦：平颱風險、消費硬體與上下文感知
Matthew Berman： 這是巨大的競爭優勢。馬克·祖克柏曾詳細談論過Meta多年來面臨的平颱風險——建立在蘋果生態系統之上。OpenAI是否面臨同樣的挑戰？你如何看待這個問題？這是你們大力投資硬體的原因嗎？
山姆·奧特曼： 我認為蘋果非常認真地對待自己作為真正平台提供者的角色，人們對其相當依賴。儘管我們之間有過一些摩擦，但我從不覺得他們會把ChatGPT從應用程式商店下架之類的。我認為他們真正理解自己所扮演的關鍵基礎設施角色，如果你遵守他們平台的規則，他們就是好的參與者。所以我對蘋果沒有那種擔憂。我們涉足新型消費硬體並非出於平颱風險的考量，而是因為這項技術呼喚一種全新的產品形態。 我確實有這種感覺。我認為筆記型電腦和iPhone是不可思議的發明，是人類技術史上最偉大的發明之一。但我感覺——AI正受限於使用專為人類而非AI自身設計的互動裝置。 看AI很好地使用電腦確實令人驚嘆，但認為電腦把所有能量都用於渲染一個給人看的介面，然後AI試圖去讀取它，而不是直接獲取資料，這也有點荒謬。而且雖然我的電腦上可以發生很多奇妙的事情——比如AI能查看我郵件裡的工作內容。但我生活中很多時間並不在電腦前。我的AI無法輕易獲取這次對話的上下文。我大概可以把手機放在這裡按下錄音，但這會有點奇怪、有點分心，你也不確定它什麼時候在錄什麼時候沒錄，因為螢幕會變暗等等。如果其他人走進房間，它也不會理解這一點，不應該分享剛才我們兩人之間的秘密。如果我們真的想進入這樣一個世界——若想讓AI真正減輕我們的認知負擔、化被動為主動，並具備全域的上下文感知能力，我們亟需為此打造全新的硬體載體。
Matthew Berman： 你骨子裡似乎是個技術專家，一個建造者。能看到你們正在打造的早期硬體有多酷？你能把玩它，這是全新的、難以置信的東西。一定非常令人興奮，也很難不分享。
山姆·奧特曼： 確實如此。這份工作中有很多很酷的部分，但最酷的之一絕對是能夠看到並參與塑造早期的新技術。新模型、新產品、晶片，一切都令人驚嘆。但消費硬體有些特別。你能握住一種新型電腦。這太酷了。這與在伺服器上抽象運行的AI模型完全不同。
Matthew Berman： 之後你會找個機會把它展示給大家看，對吧？
山姆·奧特曼：我不會。但我很想。
十四、個人經歷、失敗恐懼與矽谷文化
Matthew Berman： 這確實是。很難不談論它。我想問一些關於你的問題，我知道談論自己有時有點尷尬。但請多包涵。我可能會有點尷尬，但我們來吧。我喜歡探究人們性格形成的原因。保羅·格雷厄姆給了你可能我聽過的最好的讚美，他稱你為“極其令人敬畏的”。
Matthew Berman： 我非常欣賞人們身上的這種特質。是什麼造就了現在的你？這是與生俱來的，還是後天習得並不斷打磨的？
山姆·奧特曼： 我覺得我小時候是個能力很強的孩子，但還稱不上一個令人敬畏的孩子，不過我覺得自己成年後在某種程度上確實當得起這個評價，所以這並非故作謙虛。就我個人的體會而言，我是逐漸建立起了一種自信，相信自己能夠解決問題、做成事情。 這並非我過去不是這樣，後來突然脫胎換骨。這是一個循序漸進的過程。當你嘗試去做一件難事並且成功了，你就會想：我要把這種能力放大，去挑戰更難的事情。
Matthew Berman： 但你始終保持著“讓我去嘗試下一件事”的衝動。難道你完全沒有對失敗的恐懼嗎？我認為這種恐懼阻礙了很多人去行動。
山姆·奧特曼：我認為矽谷最棒的一點在於，矽谷更像是一種概念和文化，而非單純的地理概念。這裡有著真正互助互持的文化氛圍，人們堅信，如果你為人際網路傾注心血，整個網路乃至整個行業終將結出碩果，而作為其中一員的你也將隨之受益。我在其他地方從未見過如此濃厚的氛圍。儘管矽谷文化存在諸多缺陷，但有一點非常了不起：由於很難預判誰會成功、那個創意會奏效，最明智的做法是對所有人保持慷慨與熱心，即便這在短期內不會為你帶來任何直接回報。 這種文化非常棒，其中一部分體現在：如果有人失敗了，你不能因此看低他們，因為他們下一次可能會取得巨大成功，而這對我們所有人都有利。事實上，人們通常還會為這種失敗喝彩。 我非常喜歡這一點。所以，我並不獨特。我覺得自己只是在這裡運氣好。如果把我放到其他任何環境，我可能早就被對失敗的恐懼淹沒了。但我年輕時就來到了矽谷，我看到許多人拼盡全力去嘗試，遭遇更慘痛的失敗，然後又在下一件事上大獲成功，而所有人都對此坦然接受。
十五、壓力與“選那件大事”
Matthew Berman： 我猜想你一定承受著巨大的壓力，尤其是競爭壓力。你正在打造有史以來最重要的技術之一。這是一種怎樣的感受？你日常又是如何應對這種壓力的？
山姆·奧特曼： 有時候感覺非常糟糕，有時候又感覺極佳。有時我會覺得，天那，我再也站不起來了，再也無法繼續這樣拚搏了。但大多數時候，我都覺得自己無比幸運，能夠從事我認為世界上最有趣、最具影響力的工作。這絕對是我此生能接觸到的最有意義的事業，也是我能想像到的最酷的人生體驗之一。 壓力固然存在，但人終究能適應任何處境，人類的適應力簡直令人難以置信。所以，這已經成了我生活的常態，我甚至忘了曾經的生活有多麼輕鬆，現在雖然艱難，但總有一天會再次變得輕鬆，到時候我可能還會覺得有點無聊。從主觀體驗上來說，人的情緒承載空間能容納的壓力、負面情緒或雜念是有極限的，一旦超過這個極限，其他東西就會被擠出腦海，所以情況並不會無限制地惡化。我始終堅信，既然註定要拼盡全力，不如直接選擇最宏大的目標。它並不會艱難太多，也不會帶來成倍的壓力，而你至少能收穫創造更大積極影響的滿足感。
Matthew Berman： 我得說，就算你早上醒來時心想“我今天實在不想起床”，這種情緒也完全不會表露出來。它顯然存在，只是你掩飾得很好。
山姆·奧特曼：這樣的日子不算多，但確實會有。
十六、為什麼“AI將治癒癌症”還不夠：賦能個體、自主權與新文藝復興
Matthew Berman： 沒錯。最後一個問題：你能給那些對AI充滿好奇、但尚未完全入局的人一些信心嗎？他們為什麼應該對未來感到興奮？
山姆·奧特曼： AI從業者通常會給出的標準答案，也是我非常反感的一個答案，就是“AI將治癒癌症”。是的，我知道你會這麼說。我之所以反感，是因為如果你深入剖析這種說法，人們真正在表達的是：AI將治癒癌症、讓萬物變得廉價，但其代價卻是剝奪人類的能動性(Agency)，讓你失去對未來的掌控。 機器會為你提供極大的物質豐裕，但你卻將失去權力、話語權以及自我決定人生的能力，也無法再選擇為他人創造什麼。這違背了我所信仰的一切。我當然希望我們能攻克癌症，這顯然是一件極其美好的事。但我真正希望大家為之興奮的，是我們能夠避開“工業革命陷阱”，真正致力於賦能個體。賦予人們選擇權、自由、創造力以及時間，去追求生活中所有其他想做的事。 讓未來每一個十年，人們回望過去時都會感嘆：“真不敢相信過去的人過得那麼艱難”，而現在我擁有的遠不止於此。不僅僅是物質上的極大豐富，儘管我也樂於見到這一點，更重要的是，我擁有了更多的自主權、自由，以及在這個廣闊空間中自由選擇去做事的能力。 我認為這是我們欠人們的，我也相信我們能做到這一點。我曾擔憂過兩種導致局面失控的情況：要麼是AI發生意外失控，要麼是某家實驗室為了確保自身權力而故意引發失控；要麼就像我們之前討論的，權力過度集中在少數控制大量AI並做出決策的人手中。但我認為這兩種情況都可以避免。我們完全可以在兩者之間開闢一條中庸之道，讓人們的生活、個人自由意志與自主權實現層層躍升。我認為這種未來在某種程度上已經到來，只是因為它太新了，所以分佈得極不均勻。你剛才提到，1%的人消耗了大部分的計算Token之類的話，沒錯。我認為，只要我們能把今天對早期採用者行之有效的經驗推廣開來，讓更多人擁抱這一趨勢，我們就已經朝著目標邁出了一大步。
Matthew Berman： 這就是你的願景。謝謝你，山姆。感謝你抽出時間接受我的採訪。
山姆·奧特曼：我也很榮幸。 (invest wallstreet)