•
奧特曼最新2.8萬字專訪回應一切：談GPT-5、Sora、董事會鬧劇和馬斯克紛爭
根據國外媒體報道，美國知名播客萊克斯·弗里德曼（Lex Friedman）近期再次邀請人工智能領域的領軍人物、OpenAI首席執行官山姆·奧特曼（Sam Altman ）進行專訪。這次對話，奧特曼不僅深入剖析了OpenAI董事會近期的變動，還暢談了首席科學家伊利亞·蘇茨凱弗（Ilya Sutskever）的未來動向、與埃隆·馬斯克（Elon Musk）之間的法律紛爭，以及備受矚目的文字轉視頻工具Sora、豪擲7兆美元的晶片計畫、即將推出的新一代大語言模型GPT-5，乃至通用人工智慧（AGI）的遠景規劃等。
劃重點
① 【OpenAI董事會風波】這段經歷讓奧特曼認識到，在追求通用人工智慧（AGI）的過程中，可能會遇到一系列爆炸性的事件，這些事件雖然令人不安，但也為未來的挑戰提供了寶貴的經驗和教訓。
② 【首席科學家蘇茨凱弗的未來動向】儘管他近期相對沉默，但奧特曼表示，蘇茨凱弗一直在深入思考並確保OpenAI在追求AGI的過程中做出正確的決策。
③ 【與伊隆馬斯克的法律紛爭】奧特曼表示不清楚馬斯克的真實動機，但他認為OpenAI的初衷是作為一個人工智慧研究實驗室，逐步探索和發展，OpenAI的使命是將強大的技術免費提供給大眾。
④ 【Sora和GPT-5】奧特曼對Sora的發展表示樂觀，認為它在理解和模擬三維世界方面取得了令人印象深刻的進步，但也提到了Sora的局限性。GPT-5作為新一代大語言模型，雖然未在專訪中詳細討論，但它預示著OpenAI在自然語言處理領域的持續進步。
⑤ 【通用人工智慧的遠景規劃】OpenAI的「開放」不僅僅是關於開源，而是關於將科技作為公共福利提供給人們。
⑥ 【ChatGPT記憶能力】未來的AI助理不僅可以記住用戶希望它記住的事情，還能從中吸取教訓，並在未來提醒用戶該怎麼做或要注意什麼。
⑦ 【7兆美元晶片專案】奧特曼否認自己發推文宣稱要籌資7兆美元，但他承認世界需要大量的算力支持，而能源供應、資料中心和供應鏈建設、製造足夠晶片都存在巨大挑戰。
⑧ 【沒興趣打造翻版Google】奧特曼對於打造比Google更好的搜尋引擎沒興趣，認為這是將AI大材小用。他希望將大語言模型與搜尋結合，從而找到自己的商業模式。他還稱自己討厭廣告。
⑨ 【AGI何時會出現】奧特曼預計，在2030年之前，或者可能比那更早，我們將擁有非常強大的AI系統。他稱，AGI不是終點，它更接近是一個起點。
以下為此專訪實錄全文：
萊克斯‧弗里德曼：請帶我們回顧下從2023年11月16日週四開始的OpenAI董事會風波，也許是11月17日週五。
奧特曼：那絕對是我一生中最痛苦的職業經歷，充滿了混亂、羞恥、沮喪以及其他一大堆負面的東西。不過，其中也不乏值得珍藏的美好時刻。我希望自己當時能夠保持冷靜，不被過度的腎上腺素沖昏頭腦，從而能夠停下來細細品味那些寶貴的經歷。
但當我看到那時發的推文時，感覺這就像自己的悼詞，記錄著人們在那個特殊時期對我的讚美和支持。看到這些推文，我深感欣慰，也感受到了身邊人的愛與關懷。真是太棒了！整個週末，儘管遭遇了一些不愉快的事情，但總體而言，我感受到的愛遠遠超過了恨。
儘管我不知道到底發生了什麼，也不知道將要發生什麼，這感覺真的很糟糕。確實有很多時候，我認為這將是人工智慧安全有史以來最糟糕的事情之一。但我也慶幸這一切發生得相對較早。我認為，在OpenAI成立和通用人工智慧（AGI）誕生的過程中，注定會有一系列瘋狂且具有爆炸性的事件發生。這些事件雖然令人不安，但也為我們提供了寶貴的經驗和教訓，為未來應對更多挑戰做好了準備。
萊克斯‧弗里德曼：但你自己有一種感覺，你會經歷某種權力鬥爭？
奧特曼：確實，通往通用人工智慧的道路可能會涉及多方面的權力鬥爭。我希望是這樣。
萊克斯‧弗里德曼：所以，你必須要經歷這些。正如您所言，我們需要深思熟慮如何建構董事會架構，如何有效組織，以及如何與合作夥伴溝通，力求在最大程度上減少權力鬥爭的發生。
奧特曼：是的。回首過去，那段經歷確實令人不悅，充滿了艱難與痛苦。然而，當我們重新投入工作時，繁忙和緊張的節奏讓我無暇過多沉湎於過去的情緒。在那之後的一個月，也許是45天裡，我彷彿處於一種遊離的狀態，每天都像是在漂泊，思緒並不清晰。那時的我，情緒異常低落，彷彿被陰影籠罩。
萊克斯‧弗里德曼：你對董事會審議過程的參與度和嚴謹性有了解嗎？你能談談在這種情況下涉及的人際關係動態嗎？是不是只是幾次對話，然後事態突然激化，然後就有人提出「為什麼我們不解僱山姆」之類的建議？
奧特曼：我認為董事會成員總體上都是出於好意的人，我相信在那種壓力環境下，人們感到時間緊迫或其他什麼，人們會做出不那麼明智的決定都可以理解。我認為OpenAI面臨的挑戰之一將是，我們需要有一個擅長在壓力下運作的董事會和團隊。
萊克斯‧弗里德曼：你認為董事會的權力過大了嗎？
奧特曼：我認為董事會應該有很大的權力，但我們確實看到的一件事是，在大多數公司架構中，董事會通常要對股東負責。有時人們擁有超級投票權或其他什麼。在這種情況下，我認為我們結構中的一個問題是，我們可能沒有充分考慮到非營利組織董事會實際上掌握著很大的權力，除非你有其他規定。他們並不真正向任何人負責，基本上只對自己負責。這在某些方面是好的，但我們真正希望的是OpenAI的董事會能夠對整個世界負責，儘管這在實踐中可能很難實現。
萊克斯‧弗里德曼：所以你們宣布要組成新的董事會。
奧特曼：是的。
萊克斯‧弗里德曼：我想一開始有一個新的、規模較小的董事會，現在有一個新的最終董事會嗎？
奧特曼：還不是最終的董事會。我們增加了一些人，還會增加更多。
萊克斯‧弗里德曼：在新的董事會中，有哪些是之前那個董事會可能存在的問題，現在已經解決了？
奧特曼：原董事會在一年的時間裡規模變小了。原本是九個人，後來減少到六個人，然後我們無法就新增成員達成一致。此外，我認為董事會也沒有太多經驗豐富的董事會成員，而OpenAI的許多新董事會成員在擔任董事會成員方面更有經驗。我認為這將有所幫助。
萊克斯‧弗里德曼：有人批評了新加入董事會的一些人。例如，我聽到了很多人批評拉里·薩默斯（Larry Summers）的加入。那麼選擇董事會成員的過程是怎麼樣的呢？涉及哪些因素？
奧特曼：選擇布雷特泰勒（Bret Taylor）和薩默斯為董事會成員是在那個非常緊張的周末做出的決定，而那個週末真是就像坐過山車一樣，給人一種大起大落的感覺。我們試圖就新的董事會成員達成一致，這些成員既要讓這裡的執行團隊感到滿意，也要得到原董事會成員的認可。
實際上，薩默斯是原董事會成員推薦的人選之一。至於布雷特，我想在那個瘋狂週末之前，我就提議過他，但他當時很忙，不想接受這份工作。之後，我們確實需要幫助，他才加入進來。我們也考慮了很多其他人選，但我覺得如果我回來的話，我需要更換新的董事會成員。我不認為我可以在同樣的人員配置下再次與原董事會合作，儘管後來我們決定讓亞當·德安吉洛（Adam D'Angelo）留下。但我們考慮了各種配置，最後決定想要組成一個三人的董事會，並需要短時間內找到兩位新的董事會成員。
所以那些決定確實是直接做出的，你必須在戰場上迅速做出決定。那時你沒有時間設計嚴格的流程。對於之後的新的董事會成員，以及我們也將要繼續增加的新成員，我們有一些認為對董事會來說重要的標準，我們希望這些人具備的不同專長。與招募一名高階主管不同，他只需要把一個角色做好，但對於董事會成員來說，他需要需要在治理和思考方面表現出全方位的能力。因此，布雷特說的一句話我很認同，那就是我們想要以成批的形式招募董事會成員，而不是一次一個地招募。我們正在考慮的是一群能夠帶來非營利組織專業知識、公司營運專業知識、良好的法律和治理專業知識的人，這是我們試圖優化的目標。
萊克斯‧弗里德曼：那麼，對於單一董事會成員來說，技術素養重要嗎？
奧特曼：不是每個董事會成員都需要這類素養，但確實有一些人需要。這也是董事會職責一部分。
萊克斯‧弗里德曼：關於OpenAI，人們可能不了解的有趣的一點是，我當然也不了解，那就是經營公司的所有細節。當人們想到董事會時，鑑於其中的戲劇化元素，他們可能首先會想到你。他們會想：如果你開發出AGI或你創造出一些極具影響力的產品，並且成功地將它們推向市場，你和董事會之間的對話會是什麼樣的？他們可能還會想：在那種情況下，應該有什麼樣的合適團隊來進行決策和討論？
奧特曼：我認為，董事會中確實需要一些技術專家。同時，你需要一些能夠思考「我們如何部署這項技術才能最大限度地造福人類？」的人，還需要一些持有不同觀點的人。我認為你我可能會犯的一個錯誤是，認為只有理解技術才是挑選董事會成員的重要標準，這當然是董事會應該討論的一部分，但關於這項技術將如何影響社會和人們的生活，你也也同樣希望能夠在董事會中得到體現。
萊克斯‧弗里德曼：你在考慮人選時，是更重視他們的過往經歷，還是只是與他們交談即可？
奧特曼：過往經驗很重要。當然，你們會進行很多交談，但有些職位我完全不重視過往經歷，只看他的上升勢頭，忽略掉Y軸的截距。
萊克斯‧弗里德曼：謝謝。謝謝你為觀眾用數學的方式做出解釋。
奧特曼：對於董事會成員，我確實更重視Y軸截距。我認為過往經驗中有一些深刻的東西可以說，經驗是很難被取代的。
萊克斯‧弗里德曼：你嘗試將過往經驗擬合為多項式函數還是指數函數？
奧特曼：這個類比不太適合。
萊克斯‧弗里德曼：好的。你之前提到了那個瘋狂週末遭遇的一些低潮。對你來說，心理上還有哪些低潮？你有沒有考慮過過去亞馬遜叢林喝下亞胡阿斯卡（一種迷幻劑），然後永遠消失？
奧特曼：那是一段非常糟糕的時期。當然，也有一些很棒的時刻。我的手機不斷收到與我日常合作的人以及那些我已經十年沒聯繫過的人發來的關懷訊息。因為我當時正處於危機之中，因此沒有太多時間去回應，沒能充分感受到這份溫暖，但這確實讓人感到很棒。總的來說，那是一個非常痛苦的週末。就像是在公眾面前進行的一場戰鬥，讓我感到非常疲憊，比我預想的還要難受。我認為爭鬥通常都很累人，但這次真的特別疲憊。董事會是在周五下午做出決定的。我並沒有得到太多答复，但我也認為，董事會有權這麼做，所以我會稍微花點時間思考一下我接下來想做什麼，但我也會努力從中找到隱藏的祝福。
我當時心想，我目前在OpenAI的工作，或是之前的工作，是經營一家規模相當大的公司。而我一直最喜歡的事情就是與研究者一起工作。然後我就想，我可以非常專注地去做AGI的研究工作。我開始對這個想法感到興奮。當時我甚至沒有想到這一切都會化為泡影。那已經是周五下午了。
萊克斯‧弗里德曼：所以你接受了這樣的終點——
奧特曼：非常快，真的非常快。我經歷了一段短暫的迷惘和憤怒，但這種負面狀態很快就過去了。到了星期五晚上，我已經在和別人討論下一步要做什麼了，而且我對此感到很興奮。我記得是星期五晚上，我第一次從這裡的執行團隊那裡聽到消息，他們說：「嘿，我們要抗爭到底。」然後我就去睡覺了，心裡還是想著：我很興奮，繼續前進！
萊克斯‧弗里德曼：你睡得好嗎？
奧特曼：根本就沒怎麼睡。奇怪的是，有一段四天半的時間，我睡得很少，吃得也不多，但還是精力充沛。戰時你會學到一些關於腎上腺素的奇怪事情。
萊克斯‧弗里德曼：所以你接受了這樣的結局，OpenAI這個被你視為「孩子」的公司迎來了失敗的一天。
奧特曼：我對新的事物都感到興奮。我心想：“行吧，這玩意兒確實瘋了點，但管它呢！”
萊克斯‧弗里德曼：這是一個很好的應對機制。
奧特曼：然後到了周六早上，兩位董事會成員打來電話說：「嘿，我們不想攪局。我們不想在這裡儲存太多價值。我們能談談你回來的事嗎？」最初，我不想回去，但後來又仔細想了想，我還是覺得，我真的很關心這裡的人、夥伴和股東們。我愛這家公司。所以我對他們說：「好吧，但我有自己的條件。」然後在那個週末最痛苦的時候，我一直在反思，也被告知，不僅僅是我，整個團隊都在想，我們試圖努力維持OpenAI的穩定，而那時整個世界都在試圖讓它分崩離析，人們試圖招募我們的人。
我們一直被告知：「好了，我們快要完成了。我們快要完成了。我們只需要再多一點點時間。」這是一種非常混亂的狀態，直到週日晚上，我幾乎每隔幾個小時就期待這種混亂能夠結束，找到讓我回去的方法，讓事情恢復到原來的樣子。但董事會隨後任命了一位新的臨時首席執行官，我當時覺得，這感覺真的很糟糕。那是整個事件的最低潮時刻。我告訴你，這感覺很痛苦，但整個週末我感受到了許多關懷。除了周日晚上的那一瞬間，我不會用憤怒或仇恨來形容我的情緒，但我感受到了人們對我的愛。雖然痛苦，但那個週末的主導情緒是愛，而不是恨。
萊克斯·弗里德曼：你曾高度讚揚了米拉·穆拉蒂（Mira Murati），你說她在你推文中提到的關鍵時刻給了你特別幫助。也許我們可以稍微偏離主題。你欣賞穆拉蒂哪些品質？
奧特曼：她在那個週末的混亂中做得很好，人們往往在危機時刻才會關注領導者的表現，無論是好是壞。但我真正欣賞這類領導者的一點是，他們在平凡的週二早上9點46分和日常繁瑣工作中是如何表現的。他們如何出席會議，他們做決策的品質如何。這就是我所指的「靜默時刻」。
萊克斯‧弗里德曼：這意味著大部分的工作都是在日復一日、一次的會議中完成。只要保持專注，並做出明智的決策即可。
奧特曼：是的。你看，過去20分鐘你想談論的，我理解的，是那一個非常瘋狂的周末，但那並不是OpenAI的真正意義所在。OpenAI真正重要的是過去的七年。
萊克斯‧弗里德曼：嗯，確實如此。人類文明可不僅僅關於納粹德國入侵蘇聯，儘管人們仍關注這一點。
奧特曼：這是完全可以理解的。
萊克斯‧弗里德曼：它能幫助我們洞察人性，人性的極端，也許人類文明的某些成就和某些傷害就是在這些時刻發生的。人類文明的某些毀壞和偉大成就得以顯現，因此這非常具有啟發性。下面，讓我問你關於伊利亞·蘇茨凱弗（Ilya Sutskever）的事情。他是不是被劫持在一個秘密的核子設施裡充當人質？
奧特曼：當然不是。
萊克斯‧弗里德曼：那是被藏在普通的秘密設施裡？
奧特曼：也不是。
萊克斯‧弗里德曼：這事兒都快成梗了。你認識伊利亞很久了，對吧？他顯然捲入了董事會那場風波，還有那一大堆亂七八糟的事情。你現在跟他關係怎麼樣？
奧特曼：我依然喜歡伊利亞。我非常尊敬他。關於他現在的計劃，我無可奉告。那是他的問題，該由他來回答。但我真的很希望在我職業生涯的剩餘時間裡，我們能繼續一起工作。他比我年輕一些，也許他還會再工作久一些。
萊克斯‧弗里德曼：有個搞笑梗說伊利亞好像看到了什麼東西，比如他可能看到了通用人工智慧，這讓他內心充滿了憂慮。伊利亞到底看到了什麼？
奧特曼：伊利亞從來沒有看過通用人工智慧。我們任何人都沒有看到過。我們還沒有開發出通用人工智慧。不過，伊利亞身上有許多讓我敬佩的特質，其中之一是他非常重視通用人工智慧及其廣泛的安全問題，包括這項技術將對社會產生的影響。隨著我們繼續取得重大進展，伊利亞是過去幾年裡我花最多時間討論這將意味著什麼的人之一，討論我們需要做什麼來確保我們做得正確，確保我們成功地完成使命。所以，雖然伊利亞沒有看到通用人工智慧，但他在思考並確保我們在這個過程中做得正確，這對人類來說是一份巨大貢獻。
萊克斯‧弗里德曼：我以前和他聊過很多次。我認為當他談論技術時，總是進行這種長期思考。所以他不是在想一年後會怎麼樣，而是在想十年後的事情，只是從首要原則開始思考，比如「好吧，如果這項技術能夠擴展開來，這裡的根本要素是什麼？它將走向何方？」這也是他思考所有其他安全問題和所有類似問題的基礎，這使得與他交談非常有趣。你知道他為什麼近來變得沉默了嗎？他是在進行自我反思嗎？
奧特曼：再次強調下，我不想代表伊利亞發言。我覺得你應該問問他本人。他確實是個習慣深入思考的人。我覺得伊利亞總是在以一種非常好的方式進行靈魂探索。
萊克斯‧弗里德曼：對，沒錯。而且，他也很懂得沉默的力量。另外，我聽說他有時也挺逗的，但我從來沒見過他那一面。
奧特曼：那樣的他真的很可愛。
萊克斯‧弗里德曼：我從沒見過逗比的伊利亞，但我也很期待看到那一面。
奧特曼：我最近和他一起參加了一個晚宴，他當時正在和一隻小狗玩，心情非常放鬆，那場景相當溫馨！我當時就想，哇，這不是世界最常見的伊利亞。
萊克斯‧弗里德曼：那麼，就這整樁事情而言，你對董事會的架構滿意嗎？
奧特曼：是的。
萊克斯‧弗里德曼：關於這一切及其走向，你有什麼看法？
奧特曼：我對新組成的董事會感覺很滿意。在OpenAI的架構方面，董事會的一項職責就是要審視並找出我們可以使其更加穩健的地方。我們原本想先安排新的董事會成員到位，但顯然，在這個過程中，我們在結構方面學到了一個教訓。我覺得我沒有太多深刻的見解要說。這是一次瘋狂、非常痛苦的經驗。我覺得這是各種奇怪狀況的完美風暴。這次經驗讓我預見了未來的挑戰：隨著賭注的提高，我們將需要更穩健的治理結構和流程，以及更合適的人選。我很高興這件事發生在我還年輕的時候，但經歷它確實非常痛苦。
萊克斯‧弗里德曼：這件事會讓你在信任他人時變得更加猶豫嗎？
奧特曼：會。
萊克斯‧弗里德曼：只是在個人層面嗎？
奧特曼：是的。我自認為是一個非常信任他人的人。我的人生哲學一直是不要過度擔憂所有的偏執狂想，不要擔心那些邊緣狀況。即便你稍微吃點虧，換來的是可以放下防備地生活。然而，這次經驗對我來說太震撼了。我完全措手不及，它確實改變了我。我真的不喜歡這種感覺，但它確實改變了我對人的預設信任和對糟糕情況的應對方式。
萊克斯‧弗里德曼：你得在這方面小心一點。你擔心自己會變得太憤世嫉俗嗎？
奧特曼：我不擔心自己會變得過於憤世嫉俗。我認為自己與憤世嫉俗的人截然相反，但我擔心自己會變得不那麼容易信任他人。
萊克斯‧弗里德曼：實際上，對於正在開發通用人工智慧（AGI）的人來說，我不清楚應該選擇信任模式還是不信任模式來行動才是最好的。這是一次有趣的旅程。但在結構方面，我更關注人性層面。你如何讓自己身邊圍繞著既能建構出色事物，又能做出明智決策的人？因為隨著你開始賺更多的錢，這個東西擁有更大影響力，周圍的人可能會變得越來越奇怪。
奧特曼：關於董事會成員以及我應該持有的信任程度，或者我應該如何以不同的方式行事，你可以提出各種看法。但就這裡的團隊而言，我想你會給我非常高的評價。我對我每天一起工作的人們懷有巨大的感激、信任和尊重，我認為被這樣的人包圍著真的非常重要。
萊克斯·弗里德曼：我們共同的朋友馬斯克起訴了OpenAI。你認為他批評的實質問題是什麼？他有多少批評能站得住腳？又有多少是錯的？
奧特曼：我真的不知道這究竟是怎麼回事。我們一開始只是想成為一個人工智慧研究實驗室，對這項技術將如何發展一無所知。因為那是七、八年前的事了，現在想回想起當時的情況真的很難。那時大語言模型還沒有成為人們關注的熱門話題。我們還沒想到要開發API或銷售聊天機器人存取權限，也沒有想過要將其產品化，我們只是想，「我們要努力做研究，但我們真的不知道要用它做什麼。」我認為，對於許多全新的事物來說，你開始時總是摸著石頭過河，做一些假設，其中大多數最後都被證明是錯誤的。
然後，我們逐漸明確地需要採取不同的做法，並且需要更多的資金。所以我們說，「行吧，現在的結構並不適合這些。我們要如何調整結構呢？」然後你只能一次次地修補它，最後你得到的東西至少看起來不禁讓人皺眉。但我認為，我們是一步一步逐漸走到這裡的，每個階段都做出了合理的決策。這並不意味著如果有機會回到過去，我會完全採取不同的做法，但問題是當時我們並沒有先知。不管怎樣，至於伊隆真正的動機是什麼，我真的不清楚。
萊克斯‧弗里德曼：就你所記得的，OpenAI在部落格文章中是如何回應埃隆訴訟的？你能概括一下嗎？
奧特曼：哦，我們只是提到了埃隆提出的一系列觀點。這是我們的陳述，或者這不是我們的陳述。這是對這件事發生過程的描述。我們盡量不帶有個人情緒，只是陳述，“這就是歷史。”
萊克斯‧弗里德曼：我認為伊隆在這裡對你剛才提到的一點有些誤解，那就是你們當時的不確定性程度有多大。你們只是有幾個人的研究團隊，瘋狂地談論著AGI，而當時所有人都在嘲笑這個想法。
奧特曼：不久之前，伊隆還在瘋狂地談論發射火箭，而當時人們也在嘲笑這個想法，所以我認為他會對這件事產生更多共鳴。
萊克斯·弗里德曼：我認為這裡確實有一些個人因素，OpenAI和許多這裡的傑出人才選擇與埃隆分道揚鑣，所以存在個人層面的因素——
奧特曼：是埃隆選擇分道揚鑣。
萊克斯‧弗里德曼：你能具體描述一下當時你們分道揚鑣的情況嗎？
奧特曼：他認為OpenAI將會失敗，他希望能完全掌控並扭轉局勢。而我們則希望繼續朝著現在OpenAI的方向前進。他也希望特斯拉能夠開展AGI計畫。在不同時期，他都想把OpenAI變成一家獲利公司，由他掌控，或與特斯拉合併。但我們不想這麼做，於是他決定離開，這其實還挺好的。
萊克斯‧弗里德曼：所以你的意思是，正如OpenAI部落格文章中也提到的，他希望OpenAI能被特斯拉收購，或許是與微軟的合作方式有點相似，或者說可能是一種更為戲劇化的形式。
奧特曼：我記得當時的提議是，是的，被特斯拉收購，並讓特斯拉完全控制它。我很確定提議就是這個意思。
萊克斯·弗里德曼：那麼，在當時的情況下，OpenAI這個詞中的「open」對埃隆來說意味著什麼？伊利亞在電子郵件交流和其他一些內容中談到了這一點。在當時，這個詞對你來說意味著什麼？現在對你又意味著什麼？
奧特曼：如果能夠重新來過，我會選擇一個不同的名字。我認為OpenAI正在做的最重要的事情之一，就是將強大的技術免費地交到人們手中，作為公共福利。我們沒有在免費版本上投放廣告，也沒有以其他方式將其商業化。我們只是認為這是我們的使命，即將越來越強大的工具免費交到人們手中，並讓他們使用它們。我認為這種「開放」對我們的使命來說非常重要。我認為，如果你給人們提供絕佳的工具，並教他們如何使用，或者甚至不用教他們，他們自己也會摸索出來，然後讓他們用這些工具共同構建一個不可思議的未來，這將是意義重大的。因此，如果我們能夠繼續向世界推出免費或低成本甚至免費的強大AI工具，這將極大地推進我們的使命。至於是否“開源”，我認為我們應該對某些東西開源，而對其他東西則不開源。這往往會變成一場宗教般的信仰之爭，很難保持中立，但我認為找到平衡才是正確的答案。
萊克斯‧弗里德曼：埃隆已經說過：「如果你們把公司名字改成CloseAI，我就放棄訴訟。」我意思是說，這會變成關於名字的梗嗎？
奧特曼：我覺得這反映了伊隆對這次訴訟的認真態度，我認為這樣說真是令人驚訝。
萊克斯‧弗里德曼：也許我說得不對，但我不認為這次訴訟在法律上是嚴肅的。更多的是為了表明對AGI未來和目前領先公司的看法。
奧特曼：看，我的意思是，直到人們指出這有點虛偽之前，Grok並沒有開源任何東西。然後，伊隆才宣布Grok本週將開源一些東西。我不認為開源與否是他真正關心的問題。
萊克斯‧弗里德曼：好的，我們會談談開源與不開源的問題。我倒是覺得，也許批評競爭對手是件好事，只是稍微抱怨一下也無傷大雅。但這得是建立在友好競爭的基礎上，比起來，我個人真是非常討厭打官司。
奧特曼：我認為整件事都不像一個建設者該做的事。我尊重伊隆。他是我們這個時代最偉大建設者之一。我知道他了解被仇恨者攻擊的滋味，這讓我感到格外難過，他居然也這麼做。
萊克斯‧弗里德曼：是的，他可以說是有史以來最偉大的建設者之一，甚至可能是有史以來最偉大的建設者。
奧特曼：這讓我感到難過。我認為這也讓很多人感到難過。有很多人長期以來一直仰慕他。我在接受採訪時也曾經說過，我懷念以前的埃隆，結果我收到了很多回复，他們都說：“你的話完全表達了我的心聲。”
萊克斯·弗里德曼：我認為他應該直接獲勝。他應該讓X的Grok擊敗GPT，然後GPT反過來擊敗Grok，這就是競爭，對每個人來說都是一件好事。但關於開源的問題，你認為有很多公司在探索這個概念嗎？這很有趣。我覺得Meta在這方面出乎意料地走在了前面，或至少在真正開源模型這場棋局中邁出了第一步。當然，他們開源的不是最尖端的模型，不過他們開源了Lama。谷歌也在考慮開放一個規模較小的版本。開源有什麼優缺點？你自己有沒有思考過這個問題？
奧特曼：是的，我認為開源模型確實有其存在的必要，特別是那些人們可以在本地運行的小型模型，我認為這方面的需求非常大。我想將來會有一些開源模型，也會有一些閉源模型。在這方面，它與其他生態系統並無不同。
萊克斯‧弗里德曼：我聽了所有與這次訴訟和其他相關話題有關的播客。他們更關心的是從非營利組織轉變為這種獲利上限結構的先例。這對其他新創公司會樹立什麼樣的先例？
奧特曼：我會強烈反對任何打算以非營利組織起步，後來再增加獲利部門的新創公司。我會強烈反對他們這樣做。我不認為我們會在這裡樹立先例。
萊克斯‧弗里德曼：以這種方式創業，新創公司是不可能省下很多錢的。
奧特曼：沒錯。我覺得有些法律會讓這種做法變得相當棘手。
萊克斯‧弗里德曼：關於你和伊隆之間的關係，你希望未來會如何發展？這種緊張感、這種互動，你希望它們會變成什麼樣子？如果我們從現在往後看一、二、三年，你與他的個人關係，例如友誼、友好的競爭，以及所有這些互動，你希望它們會如何發展？
奧特曼：我非常尊敬埃隆，我希望在未來的歲月裡，我們能夠維持友好的關係。
萊克斯‧弗里德曼：我也希望你們這個月就能建立友好的關係，一起競爭、一起獲勝、一起探索這些想法。我猜你們之間肯定存在著人才方面的競爭，但這應該是友好的競爭，只為建造酷炫的東西。埃隆在建造這類東西方面非常擅長，你也是。
萊克斯‧弗里德曼：說到酷炫的東西，Sora真的很吸引人，我有無數個問題想問。首先，它的確令人稱奇，無論是在產品層面或哲學層面。那麼讓我從技術和哲學的角度問問你，你認為Sora相對於GPT-4這樣的模型，對世界的理解是更多還是更少呢？當你訓練這些補丁而不是語言標記時，世界模型會有什麼不同嗎？
奧特曼：我覺得所有這些模型對世界模型的理解，實際上都比我們大多數人給予它們的讚譽要多。而且，因為它們也清楚地知道自己不理解或沒有正確理解的東西，所以很容易看到它們的弱點，透過面紗看到真相，然後說，「啊，這都是假的。」但這並不是全部假的。只是其中一些部分有效，而另一些部分則無效。
我記得自己第一次看Sora生成影片時的場景，你會看到有人走過來，擋住畫面幾秒鐘後又走開，而被遮擋的東西依舊在那裡。我當時想到，「哦，這還不錯。」或者有些例子中，在一系列動作中，底層物理學的表現看起來如此出色，就像，「哦，這相當令人印象深刻。」但從根本上說，這些模型只是變得越來越好，這種進步還會持續下去。從DALL-E 1到DALL-E 2到DALL-E 3再到Sora的發展軌跡來看，有很多人對每個版本都進行了批評，說它不能做這不能做那，但現在看看它們的表現如何。
萊克斯‧弗里德曼：你剛才提到的遮蔽問題，基本上就是模型對三維世界物理學的建模夠好，以捕捉這類情況。也許你可以告訴我，為了處理遮蔽問題，世界模型需要做些什麼呢？
奧特曼：我想說的是，它在處理遮擋方面做得非常好。如果我說它背後有一個很好的世界三維模型，那可能有點誇大其詞了。
萊克斯‧弗里德曼：但是，你能否僅透過這種二維訓練資料的方法來實現這個目標呢？
奧特曼：看起來這種方法將會取得令人驚訝的進展。我不想過多地猜測它將克服哪些限制，哪些不會，但是…
萊克斯‧弗里德曼：你看到的這個系統有哪些有趣的限制？我知道你已經發布了一些有趣的例子。
奧特曼：各種有趣的現像都有。比如說，在影片的隨機位置，貓的身上突然多出了一個部位。你可以選擇你想看的，但還有很多問題，還有很多弱點。
萊克斯‧弗里德曼：你認為這是這種方法的根本缺陷嗎？還是只需要更大的模型、更好的技術、更好或更多的數據，就能解決貓咪身上突然多出部位的問題？
奧特曼：我認為這些都需要。我覺得這種方法在某種程度上與我們習慣的思考和學習方式有所不同。同時，我也相信隨著規模的擴大，模型將會變得更好。
萊克斯‧弗里德曼：你認為目前這種方法的某些限制是固有的，而不僅僅是因為我們還沒有足夠的資料或模型規模不夠大？
奧特曼：是的，我認為確實有一些固有的限制。但我也相信，隨著時間的推移，隨著技術的進步，我們將能夠找到方法來克服這些限制。我認為這是一個不斷發展的領域，我們仍在探索其邊界。
萊克斯·弗里德曼：就像我提到的，大語言模型有token，文字token，而Sora 則有視覺補丁。它把所有的視覺數據，包括各種不同的影片和圖片，都轉換成了補丁。訓練過程可以說是完全自我監督的嗎？還是會牽涉到一些手動標註的工作？在整個過程中，人類扮演了怎樣的角色？
奧特曼：在不提及Sora具體訓練方法的情況下，我們的工作中確實使用了大量的人類資料。
萊克斯‧弗里德曼：但不是網路規模的數據？所以是有很多人類參與，但「大量」這個詞有點模糊。
奧特曼：我認為在這種情況下，「大量」這個詞是恰當的。
萊克斯‧弗里德曼：我是個內向的人，要是和三個人一起出去，對我來說人就已經夠多的了。要是四個人，那簡直就是超負荷了。不過我猜你指的「大量」可能是比這…
奧特曼：對，確實是有不只三個人在為這些模型做數據標註工作。
萊克斯‧弗里德曼：好的，我明白了。但從根本上說，有大量的自我監督學習。就像你在技術報告中提到的是網路規模的數據。那真是太美了，就像詩一樣。也就是說，這些數據中有很多是沒有人類標註的，它們是以自我監督的方式進行學習的，對吧？
奧特曼：是的。
萊克斯‧弗里德曼：那麼問題是，網路上有多少資料可以用於這種自我監督的學習方式，如果我們知道了自我監督的詳細機制。你有沒有考慮過公開更多這方面的細節？
奧特曼：我們考慮過。你是說具體的數據來源嗎？
萊克斯‧弗里德曼：對，具體來說就是來源。因為非常有趣的是，大語言模型的魔法現在能否開始轉向視覺數據，而實現這一點需要做什麼？
奧特曼：我認為從表面上看，確實有可能，但我們還有很多工作要做。
萊克斯‧弗里德曼：那麼有什麼危險呢？你為什麼擔心發布這個系統？它可能存在哪些危險？
奧特曼：坦白說，我認為在發布系統之前，我們必須確保它足夠安全和可靠。儘管自我監督學習的方法在處理大規模數據方面取得了很大進展，但我們仍然需要確保這些演算法不會產生誤導性的結果或用於不正當目的。例如，如果系統被用於產生深度偽造的內容或傳播錯誤訊息，那麼這將對社會產生負面影響。我們試著成為一個負責任的公司，認真考慮我們向世界發布的內容，而不需要太多思考就能想到這項技術可能如何走向不好的方向。
萊克斯‧弗里德曼：這裡有很多棘手的問題，你正在一個非常困難的領域工作。你認為訓練人工智慧是否應該或在版權法下屬於合理使用？
奧特曼：我認為這個問題背後的真正問題是，那些創造有價值數據的人是否應該得到某種形式的補償，因為他們的數據被利用了。我認為答案是肯定的。但我還不知道確切的答案是什麼。人們提出了很多不同的建議。我們也嘗試過一些不同的模式。但如果我像藝術家一樣，首先我希望能夠選擇不讓人用我的風格生成藝術作品。其次，如果他們確實用我的風格生成了藝術作品，我希望有與之相關的經濟補償。
萊克斯·弗里德曼：這就像從CD過渡到Napster再到Spotify一樣。我們必須找到某種模式。
奧特曼：模式會改變，但人們必須得到報酬。
萊克斯‧弗里德曼：如果我們看得更遠一點，為了激勵人類繼續創造酷炫的東西，應該會有一些獎勵機制。
奧特曼：在我擔心的所有事情中，人類會創造酷炫的東西，社會會找到某種方式來獎勵這種創造性。這似乎是人類固有的特性。我們渴望創造，我們渴望證明自己的價值，我們想要以各種方式獲得認同和地位。我認為，這些都不會消失。
萊克斯‧弗里德曼：但回報可能不是金錢上的，而可能是名望或是其他酷炫的方式。
奧特曼：也許在金融方面還有其他方式。我認為，我們可能還沒有看到經濟體系發展的最終模式。
萊克斯‧弗里德曼：但藝術家和創作者們都很擔心。當他們看到Sora時，他們會驚呼，“我的天哪！”
奧特曼：確實。當攝影技術出現時，藝術家們也非常擔心，但後來攝影成為了一種新的藝術形式，人們透過拍照賺了很多錢。我認為類似的事情會不斷發生。人們會以新的方式使用新工具。
萊克斯‧弗里德曼：如果我們只看YouTube或其他類似平台，你認為在未來五年內，使用Sora等人工智慧工具產生內容的比例會有多少？
奧特曼：人們總是在談論人工智慧將在五年內取代多少工作。他們通常的出發點是，有多少現有工作會被人工智慧完全取代？但我的思考方式不是人工智慧將完成多少工作，而是在未來一個時間範圍內，人工智慧將能完成多少任務。所以，如果你考慮經濟中所有的五秒鐘、五分鐘、五小時甚至可能是五天的任務，有多少是人工智慧可以完成的？我認為這是一個更有趣、更有影響力、更重要的問題，比人工智慧將取代多少工作更重要，因為人工智慧只是一種工具，它將在越來越多的任務中以越來越高的複雜度和越來越長的時間範圍內工作，讓人們能夠在更高的抽象層次上思考。因此，也許人們在工作中會變得更有效率。在某個時候，這不僅僅是量的變化，它還意味著質的變化——我們能在腦海中構思何種問題。我認為對於YouTube上的影片來說也是如此。許多視頻，也許大多數視頻，都會在生產過程中使用人工智能工具，但它們仍然會從根本上受到人的因素所影響，人們會完成其中的一部分工作。
萊克斯·弗里德曼：這真的非常有趣。我是說，我認為這有點嚇人，但也很有趣。我傾向於認為人類喜歡觀察其他人類，或更接近人類的生物…
奧特曼：人類確實非常關心其他同類。
萊克斯‧弗里德曼：是的。如果有比人類更酷、更好的東西，人類可能會專注於兩天，然後又會回到關心人類的事務上。
奧特曼：這似乎是人類根深蒂固的本性。
萊克斯·弗里德曼：就像國際象棋一樣，人們會說“哦，是的”，但現在大家還是繼續玩國際象棋。我們忽略了一個視而不見卻擺在眼前的事實，那就是相對於人工智慧系統來說，人類在西洋棋方面的波安排下面真的很差。
奧特曼：我們仍然舉行賽跑比賽，儘管汽車的速度要快得多。有很多這樣的例子。
萊克斯‧弗里德曼：是的。也許它就像是Adobe套件裡的某種工具，讓製作影片變得更加容易，以及其他類似的事情。
奧特曼：聽著，我真的不喜歡面對鏡頭。如果我能找到一種不用面對鏡頭的方法，我會很高興的。不幸的是，那還需要一段時間。生成臉部影像的技術正在發展，但在視訊格式中生成特定人物的臉孔與生成通用臉孔相比要複雜得多。
萊克斯‧弗里德曼：我想問你些關於GPT-4的問題。有很多問題要問。首先，它同樣令人驚嘆。回首過去，GPT-4在塑造ChatGPT的過程中，可能被視為與GPT-3以及GPT-5同樣關鍵的歷史性時刻。
奧特曼：也許GPT-5會是關鍵時刻。我不知道。很難說未來會如何。
萊克斯‧弗里德曼：我們永遠不會知道。這就是未來的惱人之處，很難預測。但對我來說，回顧過去，GPT-4，ChatGPT真的令人印象深刻，在歷史上都有重要意義。所以請容許我問，GPT-4和GPT-4 Turbo帶給你的最令人印象深刻的能力是什麼？
奧特曼：我覺得它有點令人失望。
萊克斯‧弗里德曼：這種觀點很常見，畢竟人類總是習慣了一個很棒的東西後就會覺得它變得平常了。
奧特曼：不，我認為這確實是一件令人驚奇的事情，但相對於我們需要達到的目標和我相信我們將達到的目標來說，在GPT-3的時代，人們會說，“哦，這太棒了。這簡直是技術的奇蹟。」確實如此。但現在我們有了GPT-4，再回頭看GPT-3，你會覺得它簡直糟糕透頂。我預期GPT-5與GPT-4之間的差距將與GPT-4與GPT-3之間的差距一樣大，我認為我們的職責就是提前幾年預見未來，並記住我們現在擁有的工具在未來回頭看時會顯得有些不盡人意，這樣我們才能確保未來會變得更好。
萊克斯‧弗里德曼： GPT-4在哪些方面最令人失望？
奧特曼：它最擅長做什麼事？
萊克斯‧弗里德曼：對，它能做的最好的事是什麼？這些最好的事情有哪些局限性，讓你覺得它令人失望，從而激發你對未來的靈感和希望？
奧特曼：我最近更多地將GPT-4用作一種腦力激盪夥伴。它有一些令人驚嘆的東西。當人們談論它的功能時，他們會說，「哦，它幫助我更有效地編寫程式碼。它幫助我更快更好地寫作。它幫助我從這種語言翻譯到另一種語言。」所有這些事情都令人驚嘆，但GPT-4也能充當創意腦力激盪夥伴，例如當「我需要為這個東西想一個名字。我需要以不同的方式思考這個問題。我不知道該怎麼辦」時，我認為這讓我看到了我期待已久的東西，希望將來能看到更多類似的場景。
你可以看到的另一個非常小的跡像是，當我需要完成更長期的任務時，將某件事情分解成多個步驟，也許GPT-4能執行其中的一些步驟，比如搜索互聯網，編寫代碼，無論什麼，然後再將它們組合在一起。當它能在這個過程中發揮作用時，雖然不是很常見，但卻非常神奇。
萊克斯‧弗里德曼：與人類不斷互動，對我來說非常有幫助。這是什麼意思？
奧特曼：透過與人類的互動，當它可以獨立解決一個包含10個步驟的問題時，這樣的互動就會變得更加密集。儘管有時它並不經常奏效。
萊克斯‧弗里德曼：增加多個抽象層次，還是說你只是指按順序進行？
奧特曼：兩者都很重要，既要將問題分解，也要在不同的抽象層次上做一些事情來將它們重新組合在一起。你看，我不想低估GPT-4的能力，但我也不想過度誇大它。我認為，我們正處於一個指數曲線上，不久之後，我們會像現在回望GPT-3 一樣去回顧GPT-4。
萊克斯‧弗里德曼：也就是說，ChatGPT是一個轉捩點，外界開始相信有一種上升趨勢，而不僅僅是在OpenAI內部。
奧特曼：當然。從這個意義上說，我確實認為這將是一個轉捩點，世界上許多人將從懷疑者轉變為信徒。這更多是關於ChatGPT介面的。而說到介面和產品，我也指的是模型訓練後的調整，以及我們如何調整它來幫助你，以及如何使用它，而不僅僅是模型本身。
萊克斯‧弗里德曼：這兩者哪一個比較重要？是底層模型，還是RLHF（Reinforcement Learning from Human Feedback，人類反饋強化學習）或類似的東西，它們都在調優過程中起著關鍵作用，使模型對人類更具吸引力，對人類更有效和有用。
奧特曼：我認為它們都很重要，但RLHF，也就是訓練後的那個步驟，以及我們在基礎模型之上所做的那些額外工作，從計算的角度來看，儘管這是大量的工作，但這確實很重要，更不用說我們圍繞它構建的產品了。從某種意義上說，我們必須同時做好這兩件事：我們必須發明底層技術，然後弄清楚如何將其變成人們會喜歡的產品，這不僅僅是關於實際產品的工作，還涉及到一個完全不同的階段－如何讓產品與使用者的需求一致，並真正發揮它的用途。
萊克斯‧弗里德曼：在眾多用戶同時使用這項技術的時候，你是如何讓它發揮規模化效應的。所有這些方面，都得仔細斟酌。
奧特曼：那是已知的難題。我們知道我們必須擴大規模。我們必須去做兩件以前從未做過的事情，我認為這兩件事都是相當重要的成就，然後還有很多其他公司以前必須做的事情，例如擴大規模。
萊克斯·弗里德曼：在GPT-4到GPT-4 Turbo之間，上下文視窗從8K tokens增加到128K tokens，這兩者之間又怎樣的區別
奧特曼：多數情況下，大多數人並不總是需要128K tokens這麼長的上下文。然而，如果我們展望未來，我們會發現將來會有數十億長度的上下文。你可以輸入你所有的資訊和歷史記錄，模型會越來越了解你，那將是非常棒的。但目前來看，人們使用這些模型的方式並不是這樣。人們有時會發布論文或在程式碼庫中大量增加程式碼，但大多數時候，模型的使用並沒有用到長上下文。
萊克斯‧弗里德曼：我喜歡這樣的感覺，就像你的「我有一個夢想」演講。將來，你會被依據你性格的全貌或是你一生的總體來評價。那很有趣。那麼，你所希望的是更全面、更長的脈絡。
奧特曼：我曾經在網路上看過一個片段，我可能記錯了數字，但大致是比爾蓋茲（Bill Gates）談論早期電腦的記憶體容量大小，可能是64K，也可能是640K，大概是這樣的數字。那時候，大部分記憶體都被用於螢幕緩衝區。他看起來似乎無法真正理解，為何將來世界上的電腦會需要幾個GB甚至TB的記憶體。不過，你總是需要跟上科技發展的指數成長曲線，我們總是會發現如何使用更先進技術的方法。所以，我現在真的無法想像，有一天上下文連結會成長到數十億是什麼感覺。它們可能不會真的達到那個數字，但在效果上可能會有那種感覺。不過我知道，一旦我們擁有這類技術，就真的不再想回到過去了。
萊克斯‧弗里德曼：未來會有某種突破，讓人感覺像是擁有無限上下文。但即便是120K，老實說，我還沒有嘗試將它推到那種極限，可能需要輸入整本書或整篇論文。你見過的GPT-4的一些有趣用例是什麼？
奧特曼：我發現最有趣的是，人們將它作為任何知識型工作任務的預設起點，這主要是在年輕人中。它能夠做很多事情，而且做得相當好。你可以使用GPT-4來幫助你寫程式碼，進行搜索，或編輯論文。對我來說，最有趣的是那些直接以此為他們工作流程開端的人。
萊克斯‧弗里德曼：我也是。我用它來作為閱讀書籍的伙伴。它幫助我思考，尤其是我閱讀經典名著的時候。我發現它在涵蓋廣泛主題的方面往往比維基百科還要好。它似乎更平衡，更細緻入微。也許這是我的感覺，但它激發我思考得更深入，比維基百科的文章還要深入。我不太確定這是為什麼。
你剛才也提到了這種協作，我不確定魔力在哪裡。但當我開始使用GPT進行知識型任務時，我通常會擔心之後需要進行的事實核查，例如檢查它是否編造了虛假內容。你是如何發現GPT能夠提出聽起來非常令人信服但實際上是虛假的內容的？你如何確保它的真實性？
奧特曼：這顯然是我們非常關注的一個領域。我認為隨著後續版本的推出，這方面會得到很大的改善，但我們必須繼續努力，今年我們不可能完全解決所有問題。
萊克斯·弗里德曼：令人擔憂的是，隨著它的不斷改進，你可能會開始越來越少進行事實核查，對吧？
奧特曼：我對此有個矛盾的看法。我認為人們在使用科技時比我們常常認為的要精明得多。人們似乎真的明白GPT這類模型有時會出現幻覺。如果在執行關鍵任務，你必須對其回覆進行核實。
萊克斯‧弗里德曼：這個問題涉及到人類文明的更高層面，我很期待對此進行探討。這正是我們應該更多去慶祝的領域。你們賦予了ChatGPT記憶能力，讓它可以回顧先前的對話，也可以關閉記憶功能。有時我真希望自己也能這麼做，根據需要隨時開啟或關閉記憶。雖然酒精有時能達到這種效果，但顯然不是最理想的方式。你在嘗試記住對話和不記住對話的過程中，有什麼發現嗎？
奧特曼：我們在這一領域的探索還處於非常初級的階段，但我認為人們想要的，或者至少是我自己想要的是，一個能夠逐漸了解我並對我越來越有用的模型。這是我們的初步探索，我認為還有很多其他工作要做，但這是我們希望努力的方向。你希望使用一個模型，或在使用系統的過程中使用多個模型，隨著時間的推移，這些模型會變得越來越好。
萊克斯‧弗里德曼：這個問題有多難解決？因為現在它更像是記住一些小的事實和偏好等等。那麼關於記憶呢？你不希望GPT記得你在去年11月經歷的所有事情和所有的戲劇性事件，然後你可以…
奧特曼：我不僅希望它記住那些事情，我還希望它能從中學到教訓，並在未來提醒我該怎麼做或要注意什麼。我們在生活中都會從經歷中獲得不同程度的成長，我也希望我的人工智慧助理能從這些經驗中學習和成長。所以，如果我們回溯並想像一個擁有萬億上下文長度的模型可用，如果我能把自己一生中與任何人的所有對話都放進去，把所有電子郵件的輸入輸出都放進去，每次我問問題時都能在上下文中找到所有的輸入輸出，那將會非常了不起。
萊克斯‧弗里德曼：是的，我認為那將會非常棒。但有時人們聽到這些會擔心隱私問題。對於人工智慧更有效地整合你的所有經驗和數據，並給你建議這一方面，你怎麼看？
奧特曼：我認為正確的答案是給用戶選擇的權力。任何我不想讓我的人工智慧助理記住的事情，我都希望能刪除它。如果我不想記住任何事情，我也希望我可以忘記。在關於我們自己的人工智慧在隱私和實用性之間的權衡上，你和我可能有不同的看法，這完全可以理解。但我認為答案就是讓用戶輕鬆做出選擇。
萊克斯·弗里德曼：但公司應該對用戶選擇給予高度的透明度，因為過去有些公司在收集用戶數據時態度含糊其辭，好像他們可以默認收集你的所有數據。他們會說：「嗯，我們收集你的所有數據是理所當然的。我們用這些數據來做廣告等，都是出於好意。」但對於其中的細節卻缺乏透明度。
奧特曼：你說得完全對。就像之前提到的我在迴避去年11月份的事情。我認為那是一件非常痛苦的事情，它讓我長時間陷入恍惚。毫無疑問，那段時間最艱難的工作就是堅持工作，因為我必須試著回到這裡，在震驚和痛苦中把碎片拼湊起來，而沒有人真正關心這一點。我的團隊確實給了我很大的寬容，我並沒有像往常一樣全力工作。但有一段時間，我必須同時做這兩件事，這真的很難。但有一天早上我醒來，想到：「這是一件發生在我身上的可怕事情。我覺得我可以永遠像個受害者一樣，告訴自己這是我一生中觸及的最重要的工作，我必須回過神來繼續它。」沒錯，這並不意味著我已經把它壓抑下去了，因為有時我半夜醒來還會想到這件事。但我確實覺得自己有義務繼續往前走。
萊克斯‧弗里德曼：關於GPT能夠做什麼、不能做什麼，你的直覺非常有趣。GPT在產生每個token時大約分配相同數量的計算資源。那麼，在這種方法中，是否有空間進行更慢、更連貫的思考呢？
奧特曼：我認為將有一種新的思考範式。
萊克斯‧弗里德曼：這種思考方式在架構上會與我們現在看到的LLM（大語言模型）相似嗎？它是在LLM的基礎上增加的一層嗎？
奧特曼：我可以想像出許多實現這種想法的方法。但我認為這不如你之前的問題重要，那就是我們是否需要一種更慢的思考方式，其中答案不必立即給出……我想在精神層面上，你可能會希望人工智慧能夠更深入地思考一個更難的問題，並更快地回答一個更簡單的問題。我認為這才是重要的。
萊克斯‧弗里德曼：這讓人想到人類的思考方式，我們有能力進行深入思考，那麼人工智慧也應該能夠做到嗎？這是錯誤的直覺嗎？
奧特曼：我認為這是一種合理的直覺。
萊克斯·弗里德曼：有趣。那麼，當GPT發展到GPT-7時，它不可能立即能給出「費馬定理的證明」？
奧特曼：在我看來，你希望能夠對更難的問題分配更多的運算資源。如果你問一個這樣的系統，“證明費馬定理”，與問“今天是幾號？”相比，除非它已經知道並記住了證明的答案，否則如果它需要自己去解決這個問題，那麼這將需要更多的計算資源。
萊克斯‧弗里德曼：但它能否看起來像一個大語言模型在與自己對話呢？
奧特曼：可能。我是說，你可以想像有很多可行的方法。至於正確或最佳的方式是什麼，我們目前還不知道。
萊克斯‧弗里德曼：這讓我想到了神秘的Q*計畫。這個項目究竟是什麼？
奧特曼： OpenAI在保密方面做得併不好。如果我們能在這方面做得好一些，那將是一件好事。我們一直受到許多洩密問題的困擾，如果能擁有某種保密能力，那將會是很不錯的。
萊克斯‧弗里德曼：你能談談Q*是什麼嗎？
奧特曼：我們現在還不準備談論這個話題。
萊克斯‧弗里德曼：但這樣的回答意味著有些東西可以談論，這真的很神秘。
奧特曼：我們的研究涉及各種領域。我們之前已經說過，我們認為在這些系統中實現更好的推理是一個重要的研究方向。我們還沒有找到突破的方法，但我們對此非常感興趣。
萊克斯‧弗里德曼： Q*或其他方面，會不會出現類似ChatGPT的飛躍時刻？
奧特曼：這個問題問得好。我怎麼看待這個問題？這很有趣。對我來說，這看起來都是連續發展的過程。
萊克斯‧弗里德曼：沒錯。你提到的主題似乎是，我們基本上是在逐漸攀登一個指數級的曲線。但從外部觀察者的角度來看，我看著就覺得有飛躍的時刻。但對你來說，並沒有這樣的感覺嗎？
奧特曼：我一直在想，我們採用這種部署方式（我們稱之為迭代部署），而不是秘密開發直到GPT-5，我們決定公開討論GPT-1、GPT-2、GPT-3和GPT -4。這樣做的原因部分在於，我認為人工智慧和意外之間並不相容。而且，無論是世界、人類、機構，或是你願意怎麼稱呼它們，它們都需要時間來適應和反思這些問題。我認為OpenAI做得最好的事情之一就是採取這種策略，讓世界專注於我們的進展，認真對待AGI，思考在我們被迫匆忙做出決定之前，我們想要建立什麼樣的系統、結構以及治理方式。
我認為這真的很好。但像你和其他人仍然覺得有飛躍的感覺，讓我想到我們可能應該更多以漸進的方式發布我們的產品。我不知道這意味著什麼，我還沒準備好答案，但我們的目標絕對不是讓世界感到震驚。相反，我們想要的是平穩過渡。這就是我們努力的方向，也是我們既定的策略，但我感覺我們似乎沒有實現目標。也許我們應該考慮以不同的方式發布GPT-5或類似產品。
萊克斯‧弗里德曼：是的，例如4.71，4.72這樣的版本？但人們通常喜歡慶祝特別的日子，例如慶祝生日。我不知道你是否了解人類，但他們確實喜歡這些里程碑式的事物。
奧特曼：我確實了解一些人類，人們確實喜歡里程碑。我完全理解這一點。我想我們自己也喜歡里程碑，宣佈在這個領域取得勝利並開始下一個專案確實很有趣。但的確，我覺得我們在某些方面可能理解有誤。
萊克斯·弗里德曼： GPT-5什麼時候發布？
奧特曼：我不知道，這是實話。但我們今年會發布一個令人驚嘆的新模型，只是我不知道我們會叫它什麼。
萊克斯‧弗里德曼：這就引出了一個問題，你們該如何發布這個新模型呢？
奧特曼：在接下來的幾個月裡，我們會發布許多不同的東西。我覺得這會很酷。在我們談論一個類似GPT-5的模型之前，無論是否這樣命名，或者比你期望的GPT-5好一點或差一點，我認為我們還有很多其他重要的事情要先發布。
萊克斯‧弗里德曼：我不知道應該對GPT-5有什麼樣的期待。你的說法讓我既感到緊張又興奮。對於最終無論它會被命名為什麼，我們就暫時稱它為GPT-5吧，它需要克服的一些最大挑戰和瓶頸是什麼？只是好奇問一下：是關於計算方面的問題嗎？還是技術方面的問題？
奧特曼：這些挑戰總是多方面的。你知道，最大的突破點是什麼？是一台更大的計算機嗎？是一個新的秘密嗎？還是其他什麼東西？這些都是需要綜合考慮的。OpenAI真正做得好的事情是，這其實是伊利亞的一個原創觀點，我可能會說得不太準確，但大致意思是，「我們將200個中等規模的東西相乘，形成一個巨大的東西。”
萊克斯‧弗里德曼：所以這裡有一個持續的分散式創新過程？
奧特曼：是的。尤其是在技術層面。
萊克斯‧弗里德曼：在涉及各個層面的細節時，你這是如何與不同的、分散的團隊合作的？這些中等規模的東西是如何成為一個完整的巨型變形金剛的呢？
奧特曼：有些人需要考慮如何將整件事整合在一起，但也有很多人會努力將大局記在腦中。從總體上來說，你當然不可能知道每個部分的具體工作原理，但我通常認為，有時把視野放大，看看全局是很有用的。我認為這不僅適用於解決技術問題，對商業創新也同樣有效。但事情會以令人意想不到的方式結合在一起，即使大部分時間你都在某個領域的細節中操作，對全局的理解也會帶來令人驚訝的見解。事實上，我有一個秘訣，那就是對科技業所有或大多數前沿領域都有很好的了解。有時，我可以看到這些聯繫或新的可能性，如果我只深入探索一個領域，我就不會有這個想法，因為我缺少全域資料。但我現在真的沒有那樣的視角了，我現在深入某一個特定領域。但我知道，擁有全局視角是一件有價值的事。
萊克斯‧弗里德曼：談到從宏觀角度看問題，讓我們再擴大些範圍，例如你曾發推文說需要7兆美元。
奧特曼：我沒有發過那樣的推文，也從來沒有說過「我們正在籌集7兆美元」之類的話。
萊克斯‧弗里德曼：哦，那是別人說的？但你說過，“管他的，或許是8 兆”，是這樣嗎？
奧特曼：不，我沒有說過這件事。我確實認為算力將稱為未來的貨幣。我認為它可能會成為世界上最珍貴的商品，而且我認為我們應該大力投資以製造更多的算力。我認為算力市場將會是一個不尋常的市場。人們會想到手機晶片市場或其他類似的市場。你可以想像下，全世界有80億人，也許70億人擁有手機，也許是60億，我們就這麼假設吧。他們每兩年升級一次，所以每年的市場需求就是30億支智慧型手機的系統級晶片。但如果你製造了300億套，你不可能賣出10倍的手機，因為大多數人只有一支手機。
但算力是不同的。智能將更像能源或其他類似的東西，我認為唯一有意義討論的是，在價格X下，世界將用掉多少算力。而在價格Y下，世界將消耗多少算力。因為如果算力真的很便宜，我會讓它整天讀取我的電子郵件，給我提建議，關於我可能需要思考或處理的事情，甚至是嘗試治療癌症。而如果計算資源真的很貴，也許我只會在嘗試治療癌症時才使用它。
所以我認為世界將需要大量的算力。而在這個過程中，有許多難點。能源供應是最棘手的部分，建造資料中心和供應鏈也同樣充滿挑戰。當然，製造足夠的晶片也很難。但看起來，這正是事情發展的方向。我們將需要大量的算力，目前來說，這種規模是難以想像的。
萊克斯‧弗里德曼：你如何解決能源問題？核能？核融合？你認為核融合是50年後的事情，還是10年後就能實現？
奧特曼：我相信核能的潛力。但我認為，何時實現核融合依然很難預測。
萊克斯‧弗里德曼：那麼，誰會解決這個問題呢？
奧特曼：我認為Helion公司做得最好，我對目前的核融合競賽感到挺興奮。我認為核分裂也非常驚人，我希望全世界都能重新接受它。核分裂的歷史發展讓我感到非常遺憾，我希望我們能以有意義的方式重新利用它。
萊克斯‧弗里德曼：所以對你來說，核分裂是個解決方案嗎？就像我們目前所擁有的核反應爐一樣？而且很多人因為切爾諾貝利等核子洩漏事故而感到害怕，對吧？
奧特曼：我認為我們應該製造新的核反應器。我認為這個行業停滯不前真是太可惜了。
萊克斯‧弗里德曼：你認為「群體性歇斯底里」能解釋這種停滯現象嗎？我不知道你是否了解人類，但這就是其中一個危險。核分裂面臨的安全威脅之一就是人類對此的深度恐懼。這是我們必須將其納入考慮的因素之一，所以我們必須贏得人們的信任，並展示它的安全性。
奧特曼：我對人工智慧也有這樣的擔憂。我認為人工智慧的某些事情上會犯下大錯。雖然我不確定自己最終被人工智慧殺死的機率有多大，但肯定不是零。
萊克斯‧弗里德曼：你如何降低這種戲劇性風險的影響？我已經開始聽到一些傳聞了，因為我和各個政治派別的人都有交談，聽到一些傳聞說人工智慧將會被政治化。我真的非常擔心這一點，因為如果這樣，可能會出現右翼反對人工智慧，而左翼支持人工智慧的情況。然後這種戲劇性效果就可以充分利用。我們該如何對抗這種趨勢呢？
奧特曼：我覺得人工智慧確實會陷入左右派系之爭。我不知道這具體會是什麼樣子，但不幸的是，任何具有影響力的事物似乎都會如此。我所說的戲劇性風險更多是指，我相信人工智慧將會帶來的好處遠遠多於壞處，但它確實會有一些壞處。例如，死於空氣污染的人數遠多於死於核外洩事故的人數，但大多數人更擔心住在核反應爐附近而不是煤炭工廠附近。然而，我們人類的天性就是，儘管我們需要面對許多不同種類的風險，但那些能夠構成電影高潮情節的風險在我們心中的分量卻遠大於那些長期、緩慢累積但同樣嚴重的風險。
萊克斯‧弗里德曼：這就是為什麼真相很重要的原因。我希望人工智慧能幫助我們看清事物的本質，保持平衡，弄清楚世界上事物的實際風險和真正危險。在人工智慧領域的競爭中，與Google、Meta、xAI等公司競爭，各有什麼優劣之處呢？
奧特曼：對於這個問題，我想我有一個相對直接的答案，雖然以後可能會想到更多的細節，但好處似乎很明顯，那就是我們能得到更好、更快、更便宜的產品和創新，這些都是競爭帶來的好處。而缺點在於，如果我們不小心，可能會導致一場讓令人擔憂的軍備競賽。
萊克斯‧弗里德曼：你是否感覺到這種軍備競賽帶來的壓力，就像在某些方面產生的負面影響？
奧特曼：當然，在某些方面肯定是有的。我們花了很多時間討論需要優先考慮安全性。我一直以來都在說，你可以把AGI的開始時間想像成一個四象限圖，包括慢啟動和快啟動，以及長期和短期的時間線。我認為短期、慢啟動是最安全的象限，也是我最希望我們所處的象限。但我確實想確保我們實現的是慢啟動。
萊克斯‧弗里德曼：我對與伊隆的衝突感到有些困擾的部分原因是，它導致了安全方面的孤立而非合作。這往往導致事情變得封閉而不是開放，也許在模型上開源會是個解決方案。
奧特曼：埃隆至少說過他非常關心人工智慧的安全性，並且對此感到非常擔憂。我猜他應該不會在不安全的情況下進行競賽。
萊克斯‧弗里德曼：埃隆以關心人類的命運著稱，而人類是從合作中受益是，所以激勵和動機之間總是存在著緊張關係。最後，我確實希望人類能夠勝出。
奧特曼：我在想，有人前幾天提醒我，在伊隆超越傑夫·貝佐斯（Jeff Bezos）成為世界首富的那一天，他發推文向貝佐斯展示了一枚銀牌。我真心希望，以後能少看到這樣的鬧劇。伊隆的某些特質的確很了不起，我非常尊敬他。我認為我們需要他，我們都應該支持他，並需要他在接下來的階段中扮演好領導者的角色。
萊克斯·弗里德曼：谷歌憑藉搜尋功能在過去20年裡一直佔據主導地位。可以說，從全球範圍內獲取資訊的方式以及人們如何互動等方面來看，谷歌都發揮了關鍵作用。但令谷歌乃至整個產業都感到緊張的是，人們將如何獲得資訊？就像你說的，人們將GPT作為出發點。那麼OpenAI是否會真正接手Google20年前開始的事情，也就是我們如何取得資訊？
奧特曼：我覺得這很無聊。我的意思是，如果問題是我們能否建立一個比Google更好的搜尋引擎，那麼當然可以，人們應該使用更好的產品，但我認為這低估了這項技術的潛力。谷歌給你展示10個藍色鏈接，當然先是13個廣告然後才是10個藍色鏈接，這只是獲取信息的一種方式。但令我興奮的事情不是我們可以去建立一個更好的谷歌搜尋複製品，而是也許有一種更好的方式來幫助人們找到、採取行動並整合資訊。實際上，我認為對於某些用例來說，ChatGPT就是這樣，希望我們能夠將其應用到更多的場景中。
但我認為，僅僅提出「我們怎麼能比谷歌更好地為你提供前10個排名的網頁？」並不那麼有趣。也許真正有趣的是說，“我們如何幫助你獲得你需要的答案或信息？我們如何在某些情況下幫助你創造它，在其他情況下整合它，或在其他情況下為你指明方向？”很多人只是嘗試製造一個比Google更好的搜尋引擎，但這是一個困難的技術問題，也是一個困難的品牌核生態系統問題。我認為世界不需要谷歌的另一個複製品。
萊克斯·弗里德曼：將聊天客戶端，如ChatGPT，與搜尋引擎整合——
奧特曼：那會更酷。
萊克斯‧弗里德曼：這的確很酷，但也很棘手。如果你只是簡單地這樣做，它會顯得很彆扭，因為如果你只是把ChatGPT硬塞進去，可能會很奇怪。
奧特曼：你可能已經猜到了，我們對如何做得更好很感興趣。那將會是一個很酷的例子。大語言模型與搜尋的結合，我認為還沒有人破解這個密碼。我很想去做這件事。我認為那會很酷。
萊克斯‧弗里德曼：那麼在廣告方面呢？你們有沒有考慮過ChatGPT的貨幣化。
奧特曼：從美學角度來說，我有點討厭廣告。我理解網路之初為了發展不得不依賴廣告，但這不過是暫時的行業現象。現在世界已經變得更富裕。我喜歡看到人們為ChatGPT付費，並知道他們得到的答案不受廣告商的影響。我確信有適合大語言模型的廣告模式，也確信有一種以不偏不倚的方式參與交易流的方法，但也很容易想到未來的反烏托邦願景：你向ChatGPT詢問某事，它會說：“哦，你應該考慮購買這個產品”，或者“你應該考慮來這裡度假”，或者其他什麼。
我不知道到底會是什麼樣，我們有一個很簡單的商業模式，我蠻喜歡的，我知道自己不是被買賣的產品。我知道自己是付費用戶，這就是商業模式的工作原理。當我使用Twitter、Facebook、Google或其他任何廣告支援的產品時，我不喜歡這樣。我覺得在人工智慧的世界裡，情況只會變得更糟，而不會變得更好。
萊克斯‧弗里德曼：是的，我可以想像人工智慧會更精準地展示你真正需要的商品和服務的廣告，而不是在某個反烏托邦的未來。但是，這樣的系統是否總是會導致廣告驅動所顯示的內容呢？我認為維基百科不做廣告是一個非常大膽的決定，但這也讓商業模式變得非常具有挑戰性。所以你是說OpenAI目前的商業模式從商業角度來看是可持續的嗎？
奧特曼：我們必須弄清楚如何實現成長，但看起來我們會找到辦法的。如果問題是我是否認為我們可以擁有一個偉大的商業模式，能夠支付我們的算力需求而不依賴廣告，那麼我認為答案是肯定的。
萊克斯‧弗里德曼：我想問你關於安全性和偏見的問題，以及短期和長期的安全性。谷歌最近發布了Gemini 1.5，圍繞它引發了許多爭議，例如其生成的歷史人物多是有色人種。公平地說，它可能偏向了過度"覺醒" 的一面。所以這是人們擔心的問題：如果公司內部有人在修改模型的安全性或由其造成的傷害，那麼它可能會引入許多符合公司內部意識形態傾向的偏見。你如何處理這個問題？
奧特曼：我們非常努力地避免做這樣的事情。我們自己也犯過錯誤，將來也會犯其他錯誤。我假設谷歌會從這次錯誤中學到教訓，但他們還是會犯其他錯誤。這些問題並不容易解決。我們一直在思考的一個問題是，我認為這裡有人提出了一個很好的想法，那就是可以把模型應有的行為標準寫出來並公開發布，接受大家的反饋，並說：「這是這個模型應有的行為方式”，並解釋邊緣情況。然後，當模型的行為不符合你的期望時，至少可以清楚知道這是公司應該修復的錯誤，還是按照預期行為進行的，你應該討論政策。而現在，它有時候它會處於模稜兩可的狀態。而且還有很多其他微妙的場景，每個場景你都可以有自己的判斷。我對模型可能表現出的許多方式都持開放態度。但我覺得，你應該明確指出：“這是原則，模型在這種情況下就應該這麼做。”
萊克斯‧弗里德曼：你是否覺得在公司內部有這方面的壓力，即政治上有偏左或偏右的傾向，這會影響產品或團隊？
奧特曼：我覺得很幸運，OpenAI沒有像很多公司那樣面臨我所聽過的挑戰。我認為部分原因是每家公司都有一些意識形態的東西。我們有一個關於AGI的信仰，這排除了其他一些東西。與我所聽到的許多其他公司相比，我們在文化爭議中的捲入程度要小得多。儘管這種政治偏見以各種微妙的方式滲透進來了，但並不明顯。我認為我們肯定有過一些衝突，就像任何公司一樣，但我不認為我們在這個問題上經歷過像在其他公司聽到的那種情況。
萊克斯‧弗里德曼：隨著人工智慧變得越來越強大，這將是人類真正需要思考的問題。因此，OpenAI的大多數員工都會思考“安全性”，或至少在某種程度上思考“安全”這個詞。
奧特曼：廣義上來說是這樣。沒錯。
萊克斯‧弗里德曼：我想知道，這個問題有怎樣全面而廣泛的定義？可能會造成的不同危害有哪些？這是技術層面的問題還是幾乎涉及安全威脅？
奧特曼：這可能涉及所有這些問題。是的，我想說會有人，國家行為者試圖竊取這個模型。這將包括所有的技術對齊工作。這將涉及社會影響、經濟影響。這不僅僅是我們有一個團隊在思考如何對齊模型。要實現好的結果，真的需要整個公司的努力。
萊克斯‧弗里德曼：儘管你現在還不能透露太多細節，但我還是想繼續討論這個話題。你對GPT-4到GPT-5的飛躍中哪些方面感到興奮？
奧特曼：令我興奮的是，它會變得更聰明。我知道這樣的回答聽起來可能不夠嚴肅，但我認為真正令人興奮的事情是，它並不是在某個方面變得更好，而在各個方面變得更好。我認為這非常酷。
萊克斯‧弗里德曼：是的，確實有那麼一刻，就像魔法一樣。我指的是，當你遇到某些人，與他們相處，與他們交談時，你可能說不上來是什麼原因，但他們就是能夠理解你。這不是真正的智慧，而是某種其他的東西。我想這大概就是我描述GPT進步的方式。這並不是說，你可以指出“看，你沒有理解這個或那個”，而是它在多大程度上與你產生一種智力上的聯繫。你感覺到它理解了你那些糟糕的、零散的提示背後的深層問題。是的，我也對此感到興奮。畢竟，我們所有人都喜歡被聆聽，被理解。
奧特曼：那是肯定的。
萊克斯‧弗里德曼：那是一種奇怪的感覺。即使是在程式設計時，當你編寫程式並說出某些內容，或者GPT可能完成的某些內容時，當它理解你的想法時，那種感覺真是太棒了。我期待它在這方面能變得更好。展望未來，在程式設計方面，你認為5年、10年後人類會進行多少程式設計工作？
奧特曼：我認為還會有很多，但我認為它的形式會非常不同。也許有些人會完全用自然語言程式設計。
萊克斯‧弗里德曼：完全用自然語言？
奧特曼：我是說，沒有人透過寫程式碼來程式設計了。有些人還會這麼做，但現在已經沒有人再使用打孔卡來編程了。
萊克斯‧弗里德曼：程式設計確實挺難的。那麼，要怎麼才能邁過最後那1% 的鴻溝呢？這到底有多困難啊？
奧特曼：我認為在大多數情況下，最擅長這項技能的人會使用多種工具。他們會用自然語言做一些工作，當需要利用C語言寫程式時，他們也會這麼做。
萊克斯‧弗里德曼：我們會在某個時候看到OpenAI開發的人形機器人或人形機器人大腦嗎？
奧特曼：在某個時候會的。
萊克斯‧弗里德曼：你認為實體化的人工智慧對你有多重要？
奧特曼：我覺得如果我們有了通用人工智慧，但唯一能在現實世界中完成事情的方式是讓人類去完成，那將是很令人沮喪的。因此，我真的希望在這個過渡階段，我們也能得到人形機器人或某種能在現實世界中操作的機器人。
萊克斯‧弗里德曼： OpenAI在機器人方面有些研究和積累，但在倫理方面並沒有取得任何進展。
奧特曼：我們是一家規模不大的公司。我們必須真正集中精力。此外，當時研發機器人之所以艱難，並非因為有正確的理由。不過，我們將在某個時候以某種方式重新投入機器人研究。
萊克斯‧弗里德曼：這聽起來令人覺得有點不安，因為會讓人想起《魔鬼終結者》一樣的機器人。
奧特曼：我們會重新投入機器人研發工作。當然，我們不會把自己變成機器人。
萊克斯‧弗里德曼：你認為我們何時會有通用人工智慧（AGI）？
奧特曼：我以前很喜歡猜測這個問題。但我後來意識到，這個問題問得不夠準確，因為人們對AGI的定義差異極大。因此，我認為談論我們何時建立能夠執行X、Y或Z能力的系統更有意義，而不是模糊地談論何時會跨越某個里程碑。AGI也不是終點，它更接近一個起點，但它其實更多是一個里程碑。為了不逃避這個問題，我預計在2030年之前，或者可能比那更早，我們將擁有非常強大的系統，我們看著它們會說：「哇，那真是太了不起了。」前提是如果我們現在能看到的話。也許我們到了那個時候已經適應了。
萊克斯·弗里德曼：但如果你拿出ChatGPT，哪怕是3.5版本，你把它展示給艾倫·圖靈（Alan Turing），或者是90年代的人看，他們可能會說：「這絕對是通用人工智慧了。”當然，這不是絕對，但有很多專家會說：“這就是通用人工智慧。”
奧特曼：是的，但我認為3.5並沒有改變世界。它可能改變了世界對未來的期望，這實際上非常重要。它也確實讓更多的人認真對待這個領域，並讓我們走上了新的軌跡。這同樣也非常重要。所以，我不想貶低它的價值。我覺得完成這項成就後，我就可以退休了，並對我的職業生涯感到相當滿意。但是將它視作一個具體對象來看，我不認為我們會回頭看那個時刻，並說，“那是一個真正改變世界本身的分水嶺。”
萊克斯‧弗里德曼：對你來說，你是在尋找世界上某種真正重大的轉變嗎？
奧特曼：對我來說，這正是AGI所暗示的一部分。
萊克斯‧弗里德曼：奇點等級的轉變嗎？
奧特曼：不，絕對不是。
萊克斯·弗里德曼：但就像互聯網，或者像谷歌搜尋所做的那樣，這是一個重大的轉變。你認為現在是個轉捩點嗎？
奧特曼：你覺得現在全球經濟與GPT-4發布之前有什麼不同嗎？我猜你會說沒有。我的意思是，人們對AGI的定義各不相同，每個人都有各自的理解。但對我來說，我認為這應該是其中的一部分。
萊克斯·弗里德曼：也可能會有重大的戲劇性時刻。對你來說，AGI做的什麼會讓你印象深刻？如果你獨自一人在房間裡與這個系統對話。
奧特曼：這對我來說很重要。我不知道這是否是正確的定義。我認為當一個系統能夠顯著提高世界上科學發現的速率時，那就是非常了不起的事情。我相信大多數真正的經濟成長都來自科學和技術的進步。
萊克斯‧弗里德曼：但實際上，科學發現的速度是可以衡量的。但即使只是看到一個系統擁有真正新穎的、科學的直覺，那也會令人難以置信。
奧特曼：是的。
萊克斯‧弗里德曼：你很有可能會成為第一個與AGI互動的人。你打算和它聊些什麼？
奧特曼：我想這裡的研究人員肯定會在我之前做這件事。但我其實已經想過很多次了。就像我們之前討論的，雖然這可能不是一個好的出發點，但如果有人告訴我，「好了，山姆，我們完成了。這是一台筆記型電腦，這就是AGI。你可以去和它交流了」我發現我很難說出我會問什麼，以及我期待第一個AGI能夠回答什麼。第一個AGI可能不會像我想的那樣，例如，「給我解釋物理學的大統一理論，也就是物理學的萬物理論。」我很想問這個問題，也很想知道答案。
萊克斯‧弗里德曼：是非題。然後基於這個模式，你還會問：還有其他外星文明存在嗎？有還是沒有？你的直覺是什麼？
奧特曼：我不期望這是第一個AGI能夠回答任何這些問題，即使是是非題。但如果它能，那麼這些問題肯定會排在我的問題清單的前面。
萊克斯‧弗里德曼：率先開發出AGI的人會掌握很大的權力，你相信自己能夠妥善運用這種權力嗎？
奧特曼：我會很誠實地回答這個問題。我本來想說，而且我現在仍然相信，無論是我還是其他任何一個人，都不應該完全控制OpenAI或AGI。我認為我們需要一個健全的治理體系。我可以指出去年我們董事會風波中的一堆問題，例如最初我並沒有反對，只是說，「好吧，這是董事會的意願，儘管我認為這是一個非常糟糕的決定。」但後來，我確實反對了，我可以解釋其中的細微差別，以及為什麼我認為後來反對是合理的。但正如許多人觀察到的那樣，儘管董事會擁有解僱我的法律權力，但在實際操作中並沒有那麼簡單。這本身就是一種治理失敗。
現在，我覺得自己完全為這些具體情況辯護，而且我相信大多數人也會同意這一點，但這確實讓我更難直視你的眼睛說，「嘿，董事會可以隨時解僱我。」一直以來，我都不希望擁有對OpenAI的超級投票控制權。我從未想過，也從未擁有過。即使經歷了所有這些瘋狂的事情，我仍然不想要這種權力。我仍然認為不應該由任何一家公司做出這些決定，我們真的需要政府來制定規則。
我意識到，這可能意味著像馬克·安德森（Marc Andreessen）這樣的風投家會指責我試圖討好監管機構，我寧願在這裡被誤解，儘管那不是真的。我認為隨著時間的推移，我們為什麼這樣做的重要性將會得到證明。但我承認，我在OpenAI的決策過程中也犯了很多錯誤，當然也有很多好的決策，我對此感到自豪。但我不認為應該，也不會有任何一個人來控制整個局面。現在的局勢已經變得過於龐大，它正以一種積極健康的方式在整個社會中發展。我不認為任何個人應該控制AGI 或這個朝AGI 邁進的整個進程。
萊克斯‧弗里德曼：你害怕失去對AGI本身的控制嗎？很多人擔心存在性風險，不是因為國家行為者，也不是因為安全顧慮，而是因為人工智慧本身。
奧特曼：目前在我所看到的情況中，這並不是我最擔心的問題。未來可能會有時候這又成為我最擔心的問題，但至少現在它不是。
萊克斯‧弗里德曼：你的直覺告訴你，為什麼這件事不值得擔心？是因為還有很多其他事情要擔心？還是你認為自己可能會感到驚訝？
奧特曼：當然可能。說它不是我最擔心的問題並不意味著我認為我們不需要解決。我認為我們需要努力解決這些問題。這非常棘手，但我們這裡有很多優秀的人在做這方面的工作。同時，我認為還有很多其他事情我們也必須妥善處理。
萊克斯‧弗里德曼：對你來說，現在並不是超級容易就能跳出這個框架，連結到網路——
奧特曼：我們之前討論過戲劇性風險，而這正是一種戲劇性風險。它能夠左右人們如何思考這個問題。有一大群非常聰明、我認為非常善良的人工智慧安全研究人員對這個問題感到非常困惑，我認為他們在這個問題上沒有取得太多進展。事實上，我很高興他們這樣做，因為我認為我們確實需要更多地思考這個問題。但是，我也認為這種專注擠壓了對話空間，使得其他同樣重大的AI 相關風險被邊緣化了。
萊克斯‧弗里德曼：鑑於Sora生成模擬世界的能力，我想問你一個可能有點「腦洞大開」的問題。這會讓你更相信我們可能生活在一個模擬現實中，它也許是由人工智慧系統產生的？
奧特曼：某種程度上會的。但我不認為這是最有力的證據。我認為我們能夠生成世界這一事實，應該會在一定程度上提高每個人對此的接受程度或至少增加一些對這個觀念的開放性。但我確信，我們總有一天能夠做出像Sora這樣的東西。它到來的速度比我預想的要快，不過我認為這並沒有給我帶來太大的驚訝。
萊克斯·弗里德曼：但可以預見的是，它會變得越來越好，我們有理由相信它可以產生全新的世界，它們基於某些訓練數據，但當你看到它們時，它們是全新的，這讓人不禁思考，創造這樣的宇宙，建構一個超現實且像照片一般逼真的整個電子遊戲世界，其實是多麼容易。再進一步思考，我們帶上VR頭顯，沉浸在這樣的世界裡會有多容易，而當我們邁向更基於物理規律的層面時，又會簡單到什麼程度呢？
奧特曼：最近有人對我說，我認為這是一個非常深刻的見解，存在一些聽起來很簡單但非常迷幻的見解。例如平方根函數，求4的平方根很輕鬆，2的平方根可能是一種新類型的數字。但是一旦我提出這個簡單的平方根函數的概念，你可以向一個孩子解釋，甚至通過看一些簡單的幾何圖形就能理解，那麼你就可以問“負一的平方根是什麼？”這就是它帶有迷幻氣息的原因。這個問題會將你引入一個完全不同的現實維度。
你可以舉出很多其他例子，但我認為這個簡單的平方根運算子能夠帶來如此深刻的見解和新的知識領域的想法在很多方面都適用。我認為有很多這樣的運算符，它們讓人們覺得他們喜歡的任何版本的模擬假說都比他們之前認為的更有可能。但對我來說，Sora的工作甚至不在我排名前五名的優先事項之內。
萊克斯‧佛里曼：當你仰望繁星點點的夜空時，你認為宇宙中還有其他的外星文明嗎？也是擁有智慧的那種？
奧特曼：我很想相信答案是肯定的。我發現費米悖論非常難以理解。
萊克斯‧弗里德曼：我發現智能不擅長處理這樣的問題，這挺讓人害怕的。但同時，我堅信，宇宙中肯定存在著大量的智慧外星文明。可能只是穿越太空非常艱難而已。
奧特曼：很有可能。
萊克斯‧弗里德曼：這也讓我思考智能的本質。也許我們對智能的樣子視而不見，也許人工智慧會幫助我們認識到這一點。智能並不像智商測驗和簡單的解謎那麼簡單，它有更深層的東西。關於人類的未來，你有什麼希望？
奧特曼：我認為過去已經給了我們很多線索。我是說，我們看看人類在不漫長的時間裡所做的事情，雖然存在著巨大的問題、深刻的缺陷，還有許多讓人深感羞恥的事情。但總體上，這是非常振奮人心的。這給了我很多希望。
萊克斯‧弗里德曼：我們正共同努力邁向更美好的未來。
奧特曼：我一直好奇的是，通用人工智慧將更接近某個單獨的大腦，還是更像是聯繫我們每個人的社會基礎設施？你從高曾祖父母那裡繼承的基因變異並不大，但你所擁有的能力卻截然不同，你所知道的東西也截然不同。這並不是因為生物學上的演變。我的意思是，你可能變得更健康了一些，有了現代醫學的幫助，你可能會吃得更好。但重要的是，你擁有的是我們所有人共同建構的知識和技能的框架。沒有任何一個人會單獨去製造iPhone。沒有任何人會獨自去發現所有科學知識，但你能夠利用這些知識。這賦予了你難以置信的能力。某種程度上，這是我們所有人共同創造的成果，這讓我對未來充滿了希望。那是一項集體努力的成果。
萊克斯‧弗里德曼：我們確實站在巨人的肩膀上。你之前提到，當我們遇到戲劇性的人工智慧風險時，有時你可能會擔心自己的生命安全。你有沒有想到自己的死亡嗎？你害怕嗎？
奧特曼：如果我知道自己明天會被槍殺，而我今天就知道了，我會想，「哦，那太遺憾了。我想看看接下來會發生什麼。多麼不可思議、多麼有趣的時刻。 」不過，我最主要的感覺還是會非常感激我所擁有的生活。(騰訊科技)