•
奧特曼史丹佛對話萬字實錄來了！關於GPT5、AGI、核融合發電、人類未來
丨劃重點
① 沒有必要害怕超級智慧的人工智慧，因為與未來的模型相比，每個新模型都被認為能力不足，進而推動了持續的改進。
② 僅僅專注於解決當前的人工智慧限制可能是徒勞無功的，因為像GPT-5和GPT-6這樣的未來模型可能會使這種努力過時。
③ 太空不適合生物生存，人類派出機器人探索和殖民太空將更容易。
④ 奧特曼在再生能源領域最看好核融合，未來可望把一度電成本降至1美分。
騰訊科技訊5月2日消息，據國外媒體報道，OpenAI首席執行官山姆·奧特曼（Sam Altman）4月24日參加了斯坦福大學企業思想領袖講壇ETL（Entrepreneurial Thought Leaders Lecture）的活動，超過1000名學生排隊參加了這項活動。 5月2日，史丹佛大學放出了活動的全程影片。
在當天的活動中，奧特曼在史丹佛大學的英偉達禮堂參加了一場對話活動，分享了他對人工智慧未來的見解。奧特曼發人深省的演講為人工智慧的未來提供了一個變革性的願景，強調了人工智慧產業的快速發展、對通用人工智慧的追求，以及在應對社會挑戰的同時利用創新方法的必要性等等。
奧特曼相信社會應該為技術進步做好準備，即使模型並不完美，這依賴於負責任的迭代部署。 「如果我們在地下室開發通用人工智慧，然後不向外界公佈，我不認為這讓我們能夠成為很好的鄰居，」奧特曼說。 “讓社會與技術共同發展。讓社會告訴我們，無論是集體還是個人，他們希望從這項技術中獲得什麼。”
儘管通用人工智慧的前景可能令人恐懼，但奧特曼相信它將成為社會實現更高目標的基礎。 「我其實一點也不擔心人類創新的窒息，」奧特曼說。 “人們會用更好的工具給我們帶來驚喜。我認為所有的歷史都表明，當你給人們更多的影響力時，他們會做出更多令人驚嘆的事情。”
奧特曼於2005年從史丹佛大學退學，後來因領導開發了ChatGPT和DALL-E的人工智慧新創公司OpenAI而聞名於世。成立於2015年的OpenAI最初是一家非營利研究實驗室，其使命是“確保通用人工智慧造福全人類。”
以下為奧特曼在史丹佛大學的對話實錄：
主持人貝拉尼：歡迎來到史丹佛大學企業思想領袖講壇。這是史丹佛大學為有抱負的企業家舉辦的研討會。企業思想領袖講壇由史丹佛創業工程中心（STVP）和史丹佛創業學生商業協會（BASES）共同主辦。我是管理科學與工程系講師、新創公司「煉金術師」與加速器主管人（Alchemist and Accelerator for Enterprise Startups）拉維·貝拉尼（Ravi Belani）。今天，我很榮幸地邀請到山姆·奧特曼參加企業思想領袖講壇的活動。奧特曼是OpenAI的共同創辦人、執行長。今天參加活動的多數人可能都了解OpenAI，我不需要進行更多的介紹。對於那些不知道的人來說，OpenAI是ChatGPT、DALL-E和Sora背後的研究和部署公司。
奧特曼的一生不斷在打破界線、超越自己和世界。他曾在史丹佛大學讀了兩年書，學習電腦科學。大二後，他加入了社群行動應用公司Loopt，該公司也是創業孵化器Y Combinator投資的首批公司之一。在Loopt從紅杉資本和其他創投公司募集到資金後，奧特曼選擇從史丹佛大學退學。在Loopt被Y Combinator收購之後，他又加入Y Combinator擔任營運職位。 2014年至2019年，奧特曼曾擔任Y Combinator總裁。
2015年，他聯合他人共同創辦了非營利研究實驗室OpenAI，使命是建構造福全人類的通用人工智慧。 OpenAI推出ChatGPT之後，這款應用在兩個月時間就成長到1億活躍用戶，成為史上成長最快的應用。
奧特曼曾被《時代雜誌》評為全球100位最具影響力的人物之一，也曾被《時代雜誌》評為2023年年度執行長。他最近也入選《富比士》全球億萬富翁榜單。奧特曼和他的丈夫住在舊金山，他在舊金山和納帕（OpenAI總部所在地）之間來回奔波。他也是一個素食者。現在，請我們共同邀請奧特曼上台。
貝拉尼：坦白說，剛才的介紹有點太長了，你可能不喜歡。簡潔是智慧的靈魂，所以我們會盡量讓問題更簡潔。本週（騰訊科技註：這次對話發生在4月24日）也是你的出生週，這是一個吉祥的時刻。週一（4月22日）是你的生日，我提到這一點只是因為我認為無論是否從時間上來說，你剛剛度過39歲生日；從地點上來說，你又在史丹佛大學參加企業思想領袖講壇活動。我很好奇，在你19歲在史丹佛大學讀書的時候，如果用三個字來形容你作為史丹佛大學本科生的感受，那三個字會是什麼？
奧特曼：這是個非常難回答的問題。我認為是興奮、樂觀和好奇。
貝拉尼：如果現在讓你用三個字描述身為史丹佛大學本科生的感受，會是什麼？
奧特曼：我想也是同樣的答案。儘管世界已經發生了變化，但仍有一條不變的主線。在過去的19年裡發生了許多變化，但與未來19年將要發生的事情相比，這些都是微不足道的。
貝拉尼：如果明天你突然穿越了，醒來時發現自己是史丹佛大學的19歲本科生，知道你所知道的一切，你會怎麼做？你會退學嗎？
奧特曼：我會很高興。我會認為自己是在過去幾個世紀最幸運的時刻成年了。我清晰的了解世界將要改變的程度以及影響它的機會。創業，做人工智慧研究，任何事情都是非常了不起的。我想這可能是創業的最佳時機。我想我會這麼說，我認為這可能是網路時代，或是科技史上最佳的創業時機。我認為你可以用人工智慧做比一年前更了不起的事情。最偉大的公司就是在這樣的時刻誕生的。最具影響力的新產品就是在這樣的時候誕生的。我會感到無比的幸運，我會決心充分利用它，我會明白自己想在哪裡做貢獻，並放手去做。
貝拉尼：你想繼續當學生嗎？如果是的話，你會選擇某個專業來跟上變化的步伐嗎？
奧特曼：也許我不會繼續當學生。我認為有理由假設人們會再次做出同樣的決定。我認為做學生是一件非常好的事情。但這可能不是我的選擇。人們會做他們要做的事情。如果穿越了，我想我還是會去從事人工智慧研究。
貝拉尼：如果穿越，你會選擇在學術界還是產業界工作?
奧特曼：我很難過地說，我想我會現實地選擇產業界。之所以這麼選擇，我認為需要身處一個有許多電腦技術的地方。
貝拉尼：上週我們邀請了汽車軟體供應商Applied Intuition的共同創辦人卡薩爾·尤尼斯（Qasar Younis），他大力倡導不要成為創辦人，而是加入一家現有的公司，學習一些技能。學生們正在糾結，我應該選擇在19歲或20歲就開始創業；還是應當加入另一個創業者的團隊，無論是研究實驗室還是風險企業。你會給他們什麼建議？
奧特曼：我會給另一個選擇方案，因為我認為創辦一家公司你會學到很多。保羅·格拉厄姆（Paul Graham）說：「沒有像醫學預科那樣的預創業。」我認為這非常正確。你們可以透過創業來學習如何創業。如果這是你非常確定想要做的事情，你也可以放手去做。
貝拉尼：如果有人創業想進入人工智慧領域，你認為在該領域剛起步的公司面臨什麼樣的短期調整。讓我們在擴展範圍，你認為未來三年OpenAI需要先解決，但又未能解決的問題會是什麼？
奧特曼：我認為從某種意義上來說，這是一個非常合理的問題，但我不會回答這個問題，因為我認為你永遠不應該接受任何人關於創業的這種建議。我認為，當有一件事情夠明顯，我或其他人會坐在這裡說出來時，這可能不是一個好的創業構想。我完全理解這種衝動，我記得我曾經問過別人我該創辦什麼樣的公司。
關於如何擁有一份有影響力的職業，我認為最重要的事情之一是你必須規劃自己的人生道路。如果你正在考慮的事情是別人無論如何都會做的，或者更有可能是很多人無論如何都會做的，你應該對此持懷疑態度。我認為應當學會相信自己，提出自己的想法，做非共識的事情，就像我們創辦OpenAI之初一樣。 OpenAI一開始就是非共識的事情，但現在已經得到世人的認可。現在我只有顯而易見的構想，因為我就像被困在一個框架中一樣，但我相信你們在座的人會有其他不同的構想。
貝拉尼：你在糾結什麼問題，而其他人卻沒有談論這個問題？
奧特曼：如何建造真正的大型電腦。我認為其他人也在談論這一點，但我們可能就像透過一個別人還沒有完全想像的鏡頭來看待它。當我們能夠開發出小學、中學或博士級別的智慧時，我們肯定會糾結於如何將其融入產品的最佳方式，以及對社會和人們生活產生積極影響的最佳方式。我們還不知道答案。所以我認為這是一個非常重要的問題。
貝拉尼：如果這真的是你的想法的話，我們能不能繼續討論如何建造真正的大型電腦？能分享一下嗎？我知道有很多猜測，可能也有很多關於你著手開展半導體代工業務的傳聞。能分享一下會做什麼嗎？你的願景是什麼？
奧特曼：能源、資料中心、晶片、晶片設計和新型網路。這就是我們如何看待整個生態系統，以及我們如何更好地利用它。我不認為只看一件或另一件是可行的，我們必須做整件事。
貝拉尼：這有多個重要的問題。
奧特曼：我認為這就是人類科技史的發展軌跡，因為我們建造了更大更複雜的系統。
貝拉尼：它是如何發展起來的？就像計算成本一樣，如果我說錯了請糾正我，聽說GPT-3模型耗費1億美元，用1750億個參數進行訓練；GPT-4模型耗資4億美元，參數是GPT-3的10倍。 GPT-4的成本幾乎是GPT-3的4倍，而是參數的10倍。如果方向正確，你認為成本會隨著後續迭代而不斷成長嗎？
奧特曼：是的。
貝拉尼：它還在倍增嗎？你如何利用這一點？
奧特曼：我認為給人們真正有用的工具，讓他們知道如何利用這些工具來建構未來是一件非常好的事情，非常有價值。我非常願意打賭你們所有人和世界上所有其他人的聰明才智，來弄清楚該怎麼做。所以可能有一些比我更有商業頭腦的人在擔心OpenAI花了多少錢，但我一點也不擔心。
貝拉尼： OpenAI是非凡的，ChatGPT是非凡的，所有其他的模型都是非凡的。 OpenAI去年燒掉了5.2億美元的現金，而這並不影響你對公司經濟模式的思考。 OpenAI將如何實現創收？
奧特曼：首先，感謝你的誇獎，但ChatGPT還談不上非凡。在通往通用人工智慧的道路上，ChatGPT目前的表現仍不出彩，GPT-4將來或許會是你們中任何人都必須再次使用的最愚蠢的模型。但是，儘早且經常性的推出新模型非常重要，我們相信迭代部署。但如果我們在地下室開發通用人工智慧，然後不向外界公佈，我不認為這讓我們能夠成為很好的鄰居，我認為重要的是向外界告知我們認為將要發生的事情，或者對我們認為將要發生的事情發表看法。不僅如此，我們還要把產品交付到人們手中，讓社會與科技取得共同發展。
模型到底好不好？給我們的領導者和機構時間來做出反應，給人們時間來弄清楚如何將它融入生活，學習如何使用這款工具。你們有些人喜歡用它在作業上作弊。但是也有一些人可能也喜歡非常令人驚奇的東西。
隨著每個迭代的發展，我認為這種情況會擴大，這意味著我們會推出不完美的產品，但我們有一個非常緊密的回饋循環，我們會學習並變得更好。推出一款讓你感到尷尬的產品確實有點糟糕，但這比其他選擇好得多。在這種情況下，特別是在我認為我們確實應該對社會進行迭代部署的情況下，我們學到的一件事是人工智慧和驚喜不能很好地結合在一起。人們不想感到驚訝，他們希望逐步推出並有能力影響這些系統。這就是我們要做的。將來可能發生的事情，可能會改變我們目前的想法，認為迭代部署不是一個好策略，但它目前確實是我們所擁有的最佳方法。
我認為我們從這樣做中獲得了很多東西，希望更大的世界也獲得了一些東西。不管我們一年燒5億美元還是50億美元或500億美元，我都不在乎。只要我們堅持下去，只要我們能找到資金，最終為社會創造更多價值，雖然代價高昂，但卻是完全值得的。
貝拉尼：你對2030年有什麼看法？你眼中的2030年是什麼樣的？
奧特曼：也許在一些非常重要的方面沒什麼不同。就像我們會回到史丹佛校園，這裡會有一批新學生。我們將討論創業是多麼重要。科技真的很酷。我們將在世界上擁有這個新的偉大的工具，它會感覺很神奇。一方面就像我們可以編寫複雜的程序，完成研究，或開展業務，但另一方面就像太陽繼續升起，人們繼續上演他們的人生戲劇一樣，生活仍在繼續。
貝拉尼：你剛才提到了通用人工智慧。在之前的一次訪談中，你把它定義為能夠模仿中等能力的人，或以這種人的能力完成任務的軟體。
奧特曼：我現在還是這麼認為。
貝拉尼：我們會在何時實現通用人工智慧？
奧特曼：就這個問題而言，我認為我們需要對通用人工智慧有一個更準確的定義。關於時間問題，這裡有太多的誤解，我認為這不是真正有用的，也不是人們真正想要的。我覺得人們想知道的是，當他們說通用人工智慧的時間線是什麼時候時，世界會變得非常不同？變化率什麼時候會變得超高？經濟運作的方式何時會真正不同？例如我的生活什麼時候會改變？出於一系列原因，這可能與我們想像的大不相同。
就像我完全可以想像一個世界，我們能夠在任何領域建立起博士級的智慧。我們可以讓研究人員更有效率，也許甚至可以做一些自主研究。從某種意義上說，這聽起來應該會大幅改變的世界。我可以想像，即便是我們這樣做了，然後我們會在幾年後發現全球GDP成長並沒有發生變化，諸如此類。想想就很奇怪。我最初並不知道這一切會如何發展，所以我不知道如何給出一個準確的時間表，說明我們何時達到人們關心的里程碑。但我認為重要的是，我們將擁有比現在更強大的系統，而且一代會比一代更強大。
我已經放棄給出實現通用人工智慧的時間表，但我認為在接下來的許多年裡，我們每年都會推出更強大的系統。
貝拉尼：關於通用人工智慧的風險問題，目前史丹佛大學內部討論的焦點是這項技術帶來的倫理問題。你如何看待通用人工智慧可能為我們帶來的風險？你認為通用人工智慧的最大風險就像是災難性的事件，還是會更微妙、更有害？你更關心微妙的危險還是災難性的危險，還是兩者都不關心？
奧特曼：我更關心細微的危險，因為我認為我們更容易忽略這些危險。許多人都在談論災難性的風險，很多人都在思考。我不想低估這些風險，我認為它們真的很嚴重，是真實存在的。但我認為我們至少知道要注意這一點，並為此付出大量努力。我不認為我們應該知道要注意什麼，這真的很難。雖然我對兩種風險都感到擔憂，但未知真的很難，所以我更擔心這些。
貝拉尼：你特別擔心的是什麼？
奧特曼：我會說，它們是已知的未知，我很擔心。儘管我認為短期內其他主要技術的變化比我們想像的要小，但從長期來看，我認為它們的變化比我們想像的要大。我擔心社會能以什麼樣的速度適應這類新鮮事物，以及我們需要多長時間才能找到新的社會契約，以及我們需要多長時間才能做到。
貝拉尼：我想知道，當你開始這段旅程時，你是否覺得自己有足夠的自我意識？
奧特曼：首先，我認為韌性是可以被教導的，我相信它一直是最重要的生活技能之一。我認為在未來的幾十年裡，韌性和適應性將比過去很長一段時間更重要。我認為這真的很棒。關於自我意識的問題，我認為我有自我意識，我相信每個人都認為他們有自我意識。但我是否真有自我意識從內心來說很難說。
貝拉尼：我可以問你一些我們學校在自我意識介紹課上提到的問題嗎？
奧特曼：當然可以。
貝拉尼：你可以透過它們尋找聯繫。我認為你可以提出一個與眾不同的想法，或是某個領域的專家所提出的想法。你最危險的弱點是什麼？
奧特曼：最危險的弱點，這確實是一個有趣的問題。我想我有一種過於支持科技的一般偏差。這只是因為我很好奇，我想知道科技會走向何方。我相信技術整體來說是一件好事。但我認為這是一種對我和其他人都有好處的世界觀，得到了很多積極的強化，但它並不總是正確的。當它不正確時，對很多人來說都很糟糕。
貝拉尼：哈佛大學心理學家大衛‧麥克利蘭（David McClelland）指出，所有的領導者都受三個原始需求之一的驅動：被人喜歡的歸屬感需求、成就需求和權力需求。你認為你受什麼需求的驅動？
奧特曼：我認為在我職業生涯的不同時期，所有這些驅動力都存在。我認為它們就像人們經歷過的不同層次。目前，推動我的是我想做一些有意義、有趣的事。
貝拉尼：你上一次感覺最像自己的時候在哪裡？最後一個問題，你對GPT-5最感興趣、而人們不會感興趣的是什麼？ GPT-5發佈時，什麼是讓你最感興趣的？
奧特曼：我還不知道。這聽起來像是逃避問題的回答，但我認為GPT-5最重要的是它會比現在的模型更聰明。我們能夠高度確定，GPT-5將會比GPT-4聰明得多，GPT-6將比GPT-5聰明得多，我們還沒有接近這條曲線的頂端，我們知道該怎麼做。一般來說新一代產品會更聰明，但我認為這句話的重要性仍然被低估了。
一點也不擔心人類創新會被扼殺
Q：我想和你談談負責任地部署通用人工智慧的問題。隨著你們不斷接近這一目標，你們打算如何在OpenAI中負責任地部署通用人工智慧，以防止扼殺人類創新並繼續刺激創新？
奧特曼：我其實一點也不擔心人類創新會被扼殺。我真的深深相信，人們會用更好的工具帶給我們驚喜。我認為所有的歷史都表明，如果你給人們更多的影響力，他們會做更多令人驚訝的事情，這就像我們都從中受益一樣。
我越來越擔心我們如何負責任地做這件事。我認為隨著模型變得越來越有能力，我們的標準也越來越高。我們做了很多事情，如紅隊和外部審計，我認為這些都很好。但我認為隨著模型變得越來越強大，我們將不得不進行更多的迭代部署，在查看它們如何使用、在哪裡可以使用、在哪裡不可以使用方面有更緊密的反饋循環。過去，我們每隔幾年就會發布一次主要的模型更新，現在我們可能必須想辦法增加迭代頻率，部署比過去更具迭代性的產品。我們還不太清楚如何做到這一點。我認為這將是負責任的部署的關鍵，也是我們讓所有利害關係人協商人工智慧規則的方式。隨著時間的推移，這也會變得越來越複雜。
問：你之前提到對更大、更快的電腦的需求越來越大。然而，世界上許多國家也建立資料中心或大型電腦的基礎設施。你如何看待這些對全球創新的影響？
奧特曼：我從兩個方面回答這個問題。首先，無論電腦在哪裡製造，我認為全球和公平地使用電腦進行訓練和推理是非常重要的。我們使命的核心內容之一，是我們讓所有想使用ChatGPT的人都可以免費使用它，但有些國家除外。在這些國家，我們有充分的理由不能或不想運作ChatGPT。我們如何考慮讓世界更多地使用訓練計算將變得越來越重要。我確實認為，我們進入了一個世界，在這個世界中，我們可以把使用一定數量的計算視為一種人權，我們必須弄清楚如何將其分發給世界各地的人們。
其次，我認為各國將越來越意識到擁有自己的人工智慧基礎設施的重要性。我們希望找到一種方法，我們現在花了很多時間在世界各地旅行，在許多想要建立這些基礎設施的國家建立這些基礎設施。我希望我們能在幫助實現這一目標方面發揮一些小作用。
Q：我的問題是，你認為人工智慧在未來的太空探索或殖民中扮演什麼角色？
奧特曼：我認為太空顯然不適合生物生存。因此，如果我們能派出機器人，這似乎更容易。
讓自己置身於正確的同儕群體中非常重要
Q：我的問題是你如何知道一個想法是非共識的，我認為它複雜的原因是因為它很容易過度思考。我想今天連你自己都說人工智慧是創業的熱土。我認為這是相當一致的意見，也許是理所當然的。這是一個轉捩點。我認為很難根據你所談論的群體來判斷一個想法是否為非共識。一般大眾對科技的看法與科技社群不同，甚至連科技菁英和科技社群的看法也不同。所以我想知道你是如何驗證你的想法是否足夠非共識。
奧特曼：首先，你真正想要的是對的。逆向思維和犯錯仍然是錯的。如果你在過去的兩輪衰退中預測了17次，你可能對正確的兩次進行了逆向投資，甚至可能一次也不會。但是你又錯了15次。因此，我認為人們很容易對逆向思維過於興奮，並再次認為正確是最重要的事情。群體通常是正確的，但最有價值的地方是當你逆向思考且正確時。這並不總是以0或1的方式發生。就像房間裡的每個人都同意人工智慧是創業的正確領域，如果房間裡的一個人找到了創業的正確領域，然後成功地執行，其他人都會認為，這是不是你能做的最好的事情。這才是最重要的。
所以，當傳統智慧是正確的時候，你可以選擇傳統智慧，然後找到你有獨特見解的領域。就如何做到這一點而言，我確實認為讓自己置身於正確的同儕群體中非常重要，而且找到有獨創性的思考者也很重要。但這其中一部分是你必須獨自完成的，或至少有一部分是你獨自完成的，或是和其他一些人一起完成的。他們可能會成為你的共同創辦人或其他什麼人。我想，當你在這個圈子裡走得太遠的時候，我怎麼能找到合適的同齡人呢？不知何故，你已經進入了錯誤的框架。所以，要學會相信自己，相信自己的直覺，相信自己的思考過程，隨著時間的推移，這會變得容易得多。無論他們說什麼，我認為沒有人在他們剛起步時真正擅長這件事。就像你還沒有鍛鍊出肌肉，你所面臨的社會壓力都與此相反。隨著時間的推移，你會越來越好，不要太早把自己的標準定得太高。
核融合最終會主導地球上的發電，1度電成本僅幾分錢
Q：我很想知道你對未來幾十年能源需求將如何變化的預測，以及我們如何實現再生能源一度電成本僅為1美分的未來。
奧特曼：這一天也許會到來，但不確定。我希望我們能保持足夠高的標準。我忘了現在世界上的發電量到底是多少，讓我們假設它是3000或4000千兆瓦。即使我們為人工智慧再增加100千兆瓦電力，它不會實質地改變，但會改變一些；如果我們為人工智慧增加1000千兆瓦電力，這是一個實質性的變化。但我們還想做很多其他的事情。
能源似乎確實與我們能為人們提供的生活品質有很大關係。我的猜測是核融合最終會主導地球上的發電。我覺得應該是最便宜、最豐富、最可靠、最密集的來源。我可能是錯的，也許會是太陽能加儲存。無論如何，會有一些情況下，其中一個比另一個更好。但這些都是押注未來全球一度電成本僅1美分。
關於OpenAI：未來將進行更多的架構調整
Q：關於OpenAI去年發生的事情。你從中學到了什麼？你談到了韌性，所以你從離開那家公司和隨後回歸的經歷中學到了什麼？微軟當時也向你發出了邀請函，是什麼讓你回到OpenAI？
奧特曼：沒有我，OpenAI完全可以運作幾天。 OpenAI團隊非常有彈性。就像我們知道從現在到實現通用人工智慧，可能會發生更多瘋狂的事情，因為世界不同地區的情緒反應越來越強烈，賭注也不斷增加。我認為團隊在很大的壓力下會做得很好，但在開始試驗之前絕對不會知道這一點。這段經歷讓我明白，OpenAI團隊有超強的適應能力，並準備好經營公司。
關於我為什麼回來的問題。就像第二天早上董事會打電話給我，問我你對回來有什麼想法？我當時回答：「不！我瘋了！」然後我想了想，我意識到我有多愛OpenAI，多愛團隊成員，多愛我們建立的文化和使命。我有點想徹底實現它。
Q：我們能不能談談OpenAI的架構問題？ OpenAI採用了俄羅斯娃娃的架構模式，讓非營利公司持有營利公司的股權。
奧特曼：我們逐步的採用了這種架構模式。如果我們能重來一次，我不會選擇這麼做。在OpenAI創辦之初，我們不認為自己會有一款產品。我們就像是人工智慧研究實驗室。當時我們也不了解語言模型、API或ChatGPT。所以如果你們要創業，必須明白終有一天你會賣一款產品。我們當時並沒有想到這些。我們也沒有意識到我們需要在算力上投入巨額資金。我們沒意識到我們會有這麼好的業務。
Q：你聯合創辦OpenAI之初的打算是什麼？
奧特曼：我們只是想向前推進人工智慧研究。
問：我們在學校裡向學生傳授驅動企業家精神的原則。美國成立時，治理的架構是憲法，權利透過三權分立制衡。有人對權力集中持懷疑態度，它會讓事情進展緩慢。很難讓事情發生變化，但它會非常穩定。 OpenAI的估值接近1000億美元，而董事會的角色卻非常有限。它是一個非營利董事會，只是負責履行受託人職責。 OpenAI的這種架構是否合理？
奧特曼：如果我們當時能夠知道目前的狀況，我們就不會這麼做。但如果無法徹底改變，就必須適應。我們有一個真正關心的使命。我們認為，人工智慧會非常重要。我們認為我們有一個可以學習的演算法，我們知道它會隨著規模的擴大而變得更好。我們不知道隨著規模的擴大，它會如何變得更好，我們希望推進這一點。我們認為這將是人類歷史上一件非常重要的事情，我們沒有把所有事情都做好，但我們在大問題上是正確的，我們的使命沒有改變。
我們已經調整了結構，我們將在未來進行更多的調整。但是，就像人生不是一個問題集一樣，你不可能一下子好好解決所有問題。企業運作和教學完全不同。我的建議是相信自己去適應。雖然會有點亂，但你可以做到。
Q：我這麼問是因為OpenAI的重要性。 OpenAI董事會與公司財務相獨立，這樣就能夠以非營利組織的身份做出決定。董事會將考慮利益相關者的利益，因為他們是利益相關者的受託人。這些利害關係人並不是OpenAI的股東，而是全人類。所有的OpenAI股東都是獨董，不會接受來自你和OpenAI的財務獎勵。
奧特曼：我覺得賺錢是好事。我認為資本主義是個好東西。 OpenAI的共同創辦人都持有公司股權，但我從未見過他們不認真看待公司使命。我們創建了一個架構，我們認為這是一種讓激勵措施保持一致的方式。
Q：你認為通用人工智慧會如何改變地緣政治？
奧特曼：我想了這麼多，我很難說出它實際上會做什麼。或者更準確地說，我很難說出它不會做什麼。我們之前討論過它也許不會太多改變日常生活。不過我感覺它確實對全球的權力平衡改變了很多。但是我沒有一個確切的答案。
Q：在部署通用智慧和負責任的人工智慧時，你認為人工智慧系統有多大必要以某種方式識別自己的不安全性或不確定性，並將其傳達給外部世界？
奧特曼：總是對過度擬人化人工智慧感到緊張，因為我認為這可能會導致一些奇怪的疏忽。但如果我們說像人工智慧在多大程度上認識到自己的缺陷？我認為建立這種能力非常重要。現在，這種能力能夠識別推理中的錯誤，並具有某種自省能力，這對我來說是非常重要的追求。（騰訊科技）