MIT校長對話OpenAI CEO：GPT-5或將資料與推理引擎分離｜甲子光年
繼4月24日科技界的“頂流”，OpenAI首席執行官薩姆·奧爾特曼（Sam Altman）在斯坦福大學進行演講後，他又從矽谷橫跨美國來到了麻省理工學院（MIT ）。這次的爐邊談話，奧特曼與MIT校長莎莉·科恩布魯斯（Sally Kornbluth）共同探討了人工智慧的未來發展。
當地時間5月2日中午13:00，距離這場對話開始還有2個小時，就有觀眾來到了活動所在的MIT Swraj Paul劇院。演講開始前1小時，門口已排長龍。由於報名的人數太多，主辦單位不得不啟用搖號的方式分配門票。
令人唏噓的是，在活動的不遠處，對巴以衝突持不同觀點的兩派學生正在抗議。就像這個時代的割裂縮影，衝突頻繁與科技躍遷，希望與挑戰並存。
身為OpenAI的掌舵人，奧特曼和團隊一直不斷打破人工智慧領域的邊界。所有的目光都集中在舞台上，這不僅是關乎一家公司的故事，更是一場關乎人類創新閾值對話——它關乎希望、責任與未來。
正如活動的主持人、MIT董事會主席馬克·戈倫伯格（Mark Gorenberg）在開場時所說：“當大多數人提及生成AI時，便會立即想到OpenAI和奧爾特曼。”
奧爾特曼這次的分享依舊主打一手“情懷”，關於技術本身鮮有剖析。一個小時的對話，他用直白的語言描繪出了一個「為人所用的工具（tools for human）」的未來。但對於談話內容，有MIT的同學聽過後對「甲子光年」表示「深受鼓舞」；也有人認為他「淨講些『虛頭巴腦』的大概念」。
奧特曼主要聊了以下七點：
相對於討論AI引發災難的機率，我們更應該關注如何避免AI帶來的災難；
OpenAI在做的是「為人所用的工具」，不是在創造生物；而人類充滿偏見卻往往不自知；
在參數中保存資料很“奇怪”。 GPT-5或GPT-6可能嘗試將數據與推理引擎分開；
氣候也許不是一個大挑戰，但訓練所需的能源是一個挑戰；
AI不會搶奪人類的工作。未來每個人可能都會擁有一個由AI驅動的完整公司；
他對AI在健康和教育領域的影響最感興趣，但對金融沒有太多思考；
OpenAI的使命是讓運算更可及、更自然。未來不再需要掌握程式語言。
OpenAI被推到今天的位置，是因為ChatGPT的迭代速度，某種程度上代表了自然語言處理（NLP）的技術發展和AI應用的爆發速度。
人類對科技進步的快速適應，讓期待也不斷成長。就像奧爾特曼在對話中所講的：大家對GPT-4興奮了兩週，轉而又迅速詢問GPT-5的進展（Everyone was excited about GPT-4 for two weeks, but then quickly shifted focus to asking about GPT-5）。
1.面對AI技術革命，“既樂觀又悲觀”
“你的'末日值'是多少？”
伴著科恩布魯斯拋出的第一個問題，對話正式開始。她向奧特曼介紹，這場對話的所有問題，都是由學生提出、校方篩選的。
所謂「末日值」（probability of doom，簡寫為p(doom)），即指個人認為AI可能帶領人類走向末日的機率，也是近期矽谷科技新貴們最常掛在嘴邊的問候語。
這個指標的範圍從1到100。數字越高，表示個人越相信AI會消滅所有人類並導致世界末日。
「我認為這個問題表述不太恰當，問題假設了一種靜態的系統。」奧爾特曼回答，「雖然我自己也樂於對數字進行長篇大論。但不管這個數字是2、10、20或90，關鍵點在於它不是0。
同時，奧爾特曼認為AI現階段還沒有「做得夠好」。十年前，他對AI有一種更「天真」的看法，將其視為一種能自行解決問題、帶來財富的「魔法超級智慧」；但現在，他認為AI更像是一場「技術革命”，為人類帶來希望。
而對於這場科技革命，奧特曼是既樂觀又悲觀的。
他一直一再強調的觀點──AI是人類科技樹上的新工具（a new tool in the tech tree of humanity）。在史丹佛演講時，奧爾特曼同樣提到OpenAI在做的是“為人所用的工具（a tool for human）”，並沒有創造生物。人類沒必要害怕超級智慧的人工智慧，每個新模型的缺點也是它們持續迭代的動力。
長期以來，AI一直被詬病存在價值觀問題：誰來定義什麼是偏見，什麼是價值觀？如何決定係統應該執行什麼任務？社會應該在多大程度上定義這些邊界，而我們又應該在多大程度上信任使用者合理地使用這些工具？
對於這個困境，奧爾特曼的想法是在明晰技術的潛力和限制同時，還需在技術潛能和道德限制之間找到平衡。透過人類回饋進行強化學習（RLHF）等技術，可以消減模型偏誤的缺陷。
「人類本身就是充滿偏見的生物，但往往並不自知。」他說道，「像GPT-4或之後的GPT-5這樣的模型沒有和我們相同的心理缺陷。雖然它們不完美，但總的來說，我這些系統會比人類表現得更公正。
除偏見外，AI發展的另一個核心問題是如何在用共享資料訓練AI模型時保護個人隱私。
隨著科技的進步，一個全知全能的個人化AI並非與我們遙不可及：它能追蹤我們的電子郵件、簡訊今和生活記錄，甚至我們看過的電視節目和資料夾。
奧爾特曼將稱它為「讓人又愛又恨的存在」：便利生活同時也帶來了極大的隱私風險。
誠然，我們已在網路時代中犧牲了一部分隱私以獲得便利，AI的介入會讓這種權衡更為複雜。 「在AI發展的背景下，我們需要重新定義『特權資訊』的概念，以防止個人化AI在法律上被用於不利於我們的情況」。
「我們得的GPT-5或GPT-6成為最佳的推理引擎，目前而言，能達到最佳引擎的唯一路徑就是訓練大量的資料。」但奧爾特曼認為，實際模型在處理資料時浪費了許多數據資源。
如GPT-4。它也能像資料庫一樣運作，只是推理速度慢、成本高昂且效果「不盡人意」。這些問題本質上是因為模型的設計和訓練方式所導致的資源浪費。
「不可避免的，因為這是我們製作推理引擎模型的唯一方法的副作用。」但他能預見未來會有新方法，將模型的推理能力與對大數據的需求性剝離。
值得注意的是，就在奧爾特曼演講的同一天，有網友在X上發文表示，OpenAI創建了一個新的搜尋服務的域名：http://search.chatgpt.com ，並由此推測Open在微軟Bing的支援下，可能正在開發新的搜尋服務。
它或將成為谷歌搜尋最大的威脅，甚至完全迭代當前的搜尋引擎的方式。
隨後，科恩布魯斯問了奧爾特曼一個略為「扎心」的問題，即OpenAI的閉源決策，並希望他能多說「億點點」。但奧爾特曼選擇含糊帶過，言下之意就是「我們」已經提供免費的AI工具了（GPT-3.5），還要什麼「自行車」。
談到能源，奧爾特曼認為，AI的能源需求雖然龐大，但相較於全球其他需求仍屬於小規模。在這樣的對比下，如果AI能幫助人類尋找到非碳能源，或優化碳捕獲技術，即便耗費1%的全球電力，這也會是一種「巨大的勝利」。同時他也表示看好核融合。
2.“當下是AI創業的最好時機”
AI創業一直是備受關注的議題。
奧爾特曼這次活動再次強調了他的觀點：在接下來很長一段時間裡，都是新創公司最好的時機。
新創企業一般能在大型平台變革期間獲得成功。相較之下，大公司雖然資源豐富，但在創新和迅速反應方面往往不如新創公司靈活。
目前我們處於類似網路初期和行動互聯技術興起時的歷史性時刻。如同雲端服務和AWS推動了先前的技術變革，AI技術平台正在形成，為創業提供了絕佳的機會。
但在科技革新的熱潮中，新創公司也不能忽視傳統商業策略的重要性，需要在追求創新的同時，建立強大的客戶關係和市場地位，「這些都是長久成功的關鍵」。
AI技術的興起對未來的就業市場同樣有重大影響。
根據領英最近的勞動力市場調查，生成式人工智慧（GAI）技術的興起正在對全球職業市場產生深遠影響。 2023年，已有超過500種職業技能可能受到AGI的影響，預計到2030年，將有65%的職業技能發生變化。
高盛的研究也指出，在美國和歐洲，生成式AI對職業任務的自動化威脅顯著，目前美國約2/3的工作在一定程度上面臨AI自動化的風險，且生成式AI可能取代1/4的崗位。在全球範圍內，生成式AI的發展可能使3億個全職工作面臨淘汰的危險。
「有觀點認為AI將帶來職業的消失，但科技革命也會創造新的職業機會。AI會改變很多工作的性質，並帶來全新的職業類別。」奧爾特曼解釋道，「這種變化需要時間來顯現其經濟影響，好的或壞的，都將是我們可以實際測量和感受到的。
創業者和就業市場面對的是一個快速變化的科技環境。關鍵在於適應這些變化，找到與新科技共存的方式。
科恩布魯斯和奧爾特曼也從AI監管的角度對創業、就業的影響進行了討論。科恩布魯斯提到了美國國家層級對AI技術的監管，她提到有人擔心過度的監管可能會鞏固大公司的地位，限制小型企業和創新者的發展機會。
對此，奧爾特曼認為在於「合理的門檻」。「完全不監管AI的想法雖然存在，但最終還是要透過民主進程來決定。」他分享了自己的觀點，監管政策的製定需要既保護消費者安全，也要避免對小型企業和創新者的過度壓制。
隨著時間的推移，電腦技術變得越來越容易接觸和使用。從低階程式語言到現在的高階程式語言，科技的演變使得程式設計變得更加直觀和強大。這種從命令列到圖形使用者介面（GUI）的轉變，以及從實體鍵盤到觸控螢幕的過渡，都標誌著使用者與電腦互動方式的演化。
「OpenAI的使命是讓計算更可及、更自然。」奧爾特曼說。像ChatGPT這樣的自然語言處理技術，正在推動AI與人類使用相同的互動介面，這種趨勢可能會終結未來技術使用者對程式語言的需求。
而在具體的產業上，奧爾特曼表示自己最關注AI對健康和教育領域的影響，對金融領域的思考並不多。
在教育領域，AI的應用有巨大潛力實現課堂教學的個人化和優化。 AI可以根據每位學生的學習進度和風格調整教學內容和節奏，讓教育更符合個人需求。
「我認為AI時代出生的嬰兒永遠無法想像一個沒有智慧產品和服務的世界。」奧爾特曼說。毋庸置疑，AI技術的發展正在推動社會各個層面的變革，從個人化服務的提供到教育模式的最佳化，再到職場技能的重新定義。
在這場演講之外，ChatGPT等多重AI產品，正在幫助人類塑造一個更聰明、個人化的未來。
這很容易讓人聯想到人工智慧創造力，或稱為運算創造力。這是一個研究如何設計出能達到甚至超過人類水平創造力的程序的多學科領域。
有關該領域的討論可以追溯到19世紀，「電腦程式之母」埃達·洛夫萊斯曾質疑機器的獨立創造力，但近年來無監督學習的進步讓人們重新考慮AI的創造潛能。目前有兩種主流觀點：一種看待AI作為人類創造性的增強工具，另一種則希望AI成為完全獨立的創造者。
AI在模仿和產生新內容方面取得了顯著進展，但由於缺乏真正的情感理解和直覺，生成式人工智慧不能取代人類的智慧和洞察力。正如史丹佛大學教授李飛飛所言：“AI替代不了人性的部分，就像宮崎駿永遠也不會被AI取代。”
我們將被機器賦予越來越多的超能力，但作為人類的核心不會被取代。 (甲子光年)