奧爾特曼最新MIT訪談：現在是AI創業的最佳時機，10年後公司將產生提高經濟價值的AI系統
鈦媒體App 5月5日消息，OpenAI CEO奧爾特曼（Sam Altman）最近在美國麻省理工學院（MIT），與MIT院長Sally Kornbluth 進行了一場對話，主要談及他對AGI 技術發展的設想。
奧爾特曼表示，AI 是人類進步的核心引擎，核融合將為未來產生「能源動力」。同時，在當前新一輪生成式AI 時代下，是所有人開始新職涯、創立新AI 公司的最佳時機。
奧爾特曼指出，AI 系統可以提高人們的工作效率，但同時，隨著AI 加速變革，運算成本也將急劇下降，接近能源成本，從而解決「貧富不均」這一核心矛盾。「如果（AI）成為每個人免費獲得的東西，那對窮人的幫助應該比富人更大。”
奧爾特曼強調，AGI這個字被用的「過度氾濫」了。他希望十年後（2030年），OpenAI能創造出一個真正產生顯著（提高）經濟價值的（AI）系統。
鈦媒體AGI編輯圍繞AI 未來趨勢、AI 治理以及人類智慧展望三部分，梳理此次奧爾特曼1小時訪談實錄。
趨勢：AI 是人類進步的核心引擎
奧爾特曼曾表示，從技術創新和功能迭代來看，人類遠遠沒有達到AI 的極限，ChatGPT有潛力以「指數方式提高生產力」。
Sally Kornbluth首個問題是，AI 真的能消滅所有人類生命，並在「世界末日」場景中結束嗎？
奧爾特曼笑著回應稱，這不是一個形式不正確的問題（badly formed question）。
奧爾特曼表示，假設AI 是一個靜態系統，因此他認為人類需要做的是找到一種讓未來變得偉大的方法，並非在某種程度上讓「末日來臨」。更應該關心的重要問題是，我們需要怎樣做出能確保安全的AI 技術。
談到AI 發展至今的心理變化，奧爾特曼認為，10年前，他對AI 可能只是有一個“很天真的概念”，希望這種“生物”可以解決一些事情。而現在，他認為AI 與其他技術革命一樣，是最大、最好、最重要和最核心的發展利益。
「我們在人類的科技樹上有一個新的工具。人們用它來創造令人驚嘆的東西。我認為隨著時間的推移，它將繼續變得更加強大，更加自主。但即便如此，我認為它也會以一種重要的、變革性的方式融入社會。
奧爾特曼強調，AI 科技是人類進步的核心引擎，也是推動永續經濟成長的唯一路徑。
「人們並不滿足於GPT-4。他們想要GPT-5，他們想要事情變得更好。每個人都想要更多更好更快。而利用AI 提高科學能力，是我們到達那裡的方式。 。
當被問及GPT-5何時發佈時，奧爾特曼一如既往地未進行正面回應，只是表示GPT-5、GPT-6性能將更加強大，OpenAI將它們打造成為全球最好的推理引擎。
「不知何故，我認為，如果明天AGI建成，你問我第二天會發生什麼，10年前，我會說，真的無法想像它能夠實現『奇點』變化，一切都突然變得不同了。 我現在認為它根本不會像那樣。
奧爾特曼強調，OpenAI是開放（Open）的。他希望OpenAI將創造出一個偉大的、免費、人人可用的AI 工具，希望未來會有數十億人使用它。團隊不做廣告，只是把它當作公益事業來做，因為他認為把工具交到人們手中很重要。
「我們希望，它可以廣泛使用，非常容易使用，非常有幫助。我覺得這是件很酷的事。」奧爾特曼說。
“GPT將比人類產生更少的偏見”
隨著2022年11月發布的ChatGPT風靡全球，關於AI 使用大量英文數據引發關注。很多人認為，以英語優先的AI無法反映其他文化。
根據非營利組織「民主與科技中心」（CDT）發布的關於AI偏見的報告顯示，儘管全球只有16%的人口使用英語，但英語網站卻佔全球網站的63.7%。報告認為，這種（對某種語言的）偏向未能反映全球網路使用者所使用語言的多樣性，並進一步延續了英語的主導地位。
此外，世界經濟論壇引述一項國際研究團隊研究成果顯示，AI聊天機器人有「加法偏見」。演算法偏向使用含加法而非減法的詞彙表述，而這也符合長期以來的語言趨勢。在表達改善某事物時，包含加法的詞彙出現更頻繁，意義也更為正面。
去年美國參議院委員會的聽證會上，奧特曼被質疑該工具偏向英語使用者。他表示該公司「同樣重視」保障其他文化也被納入其中。
在這次MIT對話當中，奧特曼再次重申，OpenAI的ChatGPT對於消除偏見問題所做的已經足夠好了，對於價值觀的對齊已經在逐步改善。
「我認為我們已經取得了令人驚訝的良好進展，我們能夠根據一套特定的價值觀來調整系統行為。GPT-4的表現相當不錯，我們能夠讓它遵循（價值觀），至少比我想像的要好。對如何使用這些工具有很大的控制權是很重要的。應該做的等。
奧爾特曼強調，人類顯然是非常“有偏見的生物”，而且往往沒有意識到這一點。所以他認為，OpenAI系統可以比人類有更少的「偏見」。
奧爾特曼坦言，未來人類將擁有一個“個性化AI”，它知道你讀過每一封電子郵件，每一條短信，每一條你發送或接收的信息，可以訪問你生活的完整記錄，知道你看過的每一個文件，你讀過的每一個電視節目，你說過、聽到、看到的每一件事，你可以想像這將是一件非常有幫助的事情。但這也會出現隱私問題，所以AI 隱私問題需要與效用產生平衡。
「我不知道大多數人在哪裡做權衡。我不知道我們會說什麼或喜歡什麼，即使是在骨子裡也是允許的。我們之前遇到過一些問題，關於我們如何用一些隱私來換取我們所有人都使用的服務的實用性。 但這可以走得很遠。當人工智慧交叉時，就會變得更高的賭注和更大的權衡，我認為我們將開始真正面對此事。這樣做，而且很慢、很昂貴、很不好用，OpenAI希望製作一個像“推理引擎”一樣的模型，而且從所有需要的大量數據中分離出來，或者將數據存儲在那裡，以解決隱私問題。
另外，就未來的進步而言，AI 計算成本將急劇下降，接近能源成本，因此對於能源與AI 的關係變得更加重要。
對此，奧爾特曼直言，AI 確實需要大量能源，但相對於世界其他地方的（能源）需求來說並不是很大。如果AI 只是花費世界上1%的電力培訓強大AI，而AI 幫助人類弄清楚如何獲得非碳基能源或更好地進行碳捕捉，這將是一個巨大的勝利。即使我們沒有做到這一切，但如果我們華仔AI 1%的計算，也可以讓人類生活的更好。
「我讀到一篇，關於谷歌曾經使用的計算機與人們過去花在開車上的碳排放量比較，有人說谷歌太可怕了，我們應該關閉它。從理智上講，這是一件非常不誠實的事情，因為我認為這是能源的淨節約。 ，我們將繼續尋找更有效率的演算法，更有效率的晶片，我們會得到核聚變，我們要用這種方式為AI 提供動力 所以我們會以新的方式解決這些問題。方式不應該是——世界徹底完蛋了、試圖解決問題是沒有希望的、我們所能做的就是坐在臥室裡、在黑暗中思考我們有多糟糕——這是一種非常沒有成效的傾向。 」奧爾特曼坦言。
奧爾特曼強調，未來幾年後，我們（OpenAI）會同時解決AI 帶來的偏見、能源問題，這兩方面都將取得了很大進展。 OpenAI的目標是，讓AI 成為一個偉大的、免費的、數億人可用的AI 工具，希望未來會有數十億人使用它。
「我們不做廣告。我們只是把它當作一項公益事業來做，因為我們認為把工具交到人們手中很重要。」奧爾特曼說。
Altman：現在是我們在AI 領域創業的最佳時機
生成式AI 時代下，許多人開始討論，如何推動人類在AI 領域的發展與創新，以及人類與AI 的關係如何改變？
奧爾特曼一再強調，現在可能是新創公司的最佳時機，也是開始新的職業生涯的好時刻。
「在很長一段時間內，新創公司往往會在大平台轉移的時候取得成功。與新創公司相比，大公司的速度較慢，創新能力較弱，但它們有很多其他優勢。當你獲得速度、在迭代和週期時間的優勢時，最多是在地面震動的時候。公司，你擁有的優勢是，你可以更快地行動、你可以更多地展望未來創新，而不是像大公司那樣有季度或年等周期性計劃。
奧特曼認為，「我認為，如果你做了一些不成功的事情，如今你會得到一個」非凡「的時刻，我當然會偏向於你用AI 做一些事情，甚至未來很長一段時間內，你將你可以比平常更有影響力，更能從努力工作當中得到好處。完了，如今AI 會帶給你快速的創業迭代速度，甚至會邁向成功。
「GPT是一個神奇的東西。我們可以提出任何問題，它會回答問題，而且它會不斷地找出如何改善世界的方法。如果有人貢獻了對材料科學的一種見解，它會存在於我們所有人之間，並且一代又一代人變得更有能力。
奧爾特曼強調，AI 技術是推動繁榮和改善人們生活的方式，也是對他來說真正「引起共鳴」的領域。一旦你開始準備在AI 領域進行創業，就有望推動「驚人」的短期成長，在市場上有「贏」的機會，最起碼你也會取得一定的進步。
「所有這些都是我會努力打賭的事情，」奧爾特曼笑著說，他非常看好構建AI 應用或基礎設施的創業公司，他們都將在大模型時代中受益。而AI 應用層企業可能會產生1000億美金的價值。
談到AI 監管，奧爾特曼仍然認為AI 系統應該有一個“閾值”，超過這個閾值系統會呈現出一定的風險，因此需要有一個AI 系統的監管。
「我完全有衝動說，任何監管行動都是不可接受的，因為只有大公司才會利用它來進行監管俘獲。如果社會決定，我們根本不想監管AI ，我們只會碰碰運氣。但事實上是，我們不想再沒有合理的安全預防措施下發展AI、採取行動。
展望未來，奧爾特曼強調，AI 將在教育、金融等各個領域具有巨大潛力。未來10年、20年，你們每個人都會有一個偉大的AI“參謀長”，它們幫助人類提高效率，而人類將做更多有創造力、才華橫溢的工作。
「未來五年，我覺得AI 這股浪潮會衝向我們。但我不認為，20年、40年之後，OpenAI系統能力非常強大下，我們會跨越通用人工智慧（AI）時刻。我不再使用AGI這個詞，這完全是我永遠不會成功的事情。(鈦媒體AGI)