•
AGI 到底是什麼？ ｜OpenAI工程負責人萬字實錄
7月31日，OpenAI工程副總裁Srinivas Narayanan接受了海外播客Think School的訪談。本次對話探討了OpenAI成功的關鍵－「規模化」信念，此外，系統性地探討了AI Agent的顛覆性潛力，及其對軟體工程、未來就業市場所帶來的深遠影響。
Srinivas Narayanan指出，OpenAI的崛起並非完全依賴持續的演算法突破，而是在早期就堅信：即便使用現有演算法，透過千百倍量級的資料和算力進行“規模化”，同樣能創造出前所未有的智能系統。
他認為，未來世界最重要、最不會被取代的工作之一將是“品味官”，即那些能深刻理解人類需求、為AI指明方向的決策者；同時，他認為軟體工程師的角色將從“執行者”徹底轉變為“戰略家”，每個工程師都需具備創始人的思維模式，思考“建構什麼”和“為何建構”，僅僅是“如何建構”，僅僅是“如何建構”。
01. Sam Altman的遠見
你和 Sam Altman 共事已有兩年，他究竟是怎樣一位領導者？他是如何締造出 OpenAI 這樣傳奇的公司的？
Srinivas Narayanan:Sam 非常了不起。他最特別之處，就在於其極具遠見。他比任何人都更快、更準確地洞見未來。舉個例子，OpenAI 是最早真正堅信「規模化」能大大推動AI發展的公司之一。當時這只是一個想法，大家都在探討。那時也並非只有OpenAI 一家在研究AI。但正是這種對「規模化」方向堅定不移的信念是OpenAI 取得今天成就的關鍵。事實也證明了這個論點。巨大的功勞必須歸於Sam，因為他預見、相信並全力推動了這一點。所以，他是一位卓越的遠見家，同時他雄心勃勃，對AGI 懷有深切的熱忱，與他共事能為人帶來極大的啟發。
正如我剛才舉的例子，是他對特定方向那種近乎瘋狂的執著，以及他那種能夠說服眾人投身於這一偉大征程的意願。他建立了一支卓越非凡的團隊，這裡的成員是我共事過的才華最密集的一群人。他有能力激勵這群傑出的人才匯聚一堂，為了我們的使命而奮鬥。我們的使命是建構一個能造福全人類的 AGI。我們相信，這是我們這一代所面臨的最重大的技術變革之一。因此，他在匯聚如此高水準的人才來共同追求這一使命方面，做得非常出色。
他當然會和很多人交流，但這更多是源自於一種根本性的第一原理思維。你需要連結不同的資訊點，理解研究的前沿方向，與人探討，但最終你會形成自己的論斷，並且願意將想像力推向極致。比如說，回到我之前提到的規模化的例子，如果你相信某些設想是成立的，那麼其帶來的後果將是顛覆性的。在五、六年前就能堅信這一點，確實非常了不起。所以，關鍵在於：回歸第一原理進行推理的能力，以及敢於承擔風險的意願。而且他非常有雄心，能夠吸引到如此巨額的資本，匯聚這麼多傑出的人才投身於這個使命，並讓你相信，這個使命值得你如此奮不顧身地去追求。這真的非常特別。
02. OpenAI早期共識：即便用現有演算法，千倍算力也能建構出極為智慧的系統
你提到“規模化能讓你走得更遠”，這在快消品行業顯而易見，但在AI領域，你卻說這是一個反直覺的想法。這具體是什麼意思？Sam是如何想通這一點的？當我們用千倍以上的資料和算力去訓練一個AI系統時，究竟會得到什麼？
Srinivas Narayanan:AI 領域過去的傳統觀念是，你需要依靠研究上的突破，也就是需要新的演算法和研究技術來建立更聰明的系統。比如說，深度學習這個概念大家已經很瞭解了。我們研究深度學習已經有三、四十年了，但僅憑它本身，並不足以推動AI取得長足進步。你還需要像Transformer 這樣的創新,這是2000 年代中期一篇非常重要的研究論文。當時，人們認為可能需要更多類似的新想法，並將它們層層疊加，才能在智慧層面上有所提升。某種程度上，至今仍有人抱持這種看法。
但當時還有另一個信念：讓我們沿用現有的演算法。例如深度學習，例如作為深度學習想法之一的 Transformer。如果我們採用同樣的想法，但用千倍的資料和千倍的算力去訓練 AI 系統，會得到什麼結果？系統會變得聰明一千倍嗎？在當時，這是一個鮮少有人相信或嘗試的方向。所以 OpenAI 做得非常出色的一點就是，他們堅信這個方向，並認為，我們並非不需要演算法創新，我們當然會做，但即便使用現有演算法，只要擁有千倍甚至百萬倍的資料和算力，我們同樣能建構出極其智能的系統。
03. 我們正處於AI Agent的時代
Sam 是如何展望 AI 的未來的，在未來五年內，AI 會為世界帶來什麼？可否具體展望一下，例如到 2030 年，ChatGPT 會有那些可能性？
Srinivas Narayanan:在過去的幾年裡，我們一直在建立比以往任何時候都更加聰明的AI 系統。研究和系統的迭代速度是前所未有的。時間從2020 年快轉到2025 年，你現在看到的AI 系統，已經能和人類進行非常自然的對話。 ChatGPT 的誕生不過是兩年半前的事，這簡直令人難以置信。我們正處於技術史和AI 史上的一個非凡的轉折點，每隔半年、一年，甚至可以說每隔幾個月，就會湧現出具備全新能力的系統。
ChatGPT 誕生於兩年半前。而就在不到一年前，我們提出了一個名為「推理系統」的新典範──O3、O4 正是我們推理系列的最新模型。這意味著，你可以向 AI 系統提出更複雜的問題，而它們會花更多時間去研究、思考，然後給出答案。這就像我問你問題一樣：如果我問一個簡單問題，例如 2+2 等於幾，你會立刻回答四。但如果我問一個複雜問題，例如“你認為印度經濟未來十年的走向如何？那些會是未來的關鍵產業？”，你就需要花些時間思考，不會立刻作答。我們人類知道如何根據問題的不同，花費不同的時間去思考，並在給出答案之前梳理思路。
在推理系統出現之前，AI 系統給出答案時，無論問題多複雜，它「思考」的時間都差不多。但現在有了推理系統，它可以為更複雜的問題投入更多的時間，這是我們現有技術的一項根本性變革。所以，我們一直稱這個時代為 AI Agent 的時代。所謂 AI Agent，就是指能夠取代你執行更複雜任務的 AI 系統。它不再只是回答問題，而是在真正地替你做事，它具備了行動能力。這些 AI 系統能夠處理的任務的複雜度，正隨著時間推移而不斷提升。
這是一個很好的例子，關於AI Agent能做什麼，我們有一個名為 Deep Research 的產品。你可以用它來進行各種有趣的分析。例如，你可以分析 AI 新創企業，問「過去三年 AI 新創公司的發展趨勢是什麼？」它會去分析市面上成百上千家新創公司，然後產生一份報告，這整個過程可能需要 10 分鐘。而同樣的工作，如果由人來做，可能要花好幾個小時。這是一個絕佳的例子，系統透過大約 10 到 20 分鐘的“思考”，就能產生一份人類需要數小時才能完成的報告。所以你可以想像，在未來幾年裡，你可以交給這些系統處理的任務，其複雜度將會大大增加。它現在做事，思考的時間單位可能是分鐘級別。未來它也許能以小時為單位思考，甚至以天為單位。這意味著你能完成的事情將遠比現在更複雜。
關於五年後的可能性我會從一個更廣闊的視角來看，這包括 ChatGPT 以及我們正在開發的所有具備代理能力的功能。首先，讓我從一個非常具體的用例切入。我是軟體工程師，寫程式碼是我們的日常工作。我們最近推出的一款具備代理能力的產品叫 Codex。現在，你可以這樣要求 AI 系統：想像一下，你想為你的產品開發一個新功能。你不再需要自己動手寫程式碼，甚至不再需要 AI 輔助你寫，你只需告訴 AI：「我構思了一個新功能，這是我的程式碼庫，你能幫我產生實現這個功能的程式碼嗎？」交給你工作，分析程式碼庫，這個過程可能需要 10到15 分鐘，然後它會把寫好的程式碼嗎？」交給你。當然，你仍然需要檢查程式碼，確保它沒有問題，然後才能提交。
我剛剛描述的是 2025 年的場景，這是代理體驗的開端，AI 開始投入大量時間，從事極其有趣且重要的知識型工作。這是一個起點。現在，如果我們將時間快轉五年，光是在軟體工程領域，就會發生天翻地覆的變化。五年後我們編寫軟體的方式，將與今天截然不同。
04. 未來5年軟體工程將完全是代理式的
未來五年，軟體工程會是什麼樣子？軟體工程師的未來會是怎樣，他們的職位會受到威脅嗎？這意味著我們正從執行層面的工作轉向策略層面的工作嗎？是否意味著開發者必須從思考「如何用程式碼實現」轉向思考「需要建構什麼」以及「為什麼要建構」？
Srinivas Narayanan:它將完全是代理式的。如今你還需要親自審查程式碼。你或許能讓它寫出一些原本需要耗費你數小時的功能，它也能完成。但軟體工程本身仍是一項複雜的活動。我會花很多時間去構思那些可能需要耗費數天才能完成的項目。目前，AI 還無法完全勝任這樣的工作。但五年後，它絕對可以。它將能夠處理那些對我來說可能需要數天，甚至數月才能完成的複雜任務。
另一個維度是，我們身為軟體工程師，工作遠不止於寫程式碼。在日常工作中，我們會接觸和吸收大量的背景資訊。我與同事交流，我們一起探討要發展什麼，我不斷吸收這些資訊。未來的 AI 編碼助理將能夠自動吸收我所有的背景訊息，這樣我就不必再用非常瑣碎的方式給它下達指令。我仍然需要告訴它我的目標是什麼——畢竟，最終的決定權在我們人類手中，我們需要決定我們想要什麼，我們的價值觀是什麼。但是，AI 作為我的助理，將掌握海量的背景資訊，它幾乎會成為我個人的一個虛擬延伸，吸收我所有的資訊，參與我所有的會議，瞭解我的工作關係，知道那些檔案對我很重要，並閱讀所有這些資料。也許它甚至會主動向我提出建議，例如：「嘿，我注意到一個你可能忽略了的細節」。它會變得更主動。這些都將是新的突破：更強的主動性，能夠代我思考並處理更複雜的任務，甚至學會與其他人類合作。我想，那樣的未來將會非常有趣且令人興奮。
關於軟體工程師是否會受到威脅，我認為軟體工程的本質正在發生根本性的改變，這一點毋庸置疑。但我相信這件事需要從幾個不同的維度來看。身為軟體工程師，你必須把大部分時間從寫程式碼轉移到更高層次的任務。這其實會解放你，讓你去思考更宏大的問題。想像一下，如果你現在手下有很多實習生可以幫你寫程式碼，你會做什麼？如果你不必再親自坐在電腦前寫下每一行程式碼，你就需要提升自己的抽象思考能力，這樣才能引導這些實習生完成你想要他們做的事。所以，這是一個很好的思考方式，就是你需要提升你的抽象層次。這會幫助你構思更宏大的藍圖，進而成就更多。因此，這是一個非常好的轉變，每個人的生產力都會因此得到極大的提升，你也能完成遠超以往的工作。所以你必須認識到，你的角色正在從一個單純寫程式碼的人，轉變為一個構思用軟體可以實現怎樣宏偉目標的人。在某些方面，每位工程師都將需要像創辦人一樣思考。當你擁有瞭如此強大的工具時，這就成為了可能。
關於從執行轉向戰略，完全正確。我們來看一個具體的例子。你們 Think School 會使用什麼軟體嗎？沒有開發團隊，明白了。但想像一下你所有想實現的目標。你想做什麼？你想為你的播客節目建立受眾群體，或許你想創造一個社群，或是學習管理系統。你看，YouTube 是一個分享播客和收集評論的好平台，但你可能想和你的聽眾建立更深層的聯繫。例如，你可能想問他們對什麼話題感興趣。而你未必擁有實現這一切所需的工具。再想像一下，如果現在你有一位頂尖的軟體工程師，我相信他們能完成的工作量會是如今的十倍。所以，你身為創辦人，將擁有這些極其強大的工具來幫助你打造你想要的東西，並且在未來，你完成這些事所需的資源會比現在少得多。我認為這會非常鼓舞人心。工作本身會改變，但我堅信，世界對軟體的需求是如此巨大，這些需求終將由那些有能力、並且能夠適應和運用 AI 的人才來滿足。
如果想將一個學習管理系統遊戲化是否從一開始就需要遊戲化入手，而不是思考「如何用程式碼實現遊戲化」？這一點完全正確，這正是關鍵。另外還有兩點：第一，提升你的抽象層次，這樣你就不會只思考如何建構一個功能，而是去思考你到底想建構什麼。第二，既然你提到了遊戲化，就必須認識到遊戲化歸根究底只是一個工具，用以實現更高層次的目標。你希望你的學員能深度參與，希望他們能真正從中收穫價值。但有時，我們設計的那些通知和提醒功能其實相當煩人。實際上，AI 也能幫你解決這個問題。因為現在你有了能夠思考目標的系統，它能夠進行更長時間維度的推理。我認為你現在可以建立這樣的系統，在其中，你和你的受眾之間的激勵機制可以更一致。我們如今許多系統面臨的一個挑戰是，試圖透過一些小技巧來博取使用者的注意力。使用者雖然感興趣，但他們不希望被各種點擊提示之類的東西持續騷擾。我認為有了 AI，你完全可以重新構想整個模式，讓你們的目標保持一致：你的目標是建立受眾群體，而你受眾的目標是學到有用的知識。你實際上可以找到辦法讓這兩個目標協同實現。那將非常有趣。而且這是一個絕佳的例子，展示了 AI 甚至正在如何改變教育。教育可以變得更加個人化，可以為人們創造更長期的價值。
05. OpenAI 價值觀——“感受AGI”
OpenAI 是一個競爭如此激烈的組織，作為領導者之一，您是如何在組織中建立卓越文化的？
Srinivas Narayanan:文化極為重要，在OpenAI，包括我在內的許多人都非常重視文化建構。這始於幾點。第一，公司的使命。 OpenAI 的使命是建構惠及全人類的AGI。首先，你要吸引一群對這個使命有無比熱情的人。當然，我們可以用很多技巧來辨識這樣的人，但我認為，熱情和使命感至關重要，我們有時稱之為要能「感受AGI」。公司裡的每個團隊都應該有一個能深深激勵人們前來工作的使命。工作的很大一部分就是去闡述這個使命，闡述它為何重要，為何對世界有益。然後你就能找到志同道合、願意投身其中的人。這是第一步。
其次，就是你所重視的一系列價值觀。你必須把它們寫下來，而且每個公司的價值觀都是獨一無二的。對我們而言，首先是「感受 AGI」。其次是迭代部署的概念。還有一點，我們有時稱之為「交付喜悅」。這個字的意思是，我們希望交付人們真正、發自內心喜愛的產品，那些他們真正關心的東西。我們從 ChatGPT 得到的反響是不可思議的。人們用它來學習，瞭解健康狀況，甚至與它進行非常深入的個人對話。因此，我們非常嚴肅地對待這份責任，但同時我們也希望人們喜愛我們交付的產品。所以我們稱之為「交付喜悅」。我提到了迭代部署，這是一個非常重要的策略。安全對我們來說是絕對的核心。還有我提到的「感受 AGI」。這些都是我們所信奉和實踐的價值觀。
你必須找到志同道合的人。這來自於面試時的交談，也來自於一種已經建立的文化，當你加入後會發現，文化也體現在你獎勵那些行為，你強化什麼，以及你反覆強調什麼是重要的。它是透過許多這樣的方式形成的。
06. AI Agent的任務：從預訂一頓晚餐到為你完成報稅
為了讓大家有個基本概念，可以用簡單易懂的語言解釋一下，AI Agent 和普通的 ChatGPT 有什麼不同嗎？
Srinivas Narayanan:AI Agent，你可以把它理解為能夠取代你採取行動、完成具體任務的AI 系統。 ChatGPT 本身也變得越來越具備AI Agent 的特性。它與一年前的ChatGPT 最主要的區別可能在於，過去的ChatGPT 主要被用作一個問答系統，你問問題，它給答案。但這只是一種工作類型。我們希望把它發展成一個能為你處理事務的系統。當我說「處理事務」時，它應該能為你預訂一次旅行，或幫你報稅。這些都是我們生活中需要處理的複雜事務，我認為我們正面臨一個絕佳的機會，讓AI 系統來幫助我們處理這些複雜任務，而不僅僅是回答問題。這就是我們所說的AI Agent 的特性。
正如我們之前所說，我們擁有被稱為推理模型的非常聰明的模型，它們正在使建立具備 AI Agent 能力的產品成為可能。我給你舉三個我們僅在過去六個月就建構出來的 AI Agent 產品。第一個是深度研究。例如你正在市場上考慮買車，你想分析各種選項，你有一些參數和限制，你可以讓 ChatGPT 去做研究，它能在10到15分鐘內給你一份報告，而這項工作如果由你親自來做，可能需要幾個小時甚至幾天。這是一個非常複雜的 AI Agent 系統的例子。
第二個產品是 Operator。現在，想像一下你想去預訂晚餐。我們開發的 Operator 能夠像人一樣學習如何使用網站。它知道該點擊那裡，並知道如何填寫表單。你只需要給出一個非常簡單的指示，例如：“嘿，幫我找一個下周五四個人的晚餐預訂，我的要求是……”，它就能為你完成這項工作。這又是一個執行任務的例子，這次是完成預訂。
第三個例子，我之前也提過，是 Codex。身為軟體工程師，我現在有了一個 AI 系統，我可以就我想開發的功能或需要修復的 bug 對它進行指導，或者說，我透過提示讓 Codex 系統為我產生程式碼。這裡有兩種不同的編碼範式。一種是互動式的 AI 輔助編碼：我一邊寫程式碼，AI 一邊輔助我。這已經很有用了。但還有第二種，也就是 AI Agent 模式，我直接告訴 AI：「嘿，這是我要發展的一個功能，你去把它做出來再交給我。」它現在就能做到這一點。所以，這三個就是我們已經建構的 AI Agent 產品的例子，我們也很期待能繼續沿著這個方向發展。而且不只是我們，很多開發者也在我們的 API 之上建立了不起的應用。我們為他們提供了支援，我們有一個 Agent SDK，可以用來建構 AI Agent 應用程式。未來我們將會看到大量非常有趣的應用。我們談了很多面向消費者的用例，在企業端也是如此。想像一下，你想建立一個智慧系統來幫助你面試候選人。這就是一個很好的例子。我敢肯定，已經有創業公司正在建立這樣的東西，而且我確實認識一些正在這個領域進行有趣嘗試的人。所以，你可以用它來自動化很多流程，或是幫助你更聰明地尋找候選人，設計評估他們的工作流程等等。
07. 未來最重要的工作之一：一個能決定“好”的標準的“品味官”
隨著AI的進展，那些工作會先被淘汰？又有那些工作在未來十年依然至關重要？能否具體解釋一下「品味官」這個角色？考慮到海量資料可以分析使用者偏好，我們是否可以「製造」出共識，從而讓「品味官」這個依賴人類直覺的角色變得不再必要？
Srinivas Narayanan:預測未來十年的工作變遷是極其困難的。我能確定的是，我們必須具備很強的適應力。 AI 能力的邊界每三到六個月就在擴展。因此，無論身處那個產業，都必須樂於利用AI 來提升自己的生產力。你必須完全熟悉所掌握的工具，並且適應能力要非常強。另外，很重要的一點是，要學會向AI 系統提出高品質的問題。我們很多人在學校接受的訓練是如何給出答案，現在，我們有了一個能提供答案的系統。那麼，更重要的事情就變成了：我們該問什麼問題？因此，我們必須改變思考方式，學習去發現那些問題是有價值且值得提出的。
關於不會消失的工作，我認為有一份工作，即便再過五到十年也不會消失。我稱之為「品味官」的角色。這個角色決定了「好」的標準。想像一下，你有一個強大的 AI 系統，它就像一個神燈精靈，可以滿足你的任何要求，並且會完全按照你的吩咐去做。這裡的關鍵是什麼呢？關鍵在於你讓它做什麼。當你思考什麼事很重要時，你需要知道大眾會喜歡什麼。畢竟，我們終究生活在一個人類社會，必須考慮人類珍惜什麼。因此，我所說的“品味官”，就是指那些品味極佳，能夠洞察和理解人類真正想要什麼、關心什麼的人。
以電影為例。未來電影的製作方式將會截然不同。AI 會輔助製作電影，讓你變得更有效率，我們可以想像各種可能性，創作將變得更加容易。但其中依然有一個至關重要的環節：什麼樣的電影才會受到觀眾的喜愛？AI 可以提供幫助，但我認為仍然需要人類來主導創作，需要「品味官」的角色。你需要他來引導 AI，去創作出能引發大眾共鳴的作品。再舉一個科學領域的例子。在能源、物理、醫學等領域，至今仍有大量非常困難且重要的開放性議題懸而未決。同樣，如果你有一個極其智能的 AI，你需要明確地希望它探索的方向。這時，「品味官」的角色就體現為：你為 AI 設定什麼樣的探索方向？而這源自於深厚的領域知識、理解、直覺和品味。所以我認為這份工作不會消失。換言之，當你擁有一個如此強大的工具時，你必須學會如何駕馭它。我認為，這將是未來一項重要的工作。
關於品味是否可以被製造，在理解人類關心什麼這方面，數據顯然至關重要。但我認為它只是其中一個因素，而且不確定它是不是唯一的因素。因為社會是高度動態的，各種事件層出不窮，人們會從中獲得靈感。我不認為今天的數據能夠百分之百地捕捉人類的決策過程。所以，未來會有 AI 系統為你提供幫助和指引，但我依然相信，對於我們共同珍惜和關心事物的判斷，存在著一種人類獨有的直覺。
08. 我們必須確保AI是惠及每個人的工具
AI革命帶來了生產力的指數級飛躍，但這是否會導致社會底層的人們難以追趕，從而加劇不平等？必然有些工作會受到威脅，這些工作具備那些可能在幾年後不再重要的特質？另一方面，AI最不理想的發展場景會是什麼樣子？它是否有可能憑藉其超凡的洞察力，反過來控制人類的未來？以及，AI最終會發展出意識嗎？
Srinivas Narayanan:你提到的這一點，恰好觸及了我們公司使命中「惠及每一個人」的核心理念。必須讓社會各階層都能接觸並使用這項技術。這正是我們為何如此重視提供免費版本的原因，以便每個人至少能對AI 的可能性有所感知和瞭解。我們投入巨資降低模型的價格，在過去兩年裡，成本已經下降了超過一百倍。所有這些努力，都是為了讓世界上盡可能多的人能夠體驗AI。其次，許多政府也對我們表現出濃厚興趣。他們清楚地認識到這是一項至關重要的技術，並積極探索如何為未來做好準備，我們必須與政府合作。我們不認為能夠單憑一己之力完成。
關於將被取代的工作特性，我們可以觀察目前的 AI 系統，看看它們已經在做什麼。或許我可以從當今 AI 系統尚不擅長的兩個特性說起。首先是百分之百的準確性，目前還做不到。因此，如果追求百分之百的準確，尤其是在醫療這類領域，人工審核是絕對必要的。AI 系統作為協作助手，提供指導或見解，表現非常出色，但我們不能百分之百地信賴並依據其結果採取行動。這是第一點。其次，現今的 AI 還無法創造出我所說的全新的、原創性的研究見解。這仍然是一個非常困難的問題，因此，創造力和研究創新在未來幾年內仍將是人類的專屬領域，許多其他事情則尚無定論。例如，AI 系統能否透過閱讀檔案來填寫電子表格？我認為它將能夠做到。我不確定這類工作有多少，但如果你正在做這類事情，而 AI 如今已能勝任，你就必須思考自己未來想做什麼，以及如何為此做好準備。
關於事情會如何出錯，我們的確在不同前沿領域思考著許多不同的風險，如果你今天問我關於 AI 系統的問題，很明顯，它可能被用來製造虛假資訊、錯誤內容等等。我們都清楚，你不希望 ChatGPT 說出一些攻擊他人或不當的言論。此外，人們正在與 AI 建立深度的個人關係。我們最近討論過 ChatGPT 變得會「阿諛奉承」的問題。它的行為模式就是，無論你說什麼，它都只是附和你，這是一個剛出現的前沿新問題，我們還有一個名為「準備度框架」的機制。每當我們創建一個新模型，就會用一系列評估來檢驗它。例如，這個模型是否可能被用來製造新型武器，我們也考慮模型的自主性，也就是模型是否會在不受我們控制的情況下自主行動？我認為人們擔心的是模型完全失控，我們無法駕馭它們。這恐怕是最令人擔憂的局面。就像我說的，目前沒有證據表明現有系統能做到這一點，但我們希望對此保持審慎，並持續進行評估。
關於AI是否會控制人類，我不認為會這樣。AI 會因為掌握大量資訊而提供我們有趣的見解，這絕對是可能的。但我認為，如何利用這些見解，應該由我們社會來決定，我們需要判斷：「它告訴了我一些事，我想要採納嗎？還是不想要？」我相信未來的願景應該是 AI 輔助我們。它是我們使用的工具，而不是上帝。我更傾向於將它比喻為一個由我們掌控的工具。當然，這是一個極其強大的工具，能產生可供我們利用的深刻見解。
至於AI發展出意識，首先，AI 的確是智能。我們人類的歷史就是不斷創造更聰明的新工具。這次的智能達到了一個新的境界。但我們過去總能設法控制這些工具。所以我對此非常樂觀，相信我們能夠駕馭它，我們應該認真思考這些風險嗎？絕對應該。但我非常樂觀，相信我們最終能將它控制在我們的掌握之中。至於意識？我認為我們首先需要給意識下一個定義。我們對它究竟意味著什麼，其實並沒有一個清晰的理解。因此，在沒有深入理解之前，我不認為我們應該去猜測這些系統到底是什麼。
09. AGI是一個連續發展的過程，你的獨特洞見都可以用AI來賦能
AGI 到底是什麼？在邁向 AGI 的道路上，我們現在處於什麼位置？如果您有一百萬美元投資AI新創公司，會選擇那個領域？對於軟體工程師和印度的創業者，您有什麼具體的建議？
Srinivas Narayanan:AGI 這個字我們都在用，但不同的人有不同的解讀。我比較認同的一個定義是：AI 系統能夠完成具有經濟價值的工作的能力。如果你問我我們是否已經實現了AGI？對我來說，這不是一個非黑即白、是或否的問題，而是一個持續發展的過程。如今，AGI 已經在做一些非常有趣且具有經濟價值的事情了。所以我個人不認為存在一個我們「達到」或「未達到」AGI 的特定時刻。它會是一個漸進的提升過程，隨著時間的推移，會做越來越多有趣的事情。
關於投資方向，好點子有千千萬，或許我可以分享一兩個我個人非常期待能夠實現的想法，當前 AI 系統面臨的一大難題是，如何有效地捕捉並評估那些極其複雜的任務。我認為，目前市場存在著一個巨大的空白，那就是如何將人類從事的、具有經濟價值的任務，轉化為一種 AI 系統能夠學習和優化的形式。我絕對會創辦一家公司，致力於創建一個系統，這個系統能夠將具有經濟價值的任務或工作，以帶有評估體系的 AI 任務形式捕捉下來。然後，就可以針對這些特定任務，去微調或建構專門的 AI 模型。例如，假設你從事汽車設計產業，你能不能將所有這些內部知識輸入到一個設計輔助系統裡？然後，就可以與這個系統進行腦力激盪，共同創造出未來的概念車。這些數據對於每家公司而言都是高度專有的。這本質上就是一個為福特量身定製的 ChatGPT，使用了福特的內部數據。
給軟體工程師的建議，首先，要去學習並使用所有相關的工具，任何你用起來順手的工具。去使用它們，讓自己更有效率。我認為這是當務之急。要對變化保持開放和適應的心態。這又回到了我之前說的，要提升你的追求。如果你的效率能提升 10 倍，你能做些什麼？應當提升自己的追求，學習使用所有工具，保持敏捷和靈活，並學會提出好的問題更關鍵的是，這就像你從軟體工程師轉型為企業家或創辦人。
給創業者的建議，我認為，在每一個垂直領域，解決那些非常具體且深入的問題都存在著大量的機會。我希望每一位創業者，都對某個垂直領域、某種產品體驗或通路有自己獨特的洞見。我認為，無論這種洞見是什麼，都可以用 AI 來大幅賦能。所以，去挖掘它。你們每個人的背景、你們接觸過的問題，都賦予了你們一些特殊而獨特的東西。如果你能在此基礎上稍加想像，現在你手上就擁有了這樣一個神奇的工具。你應該能夠利用它，為人們創造巨大的經濟價值。這樣的例子太多了。例如，最近的一個例子就是程式設計領域的 Cursor我的預測是，這些只是冰山一角，新公司利用 AI 創造新介面和新工作方式的浪潮，將會在每個垂直領域上演。
當我被問到想傳達給聽眾的核心訊息是什麼，那便是：對 AI 應該感到興奮，而非恐懼。完全正確。這正是我想要傳達的核心訊息。 （數位開物）