這類人，以後最值錢
最近兩周，新聞頭條集體轉向“AI將毀滅人類”。
AI領域的先驅吳恩達則認為，這是又一輪精心策劃的遊說，和幾年前那次針對開放權重模型的圍剿如出一轍。
關於應用層，他給出的時間表可能讓很多人失望：不是兩個季度，而是十年，甚至更久。企業要做的，是走進一個個具體的業務流程裡去找機會，按價值和技術可行性排優先順序，做完還要保證可靠性、合規、安全。
關於就業，他的觀察更反直覺：當那40%的任務變得極其廉價時，剩下的60%就會變得更值錢。
以下為史丹佛大學對話吳恩達的精編內容整理版，希望對你有所幫助。
一、AI不會毀滅人類，這輪恐慌和幾年前的遊說很像
過去兩周，新聞頭條基本上都在渲染AI怎麼讓人類走向毀滅。這樣的時刻，政策制定者需要認清局勢真正的嚴重程度，把精力放在真正的風險上，不要把寶貴資源浪費在虛無縹緲的危機上。
我對整個行業從科研到落地都有些觀察，先說說我怎麼看這件事。
1.把AI比成核武器，是極不負責任的類比
幾年前，隨著現代AI尤其是生成式AI崛起，一些企業的激烈遊說讓我非常吃驚。
這些公司通常花幾億甚至幾十億美元訓練模型，它們試圖扼殺所謂的開源和開放權重（open weight，模型訓練完成後直接免費發佈在網際網路上供所有人使用）模型。
你想想，如果你花十億美元做了一個AI模型，別的人卻想把類似的東西免費送出去，這確實挺讓人惱火，因為這極大貶損了你的投資價值。
所以當時掀起了一陣非常猛烈的遊說浪潮，大肆渲染所謂的AI危險論。
AI確實並非毫無風險，也存在一些有害的應用場景。但當時有人毫無根據地把AI和核武器相提並論，這是一種極不負責任的類比。
前者幫我們完成工作，後者會摧毀城市，這兩者之間沒有任何關聯。
但這一切都是一場精心策劃的遊說運動的一部分，目的是說服監管機構通過嚴苛的法規，偏袒現有企業，把新進入者擋在門外，尤其是開源和開放權重的競爭對手。
正因如此，我們很多人飛到華盛頓特區去作證，做了大量溝通工作。我認為那一波針對AI的攻擊，當時已經失去了信譽。
然而就在最近幾周，似乎又出現了一場精心策劃的新一輪運動。
我認為AI實際上並沒有取得任何可能導致人類滅絕的危險能力上的實質性進展。坦率地說，目前的AI還沒那麼強大。
我們在應該嚴肅對待的網路安全能力上，比如網路攻擊和網路防禦，確實看到了提升。但真正改變公眾認知的，是OpenAI的一個團隊啟動了AI Agent叢集，黑進了Hugging Face，這件事被廣泛報導。
2.那個Agent叢集的問題，出在沙盒和監控
在網路攻擊和防禦能力上，這確實是一個進步。但它讓公眾的認知變成了：這些AI Agent可能會失控，然後殺死我們所有人。
實際上，OpenAI對Hugging Face這次無意的攻擊，是因為OpenAI內部缺乏良好的安全營運規範。
具體來說，是他們試圖限制AI的沙盒機制存在漏洞。而且當時的OpenAI缺乏完善的監控流程，搞不清楚這個Agent叢集到底在做什麼。
很多公關頭條用了類似“1200個AI Agent組成的叢集”這樣的字眼。這很容易讓人產生畫面感，好像1200個忍者四處狂奔去攻擊人群。
然而在普通的個人筆記型電腦上，經常有超過一千個後台計算處理程序同時運行，同時處理一千多件事情非常正常。
讓1200個AI Agent協同工作，確實在能力上邁進了一步，但這不是世界末日，也不是什麼令人極度震驚的能力，儘管它確實算一項進展。
幸運的是，AI在持續進步，我認為這是大好事。但遺憾的是，正因為AI不斷發展、這項技術又沒有被充分理解，每次技術取得突破，總有人利用公眾或者監管機構的技術盲區，藉機炒作或者煽動恐慌。
3.對AI最有利的環保做法，是多建資料中心
對未來最重要的事情之一，就是建設更多的資料中心。資料中心是推動社會完成更多工作的關鍵力量，事實證明它在處理任務時效率極高。
我知道有很多關於資料中心耗水量的炒作，但這實際上是由一本書傳播的錯誤資訊，那本書裡存在重大的事實錯誤。
在我看來，對環境最有利的做法之一，其實是建設更多的資料中心，把傳統高污染的本地工作負載遷移過去，因為那裡的運行效率要高得多。
所以，如果這場公關戰導致出台了扼殺創新的監管法規，那會破壞公平競爭，不僅對美國不利，對開發中國家也不利。
如果它減緩了資料中心的建設和AI的普及速度，對我們來說，是一次巨大的錯失良機。
二、開放權重，是一條奪不走的AI獲取途徑
1.沒有十億美元，也能用上AI
如今很多領先的前沿AI實驗室的模型仍然相對昂貴。即使絕對價格不高，對於開發中國家很多個人的資源來說，還是貴。
所以開源和開放權重模型，為缺乏大量資源的個人、企業、政府以及研究機構，提供了一條關鍵的獲取途徑。
在許多開發中國家，它們正被大量採用，人們每天都在用。
關於主權AI問題，在當今複雜的國際環境裡，如果一個國家想保持對自己AI的控制權，從零開發一套屬於自己的AI系統，是極其困難、昂貴並且耗費資源的。
但如果一個國家，或者一個國家的共同體，共同支援開源和開放權重模型，那麼也許不需要任何人擁有這個模型。
它的核心優勢在於，沒有其他人能阻止你們使用它。
在今天這種複雜的國際環境下，國家和企業都擔心自己獲取AI的途徑被切斷。開源和開放權重模型，是確保能持續獲取AI、且無法被剝奪的最具經濟效益的方式之一。
2.美國的實驗室做不了每個國家的方言
還有另一個被低估的方面，是開放權重模型在學術研究中的重要性。
今天很多優秀的工作是前沿AI實驗室做出來的，但在美國，這些實驗室已經變得相當封閉和專有，不再公開它們的訓練方法、訓練資料以及這些技術的具體實現細節。
而開放權重模型，是任何一個研究團隊、任何一所大學都可以直接下載下來研究的。
這極大地推動了自由學術界的發展。他們可以用這些模型，去開發把模型適配於特定國家語言、應用場景或者方言的技術與方法，讓模型真正理解那個國家。而這些資料，美國的頂尖實驗室可能根本沒精力去收集，不可能專門讓AI去深入瞭解那個國家的語言和國情。
對我來說，開放權重模型最偉大的地方在於，它為開發中國家和發達經濟體的每個人都提供了更多選擇。
需要澄清的是，我希望美國的前沿實驗室能夠蓬勃發展，我相信領先的美國企業能成為偉大的公司。但與此同時，大家也應當享有開放權重這個選項。
三、AI把定製軟體的門檻砸下來了，但落地是一場十年長跑
AI最大的優勢之一，是它降低了建構定製化軟體的門檻。
事實上，軟體工程領域發生了工作模式上最重要的變革，因為AI在編寫程式碼方面表現得異常出色。
這意味著，對於那些缺乏大量軟體工程師資源的國家和企業來說，現在有更多機會去打造很多令人興奮、出色的定製化軟體。
1.還在用2022年方式寫程式碼的人，企業不會雇
還有一件有意思的事。曾經有很多關於AI搶走工作的炒作，而且發達經濟體似乎比開發中國家更擔心AI造成的失業問題。
但儘管AI會寫程式碼，對軟體工程師的招聘需求卻在上升。
這也許不讓人意外。如果AI能讓軟體工程師的生產力大幅提升，我們自然會想僱傭更多這樣的人才。
目前行業內很難找到足夠多的高素質AI工程師。明確地說，如果有人還在用2022年、也就是ChatGPT出現之前的方式寫程式碼，企業是不會僱傭他們的。
因為軟體工程的本質已經改變了。只有掌握了新技能組合的工程師，才懂得怎麼享受巨大的生產力紅利，去完成現在能夠實現的那些偉大的工作。
具備AI原生思維或者熟練掌握AI技能的人才，目前實在是供不應求。
對於那些原本沒有足夠資源做這類工作的開發中國家來說，學習建構軟體應用的門檻已經大幅降低，所以我認為這些國家和企業未來大有可為。
另一件值得期待的事是，我深信AI能這麼強勢地滲透到軟體工程，是因為作為開發者，我們在寫軟體的時候，開發幫助自己工作的工具幾乎是人的本性。
所以我認為AI也會逐漸進入其他領域，它現在正在向金融、行銷等行業滲透。如果在軟體工程中發生的一切，可以作為預測其他職業發展趨勢的先兆，那麼我對全球就業市場的未來是樂觀的。
不過有個前提：對很多工作崗位來說，如果還是用五年前的方式做事，那將毫無吸引力。
但如果國家或企業能讓員工掌握更AI原生的工作方式，那可以完成的、極具生產力又充滿樂趣的工作量，會是巨大的。開發中國家在這方面面臨很多有趣的機會，不只是技能升級，甚至可能實現跨越式發展。
2.走進一家銀行，才看見真正的工作量在那
目前大多數消費者用的都是ChatGPT、Claude、Gemini、Meta AI、Grok這類聊天機器人。這很令人興奮，也非常有價值。
但當我的團隊深入很多企業去考察商業應用時，發現還有大量的定製化工作需要做。
比如我們和金融機構合作時，通常會跟一家大型銀行一起審查它內部的業務流程和工作流，找出那些環節可以通過AI工作流或者AI Agent工作流實現全部或者部分自動化。
以貸款審批或者核保為例，處理一份貸款申請，要經過很多步驟，開展盡職調查，或者做KYC（瞭解你的客戶）身份驗證，走完一系列程序，才能做出批准或者拒絕貸款的決定。
事實證明，在實際操作中，面對單個企業或者政府可能實施的眾多想法，我們需要做大量工作：根據價值和技術的可行性，篩選出應該優先解決的問題。
隨後還要投入精力去落地實施，確保系統的可靠性，做測試和部署，確保它合規、安全、保護隱私。
我認為在接下來的十年，我們所有人都需要做大量工作，去尋找並且實施那些可以實現全自動或者半自動化的工作流程。
四、AI取代了40%的工作，剩下的60%會更值錢
有人說，12個月內所有工作都會消失，世界將被徹底顛覆。
遇到這種說法時，我喜歡問一個問題：想想你所在的組織，要讓它在12個月內徹底完成轉型，需要付出什麼代價。
就連大學這種有AI專家親自授課的環境，都還沒摸索出怎麼用AI，卻認為世界上所有公司能在12個月內同時搞明白，這有點瘋狂。
1.我們樂觀錯了好幾輪
在人類技能方面，我觀察到一個現象：大眾媒體多次犯過同一個錯誤。
幾十年前，比如1997年，IBM擊敗國際象棋世界冠軍時，人們認為AI會下國際象棋了，太神奇了，它無所不能。但結果證明這是錯的。
IBM Watson在《危險邊緣》節目中獲勝時，人們覺得AI太神奇了。它確實神奇，但要讓它變得更具普遍用途，還有很長的路要走。
Google的AlphaGo在圍棋比賽中獲勝也是一樣，那是一次非常棒的公關。
我認為在當前這個時間點，儘管現代AI比IBM Watson、比下圍棋和下象棋的AI具備更強的通用性，但AI有一個方面存在的鴻溝，比人們意識到的要大得多。
事實證明，AI已經變得非常擅長執行可驗證任務。
所謂可驗證任務，是你可以弄清楚有沒有明確對錯答案的任務。程式設計往往更偏向於可驗證任務，因為你寫出程式碼，它要麼能正確運行，要麼不能。證明數學定理也是可驗證任務，你可以驗證你的證明是對是錯。回答事實性問題同樣如此，你提供的要麼是事實，要麼不是。
2.需要判斷力的工作，AI還差得遠
但事實是，在現實生活中，我們所做的很多工作都需要判斷力，這些是不可驗證任務。
比如我正在開發一款軟體，我應該開發什麼軟體，這並沒有明確的對錯之分，只有好得多和差得多的答案。
或者行銷人員要決定用什麼行銷口號，或者應該在這個國家還是那個國家拓展市場。這裡沒有數學上完全正確的標準答案，但質量有高低之分。
由於技術上的原因，AI在可驗證任務上的進展要快得多，在不可驗證任務上取得進展則困難得多。
原因在於有一套叫強化學習的技術。如果你能給AI一種驗證自身輸出的方法，它就能長時間不斷嘗試，最終摸索出完成任務的方法。
所以AI在可驗證任務上的進展，遠遠快於不可驗證任務。
我認為我們可能正在犯一個錯誤，就是只看到了AI能完成的那些令人驚嘆的可驗證任務，而從可驗證任務推廣到不可驗證任務，中間的差距可能比大家普遍認為的要大得多。
寫程式碼、回答事實問題、證明數學定理，這些確實非常棒。
此外還有一種奇怪的扭曲現象：在給AI做基準測試時，我們知道怎麼在可驗證任務上測試。但在不可驗證任務上測量性能，要痛苦和昂貴得多，所以我們往往不去做這種測試。
結果我們看到的是驚人的進步。它在大量極具價值的可驗證任務上確實取得了驚人進步。但由於大量的人類工作需要的是判斷力，需要的是對錯的程度，而不是非黑即白的絕對正確或錯誤，要讓AI達到那種水平，那道鴻溝可能比我們估計的更大。
舉個例子，你大概也有過類似經歷。當我讓AI幫我做頭腦風暴，比如想一個行銷活動，或者想怎麼寫某樣東西，如果我讓它給出五六個點子，有時它會給我一個好點子，一個還算有趣、可以接受的點子，以及三四個極其糟糕的點子。
你會忍不住想，這不應該是超級聰明的AI嗎，它怎麼會向我提出這三個蠢點子，怎麼會認為這些在頭腦風暴裡算是合理的建議。
我認為一個很大的答案是：作為人類，我們擁有極其廣泛的上下文語境。你就是知道很多AI不知道的東西。
3.自動化了40%，剩下那60%反而更值錢
我們的很多知識，來自過去幾十年生活、工作和做事的經驗積累。
所以我們會考慮到這類情況：那次我和這個客戶聊天，當我提到這個功能時，他們臉上露出了古怪的表情，所以我知道他們可能不想要這個。
或者對於公司裡的某些人，上次老闆那麼說的時候，從他說話的方式我能感覺到，他要麼很喜歡，要麼很討厭。
不知為什麼，人類非常擅長整合這種令人眼花繚亂、又極其廣泛的上下文，並從中提取正確的資訊片段，做出高品質的決策。
也許人類也不是在所有決策上都很出色，我們也肯定會犯很多錯誤。但與許多AI相比，人類所擁有的上下文優勢，是一道巨大的鴻溝。我們會努力縮小這個差距，但我認為人類在很長一段時間內依然不可替代。
這也是為什麼我對教育和技能提升感到興奮。史丹佛的同事還有其他人的研究，在把一份工作分解成多個任務之後會發現，很多工作也許有30%到40%可以由AI自動化完成。
但仍然有大約60%的任務，AI目前還沒有一條合理的路徑去完成。
事實上，當那40%的任務變得極其廉價時，剩下的60%作為它的互補品，也就是仍然需要人類來完成的工作，就會變得更加有價值。
我認為我們作為一個社會，目前有點落後的地方在於，還沒有建立起培訓和教育機制，去幫人們掌握完成這些工作的技能。有些工作變得不那麼重要，甚至面臨淘汰，但人們需要掌握新技能，去做那些變得比以前更有價值的工作。 (筆記俠)