最近，Meta計畫將多餘的AI算力出租給第三方，引發了大家對於AI投資是否過高的擔憂，也導致了近期股市的震盪。
但其實，我們認為，幾乎同時發生的另一件事才更加值得注意。
祖克柏在Meta內部會議上承認，AI Agent的進展沒有像他們想像中那麼快。
要知道，Meta堪稱在AI上最激進的公司。不僅進行了大裁員，還把7000人強制調崗到AI團隊，而且Meta今年的資本支出還可能高達1250億至1450億美元。可以說，祖克柏把整個公司押在了AI之上。
所以，當祖克柏親口說出不達預期時，整個行業的幻想都被戳破了——並不是把Agent接進來，再裁掉一批人，組織效率就會自動升上去。
步子邁太大
先看看Meta到底做了什麼？又碰了什麼壁？
4 月，Meta在內部啟動了一個簡稱MCI的項目，即在全美員工的工作電腦強制裝上跟蹤軟體，記錄滑鼠軌跡、鍵盤敲擊和工作螢幕截圖，從而採集人類員工操作電腦的行為資料來訓練Agent。
之後不久，也許進展不錯，Meta就公佈了裁員和重組計畫。
但5月底到6月初，Meta的AI客服Agent就出事了。
駭客只是給AI客服發了一些精心構造的純文字提示詞，就跳過了所有身份驗證，把包括歐巴馬白宮官方帳號在內的一系列重要帳號資訊全部套了出來。
更諷刺的是，被盜號後，使用者根本找不到真人申訴，只能報給Agent來處理，因為大部分人工客服被裁掉了，忙不過來。
對外服務的Agent出問題了，那Meta內部所使用的Agent表現如何呢？
據Reddit等技術社區爆料，6月中旬，在強推AI編碼Agent的策略下，Meta新上線的程式碼中，由AI自動生成的比例暴增到了95%。
然而，工程師們很快發現，這些程式碼能通過AI自己編寫的自動化測試，但在實際使用時卻帶著硬傷。
例如，AI Agent自動生成的模組導致了Meta的某項核心服務連續數周出現資料損壞，導致工程師們只能去人肉排查和逆向修復AI帶來的“污染”。
這些只是暴露出來的冰山一角，究竟Agent還給Meta帶了多少麻煩，就不為外人所知了。
但可想而知，這些問題的存在，才會讓祖克柏承認，“AI Agent的發展軌跡沒有像預期那樣加速”。
Agent的問題
Meta踩中的是什麼坑？
自然不是AI能力不行，是他們對AI Agent能的自動化處理程序有過高預期。
簡單說，就是Demo演示裡那些驚豔的表現，和企業級複雜工作流中的實際表現之間，存在著巨大的鴻溝。
管理層顯然是誤以為，既然Demo表明這些AI工具已經如此強大，那麼只要用AI把人換掉，就能把工作自動幹起來了。
但我們估計，可能有三個事情導致了AI Agent在落地過程中掉了鏈子。
第一，是AI大模型的幻覺問題會在複雜的工作流中不斷放大。
要知道，那怕出現幻覺的機率再低，任務鏈條一長，錯誤就會累積。
Demo裡的Agent可能只跑了幾個步驟，讓人覺得很靠譜，能幹活。
但如果企業真實流程是十幾步甚至幾十步的長鏈路，且每一步都可能涉及工具呼叫、記憶檢索、權限判斷和異常處理，那Agent所發生的任何小錯誤都會不斷放大，直到讓結果完全跑偏。
第二，給Agent權限，讓錯誤的後果太過嚴重。
聊天機器人說錯了話，頂多是給你提供了錯誤資訊；但Agent一旦被授予了實際權限，它犯的錯誤就會變成生產事故。前面Meta的AI客服協助駭客盜號的事件，就是一個典型例子。
第三，就是企業的很多流程，要流暢運行，靠的是員工的know-how經驗，以及團隊長期合作產生的默契。不是讓AI把資料看完了，把員工蒸餾蒸餾，把步驟設好，工作流就能跑了。
自動化的客觀規律
Meta可能對產業缺乏回顧，其實這個自動化的坑，馬斯克10年前就踩過。
2016年前後，馬斯克對造車有非常激進的想像，他要打造Alien Dreadnought（異形戰艦），即幾乎沒有人、只有機器人在造車的工廠。
但到了2017年Model 3量產爬坡時，這個幻想直接破滅了。
比如，特斯拉對電池模組裝配線的自動化要求過高，供應商做出來的自動化系統根本跑不動。
經過兩年的嘗試，2018年4月，馬斯克終於發推文承認，過度追求自動化是個錯誤。
後來，特斯拉把電池模組線、物料流系統、總裝的工序全部降級為半自動流程。
到2018年6月底，Model 3的產能終於達到5000輛/周的合格線。而且有意思的是，不是特斯拉用了更高級的機器人，是因為他們在主廠房外的巨大帳篷裡臨時搭起來了一條由人參與的裝配線。
再往後，看上海超級工廠，就會發現，特斯拉是逐步把銲接、壓鑄等高重複、高精度、高危險的工序做到接近100%自動化，但總裝環節上仍有大量人類員工參與。
可以看出，馬斯克在“頓悟”之後，給出的自動化順序，是先定義目標，拆解流程，然後再看機器適合接管什麼環節，那裡得人來負責。而不是像Meta那樣先裁人、再讓機器補位。
這個故事，我在去年出版的《馬斯克邏輯》一書中專門做過分析。
看完了這些案例，就可以引出我們今天的終極問題了：在如今的Agent時代，企業究竟應該怎麼實現工作的自動化？
我們認為，就是從人的“in the loop”開始，即以自動化為目標設定工作流程，但人在工作流程之中，再逐步轉向人的“on the loop”，即流程自動運轉，人在流程之上，負責監督和決策。
就像現在大部分的製造業，都還沒完全做到無人生產，是人的“in the loop”，而且已經完全自動化的生產線也需要人的監督和維運，即人的“on the loop”。
未來，再先進的企業，也不應該只想著把人從流程裡趕走，用Agent去替代，而是要以自動化為終點設計工作流程，再逐步提升AI的含量，直到把人從執行的位置抬到監督運行和給出判斷的位置。
所以，雖然Meta這次跌了一跤，但也不是要退回純粹靠人的工作方式。只不過，他們不能再一上來先裁人，得踏踏實實從第一步、也就是重畫自動化工作流程圖開始，推進這場生產力的革命。
最後，也想做個小調研，你所處的行業是否開始在嘗試用AI Agent做些事情了呢？完全自動化了的事情是什麼？期待在評論區看到你的分享。
以上就是今天的內容，再做個提醒，新一期前哨AI夏令營又開始報名了。
我們將帶著你的孩子跟上Agent浪潮，把想法做成真實的作品，開發遊戲、製作視訊，甚至搭建自己的學習助手。科技特訓營或AI小課歷屆會員還有優惠價，為保證教學質量，夏令營名額有限，先到先得！前哨 AI 夏令營｜7 天，帶孩子把 AI 玩明白
更多科技產業前沿分析和洞察，歡迎加入科技特訓營學習，和我一起，先人一步，領先一路！ (全球風口)