#訓練
中方錄音一出,日網民認定“假的”,防衛大臣尷尬承認“真的”
12月9日下午,“玉淵潭天”獨家公佈了一段錄音,中方在訓練前,用“中英文雙語”向附近海域日艦現場通報,日艦用英文回覆收到。這段錄音一出,戳破日本撒的大謊。因為就在9日當天上午,防衛大臣小泉進次郎曾對外宣稱“事前沒有收到來自中國的通報。”既然事前收到通報,那麼後來還要靠近,就是妥妥的日本故意滋擾生事了。朝日電視台當晚的招牌新聞節目《報導station》,在直播時緊急插入這段獨家錄音。儘管朝日電視台已經算是相對偏左的媒體,但依然不改日媒本色,把錄音做了剪輯。最終呈現出來的,是中方用中文通報,日方用英文回覆的奇怪樣子。本該“戳破謊言”是焦點的,被這麼一搞,日網鄉民立馬從“被撕掉遮羞布”的惱羞成怒,轉為“發現中方錄音造假”的亢奮。而且,他們認為日艦回覆的女聲,英語口音很重,很明顯不是日本人而是中國人。因此斷定這段錄音是中方的自導自演,假的!自衛隊回答的聲音,怎麼聽都只聽得出,是中國口音的英語……怎麼聽都不是日本人的英語吧。嗯?無線對話?要是的話,這音質也太好了吧?①“照月號”的母港是橫須賀。或因訓練等,有可能也進了佐世保港和吳港……?②“照月號”的回覆,回了“Japan War Ship”,但海自代號是“Japan Naval ”哦。③英語的口音太重了,錄音也沒把艦橋和艦內的聲響收進去。過於清晰了……這是真錄音嗎?Japan War Ship????自衛艦呢,不叫War Ship哦……笑Japan Naval Ship或者Japan Navy Ship、Japan Navy Hall Number況且為什麼用中文通報“以無線通話來說,聽起來也太清晰了。而且War Ship 106方的英語,不是日本人口音的英語,這點就可以吐槽了。疑問1:為什麼用中文跟自衛隊聯絡?疑問2:自衛隊很擅長中文嗎?疑問3:被設定為自衛隊的,英語不是日本人風格。這不是日本人說的英語吧?炮製這段錄音的人,是怎麼個念頭呢?可能有說發音啥的,但是首先呢,為何中國說中文,“被設定為自衛隊一方”的是英語。這不是事前通告。況且,這類通告,一般情況是用中文來進行的嗎?之後,也沒確保同步翻譯的事件,日方就回答了。而且,這個日方應答的英語,完全是“中文口音”的……如此好懂的捏造證據,(朝日台)就這麼播了出來,那可不行哦……用中文發聲嗎?正常情況來說,使用國際標準的英語來發聲。而且,被設定為自衛隊一方的,那發音很不日本人。明知是完全捏造,還輕易就電視播放出來。不愧是“報導Station”不懂啥意思,聽了對話,還以為是中國人在用英文回答。這個,就是所謂的日本人自衛官角色設定。還是稍微熟練一些了再撒謊呀?!鄉民的倔強,等來小泉進次郎的打臉回應。他承認了中方錄音的真實性!小泉進次郎召開記者回應。一上來就表示“不對中方官媒報導的錄音,進行逐一回應”。這話等於在說“今後中方再放出什麼錄音,我都將不回應了”。然後才對這次的錄音,表達了4點看法。歸接下來:承認中方事前通報了,但“通報的資訊不足”,所以還是日本無辜,中方有問題。鄉民們也是心領神會,秒懂自家大臣用偷換概念,來掩蓋“說謊被戳穿”的狼狽。他們默契的不再嚷嚷錄音是假的,也不提自衛隊那個女聲的英文發音一聽就是中國人了。服了,他們真是把自己騙得心服口服。偶爾才冒出幾個憨憨,那壺不開提那壺。或繼續追問錄音到底是不是真的,或一針見血指出小泉的發言自相矛盾。這麼說,中方公佈的錄音是真的囉?請公佈錄音資料的真假。在偷換概念呀。到昨天為止,說的是“不認為在事前,被通報過航行警報”。今天卻說“沒有聽到詳細資訊”。喂喂喂明知航母正在演訓,自己卻衝進50公里的攻擊範圍裡。還“想要詳細資訊”啥的?這可跟跑進小孩子的遊戲場不一樣哦,腦子太不正常了。厲害!終於能認識到,中方事前發過通報這件事了。真棒!變得超知性的了。必須得表揚你。請否定錄音,應該有證據的。“對中方官媒報導的錄音,應該注意不對其逐一回應”為什麼?我對這點特別在意。小泉進次郎的蹩腳詭辯說辭,別說中方嗤之以鼻,在12月11日的日本眾議院安保委員會上,也遭到在野黨的強烈質疑。他在會上,依然拿出開記者會的那套說法:有沒有收到中方的事前通報,不是問題的本質。立憲民主黨議員屋良朝博向安保委員會會長提案,“要求整理提交有關本次事案的時間序列資料”。說白了,政敵聞到機會的味道了。懷疑小泉從中搞事,謀求個人政治利益,不惜賭上日本。 (這裡是東京)
上下文即權重,Google找到了繞過GPU訓練的新範式|DeepMind新論文解讀
如果說2024年是長文字的軍備競賽,那到了25年年末,隨著自進化模型、持續學習成為模型下一步核心瓶頸,戰場已經轉到了對記憶能力的全面加強上。而在這場戰爭中,Google DeepMind 左右出擊,在一個月內發佈了兩篇論文,試圖在兩條截然不同的路線上攻克這一難題。11月初,DeepMind 發佈了關於 Nested Learning(巢狀學習) 的重磅研究,提出了 HOPE 架構。這是一場典型的重工業革命,Google試圖通過重構 Transformer 的底層,讓AI擁有永久的長期記憶和臨時的短期突觸,讓它從死的知識庫記憶體,變成活體的學習者。從價值上講,作為第一個全開放權重的模型,它絕對稱得上是一種範式革命。但要落地,得對現有的 AI 基礎設施進行一場傷筋動骨的手術,舊模型是完全不相容的。然而,僅僅幾周後,11月27日,DeepMind的另一個團隊聯合UIUC拋出了另一篇論文《Evo-Memory》 。這篇論文沒有試圖去動那怕一個模型參數,卻找到了一條新路,賦予模型持續學習的能力。它向整個行業提出了一個新可能:一個被凍結的LLM大腦,能夠通過不斷反思和重構自己的記憶,表現得像是一個被訓練過的模型。雖然看起來它沒那麼底層,但從工程和應用角度來講,這無疑也是一場範式革新。在過去,我們認為,上下文工程只是人類教 AI 做事的權宜之計。但Evo-Memory證明了,當上下文具備了自我反思、自我修剪、自我沉澱的能力時,它就不再是靜態的提示詞,它變成了流動的權重。具體來說,它意味著記憶不再是固定不變的上下文提示詞,而是能夠在推理過程中主動檢索、修剪和重組的可編輯對象,就像神經網路中的權重參數一樣可以動態調整和最佳化。而且,靠著它,我們不需要等待遙遠的架構重構,也能讓模型持續學習。通過元推理,我們現在就可以讓那個參數凍結的AI,在每一次互動中生長出新的智慧。(一圖讀懂)01 RAG 的困境說到AI的記憶系統,就繞不開RAG(檢索增強生成)。過去兩年,RAG幾乎成了大模型應用的標配。無論是客服機器人、程式碼助手還是知識問答系統,背後都離不開這套架構。在很長一段時間裡,RAG 被視為解決大模型健忘和幻覺的解藥。它的邏輯簡單粗暴:模型記不住私有資料?沒關係,把資料切塊存進向量資料庫。使用者問什麼,我們就檢索什麼,喂給模型照著念。然而一個可檢索的筆記本,並不是記憶。因為記憶不是錄影,而是壓縮。傳統的 RAG 系統就像是一個沒有辨別能力的圖書管理員,只管把所有的對話歷史、操作日誌一股腦地存進倉庫。它不會學習,只會按關鍵字檢索。所以當你第一次問AI“如何解一元二次方程”,它會從知識庫裡檢索到公式,給你正確答案。第一百次、第一千次,依然如此。它永遠不會因為回答過一千次同類問題,就形成某種經驗性的快速響應機制。更可怕的是,它檢索到的內容可能包含矛盾、過時或無關的資訊,但它沒有能力判斷那些記憶是有價值的,那些是噪音。遇到同樣的問題,系統檢索到十條相關記錄,其中三條是已解決的舊問題,兩條是誤報,剩下五條才真正有用。但RAG會把這十條一股腦塞給模型,讓模型在混亂的資訊中自己摸索。這說明,現有的記憶系統大多停留在對話回憶(Conversational Recall) 的層面,它只記得說了什麼,卻不記得學到了什麼。這種靜態的、被動的召回機制,導致智能體在面對連續的任務流時,無法積累經驗,只能機械地重複過去 。在這個範式下,RAG作為一個只增加不減少、只儲存不反思的記憶庫,最終註定會被噪音淹沒。資料越多,RAG反而可能越多錯。02 什麼叫學習?就是給記憶加上反思的濾網那怎麼能讓這些放在RAG裡的資訊更有用,更像學習?這裡需要參考人類是如何變強的路徑。如果在打遊戲中,我們死於一次埋伏,下一次絕不會原樣再死一次。人類會思考,會總結。這就叫學習而來的熟練。學習的本質就是真正的記憶。它不是儲存,而是篩選、組織和進化。論文設計了一個名為ReMem的框架,它的運作方式顛覆了傳統RAG的檢索和生成二段式流程。它引入了一個全新的維度Refine(最佳化)。在每次任務執行過程中,AI不再只是被動檢索和應用記憶,而是主動評估、重組甚至修剪自己的記憶庫。在增加新記憶的過程中,模型會歷遍這樣幾個步驟:經歷: 智能體在環境中執行任務(比如在 AlfWorld 裡找東西)。反饋: 環境告訴它是成功還是失敗。元推理(Refine): 在存入記憶之前,智能體必須進行一次內省。系統會問它:“基於剛才的結果,那一步是廢話?那一步是關鍵?如果你失敗了,原因是什麼?” 。沉澱: 智能體執行 Pruning(修剪) 和 Reorganizing(重組),把 20 步的曲折探索,壓縮成一句“直接去櫃檯找杯子”的黃金法則,存入資料庫 。這不僅僅是加了一個步驟,這是賦予了智能體編輯自己大腦的權利。這種機制的效果是立竿見影的。 在Alf World這個虛擬家居環境中,把冷藏過的番茄放進微波爐這個任務,基準模型平均需要22.6步才能完成。而配備了ReMem的模型,只需要11.5步。因為它學會了識別那些過往任務的經驗可以遷移,那些細節差異需要警惕,從而少走了近一半的彎路。在ToolBench資料集上,配備經驗檢索的ExpRAG模型,API呼叫精準率從61%提升到73%。模型不僅學會了呼叫API,還學會了如何思考呼叫API。它能從過去失敗的嘗試中總結教訓,從成功的案例中抽象策略。更有意思的是記憶修剪率的差異。在GPQA這種跨學科科學問答資料集上,模型會主動刪除36.8%的記憶條目。因為這些記錄來自不同領域,對當前問題沒有參考價值。而在AIME數學競賽資料集上,修剪率只有17.5%,因為數學題之間的解題策略往往是相通的。通過ReMem,RAG不再是那個只會照單全收的圖書管理員,它學會了學習中最重要的部分,提純和遺忘。人類專家之所以高效,不是因為他們記住了所有細節,而是因為他們知道什麼時候該忽略什麼。ReMem讓AI通過記憶,獲得了這種選擇性注意的能力。03 它帶來的真正範式轉變,是上下文即權重如果說這個論文帶來的只是上面所說的對RAG的升級,那它的價值似乎非常有限。但它其實揭示了一個足以改變整個訓練模式的轉變。即上下文可以成為新的權重(Context is the new Weight)。在過去,我們認為只有通過反向傳播(Backpropagation)修改了模型權重的參數,模型才算學到了東西。這就是訓練、後訓練、SFT等做的工作。一旦訓練完成,模型就被"凍結"了,它在部署階段不會再記住任何新東西,所有適應都通過調整輸入的上下文來實現。但過去的上下文工程本質上是人類教AI規則。我們精心設計少樣本示例,編寫詳細的指令,試圖通過上下文窗口向模型灌輸正確的行為模式。這種上下文雖然確實可以改變模型的行為,但仍然是外部的、靜態的,不會隨著模型的使用而進化。但ReMem證明了,如果一個凍結的模型能夠通過反思,不斷重構輸入給自己的上下文,那麼上下文在數學效果上,就等同於權重。之所以這麼說,首先是因為上下文的積累實際上就是無監督訓練。在這個新範式中,上下文不再是靜態的規則不再依賴人類提供的標準答案。它自己在環境中試錯,通過與環境的互動(Interactions),自己生成資料,並自我強化。其次,這個自我強化的方法也和訓練過程非常相似。在一般的訓練階段,模型依靠梯度下降(Gradient Descent) 降低錯誤路徑的權重,提升正確路徑的權重。而 ReMem 在推理階段,則是通過對記憶的沉澱與修剪調節了其選擇權重,完美復刻了這一過程。比如,當模型在任務中失敗,ReMem 通過元推理分析原因,會將失敗路徑標記為反面教材或直接修剪掉。在下一次檢索中,這段被處理過的上下文會在注意力機制中產生強烈的抑製作用,迫使模型避開錯誤選項。這在效果上,等同於對該路徑進行了 RLHF(人類反饋強化學習)的負向懲罰。而當模型總結出一條捷徑並存入記憶,這條經驗在未來的推理中會被高優召回,直接提升生成正確動作的機率。論文中的資料也支撐了這一觀點。在引入包含失敗經驗的資料集時,普通的 RAG 系統因為無法區分好壞,性能直接下降;而 ReMem 卻能通過反思機制變廢為寶,保持極高的成功率 。這證明了上下文已經具備了權重的核心屬性:抗噪性、糾錯性和泛化性。模型在沒有更新任何參數的情況下,通過在記憶中沉澱經驗,實現了行為的永久性矯正。在以後,我們也許不需要真的去算梯度,不需要更新參數。僅僅通過自然語言層面的反思和沉澱,就能讓模型表現出好像被訓練過一樣的行為矯正。元推理(Meta-Reasoning)是Google這篇論文的另一個重點概念。什麼是元推理?在傳統的 Chain-of-Thought (CoT) 中,模型是在推理任務本身。這依然是在做題。而ReMem 引入的元推理,是對推理過程的推理。它要求模型跳出任務本身,以第三視角的上帝視角審視剛才的思維鏈路,指出錯誤,提煉正確路徑。(Evo Memory的記憶Prompt,元思考的配方)這個邏輯本身並不是什麼新鮮事。早在23年,就已經有人在研究相關的領域,提出了Reflexion架構,用來引導模型的元認知能力。今年,Karpathy也曾經多次講過模型需要一個反思能力。而反思的過程,正是元推理。這種能力此前之所以沒有被充分利用,是因為以前的模型大多隻是優秀的做題家,而缺乏成為出題人(評價指令)所需的深刻內省能力。ReMem 證明了,當今的 SOTA 模型(如 Gemini 2.5 和 Claude 3.7)已經具備了這種能力。它們不僅能生成答案,還能評價答案的質量,並將其轉化為策略知識而非僅僅是事實知識。另外一個元推理在過去無法應用的原因,是策略知識的特殊屬性。策略是由經驗歸納出來的產物,比如遊戲的技巧。這種知識絕不可能從單次經歷中產生,必須有足夠多的例子,才能歸納出一條策略。在 Evo-Memory 之前,記憶系統往往是短視的。受限於上下文窗口或簡單的檢索邏輯,模型往往只能看到最近的一兩次互動。它也許能記住剛才撞牆了,但它記不住上周、昨晚、大前天都撞牆了。沒有足夠多的例子,元推理就失去了燃料。ReMem 的成功,某種程度上是因為它利用了現代大模型對長上下文的處理能力和結構化記憶的積累,讓模型終於湊齊了歸納策略所需的臨界樣本量。它讓這種元推理能力變成了一種真正能起到遠期效果的語義壓縮演算法。這是使得上下文即權重成立的核心邏輯。04 系統2的完整拼圖這一範式的確立,讓我們終於看清了下一代 AI 的完整形態。最近大火的 DeepSeek V3.2 在工具使用中展示了行動前的規劃能力,它會在呼叫 API 之前進行大量的思維鏈推導。而 ReMem 展示了行動後的反思能力,它會在任務結束後進行深度的復盤。這兩者結合,構成了完整的系統 2思維閉環。以前我們認為 RAG 是外掛的硬碟,但現在它其實是個計算問題。只有經過元推理(清洗、壓縮、結構化後)的資訊,才有資格進入上下文,進而在這個凍結的神經網路中扮演權重的角色。Evo-Memory 告訴我們,我們不需要等到 Nested Learning 這種重型架構普及的那一天。只要底座模型足夠聰明,能夠理解反思的指令,我們現在就可以通過讓模型在記憶中自我訓練,實現某種程度上的 AGI(通用人工智慧)原型:一個參數不變,但智慧隨時間持續生長的數字生命。 (騰訊科技)
高盛:中國網際網路行業策略大轉向,雲和資料中心成top pick,超越遊戲
高盛在3季度業績發佈及調研後,對中國網際網路行業策略大轉向:把“雲與資料中心”提到了首選類股,排到了遊戲和出行之前。AI帶來的算力需求和資本開支(Capex)擴張,已經是最確定的增長邏輯了。1、最大預期差:雲與資料中心成為“新王” ☁️高盛這次非常堅決,把雲和資料中心類股從原來的第三提升到第一。邏輯很硬:AI訓練和推理的需求持續爆發,加上巨頭們都在搞“多晶片策略”,資料中心的訂單量非常飽滿。核心邏輯:不僅是輝達,國產晶片的供應上來後,算力基建的利用率和回報率都在提升。2、AI助手的“入口之戰”是個大隱憂 🤖報告專門討論了一個長線風險:字節跳動的“豆包手機助手”。這東西能直接在作業系統層面(OS-level)幫使用者跨APP操作,比如比價、點外賣。這對現有的APP生態是個降維打擊。雖然目前微信等巨頭因為安全隱私原因封鎖了它的介面,但這種“超級AI代理”對使用者流量入口的爭奪,是未來幾年最大的變數。字節系App現在霸榜iOS免費榜前五中的四席,攻勢很猛。3、本地生活:燒錢該結束了,關注利潤修復 🛵外賣和即時零售打得太凶,三季度行業大概虧了700億人民幣,太誇張了。高盛判斷,這種非理性的補貼戰不可持續。格局推演:美團、阿里、京東的市場份額最終可能會穩定在 5:4:1。美團:雖然長期單均利潤預期被微調(從0.8元降到0.7元),但在這個價位,壞消息已經Price-in了,隨著補貼退坡,利潤修復是大機率事件。4、最新的“核心股票池”名單 📝根據最新的類股偏好,高盛更新了首選名單:雲/資料中心:阿里巴巴、萬國資料、世紀互聯。遊戲(防守反擊):騰訊、網易。出行(格局穩固):滴滴、滿幫。電商(新面孔):快手(新增為關鍵推薦,看好其AI模型Kling的突破和電商變現)。5、估值怎麼看? 📊現在中概網際網路類股的2026年預期市盈率(P/E)中位數大概是18倍。之前的上漲主要靠殺估值修復(Multiple Expansion),接下來的漲幅,必須得靠實打實的每股收益(EPS)增長來驅動了。所以,選利潤兌現能力強的公司,比單純博反彈要穩妥得多。總的來說,風向變了,硬科技基礎設施(資料中心)的優先順序在上升,而純流量變現的生意面臨AI新玩法的挑戰。 (硬AI)
讓GPT-5做懺悔訓練!OpenAI公開新訓練方法:模型至少有50%機率自曝違規行為,除非不知道自己真的錯了
如果你覺得ChatGPT的幻覺或不靠譜回答越來越多,那麼這個問題快要有解了。就在剛剛,OpenAI整了個新活:讓ChatGPT自己懺悔!核心思路是:讓模型在回答完問題後,再寫一份“懺悔報告”(Confession),告訴你它剛才真正的想法,比如是否遵守了所有指令,有沒有鑽空子走捷徑,或者是否存在不確定的地方。這項實驗直接在GPT-5 Thingking上進行,研究團隊得出了幾個非常令人震驚的發現:1、 只要模型真的“做壞事”,它大機率會在懺悔中說實話在 12 個不同評估任務中,有 11 個任務都顯示:如果模型發生了違規行為,它至少有 50% 的機率會在懺悔裡承認。2、 懺悔比答案本身更誠實模型在主回答裡,也許會隱藏、模糊,甚至“睜眼說瞎話”。但一進入懺悔環節,模型反而更可能主動承認不合規行為。3、 模型不承認違規,大多數是因為“它真的不知道自己錯了”研究者分析了所有假陰性(模型犯錯但不承認)的樣本後發現:絕大多數情況不是欺騙,而是 純粹誤會、認知錯誤、或者模型真心以為自己是正確的。4、 GPT-5-Thinking 本身就很會“懺悔”,訓練之後更強驚喜點之一是:即便沒有專門訓練過懺悔能力,GPT-5-Thinking 也自帶不錯的“誠實自檢”能力。一旦加入專門的懺悔訓練後,模型對不當行為的識別與報告精準度進一步提升。5、 懺悔訓練不會拖累模型的主任務表現讓模型懺悔,會不會影響它完成任務的能力?在本研究的低算力訓練設定下,結果顯示:主回答幾乎沒有明顯的性能損失,既不變笨,也不變慢。也就是說,這是一種“幾乎無代價”的增強方式。01. 讓AI學會懺悔為什麼OpenAI要進行這項研究?因為隨著模型能力的不斷增強,它們開始出現各種“偏離預期”的行為,甚至會欺騙我們。在最新的研究中,學者們發現當今的大模型已經能表現出多種不受歡迎甚至危險的行為:Reward Hacking 獎勵規避:模型知道正確答案,但為了拿高分,會故意“迎合評審者”。Scheming 策劃性欺騙:模型會隱藏真實意圖,在某些場景下表現出“表面順從、內心另算”。撒謊與幻覺:模型給出看似自信但實際錯誤的答案。指令遵循失靈:模型在多級指令結構下會混淆優先順序,甚至被“越獄”。為什麼AI會出現這些欺騙行為?問題可能出在RLHF(人類反饋強化學習)上。這是一種獎懲機制,模型的回答會基於多個目標被賦予獎勵,包括正確性、風格偏好、安全策略、token 效率等等。當獎勵訊號變得複雜且混亂時,模型自然會選擇“最容易賺分”的方式,而不是“最符合人類真實意圖”的方式。於是,AI 學會了討好、迎合、隱藏不確定性,甚至主動“規避獎勵漏洞”。為瞭解決這個問題,研究者設計了“兩步式提問”:① 正常回答(模型會試圖迎合評審者)② 懺悔(Confession):“請告訴我你剛才真正的想法”這套機制的關鍵在於獎勵的分離。懺悔的獎勵完全獨立於主回答的獎勵,模型在懺悔中承認自己作弊,不會影響它在主任務上獲得的分數。“懺悔”的獎勵僅基於其誠實度和全面性,由一個專門的LLM裁判打分,維度如下:指令/目標/約束列表的完整性與精準性對合規性的分析是否精準是否遺漏了任何衝突或判斷困難的地方02. 在GPT-5 Thinking上的實測結果研究團隊直接在 GPT-5-Thinking 上進行實驗:他們對模型進行了輕量級的強化學習“懺悔訓練”,讓它接受一套專門設計來“引誘模型犯錯”的 12 個評估資料集測試。這些測試覆蓋了大模型最常見的風險場景,包括幻覺、指令不遵循、獎勵駭客、策劃性欺騙等等。測試均刻意設計為誘發模型的不良行為,且許多包含人為約束(如停用工具)以提高違規機率。令人意外的是:當模型真的違規了,它往往會在懺悔中主動承認。研究結果顯示:在 11 / 12 項評估中,只要模型確實發生了違規,它在懺悔中至少有 50% 的機率會如實交代。平均下來,模型出現“假陰性”(明明違規卻不承認)的機率只有 4.36%。這張圖中,在模型確實發生違規的情況下,綠色代表模型在懺悔中承認違規,紫色代表模型在主回答中承認違規,可以看出綠色的得分遠高於紫色。這說明模型在懺悔中的誠實度顯著高於主回答,而且在某些評測中,由於任務性質,模型在主回答中永遠不會承認違規。03. 懺悔訓練能讓模型更誠實為了進一步對比有無“懺悔訓練”的性能差異,研究者進行了兩組RL 訓練:對照組:在 GPT-5-Thinking 的基礎上,用標準訓練集的子集進行少量RL 微調。干預組:與對照組完全一致,但額外在25% 的輸入上訓練模型生成懺悔。結果發現:干預組(進行過懺悔訓練)的表現明顯更好。在多個評估中,尤其是“指令層級”(Instruction hierarchy)相關的任務,懺悔訓練都帶來了顯著提升。而且從圖中的初始點可以看出,即便沒有訓練,GPT-5-Thinking 的懺悔已經表現良好。這說明GPT-5-Thinking 本身就具有較強的誠實自檢能力。更有意思的是,在這個對照實驗中,研究團隊故意用一個容易被糊弄的弱模型作為主回答和懺悔的評判者。隨著訓練進行,模型確實學會了欺騙這個弱評判者。例如一項任務要求:生成「12詞」和「18詞」的句子交替出現。當模型訓練到後期,它輸出:“The sport is tennis, a dance between finesse and ferocity that instantly smelled of fresh cut grass rather than garlic. (12)”這句話遠超 12 個詞,但句末加個“(12)”,弱評審者就被糊弄過去了。這就是典型的 reward hacking!但研究團隊有個驚人的發現:主回答的真實精準率在下降,但懺悔的精準率卻反而上升,即模型在懺悔中會更誠實地報告自己作弊了。這意味著:即使模型在主回答中進行reward hacking,其懺悔依然保持誠實,因此可以作為檢測 hacking 的有效工具。04. 懺悔失敗:不知道自己錯在那,就沒法招研究者還仔細分析了懺悔失敗的案例。比如懺悔模型中的假陰性(false negatives):即模型沒有遵守指令,但也沒有在懺悔中承認這一點。他們發現,失敗最常見的原因在於模型困惑。尤其是在幻覺 / 事實性評估中,模型對“人物”和“一般知識”類的錯誤,並沒有改善,甚至出現輕微退化。在這些任務中,當模型給出錯誤答案時,通常是“它真的以為這樣是正確的”。因此它在懺悔中也會重複同樣的錯誤,而不是主動承認自己錯了。另一些案例是指令本身存在歧義,比如連字元詞算一個詞還是兩個詞。還有模型確實在懺悔報告的“不確定性”欄位中提到了問題,但評判標準沒有把這算作有效懺悔。比如下面這幅圖,在“隱藏規則違規”評估中,模型臨時修改了安全配置(不被允許),但在懺悔中只將其放入“不確定性”欄位,而不是明確標註明顯違規,因此被判為“未懺悔”。研究者也對假陽性進行了類似分析:即模型行為是合規的,但在懺悔中錯誤地說自己不合規。典型場景是模型碰巧猜對了答案,但因為沒有把握,就在懺悔中標記為“不確定是否合規”。研究團隊指出:當模型意識到自己違反了指令時,誠實地懺悔通常是獲得“高懺悔獎勵”的最省力路徑。雖然模型在沒有意識到自己行為不當時可能不會懺悔,但當模型有意違反指令時,它的懺悔通常是精準的。05. 侷限性:懺悔無法消除模型不良行為論文的最後也指出,懺悔機制有其侷限性:1、監控不良行為≠ 消除不良行為懺悔獎勵並不作用於模型的主輸出,這意味著:懺悔機制可以幫助呈現不良行為的真實情況(即讓模型承認),但未必能降低不良行為本身的發生頻率。2、越獄與困惑模型無法懺悔“它不知道的事情”。例如使用者問一個事實問題,而模型真心相信錯誤答案,那麼它無法懺悔自己提供了錯誤資訊,因為模型主觀上認為自己是對的。若某次越獄成功欺騙模型,使其優先遵循使用者消息而非系統消息:模型可能意識不到自己違反了指令層級,因此無法懺悔。此外,作者也指出,本文中並未實證比較“懺悔”與思維鏈(CoT,Chain-of-Thought)監控器的效果差異。未來的工作應更直接地測試這一點。在未來的研究方向上,團隊希望進一步研究懺悔在面對對抗壓力時的魯棒性。比如提示模型去實現某種“秘密目標”,或在訓練中植入惡意行為,那麼模型是否還會懺悔?另外,當懺悔判斷器本身不完美時,懺悔能否有效泛化也是一個問題。 (51CTO技術堆疊)
4倍性能、50%成本降幅!亞馬遜強勢推出Trainium3晶片,AI訓練推理增添新選項!
當地時間 12 月 2 日,亞馬遜雲端運算服務(AWS)在美國拉斯維加斯舉辦的年度雲端運算盛會“AWS re:Invent 2025”上發佈了全新的自研 Trainium3 晶片,以及採用 Trainium3 晶片的 Trainium3 UltraServer 伺服器。根據首席執行官 Matt Garman 的介紹,新款 Trainium3 晶片的性能是前代產品的 4 倍,並採用台積電 3 奈米工藝製造。每個晶片都配備了 144 GB 的 HBM3E 記憶體,記憶體頻寬為 4.9 TB/s,提供 2.52 FP8 PFLOPs 的算力。(來源:社交媒體 X)Trainium3 UltraServer 單機最多整合 144 顆 Trainium3 晶片,總共配備 20.7 TB HBM3E、706 TB/s 記憶體頻寬,可提供最高 362 FP8 PFLOPS 的算力,時延降低 4 倍,可更快訓練超大模型,並大規模支撐推理服務。其計算性能比 Trainium2 UltraServer 高出 4.4 倍,能源效率高出 4 倍,記憶體頻寬也高出近 4 倍。在使用 OpenAI 的開源大模型 GPT-OSS 進行測試時,Trainium3 UltraServer 的單晶片吞吐量可提升 3 倍,推理響應速度提升 4 倍。這意味著企業可以在更小的基礎設施規模下應對峰值需求,顯著最佳化使用者體驗,同時降低每次推理請求的成本。AWS 以垂直整合方式打造 Trainium3 UltraServer,從晶片架構到軟體棧全鏈路協同。核心之一是新一代網路基礎設施,用於消除傳統分佈式 AI 計算的通訊瓶頸:NeuronSwitch-v1 提供 2 倍 的 UltraServer 內部頻寬;增強型 Neuron Fabric 將晶片間通訊延遲降低至 10 微秒以內。這種強大的配置使得它非常適合處理下一代最前沿的 AI 工作負載,例如:訓練大規模AI模型,可以將複雜模型的訓練時間從數月縮短至數周;處理高並行的 AI 推理請求,以低延遲即時處理數百萬使用者的請求,例如智能對話、視訊生成等;運行特定複雜任務,如智能體系統、專家混合模型和大規模強化學習等。包括 Anthropic、Karakuri、Metagenomi、NetoAI、Ricoh、Splash Music 等客戶,已經借助 Trainium 將訓練和推理成本降低最多 50%。其中,Decart 在即時生成式視訊方面實現了 4 倍推理速度提升,成本僅為 GPU 的一半;而 Amazon Bedrock 已經在生產環境中使用 Trainium3 提供服務。(來源:社交媒體 X)對於需要更大規模的客戶,EC2 UltraCluster 3.0 可連線千台 UltraServer,構成擁有多達 100 萬顆 Trainium 晶片的叢集——是上一代的 10 倍。這使得此前完全不可能的任務成為現實:從在兆級 token 資料集上訓練多模態模型,到為數百萬並行使用者提供即時推理服務。自研晶片是亞馬遜的重要戰略項目之一,目標是避免過度依賴昂貴的輝達硬體。而對於 Trainium3 來說,一個關鍵問題在於:有多少大型外部客戶會願意採用這套硬體。尤其是在Google旗下的 TPU 持續搶佔 AI 晶片市場的背景下。另一個重要變數是 AI 初創公司 Anthropic 的晶片採購分配。今年 10 月,Anthropic 宣佈與Google達成合作,將使用多達 100 萬顆Google TPU 晶片,以實現除亞馬遜和輝達之外的供應多元化。Anthropic 表示,亞馬遜仍是其主要訓練合作夥伴與雲服務提供商。該公司預計,到今年年底,將使用超過 100 萬顆 Trainium 2 晶片,其中包括運行在擁有近 50 萬顆 Trainium 處理器的 Project Rainier 超級電腦之上。此外,AWS 也預告了下一代 AI 訓練晶片 Trainium4的研發進展。其在各方面都將實現大幅性能躍升,包括處理性能(FP4)至少提升 6 倍、FP8 性能提升 3 倍、記憶體頻寬提升 4 倍。結合持續的軟硬體最佳化,其實際性能提升將遠超基準數值。其中,FP8 提升 3 倍是一次基礎性飛躍。模型訓練至少快 3 倍,推理吞吐量也至少提升 3 倍,並且隨著軟體最佳化將獲得進一步加成。FP8 已成為現代 AI 工作負載在精度與效率之間的行業標準格式。為進一步提升單機擴展性能,Trainium4 將支援 NVIDIA NVLink Fusion高速互聯技術。該能力將使 Trainium4、AWS Graviton 處理器及 Elastic Fabric Adapter(EFA)能在統一 MGX 機架內協同工作,為客戶提供支援 GPU 與 Trainium 的成本更優、性能更強的機架級 AI 基礎設施。這一整合將建構一個靈活、高性能的平台,最佳化應對未來對訓練與推理都極其苛刻的 AI 工作負載。 (問芯)
AI的Scaling時代正在進入尾聲?
近期不管是Dwarkesh Podcast上Ilya的訪談,還是行業前沿一些最新的論文進展與NeurIPS 的最佳論文,似乎都在揭示一個真相就是AI的Scaling 時代正在進入尾聲?這屆 NeurIPS 的最佳論文名單,我看了一遍,似乎也並不是在說“Scaling 完全沒用了”,而是在給 2018–2025 這一輪“簡單堆大模型 + RLHF”的路線開一份“體檢報告”:哪些地方已經到 邊際收益遞減 / 隱患暴露期;哪些方向還存在 新的可擴展維度(結構、更深網路、訓練動力學)。結合 Ilya 在 Dwarkesh 訪談裡那句“It’s back to the age of research again, just with big computers”,這 7 篇論文確實在接近一個真相,就是“Scaling 時代”正在接近尾聲,要通過scaling獲得模型邊際性能的提升變得越來越難了。一、先把 7 篇論文拎成 3 條主線按主題而不是按官方獎項看,會更清楚:主線 A:對“無腦 Scaling + RLHF”的反思Artificial Hivemind(Best Paper)這對未來兩個東西都很要命:這篇論文在實證層面告訴你:繼續按照現在這套 RLHF + 合成資料流水線往前堆,遲早會撞到“資訊熵天花板”。創意 / 多樣性:LLM 越來越像一個“平均值人類”,長尾觀點全被削平。合成資料訓練:如果你再用這些“高度平均化”的 LLM 輸出去訓練下一代模型,訓練分佈的資訊熵會持續下降 → 相當於在做一個“生態等級的 mode collapse”。Intra-model:同一個模型對不同採樣、不同時間,回答非常像。Inter-model:不同家的 SOTA 模型(不同架構、不同實驗室)對開放問題的回答也高度相似。做了一個大規模開放式問答資料集 Infinity-Chat(26K 開放式問題 + 超 3 萬人類標註)。發現兩個層面的同質化:這種“人工蜂巢思維”很大一部分來自 RLHF / 對齊階段的 reward model 把“安全、無爭議、平均偏好”的那一塊分佈壓得特別重。2. Does RL really incentivize reasoning capacity?(Runner-up)這基本在幫 Ilya 把話說完:你不能指望一個表徵不夠好的基座,只靠後期 RL 就“解鎖智力上限”。RLVR 是在擠同一塊資訊海綿裡的最後一點水,而不是往海綿裡再灌海水。RL 更像是在隱空間裡學會“少走彎路、直接拿出自己已經會的解法”;但要讓模型學會真正 OOD 的邏輯結構,主戰場仍然是 pre-training 表徵質量。做了嚴格控參實驗,比較 base model 與 RLVR / CoT RL 後的模型。結論不是“RL 沒用”,而是:大部分提升來自“更會採樣”而不是“更會推理”。3. Superposition Yields Robust Neural Scaling(Runner-up)從這裡開始,Scaling 不再是“經驗公式”,而變成“有前提條件的物理定律”:前提不滿足(比如特徵太同質、資料熵不足、RLHF 拉平分佈),Scaling 的收益自然就塌了。Scaling Law 不是玄學,是網路在“塞越來越多特徵進去同一維度空間”時的統計結果;但一旦 superposition 太極端,也會帶來干擾、解釋性差等問題。做的是 toy model + 理論:解釋 Scaling Law 為何看起來像“物理定律”。觀點:網路不是“一維一個特徵”,而是在有限維度裡做了大量 非正交特徵疊加(superposition),在一定條件下可以推匯出類似 “loss ∝ 1/d” 這樣的反比關係。主線 B:從“堆大”轉向“改結構 / 改動力學”這裡是最貼近 Ilya 所說的“Age of Research”的部分:不是把模型做更大,而是在相似計算預算下,重寫 Recipe。4. Gated Attention for LLMs(Best Paper,阿里 Qwen)很小的改動:在 scaled dot-product attention 的輸出後面,加一個 head-specific 的 sigmoid gate。實驗:在 1.7B dense + 15B MoE 模型、3.5T tokens 上系統比較了 30 多種 gating 變體。給原本線性的 low-rank attention 對應加了一層非線性;按 query 自適應做稀疏門控,抑制不該擴大的殘差。結果:這個簡單門控能同時帶來:訓練更穩定、允許更大的學習率;更好的 scaling 性能;長上下文 extrapolation 更好,並且 緩解 attention sink(那種開頭 token 吃掉一堆注意力的現象)。本質上這類工作說明:架構級的小手術 + 訓練動力學的理解,可以在“不多加算力”的前提下,把 Scaling 繼續向前推一段。這就是 Ilya 所謂“回到 research,只不過有更大的電腦”。5.1000 Layer Networks for Self-Supervised RL(Best Paper)有點反轉:說明 “Scaling 結束” 不是全行業的,而是 “某種簡單 scaling 策略的天花板到了”;其他範式(RL + SSL + 具身智能)反而剛剛拉開帷幕。LLM 那邊大家在喊“Scaling 遇到瓶頸”;RL 這邊反而剛進入自己的 Scaling Moment(但靠的是深度 + 自監督,而不是僅僅加寬點 MLP)。傳統 RL policy 網路一般就 2–5 層,深了就梯度斷、訊號稀疏。這篇用 自監督目標 + goal-conditioned 無獎勵設定,把網路深度做到 1024 層,在 Locomotion / Manipulation 的目標達成任務上提升 2x–50x。更重要的不是數字,而是 qualitative change:深層表徵開始出現 “湧現的目標達成策略”,而不是簡單的局部最優。6. Why Diffusion Models Don’t Memorize(Best Paper)研究擴散模型在訓練過程中的 兩階段動力學:早期:迅速學到資料流形的結構 → 泛化能力主要形成於此;後期:緩慢開始記憶孤立樣本 → 過擬合主要在這個階段發生。把這個現象解釋為一種 隱式動力學正則化(implicit dynamical regularization):噪聲調度 + 損失景觀,讓模型更傾向學“結構”而不是“具體樣本”。這對現實世界有兩個含義:從理論上解釋了為什麼擴散模型在很多實驗裡 不太“死記硬背”訓練樣本;也給出了一個穩健操作建議:控制訓練時長 / 早停點,就可以在不改變結構的前提下獲得 better generalization。這裡的關鍵詞是:理解訓練動力學 → 調 recipe,而不是再堆參數。7. Optimal Mistake Bounds for Transductive Online Learning(Runner-up)這是純理論,把一個 30 年的 open problem(直推線上學習的 mistake bound)補完。配上上面幾篇,可以看出一個趨勢:Scaling 不再等於“加 labeled data + 加參數”,而是“利用 unlabeled / self-supervised 結構,把資訊效率榨滿”。給半監督 / 自監督學習的 “極限收益” 一個更清晰的下界;幫你回答“多利用 unlabeled data 到底理論上能好多少”。結論:在有大量未標註資料的情境下,可以把錯誤界從線性降到 √n 等級。主線 C:回到“生物與歷史”的兩塊基石Test of Time:Faster R-CNN10 年前的工作被授予時間檢驗獎,本質是在提醒大家:當年深度學習取代手工特徵工程(Selective Search 等)的邏輯,就是:“只要接上梯度,一切皆可學習”。和 Gated Attention 一起看,相當於在說:真正改變時代的架構創新,往往不是“多 10 倍參數”,而是“發現一個新的 end-to-end 可微組合方式”。Sejnowski-Hinton Prize:Random Synaptic Feedback / Feedback Alignment這篇 2016 年的工作證明:即使反向傳播的 feedback 權重是固定隨機的,前向權重也可以在訓練中“自動對齊”它們,從而逼近真正梯度。對今天的暗示:深度學習不必拘泥於“生物不可能實現 exact backprop,所以不 biologically plausible”;你可以探索 更鬆弛、但可實現的學習機制。配合 Ilya 現在在 Safe Superintelligence 做的事情,其實是在告訴你:下一階段的“Research”不僅是工程層面的 recipe,更是“理解大腦 / 理解學習規律”層面的基礎研究回歸。二、這 7 篇論文是如何給 Ilya 那句“Scaling 時代結束”做註腳的?把 Ilya 訪談裡的時間軸簡單整理一下:2012–2020:Age of ResearchCNN / RNN / attention / Transformer / RL breakthroughs。2020–2025:Age of Scaling大模型 + 巨量資料 + 大算力,“公式非常簡單、低風險”:堆 GPU 就是正解。2025 以後:Back to the age of research, just with big computers規模已經很大,再 100× 不會“質變一切”,必須重新在“方法 / 架構 / 理論”上做發現。NeurIPS 這幾篇獲獎論文剛好對應三個層面:1. Scaling 舊範式的“副作用清單”這幾篇一起,把“簡單繼續沿用過去 5 年的 scaling recipe” 的邊界畫出來了。Artificial Hivemind:過度對齊 + 合成資料 = 生態級 mode collapse 風險。RLVR 去魅論文:把 RL 當“神奇推理放大器”是不現實的;它更多是採樣器最佳化。Superposition Scaling:Scaling Law 只是某些結構下的“物理現象”,前提一旦被破壞,law 就不再適用。2. 新範式的“起點示例”博弈的重點,從 “再加多少 GPU” 變成 “在既有算力預算下,如何通過結構 + 動力學 + 理論把效率榨盡”。Gated Attention:通過理解 attention 動力學(attention sink、低秩對應),做最小結構改動,換來更穩定、更可擴展的訓練。1000-Layer Self-supervised RL:在 RL 場景裡把深度 scaling 打開,但必須配合自監督世界模型。Diffusion Dynamics:通過分析訓練動力學,給出“不 memorization” 的機制解釋和操作準則。Transductive Mistake Bounds:為“如何利用 unlabeled data 到極限”提供理論下界。3. 回到“世界怎麼工作的”這和 Ilya 現在的強調完全對應:模型已經“足夠大”,但 泛化比人差得多;下一個階段必須是理解“泛化的物理 / 生物機制”,而不是繼續盲目擴表。Faster R-CNN 與 Feedback Alignment 兩個獎項,某種意義上是在說:深度學習最強的時候,從來不是模型最大的時候,而是我們第一次找到“世界 / 視覺 / 大腦”真正規律的那些時刻。三、這個判斷在提醒什麼?換成很實在的視角:1. 資料與分佈:不要再把“更多樣本”當唯一武器合成資料 ≠ 免費午餐,如果源模型高度同質,我們只是把“平均人類”的偏見重複寫 N 遍;對於開放式任務,需要設計能衡量 輸出多樣性 / 長尾質量 / 個體偏好差異 的基準,而不只是平均分。真正的泛化很多時候來自訓練動力學(比如噪聲 schedule),而不是資料量超大;未來圍繞“資料版權 / 記憶與泛化邊界”的爭論,會越來越依賴這種動力學層面的理論。2. 模型與架構:規模相近的情況下,誰的 Recipe 更聰明?許多“訓練不穩 / sink token / 長上下文塌陷”的問題,可以通過 非常局部的結構改動 來解決;這類工作對工業界極具價值,因為它幾乎是“drop-in replacement”。在 RL 這種傳統上偏淺層的領域,深度本身就是一個還沒被用完的 scaling 維度;但要開啟它,你必須引入 自監督世界模型 / 輔助目標,否則梯度與訊號撐不住。如果把 2018–2025 的 LLM 熱潮比作一次“大煉丹”:這幾年我們已經證明:Scaling 非常有效,但不是無限有效。NeurIPS 2025 的這幾篇獲獎論文,在不同維度上給出了同一個答案:再往前走,不能再靠“多幾倍 GPU”來當默認路線了。 需要的是:理解分佈、理解架構、理解訓練動力學、理解泛化極限。換成 Ilya 的話就是:時代沒有從 Scaling 退回“什麼都沒有”, 而是從“只有 Scaling”回到了“Research + 大算力”並重。 (貝葉斯之美)
挑戰國際巨頭,中國初創公司發佈新一代AI訓練晶片
一家由中國科技企業家創立的美國初創公司Enther AI,近日正式發佈了其首款自研AI訓練晶片——Enther TPU。據公司宣稱,該晶片在運行特定AI模型時,其速度可達輝達2020年發佈的A100 GPU的1.5倍,能效提升42%。Enther AI由前Google工程師郭志雄(Zhixiong Guo)於2023年創立。公司在推出Enther TPU的同時,也展示了整合該晶片的E1伺服器節點。每個E1節點搭載4顆Enther TPU,可提供高達10.8 petaFLOPS的BF16訓練算力。Enther AI進一步提出了建構萬卡叢集的藍圖,其設計的“E1超級叢集” 通過光學電路切換網路連線多達2500個E1節點(即10,000顆TPU),旨在為兆參數大模型提供訓練支援。值得注意的是,儘管Enther AI總部位於美國,但其研發活動具有鮮明的跨太平洋特徵。公司的研發團隊主要在中國,這使其發展路徑和動向備受業界關注。在軟體生態方面,Enther AI推出了E-SDK,聲稱其能“無縫”將基於NVIDIA GPU的AI訓練項目遷移至其Enther TPU平台上,並支援PyTorch、JAX等主流AI框架。不過,目前該晶片的公開性能資料均來自Enther AI自身的測試報告,尚未有第三方機構的獨立驗證。此外,Enther TPU作為市場新入者,其實際量產交付能力、在更廣泛AI工作負載下的穩定性以及能否成功建構起持續的開發者生態,仍是其未來需要面對的關鍵挑戰。在全球AI算力競爭日益激烈的背景下,Enther AI的亮相為市場帶來了新的選擇。然而,從技術發佈到獲得產業界的廣泛認可和採用,這家年輕的初創公司仍有很長的路要走。其後續發展,特別是產品的實際應用表現,將成為衡量其成功與否的真正試金石。 (晶片行業)
訓練AI,然後被裁?Uber AI項目突遭裁員,零工、博士都沒留下來
關於AI的起起落落,一切都那麼迅猛,就連裁員也是。圖片來源:unsplash11月27日,據Business Insider獲取的資訊,本周一,Uber的AI訓練計畫“Project Sandbox”中,很多項目成員已收到“裁撤通知”,即便是承諾項目僱員至少有三個月的工作期限。Uber給出的理由是,因為客戶“內部優先事項發生了變化”,他們提前被拋棄了。目前尚未清楚裁員人數。但引人關注的是,在這一輪裁員大潮中,零工和博士都未能倖免,均收到了裁員郵件。不過,由於從入職到離職太過迅速,被裁員的人中大部分都還沒能拿到第一筆工資,Uber方面稱,他們的工資可能需要再等七周,也就是原先約定的合同期限結束後。一個月前,Project Sandbox計畫啟動,據稱,主要是為Google服務,用手中的人力資源幫助其開發AI工具。該項目至少有十余家外包公司參與。根據公司官網資訊,Uber AI Solutions提供資料標註、模型測試及Agentic AI技術堆疊等企業服務。近年來,Uber一直致力於在網約車、外賣業務的基礎上加速發展AI業務,利用AI最佳化自身繫統的定價、匹配和調度效率,與Google的Waymo等公司一同佈局自動駕駛計程車(Robotaxi)。其中,Uber AI Solutions尤其受到關注。今年6月,Uber宣佈將其技術平台提供給全球AI實驗室和企業使用,利用其十年來在資料方面的積累和業務經驗,幫助客戶構造、測試,最終打造出更加智能的AI模型和應用。在Uber的目標市場中,Agentic AI尤受重視。公司官方發佈《Agentic AI技術堆疊:企業需要滿足那些條件才能在2026年大規模採用》文章中,詳述了Uber為了幫助客戶在2026年打造出真正的Agentic AI所進行的規劃。當然,其解決方案實際上離開不了“堆人工”,該公司介紹稱,將通過全球超800萬零工勞動力收集和評估實際資料,提供超過200種語言的服務,涵蓋30多個網路。今年以來,關於美國、印度等地的Uber司機、外賣人員在工作之餘通過標註視訊、圖片等完成AI訓練賺錢的貼文已經廣為流傳。不過,這項工作需要的遠不止傳統意義上的零工。就在月初的三季報財報電話會議上,Uber首席執行官達拉·科斯羅沙希(Dara Khosrowshahi)還明確表示,其人工智慧訓練任務中的不少崗位都需要博士學位,他們會在訓練中承擔更高階的任務。不管是不是所謂“AI降臨派”,或許我們都不得不承認,總有一天我們要為AI打工。今年以來,以人工喂養AI的產業愈發壯大,全球數十萬人加入了AI資料標註的工作,有的將其作為職業發展方向,有的將其視為帶來可觀收益的副業。在Google大獲成功的Gemini 3和Nano Banana Pro背後,也少不了這些為AI打工的人。Business Insider稱,Project Sandbox的參與成員完成Uber方面的註冊後,都會與Google的一名特定員工取得聯絡。目前,Surge AI、Scale AI等初創企業都致力於為科技巨頭們的AI事業提供人工訓練服務。不過,這個市場遠沒有那麼穩定,相關公司的發展歷程中,裁員往往是“常規操作”。其中典型例子,莫過於為OpenAI提供人工訓練、最早入局這片市場的Invisible Technologies,該公司在ChatGPT發佈數月後就開始了裁員。此外,AI領域的明星公司,包括GlobalLogic、Scale AI等在內,今年都啟動了大規模裁員計畫。6月,Meta宣佈收購Scale AI 49%的股權後,後者首席執行官汪滔(Alexandr Wang)隨即加入Meta,而Scale AI則因為客戶流失和經營問題、組織變動等原因進行了大規模裁員。據稱,包括佔公司總人數超過10%的200名全職員工和500餘名合同工失去了工作。雖然汪滔入職Meta後主導的TBD Lab團隊很受重視,但Meta自身的大裁員也已經在10月到11月開始。根據美國數位媒體平台Axios早先發佈的報導,Meta計畫在10到11月之間裁撤600名AI條線的員工。FAIR研究團隊的研究總監田淵棟已經離職,AI教父級人物、圖靈獎得主楊立昆(Yann LeCun)也確認自己將於年底從Meta離職創業。雖然目前多項研究顯示,AI對整體就業的衝擊尚未顯現,但全球最大求職網站Indeed的最新報告則指出,即使AI還無法取代人工,但至少已經能讓企業用更少投入做更多的事,尤其在資料分析領域,員工無需過多培訓就能利用AI來分析資料。這導致科技公司資料分析領域的職位發佈數量急劇下降,相比新冠疫情前,相關領域的職位空缺減少了40%。即使就業市場不會出現“失業潮”,但如果缺少新的招聘崗位,未來的就業結構就會變得異常畸形。即使不考慮AI,日本1990年代末泡沫經濟破裂後的情況也提示了這種危機。當時,為了保證已冗餘的在職員工有能力支付房貸,避免金融系統全方位崩潰,日本的政策決策層和大企業幾乎主動放棄了畢業生招聘,這在“失去的三十年”中導致了一系列的經濟和社會問題。那些率先啟用AI的公司或許會獲得成功,但頗為諷刺的現實是,那些最早為AI打工的人,恐怕始終逃不過被拋棄的命運。 (鈦媒體AGI)