短短數月內,曾被矽谷巨頭們一度推崇的“詞元消耗最大化(tokenmaxxing)”模式,便經歷了從興起到降溫,再到徹底被抵制的過程。
據媒體報導,Meta近日發佈內部備忘錄,其中向約6000名員工披露,公司預計2026年僅“內部AI使用”一項支出就將達到數十億美元,並計畫於2027年正式推行以預算和配額為核心的詞元管理機制。意味著這家科技巨頭在大力鼓勵員工使用AI工具數月後,如今轉而著手限制內部token消耗。
Meta首席執行長祖克柏在內部備忘錄中承認,公司在人工智慧轉型過程中犯下了錯誤。公司將為調配去訓練人工智慧模型的員工安排“有意義的新崗位”。
此外,Meta計畫引導員工從第三方AI程式設計工具,轉向公司內部開發的程式設計助手MetaCode,以此來控制token消耗成本。據報導,旗下Applied AI Engineering部門已安排工程師專項提升MetaCode能力,通過反覆解答程式設計挑戰題來訓練其程式設計響應能力。
上述進展引起市場關注。紐約大學著名AI研究者,機器學習公司Geometric Intelligence創始人Gary Marcus指出,“tokenmaxxing正讓位於tokenminimizing(詞元消耗最小化)”,並預計這一趨勢將令Anthropic和OpenAI的第三季度營收不及第二季度表現。
此前,Meta內部有一個名為“Claudeonomics”的榜單,可用於跟蹤員工的token消耗情況。這直接推動了“詞元消耗最大化”亂象的演繹——員工競相通過刷高token用量來彰顯自身的AI使用能力,部分人甚至指令AI代理同時平行運行多項任務,人為放大token消耗量。
根據榜單資料,Meta員工30天內消耗了60.2兆個token,整體成本約9億美元。然而隨著AI成本不斷攀升,公司內部卻並未因此產出實在價值。一位內部人士直言,排行榜頂端那些人,產出的東西基本都是“一次性垃圾”。
不少美國企業已做出抵制行動:如亞馬遜近期就明確指示員工“不要為了用AI而用AI”,轉向以“歸一化部署”指標替代Token消耗量。截至目前,旗下用於跟蹤token消耗情況的“Kirorank”榜單已停止服務。
與此同時,AI巨頭們逐漸意識到Token高昂成本的問題,OpenAI首席執行長奧爾特曼公開質疑“token支援增加並未帶來實際的生產力提升”。據報導,該公司正考慮大幅下調向使用者收取的詞元費用,以期從競爭對手Anthropic手中搶奪客戶。
國盛證券表示,海外大廠關於token消耗的看法正趨於理性。緊縮token已成矽谷大廠新風向。研究顯示企業每花一美元在token上,約八成隱性損耗在修復bug、重寫程式碼與審查延遲。個人效率提升不等於公司收益增長,廠商開始從按token計費轉向按結果計費,理性回歸倒逼工作流重構。 (財聯社AI daily)
