據報導,為降低AI推理成本,Meta正復刻OpenRouter,開發模型路由工具Switchboard。其核心是通過評估任務難度,將簡單請求分流至廉價小模型,避免大模型算力浪費。該工具不僅用於內部降本,未來或對外發布,成為Meta開闢新收入來源的嘗試。
在AI基礎設施支出持續膨脹的壓力下,$Meta Platforms (META.US)$正試圖從內部尋找降本之道。
7月21日,據科技媒體The Information報導,Meta內部AI孵化器AAI Labs正在開發一款名為"Switchboard"的AI模型路由工具,其核心邏輯與OpenRouter的Auto Router產品高度相似——通過對任務難度評分,將簡單請求分流至更廉價的小模型,從而降低整體推理成本。
Switchboard目前仍處於早期階段,能否最終落地尚不確定。但據The Information獲得的內部檔案顯示,Meta團隊已明確提出兩條潛在路徑:一是在公司內部部署以壓縮成本,二是面向大規模運行AI編程智能體的外部組織公開發布。
分析指出,這意味著該工具不僅是一項降本舉措,也可能成為Meta在AI工具市場開闢新收入來源的嘗試。
另據報導稱,這一項目的提出,直接指向該公司當前面臨的一個現實痛點:為每一個編程請求支付頂級模型的價格,包括那些本可由小模型輕鬆處理的簡單任務。
直指痛點:推理成本是規模化部署的最大障礙
報導稱,Switchboard項目的立項邏輯,在內部檔案中被表述得相當直白:"我們為每一個編程請求支付頂級模型的價格,包括那些簡單的請求。"
檔案進一步指出,大多數編程智能體任務完全可以由較小的模型處理,只有少數任務才真正需要前沿大模型的能力。然而現狀是"所有請求都發往同一個模型,導致簡單任務上的過度支出,或在複雜任務上表現不足"。
檔案明確將推理成本定性為在公司內部更廣泛部署智能體的"首要障礙",並直言:"成本是限制我們大規模運行智能體的關鍵因素。"
這一表述與Meta近期在AI支出管控上的一系列動作相互印證。據The Information此前報導,Meta今年6月曾通知員工,將在鼓勵全公司更廣泛採用AI工具僅數周後,開始對AI token用量設置上限,同時構建內部平台以追蹤AI支出並執行token預算。
值得注意的是,Switchboard項目隸屬於Meta旗下的AAI Labs,這是Meta Applied AI Engineering團隊下設的內部孵化機構,於今年3月正式成立。據The Information審閱的內部檔案,該機制允許員工提交AI產品和服務提案,通過審批後由小團隊負責構建,並有機會對外公開發布。
截至今年7月,AAI Labs已累計批准約200個項目,涵蓋消費者產品、開發者工具和內部基礎設施三大方向。Switchboard正是其中之一。
這一機制折射出Meta CEO祖克柏的更宏觀戰略構想——藉助AI讓小團隊快速構建產品。祖克柏今年4月曾對分析師表示,AI智能體意味著"小團隊可以取得非常快速的進展",並預測這項技術將推動"大量創新"。他還表示,Meta可能打造多達50款新應用。
模型路由賽道:OpenRouter之外,巨頭紛紛入局
Switchboard所瞄準的模型路由賽道,正在吸引越來越多的關注。
OpenRouter憑藉幫助開發者以更低成本訪問多種AI模型,已在開發者群體中積累起相當人氣。據The Information上周報導,OpenRouter已與一家規模更大的科技公司就潛在收購事宜展開討論,相關交易可能將其估值推升數十億美元——該公司今年4月的估值為13億美元。
模型路由概念在更廣泛範圍內引發關注,源於OpenAI發佈GPT-5時內置的路由功能——該功能可在用戶提示相對簡單時自動切換至更廉價的模型。此後,Databricks和Palantir等公司也相繼開發了各自的路由工具,以管理成本、提升效率。
Meta此番自研Switchboard,既是對自身成本壓力的主動回應,也是在這一快速升溫的賽道上佈局自有能力的戰略選擇。
更大野心:AI投資尋求多元變現
Switchboard項目的背後,是Meta將龐大AI投入轉化為新工具、新業務和新收入來源的整體訴求。
Meta此前預計,今年在AI基礎設施及其他設備和設施上的支出可能高達1450億美元,較2025年的水平翻逾一倍。與此同時,Meta正在對工程團隊進行重組,以強化AI開發能力。
AAI Labs孵化的項目不止於Switchboard。據The Information獲得的另一份內部檔案,AAI Labs還在開發一款面向駕駛者的AI導覽應用,可通過Apple CarPlay和Android Auto運行,利用AI解說附近地標並允許駕駛者提問。
檔案將該產品定位為Instagram地圖體驗的延伸,未來或整合基於位置的Reels內容、旅行推薦,乃至Meta Ray-Ban智能眼鏡。
報導稱,這些項目共同勾勒出Meta的路徑:以員工創意為起點,快速原型化AI產品,再擇機向外部市場推出——在控製成本的同時,探索廣告業務之外的增量收入空間。 (華爾街見聞)
