據報導,為降低AI推理成本,Meta正復刻OpenRouter,開發模型路由工具Switchboard。其核心是通過評估任務難度,將簡單請求分流至廉價小模型,避免大模型算力浪費。該工具不僅用於內部降本,未來或對外發布,成為Meta開闢新收入來源的嘗試。
在AI基礎設施支出持續膨脹的壓力下,$Meta Platforms (META.US)$正試圖從內部尋找降本之道。
7月21日,據科技媒體The Information報導,Meta內部AI孵化器AAI Labs正在開發一款名為"Switchboard"的AI模型路由工具,其核心邏輯與OpenRouter的Auto Router產品高度相似——通過對任務難度評分,將簡單請求分流至更廉價的小模型,從而降低整體推理成本。
Switchboard目前仍處於早期階段,能否最終落地尚不確定。但據The Information獲得的內部檔案顯示,Meta團隊已明確提出兩條潛在路徑:一是在公司內部部署以壓縮成本,二是面向大規模運行AI編程智能體的外部組織公開發布。