传Meta研发AI路由器Switchboard以降低推理成本

0xBroomberg
Published todayAbout 3 min read

Meta正在内部孵化一款名为Switchboard的AI模型路由工具,按请求难度把任务分配给不同规模的模型,以压缩每年接近数十亿美元的推理开支。

01

Switchboard到底要解决什么问题?

Meta内部文件坦承:"我们为每一条编程请求支付顶级模型的价格,包括那些简单的请求。"
Switchboard的逻辑很直接——先给每条请求打"难度分",简单任务交给小模型,只有难题才调用顶级模型。
用大白话说=以前不管问题多简单,都派最贵的"专家"上场;现在先分诊,小病看普通门诊,疑难杂症才进专家号。
该项目由Meta内部员工孵化器AAI Labs负责,仍处于早期阶段,Meta拒绝置评,最终可能不会对外发布
02

Meta的AI账单到底有多吓人?

据内部备忘录,Meta约6000名员工在30天内消耗了73.7万亿个token,内部甚至设了一个"Claudeonomics"排行榜追踪用量。
首席技术官博斯沃思(Andrew Bosworth)直接批评"token极大化"文化,写道:"并非所有行动都是进步,token用量本身不是影响力的衡量标准。"
这意味着→ 问题不只是技术浪费,而是内部使用习惯已经失控——员工把顶级模型当默认工具,无论任务难度。
资本支出层面,Meta已承诺2026年资本开支1250亿至1450亿美元,主要投向AI基础设施。
03

模型路由这条赛道,现在走到哪了?

OpenAI的GPT-5已内置路由功能,可将低复杂度请求转至更廉价模型。
第三方降本效果已有实证:Palantir的Evolve系统在特定场景下推理成本削减高达97%;麦卡锡建筑token用量同比降60%;AI编程公司Cognition的路由系统降本约35%
这反映出模型路由已从实验性工具变成企业降本的刚需层。
04

资本市场怎么给这条赛道定价?

路由网关初创公司OpenRouter近期完成由Alphabet旗下CapitalG领投的1.13亿美元B轮融资,估值约13亿美元,较一年前翻逾一倍。
据《信息》报道,OpenRouter正在接触数十亿美元级别的收购意向
这意味着→ 资本已经把"模型路由"视为独立的基础设施层来下注,而不只是大模型厂商的附属功能。
05

Meta自建路由,对格局意味着什么?

若Meta选择自建而非依赖OpenRouter等外部服务,意味着其可将部分巨额AI资本开支转化为效率收益
用大白话说=自己建"分诊台",不仅省钱,还能在路由市场上跟Databricks、Palantir直接竞争。
Switchboard能否从内部工具演变为对外产品,将是观察Meta AI商业化路径的关键节点。

Content is for reference only, not financial advice.

传Meta研发AI路由器Switchboard以降低推理成本 · nashnova