AI路由器降本最高97%,巨头加速布局

Miles Bennett
Published 2026-07-06About 3 min read
01

模型路由器到底解决什么问题?

核心逻辑:不再默认调用最贵的模型,而是按任务难度自动匹配合适的模型。用大白话说=简单问题派小模型,复杂问题才上大模型,效果基本不减,但Token支出大幅压缩。
这意味着→企业AI竞争的重心正在分裂:一半拼模型能力,另一半拼调度与成本优化能力
企业正从"默认调最强"转向"按任务分层调度",路由层逐渐成为AI架构的默认模块。
02

降本效果有多夸张?

帕兰提尔推出路由工具Evolve AI routing system,不仅选模型,还优化提示词、避免重复调用;公司披露部分案例推理成本下降高达97%
建筑公司麦卡锡建筑表示,AI Token使用量同比下降约60%,主要来自模型调度优化。
这意味着→路由器带来的成本下降已经可量化,不再停留在概念阶段。
03

巨头和创业公司谁在布局?

Databricks推出Unity AI Gateway,已在内部广泛使用。其CEO阿里·戈德西直言:企业"正在以过快速度烧掉AI预算"。
帕洛阿尔托网络等安全公司也开始通过模型切换策略降低调用成本,路由能力正在从可选工具变成标配组件。
资本端同样跟进:模型路由平台OpenRouter今年4月完成1.2亿美元融资,成为该赛道最受关注的创业公司之一。
04

路由器只是简单切换模型吗?

不是。日本AI实验室Sakana AI的多模型协同系统显示,路由已具备"专家分工"特征——数学问题倾向调用OpenAI模型,科学问题更多路由至谷歌Gemini
这反映出路由层的智能化程度正在提升,不再只是"哪个便宜用哪个"。
OpenRouter的"自动路由器"允许用户设定成本-质量偏好区间(0至10),系统据此动态选择模型。数据显示约三分之一请求被分配至谷歌低成本模型,仅约10%流向OpenAI较强模型。
05

对模型厂商意味着什么?

AI编程公司Cognition推出自有路由系统,在编程基准测试中接近前沿模型表现,但成本下降约35%
这意味着→如果路由器越来越聪明,顶级模型的单一调用量能否维持,将成为各大模型厂商面临的核心压力测试
用大白话说=模型路由器正从工具型产品升级为基础设施级组件——谁更擅长精细调配,谁就更可能在下一阶段占据优势。

Content is for reference only, not financial advice.