AI路由器降本最高97%,巨頭加速佈局
Miles Bennett
模型路由器技術正快速滲透企業市場,帕蘭提爾披露部分場景推理成本下降高達97%——AI競爭重心正從「誰的模型最強」轉向「誰最會調度」。
模型路由器到底解決甚麼問題?
核心邏輯:不再默認調用最貴的模型,而是按任務難度自動匹配合適的模型。簡單來說=簡單問題派小模型,複雜問題才上大模型,效果基本不減,但Token支出大幅壓縮。
這意味著→企業AI競爭的重心正在分裂:一半拼模型能力,另一半拼調度與成本優化能力。
企業正從「默認調最強」轉向「按任務分層調度」,路由層逐漸成為AI架構的默認模塊。
降本效果有多誇張?
帕蘭提爾推出路由工具Evolve AI routing system,不僅選模型,還優化提示詞、避免重複調用;公司披露部分案例推理成本下降高達97%。
建築公司麥卡錫建築表示,AI Token使用量按年下降約60%,主要來自模型調度優化。
這意味著→路由器帶來的成本下降已經可量化,不再停留在概念階段。
巨頭和創業公司誰在佈局?
Databricks推出Unity AI Gateway,已在內部廣泛使用。其CEO阿里·戈德西直言:企業「正在以過快速度燒掉AI預算」。
帕洛阿爾托網絡等網絡安全公司也開始透過模型切換策略降低調用成本,路由能力正從可選工具變成標配組件。
資本端同樣跟進:模型路由平台OpenRouter今年4月完成1.2億美元融資,成為該賽道最受關注的創業公司之一。
路由器只是簡單切換模型嗎?
不是。日本AI實驗室Sakana AI的多模型協同系統顯示,路由已具備「專家分工」特徵——數學問題傾向調用OpenAI模型,科學問題更多路由至Google Gemini。
這反映出路由層的智能化程度正在提升,不再只是「哪個便宜用哪個」。
OpenRouter的「自動路由器」允許用戶設定成本-質量偏好區間(0至10),系統據此動態選擇模型。數據顯示約三分之一請求被分配至Google低成本模型,僅約10%流向OpenAI較強模型。
對模型廠商意味著甚麼?
AI編程公司Cognition推出自有路由系統,在編程基準測試中接近前沿模型表現,但成本下降約35%。
這意味著→如果路由器愈來愈聰明,頂級模型的單一調用量能否維持,將成為各大模型廠商面臨的核心壓力測試。
說白了=模型路由器正從工具型產品升級為基礎設施級組件——誰更擅長精細調配,誰就更可能在下一階段佔據優勢。
Content is for reference only, not financial advice.