傳Meta研發AI路由器Switchboard以降低推理成本

0xBroomberg
Published todayAbout 3 min read

Meta正在內部孵化一款名為Switchboard的AI模型路由工具,按請求難度將任務分配至不同規模的模型,以壓縮每年接近數十億美元的推理開支。

01

Switchboard到底要解決甚麼問題?

Meta內部文件坦承:「我們為每一條編程請求支付頂級模型的價格,包括那些簡單的請求。」
Switchboard的邏輯很直接——先給每條請求打「難度分」,簡單任務交給小模型,只有難題才調用頂級模型。
簡單來說=以前不管問題多簡單,都派最貴的「專家」上場;現在先分診,小病看普通門診,疑難雜症才進專家號。
該項目由Meta內部員工孵化器AAI Labs負責,仍處於早期階段,Meta拒絕置評,最終可能不會對外發佈
02

Meta的AI賬單到底有多驚人?

據內部備忘錄,Meta約6,000名員工在30天內消耗了73.7萬億個token,內部甚至設了一個「Claudeonomics」排行榜追蹤用量。
首席技術官博斯沃思(Andrew Bosworth)直接批評「token極大化」文化,寫道:「並非所有行動都是進步,token用量本身不是影響力的衡量標準。」
這意味著→ 問題不只是技術浪費,而是內部使用習慣已經失控——員工把頂級模型當默認工具,無論任務難度。
在資本開支層面,Meta已承諾2026年資本開支1,250億至1,450億美元,主要投向AI基礎設施。
03

模型路由這條賽道,現在走到哪了?

OpenAI的GPT-5已內置路由功能,可將低複雜度請求轉至更廉價模型。
第三方降本效果已有實證:Palantir的Evolve系統在特定場景下推理成本削減高達97%;麥卡錫建築token用量按年降60%;AI編程公司Cognition的路由系統降本約35%
這反映出模型路由已從實驗性工具變成企業降本的剛需層。
04

資本市場怎麼給這條賽道定價?

路由網關初創公司OpenRouter近期完成由Alphabet旗下CapitalG領投的1.13億美元B輪融資,估值約13億美元,較一年前翻逾一倍。
據《信息》報道,OpenRouter正在接觸數十億美元級別的收購意向
這意味著→ 資本已經把「模型路由」視為獨立的基礎設施層來下注,而不只是大模型廠商的附屬功能。
05

Meta自建路由,對格局意味著甚麼?

若Meta選擇自建而非依賴OpenRouter等外部服務,意味著其可將部分巨額AI資本開支轉化為效率收益
簡單來說=自己建「分診台」,不僅慳錢,還能在路由市場上跟Databricks、Palantir直接競爭。
Switchboard能否從內部工具演變為對外產品,將是觀察Meta AI商業化路徑的關鍵節點。

Content is for reference only, not financial advice.

傳Meta研發AI路由器Switchboard以降低推理成本 · nashnova