AI代理狂吞算力,Token定价混乱困扰企业与华尔街
Claire Weston
AI代理完成一项任务消耗的Token是人类的逾千倍,企业账单失控、华尔街无法用Token追踪AI盈利——云厂商GPU租价正成为替代锚点。
Token到底是什么,为什么突然成了大问题?
Token(AI模型读入和输出文本的最小计量单位)本身不新,但两股力量让它的消耗量暴涨:推理模型和AI代理。
推理模型不再"秒回",而是在内部进行多步骤自我对话。《巴伦周刊》实测:一个问题触发了32秒内部对话,模型执行多次网络搜索、阅读数十篇文章,最终输出约一千个Token——内部消耗远不止于此。
这意味着→ 同样一句提问,新模型烧掉的Token可能是旧模型的数倍甚至数十倍,而用户在界面上看不到这笔"隐性消耗"。
AI代理为什么吞Token吞得这么凶?
AI代理(根据一条简单指令自动完成一整串复杂操作的程序)是Token消耗的核心推手。谷歌、微软及多所顶尖高校4月发布的研究显示:编程代理完成同等任务,Token消耗量是人类的逾千倍。
更多Token投入不必然带来更好结果,失败任务还需重新执行,成本层层叠加。
用大白话说= 代理像一个不知疲倦但也不知节制的实习生——它会自己查资料、写代码、反复试错,每一步都在烧Token,而且烧了也不保证做对。
企业的账单怎么就失控了?
消费者端ChatGPT与Claude均提供每月20美元的无限量套餐,但企业端按Token计费,顶级ChatGPT模型价格区间为每百万Token 50美分至30美元——价差达60倍。
Anthropic近期修改了部分产品的Token计算方式,相同文本消耗的Token数量多出30%至40%,旧款模型仍沿用原标准。这意味着→ 同一段文字换个模型跑,账单可以凭空膨胀近四成,企业根本无法做预算。
部分企业今年初建立员工AI使用量监控仪表盘后,随即收到巨额账单,被迫转向更节俭的策略。优步总裁麦克唐纳5月公开表示:"有多少原本搁置的项目因为生产力提升而重新启动?这个链条目前还不存在。"
华尔街为什么也头疼?
华尔街原本希望用Token价格作为追踪AI景气度的代理指标,但Token消耗量因任务和模型不同而高度波动,研究显示人类和AI模型都难以准确预估一项任务的Token用量。
这意味着→ Token数据既不稳定、也不可比,用它来判断"AI到底赚不赚钱"几乎不可能。
企业为控制成本正转向更便宜的模型(包括中国超低价模型),对OpenAI和Anthropic的顶级模型定价构成压力——但市场尚未到达迫使两者大幅降价的临界点。
那现在该看什么指标?
据《巴伦周刊》分析,当前追踪AI供需平衡更有效的路径是云计算厂商的定价动态。AWS本周已是今年内第二次上调英伟达GPU租用价格,微软Azure和谷歌云的走势同样值得关注。
用大白话说= Token价格太乱,看不出真实需求;但GPU租金在涨,说明底层算力仍然供不应求——钱在往哪里流,比谁嘴上说"AI很火"更可靠。
代理规模持续扩张、Token需求加速增长,是数千亿美元仍在涌入AI数据中心的核心逻辑——这一逻辑能否转化为可量化的盈利,将是AI产业链估值能否持续的关键验证。
Content is for reference only, not financial advice.