小米发布1T参数大模型，推理速度超1000 Tokens/s
Alina Collins
小米发布MiMo-V2.5-Pro-UltraSpeed，1T参数、推理速度突破1000 TPS，官方称刷新旗舰模型全球最快纪录——关键是它跑在通用GPU上，不靠定制芯片。
1000 TPS到底有多快？
量子位实测：让模型生成一个500多行代码的网页应用，思考加输出一共约7秒完成。
同样的任务，Claude最轻量的Haiku在最低负载模式下，最快也要40多秒。
这意味着→ 速度差不是"快一点"的程度，而是接近6倍的量级差距。
为什么"用通用GPU跑"这件事很重要？
市面上追求极致推理速度的玩家（如Groq）通常依赖定制芯片（专门为推理设计的硬件），速度快但只能在自家芯片上跑。
小米这次用的是通用GPU——就是市面上买得到的标准显卡。
用大白话说＝ 如果速度只能在"特供硬件"上实现，别人没法复制；但如果通用硬件就能跑出这个速度，意味着这套方案谁都能用，扩展门槛低得多。
小米把这定位为"从模型到引擎的全链路优化"——这反映出它想证明的是软件层面的工程能力，而非硬件独占优势。
1T参数、1M上下文窗口——这些数字意味着什么？
1T（1万亿）参数：目前公开的最大规模旗舰模型之一，参数越多，模型能"记住"和"理解"的模式越丰富。
1M上下文窗口（100万个token的输入长度）：可以一次性读入相当于几本书的内容量，再给出回答。
这意味着→ 这不是一个"小而快"的模型，而是又大又快——通常这两者是矛盾的，参数越大推理越慢，小米试图同时解决两端。
推理速度为什么正在变成独立赛道？
当大模型被用于智能体工作流（AI agent，让AI自动执行多步骤任务），一个任务可能触发几十甚至上百次模型调用。
每次调用慢几秒，累积起来延迟会被放大数百倍——从"体验不好"变成"根本跑不动"。
用大白话说＝ 单次快不快是体验问题，但在高频调用场景里，速度直接决定了这个方案在架构上能不能成立。
小米能否把实测速度转化为开发者和企业客户的规模化采用，是这条技术路线商业价值的核心验证点。
Content is for reference only, not financial advice.