中国开源库助力AMD跑赢英伟达GPU推理速度
nashnova research
AMD运行中国开源库TileRT后，推理速度达到每用户470 token/秒，超越英伟达同类测试最佳成绩——这意味着英伟达靠CUDA软件生态筑起的护城河正被开源力量撕开缺口。
这个测试结果到底说了什么？
SemiAnalysis创始人迪伦·帕特尔披露：AMD硬件运行TileRT（一个由中国研究人员开发的开源推理库）后，在GLM 5.2和5.3模型上达到每用户470 token/秒。
帕特尔明确表示，这一速度是SemiAnalysis测试过的所有推理引擎在英伟达硬件上均未达到的水平。
用大白话说＝同一件事——跑AI推理，AMD加上一个开源软件，反而比英伟达自己的全套方案更快。
AMD明明有硬件实力，为什么之前一直输？
AMD的GPU在芯片性能参数上并不弱，但长期受制于软件生态不成熟——开发者工具、优化库、社区支持都远落后于英伟达的CUDA体系。
这意味着→硬件只是起跑线，真正决定胜负的是谁的软件能把硬件性能榨干。
TileRT的出现，相当于中国开源社区替AMD补上了这块最关键的短板。
英伟达的护城河到底是什么？
行业共识是：英伟达在AI推理领域的统治地位，更多靠CUDA软件生态而非单纯的硬件领先。
CUDA（英伟达专有的GPU编程平台）经过十多年积累，拥有最大的开发者社区和最完善的工具链——开发者习惯了用它，迁移成本极高。
这反映出一个更深层的逻辑：一旦有外部力量——比如开源社区——能绕开CUDA、在竞品硬件上实现同等甚至更优的性能，这道护城河就不再是不可逾越的。
这件事对GPU推理市场意味着什么？
TileRT对英伟达CUDA护城河构成直接挑战：它证明了开源软件可以在非英伟达硬件上释放出超越英伟达自身方案的推理性能。
这意味着→GPU推理市场的竞争焦点正在从"谁的芯片更强"转向"谁的软件生态更开放、迭代更快"。
中国开源社区的技术输出，正在成为改变这场竞争格局的变量——而这个变量此前几乎不在主流分析师的模型里。
市场有风险，内容仅供研究参考，不构成投资建议。