AWS、谷歌推开源工具挑战英伟达CUDA生态
nashnova research
AWS和谷歌先后发布开源工具TorchNeuron与TorchTPU，让开发者把现有PyTorch应用迁移到自研芯片上而无需重写代码——目标直指降低从英伟达GPU切换出去的工程成本。
两家云巨头到底在做什么？
AWS推出TorchNeuron，谷歌紧跟发布TorchTPU，两个工具都基于PyTorch(目前约85%的AI应用用它开发)，让已有代码能直接跑在各自的自研芯片上。
这意味着→ 开发者不用为换一块芯片就重写一遍程序——迁移成本被压到了最低。
用大白话说＝ 以前想离开英伟达，得把代码从头翻一遍；现在这两家说「你直接搬过来就行」。
性能数据好看，但能直接比吗？
Inferact在16块谷歌第七代Ironwood TPU上跑月之暗面Kimi K3模型，启用推测解码(一种让芯片提前猜下一个词从而加速的技巧)后，单用户吞吐量超过每秒700个token。
公开数据中，16块英伟达GB200的同类指标为每秒452个token。
但谷歌自己强调：两组测试所用模型、解码方式和优化条件均不相同，不能直接用来衡量整体性能差距。这反映出芯片厂商在性能宣传上正变得更谨慎——数字好看不等于可以一对一比较。
已经有谁在用了？
AWS称已有逾30家早期客户采用TorchNeuron；语音AI公司Deepgram切换至Trainium后，每投入1美元可处理的音频量提升70%，同时维持生产级精度。
谷歌方面，TorchTPU已与Meta、Hugging Face、Inferact、RadixArk合作，Meta的生产环境已在用TPU跑AI推理。
这意味着→ 自研芯片不再只是实验室产品——大型外部客户的真实工作负载已经开始切换。
CPU阵营也在动？
AMD和英特尔正把各自的PyTorch优化技术整合进开源库oneDNN(一个统一不同处理器底层计算的软件库)，减少开发者为不同x86芯片维护独立代码的负担。
AMD还将以治理成员身份加入统一加速基金会，两家公司同时在联合开发AI计算扩展并计划集成至PyTorch。
用大白话说＝ GPU阵营在争着让你「搬家容易」，CPU阵营也在做同一件事——整个行业都在试图把开发者从英伟达的软件围墙里拉出来。
CUDA的护城河真的会被削弱吗？
英伟达CUDA的优势不仅是编程接口，还包括成熟的工具链、函数库、人才储备和部署经验——这些不是一个开源工具就能替代的。
开源工具的出现并不意味着客户会立即大规模迁移；但如果更多模型和推理引擎在新芯片发布时就提供支持，开发者的切换成本会逐步下降。
这反映出AI芯片竞争正从硬件性能延伸至软件标准与开发者体验——这一趋势能否最终动摇CUDA的结构性优势，将是观察本轮竞争走向的关键节点。
市场有风险，内容仅供研究参考，不构成投资建议。