中國開源庫助力AMD跑贏輝達GPU推理速度
nashnova research
AMD運行中國開源庫TileRT後，推理速度達到每用戶470 token/秒，超越英偉達同類測試最佳成績——這意味著英偉達靠CUDA軟件生態築起的護城河正被開源力量撕開缺口。
這個測試結果到底說了甚麼？
SemiAnalysis創始人迪倫·帕特爾披露：AMD硬件運行TileRT（一個由中國研究人員開發的開源推理庫）後，在GLM 5.2和5.3模型上達到每用戶470 token/秒。
帕特爾明確表示，這一速度是SemiAnalysis測試過的所有推理引擎在英偉達硬件上均未達到的水平。
簡單來說＝同一件事——跑AI推理，AMD加上一個開源軟件，反而比英偉達自己的全套方案更快。
AMD明明有硬件實力，為甚麼之前一直輸？
AMD的GPU在晶片性能參數上並不弱，但長期受制於軟件生態不成熟——開發者工具、優化庫、社區支持都遠落後於英偉達的CUDA體系。
這意味著→硬件只是起跑線，真正決定勝負的是誰的軟件能把硬件性能榨乾。
TileRT的出現，相當於中國開源社區替AMD補上了這塊最關鍵的短板。
英偉達的護城河到底是甚麼？
行業共識是：英偉達在AI推理領域的統治地位，更多靠CUDA軟件生態而非單純的硬件領先。
CUDA（英偉達專有的GPU編程平台）經過十多年積累，擁有最大的開發者社區和最完善的工具鏈——開發者習慣了用它，遷移成本極高。
這反映出一個更深層的邏輯：一旦有外部力量——比如開源社區——能繞開CUDA、在競品硬件上實現同等甚至更優的性能，這道護城河就不再是不可逾越的。
這件事對GPU推理市場意味著甚麼？
TileRT對英偉達CUDA護城河構成直接挑戰：它證明了開源軟件可以在非英偉達硬件上釋放出超越英偉達自身方案的推理性能。
這意味著→GPU推理市場的競爭焦點正在從「誰的晶片更強」轉向「誰的軟件生態更開放、迭代更快」。
中國開源社區的技術輸出，正在成為改變這場競爭格局的變量——而這個變量此前幾乎不在主流分析師的模型裡。
市场有风险，内容仅供研究参考，不构成投资建议。