亚马逊低成本AI芯片吸引企业客户,价格较英伟达H100低80%
N.R. Finch
便宜八成,到底便宜在哪?
据The Information报道,亚马逊Inferentia2和第二代Trainium在推理工作负载(让已训练好的AI模型回答问题、生成内容的环节)上的使用成本,比英伟达H100低约80%。
这意味着→ 同样跑一个AI客服或风控模型,企业在亚马逊芯片上的算力账单可能只有英伟达方案的五分之一。
用大白话说= 训练AI像造车,推理像开车——企业日常"开车"的油钱,亚马逊喊出了打两折的价格。
谁已经在试用?
爱尔兰咨询机构Co Driver Labs顾问Piatek透露,一家保险公司因监管要求必须在自有数据中心运行AI,此前用英伟达芯片,现已对亚马逊芯片完成初步测试并获得积极结果。
该公司随后向AWS询问能否通过Outposts(亚马逊把云服务器搬进客户机房的产品)部署Inferentia,但亚马逊回复称芯片尚未准备好在Outposts中测试。
Piatek称:"即使成本是云上的两倍,他们也会继续用AWS芯片留在本地。"这反映出企业对本地部署的刚需,甚至超过了对价格的敏感度。
亚马逊想把芯片卖到云外面?
AWS销售人员近期已与AT&T等客户就通过Outposts租用AI芯片进行探索性洽谈;亚马逊还与企业讨论了直接出售芯片用于自建数据中心的可能性。
CEO安迪·贾西在今年4月股东信中提及可能在AWS之外卖芯片后,客户兴趣明显上升。
去年12月推出的"AWS AI Factories"已允许客户将Trainium与英伟达芯片组合部署于自有数据中心;贾西披露Trainium芯片的未履行合同规模约达2250亿美元。
为什么企业不只用英伟达?
Cognizant云与基础设施服务负责人Kumaresan指出:"AI需求增长速度超过了可用计算能力,这促使人们对单一供应商GPU策略之外的方案产生浓厚兴趣。"
他强调Trainium和Inferentia被视为"可信赖的生产级选项",而非GPU短缺时的临时替代。
这意味着→ 企业的动机不只是省钱,更是怕买不到算力——供应紧张正在打破英伟达的独占格局。
现在还差什么?
云架构咨询公司Rhythmic Technologies CEO Daniluk表示,其客户虽已讨论替代方案,但仍处于非常早期的探索阶段。
核心顾虑:运行亚马逊芯片需要新的软件栈,企业担心迁移风险和生态成熟度。
用大白话说= 硬件便宜了八成,但配套软件还没跟上——就像买了便宜的打印机,却不确定墨盒好不好找。
Content is for reference only, not financial advice.