英伟达与AWS深化合作,G7实例推理性能提升4.6倍
Alina Collins
英伟达与AWS于6月23日联合宣布三层AI基础设施升级——推理算力、向量检索、大规模训练同步落地,目标是让企业AI项目更快、更便宜地跑进生产环境。
新一代G7实例,到底强在哪?
AWS推出搭载英伟达RTX PRO 4500 Blackwell Server Edition GPU的EC2 G7实例,与上一代G6相比,AI推理性能最高提升4.6倍,图形性能最高提升2.1倍。
这意味着→ 同样一笔云账单,能跑的推理任务量翻了好几倍——对正在把AI从实验室搬进产品线的企业来说,这是最直接的成本杠杆。
G7最多支持8块GPU、256GB总显存,网络带宽达700Gbps,本地存储7.6TB NVMe SSD,提供1/2/4/8 GPU多种配置,裸金属支持即将上线。
十亿级向量数据库,一小时能建好?
AWS将GPU加速向量索引设为Amazon OpenSearch Serverless的默认选项,底层采用英伟达cuVS(一个专门加速向量检索的GPU库)。
与纯CPU方案相比,向量索引速度最高提升10倍,成本降至四分之一,十亿级规模的向量数据库可在一小时内完成构建。
用大白话说= 智能体AI、RAG(检索增强生成,让大模型先查资料再回答的技术)、语义搜索这些场景,最耗时的"建索引"环节被大幅压缩,而且默认就开,不用额外配置。
"Exemplar Cloud"认证是什么意思?
在训练层面,AWS获得英伟达针对GB300的"Exemplar Cloud"认证。
这意味着→ 英伟达用自己的参考架构跑了基准测试,确认AWS的基础设施性能达标——相当于给大规模训练工作负载开了一张"性能合格证"。
对企业客户来说,这是一个可量化的性能保证:在AWS云端跑大模型训练,性能不会低于英伟达给出的基准线。
三层同时升级,对企业意味着什么?
推理(G7实例)+ 检索(cuVS加速)+ 训练(Exemplar Cloud认证)三层同步落地,意味着企业在AWS上构建AI系统时,从数据检索到模型推理再到模型训练的完整链路均可获得英伟达加速。
这反映出 云厂商与芯片厂商的合作正在从"卖单块GPU"转向"卖整条AI生产线"——锁定企业在一个平台上完成全流程。
真正的悬念在于G7实例的实际定价与cuVS在生产环境中的稳定性——性能提升的数字好看,但企业最终算的是综合成本账。
Content is for reference only, not financial advice.