IBM与Together AI签2.4亿美元协议，在IBM云上建英伟达AI推理集群
Nashnova编辑部
IBM与Together AI签下2.4亿美元多年期协议，将在IBM云上用英伟达最新Blackwell芯片搭建专供开源模型的AI推理集群——这是开源推理赛道迄今最大的单笔商业订单之一，标志着云厂商正把真金白银押注在「开源+推理」这条路上。
这笔交易到底买了什么？
IBM和Together AI将联合建设大规模AI推理集群（专门用来"跑"已经训练好的AI模型、生成回答的算力设施），部署在IBM云上。
硬件核心是英伟达HGX B300系统，搭载最新一代Blackwell处理器，配套Spectrum-X以太网络设备。这意味着→ 集群从芯片到网络全部选用英伟达最顶级的推理方案。
用大白话说＝ IBM出场地和云平台，Together AI出技术和客户，英伟达出最新硬件——三方各拿自己最强的一块拼在一起。
Together AI是谁？为什么是它？
Together AI总部在旧金山，核心业务是让企业用低于闭源系统的成本，在DeepSeek、MiniMax、Kimi等开源模型上跑AI任务。
今年7月最新一轮融资后，估值已达83亿美元。这反映出 资本市场对"开源推理平台"这个定位的认可度正在快速上升。
用大白话说＝ 它做的事相当于"开源AI模型的云端代运营"——企业不用自己买卡、自己部署，付费就能用。
为什么推理突然成了最大的算力缺口？
推理（inference）是AI产业链中"用模型"的环节——模型训练完之后，每一次回答问题、生成图片都要消耗推理算力。这意味着→ 用户越多、调用越频繁，推理算力需求就呈倍数增长。
云服务商和芯片厂商已为此投入数十亿美元扩建基础设施。英伟达也明确表示，Blackwell芯片就是针对推理场景做的专项优化。
用大白话说＝ 训练是"教会模型"，推理是"让模型干活"——现在模型已经够多了，瓶颈转移到了"干活"这一步。
闭源模型出了什么问题，让开源成了替代选项？
Anthropic、OpenAI及Meta等闭源模型近期相继发生网络安全事件，企业对数据安全和供应商锁定的担忧加剧。
这反映出 一个结构性趋势：当闭源方案的安全信任被打破，企业会主动寻找可审计、可自主部署的开源替代路径。
这意味着→ Together AI所处的开源推理赛道，正好承接了这波从闭源流出的企业需求。
这笔订单真能成为开源推理的里程碑吗？
2.4亿美元是开源推理领域迄今最大规模的商业合同之一，但合同是多年期的——最终价值取决于Together AI在合同期内的实际算力利用率。
用大白话说＝ 钱是签了，但能不能花完、花得值，要看Together AI能拉来多少企业客户持续"跑模型"。
这反映出 开源推理赛道正在从"技术可行"走向"规模化商业验证"——这笔订单是入场券，不是终点线。
Content is for reference only, not financial advice.