OpenAI决策模型API全面开放,进入快速推理市场

nashnova research
今天发布阅读约 3 分钟
01

什么是"决策模型",为什么突然火了?

决策模型(一种专做"选择题"的AI——给它几个选项,它快速挑一个并打分)解决的不是写文章、聊天这类开放任务,而是分类、路由、筛选这类有明确选项的工作。
这意味着→ 它不需要大语言模型那样"逐字生成"的重度推理,速度可以快一个数量级,成本也大幅下降。
TypeSafe的Jev模型最先定义了这个品类,凭此估值已达76亿美元。
02

OpenAI怎么做的——专门训练了新模型吗?

没有。OpenAI将旗下ChatGPT Luna模型重新配置,通过加速推理来实现同类功能,并非从零训练专用模型。
产品负责人尼昆吉·汉达称,团队看到Jev后意识到"有上百万个使用场景",随即快速跟进。
用大白话说= OpenAI选择的是"改造现有引擎"而非"造新车"——速度快、投入小,但也意味着底层并非为决策场景专门优化。
03

速度提升有多大?

核心突破在延迟:从原来的1–3秒压缩到100–180毫秒。
语言学习应用Speak的实测更极端——操作间隔从1.4秒降至0.13秒。OpenAI自己也用它改善了Dots语音助手的响应速度。
汉达还展望了更极端的目标:如果做到60毫秒,就可以对视频每一帧进行API调用。
04

基准排名不好看——这说明什么?

在AIM System One Index和Artificial Analysis Decision Index两项主流榜单上,OpenAI决策模型分别排在第八和第十四。排名靠前的是Liquid的D1 Ultra和Base Lab的Elephant-1。
这意味着→ 作为"改造而非专训"的产品,Luna在专项基准上暂时不占优势——这和它的技术路径直接相关。
不过TypeSafe CEO阿尔梅达本人也不信任基准测试,建议用户在自己的工作流中实测。这反映出整个赛道的评价标准尚未定型。
05

OpenAI的差异化筹码是什么?

此次全面开放版本新增了语音和视觉模态,并通过地理分布推理资源降低全球延迟。
汉达称在图像分类场景中"Luna非常强大,校准表现更好",并透露客户希望API支持将图像作为输出内容。
用大白话说= OpenAI押注的是"多模态"——别家只能做文字选择题,它想让模型同时看图、听声音再做判断。基准分数落后的劣势,能否靠这条路补回来,是这个赛道下一个值得观察的节点。

市场有风险,内容仅供研究参考,不构成投资建议。

OpenAI决策模型API全面开放,进入快速推理市场 · nashnova