OpenAI決策模型API全面開放,進入快速推理市場

nashnova research
今天发布阅读约 3 分钟

OpenAI於10月22日向所有用戶開放Decisions API,正式切入由初創公司TypeSafe開創的快速決策模型賽道——以更低成本、更快速度完成分類和路由等「選擇題」任務,但公開基準排名暫時落後。

01

什麼是「決策模型」,為何突然火了?

決策模型(一種專做「選擇題」的AI——給它幾個選項,它快速揀一個並打分)解決的不是寫文章、聊天這類開放任務,而是分類、路由、篩選這類有明確選項的工作。
這意味著→ 它毋須大語言模型那樣「逐字生成」的重度推理,速度可以快一個數量級,成本亦大幅下降。
TypeSafe的Jev模型最先定義了這個品類,憑此估值已達76億美元。
02

OpenAI怎樣做的——專門訓練了新模型嗎?

沒有。OpenAI將旗下ChatGPT Luna模型重新配置,透過加速推理來實現同類功能,並非從零訓練專用模型。
產品負責人尼昆吉·漢達稱,團隊看到Jev後意識到「有上百萬個使用場景」,隨即快速跟進。
簡單來說= OpenAI選擇的是「改造現有引擎」而非「造新車」——速度快、投入小,但也意味著底層並非為決策場景專門優化。
03

速度提升有多大?

核心突破在延遲:從原來的1–3秒壓縮到100–180毫秒。
語言學習應用Speak的實測更極端——操作間隔從1.4秒降至0.13秒。OpenAI自己亦用它改善了Dots語音助手的回應速度。
漢達還展望了更極端的目標:如果做到60毫秒,就可以對影片每一幀進行API調用。
04

基準排名不好看——這說明什麼?

在AIM System One Index和Artificial Analysis Decision Index兩項主流榜單上,OpenAI決策模型分別排在第八和第十四。排名靠前的是Liquid的D1 Ultra和Base Lab的Elephant-1。
這意味著→ 作為「改造而非專訓」的產品,Luna在專項基準上暫時不佔優勢——這與它的技術路徑直接相關。
不過TypeSafe CEO阿爾梅達本人也不信任基準測試,建議用戶在自己的工作流中實測。這反映出整個賽道的評價標準尚未定型。
05

OpenAI的差異化籌碼是什麼?

此次全面開放版本新增了語音和視覺模態,並透過地理分布推理資源降低全球延遲。
漢達稱在圖像分類場景中「Luna非常強大,校準表現更好」,並透露客戶希望API支持將圖像作為輸出內容。
簡單來說= OpenAI押注的是「多模態」——別家只能做文字選擇題,它想讓模型同時看圖、聽聲音再做判斷。基準分數落後的劣勢,能否靠這條路補回來,是這個賽道下一個值得觀察的節點。

市场有风险,内容仅供研究参考,不构成投资建议。

OpenAI決策模型API全面開放,進入快速推理市場 · nashnova