OpenAI推断成本减半，毛利率改善路径提速
Alina Collins
OpenAI工程师发现一套新优化方案，可将推断成本砍掉超过一半——这意味着公司年底52%毛利率目标从「很难够到」变成「有路可走」，也让竞争对手Anthropic的定价压力骤然升级。
推断成本砍半，到底怎么做到的？
OpenAI工程师本月向内部披露了一套新方案，可将推断（inference，模型在回答用户问题时的实际运算过程）成本削减逾一半。
具体技术细节未公开，但可能涉及的手段包括：量化（把模型参数从高精度数字压缩成低精度，省算力）、键值缓存（让模型复用之前算过的结果，不重复算）、批量处理查询，以及把简单问题分流给更小的子模型。
用大白话说＝就像一家餐厅同时改了三件事——用更省气的灶、把切好的菜提前备好、简单菜交给帮厨做——每样省一点，加在一起成本就砍了一半。
毛利率从39%到52%，这条路现在走得通吗？
推断成本是OpenAI毛利率的核心变量——模型每回答一个问题都要烧GPU，这笔钱直接吃掉毛利。
截至今年一季度末，OpenAI毛利率为39%，一年前是33%，年底目标是52%。这意味着→剩余时间内毛利率平均要维持在56%左右才能达标，缺口不小。
此次推断成本砍半直接改善这条路径：同样的收入，GPU开支少了一大块，毛利率自然往上走。
省下来的钱，给用户还是留给自己？
OpenAI面前有两条路：一是把节省的成本转化为用户权益——提高ChatGPT订阅用户的查询配额，或下调面向开发者的API价格；二是直接计入毛利率改善。
这意味着→如果OpenAI选择降价，Anthropic将首当其冲。Anthropic近期因模型定价偏高受到市场批评，OpenAI一旦降价，价格差距会进一步拉大。
这反映出AI行业正进入一个新阶段：成本优化能力本身成了竞争武器，不只是技术指标。
这个优势能保持多久？
推断优化并非OpenAI独有的课题。Anthropic CEO达里奥·阿莫代伊至少自2023年中起就公开谈过「算力乘数」概念，并表示公司会刻意限制知晓具体乘数的人员范围，防止竞争对手复制。
不确定性在于：更大参数量的新模型可能吃掉这次优化的红利。OpenAI计划今年晚些时候推出更大模型，而更大的模型通常推断成本更高——当前的优化手段效果可能打折扣。
OpenAI同时在与博通合作开发自研推断芯片，目标是在硬件层面减少对英伟达GPU的依赖。用大白话说＝软件层面先省了一半，硬件层面还想再省一轮，两条路并行推进。
自研芯片的18亿美元融资，还那么急吗？
OpenAI正在推进一笔18亿美元的自研芯片融资交易，与博通合作开发专用推断芯片。
这意味着→此次软件优化的突破可能降低了这笔交易的紧迫性——如果软件层面已经能砍掉一半推断成本，硬件替代方案的「必须马上到位」压力就小了一些。
但反过来看，软件优化的效果可能随模型变大而衰减，自研芯片仍是长期降本的关键棋子。市场下一步会盯着这笔融资的节奏变化。
Content is for reference only, not financial advice.