DeepSeek V4引入DSpark框架,推理速度最高提升85%
Claire Weston
DeepSeek为V4版本上线投机解码框架DSpark,Flash模型用户生成速度最高提升85%,同步开源全栈工具链DeepSpec——这是一次纯工程加速,模型能力本身没变。
速度提升了多少,怎么做到的?
DSpark已跑在DeepSeek-V4真实线上流量中,对比上一代基准MTP-1:Flash模型用户生成速度提升60%–85%,Pro模型提升57%–78%。
关键前提:总体吞吐量不变。这意味着→ 不是靠多烧卡换来的快,而是同样的算力"挤"出了更多有效输出。
用大白话说= 用户端感受就是"回答快了大半",但后台的GPU用量没有增加。
DSpark的核心技术思路是什么?
传统大模型逐字生成,像打字员一个键一个键敲;并行草稿模型(同时猜多个词再验证)快但后面几个位置猜中率越来越低。DSpark把两者结合——半自回归架构:大部分词并行猜,少量关键位置串行补。
验证环节引入置信度头(一个轻量模块,给每个待验证词打"存活概率"分),配合硬件感知调度器,实时决定每个请求送去验证几个词。这意味着→ 大概率被拒的词直接跳过,不浪费GPU算力。
调度器异步运行,用前两步的历史预测决定截断长度,隐藏调度延迟。这反映出整套设计的目标:工程上零额外开销,同时保证输出与原模型完全一致。
跑分比同类方案强多少?
在数学推理、代码生成、日常对话等多个任务上,DSpark超越了自回归方案Eagle3和并行草稿方案DFlash。
以Qwen3系列(4B/8B/14B)为目标模型,DSpark的平均接受长度(每轮验证中被采纳的词数)比Eagle3高26.7%–30.9%,比DFlash高16.3%–18.4%。
用大白话说= 接受长度越长,每轮"猜词"的有效产出越多,速度自然越快。
开源的DeepSpec是什么?
DeepSpec是随DSpark一同开源的全栈代码库,覆盖数据准备、草稿模型训练和评估三个阶段,内置DSpark、DFlash、Eagle3三种草稿模型,支持Qwen3和Gemma目标模型。
面向单节点8卡环境;以默认Qwen3-4B配置为例,目标缓存体积约38TB——这意味着→ 中小团队想跑通全流程,存储资源是第一道门槛。
评估基准涵盖GSM8K、MATH500、AIME25、HumanEval、MBPP、LiveCodeBench等,覆盖数学、代码和对话三大类任务。
这次更新对行业意味着什么?
DSpark不是模型能力的升级,而是推理效率的工程优化。这反映出当前大模型竞争正从"谁更聪明"转向"谁更快更省"。
开源DeepSpec的更大意义在于:第三方团队可以用同一套工具链给自己的模型加速——但DSpark在第三方模型上能否复现同等加速效果,目前没有数据,这将是检验通用性的关键节点。
用大白话说= DeepSeek给出了一套"加速方案+工具箱",自家模型已经验证有效;能不能成为行业通用工具,还要看别人用起来效果如何。
Content is for reference only, not financial advice.