本周，DeepSeek AI 团队在 GitHub 上发布了一篇名为 DSpark 的研究论文，探讨如何通过投机解码（Speculative Decoding）技术大幅加速大语言模型的推理过程。论文发布后迅速登上 Hacker News 首页，获得 714 分的高关注度。
什么是投机解码？
投机解码是一种在 LLM 推理阶段使用的加速技术。传统的大模型推理是逐 token 串行生成的——每生成一个 token，都需要完整跑一次模型前向传播。投机解码的核心思路是：用一个轻量级的小模型（draft model）快速生成多个候选 token，然后由大模型（target model）一次性并行验证这些 token 的正确性。
如果小模型猜对了，大模型只需一次前向传播就能接受多个 token，从而实现 2-5 倍的推理加速。即使猜错了，大模型也只会拒绝错误的 token 并重新生成，不会影响最终输出的质量。这意味着：加速零代价，质量不打折。
DSpark 的创新点
DeepSeek 团队的 DSpark 框架在传统投机解码基础上进行了多项改进：
第一，动态草稿模型选择。DSpark 不是固定使用一个小模型，而是根据输入上下文动态选择最适合的草稿模型规格，在速度和接受率之间找到最优平衡。
第二，树状候选验证。传统投机解码是线性的——小模型生成一串候选 token，大模型逐个验证。DSpark 引入树状结构，允许草稿模型在关键位置分叉生成多个备选路径，大模型同时验证多条路径，进一步提高并行度和接受率。
第三，硬件感知调度。DSpark 针对不同 GPU 架构（包括最新的 H100/H200）做了深度优化，在批处理场景下尤其表现出色。
社区反响
Hacker News 社区对这篇论文展开了热烈讨论。有工程师指出，投机解码已经在多个生产环境中得到验证，但 DSpark 的树状验证方法是一个有趣的创新，可能会改变 LLM 服务端部署的方式。
也有研究者指出，论文中的基准测试主要在小 batch 场景下进行，在大规模并发推理场景下的效果还需要更多验证。但整体上社区对 DeepSeek 持续在推理优化上的投入表示认可——从 FlashMLA 到 DeepGEMM，再到现在的 DSpark，DeepSeek 正在构建一套完整的推理优化技术栈。
原文链接：DSpark Paper (PDF)
HN 讨论：news.ycombinator.com/item?id=48696585