DSpark

深度分析

DeepSeek 推出 DSpark：開源 Speculative Decoding 框架加速 LLM 推論

在美國限制Anthropic與OpenAI新模型的政策下，DeepSeek釋出MIT授權的DSpark以交錯預測加速LLM推論，透過半自回歸草稿與信心排程驗證，提高token產出速度50%以上，降低服務成本並促進開源模型商業化。同時縮減KV快取與HBM使用，提升硬體效率。