DeepSeek、推論を最大85%高速化する「DSpark」公開

DeepSeekは、大規模言語モデル（LLM）の推論処理（入力を元に次の言葉を予測して出力する処理）を高速化するオープンソースの投機的デコーディング（推論を高速化する技術の一種）フレームワーク「DSpark」およびトレーニング用コード「DeepSpec」をMITライセンスで公開しました。このフレームワークにより、出力の品質や分布を一切低下させることなく、実際の運用環境である「DeepSeek-V4」におけるユーザー別のトークン生成速度が従来のMTP-1（マルチトークン予測）方式と比較して60〜85%高速化されます。

1. 半自己回帰生成による生成効率の向上

論文によると、DSparkは、並列的にドラフト（下書き）トークンブロックを生成する「DFlash」の高速性と、順次処理で高精度を担保する「Eagle3」の安定性を融合させた「半自己回帰生成」を採用しています。軽量な「Markovヘッド」（直前のトークンのみを参照する仕組み）を導入することで、並列生成時に発生しやすい予測精度の急激な減衰を抑制し、従来の手法と比較して受け入れトークン長を26〜31%向上させることに成功しました。

2. ハードウェア負荷に応じた動的な検証スケジューリング

Hugging Faceにて公開されたモデルは、GPUの稼働状況やハードウェアのスループット（処理能力）特性をリアルタイムに評価する「load-aware scheduler」を搭載しています。GPUの負荷が低いアイドル時にはより多くのトークンを一括検証し、高負荷時には検証トークン数を動的に削減することで、システム全体の推論スループットと遅延の最適化を両立させています。

DSparkの登場により、推論速度の向上のためにモデルの軽量化や量子化（モデルのデータサイズを縮小する処理）によって出力品質を妥協せざるを得なかった課題の解消が期待されます。完全にロスレス（品質劣化なし）のまま推論を大幅に高速化できる本技術は、コード生成などの構造化ワークロード、自律型エージェントの処理速度向上において大きなインパクトを与えるでしょう。