DeepSeek、LLM推論を最大85%高速化する新フレームワーク「DSpark」をオープンソース化
DeepSeek open sources DSpark, a new framework to speed up LLM inference by up to 85%
DeepSeekは、大規模言語モデル(LLM)の推論速度を向上させる新しいフレームワーク「DSpark」をMITライセンスで公開しました。DSparkは、推論時に下流のモデルの出力を変更せずに、最大85%の速度向上を実現します。この技術は、LLMがテキストを生成する際に、より少ないステップで次の単語を予測する「投機的デコーディング」という手法を改良したものです。具体的には、より多くのトークンを一度に予測し、その予測の確からしさに応じて検証するトークン数を調整することで、推論の効率を高めます。DeepSeekは、自社の最新モデルであるDeepSeek-V4シリーズ(DeepSeek-V4-Flash、DeepSeek-V4-Pro)にDSparkを適用し、性能向上を確認しました。また、AlibabaのQwenやGoogleのGemmaといった他のオープンソースモデルファミリーにも適用可能であることを示しています。DSparkは、GitHubやHugging Faceで公開されており、開発者や研究者、企業が自由に利用・改変できます。この技術は、特に大規模モデルの推論コスト削減や応答速度向上が求められるチャットボット、コーディングアシスタント、企業向けAIシステムなどで活用が期待されます。DeepSeekは、DSparkの学習・評価のためのコードベース「DeepSpec」も同時に公開しました。
- DeepSeekがLLM推論を最大85%高速化する新フレームワーク「DSpark」をMITライセンスでオープンソース公開した
- DSparkはDeepSeek-V4-Flash、DeepSeek-V4-Proに加え、AlibabaのQwenやGoogleのGemmaにも適用可能
- DeepSeekは学習・評価用コードベース「DeepSpec」も同時に公開した
DeepSeekがLLM推論を最大85%高速化するDSparkをオープンソース化したことは、同社の技術力の高さを示すと同時に、AI業界全体の推論効率・コスト競争に新たな変数をもたらす。特にMITライセンスでの公開により、競合他社を含む幅広いプレイヤーがこの技術を活用できる点が重要。DeepSeekは自社モデルだけでなくQwenやGemmaにも適用可能とアピールしており、業界標準となり得る可能性がある。投資家はDeepSeekのモデル開発能力と、推論インフラコスト削減によるAI普及加速の両面に注目すべきである。