A.I.AI
LFM2.5-VL-DSpark: エッジおよびそれ以降のビジョン言語モデルの高速化
Accelerating vision-language models with LFM2.5-VL-DSpark
HFHugging Face
AIが原文を翻訳・要約しています
Liquid AIは、ビジョン言語モデルの推論速度を向上させるLFM2.5-VL-DSparkを発表しました。このモデルは、オンデバイスで最大3.13倍、H100 GPUで最大2.66倍のデコード速度向上を実現し、エンドツーエンドの性能も最大2.62倍向上させます。追加されるパラメータ数は約2億8000万で、ターゲットモデルの3Bパラメータに対して8.9%の増加に留まります。LFM2.5-VL-DSparkは、llama.cpp、MLX-VLM、SGLangといった主要なフレームワークで初日からサポートされており、オープンウェイトで提供されます。この技術は、画像パッチとテキストトークンを共有表現に投影し、固定されたタップ層で隠れ状態をキャプチャして候補トークンを生成する「ビジョンドラフター」アーキテクチャに基づいています。推論時には、ハードウェアに応じてブロックサイズ8または9が推奨されます。
KEY POINTS要点記事から抽出した重要情報
- Liquid AIがビジョン言語モデル推論を高速化するLFM2.5-VL-DSparkを発表し、オープンウェイトで提供
- オンデバイスで最大3.13倍、H100 GPUで最大2.66倍のデコード速度向上、エンドツーエンド性能も最大2.62倍改善
- 追加パラメータは約2億8000万で、3Bパラメータのターゲットモデル比8.9%増に抑制
- llama.cpp、MLX-VLM、SGLangの主要フレームワークで初日からサポート
- 画像パッチとテキストトークンを共有表現に投影し固定タップ層で隠れ状態を取得して候補トークンを生成する「ビジョンドラフター」アーキテクチャを採用
CONTEXT文脈編集部による背景整理
Liquid AI がオンデバイス推論の高速化に特化したビジョン言語モデル用ドラフター「LFM2.5-VL-DSpark」をオープンウェイトで公開した点が注目です。パラメータ追加を約8.9%に抑えつつ最大3.13倍のデコード高速化を実現しており、エッジAIの実用化コストを大きく下げる可能性があります。初日から llama.cpp・MLX-VLM・SGLang に対応するなど実装エコシステムへの浸透が速く、推論コスト低減が収益性に直結するエッジAI・オンデバイスAI関連の投資テーマを追う上で重要な材料です。
原文を読むAnalyzed at 2026年9月25日 00:02