LFM2.5-VL-3B:エッジデバイス向けに、より高性能かつ高速なビジョン・言語モデル
LFM2.5-VL-3B for Better and Faster Vision Capabilities for the Edge
Liquid AIは、エッジデバイス向けのビジョン・言語モデル「LFM2.5-VL-3B」を発表しました。このモデルは、画面/UIの理解、自然言語クエリによる物体検出の精度向上、複数画像からの推論能力強化、テキストおよびビジョン・テキスト状況下での関数呼び出し能力の向上という4つの主要な改善点を特徴としています。LFM2.5-VL-3Bは、SigLIP2 400M NaFlexビジョンエンコーダーとLFM2.5-2.6Bテキストモデルのバックボーンを組み合わせ、約34兆トークンで事前学習されており、従来の4倍のビジョンデータを使用しています。非ラテン文字スクリプトをサポートするために語彙数を128Kに倍増させました。学習プロセスは、教師ありファインチューニング(SFT)と知識蒸留、アンチドゥーム学習、そしてマルチ報酬強化学習(RL)の2段階で行われます。様々なビジョンおよびテキストベンチマークで評価され、特に物体検出、画面・文書の読み取り、関数呼び出しにおいて高い性能を示しました。オンデバイス推論では、M5 Maxで228トークン/秒、Ryzen AI Max+ 395で116トークン/秒を達成し、メモリ使用量は約3GBです。また、Galaxy S26 Ultraでは20トークン/秒を記録し、完全なオンデバイス実行が可能です。GPU推論では、低遅延と高速なスループットを実現し、H100 GPU1台で1日あたり約10億トークンを処理できます。LFM2.5-VL-3BはHugging Faceで利用可能であり、llama.cpp、MLX、vLLMなどの主要な推論エコシステムをサポートしています。
- Liquid AIがエッジデバイス向けビジョン・言語モデル「LFM2.5-VL-3B」を発表した
- 約34兆トークンで事前学習され、従来の4倍のビジョンデータを使用し、非ラテン文字スクリプト対応のため語彙数を128Kに倍増した
- オンデバイス推論ではM5 Maxで228トークン/秒、Ryzen AI Max+ 395で116トークン/秒、メモリ使用量約3GBを達成
- Galaxy S26 Ultraでは20トークン/秒を記録し完全なオンデバイス実行が可能
- モデルはHugging Faceで公開され、llama.cpp、MLX、vLLMなどの主要な推論エコシステムをサポート
Liquid AIがエッジデバイス向けビジョン・言語モデルを発表し、オンデバイス推論での高い性能(M5 Maxで228トークン/秒、メモリ約3GB)を実現した点は、エッジAI市場における競争力強化を示す重要なマイルストーンです。特にGalaxy S26 Ultraでの完全オンデバイス実行が可能であることは、モバイルAI分野での展開可能性を高めています。モデルがHugging Faceで公開され、llama.cpp、MLX、vLLMなど主要な推論エコシステムをサポートしていることから、オープンソース戦略によるエコシステム形成の意図も読み取れ、投資観点ではLiquid AIの技術力と市場ポジショニングに注目すべきです。