LFM2.5-2.6B: あらゆる場所でローカルエージェントを展開可能に
Deploy local agents everywhere with LFM2.5-2.6B
Liquid AIは、ローカルエージェント展開を可能にする新しい大規模言語モデル「LFM2.5-2.6B」を発表しました。このモデルは、4倍大きいモデルと比較して、ツールの使用、指示追従、複数ステップのエージェントタスクにおいて同等以上の性能を発揮します。効率的な推論が可能で、Apple M5 Maxでは220トークン/秒、AMD Ryzen CPUでは113トークン/秒を、2.5GB未満のメモリで実現します。LFM2.5-2.6Bは、約34兆トークンで事前学習され、コンテキストウィンドウを128Kに拡張する中間トレーニングフェーズを経て、4段階のポストトレーニング(SFT、Teacher Specialization、MOPD、Agentic RL)によりエージェント化されます。特に指示追従とツールの使用において優れた性能を示し、多くのベンチマークで他のモデルを上回っています。このモデルは、llama.cpp、MLX、vLLMなど、主要な推論エコシステムでサポートされており、オンデバイスエージェントとして、または高ボリュームワークロード向けに利用できます。
- Liquid AIが小型LLM「LFM2.5-2.6B」を発表。4倍大きいモデルと比較してツール使用・指示追従・複数ステップのエージェントタスクで同等以上の性能を発揮
- Apple M5 Maxで220トークン/秒、AMD Ryzen CPUで113トークン/秒の推論速度を2.5GB未満のメモリで達成
- 約34兆トークンで事前学習され、コンテキストウィンドウ128Kに対応。llama.cpp、MLX、vLLMなど主要推論エコシステムでサポート
Liquid AIが約26億パラメータの小型LLMで、4倍規模のモデルと同等以上のエージェント性能を実現した点は、オンデバイスAIやエッジ推論市場におけるコスト構造の変革を示唆する。特に、Apple M5 Maxで220トークン/秒という高速推論と2.5GB未満のメモリ要求は、ローカルエージェント展開の実用性を大きく高めるものであり、エッジAI市場やプライベート推論需要の拡大につながる可能性がある。