Liquid AI、Raspberry Piサイズのデバイスで動作するAIエージェント向け新モデル「LFM2.5-2.6B」を発表
No cloud, no GPUs, no problem: Liquid AI's new model LFM2.5-2.6B brings powerful AI agents to devices as small as a Raspberry Pi
AIスタートアップLiquidは、2023年に元MITのコンピュータ科学者によって設立され、エージェントワークロード向けに設計された新しいオープンウェイト言語モデル「LFM2.5-2.6B」を発表しました。このモデルは、スマートフォンやラップトップからRaspberry Piのような小型デバイスまで、ローカルハードウェア上で完全に動作し、クラウド推論やGPUに依存しません。これにより、エッジAIアプリケーションが可能になり、規制産業や機密情報を扱う企業に新たな選択肢を提供します。LFM2.5-2.6Bは26億パラメータを持ち、128,000トークンのコンテキストウィンドウをサポートし、ネイティブなツール呼び出し機能を備えています。Hugging Faceで利用可能であり、llama.cpp、MLX、vLLMなどの主要な推論スタックをサポートしています。Liquid AIは、モデルのサイズと性能のトレードオフを重視し、特にレイテンシ、プライバシー、デプロイメントの柔軟性、推論コストが重要なエンタープライズアプリケーションでの利用を想定しています。同社は、モデルの性能向上だけでなく、エージェントフレームワーク内での動作に特化したトレーニング手法も開発しました。MacPawとの提携により、MacPawのmacOSアシスタント「Eney」向けに、Apple Silicon上でローカル実行されるオンデバイスAIスタックを構築する予定です。
- Liquid AIがオープンウェイト言語モデル「LFM2.5-2.6B」を発表。26億パラメータ、128,000トークンのコンテキストウィンドウをサポートし、ローカルハードウェア上で完全動作する。
- MacPawとの提携により、macOSアシスタント「Eney」向けにApple Silicon上でローカル実行されるオンデバイスAIスタックを構築予定。
- LFM2.5-2.6BはHugging Faceで公開され、llama.cpp、MLX、vLLMなどの主要な推論スタックをサポート。
エッジAI分野で、クラウド推論やGPUに依存せずRaspberry Pi規模のデバイスで動作する軽量言語モデルが登場した点は、推論コスト削減とデータプライバシーを重視するエンタープライズ市場での需要喚起につながる。特に規制産業や機密情報を扱う企業向けに新たな選択肢を提供し、MacPawとの提携によるApple Silicon上でのローカル実行スタック構築も具体的な商用化の動きとして注目に値する。