Meta、ローカルコーディングモデル「Muse Glimmer」をオープンソースで公開

Metaは、ローカルエージェントワークフローに最適化された300億パラメータのAIモデル「Muse Glimmer」を発表し、そのモデルウェイトをApache 2.0ライセンスでオープンソース化しました。このモデルは、MacやPCの単一コンシューマーGPUで実行可能なサイズであり、ローカルコーディングやLLMとしての評価など、多様なユースケースに対応します。クラウドインフラやネットワーク接続に依存しないローカル実行を可能にし、エージェントとしてのタスク完了能力、ツールの確実な使用、マルチステップ推論、失敗からの回復、マルチモーダル入力と推論、スキャフォールド互換性、制御可能な労力、多言語対応といった機能を備えています。モデルの軽量化には、量子化技術と、より高速なテキスト生成を実現する投機的デコーディングが用いられています。Muse GlimmerはHugging Faceでダウンロード可能で、llama.cpp、MLX、ExecuTorchなどのフレームワークとの連携も予定されています。