Google、新しいビジョン言語モデル「PaliGemma 2」を発表
Welcome PaliGemma 2 – New vision language models by Google
Googleは、新しいビジョン言語モデル「PaliGemma 2」を発表しました。PaliGemma 2は、3B、10B、28Bパラメータの3つのサイズの事前学習済みモデルを提供し、それぞれ224x224、448x448、896x896の解像度をサポートします。これにより、品質と効率のバランスをユーザーが選択できるようになります。以前のPaliGemmaは3Bモデルのみでした。これらのモデルは、下流タスクへのファインチューニングが容易になるように設計されています。Googleは、DOCCIデータセットでファインチューニングされた3Bおよび10Bモデルもリリースしており、詳細でニュアンスのあるキャプション生成能力を示しています。このリリースには、オープンモデルリポジトリ、トランスフォーマー統合、ファインチューニングスクリプト、および視覚的質問応答(VQAv2データセット)のデモが含まれています。PaliGemma 2は、SigLIP画像エンコーダーとGemma 2言語モデルを組み合わせています。モデルはGemmaライセンスの下で配布され、再配布、商用利用、ファインチューニング、派生モデルの作成が許可されています。また、Hugging Faceのトランスフォーマーライブラリとの統合や、bitsandbytesライブラリを使用した量子化による推論も可能です。量子化によるパフォーマンス低下は限定的であることが示されています。
- Googleがビジョン言語モデル「PaliGemma 2」を発表(3B/10B/28Bパラメータ、3段階の解像度対応)
- DOCCIデータセットでファインチューニングされた3Bおよび10Bモデルをリリース
GoogleがPaliGemma 2としてビジョン言語モデルの新バージョンをリリースした点が重要。3B/10B/28Bと3サイズ展開し、解像度も3段階用意することで、用途に応じた品質と効率の選択肢を提供する戦略は、エッジAIやコスト制約のある実運用での採用拡大につながる。また、Gemmaライセンスによる商用利用・再配布・ファインチューニングの自由度の高さは、スタートアップや研究機関を含むエコシステムの拡大を促進し、GoogleのAIプラットフォーム戦略における競争力強化に寄与する。Hugging Face Transformersとの統合や量子化対応も含め、実用性を重視したリリースであり、AIモデルの民主化・商用化の流れを加速させる点で注目に値する。