EmbeddingGemma 2: オープンで軽量なマルチモーダル埋め込みモデルの発表

テキスト、コード、画像、動画、音声を共通の埋め込み空間に統合する7億4000万パラメータのオープンモデル「EmbeddingGemma 2」が、Apache 2.0ライセンスで公開された。Gemma 4アーキテクチャをベースとし、テキスト単体(270M)、画像(170M)、音声(300M)エンコーダーのモジュラー構造を採用している。マトリョーシカ表現学習(MRL)により768次元から最大128次元まで動的縮小が可能で、8Kトークンのコンテキストウィンドウに対応する。MTEB Codeベンチマークで78.68点を記録したほか、量子化によりPixel端末上で数百MBのメモリで動作し、完全オフライン環境でのオンデバイスRAGやクロスモーダル検索を実現できる。