多言語対応のビジュアル文書検索モデル「vdr-2b-multi-v1」と大規模データセットを公開

研究者らは、多言語のビジュアル文書検索に最適な埋め込みモデル「vdr-2b-multi-v1」を発表しました。このモデルは、OCRやデータ抽出パイプラインなしで、文書ページのスクリーンショットを単一ベクトル表現にエンコードし、視覚的にリッチな多言語文書の検索を可能にします。イタリア語、スペイン語、英語、フランス語、ドイツ語に対応しており、50万件の高品質サンプルからなる「vdr-multilingual-train」という大規模なオープンソースの多言語合成データセットも公開されました。このデータセットは、従来の最大規模の合成データセットの10倍のサンプル数を含みます。vdr-2b-multi-v1は、MrLight/dse-qwen2-2b-mrl-v1をベースに、LlamaIndexとの協力により開発され、Matryoshka Representation Learning (MRL) を活用して、ベクトルサイズを3分の1に縮小しても埋め込み品質の98%を維持し、検索速度の向上とストレージコストの削減を実現します。英語のみのモデル「vdr-2b-v1」も同時にリリースされ、推論速度が3倍向上し、VRAM使用量が大幅に削減されました。評価では、多言語モデルはベースモデルと比較して、すべての言語とページタイプで平均2.3%のNDCG@5スコア向上を示しました。特にドイツ語のビジュアルのみの検索では6.33%の改善が見られました。また、異なるベクトル次元での評価では、1024次元のベクトルが品質とサイズのバランスに優れ、1536次元のバイナリベクトルもベースモデルの性能に匹敵することが示されました。