Ettin Rerankerファミリーの紹介
Introducing the Ettin Reranker Family
Sentence Transformersは、Ettin ModernBERTエンコーダーを基盤とした6つの新しいCrossEncoderリランカーモデル(ettin-reranker-17m-v1からettin-reranker-1b-v1まで)をリリースしました。これらのモデルは、mixedbread-ai/mxbai-rerank-large-v2のスコアを用いた蒸留レシピで学習され、lightonai/embeddings-pre-trainingとlightonai/embeddings-fine-tuningのデータセットを組み合わせています。リランカーは、クエリとドキュメントのペアを受け取り、関連性スコアを出力するニューラルモデルであり、埋め込みモデルとは異なり、テキスト間の相互注意を可能にします。このモデルは、検索システムにおける「retrieve-then-rerank」パターンで、高速な埋め込みモデルで候補を絞り込んだ後、リランカーで最終的な順序付けを行うのに適しています。Ettinリランカーは、Apache 2.0ライセンスの下で提供され、最大8192トークンのコンテキストをサポートします。ベンチマークでは、特に17Mモデルは、同程度のパラメータ数の既存モデルと比較して、高い精度と速度を両立させています。例えば、17Mモデルはms-marco-MiniLM-L12-v2よりも高速かつ高精度であり、150Mモデルは同サイズの他のモデルと比較して2.3倍高速です。1Bモデルは、より大きな教師モデルに匹敵する精度を持ちながら、4分の1のパラメータ数で実用的な選択肢となります。
- Sentence Transformers が Ettin Reranker ファミリー(6モデル)を Apache 2.0 ライセンスで公開した
Sentence Transformers が公開した Ettin Reranker ファミリーは、ModernBERT ベースで 17M から 1B パラメータまでの 6 モデルをラインナップし、特に 17M モデルが既存同等規模モデルを精度・速度で上回っている点が注目に値する。リランカーは検索パイプラインの後段で精度を高める重要な部品であり、効率的なモデルは RAG システムやエンタープライズ検索のコスト削減と性能向上に直結する。Apache 2.0 ライセンスかつ 8192 トークンのコンテキスト対応という実用性の高さも評価できる。