Sentence Transformers v6.0が公開、ColBERT方式のマルチベクトル検索モデルに対応

要点

• Pythonの埋め込みライブラリ「Sentence Transformers」のバージョン6.0が公開された。

• 4番目のモデル種別として、ColBERT方式の遅延相互作用を扱う「MultiVectorEncoder」が追加された。

• トークンごとにベクトルを保持しMaxSim演算で照合することで、従来の単一ベクトルより高い検索精度を実現する。

• PyLate、Stanford ColBERT、文書画像検索のColPaliなどのモデルを既存と同じ統一APIで直接読み込める。

• インデックス作成や推論高速化、トークンプローリングなど実用化に向けた機能群も提供されている。

• オープンソースプラットフォームのHugging Faceは2026年8月18日、埋め込みモデルやリランカーを扱うPythonライブラリ「Sentence Transformers」のメジャーアップデートとなるバージョン6.0を公開した。本アップデートでは、ColBERT方式の「遅延相互作用（Late Interaction）」に対応した新モデルタイプ「MultiVectorEncoder」が追加され、高精度なテキスト検索や文書画像検索モデルを既存と同じ統一APIで利用可能になった。

「MultiVectorEncoder」の追加と主要モデルへの対応

Sentence Transformersは、検索拡張生成（RAG：外部知識を参照して回答を生成する手法）やセマンティック検索に広く用いられるライブラリだ。v6.0では、従来の密ベクトル（Dense）、スパース（Sparse）、リランカー（Reranker）に続く4番目のモデル種別として「MultiVectorEncoder」が加わった。

これにより、LightOn AIによる「PyLate」やスタンフォード大学の「Stanford-NLP ColBERT」、さらに文書画像検索向け「colpali-engine」の各チェックポイントを直接読み込めるようになったという。使い慣れた従来のAPI体系をそのまま引き継いでおり、利用者は pip install -U sentence-transformers を実行するだけで即座に利用できると説明している。

トークン単位で保持する「遅延相互作用」の仕組み

従来の密埋め込み（Dense Embedding）モデルは、文章全体を単一の固定長ベクトル（384、768、1024次元など）に圧縮して内積で類似度を算出する。しかし、この圧縮は情報損失を伴いやすく、特定の固有名詞や「木製脚で丸いクッションの緑のソファ」のような複数条件を含むクエリにおいて、異なる特徴を持つ対象が類似と判定されてしまう課題があった。

これに対し、マルチベクトルモデルは文章全体の圧縮を行わず、各トークン（単語などの最小単位）の埋め込みを128次元などの小さいサイズに射影してすべて保持する。例えば9トークンの文書であれば「9×128」の行列として扱われる。

クエリと文書の照合はスコアリング時まで遅延され、「MaxSim」演算によって計算される。MaxSimはクエリの各トークンに対し最も類似度が高い文書側トークンのスコアを合計する仕組みだ。トークン単位の一致情報が保持されるため、インデックス容量が増加するコストはあるものの、従来の単一ベクトルよりも高い検索精度を発揮できるとしている。

画像文書の直接検索やインデックス最適化機能も網羅

MultiVectorEncoderは、ページ画像とテキストクエリを直接照合する「視覚的文書検索（Visual Document Retrieval）」でも中核を担っている。従来の検索で必要だったOCR（光学文字認識：画像内の文字をテキスト化する処理）の手順を経ることなく、文書画像をそのまま高精度に検索できる点が特徴だ。

元記事では、基本的な検索や「Retrieve & Rerank（候補取得と再順位付け）」の構築手順に加え、実運用を見据えた以下の機能群についても紹介されている。

• 音声検索（Audio Retrieval）や動画検索（Video Retrieval）への応用
• スコアの算出根拠を可視化する解釈性（Interpretability）機能
• インデックスの肥大化を抑えるトークンプローリング（Token Pooling）
• 処理時間を短縮する推論高速化（Speeding Up Inference）とインデックス作成技術
• モデル性能を測定する評価（Evaluating a Model）機能

また、既存のPyLateやcolpali-engineを利用している開発者に向けた移行ガイドや、サポートされているモデルの一覧などもあわせて案内されている。

補足

Sentence Transformersへの統合により、ColBERTやColPaliといった高度なマルチベクトル検索モデルを、追加の専用ライブラリを個別に用意することなく手軽に導入できる環境が整ったといえる。