NVIDIAが新型の埋め込みモデル「Nemotron 3 Embed」を公開、多言語評価で世界首位を獲得しAI検索を効率化
要点
-
NVIDIAは、RAGや自律型AIに最適化されたオープンなテキスト埋め込みモデル「NVIDIA Nemotron 3 Embed」ファミリーを公開した。
-
フラグシップとなる8Bモデルは、多言語テキスト埋め込みの評価指標であるRTEBで首位の精度を記録した。
-
NVIDIAの最新GPUアーキテクチャBlackwellに最適化された4ビット対応の1Bモデルも提供し、処理能力の向上と精度維持を両立させている。
-
企業が自社データに合わせてモデルをカスタマイズするための、追加学習やモデル軽量化のレシピもオープンソースとして公開された。
-
IBMやZoom、Automation Anywhereなどの企業が、自社システムやエージェント機能における有用性の検証をすでに開始している。
-
NVIDIAは2026年7月16日、Hugging Faceの公式ブログを通じて、オープンかつ商用利用可能なテキスト埋め込み（テキストの意味を数値ベクトルに変換し、コンピュータが理解しやすい形にする技術）モデルファミリー「NVIDIA Nemotron 3 Embed」をリリースしたと発表した。このモデル群は、情報検索やAIエージェントの記憶処理といった実務タスク向けに設計されており、精度の高さと実行効率を両立している。特に自律的かつ段階的に検索を実行する「自律検索」において、処理の無駄を省きコストを削減する効果が期待されているという。
3つのモデルバリエーションとそれぞれの役割
NVIDIAが公開したファミリーは、精度と処理効率のバランスが異なる3つのモデルで構成されている。
-
Nemotron-3-Embed-8B-BF16
80億パラメータを持つフラグシップモデルである。多言語テキスト埋め込みの性能を競う評価指標（リーダーボード）である「RTEB」で1位を獲得した。極めて高い精度が要求されるエンタープライズ向けのRAG（検索拡張生成：外部データベースから関連情報を検索し、LLMに回答を生成させる手法）システムなどで「品質のアンカー」としての役割を果たす。 -
Nemotron-3-Embed-1B-BF16
11.4億パラメータで構成された高効率モデルである。応答速度（レイテンシ）とインフラコストの抑制が重視される本番環境への導入に適しており、小規模ながらフラグシップモデルに匹敵する検索品質を引き継いでいる。 -
Nemotron-3-Embed-1B-NVFP4
NVIDIAの最新GPUである「Blackwell」アーキテクチャに最適化されたハードウェア加速モデルである。重みとアクティベーションを新規格の4ビット浮動小数点フォーマット（NVFP4）に量子化（情報の解像度を下げて軽量化する処理）しており、メモリ使用量を大幅に低減しながら超高スループットを実現する。
検索効率の向上がもたらすトークンコストの削減
本モデルの開発背景として、NVIDIAは「RAGなどのエージェント型ワークフローにおける検索の重要性」を強調している。検索精度が低いと、AIエージェントが不適切な情報を参照し、不要な再検索や思考プロセスを繰り返すことになり、結果として計算コストであるトークンの消費や処理の遅延を招く。
今回、検索エージェントモデル「Nemotron 3 Ultra」を組み合わせた実証実験において、より高精度な埋め込みモデルを使用することで、エージェントが的確な証拠を早期に発見できることが確認された。これにより、再検索の回数や不要な推論ステップが減少し、下流のLLMに支払うトークンコスト（GPT-5.5の料金体系をベースに算出）が削減されるという。この比較テストにおいて、8Bモデルは最も高い検索精度と、最も低いトークンコストを達成した。
実際に評価スコアを見ると、フラグシップの8BモデルはRTEBで78.5％、MMTEB Retrievalで75.5％の最高スコアを記録した。また、1Bモデルも優秀な結果を示しており、RTEBで72.4％を獲得し、従来の1Bモデルと比較してエラー率を27％削減することに成功している。
Blackwellへの最適化とNIMによる高速な配備
Blackwell GPUのNVFP4アクセラレーションを利用する「Nemotron-3-Embed-1B-NVFP4」は、従来のBF16フォーマットによる推論と比較して最大2倍のスループット向上を達成している。さらに、量子化を考慮した蒸留（QAD）技術を用いることで、量子化後もBF16モデルの検索精度の99％以上を維持することに成功した。
また、本番環境での迅速な配備を支援するため、NVIDIAは最適化された実行パッケージである「NVIDIA NIM」マイクロサービスを同日に提供開始した。Rust言語をベースに実装されたこのNIMは、NVIDIA GB200およびRTX PRO 6000 GPU上で動作し、既存の実行エンジン（vLLM）と同等以上のサービング性能を示す。
モデル構築におけるPruningと蒸留の2重プロセス
NVIDIAの開発チームは、これらのモデルを効率的に構築するための独自の開発プロセスも明かしている。
8Bモデルは、既存の「Ministral-3-8B-Instruct-2512」モデルの causal decoder（左から右へテキストを生成する構造）を双方向エンコーダに変換して開発された。大量のウェブデータや合成データを用いた対照学習（コントラスティブ・ラーニング）を実施した後、法律、財務、医療などの多言語検索データセットで微調整を行っている。
一方、1Bモデルは単にゼロから学習させたものではない。「Ministral-3-3B-Instruct-2512」をベースとする3Bレトリバーを出発点とし、「Pruning（プルーニング：モデルの精度を保ったまま不要なパラメータを間引く技術）」と「蒸留（ディスティレーション：大型モデルの知識を小型モデルに受け継がせる手法）」を2段階にわたって適用した。
具体的には、NVIDIA ModelOptのニューラルアーキテクチャ探索エンジンを利用して3Bから2Bへ、さらに2Bから最終的な1.14Bモデルへと段階的に圧縮。各圧縮段階で8Bモデルを教師役とした蒸留を行うことで、サイズ縮小による精度の低下を防いだ。さらに、学習時にはコンテキストウィンドウ（一度に処理できるテキスト長）を段階的に拡張するスケジュールを採用し、1Bモデルでありながら32k（3万2000トークン）の長文を処理する性能を獲得させた。
すでに多くのグローバル企業が評価を開始
Nemotron 3 Embedの有用性については、すでに多くの企業パートナーが自社のAIアプリケーションでの検証結果を報告している。
例えば、AIメモリプラットフォームを提供するMem0は、長文メモリの評価でNemotron 3 Embed 1BがQwen-3-0.6Bなどの他モデルを破り首位を獲得したと説明している。また、Zoomは同社のエンタープライズ検索エージェントにおける文脈レイヤー（会議やチャットの内容を検索する機能）の検索層として評価を進めており、ZepもAIエージェントのメモリ検索において1Bモデルが大型モデルをも凌駕する結果を出したと述べている。
NVIDIAは、モデルのウェイト（学習済みのパラメータ値）やカスタマイズのための NeMo AutoModel 学習レシピをすべてHugging FaceおよびGitHubで公開しており、企業が独自のデータを用いて本モデルをさらにカスタマイズし、それぞれのインフラで直接運用できるよう支援していく方針を示している。