NVIDIAがマルチモーダル推論モデル「Nemotron 3.5 Super VL」を発表、単一GPUで最大5倍の処理性能を実現

要点

• 米NVIDIAは2026年10月15日、自律型エージェント向けのオープンマルチモーダルAIモデル「Nemotron 3.5 Super VL」を発表した。

• 120BのMoE構造を採用し、単一GPU上で同規模オープンモデルの最大5倍のスループットを達成した。

• テキストやコードに加え、画像・文書・動画の理解、推論、ツール利用を単一モデルに統合した。

• 先行導入企業では、推論コスト最大40分の1、遅延10分の1、精度40%向上といった成果が確認されている。

• NVIDIA NeMoによるカスタマイズに対応し、Hugging FaceやNVIDIA NIMでの展開も提供される。

• 米NVIDIAは2026年10月15日、企業の自律型AIエージェント向けとなる新モデル「NVIDIA Nemotron 3.5 Super VL」を公式技術ブログで発表した。テキストやコードだけでなく画像・文書・動画の理解と論理的推論を単一モデルに統合したオープンモデルだという。同社によると、単一のGPU環境において、同規模のオープンモデル比で最大5倍の処理スループットを実現するとしている。

120B MoEアーキテクチャと単一GPUでの高い処理性能

Nemotron 3.5 Super VLは、1200億（120B）パラメータのMixture-of-Experts（MoE：処理に応じて専門ネットワークの一部を選択して動かす手法）を採用している。トークン処理ごとに駆動するパラメータを全体の1割となる120億（12B）に抑え、モデル容量と推論効率を両立させたという。

単一GPU環境でのエージェントタスク実行では、同規模のオープンモデル比で最大5倍のスループット（単位時間あたりの処理量）を記録した。ベンチマーク「Artificial Analysis Intelligence Index」（入力10万トークン）では毎秒600トークン超の出力を達成し、既存のオープン重みモデル「Inkling Small」に対しても約5倍の高速性を確認したとしている。

視覚認識と推論を1モデルに集約し、5つの業務領域を支援

従来のエージェント構築では、テキスト用言語モデルと画像処理用ビジョン言語モデル（VLM：画像や動画を解釈するモデル）を個別に用意し、モデル間で文脈情報を受け渡す必要があった。Nemotron 3.5 Super VLは、論理的推論、指示追従、ツール利用に加え、テキスト、画像、文書レイアウト、動画の理解を1つのモデルに集約している。

これによりモデル間の連携負荷を解消したと説明している。元記事では、同モデルが想定する主な業務領域として以下の5つが挙げられている。

• コーディング：コード検証、エラー解析、修正提案
• Webリサーチ：複数サイトの横断検索、情報の突合、事実検証
• ドキュメントインテリジェンス：表やグラフを含む文書からの情報抽出、要約・レポート作成
• サイバーセキュリティ：脆弱性の特定、脅威のトリアージ（優先度判定）
• 動画理解：動画からの情報抽出、コンテンツ審査、インシデント分析

最適化技術の導入と企業での成果

推論効率の向上に向けて、同モデルには複数の技術が投入されている。次の単語候補を予測して並行検証する「LiLiCorr投機的デコーディング」をはじめ、数値を軽量化する「NVFP4量子化」や量子化認識蒸留、一度に複数単語を予測する「マルチトークン予測」、計算済み文脈を再利用する「コンテキスト再利用」が組み込まれた。これらにより「NVIDIA DGX Spark」などの環境で高効率な実行が可能になるという。

すでにScale AI、Ramp、AI21といった組織が特定業務向けに事後学習（ポストトレーニング）を実施しており、推論コストを最大40分の1、遅延を10分の1に削減し、精度を40%向上させた事例が報告されている。

NeMoによるカスタマイズと提供形態

開発者は「NVIDIA NeMo」を通じて自社データに応じた追加学習が行える。教師あり微調整（SFT）や低ランク適応（LoRA：主要部分を固定して一部の重みのみを学習させる手法）、強化学習（RL）に対応している。

調整用のオープンデータセットはHugging Faceで公開され、GitHub上のクックブックや技術レポートも提供されている。実運用向けには「NVIDIA NIM」でのデプロイが可能だ。なお、本モデルは推論やツール利用を伴う多段階作業を担当し、大量のテキスト処理を担う軽量モデル「Nemotron 3.5 Lightning」などと組み合わせて運用される想定だという。

補足

なお、元記事ではモデルの構成要素としてフロンティアモデルとの連携にも触れられており、業務の負荷に応じて複数の特化型モデルを使い分ける設計思想が背景にある。