NVIDIA、AIエージェントの高速実行に特化したMoEモデル「Nemotron 3.5 Lightning」を公開

要点

• NVIDIAは、AIエージェントの反復的なタスク実行に特化した言語モデル「Nemotron 3.5 Lightning」を2026年8月11日に公開した。

• 全体で300億パラメータを持ちながら、トークンごとに約30億パラメータのみを稼働させる疎結合MoEとMamba-2を組み合わせたハイブリッド構成を採用している。

• 上位モデル「Nemotron 3 Ultra」から蒸留されたモデルであり、NVIDIAの仕様上では最大100万トークンのコンテキストに対応する。

• 同等規模のオープンモデルと比べて最大4倍のスループットを記録し、エージェントタスクを同等精度で最大30%高速に処理可能とされる。

• AIプラットフォームのOpenRouterでもAPI提供が開始されており、BF16やNVFP4、GGUF形式のオープンウェイトも提供されている。

• NVIDIAが、自律型AIエージェントにおける反復的なタスク実行向けに設計された言語モデル「Nemotron 3.5 Lightning」を2026年8月11日にリリースした。AIモデル提供プラットフォームのOpenRouterが公開した情報によると、本モデルは上位モデルからの蒸留によって構築されており、高頻度な処理要求に対して高いスループットとコスト効率を提供するという。

エージェントの実行レイヤーに最適化されたモデル構造

自律的に動作するAIエージェントのワークフローでは、初期段階で方針を策定する複雑な推論だけでなく、ファイル内容の確認やコード編集、外部ツールの呼び出し、実行結果の検証といった限定的な作業を何度も繰り返す処理が多数発生する。Nemotron 3.5 Lightningは、こうした呼び出し頻度が高く、遅延やコストが累積しやすい「実行レイヤー」の処理を担当するために設計された。

本モデルは、疎結合型のMixture-of-Experts（MoE：複数の専門家ネットワークを適宜切り替えて処理する仕組み）を採用している。全体のパラメータ数は300億（30B）に達するものの、トークンごとにルーターが一部のエキスパートを選択して処理を行うため、実際に稼働するアクティブパラメータ数は約30億（3B）にとどまる。この「30B-A3B」設計により、30億パラメータ規模の高速な動作速度を維持しながら、単一の30億パラメータモデルを上回る表現力を確保しているという。

また、モデル構造は一般的なTransformer単体ではなく、Mamba-2層とMoE層を交互に配置し、特定のアテンション層を組み合わせたハイブリッドアーキテクチャが採用されている。推論時の生成速度を高める仕組みとして、マルチトークン予測への対応や「DSpark」「DFlash」と呼ばれる2種類の投機的デコーディング用ドラフターが同梱されているほか、推論向けにチューニングされたNVFP4チェックポイントも用意されている。

上位モデル「Nemotron 3 Ultra」との役割分担と性能

Nemotron 3.5 Lightningは、NVIDIAの大型モデル「Nemotron 3 Ultra」から蒸留（Distillation：大規模モデルの知識を軽量モデルへ移行する技術）されたモデルである。ただし、両者は相互に代替する関係ではなく、ワークフロー内での明確な役割分担が想定されている。

Nemotron 3 Ultraは総パラメータ数5500億（アクティブ550億）を備え、曖昧な課題に対する高度な論理的推論や全体のタスク計画、やり直しのコストが大きい重要判断などのオーケストレーションを担当する。これに対して、Nemotron 3.5 Lightningは明確な目標が定まった個別ステップの処理やツール呼び出しを反復して実行する用途に適している。

NVIDIAが公表したベンチマークテスト「PinchBench」の結果によると、Nemotron 3.5 Lightningは同等の精度を維持したまま、1万件のエージェントタスクを最大30%高速に完了したという。さらに、同等サイズのオープンモデルと比較して最大4倍のスループットに達すると報告されている。

利用コストの面でも両モデルには大きな差がある。OpenRouterにおける2026年9月11日時点の価格によると、Nemotron 3 Ultraの利用料金が入力100万トークンあたり0.50〜0.625ドル、出力100万トークンあたり2.20〜3.125ドルであるのに対し、Nemotron 3.5 Lightningは入力100万トークンあたり0.065〜0.10ドル、出力100万トークンあたり0.18〜0.25ドルと、大幅に低く設定されている。

最大100万トークンのコンテキストと提供形態

NVIDIAのモデルカードによると、Nemotron 3.5 Lightningは最大100万トークンのコンテキスト長をサポートしている。

OpenRouter上では、標準モデル（nvidia/nemotron-3.5-lightning）と無料モデル（nvidia/nemotron-3.5-lightning:free）の2種類のエンドポイントが提供されている。標準モデルは現在のすべてのプロバイダで26万2144トークンのコンテキストに対応し、プロバイダに応じて3万2768〜23万5929トークンの出力が可能となっている。無料モデルでは100万トークンのコンテキストと最大6万5536トークンの出力制限が設けられている。

機能面では、エージェント運用に求められるツール呼び出し（Tool calling）や、JSONなどの形式を指定して出力させる構造化出力（Structured outputs）に対応する。OpenRouterの標準モデルでは、提供中の4プロバイダ中2社がツール呼び出しを、全4社が構造化出力をサポートしていることが確認されている。

モデルのウェイトはBF16参照用に加え、NVFP4形式およびGGUF形式が公開されており、ライセンスにはOpenMDW-1.1が適用されている。これにより、ローカル環境への展開や特定ドメイン向けのカスタマイズも可能となっている。