NVIDIA、AIエージェントの大量実行に特化した30BオープンMoEモデル「Nemotron 3.5 Lightning」を発表

要点

• NVIDIAは、常時稼働型AIエージェントの実行層向けに特化したオープンMoEモデル「Nemotron 3.5 Lightning」を発表した。

• 総パラメータ数30Bに対し、推論時のアクティブパラメータ数を3Bに抑えることで、同規模モデル比で最大4倍の出力速度を実現している。

• 投機的デコーディングや主要エージェント基盤に最適化した学習を採用し、NVFP4およびBF16形式のチェックポイントを提供する。

• タスクに応じてモデルを賢く振り分ける「NVIDIA NeMo Switchyard」や、エージェント管理基盤「NVIDIA NemoClaw」に対応する。

• 寛容なライセンスのもとでモデルの重みやデータ、学習レシピが公開され、ローカル環境からデータセンターまで幅広く展開可能となっている。

• 米NVIDIAは2026年8月11日、自社の公式技術ブログにおいて、自律型AIエージェントの実行処理に特化した新しいオープン言語モデル「NVIDIA Nemotron 3.5 Lightning」を発表した。

• 同モデルは、総パラメータ数300億（30B）のうち推論時に動作するパラメータを30億（3B）に抑えたMixture-of-Experts（MoE）構造を採用しており、低遅延かつ高精度なタスク実行を目的として設計されている。

• 計画立案を担う大規模な推論モデルと組み合わせる「モデルシステム」の実行層を担う位置づけとされ、モデルの重みやレシピとともにオープンソースとして提供される。

エージェントの実行層に特化したMoE設計と開発背景

長時間自律的に動作するAIエージェント（常に稼働し続けるエージェント）は、ツールの呼び出しや結果の検証、サブエージェントへのタスク委譲といった高頻度な処理に多くの稼働時間を費やす傾向がある。しかし、こうしたすべての実行ステップに対して最先端の高度な推論モデル（フロンティアモデル）を使用すると、計算コストと遅延（レイテンシ）が大きく膨らんでしまうという課題があった。

この課題を解消するため、NVIDIAはエージェントの実行層に特化したモデルとしてNemotron 3.5 Lightningを開発したという。本モデルは「Nemotron 3」ファミリーの中で最もコンパクトなモデルであり、MoE（複数の専門家ネットワークから必要な部分だけを選択して処理する仕組み）構造を採用している。ルーターが各トークンを特定の少数の専門家（エキスパート）にのみ割り振るため、総パラメータ数30Bの表現力を備えながら、1トークンあたりの計算コストを3B規模に抑えることができると説明している。

高速化を実現する投機的デコーディングとハーネス最適化

Nemotron 3.5 Lightningには、推論速度と精度を両立させるための複数の技術が組み込まれている。同社によると、類似サイズのモデルと比較して最大4倍の出力速度を達成しているという。

具体的には、学習時に複数トークンを同時に予測する「マルチトークン予測」を取り入れた投機的デコーディング（推論処理を並行・先読みして高速化する技術）が採用されている。これはファミリー内の上位モデルである「Nemotron 3 Super」や「Nemotron 3 Ultra」で実証された手法を踏襲したもので、さらに「DFlash」や「DSpark」といった技術も搭載され、多様なサービング環境における推論最適化を支援する。

また、本モデルは「OpenClaw」や「Hermes Agent」といった広く使われている主要なエージェントハーネス（エージェントを実行・制御するためのフレームワーク）に最適化された学習（Harness-optimized training）が施されている。これにより、大量の処理が発生するタスクにおいても遅延を抑えながら、より正確なツール呼び出しを行えるよう設計されているという。

「モデルシステム」とNeMo Switchyardによる連携

近年、開発者の間では単一の巨大モデルですべてを処理するのではなく、複数のモデルを組み合わせて最適なワークフローを構築する「モデルシステム（System of Models）」のアプローチが普及しつつある。NVIDIAはこのアーキテクチャにおいて、「Nemotron 3 Ultra」のようなフロンティア推論モデルが全体のオーケストレーションや複雑な計画立案を担当し、Nemotron 3.5 Lightningのような小型で高効率なモデルが大量の実行処理を担当するという役割分担を提示している。

こうした複数モデルの協調動作を支える仕組みとして、NVIDIAは各タスクを最適なモデルへとインテリジェントに振り分けるライブラリ「NVIDIA NeMo Switchyard」もあわせて紹介している。Switchyardを活用することで、Nemotron 3.5 Lightningを他のモデルと並行してデプロイし、最適なタスク配分を実現できるとしている。

配布形態と展開環境

Nemotron 3.5 Lightningは、自由度の高い寛容なライセンス（permissive license）のもとで公開されており、モデルの重み（ウェイト）だけでなく、データやカスタマイズ用のレシピも提供される。提供されるチェックポイント形式には、4ビット浮動小数点フォーマットである「NVFP4」および「BF16」が含まれている。

デプロイ環境としては、ワークステーション向けのハードウェア「NVIDIA DGX Spark」から大規模なデータセンターまで、幅広いインフラへの展開に対応している。さらに、常時稼働するAIエージェントの安全な実行と管理を担うオープンソーススタック「NVIDIA NemoClaw」を通じた運用もサポートされる。