Amazon SageMaker AI、NVIDIA「Nemotron 3」モデルのサーバーレス微調整に対応
要点
- AWSは「Amazon SageMaker AI」において、NVIDIAの「Nemotron 3」モデルをサーバーレスで微調整できる機能の提供を開始した。
- 対象は、アクティブパラメータ数が30億の「Nemotron 3 Nano」と120億の「Nemotron 3 Super」の2種類。
- インフラ管理をすることなく、教師あり微調整(SFT)やAIフィードバックによる強化学習(RLAIF)などを実行できる。
- Nemotron 3は、効率的な「Mamba-2」と正確な文脈把握ができる「Transformer」に、混合専門家(MoE)を統合したハイブリッド構造を採用。
- 推論時に一部パラメータのみを稼働させ、低い計算コストで高い処理速度と精度を両立する。
リード文
米アマゾン ウェブ サービス(AWS)は2026年7月10日、機械学習サービス「Amazon SageMaker AI」において、NVIDIAのオープンウェイトLLM(大規模言語モデル)「NVIDIA Nemotron 3」ファミリーのサーバーレス微調整機能の提供を開始した。ユーザーはインフラの準備や運用管理を一切行うことなく、特定の業務フローやドメインに最適化したモデルを構築できる。
ファイン・チューニングによる自社AI資産の構築
モデルの微調整(ファイン・チューニング)は、汎用AIを企業向けの専門アセットへと進化させるプロセスである。ドメイン特有のデータで微調整を行うことで、独自のワークフローや専門用語を学習させ、ハルシネーション(事実に基づかない回答の出力)を抑制しつつ、ブランドボイス(企業の表現スタイル)へ厳格に準拠させることができる。
これは組織特有の知性を組み込むことで、容易に模倣できない競争優位性の構築に繋がる。また、特定のタスクに向けて小規模なオープンウェイト(内部情報が公開されている)モデルを微調整すれば、巨大な商用モデルと同等以上の性能を引き出せるため、セキュリティの確保と大幅なコスト削減を両立できる。
対象となるNVIDIA Nemotron 3モデル
今回のサーバーレスカスタマイズに対応するNVIDIA Nemotron 3は、以下の2モデルである。
- Nemotron 3 Nano 30B: 総パラメータ数は300億、アクティブパラメータ数(推論時に稼働する実質的なパラメータ数)は30億の小規模言語モデル(SLM)。コーディングや推論タスクにおいて強力な性能を示し、強化学習フレームワーク「NeMo Gym」を用いて訓練されている。前世代の「Nemotron 2 Nano」の4倍のスループット(単位時間あたりの処理量)を誇る。
- Nemotron 3 Super 120B: 総パラメータ数は1200億、アクティブパラメータ数は120億のモデル。
ハイブリッドアーキテクチャによる高効率と精度
NVIDIA Nemotron 3ファミリーは、最大100万トークンのコンテキスト長(処理可能なテキスト量)をネイティブサポートする、独自の「Mamba-Transformer Mixture-of-Experts (MoE)」ハイブリッドアーキテクチャを採用している。
本モデルは、効率的な「Mamba-2レイヤー」、正確に情報を参照する「Transformerアテンションレイヤー」、トークンを圧縮して適した専門処理ユニットへ割り振る「Latent Mixture-of-Experts (LatentMoE) レイヤー」を交互に配置する。
この設計により、データ処理の実行段階で全パラメータの一部(Superモデルの場合は120B中の12B)のみをアクティブ化するため、少ない計算資源で高いスループットと優れた精度を両立できる。また、「NeMo Gym」によるマルチ環境強化学習を通じて、コーディングや複雑な推論、長文のコンテキスト分析など、実社会の複数ステップにまたがるエージェントタスクに適応されている。
利用可能な3つの微調整手法
Amazon SageMaker AIのサーバーレスカスタマイズでは、インフラを管理することなく、以下の3つの手法を使い分けられる。
- 教師あり微調整 (SFT): 人間が作成した正しい応答例データを使ってモデルを訓練し、特定のタスクに適応させる標準的な手法。
- 検証可能な報酬を用いた強化学習 (RLVR): プログラムコードの実行テストや数式の計算結果など、成否を客観的に検証できる結果を報酬として用いて学習させる手法。
- AIフィードバックによる強化学習 (RLAIF): 人間に代わって他のAIモデルが応答品質を評価し、そのフィードバックをもとに強化学習を進行する手法。
AWSは、Amazon SageMaker Studioを通じて、これらのサーバーレスカスタマイズを開始できるとしている。