AWS、NVIDIA Blackwell搭載「G7」のLLM推論ベンチマークを公開 G5・G6との価格性能を比較
要点
- アマゾン ウェブ サービス（AWS）は、Amazon SageMaker AIにおける小型LLMの推論性能について、新型「G7」と前世代（G5/G6/G6e）を比較したベンチマーク結果を公開した。
- NVIDIA BlackwellアーキテクチャのGPUを搭載するG7は、アクセラレータ数やGPUメモリ総量を抑えた構成でもスループットやレイテンシ、トークン単価の改善を示したという。
- 検証には300億パラメータ規模のMixture-of-Experts（MoE）モデル2種を採用し、コーディング支援と企業向けアシスタントの2つの用途で評価された。
- 性能測定にはSageMaker AIの「生成AI推論レコメンデーション」機能が用いられ、実環境でのベンチマークや最適な構成選定の自動化が行われている。
アマゾン ウェブ サービス（AWS）は2026年9月8日、同社の公式ブログ「AWS ML Blog」において、機械学習プラットフォーム「Amazon SageMaker AI」上での小型大規模言語モデル（LLM）推論ベンチマーク結果を公開した。最新の「G7」インスタンスと前世代にあたる「G5」「G6」「G6e」インスタンスを比較し、モデル構造や処理負荷に応じた処理速度やコスト効率の違いを明らかにしている。
NVIDIA Blackwellを搭載した「G7」インスタンスの検証背景
生成AIを本番環境で大規模に運用する際、適切なGPUインスタンスの選定はレイテンシ（応答時間）の短縮やスループット（単位時間あたりの処理量）の向上、トークンあたりのコスト削減に直結する。AWSによると、世代交代による性能向上の幅は、モデルのアーキテクチャや量子化（モデルの精度を保ちながらデータ容量を削減する手法）のフォーマット、処理負荷の特性によって変化するという。
今回の検証では、次世代GPUアーキテクチャであるNVIDIA Blackwellを採用した「RTX PRO 4500 Blackwell」搭載の「G7」インスタンス（ml.g7.12xlarge）の実力を測るため、300億（30B）パラメータ規模のMixture-of-Experts（MoE、特定の処理に特化した複数の専門サブネットワークを切り替えて処理する構造）モデル2種類がテスト対象に選ばれた。
ユースケース1：コーディング支援モデル「Qwen3-Coder-30B」による性能比較
1つ目のユースケースでは、コード生成やデバッグ、リファクタリング、開発者向けコパイロットなどのプログラミング業務を想定し、FP8形式で量子化されたモデル「Qwen3-Coder-30B」が用いられた。サービング環境には、コンテナイメージ「Amazon SageMaker AI DJL Large Model Inference (LMI)」が採用されている。
このテストでは以下の3構成で価格性能比が比較された。
- ml.g5.12xlarge: NVIDIA A10G GPU 4基（合計GPUメモリ 96GB）
- ml.g6.12xlarge: NVIDIA L4 GPU 4基（合計GPUメモリ 96GB）
- ml.g7.12xlarge: NVIDIA RTX PRO 4500 Blackwell GPU 2基（合計GPUメモリ 64GB）
従来のG5およびG6構成がGPU 4基と96GBの総メモリを使用しているのに対し、G7構成はGPU数を半分の2基、総メモリを64GBに抑えている。アクセラレータの数とメモリ容量が少ない構成でありながら、G7がどのような性能を発揮するかが検証された。
ユースケース2：企業向けAIモデルと「vLLM」による最適構成の選定
2つ目のユースケースでは、論理的思考、質問応答、要約、自律型エージェントなどの業務を想定し、NVFP4形式のモデル「NVIDIA-Nemotron-3-Nano-30B-A3B-NVFP4」を使用した検証が行われた。推論エンジンにはオープンソースのLLM高速サービングフレームワーク「vLLM」が採用されている。
対象となった12xlarge構成の内訳は以下の通りである。
- ml.g6.12xlarge: NVIDIA L4 GPU 4基（合計GPUメモリ 96GB）
- ml.g6e.12xlarge: NVIDIA L40S GPU 4基（合計GPUメモリ 192GB）
- ml.g7.12xlarge: NVIDIA RTX PRO 4500 Blackwell GPU 2基（合計GPUメモリ 64GB）
このユースケースでは、SageMaker AIの「生成AI推論レコメンデーション」機能を通じて各GPUのベンチマークと設定選定を自動化し、最も費用対効果の高いオプションの特定が進められた。
推論構成を最適化するSageMaker AIのレコメンデーション機能
今回のベンチマークで活用された「Amazon SageMaker AI 生成AI推論レコメンデーション」は、本番環境向けの最適なGPU構成を見つけ出す作業を簡素化する機能である。利用者がモデル、想定ワークロード、最適化の目標値を指定すると、システムが実際のGPUインフラ上で候補となる構成を評価し、実測パフォーマンスに基づいた推奨構成を提示する。
この機能はスループット、コスト、レイテンシに関する推奨に加えて、初回トークン生成時間（Time to First Token: 入力プロンプト送信から最初の1トークンが出力されるまでの時間）などの指標に関するベンチマークデータも提供する。
AWSは、LMIコンテナを用いた直接的なベンチマークと、vLLMおよび推論レコメンデーション機能による自動最適化という2つのアプローチを組み合わせることで、モデルやサービングスタック、GPU構成の違いに応じてG7インスタンスが前世代機を上回る価格対性能を発揮できる領域を示したと説明している。