Meta、ローカルで動く30Bエージェント向けAIモデル「Muse Glimmer」を公開　NVIDIAプラットフォームに最適化

要点

• Metaは、ローカル環境で長時間稼働するエージェント型AIワークフローに特化した300億パラメータのオープンウェイトモデル「Muse Glimmer」を公開した。

• 12万トークン以上のコンテキスト長に対応し、トークン処理ごとに全パラメータを活性化するデンス（密結合）アーキテクチャを採用している。

• 単一GPUのVRAMに収まるサイズに設計されており、機密データや個人情報を外部サーバーに送信することなく端末内だけで処理できる。

• コンシューマー向けのGeForce RTX 5090からワークステーション、エンタープライズ向けシステム、組み込み向けJetsonまで幅広いNVIDIA環境で動作する。

• 最新のNVIDIA Blackwell Ultra環境では、単一GPUあたり毎秒2万トークンを超える処理性能を達成している。

• Metaは2026年8月10日、ローカル環境での自律型AIエージェントの実行に特化した新しいオープンウェイトAIモデル「Muse Glimmer」をリリースした。NVIDIAのテクニカルブログで明らかにされたもので、デスクトップPCからワークステーション、エッジデバイスに至る幅広いNVIDIAハードウェア向けに最適化されている。

エージェント処理に特化した300億パラメータのデンス構造

「Muse Glimmer」は、300億（30B）パラメータを持つデンスアーキテクチャの言語モデルであり、12万（120K）トークン以上のコンテキストウィンドウ（一度に処理できる文脈の長さ）を備えている。

現在普及している大規模言語モデル（LLM）の多くは単発のチャット対話や初速（最初のトークン出力までの時間）を重視して設計されている。これに対し、ソフトウェアプロジェクトの構築やドキュメントの改訂、ナレッジベースの管理といったエージェント型の処理では、1回のセッション内で複数のツール呼び出しを連続して実行する必要がある。こうした用途では、従来の対話向けモデルとは異なり、長文コンテキストにおける整合性や高い一貫性、持続的なスループットが求められるという。

Muse Glimmerでは、複数の専門ネットワークに処理を分散させるMoE（Mixture of Experts）方式とは異なり、トークンを処理するたびに300億個すべてのパラメータを活性化させるデンス構造を採用した。専門家選択やルーティングの処理に伴うばらつきやオーバーヘッドが存在しないため、指示への確実な追従、長文コンテキストでの破綻の少なさ、予測しやすい安定した応答速度を実現し、実行時の失敗パターンを減らすことができると説明されている。

外部送信を排し、単一GPUで完結するローカル推論

開発コードや個人の通信ログ、認証情報、社内機密ドキュメントを扱うエージェント処理では、データを端末外へ一切出さないオンデバイスでの推論が重要視される。

Muse Glimmerは、多段階の複雑な推論をこなす能力を維持しつつ、単一のNVIDIA製GPUに搭載されたVRAM（ビデオメモリ）内に全体が収まるサイズに調整されている。モデルを複数GPUに分割するシャーディングや、メインメモリへの退避（CPUオフロード）、クラウド上の外部エンドポイントへの依存を必要とせず、GPU単体で全コンテキスト長にわたるリアルタイム推論を実行できる。

NVIDIAのTensorコア（AI推論・学習向けの専用演算コア）アーキテクチャにより、この処理パターンが高速化されている。

開発機からエッジまで広がる対応ハードウェア

Muse Glimmerは、利用規模や用途に応じて多様なNVIDIAプラットフォームで展開できる。

• GeForce RTX 5090: 32GBのVRAMと第5世代Tensorコアを搭載し、個人の開発者環境において機密コードをローカルに保持したまま、トークンごとの従量課金なしでモデルを実行できる。
• DGX Spark: 高速メモリアクセスを可能にするNVLinkを備えたコンパクトなシステムで、企業向けのエージェントパイプラインをワークステーション級の性能で処理する。NVIDIA NIM（最適化された推論マイクロサービス）コンテナを用いることで、コマンド1つで展開可能となっている。
• DGX Station: クラウド推論が利用できない完全閉域（エアギャップ）環境や厳格なコンプライアンス要件を持つ組織向けに、ラック規模のBlackwell Ultra演算能力をオンプレミスで提供する。
• Jetson: ネットワークから完全に隔離された産業用オートメーションやロボティクス、組み込み機器向けに推論環境を拡張し、現場の機器上で直接エージェント判断を行わせることができる。

Blackwell Ultraで毎秒2万トークン以上の処理性能を記録

処理性能の面では、最新世代のNVIDIA Blackwell Ultra環境において、BF16およびNVF4精度でGPU単体あたり毎秒2万トークン（20K tokens/sec/GPU）を超えるスループットを達成したことが報告されている。

単一のBlackwell Ultraであれば、モデル全体をVRAM上に常駐させても大容量のKVキャッシュ（過去の計算結果を保持するバッファ領域）を確保する余裕があり、高い並列処理を維持しながら常時稼働エージェントを低遅延で運用できるという。

実運用に向けたデプロイ環境としては、NVIDIA NIMコンテナのほか、オープンソースの高速推論フレームワークであるSGLangやvLLMにも対応している。