Meta、エージェント型開発に特化した8160億パラメータのオープンモデル「Muse Spark Open」を発表
要点
-
Metaが自律的なコーディングエージェントに特化したオープンAIモデル「Muse Spark Open」を発表した。
-
総パラメータ数816Bのうち1トークンあたり42Bを呼び出すMoE構造を採用し、100万トークンの長大なコンテキストに対応する。
-
1.8Bの知覚エンコーダーを備え、テキストに加えて画像、音声、動画フレームを同一パイプラインで直接処理できる。
-
NVIDIA GB300 NVL72 Blackwell UltraとNVFP4形式に最適化され、GPUあたり最大毎秒5万トークンの処理速度を記録した。
-
Hugging Faceでの重み公開に加え、即座に本番導入できるNVIDIA NIMのダウンロード提供も開始された。
-
米Metaは2026年10月15日、自律的なコーディングエージェント向けに特化したオープンAIモデル「Muse Spark Open」を発表した。米NVIDIAのテクニカルブログで公開されたもので、総パラメータ数8160億(816B)の大規模構成ながら、NVIDIAの最新基盤「NVIDIA GB300 NVL72 Blackwell Ultra」での高速な推論に最適化されているという。
単発生成から自律型作業へ、エージェント特化のMoE設計
従来のコーディング向けモデルは、関数の作成や単体テストの記述など、文脈が小さく即座に答えが得られる単発の処理を得意としてきた。これに対し、複数ファイルのリファクタリング計画や数千ファイルの探索、テスト失敗からの復旧、補助プログラム(サブエージェント)との連携といった持続的な作業には、異なるアプローチが求められる。
Muse Spark Openは、まさにこうした長期的なエージェント作業のために設計された。本モデルはMixture-of-experts(MoE、複数の専門サブネットワークから必要な部分を選択して動作させる仕組み)を採用。全256のエキスパートから上位8つを選択するルーティングを行い、総パラメータ数816Bのうち1トークンあたり42Bのみを活性化する。これにより、同等規模の高密度モデルと比べて運用コストを抑えつつ高い性能を発揮できるという。
100万トークンのコンテキストと自律実行機能
本モデルは、100万(1M)トークンにおよぶコンテキストウィンドウ(一度に扱える情報量の上限)を備える。複雑な依存関係やレガシーコードを含むプロジェクト全体を分割せず、単一セッション内に丸ごと保持可能だ。
モデルは計画、実行、観察、自己修正のサイクルを自律的に繰り返す。長時間のセッションで方向性を保つ「目標条件付け」や知識を維持する「コンテキスト圧縮」を備え、高い初回試行精度と確実なツール呼び出しを提供するという。さらにウェブ検索、タスクに応じたサブエージェントの生成・連携、デスクトップやモバイル、ブラウザを網羅したコンピュータ操作にも対応する。各アクションの前には内容と理由を記した解説を出力し、開発者が挙動を逐一把握できるよう配慮されている。
画像・動画・音声を1パスで処理する統合知覚
Muse Spark Openは推論モデルとして、テキストにとどまらない知覚能力を備える。1.8Bパラメータの知覚エンコーダーを内蔵し、テキスト、画像、動画フレーム、音声をモダリティごとに分けず、単一のパスで統合処理する。
この仕組みにより、スクリーンショットや設計図、エラーログ、操作動画のウォークスルーなどが混在する開発環境でも、モデルが視覚や音声、テキストの情報を同一の文脈として直接推論できる。
GB300 NVL72とNVFP4による高速化
本モデルはNVIDIA GB300 NVL72 Blackwell Ultra上で学習が行われた。推論向けにはMetaが作成した低精度形式「NVFP4」(4ビット浮動小数点フォーマット)のチェックポイントが提供され、FP4 Tensor Coreで高速化される。
816Bパラメータ全体のメモリ消費を抑え、データ転送量の削減でユーザーあたりの出力速度を向上させた。削減されたメモリをKVキャッシュ(過去の計算結果を保持する領域)の拡張に充てることで、長大コンテキストの並行セッション数を増やし、トークン単価の低減と高スループットを両立している。同システム環境では、GPUあたり最大毎秒5万トークン、ユーザーあたり最大毎秒600トークンの処理速度を達成するという。
モデルの入手方法と導入手段
現在、Hugging FaceにてNVFP4形式の重み(Muse-Spark-Open-816B-A42B-NVFP4)が公開されており、開発者が検証を行える状態となっている。また本番運用向けには、単一コマンドでセットアップ可能な「NVIDIA NIM」のダウンロード提供も開始されている。