Meta、ローカル環境向け30Bマルチモーダルモデル「Muse Glimmer」をApache 2.0で公開

要点

• Metaがローカル環境でのエージェント処理に特化したマルチモーダルAIモデル「Muse Glimmer」を公開した。

• 大規模モデル「Muse」から300億パラメータ（30B）へ蒸留されたモデルで、Apache 2.0ライセンスが適用されている。

• 20億パラメータの視覚エンコーダと280億パラメータの言語デコーダからなる密（Dense）な構造を採用している。

• エージェントタスクやコーディング、数学推論のベンチマークにおいて同規模の競合モデルを上回るスコアを記録した。

• 公開初日よりHugging Face Hubをはじめ、transformers、llama.cpp、vLLMなどの主要ライブラリに対応している。

• 2026年8月10日、Metaが新たなマルチモーダルAIモデル「Muse Glimmer」を発表・公開した。Hugging Faceの公式ブログによると、本モデルはプライバシー保護やコスト削減を目的としたローカル環境での自律型エージェント（指示に応じて自律的にツール操作や作業を行うAI）用途を主眼に置いて設計されている。オープンソースのApache 2.0ライセンスで提供され、公開初日から各種オープンソースエコシステムでサポートされているという。

ローカル運用とエージェントタスクを想定した設計

Muse Glimmerは、Metaの基盤モデル「Muse」から蒸留（大規模なモデルの知識を小さなモデルへ圧縮して継承させる手法）によって300億（30B）パラメータへと軽量化されたモデルである。コーディング、文書解析、パーソナルアシスタントのほか、「Claw」や「Hermes」のような自律型エージェント環境でのローカル稼働が想定されている。

公開されたベンチマーク結果では、同規模の「Gemma4-31B（Thinking Mode）」や「Qwen3.6-27B（Thinking Mode）」と比較検証が行われている。一般的なエージェント性能を測る「MCP Atlas」で75.5、「DeepSearch QA」で74.6、「τ³-Banking」で23.5、「WildClawBench」で47.6、「GAIA2」で43.3を記録し、比較対象モデルの中で最も高い数値を達成した。

コーディング領域では、「SWE-Bench Pro」で51.2、「SciCode」で43.6を記録して最高スコアを獲得した一方、「SWE-Bench Verified」では76.0（Qwen3.6は77.2）、「TerminalBench 2.1」では51.7（Qwen3.6は60.7）となっている。マルチモーダル分野では「Charxiv Reasoning」で78.8を記録した。また、一般的な推論性能では「IFBench」で77.0、「AIME 2026」で94.7、「AA-LCR」で80.0、「Beam 128K」で65.1を記録している。安全性ベンチマークの「CI Memories」や「Siren AgentDojo」では、違反率や攻撃成功率の低さにおいてGemma4が最も優れた結果を残している。

視覚とテキストを統合するモデル構成

Muse Glimmerは、20億パラメータの視覚エンコーダ「Perception Encoder」と、280億パラメータのテキストデコーダで構成された高密度（Dense）なアーキテクチャを持つ。

視覚処理を担うPerception Encoderは、画像と動画の両方を単一のエンコーダで処理する。画像を2フレーム×3チャンネル×14×14の形状にパッチ分割し、線形層で投影した後に学習済みテーブルからの補間絶対位置埋め込みを加算する仕組みとなっている。ビジョンタワーは50層とGELU MLPで構成され、空間処理やマルチモーダル処理の基盤として機能する。

効率的な推論を実現するテキストデコーダ

テキストデコーダには、計算効率と文脈保持を両立させるための複数の仕組みが導入されている。

• ハイブリッドアテンション: 2,048トークンのスライディングウィンドウ（局所的な注目）3層（RoPE使用）と、位置埋め込みを用いないフルアテンション（大域的な注目）1層（NoPE使用）を交互に配置している。この4層の組み合わせを13回繰り返し、合計52層で局所的な順序情報と大域的な情報の保持を両立させる。
• Gated Grouped-Query Attention (GQA): 1つのKey-Valueヘッドを16のQueryヘッドで共有することで、推論時のKVキャッシュメモリを16分の1に削減し、生成コストと速度を改善している。
• Q-K正規化とクエリスケーリング: アテンション計算前にQueryとKeyの各ヘッドへRMS正規化を適用して安定性を保ち、正規化後のクエリにスケール係数を掛けることでソフトマックスにおける逆温度のような挙動を持たせている。

さらに、オプション機能として「DFlash」上に実装された推測デコーディング（軽量な副モデルで候補を先読み生成して推論を速める技術）用のドラフターモジュールが提供されている。追加のメモリを消費する代わりに生成速度が大幅に向上し、特にコーディングのような構造化されたテキスト生成に適していると説明されている。

エコシステム対応と提供状況

本モデルはHugging Face Hubの「meta-models/Muse-Glimmer-30B」にてモデルファイルが公開されている。Hugging Faceのtransformersをはじめ、llama.cpp、vLLM、Inference Endpointsなどの主要な推論環境・ライブラリにおいて初日からサポートが提供されている。