自然言語ポリシーで動作する30億パラメータの安全モデル、仏Mistral AIが「Shieldstral」を公開
要点
- 仏Mistral AIは、自然言語で書かれたポリシーを推論時に直接解釈できる、30億パラメータのマルチモーダル安全分類器「Shieldstral」を発表しました。
- 本モデルは30億パラメータと軽量でありながら、テキストの安全性評価において最大7倍のサイズを持つ既存の安全モデルに匹敵する性能を示しています。
- 従来の固定されたカテゴリ分類とは異なり、質問応答形式を採用することで、再学習を伴わない柔軟な安全ポリシーの変更を可能にしました。
- ライセンスはApache 2.0でオープンソースとして提供され、16GBのビデオメモリを搭載した単一のGPUで効率的に動作します。
リード文
フランスのAIスタートアップであるMistral AIは2026年8月4日、推論時に自然言語で書かれた任意の安全ポリシーに即座に適応できる、新しいオープンウェイトのマルチモーダル（画像やテキストなど複数の種類の情報を処理できる技術）安全分類モデル「Shieldstral（シールドストラル）」を発表した。本モデルは30億（3B）パラメータという軽量設計ながら、テキストの安全性や拒否検出などの評価において最大7倍の規模を持つ既存モデルと同等以上の性能を示し、画像とテキストを組み合わせたモデレーション（コンテンツ監視）において新たな水準を達成したという。
本文
従来の課題とShieldstralのアプローチ
AIモデルを利用した製品やサービスを提供するにあたり、入力や出力が安全であるかを判断する基準は、製品の目的や対象ユーザーによって異なる。例えば、セキュリティ研究用のツールでは許容される内容であっても、メンタルヘルス支援用のプラットフォームでは有害とみなされる場合がある。しかし、従来の多くのガードレールモデル（AIの入出力を監視して不適切な情報を制限する安全管理用モデル）は、あらかじめ定義された固定の有害カテゴリをモデルの重みに焼き付けていたため、適用先が変わるたびに再学習を行う必要があった。
これに対し、Shieldstralは推論時に自然言語で記述されたポリシーをそのまま質問として入力する、独自の「ポリシー適応型」アプローチを採用している。これにより、再学習を必要とせず、テキストと画像の双方に対して同一のインターフェースで評価を行うことができる。
質問応答としてのモデレーション
Shieldstralは、コンテンツのモデレーションを「二者択一（Yes/No）の質問応答タスク」として処理する。入力情報は、評価のコンテキストや厳格さを定義する「指示（Instruct）」、Yes/Noで回答可能な「質問（Query）」、そして判定対象となるテキストや画像などの「ドキュメント（Document）」の3つの要素で構成される。
推論時には「Yes」と「No」の確率を表すロジット値（確率に変換される前の生の数値データ）のみを読み出し、それらを正規化して連続的な安全スコアとして出力する。このシンプルな設計により、プロンプトの分類や応答の監視、拒否の検出、有害性の検出といった複数の安全評価が単一のインターフェースに統合された。
性能と仕様の特徴
Shieldstralは30億（3B）パラメータというコンパクトなモデルサイズでありながら、テキスト安全、拒否検出、ポリシー適応性、マルチモーダル安全の各ベンチマークにおいて、最大7倍のサイズを持つ既存のオープンモデルと同等以上の性能を発揮する。また、16GBのビデオメモリを搭載した単一のNVIDIA製GPUで効率的に動作させることができるため、デプロイや運用のコストも低く抑えられる。
高性能モデルの構築プロセス
Mistral AIは、データ品質の最適化によって、小規模モデルでも大規模モデルを凌駕できることを実証した。その開発プロセスでは、以下の4つのアプローチがとられたという。
- 多様なデータの共通化: 公開されている多様な安全データセットを、共通の「指示・質問・ドキュメント」形式に変換。特定の文言への過学習を防ぐため言い回しを多様化させ、ソースごとの厳格さを個別に調整した。
- ポリシー境界の識別訓練: 固定のラベル分類を暗記させるのではなく、酷似したポリシーセットを作成。LLMを用いて「一方のポリシーのみに違反する対照的なテキストペア」を生成し、境界を識別する能力を学習させた。
- 画像データの補強: 不足しがちな画像モデレーションデータに対し、一般の画像データを否定例として追加。ビジョン言語リランカー（画像とテキストの関係性を評価するモデル）を用いて誤ラベルを排除した。
- チェックポイントの融合: 特性の異なる複数の調整済みモデルと、基本となる指示追従モデルをSLERP（球面線形補間）でマージし、ポリシー適応性と指示追従能力を両立させた。
なお、これらの開発は、カスタムモデルの訓練から評価までを行う同社の統合プラットフォーム「Forge」上で実施された。Forgeのインフラ管理機能により、開発チームはデータ品質の向上に集中できたと説明している。
公開情報と入手方法
Shieldstralは、NVIDIAなどと共同設立した「Open Secure AI Alliance」の発足メンバーとしての初のリリースとなる。モデル重みはApache 2.0ライセンスの下で公開されており、Hugging Faceよりダウンロードが可能である。また、本モデルの詳細な仕組みをまとめた技術レポート（ArXiv論文）も公開されている。