AWS、微調整時のモデル性能低下を防ぐ「自己蒸留推論」の検証結果を公開

要点

• AIモデルを特定用途向けに微調整（SFT）する際、高品質な思考プロセス（CoT）のデータを用意するには、高いコストと手間がかかる課題があった。

• AWSは、ベースモデルである「Amazon Nova 2 Lite」自身が持つ思考プロセスを再利用して学習を補完する「自己蒸留推論（SDR）」を提案・検証した。

• 通常の微調整では、数学の性能が70%から6%へと急落する「破滅的忘却」が起きるが、SDRを適用することでほぼ元の水準まで性能を維持できることが確認された。

• 微調整前のモデルとパラメータを掛け合わせる「モデルマージ」手法と比較し、SDRは微調整で向上させた目的タスクの性能を落とさずに総合力を維持できる点で優れている。

• 米Amazon Web Services（AWS）は2026年7月21日、同社の機械学習に関する公式ブログ「AWS ML Blog」において、AIモデルの微調整手法に関する新たな検証結果を公表した。この発表では、同社が提供するAIモデル「Amazon Nova 2」ファミリーを用いて、特定の専門分野向けにモデルを調整する過程で発生する性能の低下（破滅的忘却）を緩和する手法「自己蒸留推論（SDR：Self-Distilled Reasoning）」の有効性が示されている。

微調整における「思考プロセス」データの不足とコスト課題

AIモデルを特定の業務やドメイン（専門領域）に適応させる方法として、「教師あり微調整（SFT：Supervised Fine-Tuning）」が広く用いられている。SFTは、人間が用意した「入力と正解出力」のデータセットを用いてモデルを追加学習させる手法である。

近年の高度なAIモデル（フロンティアモデル）では、問題を解く際に「思考のプロセス（CoT：Chain-of-Thought）」と呼ばれる論理的な思考ステップを出力させることで、コーディングや数学といった難解なタスクの予測精度が大幅に向上することが知られている。Amazon Nova 2ファミリーでも、この思考能力は極めて重要な役割を果たしている。

しかし、SFTのために高品質な思考プロセスのデータ（推論トレース）を大量に作成することは、実際には困難で非常にコストがかかる。そのため、多くの開発者は思考プロセスを含まない、単純な入力と出力のペアだけで微調整を行っているのが実情である。SFTで推論能力の向上を最大限に引き出すためには、強力な教師モデルが生成し、さらに人間が検証やクレンジングを行った「ゴールデンCoTトレース」と呼ばれる完璧な思考ステップのデータセットが必要とされていた。

自身の思考プロセスを再利用する「自己蒸留推論（SDR）」

今回AWSが発表した「自己蒸留推論（SDR）」は、こうした思考プロセスのデータを欠いたデータセットで微調整を行うための革新的なアプローチである。SDRでは、ベースモデルとなる「Amazon Nova 2 Lite」自身が持つ思考プロセスを再利用し、非推論データセットに組み込んで学習させる。

これは、モデル自身が生成したデータを再び自分自身の学習に役立てる「自己蒸留（Self-distillation：モデル自身が生成した高度なデータを用いて、同じモデルをさらに学習・洗練させる手法）」と呼ばれる技術の考え方に沿ったものである。SDRを適用することで、外部の強力な教師モデルを用意したり、人間の手でアノテーション（データへのラベル付けや注釈付与）を行ったりする必要がなくなる。既存のあらゆる分野の微調整用データセットに対して、そのまま適用できる点が大きな特徴である。

過去の知識を失う「破滅的忘却」の劇的な改善

AWSが実施した3つのベンチマーク（性能測定テスト）の検証において、SDRの極めて高い効果が明らかになった。

一般に、特定のデータセットだけで単純な微調整（通常のSFT）を行うと、モデルが過去に獲得していた一般的な知識やスキルが完全に失われてしまう現象「破滅的忘却（Catastrophic forgetting：モデルが新しいタスクを学習する際に、過去に学んだ知識やスキルを完全に忘れてしまう現象）」が発生する。今回の検証でも、通常の微調整を施したモデルは、元々70%あった数学の解答性能が平均でわずか6%にまで急落するという深刻な結果が確認された。

しかし、SDRを適用して微調整を行った場合、この数学性能の低下をほぼ防ぎ、元のベースモデルに近い水準まで回復・維持することに成功した。SDRは、微調整によって高めたい目的のタスク（ターゲットタスク）の性能を一切損なうことなく、モデルが本来持っていた一般的な能力を保護する。検証結果では、むしろターゲットタスクの性能そのものが向上する事例も多く見られたという。

「モデルマージ」を超える性能維持アプローチ

破滅的忘却を防止するための従来のアプローチとして、微調整後のモデルのパラメータと、微調整前のベースモデルのパラメータを掛け合わせる「モデルマージ」と呼ばれる手法が一般的に使われている。しかし、モデルマージは過去の知識をある程度維持できるものの、微調整によって獲得したターゲット性能が引き換えに低下してしまうというトレードオフ（双方を同時に満たせない状態）を抱えていた。

一方、SDRは学習プロセスそのものの中で、モデル自身の推論トレースを用いてデータセットを補強する「イン・トレーニング正則化（学習中に極端な調整を防ぎ、汎用性を保つ処理）」として機能する。これにより、事後のパラメータ統合や補間処理を一切行うことなく、ターゲットタスクと一般的性能（数学性能など）の双方で、モデルマージよりも効果的に高いパフォーマンスを維持できることが実証された。