IBM、対話・意思決定・音声認識を単一エンドポイントで処理する「Granite Switch 4.1」を発表

要点

• IBM Graniteチームは、チャット応答、意思決定、音声認識を1つのエンドポイントで高速に切り替え可能な「Granite Switch 4.1」を発表した。

• モデル規模は8Bと30Bが提供され、ベースモデル単体とほぼ同等のVRAM消費量で複数機能を同時にホストできる。

• 汎用意思決定アダプタや安全性特化アダプタに加え、ベンチマーク最速の音声認識モデルを統合している。

• KVキャッシュの再利用と推論カーネルの最適化により、タスク間の高速なスイッチングを実現した。

• 事前構成済みモデルの提供にとどまらず、利用者が独自のアダプタを組み合わせてカスタマイズすることも可能となっている。

• 米IBMの研究チーム「IBM Granite」は2026年10月15日、モジュール型AIモデルの最新版「Granite Switch 4.1」を発表した。単一のホストエンドポイントから、自然言語での対話、各種の意思決定、および音声認識を効率的に切り替えて実行できる。ラインナップとして80億パラメータの「Granite-Switch-4.1-8B」と300億パラメータの「Granite-Switch-4.1-30B」の2種類が公開されている。

3つの機能を1つに集約しGPUメモリ消費を抑制

Granite Switch 4.1は、ベースモデルに対して3つの主要技術を統合した構成をとっている。

1つ目は一般的な判定処理を担う「Decision aLoRA」、2つ目は安全性評価に特化した「Guardian aLoRA」だ。Guardian aLoRAは、安全性に関する意思決定タスクにおいて、Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions、Clef-Flashなどの競合モデルを平均スコアで上回る性能を示しているという。3つ目は、文字起こしを担当する音声認識（ASR：音声をテキスト化する技術）モデル「Granite-Speech-5.0-Turbo-CTC」である。このモデルは、性能評価ランキング「OpenASR Leaderboard」で最速を記録している。

これら3つの技術とベースモデルを一体化させながらも、GPU上で消費するVRAM容量はベースモデル単体とほぼ同等に抑えられており、最小限のGPU環境で多彩な処理を実行できると説明している。

KVキャッシュの再利用による高速なタスク切り替え

高効率な動作の背景には、キャッシュ効率の高い「Activated LoRA（aLoRA：推論効率を高めた低ランク適応技術）」の採用がある。

ベースモデルが生成処理を行う際に作成されたKVキャッシュ（過去の計算結果を保持して再利用するメモリ領域）は、後続するアダプタの意思決定処理でもそのまま再利用できる。さらに、推論エンジン「vLLM」向けに開発された低ランクアダプタ推論の高速化技術や、同一環境に配置されたASRエンコーダが連携することで、対話、意思決定、音声入力の間を極めて高速に切り替えられる仕組みを構築した。

公開されたデモ環境「Speech-to-Decisions」では、8Bモデルが単一エンドポイント上で音声を文字起こしし、要約を作成した上で、有害性の判定やユーザー定義の15種類のフラグ検査をリアルタイムに実行する様子が示されている。

専門アダプタの併用とワークフローの高速化

IBM Graniteでは、各種タスクに特化したアダプタ群を「Granite Libraries」として整備してきた。汎用性を重視する競合モデルに対し、特化型アダプタは特定の分類タスクで高い精度を発揮する傾向があるという。

Granite SwitchではKVキャッシュを共有できるため、汎用意思決定アダプタと専門アダプタを併用しても計算負荷やメモリ消費がほとんど増えない。これにより、汎用アダプタによる幅広い対応力と専門アダプタによる高い精度を同時に享受できる。

実際の比較検証では、ベースモデルに4つの専用aLoRAを組み合わせた「Granite-Switch-4.1-30B」と、Qwenベースに汎用LoRAを適用した「Jev-27B」の実環境テストが行われた。5段階のRAG（検索拡張生成：外部知識を検索して回答を生成する手法）ワークフローにおいて、30Bモデルが競合より大幅に速く処理を完了したと報告されている。

独自構成への対応と今後の開発ロードマップ

今回公開された8Bと30Bのモデルは有用なアダプタが事前設定されているが、利用者が独自のGranite Switchモデルを構築することも可能だ。カタログから目的に適したアダプタを選び、自由に組み合わせて運用できる。

IBM Graniteチームは今後、コミュニティによるアダプタの拡張を支援する計画を示している。「Mellea」環境でアダプタをトレーニングするための「Adapter SDK」の提供やチュートリアルの整備を進めており、独自の分類・言語タスク用アダプタの開発や、30億パラメータ規模のモデルへの適用などを支援していくとしている。

補足

Granite Switchプロジェクトは昨春から開発が進められており、単一の巨大モデルに頼らず、軽量アダプタの組み合わせによって多機能化と高速性を両立させるアプローチを追求している。