Liquid AI、LFM2.5向け推論高速化技術「DSpark」公開 出力品質を維持し最大3.2倍高速化
要点
-
米Liquid AIは2026年8月20日、AIモデル群「LFM2.5」向けの推論高速化ドラフトモデル「DSpark」を公開した。
-
投機的デコード技術の採用により、出力品質を保ちながらGPUで最大3.18倍、端末上で最大2.87倍のスループット向上を達成した。
-
モデルサイズは約3億パラメータと軽量で、関数呼び出しの遅延時間を平均57%削減できる。
-
オープンソースの推論環境「llama.cpp」や「SGLang」への初日対応（Day-one support）も発表された。
-
AI技術を手がける米Liquid AIは2026年8月20日、同社が提供するAIモデルファミリー「LFM2.5」に対応した高速化ドラフトモデル「DSpark」のチェックポイントを公開した。軽量な補助モデルを組み合わせる「投機的デコード」技術により、メモリ使用量の増加を最小限に抑えつつ、モデルの出力品質を損なわずに推論処理を大幅に高速化できるという。同社によると、GPU環境で最大3.18倍、ローカル端末上で最大2.87倍のスループット向上を実現したとしている。
メモリ帯域の制約を克服し、出力精度を完全維持
大規模言語モデル（LLM）のテキスト生成（デコード処理）では、計算負荷そのものよりも、メインメモリ（DRAM）からプロセッサ近傍の高速メモリ（SRAM）へモデルの重みデータを転送する帯域幅が主なボトルネック（処理速度を制約する要因）となりやすい。この課題を解消するアプローチが「投機的デコード」だ。軽量なドラフトモデル（補助モデル）があらかじめ複数のトークン（単語や文字の構成単位）候補を予測し、ターゲットとなるメインモデルが1回の処理でそれらを一括検証することで、重みの読み出しにかかるコストを分散させる仕組みとなっている。
Liquid AIの説明によると、今回のDSparkでは最も確率の高い単語を順次選ぶ「貪欲法（Greedy decoding）」のもとで検証が行われる。ドラフトモデルが生成した候補トークンは、メインモデルの予測分布と一致した場合にのみ採択され、一致しなかった場合は即座にメインモデル自身のトークンに差し替えられる。そのため、出力されるテキスト列は従来のベースライン処理と完全に同一となり、ベンチマークテストにおける正解率（pass@1や完全一致）は一切変化しないという。
採択率を高めるDSparkの3つの主要機構
DSparkは、先行する高速化手法である「EAGLE-3」や「DFlash」の知見を発展させ、以下の3つのコンポーネントを統合した設計を採用している。
- 並列処理バックボーン：先行手法「DFlash」に類似した構造で、メインモデルの文脈特徴量を条件として受け取り、1回の順伝播処理ですべてのドラフトトークンの隠れ状態を一括生成する。
- 軽量なマルコフヘッド：隣接するトークン間の関係を「マルコフ連鎖」としてモデル化した順次処理機構だ。トークン同士の依存関係を考慮することで、予測列の後ろ寄りにあるトークンでも採択率（メインモデルに承認される割合）を高めている。
- 信頼度に応じた検証スケジューラ：各トークンが検証を通過する確率を予測する仕組みだ。検証コストが高速化のメリットを上回ると判断された場合、信頼度の低い後半トークンを事前に切り捨てる（プルーニングする）ことで無駄な検証処理を防ぐ。
約3億パラメータの軽量構成と採択率重視の学習設計
Liquid AIは、指示チューニング（SFT）、対話、プログラムコード、外部連携を行う「関数呼び出し（ファンクションコーリング）」などの多様なデータセットを用いてDSparkを学習させた。
開発時の検証に基づき、初期バージョンのドラフトモデルは5層のアテンション機構のみで構成されたシンプルな設計（ブロック長9）となっている。全体のパラメータ数（モデル規模を示す指標）は約3億（約300M）に抑えられており、「LFM2.5-1.2B-Instruct」向けが約2億9570万パラメータ、「LFM2.5-2.6B」および「LFM2.5-8B-A1B」向けがそれぞれ約3億2770万パラメータとなっている。
学習工程では、データセット全体に対して15エポックの訓練を実施した。一般的な「損失（Loss）の低さ」ではなく、「トークン採択率の高さ」が最も優れていたエポックのモデルを採用したと説明している。
オンデバイスでのエージェント処理と主要ツールへの対応
DSparkの導入による性能向上は、GPUサーバだけでなく端末上（オンデバイス）の実行でも確認されている。GPU環境での最大3.18倍に対し、端末上でも最大2.87倍の処理スループット（単位時間あたりの処理量）向上が得られたという。特にAIエージェントで多用される関数呼び出し処理において、「LFM2.5-2.6B」では遅延時間が平均57%削減された。
また、オープンソースの推論フレームワークである「llama.cpp」および「SGLang」に対して初日から対応（Day-one support）しており、Liquid AI向けの実装がアップストリームへオープンソースとして提供されている。端末上での検証は、「M4 Max」チップを搭載したMacBook Pro環境において、llama.cppとMetalの実験的カーネルを用い、FP16形式のGGUF重み（最大256出力トークン）で測定が行われた。