Hugging Face、画像生成ライブラリ「Diffusers」で4ビット高速推論エンジン「Nunchaku」を直接サポート

要点

• Hugging Faceは、画像生成AIの普及ライブラリ「Diffusers」において、4ビット量子化による高速推論エンジン「Nunchaku」を直接利用可能にしたと発表した。
• 従来の多くの量子化手法と異なり、データの重みだけでなくアクティベーション（計算中の中間データ）も4ビット化し、メモリ削減と推論の高速化を両立させている。
• ローカル環境での複雑なコンパイルを必要とせず、通常の関数呼び出しのみで対応モデルをロードできる。
• 最新のBlackwell世代GPU向け「NVFP4」形式のほか、前世代GPU向け「INT4」形式のチェックポイントも用意される。
• 自作モデルをNunchaku向けに量子化して公開できるツール「diffuse-compressor」も提供される。

リード文

Hugging Faceは2026年7月23日、画像生成などを担う拡散モデルのライブラリ「Diffusers」において、高速かつ省メモリな4ビット量子化推論エンジン「Nunchaku」を統合したと発表した。これにより、開発者は複雑な環境構築やローカルコンパイル（プログラムの変換）を伴うことなく、簡単なコード記述だけで高速な4ビット量子化モデルを利用できるようになる。

本文

近年の大規模な拡散トランスフォーマーモデルは高品質な画像生成が可能な反面、標準のBF16精度で動かすには20〜30ギガバイト（GB）ものVRAM（ビデオメモリ：画像処理用の専用メモリ）が必要となり、一般消費者向けGPUでは動作が困難だった。この解決策としてモデルを軽量化する「量子化」が用いられてきたが、従来の多くの量子化手法はデータの「重みのみ（weight-only）」を対象としていた。そのため、メモリ使用量は削減できるものの、実際の計算時には元の高精度に戻す必要があるため推論速度は向上せず、むしろ処理遅延が発生することさえあった。

これに対し、Nunchakuの基盤技術である量子化手法「SVDQuant」は、重みとアクティベーションの双方を4ビット（W4A4）で処理する。これにより、メモリ削減と同時に推論の高速化を達成した。
通常、双方を4ビット化すると極端な数値である「外れ値」によって精度が著しく低下するが、SVDQuantはアクティベーションの外れ値を重み側に移動させ、最も表現が難しい領域を16ビットの低ランクブランチ（補助的な計算経路）で処理し、残りを4ビット化することで精度を維持する。Nunchakuは、これらの処理を統合した「融合カーネル（複数の計算処理を一つにまとめたプログラム）」によって処理を高速化している。

今回の統合により、ユーザーは外部ライブラリのインストールやCUDA（GPU向け計算プラットフォーム）のローカルコンパイルを行う必要がなくなった。初回利用時に必要なカーネルプログラムが自動でダウンロードされるため、標準的な関数である from_pretrained() を呼び出すだけで動作する。
さらに、同時に公開されたツールキット「diffuse-compressor」を使用すれば、ユーザー自身が任意の新しいモデルをNunchaku向けに量子化し、Diffusers対応リポジトリとして公開することも可能だ。

実際の検証では、VRAMのピーク使用量が従来のBF16精度の約24GBから約12GBへと半減した。また、NVIDIAの最新GPUであるRTX 5090を使用した環境において、1024x1024ピクセルの画像を約1.7秒で生成できる高速性が確認されている。

補足

なお、高精度な「NVFP4」形式のチェックポイントを動かすには、RTX 50シリーズやB200といったBlackwell世代（NVIDIAの最新アーキテクチャ）以降のGPUが必要となる。それ以前の世代のGPUを利用する環境に向けては、互換性のある「INT4」形式のバリアント（派生モデル）が提供されている。