OWN NEWS GATHER
← 戻る
Hugging Face Blog

Hugging Face、WebGPU向け最適化カーネル207種とJSライブラリを公開 ブラウザ内AI推論の基盤強化へ

要点

  • Hugging Faceは、Webブラウザ上でのローカルAI推論を高速化するJavaScriptライブラリ「@huggingface/kernels」を公開した。

  • 機械学習モデルで多用される各種演算に対応した207種類のWebGPUカーネルが、オープンソース(Apache-2.0)として提供される。

  • 各カーネルはWGSLシェーダーだけでなく、仕様定義、正当性テスト、性能ベンチマークなどをパッケージ化して一括管理される。

  • 実機GPU環境での動作検証や性能測定を行い、最適化データを収集するブラウザ向け検証ツール「Fleet」も同時に公開された。

  • 米Hugging FaceのWebAIチームは2026年9月1日、Webブラウザ上でのローカルAI推論を高速化・簡素化するJavaScriptライブラリ「@huggingface/kernels」を公開した。あわせて、Hugging Face Hub上で207種類の最適化済みWebGPUカーネルをオープンソースとして提供開始した。さらに、利用者のデバイス環境でカーネルの動作確認と速度測定を行うブラウザ向けベンチマークスイート「Fleet」の提供も発表している。

ブラウザ推論の最下層を担うライブラリと207種のカーネル

Hugging FaceのWebAIチームは、Webブラウザ上での機械学習モデルの推論を可能な限り高速かつ扱いやすくすることを目指している。ブラウザ推論の効率化には、モデルの表現形式やランタイム(実行基盤)の最適化に加え、ハードウェア上で直接計算を処理するGPU演算の最適化という複数の階層が存在する。今回リリースされた「@huggingface/kernels」は、その最下層に位置する基盤レイヤーにあたる。

本ライブラリは、Hugging Face Hubから最適化済みのWebGPUカーネル(GPU上で並列計算を行う個別の処理プログラム)を取得・準備し、ブラウザ上で直接実行するための軽量なツールだ。初期コレクションとして公開された207種類のカーネルは、機械学習の多様なアーキテクチャで使われる演算を幅広くカバーしており、すべてApache-2.0ライセンスで利用できる。

WebGPUにおける「移植性」と「最適化」の課題

ブラウザ上で動作するAIモデルは、内部的には行列乗算、正規化、畳み込み、アテンション演算、量子化処理といったGPU演算の連続として実行される。WebGPU(ブラウザからGPUの計算機能を直接呼び出す標準API)とWGSL(WebGPU向けの標準シェーダー記述言語)の登場により、これらの処理を多様なブラウザ環境で共通して動かすポータビリティは確保された。

しかし、移植性の高さがそのまま高いパフォーマンスにつながるわけではないと同チームは指摘する。同じ計算結果を出力するシェーダー(GPU処理プログラム)であっても、ワークグループの規模やメモリアクセスの順序、ベクトル化の適用、データ型、演算の融合手法などによって、GPUごとの実行効率は大きく変化する。また、最適な実装方針は、入力データの形状や利用するデバイス、ブラウザの違いによっても異なる。

上位の推論ランタイムの効率は下位の個別演算の性能に依存するため、カーネルを個別に発見・検証・バージョン管理できる仕組みを整えることで、上位レイヤーへの影響を抑えつつ計算基盤を個別に改善できるようにしたという。

仕様やテストを統合したカーネルリポジトリ

公開された207種類のカーネルは、単なるコード片ではなく、それぞれが専用リポジトリと説明カード(カーネルカード)を持つ独立したソフトウェアパッケージとして構成されている。

たとえば「ai.onnx.Add」は、残差接続やバイアス加算などで多用される「多方向ブロードキャスト(異なるデータ形状のサイズを自動調整して計算する仕組み)付きの要素加算」を実装したカーネルだ。カード上には入出力の仕様や対応データ型、データ形状やデバイスごとの派生版(バリアント)が明記されている。

リポジトリ内には以下のファイル群が同梱されており、実装の透明性と再現性を担保している。

  • manifest.json: 入出力や属性、データ型制約、形状導出ルールを規定する仕様定義
  • metadata.json: カーネル識別子やダイジェスト、コードの来歴情報を記録
  • test.json: 期待通りの挙動を確認するための正当性テストケース
  • bench.json: パフォーマンス評価に用いるベンチマークケース
  • *.wgsl.jinja: リクエストやハードウェアに応じてシェーダーを生成するパラメータ化WGSLテンプレート

こうした構成により、利用者はWGSLコードを直接読み解かなくても仕様を把握でき、特定のバージョンを指定して安全に読み込める。自作のWebGPUカーネルを開発するエンジニアや、独自ランタイムを構築する開発者にとっても、信頼性の高いリファレンス実装として活用できる設計となっている。

多様な実機データを集める検証スイート「Fleet」

今回の発表にあわせて、ブラウザ上でGPUの動作確認と性能測定を行うテストスイート「Fleet」も公開された。

従来の実験室環境だけでは、世の中に存在する無数のGPUやブラウザの組み合わせを網羅的に検証することは難しい。Fleetを利用することで、ユーザーは手元の端末でカーネルの実行スコアを確認できるだけでなく、コミュニティから実機環境における性能や動作結果のデータを収集できるようになる。

ユーザーの同意を得て収集されたデータは、特定環境での計算精度の不具合や極端な処理遅延の発見に役立てられる。Hugging Faceはこれらの実機データを活用し、カーネル派生版の改良や現実のハードウェアに即した最適化を進めていくとしている。

元URL