Hugging Face、WebGPUカーネル200種超を公開

Hugging Face（オープンソースのAIモデル・データセット共有プラットフォームを運営する企業）のWebAIチームは、Webブラウザ上でのローカルAI推論を高速化するJavaScriptライブラリ「@huggingface/kernels」と、​207個のWebGPUカーネル集​​をオープンソース（Apache-2.0ライセンス）として公開しました。

バージョン管理されたカーネルリポジトリとローダー

ブラウザ内で実行される機械学習モデルは、最終的に行列乗算、正規化、畳み込み、Attentionなどの個別GPU演算（カーネル）に分解されます。しかしWebGPUでは、同一の演算であってもGPUアーキテクチャやワークグループサイズ、メモリアクセスパターンによって実行効率が大きく左右される課題がありました。

Hugging Faceはこれらの演算を単なるシェーダーコードとしてではなく、Hugging Face Hub上の独立したバージョン付きリポジトリとして体系化しました。

• ​リポジトリ構成​​：仕様を定義するmanifest.json、メタデータ、動作検証用のtest.json、性能評価用のbench.json、パラメーター化されたWGSLシェーダーテンプレート（*.wgsl.jinja）がセットで同梱されます。
• JavaScriptローダー​​：@huggingface/kernels（npmで提供）を用いることで、Hubから目的のカーネルを動的に取得・初期化し、統一的なインターフェースで実行可能です。
• ​ベンチマークスイート「Fleet」​​：ブラウザ上で実機のカーネル性能と正当性をテストできるツール「Fleet」も同時公開。多様なGPU環境からの実測データをクラウドソーシング形式で集約し、カーネルの最適化に役立てます。

ONNX Runtime Webとの性能比較

Apple M4 GPU環境において、ONNX Runtime Web（ORT WebGPU、バージョン1.30.0-dev）と今回のWebGPUカーネル群を比較したベンチマークでは、検証した809件のテストケース全体で​​幾何平均2.57倍、中央値1.90倍の高速化​​（629勝176敗4分）を達成しました。

演算名	比較ケース数	Hugging Face WebGPU	ORT WebGPU	高速化倍率
Add​（要素加算）	5	0.064 ms	0.227 ms	3.52倍​
MatMul​（行列乗算）	29	0.115 ms	0.131 ms	1.14倍​
Softmax	12	0.114 ms	0.240 ms	2.11倍​
LayerNormalization	6	0.061 ms	0.135 ms	2.22倍​

双線形Einsum演算などの特定ケースでは10,000倍以上、CumSum演算では301倍の高速化が確認されたケースもあり、汎用実装がボトルネックに陥りやすい演算での劇的な改善が示されています。

分析・展望

プライバシー保護やサーバーコスト削減の観点から、ブラウザ内で完結するクライアントサイドAI推論への期待は高まっています。Hugging Faceが個別のGPU演算レベルでモジュール化と最適化を推し進め、その成果をONNX Runtimeチームへアップストリーム還元していく方針を示したことは、WebAIエコシステム全体の基盤性能を底上げする重要なマイルストーンとなります。

引用元：Hugging Face