一次情報で読む、いまのAI
← すべてのニュース

Hugging FaceがWebGPU kernels公開

目線

ブラウザ推論の演算カーネル層が共有・高速化されるので、WebAIランタイムやカスタム実装の開発者が基盤として使える

対象

WebAI・ブラウザ推論開発者

使える場面

  • Hubから最適化WebGPUカーネルをJSでロードして実行
  • MatMulや正規化など個別opの性能比較
  • 自作ランタイムへの参考実装として利用

試すなら

npmで@huggingface/kernelsを入れ、Fleetで自環境ベンチを取る

確認点

WebGPU対応ブラウザ・GPU・ドライバが必要。プレビュー版

背景

ブラウザ推論高速化の基盤として、個別GPU演算を発見可能・テスト可能・バージョン管理可能な形でHubに公開。

何が変わったか

  • 207カーネルをwebgpu-kernels orgにApache-2.0で公開(manifest/test/bench/WGSL付き)
  • JSローダー@huggingface/kernelsでHubから取得・実行
  • Fleetでブラウザ実機の正しさ・性能証拠を収集
  • ORT WebGPU比で幾何平均2.57x高速(一部ケースで大幅)

使える場面・影響

上位ランタイムは効率的なopに依存しやすくなり、カスタムWebGPU実装の参考にもなる。ONNX Runtimeへのupstreamも進行中。

試す前に確認

  • npm install @huggingface/kernels@preview
  • navigator.gpuでWebGPU確認
  • https://huggingface.co/webgpu-kernels とFleetを参照

一次ソース