AI時短ラボ
検索
検証

Hugging Face「@huggingface/kernels」ブラウザ推論の土台として、207本のWebGPUカーネルを1本ずつ版つきリポジトリ(契約・WGSLテンプレート・正当性テスト・ベンチマーク)としてHubで公開(Apache 2.0)。`getKernel`でHubから直接読み込み、「Fleet」で来訪者のGPUでの正当性と速度の証拠を同意のうえで集める

執筆:約6分で読めます

日刊AIニュース10月17日(土)号:前日のAIのニュース17本を短くまとめました(約8分)›

Hugging FaceのWebAIチームは2026年9月1日、ブラウザ推論を速くする取り組みの第1層として、@huggingface/kernelsと207本のWebGPUカーネル集を公開した。ブラウザで動くモデルは行列積・正規化・注意・量子化などのGPU操作の列になり、WebGPUとWGSLで移植性は得られるが性能は自動では付いてこない(ワークグループ・メモリアクセス・融合が加速器や入力形状ごとに変わる)。そこで各操作を個別に発見・検証・計測・版管理できる形にした。各カーネルは独自のリポジトリとカードを持ち、manifest.json(契約)、metadata.json(出所)、test.json(正当性)、bench.json(ベンチマーク)、*.wgsl.jinja(機器に合わせてシェーダーを生成)を同梱する。npmの@huggingface/kernels@previewで、getKernelにリポジトリIDと契約の版を渡して呼ぶ。同時公開のFleetは、ブラウザ内でカーネルを実行・採点し、同意した来訪者の機器から正当性と性能の証拠を集めて改良に使う。

Hugging Face「@huggingface/kernels」──ブラウザ推論の土台として、207本のWebGPUカーネルを1本ずつ版つきリポジトリ(契約・WGSLテンプレート・正当性テスト・ベンチマーク)としてHubで公開(Apache 2.0)。`getKernel`でHubから直接読み込み、「Fleet」で来訪者のGPUでの正当性と速度の証拠を同意のうえで集める
目次

2026年9月18日・日本時間時点の情報です。 Hugging Faceのブログ(9月1日)を読んだ。GoogleのLiteRT.jsがブラウザ推論のランタイムなら、こちらはその下のGPU操作1個ずつを公開する話で、同じ2か月の間に「ブラウザで動かす」道具が2社から出そろった。

3行まとめ

  1. 何を出したか。 ブラウザで動くモデルは最終的に、行列積・正規化・畳み込み・注意・量子化・データ配置変換などのGPU操作の列になる。WebGPUとWGSLで移植性は得られるが、性能は自動では付いてこない──ワークグループのサイズ・メモリアクセス・ベクトル化・データ型・融合の選択が加速器ごと・入力形状ごと・ブラウザごとに変わる。上のランタイムは下の操作より効率的にはなれないので、操作を個別に発見・検証・計測・版管理できる形にした。それが207本のWebGPUカーネル(webgpu-kernels組織、Apache 2.0)と、Hubから読み込んで動かすJavaScriptローダー@huggingface/kernels。
  2. 「シェーダー」でなく「リポジトリ」。 各カーネルは独自のリポジトリとカーネルカード(操作の意味・入出力・属性・対応データ型・ソース・実行例)を持ち、manifest.json(入出力・属性・型制約・形状導出規則の契約)、metadata.json(識別子・ダイジェスト・出所)、test.json(正当性ケース)、bench.json(ベンチマークとチューニングのケース)、*.wgsl.jinja(要求と機器に合わせてシェーダーを生成するテンプレート)を同梱する。例は要素ごとの加算ai.onnx.Add。読み込みはnpm install @huggingface/kernels@previewのうえ、getKernel("webgpu-kernels/ai.onnx.Add", {version: 1})のようにリポジトリIDと契約の版を指定し、型付きの入力と形状で呼ぶ(版なしのURLに依存しない)。カスタムカーネルを書く人の参照実装にもなる、と。
  3. Fleet。 同時公開のFleetは、ブラウザ内でカーネルを実行して採点するベンチマーク兼テスト。自分の機器の結果に加え、同意した来訪者の機器から正当性と性能の証拠を集め、従来のテストラボでは覆えない実機で、誤った結果や極端に遅いケースを見つけ、カーネルの変種と最適化の判断に使う。

「207本」の数え方とFleetの情報収集

  • 当サイトの読者で直接使うのは、ブラウザで動くAI機能(Transformers.jsなど)を組む開発者に限られる。ただ「モデルがブラウザで速いかどうかは、この層の出来で決まる」という説明は、ブラウザ内AIの性能差を読むときの背景になる
  • 「207本」は操作の種類ではなく、操作×変種を含む数だと読める(本文は「操作を覆う」とだけ)。ONNXの名前(ai.onnx.Add)で命名されている
  • Fleetの「同意のうえで機器の証拠を集める」は、来訪者のGPU情報を集める仕組みなので、自サイトに組み込む場合は説明が要る
  • LiteRT.jsはGoogleのランタイムを丸ごと、こちらは部品を1個ずつ、という違いで、両者が組み合わさるかは本文にない

確認は原文の記述のみ、実機未検証

この記事の下調べで、筆者は9月18日にHugging Faceのブログを取得し、207本・Apache 2.0・5種のファイル・getKernelの呼び方・Fleetの説明がその原文にあることを確認した。webgpu-kernels組織のページとnpmは開いていない。筆者はブラウザで動かしていない。

対応要件・統合時期・207本の内訳は不明

  • 対応ブラウザとWebGPUの要件の詳細
  • Transformers.jsとの統合の時期
  • 207本の内訳(操作の種類数)

出典はHugging Faceのブログ

関連記事

シェア: ポスト はてブ

出典・参照資料

AI時短ラボ

大きいニュースはYouTubeでも解説しています。Xでは新着記事をお知らせしています。

コメント

まだコメントはありません。最初のコメントを書いてみませんか?

AIについて聞きたいことはありますか?

質問箱で無料で受け付けています。回答は公開され、他の方の参考にもなります。

質問箱を見る →

関連記事

Google「LiteRT.js」──.tfliteモデルをブラウザで動かすJavaScript版LiteRT。TensorFlow.jsのJSカーネルでなくネイティブのランタイムをWebAssemblyで提供し、CPU(XNNPACK)・GPU(WebGPU)・NPU(WebNN)を使い分け。他のWebランタイム比で最大3倍、CPU比でGPU/NPUは5〜60倍の記事画像

Google「LiteRT.js」 .tfliteモデルをブラウザで動かすJavaScript版LiteRT。TensorFlow.jsのJSカーネルでなくネイティブのランタイムをWebAssemblyで提供し、CPU(XNNPACK)・GPU(WebGPU)・NPU(WebNN)を使い分け。他のWebランタイム比で最大3倍、CPU比でGPU/NPUは5〜60倍

検証(発表 7月9日)
オンデバイスAIとは──iPhoneのApple IntelligenceとAndroidのGemini Nano、仕組みの違いの記事画像

オンデバイスAIとは iPhoneのApple IntelligenceとAndroidのGemini Nano、仕組みの違い

モデル
Hugging Face「オープンモデルの現状・2026年夏」──中国ラボの月間最大モデル(754B〜2.78T)がほぼ毎月米国を上回る、米国で最多公開はAMDとNVIDIA、ダウンロード上位25と「いいね」上位25の重なりは1本だけ、Qwenの派生は151,448本で1日180〜210本、Hubを叩くエージェントはClaude Codeが7月44.4%・Codexが20.8%の記事画像

Hugging Face「オープンモデルの現状・2026年夏」 中国ラボの月間最大モデル(754B〜2.78T)がほぼ毎月米国を上回る、米国で最多公開はAMDとNVIDIA、ダウンロード上位25と「いいね」上位25の重なりは1本だけ、Qwenの派生は151,448本で1日180〜210本、Hubを叩くエージェントはClaude Codeが7月44.4%・Codexが20.8%

検証(発表 8月14日)
Hugging Face「funes」──Claude Code・Codex・pi・Hermesのセッション記録を1つの記憶にする単一バイナリ。`funes add claude`でエージェントにrecallとgetのツールが付き、完了したターンごとに自動で索引。埋め込みと再ランクは手元で動き、共有したければ自分のHugging Faceデータセット(既定で非公開)に。要約せず原文と出所を返すの記事画像

Hugging Face「funes」 Claude Code・Codex・pi・Hermesのセッション記録を1つの記憶にする単一バイナリ。`funes add claude`でエージェントにrecallとgetのツールが付き、完了したターンごとに自動で索引。埋め込みと再ランクは手元で動き、共有したければ自分のHugging Faceデータセット(既定で非公開)に。要約せず原文と出所を返す

検証(発表 9月3日)
NVIDIA「Magpie TTS Multilingual」──3億6,400万パラメータのオープンウェイト音声合成が日本語を含む12言語(新たにアラビア語・韓国語・ブラジルポルトガル語)、各言語に男女の話者、日本語の混在発音と発音辞書に対応。自社基盤で動かし、最初の音声までB200で32ms・H100で47ms・DGX Sparkで53ms、64並列でも実時間の320倍の記事画像

NVIDIA「Magpie TTS Multilingual」 3億6,400万パラメータのオープンウェイト音声合成が日本語を含む12言語(新たにアラビア語・韓国語・ブラジルポルトガル語)、各言語に男女の話者、日本語の混在発音と発音辞書に対応。自社基盤で動かし、最初の音声までB200で32ms・H100で47ms・DGX Sparkで53ms、64並列でも実時間の320倍

検証(発表 8月10日)
Liquid AIの小型モデルLFM2.5を「速く・正確に」する2本──①DSparkの草稿モデル(約300M)で投機的デコード、出力は同一のままH100で最大3.18倍・M4 Max MacBookで最大2.87倍、関数呼び出しの遅延を57%削減 ②350MモデルをGRPOで100ステップ(無料枠のColab)微調整し、構造化出力の遵守率をIFStructで22.6%→29.7%の記事画像

Liquid AIの小型モデルLFM2.5を「速く・正確に」する2本 ①DSparkの草稿モデル(約300M)で投機的デコード、出力は同一のままH100で最大3.18倍・M4 Max MacBookで最大2.87倍、関数呼び出しの遅延を57%削減 ②350MモデルをGRPOで100ステップ(無料枠のColab)微調整し、構造化出力の遵守率をIFStructで22.6%→29.7%

検証(発表 8月20日)
Multiverse Computing「Quantization-Aware Healing」──GPT-OSS 120Bを60Bに圧縮し4ビット(MXFP4)に量子化したモデルが、元のbfloat16版を9ベンチマーク中7で上回る。秘訣は「回復済みの16ビット版」でなく「圧縮前の120B」を教師にKL蒸留すること。長文脈推論+7.4、AIME 2025+5.6の記事画像

Multiverse Computing「Quantization-Aware Healing」 GPT-OSS 120Bを60Bに圧縮し4ビット(MXFP4)に量子化したモデルが、元のbfloat16版を9ベンチマーク中7で上回る。秘訣は「回復済みの16ビット版」でなく「圧縮前の120B」を教師にKL蒸留すること。長文脈推論+7.4、AIME 2025+5.6

検証(発表 8月25日)
緑の地にハチドリのマークとKolibriの文字動画

ドイツ製AI「Kolibri」を手元のMacで動かした 78Bでも1語ごとに動くのは3.46B、2bit版で毎秒約111トークン。日本語の質問には答えられなかった

モデル実機で検証