Transformers.js v3: WebGPUサポート、新モデルとタスク、その他
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
Transformers.js v3がリリースされ、WebGPUサポートが追加され、パフォーマンスが最大100倍向上しました。新しい量子化フォーマット(dtypes)や120種類のサポートアーキテクチャ、25の新しいサンプルプロジェクトとテンプレートが含まれます。Hugging Face Hubには1200以上の事前変換済みモデルが用意されています。Node.js (ESM + CJS)、Deno、Bunとの互換性も向上し、GitHubとNPMでの公式Hugging Face組織への移行も発表されました。WebGPUはブラウザでGPUを活用した高速計算を可能にする新しいWeb標準であり、機械学習に最適です。ただし、現在のWebGPUサポート率は約70%であり、一部のユーザーは利用できない可能性があります。ONNX Runtime Webとの連携により、`device: 'webgpu'`を設定するだけでWebGPUアクセラレーションが有効になります。テキスト埋め込み、音声認識、画像分類などのデモがWebGPUで実行可能になりました。また、`dtype`パラメータにより、"fp32"、"fp16"、"q8"、"q4"など、より多くの量子化オプションが選択できるようになりました。Florence-2のような一部のモデルでは、モジュールごとに異なるdtypeを指定することも可能です。Phi-3、Gemma、LLaVa、Florence-2など、多数の新しいモデルアーキテクチャがサポートされ、合計で120種類になりました。コミュニティによって1200以上のモデルがTransformers.js互換に変換されており、変換スクリプトも提供されています。Transformers.js v3は、NPMでは`@huggingface/transformers`として、GitHubでは`huggingface/transformers.js`として公開されています。
- Transformers.js v3 がリリースされ、WebGPUサポート、新量子化フォーマット、120種類のアーキテクチャサポートが追加された
Transformers.js v3 は、ブラウザ上で WebGPU を活用した AI 推論を実現し、ローカル実行が大幅に高速化された。Hugging Face が公式パッケージとして提供を始めたことで、エッジ AI 推論の標準基盤になる可能性が高く、Web アプリやブラウザ拡張での AI 機能実装を大幅に容易にする。これはクライアントサイド AI の普及を加速させる重要な進展であり、関連するエッジコンピューティング・ブラウザ技術スタックへの投資機会に注目したい。