Hugging Face、VAEデコーダーをリモートエンドポイントに委譲する実験的機能を発表
Remote VAEs for decoding with Inference Endpoints 🤗
Hugging Faceは、画像・動画生成モデルにおけるVAEデコーダーのメモリ消費問題を解決するため、デコーディング処理をリモートエンドポイントに委譲する実験的機能を発表しました。この機能は、diffusersライブラリのhuggingface-inference-toolkitを改変したもので、ユーザーはローカルGPUのメモリ使用量を抑えつつ、高解像度生成が可能になります。リモートVAEは、データ保存や追跡を行わず、オープンソースで提供されます。記事では、Stable Diffusion v1.5、Flux、HunyuanVideoといったモデルでの具体的な使用例や、複数の生成リクエストをキューイングして並行処理を向上させる方法が示されています。また、SD v1.5とSDXLモデルにおけるGPU別・解像度別のVRAM使用量と処理時間の比較表も掲載されており、リモートVAE利用の利点が強調されています。開発チームは、ユーザーからのフィードバックを求めており、今後の機能拡充やネイティブ統合の可能性を示唆しています。
- Hugging FaceがVAEデコーダーのリモートエンドポイント委譲機能を実験的に発表
- Stable Diffusion v1.5、Flux、HunyuanVideoでのリモートVAE使用例を公開
Hugging FaceはAI/MLプラットフォーム最大手の一角であり、同社がdiffusersライブラリでVAEデコーダーのリモート実行機能を実験的に提供開始したことは、生成AI推論のインフラ効率化という点で注目に値する。ローカルGPUのVRAM不足が解消されれば、高解像度画像・動画生成のユースケースが拡大し、GPUクラウド需要やエッジAI活用の構造変化につながる可能性がある。現時点では実験的機能だが、ネイティブ統合や商用プランへの展開が進めば、NVIDIAなどGPUベンダーやクラウドプロバイダーの価格戦略にも影響を及ぼしうるため、AIインフラ投資の観点からウォッチすべき動きである。