Intel CPU向けStable Diffusionの最適化:NNCFと🤗 Optimumによる高速化
Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum
OpenVINO Toolkitは、特にCPU上でのStable Diffusionモデルの推論パフォーマンスを向上させるための最適化手法を提供します。記事では、PyTorchと比較して推論速度を5.1倍向上させ、モデルサイズを4分の1に削減するワークフローを紹介しています。この最適化には、計算負荷の高いUNetモデルに焦点を当て、従来の8ビット量子化が困難な理由(ピクセルレベル予測の複雑さ、モデルの冗長性の低さ)を説明し、Quantization-Aware Training (QAT) とNNCF、OpenVINO、Diffusersを組み合わせた手法を提案しています。さらに、Token Merging手法を適用し、量子化と組み合わせることで、CPU上での推論レイテンシを大幅に削減しました。具体的には、8ビット量子化で3.9倍、Token Mergingを適用すると5.1倍の高速化を達成しました。この最適化は、Pokemonsデータセットでファインチューニングされたモデルを基に、少ないGPUリソース(24GB VRAM)と短時間(1日未満)で実行可能です。生成されたモデルは、Intel® Xeon® Scalableプロセッサ搭載のCPUで効率的に動作し、デモも公開されています。
- IntelがNNCFとOptimumを用いてStable DiffusionのCPU推論を5.1倍高速化、モデルサイズを75%削減する最適化手法を公開
本記事は、Intel CPU上でのStable Diffusion推論を、NNCFとOptimumによる量子化・Token Merging最適化で最大5.1倍高速化した実績を示しており、エッジAIやオンプレ環境での生成AI推論の実用性を大きく高める成果。IntelのOpenVINOエコシステムが生成AI分野で競争力を持つことを示すとともに、CPUだけでGPUに迫る推論性能を引き出せる点は、AI半導体市場におけるIntelの差別化要因となる。投資家は、IntelのAIアクセラレーション戦略と、CPUベースの生成AIワークロードが普及する兆候を注視すべき。