Intel CPU 上での Stable Diffusion 推論高速化
Accelerating Stable Diffusion Inference on Intel CPUs
この記事では、Intel Sapphire Rapids CPU 上で Stable Diffusion モデルの推論を高速化する技術について解説しています。Amazon EC2 R7iz インスタンスファミリー(r7iz.metal-16xl)を使用し、Diffusers ライブラリのデフォルト設定での推論時間は 32.3 秒でした。Optimum Intel と OpenVINO を使用してモデルを最適化し、bfloat16 フォーマットに変換することで、推論時間を 16.7 秒に短縮しました。さらに、固定解像度(512x512)にリシェイプすることで 4.7 秒まで高速化しました。また、jemalloc や Intel OpenMP Runtime の導入、numactl によるプロセス固定などのシステムレベルの最適化により、コード変更なしで 11.8 秒に短縮しました。Intel Extension for PyTorch (IPEX) を使用し、bfloat16 データ形式と AMX を活用することで、推論時間は 5.4 秒になりました。最後に、DPMSolverMultistepScheduler を採用することで、最終的に 5.05 秒まで短縮し、初期状態と比較して約 6.5 倍の高速化を達成しました。これらの技術は、顧客向けアプリケーション、マーケティングコンテンツ生成、データセット拡張用の合成データ生成などに活用できます。
- Intel Sapphire Rapids CPU上でStable Diffusionの推論を、複数の最適化手法の組み合わせにより初期の32.3秒から5.05秒へ約6.5倍高速化する成果を公開
本記事はIntel CPU上での画像生成AI推論高速化を示すものであり、AI推論ワークロードにおけるCPUの競争力向上を示唆している。特に、GPU不足が続く中でCPUによる推論高速化が進めば、AWS EC2 R7izのようなCPUベースインスタンスでのAI推論が現実的な選択肢となり、クラウドインフラコスト構造に影響を与えうる。Stable Diffusionのような画像生成モデルの実用性がCPUでも高まることで、Intelのデータセンター向けCPU需要や、同社のAI最適化ソフトウェアスタック(OpenVINO、IPEX)のエコシステム価値が高まる点に注目したい。ただし、本記事は特定企業の発表や製品リリースではなく、技術検証の結果報告であり、投資判断の直接的なトリガーとなる事象ではないため、out_of_scopeとする判断も妥当である。