iPhone、iPad、MacでCore MLを使用したStable Diffusionの高速化
Faster Stable Diffusion with Core ML on iPhone, iPad, and Mac
Appleは、Core MLフレームワークとcoremltools変換パッケージを更新し、iPhone、iPad、Mac上でStable Diffusionのような機械学習モデルを効率的に実行できるようにしました。主な改善点として、モデルの重みを6ビットに量子化する「6ビットパレタイゼーション」が導入され、モデルサイズが大幅に削減され、ダウンロード時間とディスク使用量が軽減されます。また、量子化された重みを推論中にオンザフライで展開することで、メモリ転送を最適化し、実行効率を高めています。Appleは、ml-stable-diffusionリポジトリを更新し、8、6、4、または2ビットへの量子化をサポートし、特に6ビット量子化を推奨しています。さらに、Attentionレイヤーの最適化手法であるSPLIT_EINSUM_V2を導入し、Neural Engine上でのパフォーマンスを10%から30%向上させました。これらの最適化により、公式のStable Diffusionモデル(1.4、1.5、2.0 base、2.1 base)の6ビットパレタイゼーション版がHugging Face Hubで提供されています。ユーザーは、ml-stable-diffusionリポジトリを使用して、独自のファインチューニング済みモデルをCore ML形式に変換することも可能です。6ビット量子化は、モデルの品質、サイズ、利便性のバランスが取れた手法であり、トレーニング時の圧縮方法も開発中です。
- AppleがCore MLフレームワークとcoremltoolsを更新し、Stable Diffusionの6ビット量子化(パレタイゼーション)を導入
- AppleがAttentionレイヤーの最適化手法SPLIT_EINSUM_V2を導入し、Neural Engine上で10〜30%の性能向上
- Appleが公式Stable Diffusionモデル(1.4, 1.5, 2.0 base, 2.1 base)の6ビット量子化版をHugging Face Hubで公開
AppleがCore MLとcoremltoolsを更新し、Stable Diffusionの6ビット量子化(パレタイゼーション)やAttention最適化SPLIT_EINSUM_V2を導入したことは、エッジAI/オンデバイスMLの実用性を大きく高める。特にNeural Engine上のパフォーマンスが10〜30%向上した点は、今後のApple端末でのAI処理能力競争力に関わる。Appleが自社デバイス向けに公式Stable DiffusionモデルをHugging Faceで提供し始めたことで、デベロッパーエコシステムが拡大し、アプリ内生成AI機能の民主化が進む可能性がある。AppleのエッジAI戦略の本気度を示す動きとして注目すべき。