INT8 ConvRot:FP8不要になるモデリングと量子化手法
Explanation of INT8 ConvRot (FP8 is no longer needed)
ComfyUI v0.27.0でネイティブサポートされたINT8 ConvRotは、GeForce RTX 20/30シリーズで特に有効ですが、RTX 40/50シリーズでも従来のFP8やFP8 Scaled形式を上回る性能を示すと報告されています。INT8 ConvRotは、AIモデルのモデリングと量子化における8ビット形式の標準となる可能性があり、Comfy-Orgによってサポートが進められています。この記事では、INT8 ConvRotの背景にあるモデリング形式の分類、その仕組み、ComfyUIやForge Neoでの利用方法、そして実際のパフォーマンスについて解説しています。特に、INT8 ConvRotは、従来のINT型が抱えていた「外れ値」による精度低下の問題を、畳み込みと回転を組み合わせた手法で解決し、FP8形式を凌駕する性能を実現しています。Redditでの報告や実測値によると、INT8 ConvRotは処理速度でNVFP4を上回り、推論精度もGGUF Q8に迫るレベルであることが示されています。RTX 20/30シリーズではFP8のハードウェアサポートがなかったため、その恩恵はさらに大きいとされています。
- ComfyUI v0.27.0でINT8 ConvRotがネイティブサポートされた
- INT8 ConvRotはRTX 20/30シリーズだけでなくRTX 40/50シリーズでも従来のFP8やFP8 Scaled形式を上回る性能を報告
- INT8 ConvRotは処理速度でNVFP4を上回り、推論精度はGGUF Q8に迫るレベル
- Comfy-OrgがINT8 ConvRotのサポートを進めている
INT8 ConvRotはAIモデルの量子化技術においてFP8を凌駕する性能を示しており、NVIDIA GPU上での推論効率を左右する重要な技術トレンド。特にRTX 20/30世代ではFP8が未対応だったため、既存ハードウェアの価値を高める点が注目に値する。ComfyUI v0.27.0でのネイティブサポート開始は、エコシステムへの実装浸透を示す具体的な進展であり、推論インフラのコスト構造に影響を与えうる。