Habana Gaudi2によるVision-LanguageモデルBridgeTowerのファインチューニング高速化
Accelerating Vision-Language Models: BridgeTower on Habana Gaudi2
Optimum Habana v1.7とHabana Gaudi2を使用することで、最先端のVision-LanguageモデルであるBridgeTowerのファインチューニングにおいて、NVIDIA A100と比較して2.5倍、H100と比較して1.4倍の速度向上が達成された。この性能向上は、ハードウェアアクセラレーションによるデータローディングの最適化に起因する。BridgeTowerは、400万枚の画像で事前学習され、VQAv2テストセットで78.73%の精度を達成し、既存の最先端モデルを上回った。さらに大規模なモデルでは81.15%の精度を達成した。データローディングのボトルネックを解消するため、CPUからアクセラレータデバイスへのオフロードや、データローダーのワーカー数を増やす手法が有効であることが示された。特に、Gaudi2では`--mediapipe_dataloader`オプションを使用することで、追加の速度向上が見られた。最終的に、Gaudi2はH100より1.4倍、A100より2.5倍高速であることが示された。
- Optimum Habana v1.7とHabana Gaudi2を使用したBridgeTowerのファインチューニングにおいて、NVIDIA A100比2.5倍、H100比1.4倍の速度向上を達成したと発表
- BridgeTowerがVQAv2テストセットで78.73%の精度を達成し、既存最先端モデルを上回った
Intel傘下のHabana LabsがGaudi2でA100比2.5倍、H100比1.4倍という具体的なベンチマークを示した点は、AIアクセラレータ市場におけるIntelの競争力が着実に向上している証左である。特にVision-Languageモデルのファインチューニングという実用的なワークロードでNVIDIAの最新世代H100を上回る性能を出したことは、NVIDIA一強のAI半導体市場に揺さぶりをかける可能性がある。また、データローディング最適化という比較的シンプルなアプローチでこれだけの差を生んだ点は、ソフトウェアスタックの成熟度が上がればさらに差が広がる余地を示唆しており、投資家としてはIntelのAI向けハードウェア戦略の進捗を引き続き注視すべきである。