Habana Gaudiアクセラレータで機械学習モデルのトレーニングを始める方法
Getting Started with Transformers on Habana Gaudi
Habana Gaudiアクセラレータは、機械学習モデルのトレーニングにおいて、最新のGPUベースのAmazon EC2インスタンスと比較して最大40%優れた価格性能を提供します。この記事では、Amazon Web Services上でHabana Gaudiインスタンスを迅速にセットアップし、テキスト分類用にBERTモデルをファインチューニングする方法を解説します。具体的には、Amazon EC2 DL1インスタンスを起動し、Habana Deep Learning Base AMI(Ubuntu 20.04)を選択します。インスタンスサイズはdl1.24xlarge、ストレージは50GBに設定し、Spotインスタンスを利用してコストを削減します。インスタンス起動後、PyTorch用のHabanaコンテナをプルし、Optimum Habanaリポジトリをクローンしてインストールします。その後、テキスト分類の例を実行し、BERTモデルをMRPCタスクでファインチューニングします。トレーニングには2分12秒かかり、F1スコア0.9181を達成しました。最後に、EC2インスタンスを終了し、Spotインスタンスによる70%のコスト削減を確認します。
- AWSがHabana Gaudiアクセラレータ搭載のEC2 DL1インスタンスを提供開始しており、GPUベースのインスタンスと比較して最大40%優れた価格性能を実現
本記事はAWS上でHabana Gaudiアクセラレータを用いたBERTモデルのファインチューニング手順を解説する技術チュートリアルであり、特定の企業発表や新製品ローンチ、業績に直結する具体的な投資事象を含まない。Gaudiの価格性能優位性は既知のスペック情報であり、新たな投資判断の材料とはならないため、out_of_scopeに分類するのが適切。