AWS 上での DeepSeek モデルのデプロイとファインチューニング方法
How to deploy and fine-tune DeepSeek models on AWS
OpenAIのo1モデルに続き、DeepSeek AIは推論タスクに優れたDeepSeek-R1モデルをオープンソース化した。Hugging FaceはAWSと協力し、開発者がAWS上で最新のHugging Faceモデルを容易にデプロイ・ファインチューニングできるよう支援する。Hugging Face Inference Endpointsを利用すると、インフラ管理なしでモデルをデプロイでき、オートスケーリングやスケールトゥゼロによるコスト削減、高度なセキュリティを提供する。DeepSeek-R1およびその派生モデル(LlamaやQwenアーキテクチャベースの6つのモデル、Unslothによる量子化版も含む)をデプロイ可能。AWS SageMakerでは、JumpstartやPython SDK経由でデプロイでき、ml.g6.48xlargeやml.inf2.48xlargeなどのインスタンスタイプが推奨される。また、AWS InferentiaやTrainiumインスタンスへのデプロイも可能で、EC2インスタンス上でDockerコンテナを使用する方法も紹介されている。現在、DeepSeekモデルのInferentiaインスタンスへのデプロイや、Hugging Face DLCs/Neuron Deep Learning AMIを用いたファインチューニング機能が開発中である。
- DeepSeek AIが推論タスクに優れたDeepSeek-R1モデルをオープンソース化した
- Hugging FaceがAWSと協力し、DeepSeek-R1および派生モデルをAWS上でデプロイ・ファインチューニング可能にした
DeepSeek-R1がオープンソースで公開され、AWS上でHugging Face Inference EndpointsやSageMaker経由で容易にデプロイ・ファインチューニング可能になった点が重要。特にAWS Inferentia/Trainiumインスタンスへの対応が開発中であり、AWSのカスタムチップへの最適化が進めば推論コストの大幅削減につながる。オープンソースLLMのデプロイ基盤が充実することで、AI推論の民主化がさらに加速し、AWSのAIインフラ需要拡大とともに、DeepSeekのエコシステム成長も期待される。