🤗 PEFTが新しいマージ手法を導入

🤗 PEFTライブラリは、複数のLoRAアダプターを効率的にマージするための新しい手法を導入しました。従来の手法はメモリを大量に消費する可能性がありましたが、PEFTの新機能は、アダプターのマージをオンザフライで行うことで、シームレスなユーザーエクスペリエンスを提供します。導入された手法には、アダプターの重みを連結する「cat」メソッド、重み付き和を計算する「linear」メソッド、タスクの重み(ファインチューニング済み重みとベースモデルの重みの差)の重み付き和を用いる「task_arithmetic」メソッド、タスクの重みの積を考慮する「task_arithmetic_svd」メソッド、タスクの重みから上位k個を保持し、多数決の符号マスクに基づいてマージする「ties」メソッド、タスクの重みをランダムにプルーニングし再スケーリングする「dare」メソッドなどがあります。これらの手法は、text-to-image生成や、異なる能力を持つアダプターの組み合わせによる新しいユースケースのサポートに活用できます。具体的な実装例として、Diffusersライブラリとの連携や、`add_weighted_adapter()`メソッドの使用方法が示されています。