SafetensorsがPyTorch Foundationに参加

Safetensorsは、任意のコード実行ができないモデル重み保存・共有フォーマットとしてHugging Faceで開発された。JSONヘッダーと生のテンソルデータから構成され、ゼロコピーローディングと遅延ローディングを特徴とする。現在ではHugging Face Hubを中心に広く採用されている。コミュニティへの帰属を明確にするため、SafetensorsはPyTorch Foundationに参加し、Linux Foundationの配下で中立的なホームを得た。これにより、ガバナンスが強化され、ベンダーニュートラルな環境でプロジェクトが進められる。ユーザーへの影響はなく、APIやフォーマットは変更されない。今後はPyTorchコアでのシリアライゼーションシステムとしての統合、デバイス対応ローディング、テンソル並列・パイプライン並列ローディングAPI、FP8やGPTQ、AWQなどの量子化フォーマットサポートの強化が計画されている。