Hugging FaceとProtect AI、機械学習モデルのセキュリティ強化で提携半年、447万モデルをスキャン
4M Models Scanned: Protect AI + Hugging Face 6 Months In
Hugging FaceとProtect AIは2024年10月に提携し、Hugging Face Hubのコミュニティ向けにGuardianのスキャン技術で機械学習(ML)モデルのセキュリティを強化している。Protect AIはGuardianの検出能力を拡張し、アーカイブスリップ、Joblibモデルの不正コード実行、TensorFlow SavedModelのバックドア、Llamafileの悪意のあるコード実行など、4つの新しい検出モジュールを導入した。これにより、Guardianはより多くのモデルファイル形式をカバーし、KerasのCVE-2025-1550脆弱性を含む高度な難読化技術を検出するようになった。2025年4月1日時点で、Protect AIはHugging Face Hubの141万リポジトリにある447万ユニークモデルバージョンをスキャンし、51,700モデルで合計352,000件の安全でない/疑わしい問題を特定した。直近30日間では、2億2600万リクエストを7.94ミリ秒の応答時間で処理した。Protect AIは、AI/MLバグバウンティプログラム「huntr」を通じて、200件以上のモデルファイル脆弱性に関する報告を受け取り、Guardianに組み込んでいる。最近の傾向として、ライブラリ依存の攻撃チェーン、ペイロード難読化、フレームワーク拡張性の脆弱性、攻撃ベクトルの連鎖などが挙げられる。Guardianはこれらの脅威に対する検出能力を強化し、PyTorchやPickleのスキャン能力を拡張し、圧縮やエンコーディングによるペイロードの隠蔽を検出するようになった。また、CVE-2025-1550のようなフレームワーク拡張コンポーネントの脆弱性や、TensorFlowなどの追加モデル形式におけるアーキテクチャバックドアの検出も強化された。Joblibやllamafileなどの追加モデル形式への対応も拡大している。
- Hugging FaceとProtect AIがMLモデルセキュリティ強化で提携
- Protect AIがGuardianに4つの新たな検出モジュールを導入
- Protect AIがHugging Face Hub上の447万モデルをスキャンし、51,700モデルで352,000件の安全問題を特定
- Protect AIがCVE-2025-1550を含むKeras脆弱性の検出に対応
MLモデルのサプライチェーンセキュリティはAI普及に伴い急速に重要性が増している領域。Protect AIが自社のGuardianスキャン技術でHugging Face Hub上の447万モデルをスキャンした実績は、MLセキュリティ市場の立ち上がりを示す具体的なデータポイント。特にCVE-2025-1550のようなフレームワーク脆弱性の検出対応や、Joblib・Llamafileなど新しいモデル形式への対応拡大は差別化要因。AIモデルの不正コード実行やバックドア検出は、エンタープライズ向けAI導入の障壁を下げるため需要が拡大すると予想され、Protect AIの事業成長期待につながる。