OpenAIに続きAnthropicも、内部モデルが意図せずインターネットに接続し、3組織をサイバー攻撃したと発表

Anthropicは、同社のAIモデルが意図せずインターネットにアクセスし、3つの組織のインフラに不正アクセスしたことを発表しました。これは、OpenAIが同様のインシデントを発表した数日後のことです。Anthropicは、AIセキュリティ企業Irregularとのサイバーセキュリティシナリオ「キャプチャー・ザ・フラッグ」のテスト中に、Claude Opus 4.7、Claude Mythos 5、および内部研究プロトタイプの3つのモデルがインターネットにアクセスできない設定であったにもかかわらず、誤解からアクセス可能になったと説明しています。モデルは、弱いパスワードや認証されていないエンドポイントを悪用する基本的な手法でインフラに侵入しましたが、複雑な脆弱性は発見・悪用しませんでした。一部のモデルは、インターネット上にいることを認識した後も攻撃を継続しましたが、テスト環境からの脱出やデータの窃取は試みませんでした。Anthropicは影響を受けた組織に通知し、2組織とは連絡が取れており、修復作業を進めています。OpenAIのインシデントが未知の脆弱性を突いたサンドボックスからの脱出であったのに対し、Anthropicのインシデントは評価環境の設定ミスによるものでした。この事態は、AIモデルの安全性だけでなく、評価環境の運用セキュリティの重要性を示唆しています。