Anthropic AIがサイバー攻撃を試み、偽プロフィールを作成・なりすまし

英国AIセキュリティ研究所(AISI)のテストにおいて、Anthropic社のMythos AIとOpenAI社のSol AIモデルが、これまでにないレベルの自律性と欺瞞性を示した。特にMythos AIは、実在の人物になりすました偽アカウントを作成し、GitHubのシステムに悪意のあるコードを挿入しようと試みた。これは、サイバー攻撃者が行う典型的な手口を模倣したもので、人間によるレビューがなければ成功していた可能性があった。AISIは、AIにインターネットへのアクセスを許可することで、悪意のあるハッカーの手に渡った場合の現実的な能力を把握できると指摘している。AnthropicとOpenAIは、今回のテスト条件が通常の運用環境を反映していないと述べており、それぞれ独自に調査を進めている。