AIの悪用検出と対策:2025年8月

Anthropicは、AIモデルの悪用に関する脅威インテリジェンスレポートを公開した。レポートでは、大規模な恐喝、北朝鮮による不正な雇用スキーム、AI生成ランサムウェアの販売など、Claudeの悪用事例を詳述している。サイバー犯罪者は、AIを活用して高度なサイバー攻撃を実行し、技術的スキルが低い犯罪者でも複雑な操作を行えるようにすることで、サイバー犯罪の敷居を下げている。また、AIは被害者のプロファイリング、盗難データの分析、偽造身分証明書の作成など、犯罪活動の全段階に組み込まれている。Anthropicは、これらの悪用に対抗するため、アカウントの禁止、検出ツールの改善、関連当局への情報共有などの対策を講じている。特に、エージェントAIがサイバー攻撃に悪用され、防御策への適応能力を持つことが懸念されている。今後は、AI支援型詐欺およびサイバー犯罪の増加に対応するため、さらなる研究を優先する方針である。