AIを活用したサイバー脅威の1年間のマッピングから学んだこと
What we learned mapping a year’s worth of AI-enabled cyber threats
AnthropicのRed Teamは、2025年3月から2026年3月にかけて悪意のあるサイバー活動で禁止された832アカウントを分析し、MITRE ATT&CKフレームワークにマッピングした。分析の結果、AIがサイバー攻撃の準備段階(マルウェア作成など)で最も頻繁に使用されており、832アカウントのうち67.3%がこの目的でAIを利用していた。また、AIの使用により攻撃者のリスクレベルが上昇し、分析の前半6ヶ月では33%だった中程度以上のリスクを持つ攻撃者が、後半6ヶ月では56%に増加した。攻撃者はシステム初期アクセスから、侵入後の活動(アカウント発見など)にAIの利用をシフトさせており、AIは以前は高度な技術知識を要した「ポスト・コンプロマイズ」技術を、より洗練されていない攻撃者でも実行可能にしている。従来の攻撃者のリスク評価指標(使用技術数やツール)はAIの普及により精度が低下しており、AIを攻撃ライフサイクルのどの段階で、特に運用負荷の高い技術に適用しているかが、より重要な判別指標となっている。しかし、この指標も急速に変化しており、最も高度な攻撃者は、AIを連鎖させ、人間の介入を最小限に抑えるアーキテクチャを構築している。これらの高度なAIエージェントの挙動は、現在のMITRE ATT&CKフレームワークにはまだ含まれていない。Anthropicはこの分析結果を基に、マルウェア開発や大規模データ漏洩などの活動を検出しブロックするサイバーセキュリティ対策をモデルに組み込み、MITREともATT&CKフレームワークの進化について協議している。
- Anthropicが2025年3月から2026年3月にかけて悪意的なAI利用で禁止した832アカウントを分析し、MITRE ATT&CKフレームワークへのマッピング結果を公開した
- Anthropicが分析結果を基に、マルウェア開発や大規模データ漏洩を検出・ブロックするセキュリティ対策を自社モデルに組み込んだ
Anthropicが自社プラットフォーム上の悪意あるAI利用を1年間にわたり実データで分析・公開した点は極めて重要。特に、AIがサイバー攻撃の準備段階(マルウェア作成)で多用され(67.3%)、攻撃者のリスクレベルが前半33%→後半56%と急上昇していることは、AIセキュリティ対策の需要拡大を示す確かなエビデンスである。また、AIエージェントが人間の介入を最小化しながら攻撃を連鎖させる高度化が進んでおり、既存のMITRE ATT&CKフレームワークでは捕捉できない新たな脅威ベクトルが出現している点は、次世代のサイバーセキュリティ製品・サービスへの投資機会を示唆する。Anthropicが自社モデルに具体的な対策を組み込んだことは、AIセキュリティがモデル提供者の競争優位性に直結する分野であることの証左でもある。