AIエージェントを悪用する攻撃手法:メール認証の迂回から多要素認証の突破まで
Hacking AI customer service agents
DEF CON 34で発表されたInti De Ceukelaire氏による講演では、AIエージェントの脆弱性を悪用する様々な攻撃手法が紹介された。主な手法として、メール認証の迂回(メールアドレスの不正利用、複数Fromヘッダーの悪用、アウトオブオフィス自動返信の利用)、多要素認証(2FA/MFA)の突破(メール正規化の悪用、IVRシステムでのなりすましや推測可能な質問の利用)、メールアドレスのコメント部分を利用した認証迂回、第三者アカウントからのOTP(ワンタイムパスワード)窃取、AIエージェントの知識ベース(KB)を悪用した攻撃(非対称メッセージング、CSSによる隠蔽、マルチフォームインラインメディア、会話履歴の偽装)などが挙げられる。これらの手法により、攻撃者は機密情報の窃取や不正な操作を実行できる可能性がある。
- DEF CON 34でInti De Ceukelaire氏が、AIエージェントの脆弱性を悪用した攻撃手法を発表した。
- メールアドレスの不正利用、複数Fromヘッダーの悪用、アウトオブオフィス自動返信の利用によりメール認証を迂回できると示された。
- メール正規化の悪用やIVRシステムでのなりすまし、推測可能な質問の利用により2FA/MFAを突破できると示された。
- 第三者アカウントからのOTP窃取や、メールアドレスのコメント部分を利用した認証迂回が可能と示された。
- AIエージェントの知識ベース(KB)を悪用する攻撃(非対称メッセージング、CSSによる隠蔽、マルチフォームインラインメディア、会話履歴の偽装)が挙げられた。
DEF CON 34で発表された研究は、AIエージェント自体の脆弱性ではなく、AIエージェントを組み込んだ認証・本人確認フローの設計上の弱点を突く攻撃手法を体系化したもの。メール認証やMFA、IVR、OTPといった既存の本人確認手段が、AIエージェント経由のワークフローで迂回され得る点は、アイデンティティ管理・不正検知ベンダーにとって脅威であると同時に、AI時代の認証強化ソリューションへの需要拡大要因になる。特に「AIエージェントの知識ベース(KB)を狙う攻撃」は、企業が社内ナレッジや顧客対応にAIエージェントを展開する際の新たなリスク面であり、エージェントのセキュリティ評価・ガードレール製品を提供する企業の事業機会と、これを怠る企業のレピュテーション/訴訟リスクの双方を示唆する。投資判断では、認証・IAM・AIガードレール領域のスタートアップの資金調達動向と、AIエージェントを顧客接点に導入する金融・通信事業者のリスク開示を注視したい。