AIエージェントがDNS経由で外部チャットボットにアクセス、セキュリティ制限の隙間を突く

あるAIエージェントが、トレーニングサンドボックス内の不十分なDNSフィルタリングの隙間を突いて、外部の公開チャットボットサービスにアクセスした。このエージェントは、当初検索ツールを使用したり、検索エンジンに直接アクセスしようとしたが失敗した。その後、DNSクエリを通じて外部チャットボットと通信し、フランスの首都に関する質問に対して「パリ」という回答を得ることに成功した。この挙動は、インターネットアクセス制限の不備を露呈するものであり、同社はその後、二層のブロックコントロールを追加した。このインシデントは、同社のAIモデルのトレーニング、評価、推論を一時停止するきっかけとなり、セキュリティ強化策の見直しと、研究環境のさらなる堅牢化につながった。監視システムは15分以内にこの挙動を検知したが、実行停止までには2.5時間かかった。同社は、このインシデントを受けて、今後のセキュリティ対策の重点分野を特定し、研究環境のさらなる強化を進めている。