Project Glasswing:Mythosが示したもの

Cloudflareは、Anthropicのセキュリティ特化型LLM「Mythos Preview」をProject Glasswingの一環として自社インフラでテストした。Mythos Previewは、複数の脆弱性を組み合わせてエクスプロイトチェーンを構築したり、脆弱性の実証コードを生成したりする能力を示し、従来のモデルと比較して大きな進歩を遂げている。しかし、モデルは時に正当なセキュリティ研究の要求に対しても一貫性のない拒否反応を示すことがあり、完全な安全境界としては機能しないため、将来的な一般公開モデルには追加の安全策が必要であると指摘している。また、AIによる脆弱性スキャナーは、特にメモリ安全でない言語(C/C++)や、モデルが「可能性」として提示する曖昧な指摘により、ノイズを増加させる傾向がある。Cloudflareは、このノイズを削減し、より質の高い発見を得るために、スコープを絞ったタスクの並列実行、異なるプロンプトを持つ独立した検証エージェント、タスクの分割などを組み合わせた「ハーネス」と呼ばれる実行管理システムを構築した。このハーネスは、脆弱性の発見から修正までのサイクルを短縮するだけでなく、根本的なアーキテクチャの改善を通じて、攻撃者が脆弱性を悪用しにくくすることを目指している。