AIとサイバーセキュリティの未来:オープンネスが重要な理由

Mythosは、ソフトウェアの脆弱性を発見・修正できる「フロンティアAIモデル」であり、LLMがコード関連タスクで急速に進歩している現状を示している。Mythosの重要性は、モデル単体ではなく、それが組み込まれたシステム全体にある。このシステムは、十分な計算能力、大量のソフトウェア関連データで訓練されたモデル、脆弱性探索・修正のためのスキャフォールディング、そして資本に裏打ちされたスピード、ある程度の自律性から構成される。これらの要素は、脆弱性の発見、エクスプロイトの作成、パッチの構築を可能にする。この「レシピ」自体に利点とリスクが存在する。より小規模なモデルでも、セキュリティ専門知識を持つシステムに組み込めば、同様の結果をより安価に達成できる可能性があり、特に防御面で有望である。AIサイバーセキュリティ能力は、モデルサイズや一般的なベンチマーク性能に比例して滑らかにスケールするものではなく、システムとの組み合わせが重要である。Mythosは、AIシステムがソフトウェアの脆弱性を発見・対処できることを実証した。自律型システムが普及する中で、オープンなコードとツールは競争の場を均等にするのに役立つ。サイバーセキュリティは、検出、検証、調整、パッチ伝播の4段階のスピード競争となっている。オープンエコシステムはこれをコミュニティ全体に分散させるが、クローズドソースプロジェクトは単一ベンダーに知識と行動を集中させ、単一障害点となる。オープン開発の分散型性質は、LinuxカーネルセキュリティチームやHugging Faceなどのコミュニティで特に強力である。クローズドシステムを支持する「プロプライエタリな曖昧さ」という議論は、AIによるリバースエンジニアリング能力の向上により、もはや十分な保護を提供しない。また、クローズドコードベース内でAIが誤ったインセンティブで使用されると、AIによる開発が従来の開発よりも多くの脆弱性を導入するリスクがある。攻撃者と防御者の間の能力非対称性は、オープンモデルとオープンツールによって、防御側が攻撃側と同等の能力にアクセスできるようになることで狭まる。サイバーセキュリティ防御において、オープンソースとAIエージェントは協力して重要な役割を果たせる。Mythosのような高度な自律性は制御不能のリスクがあるため、推奨されない。代わりに、AIエージェントが実行できるアクションの種類が事前に定義され、一部のステップで人間の承認が必要な半自律システムは、利点とリスクのバランスが良い。半自律システムでは、人間が制御を維持し、AIエージェントが特定の部分タスクを担当する。これは、組織がプライベートに実行できるオープンコードで可能であり、AIエージェントは組織自身の管理下で防御的に展開できる。半自律アプローチは、人間がAIエージェントの行動とその理由を理解できることに依存しており、これはオープンコンポーネントに基づいたシステムでより可能になる。「ループ内の人間」は、人間がループの中身を見ることができて初めて意味を持つ。企業はこれらの能力をゼロから構築する必要はなく、脆弱性スキャナー、侵入検知システム、ログアナライザー、ファジングフレームワークなどの豊富なオープンソースセキュリティツールを利用できる。高リスク組織にとって、オープンで監査可能な基盤から始めることは、セキュリティチームが単一ベンダーの主張を信頼するのではなく、監視の仕組みを実際に検査できることを意味する。これは、機密データやプロセスが関わる場合、特に重要であり、機密性の高い材料は外部AIプロバイダーを経由すべきではない。オープンシステムは、社内のセキュリティ専門家によって厳密に分析され、組織固有のセキュアデータでファインチューニングされ、組織固有の監視メカニズムを生成するように変更され、組織自身のインフラストラクチャ内で完全に実行できる。攻撃者は脆弱性を悪用するモデルを開発するだろう。その対策の重要な部分は、オープンなセキュリティレビュー、公開された脅威モデル、共有された脆弱性データベース、および任意のチームが採用できるオープンツールといった透明性の高い実践に依存することである。孤立して独自のツールで自己防衛しようとするアプローチは、コミュニティ内で連携し技術を共有する攻撃者に対してはスケールしない。AIサイバーセキュリティの未来は、単一のモデルよりも、それらを取り巻くエコシステムによって形作られるだろう。オープンネスは、防御側に、先を行くための可視性、制御、コミュニティ、そして共有インフラストラクチャを提供する。