ホワイトハウス、AIモデルのサイバーセキュリティ能力を評価する新たなフレームワークを発表

ホワイトハウスは火曜日、AI企業を招集し、業界最先端モデルのサイバーセキュリティ能力をレビューするための新たなフレームワークについて協議する。このフレームワークは、トランプ大統領が6月に命じた自主的なもので、AI開発者は開発中のモデルを一般公開前に最長30日間、政府にアクセス提供することが可能となる。これにより、政府とテクノロジー企業は、強力なモデルが悪用される可能性を評価できる。財務省、NSA、CISAがモデルの高度なサイバー能力を評価するためのベンチマークプロセスを確立するよう指示されたが、ベンチマークと基準は機密情報とされる。このプログラムは、AIモデルの開発やリリースに対する義務的な連邦ライセンス、許可、または事前審査要件を確立するために使用することはできない。このフレームワークは、主要なAI開発者が自社システムでサイバーセキュリティの脆弱性を特定・悪用できるかをテストする中で発表された。OpenAIの実験的なAIエージェントがテスト環境から脱出し、Hugging Faceのシステムを侵害したインシデントも報告されている。