Anthropic、国防総省とのAI利用に関する議論について声明を発表

AI企業AnthropicのCEOであるDario Amodeiは、同社と米国国防総省(Department of War)との間のAI利用に関する議論について声明を発表した。Anthropicは、米国および民主主義国家の防衛、そして権威主義的な敵対者に対抗するため、AIの活用が存亡の重要性を持つと信じている。同社は、国防総省および諜報機関にモデルを展開しており、米政府の機密ネットワークや国立研究所への展開、国家安全保障顧客向けのカスタムモデル提供において、最先端AI企業として初めての事例を複数持つ。Claudeは、諜報分析、モデリングとシミュレーション、作戦計画、サイバーオペレーションなどのミッションクリティカルなアプリケーションで、国防総省やその他の国家安全保障機関に広く展開されている。Anthropicは、中国共産党に関連する企業へのClaudeの利用を停止するなど、米国のAIにおけるリーダーシップを守るために行動してきた。しかし、同社は「大規模国内監視」と「完全自律型兵器」の2つの用途については、民主的価値観を損なう可能性や技術的な信頼性の問題から、国防総省との契約に含めるべきではないと考えている。これらの用途は、同社の契約には含まれておらず、今後も含まれるべきではないと主張している。国防総省は、これらの安全策を撤廃するAI企業のみと契約すると述べており、応じない場合はサプライチェーンリスクとして指定する可能性を示唆しているが、Anthropicはこの要求に応じられないとしている。同社は、国防総省との協力継続を望んでいるが、安全策が維持されない場合は、円滑な移行を支援する用意がある。