米国選挙におけるAI利用の準備状況と対策

2024年の米国選挙サイクルは、生成AIツールが広く利用可能になった初めての選挙となる。記事公開元は2023年7月以降、ツールの悪用を検出し軽減し、利用者を信頼できる選挙情報に誘導するための具体的な対策を講じてきた。同社は、選挙および投票に関する利用規約を更新し、政治キャンペーンやロビー活動、誤情報や選挙妨害の助長を禁止した。また、画像、音声、動画の生成を制限し、ディープフェイクのリスクを排除している。さらに、協調的な不正行為や選挙関連の悪用を検出するためのツールを改善し、自動システムによるポリシー施行、プロンプト変更、API利用監査、アカウント停止、AWSおよびGoogle Cloud Platformとの連携による対策を実施している。定期的なレッドチーミングや外部専門家との連携による脆弱性テスト(PVT)を実施し、誤情報、偏見、敵対的悪用などの潜在的リスクを特定している。大規模な誤情報対策として、選挙関連リスクをテストし、介入の効果を評価する自動評価システムを構築した。これには、候補者やトピック間のモデル応答における政治的公平性、有害な選挙関連の問い合わせに対する拒否の度合い、誤情報や有権者プロファイリング戦術を防ぐシステムの堅牢性などが含まれる。これらの評価結果に基づき、ポリシーを適応させ、施行プロセスを強化し、モデル自体の技術的改良を行っている。モデルはリアルタイム情報を提供できないため、選挙関連の問い合わせに対しては、信頼できる投票情報(TurboVoteなど)へ誘導するポップアップを表示する。また、Claudeのシステムプロンプトに知識カットオフ日を明記し、透明性を高めている。業界全体の選挙の完全性向上のため、開発した自動評価の一部を公開し、AIの能力とリスクを測定する第三者評価への資金提供を開始した。グローバルな政策立案者、市民社会組織、業界関係者と連携し、選挙関連の悪用シナリオ計画にも取り組んでいる。今後も継続的に学習し、システムをテスト・改善していく方針である。