選挙関連リスクのテストと軽減に向けた取り組み

Anthropicは2024年の世界的な選挙に向けて、AIモデルの選挙関連リスクを特定・軽減するプロセスを公開した。外部専門家と連携した定性的テスト「ポリシー脆弱性テスト(PVT)」と大規模な自動評価を組み合わせ、選挙管理への質問対応や規約違反利用のリスクを検証している。軽減策として、システムプロンプトによる知識カットオフ日への言及(47.2%改善)や、ファインチューニングによる信頼できる情報源への誘導(10.4%改善)、米国のTurboVoteや欧州議会へのリダイレクト表示などを実施している。