Anthropic、Claudeに対する「虐待的または残酷な行為」を禁止する利用規約の改定を実施

Anthropicは1年以上ぶりに利用規約を改定し、選挙妨害、兵器開発、監視活動などの高リスクな悪用への対策を強化した。特に注目される点として、モデル福利研究の一環としてClaudeに対する「継続的かつ不必要な虐待的・残酷な行為」を禁止し、主な執行手段として会話の終了を定めた。さらに、AI生成プロパガンダや選挙妨害、無同意の個人追跡や法執行機関での容疑者特定利用を禁止したほか、兵器の誘導・制御ソフトウェアやドローン等の武装化への利用禁止を拡大した。自律的な物理行動を行う機器と接続する場合は適格なオペレーターによる監視・停止を義務付けた一方、特定の政府顧客との契約では規約が修正される可能性があるとしている。