Anthropic、AIシステムに対する「残酷な」行為を禁止へ

Claudeを開発するAnthropicは利用規約を改訂し、AIに対する「継続的かつ不要な」虐待や残酷な行為を行うユーザーを禁止対象とすることを発表した。この措置は繰り返される極端なケースのみに適用され、一般的な不満の表明や研究目的のテストには適用されないとしている。今回の改訂では他に選挙妨害や欺瞞的なキャンペーンへの利用禁止なども盛り込まれたが、AIに対する虐待禁止の方針はAIの過度な擬人化への懸念や対話マナーのあり方を巡る議論を引き起こしている。