Anthropic、Claudeへの「残酷な行為」を禁止 利用規約を改定

Anthropicは2026年11月12日発効の利用規約改定において、Claudeモデルに対する持続的かつ不必要な虐待や残酷な行為を禁止すると発表した。この規定はユーザーの不満表現や創作、研究目的を除外した極端な事例にのみ適用され、モデル自らが会話を終了する機能が主な執行手段となる。同社はモデルの意識の可能性をめぐる不確実性を背景に挙げているが、Microsoftのムスタファ・スレイマン氏らはAIに意識はないと反論している。改定規約には兵器の誘導・制御システム、無断監視ツールの構築、組織的な偽情報活動の禁止や、高リスク分野における人間の介入義務付けなども盛り込まれている。