Anthropic、AI研究所による大規模な蒸留攻撃を検出・防止

Anthropicは、DeepSeek、Moonshot、MiniMaxの3つのAI研究所が、約24,000の不正アカウントを通じて1,600万件以上の対話を行い、Claudeの能力を不正に抽出して自社モデルの改善に利用していたことを発見した。この手法は「蒸留」と呼ばれ、強力なモデルの出力を利用してより能力の低いモデルを訓練するもので、本来は正当な技術だが、競合他社が開発コストを大幅に削減して強力な能力を獲得するために悪用される可能性がある。不正に蒸留されたモデルは、国家安全保障上のリスクを高める可能性がある。Anthropicは、検出、情報共有、アクセス制御、対策などの防御策を強化しているが、この問題に対処するには業界全体、政策立案者、グローバルAIコミュニティの協調行動が必要であると指摘している。