誰のための安全性か?トピック全体ではなく、トピックの適切なサブセットを拒否する

本論文「Safety for Whom? Boundary-Aware Self-Distillation for Controlled LLM Safety Refusal」は、LLMの安全性における「トピック全体を拒否する」のではなく、「特定のデプロイメントポリシーに適合しないトピックのサブセットのみを拒否する」という、より狭い問題に焦点を当てている。従来のトピックレベルのガードでは、例えば政治に関する事実質問への回答と、政治的誘導や操作のリクエストの拒否を区別できなかった。本研究では、拒否すべき有害なサブセットと、回答を続けるべき無害な補完部分を区別する「境界認識型自己蒸留」を提案する。実験では、政治的なプロンプトをテストケースとし、有害なサブセットを拒否しつつ無害な部分には回答し続けるという、理想的なシャープな境界をモデルに学習させることを目指した。従来の自己生成データパイプラインの弱点として、カバレッジギャップ(生成失敗プロンプトの無視)、ダウンサイドリアクション(無害プロンプトに対する誤拒否)、および境界形状を測定できない点を指摘し、それぞれカバレッジ修復戦略、インディストリビューションの無害データ、有害・無害ペアによる境界評価を導入した。Qwen3-8Bモデルでの実験では、有害プロンプトに対する拒否率を大幅に向上させつつ、無害プロンプトに対する過剰拒否を抑制することに成功した。このアプローチは、Multiverse Computingの研究の一環であり、モデルの挙動を実際のデプロイメントが重視するレベルで制御・測定可能にすることを目指している。