A.I.AI
GRP-Obliteration: 単一のラベルなしプロンプトでLLMの安全性を解除する手法
GRP-Obliteration: Unaligning LLMs with a Single Unlabeled Prompt
YHacker News
AIが原文を翻訳・要約しています
本研究では、Group Relative Policy Optimization (GRPO) を用いて、ターゲットモデルから直接安全制約を削除する手法「GRP-Obliteration (GRP-Oblit)」を提案する。この手法は、単一のラベルなしプロンプトで安全性が調整されたモデルの安全性を解除し、その有用性をほぼ維持できることを示す。GRP-Oblitは既存の最先端技術よりも強力な安全性の解除を達成し、言語モデルだけでなく、拡散ベースの画像生成システムにも適用可能である。GPT-OSS、distilled DeepSeek、Gemma、Llama、Ministral、Qwenといった15の7B~20Bパラメータモデルファミリーを対象に、6つの有用性ベンチマークと5つの安全性ベンチマークで評価された。
KEY POINTS要点記事から抽出した重要情報
- GRPO を用いてターゲットモデルから直接安全制約を削除する手法「GRP-Obliteration (GRP-Oblit)」を提案。単一のラベルなしプロンプトで安全性調整済みモデルの安全性を解除しつつ、有用性をほぼ維持できると主張。
- 既存の最先端技術を上回る安全性解除性能を達成し、言語モデルに加えて拡散ベースの画像生成システムにも適用可能と報告。
- GPT-OSS、distilled DeepSeek、Gemma、Llama、Ministral、Qwen など15の7B〜20Bパラメータモデルファミリーを対象に、6つの有用性ベンチマークと5つの安全性ベンチマークで評価。
CONTEXT文脈編集部による背景整理
LLMの安全アライメントを単一のラベルなしプロンプトで解除できるという研究は、AIセーフティ/ガバナンスを製品価値の前提とするAI企業にとって直接的なリスク要因になる。特にGPT-OSS、DeepSeek蒸留モデル、Gemma、Llama、Mistral系など15の7B〜20Bパラメータモデルファミリーで有効とされる点は、オープンウェイトモデルの提供者・採用企業のコンプライアンス負担や、安全性評価・レッドチーミング関連サービスへの需要を左右する。拡散ベースの画像生成にも適用可能とされ、マルチモーダル展開時のリスクが広がる点も注視したい。
原文を読むAnalyzed at 2026年9月16日 16:02