動的消去法:エングラム誘導による非破壊的な拒否抑制
Dynamic Abliteration: Non-Destructive Refusal Suppression via Engram Steering
大規模言語モデル(LLM)において、セキュリティや管理上のプロンプトに対する拒否動作を制御するには、通常ファインチューニングや重み更新が必要となる。従来の重み消去法は、拒否ベクトルに直交する重み行列を射影することで拒否方向を無効化するが、これはベースモデルの重みを永続的に変更し、他のタスクのパフォーマンスを低下させる可能性がある。本稿では、マルチレイヤー誘導とエングラムを用いた動的消去法を探求する。このアプローチは、パラメータの重みを変更する代わりに、PyTorchのフォワードフックを使用して実行時にレイヤー間で中間残差ストリームを傍受する。Qwen3-4Bモデルを概念実証として使用し、マルチレイヤー残差注入がベースモデルの重みを100%固定したまま、拒否動作をきれいに抑制できることを実証する。具体的には、複数のレイヤー(12、14、16、18、20)にわたる層に整合した対照的な差分ベクトルを抽出し、それらを同時に適用することで、単一レイヤーの介入では拒否動作が再構築されてしまう問題を解決する。この手法により、非拒否的な出力を得ることが可能になる。
- 大規模言語モデル(LLM)の拒否動作を、ベースモデルの重みを100%固定したままマルチレイヤー誘導とエングラムを用いて実行時に抑制する動的消去法を提案
- PyTorchのフォワードフックでレイヤー間の中間残差ストリームを実行時に傍受し、パラメータ重みを変更せずに介入する方式を採用
- レイヤー12、14、16、18、20の5層に整合した対照的な差分ベクトルを抽出して同時適用し、単一レイヤー介入では拒否動作が再構築される課題を解決したと主張
- Qwen3-4Bモデルを概念実証として、非拒否的な出力が得られることを実証
- 従来の重み消去法はベースモデルの重みを永続的に変更し、他のタスク性能を低下させる可能性があるという課題を指摘
LLMの拒否動作をベースモデルの重みを一切変更せず、推論時のフォワードフックによるマルチレイヤー介入だけで抑制する研究。モデル再学習や重み改変を伴わないため、デプロイ済みモデルの挙動を後付けで調整できる運用上のメリットが大きく、モデル安全機構(ガードレール)の設計・提供は今後のAI導入企業にとっての必須要件になりつつある。安全性を外部から可変にできるという性質は、規制対応やサービス品質の観点で投資判断上の注目点になる。ただし現時点ではQwen3-4Bでの概念実証に留まり、商用化・収益化の道筋は示されておらず、実用規模への検証進展を待つべき段階。