論文の概要: WRDO: Weighted Refusal Direction Optimization in Aligned Language Models

• arxiv url: http://arxiv.org/abs/2610.29555v1
• Date: Wed, 21 Oct 2026 10:42:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.316532
• Title: WRDO: Weighted Refusal Direction Optimization in Aligned Language Models
• Title（参考訳）: WRDO: 言語モデルにおける軽量な拒否方向最適化
• Abstract要約: 本研究は, 差し迫った拒絶方向の組合せを学習することで, 拒絶介入を強化することができるかどうかを考察する。 本稿では,一方向のバンクから複合振れ方向を構成する方法である重み付き振れ方向最適化(WRDO)を提案する。 以上の結果から,重み付けアグリゲーションはより効果的かつ柔軟に表現を操作できることが示唆された。
• 参考スコア（独自算出の注目度）: 41.986377298239525
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Aligned large language models are trained to comply with benign requests while refusing harmful ones. However, recent work shows that this refusal behavior is fragile and can often be disrupted by simple activation- or weight-space interventions. In particular, refusal has been shown to be largely mediated by a single residual-stream direction, typically computed as a difference-of-means vector between harmful and harmless prompts. However, this standard construction aggregates heterogeneous harmful prompts into one uniform average, potentially conflating distinct refusal-related phenomena. In this work, we study whether refusal interventions can be strengthened by learning how to combine prompt-specific refusal directions. We propose Weighted Refusal Direction Optimization (WRDO), a procedure that constructs a composite refusal direction from a bank of per-prompt directions using learned aggregation weights. This approach allows different harmful prompts to contribute unequally to the final intervention direction. We evaluate WRDO against prior single-direction methods on three open-weight language models using three guard judges and HarmBench as an external evaluator. We further measure the effect of the intervention on general model capability through standard utility benchmarks. Finally, we investigate a defense-oriented setting in which the same optimization machinery is used in reverse to restore refusal behavior in an abliterated model checkpoint. Our results show that weighted aggregation provides a more effective and flexible mechanism for manipulating refusal representations.
• Abstract（参考訳）: 調整された大きな言語モデルは、有害なものを拒否しながら良心的な要求に従うように訓練される。 しかし、最近の研究は、この拒絶行動は脆弱であり、単純な活性化または重量空間の介入によってしばしば破壊されることを示している。 特に、拒絶は、通常有害なプロンプトと無害なプロンプトの差分ベクトルとして計算される単一の残留ストリーム方向によって主に媒介されていることが示されている。 しかし、この標準構成は不均一な有害なプロンプトを1つの一様平均に集約し、異なる拒絶関連現象を混同する可能性がある。 本研究は, 即時的な拒絶方向の組合せを学習することで, 拒否介入を強化することができるかどうかを考察する。 Weighted Refusal Direction Optimization (WRDO) を提案する。これは、学習した集約重みを用いて、プロンプト毎の方向のバンクから複合的拒絶方向を構築する手順である。 このアプローチは、異なる有害なプロンプトが最終介入方向に不平等に寄与することを可能にする。 3つのガードジャッジとHarmBenchを外部評価器として使用し、WRDOを3つのオープンウェイト言語モデル上で先行した単一方向法に対して評価する。 さらに,標準効用ベンチマークによる一般モデル機能への介入の効果を計測する。 最後に,同じ最適化機構を逆向きに使用して,省略されたモデルチェックポイントのリフレクション動作を復元する,ディフェンス指向の設定について検討する。 以上の結果から,重み付けアグリゲーションはより効果的かつ柔軟に表現を操作できることが示唆された。

関連論文リスト

• From Refusal Tokens to Refusal Control: Discovering and Steering Category-Specific Refusal Directions [7.599054770990825]
  我々はLlama 3 8Bの分類的拒絶トークンを微調整したバージョンを活用し、微細な拒絶動作に対する推論時間制御を可能にする。 提案手法は,推論中の拒絶の方向か方向かを決定する軽量プローブを用いて分類的ステアリングベクターを構築した。 ベンチマーク全体において、カテゴリー的ステアリングベクトルとローランクの組み合わせは、良性プロンプトに対する過剰な拒絶を一貫して減少させ、有害なプロンプトに対する拒絶率を増大させる。
  論文  参考訳（メタデータ） (2026-03-09T06:37:16Z)
• Refusal Steering: Fine-grained Control over LLM Refusal Behaviour for Sensitive Topics [2.4839105527363574]
  本稿では,大言語モデルの拒否動作を詳細に制御する推論時間手法であるRefusal Steeringを紹介する。 有害なコンテンツの安全性を保ちつつ、政治的拒絶行為を除去できることを示す。
  論文  参考訳（メタデータ） (2025-12-18T14:43:04Z)
• SOM Directions are Better than One: Multi-Directional Refusal Suppression in Language Models [11.37938988675986]
  拒絶(Refusal)とは、安全に整合した言語モデルが有害または非倫理的なプロンプトを拒否できる機能的行動を指す。 最近の研究は、モデルの潜在空間における単一方向としての拒絶動作を符号化した。 本稿では,自己組織マップを利用して複数の拒絶方向を抽出する手法を提案する。
  論文  参考訳（メタデータ） (2025-11-11T16:01:42Z)
• Exploring Semantic-constrained Adversarial Example with Instruction Uncertainty Reduction [51.50282796099369]
  本稿では,多次元命令の不確実性低減フレームワークを開発し,意味論的に制約された逆の例を生成する。 言語誘導サンプリングプロセスの予測により、設計したResAdv-DDIMサンプルにより最適化プロセスが安定化される。 セマンティック制約付き3次元逆数例の参照フリー生成を初めて実現した。
  論文  参考訳（メタデータ） (2025-10-27T04:02:52Z)
• Unintentional Unalignment: Likelihood Displacement in Direct Preference Optimization [60.176008034221404]
  直接選好最適化(DPO)とその変種は、言語モデルと人間の選好の整合にますます利用されている。 以前の研究では、トレーニング中に好まれる反応の可能性が減少する傾向が見られた。 確率変位は破滅的になりうることを示し、確率質量を好ましくない反応から反対の意味の反応へとシフトさせる。
  論文  参考訳（メタデータ） (2024-10-11T14:22:44Z)
• Refusal in Language Models Is Mediated by a Single Direction [4.532520427311685]
  リファリングは1次元のサブスペースによって媒介され、最大72Bのパラメータを持つ13の人気のオープンソースチャットモデルにまたがる。 そこで本研究では,他の機能に最小限の影響を伴って拒絶を手術的に無効にする,新しいホワイトボックス・ジェイルブレイク法を提案する。
  論文  参考訳（メタデータ） (2024-06-17T16:36:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。