論文の概要: Expert-Aware Refusal Steering

• arxiv url: http://arxiv.org/abs/2606.04160v1
• Date: Tue, 02 Jun 2026 19:23:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-04 20:44:18.345769
• Title: Expert-Aware Refusal Steering
• Title（参考訳）: 専門家対応の拒否ステアリング
• Authors: Anna C. Marbut, Daniel R. Olson, Travis J. Wheeler,
• Abstract要約: 命令調整された大規模言語モデル(LLM)の安全性の整合性は、モデルが有害または許可されていない要求に確実に応答することを拒否する能力に依存する。 近年の研究では、推論中に操舵ベクトルを高密度LLMに適用し、拒絶挙動を効果的に抑制できることが示されている。 本稿では,リファレンシャルなルーティングパターンとエキスパート固有のステアリング方向を利用して,通常のリファレンシャルなリファレンシャルな動作を抑制する2つのリファレンシャルなリファレンシャルなリファレンスステアリング手法を提案する。
• 参考スコア（独自算出の注目度）: 2.0391237204597368
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Safety alignment in instruction-tuned large language models (LLMs) depends on a model's ability to reliably refuse to respond to harmful or disallowed requests. Recent work has shown that a steering vector can be applied to a dense LLM during inference to effectively suppress refusal behavior, inducing response to harmful requests. We extend this refusal steering method to three open-source Mixture-of-Experts (MoE) LLMs and find that steering performance is uninhibited by the complex routing patterns inherent to the MoE architecture. We then propose two expert-aware refusal steering methods that leverage refusal-specific expert routing patterns and expert-specific steering directions to suppress normal refusal behavior. We find that refusal behavior can be effectively steered based on the output of a single expert. Our results show that refusal signals captured by steering methods differ from expert routing behavior, suggesting a substantial role for attention in MoE refusal behavior.
• Abstract（参考訳）: 命令調整された大規模言語モデル(LLM)の安全性の整合性は、モデルが有害または許可されていない要求に確実に応答することを拒否する能力に依存する。 近年の研究では, 誤動作を効果的に抑制し, 有害な要求に対する応答を誘導するために, 操舵ベクトルを高密度LLMに適用できることが示されている。 提案手法は3つのオープンソースのMixture-of-Experts (MoE) LLMに拡張され,MoEアーキテクチャに固有の複雑なルーティングパターンによってステアリング性能が阻害されないことがわかった。 次に,リファレンシャルなルーティングパターンとエキスパート固有のステアリング方向を利用して,通常のリファレンシャルなリファレンシャルな動作を抑える2つのリファレンシャルなリファレンシャルなリファレンシャルなリファレンスステアリング手法を提案する。 単一専門家のアウトプットに基づいて, 拒否動作を効果的に評価できることが判明した。 その結果, 操舵法で捉えた拒絶信号は, 専門家のルーティング行動と異なり, MoEの拒絶行動において重要な役割を担っていることが示唆された。

関連論文リスト

• Understanding Safety-Sensitive Expert Behavior in Mixture-of-Experts LLMs [21.519746366998646]
  一般的な直観では、安全行動は、異なる拒絶指向の専門家に有害な要求をルーティングすることで制御される。 専門家の小さなサブセットにローカライズされた安全対策を調査するフレームワークである**RASET*を提示する。 結果は、専門家が認識するアライメントメカニズムの必要性を浮き彫りにした、明確なMoE安全性リスクを明らかにした。
  論文  参考訳（メタデータ） (2026-05-28T10:09:51Z)
• CRaFT: Circuit-Guided Refusal Feature Selection via Cross-Layer Transcoders [10.526176863220988]
  本稿では,回路誘導型拒否特徴選択フレームワークを提案する。 Gemma-3-1B-itでは、CRaFTは攻撃成功率(ASR)を6.7%から48.2%に改善し、ベースライン法を上回っている。
  論文  参考訳（メタデータ） (2026-04-02T04:28:11Z)
• From Refusal Tokens to Refusal Control: Discovering and Steering Category-Specific Refusal Directions [7.599054770990825]
  我々はLlama 3 8Bの分類的拒絶トークンを微調整したバージョンを活用し、微細な拒絶動作に対する推論時間制御を可能にする。 提案手法は,推論中の拒絶の方向か方向かを決定する軽量プローブを用いて分類的ステアリングベクターを構築した。 ベンチマーク全体において、カテゴリー的ステアリングベクトルとローランクの組み合わせは、良性プロンプトに対する過剰な拒絶を一貫して減少させ、有害なプロンプトに対する拒絶率を増大させる。
  論文  参考訳（メタデータ） (2026-03-09T06:37:16Z)
• Refusal Steering: Fine-grained Control over LLM Refusal Behaviour for Sensitive Topics [2.4839105527363574]
  本稿では,大言語モデルの拒否動作を詳細に制御する推論時間手法であるRefusal Steeringを紹介する。 有害なコンテンツの安全性を保ちつつ、政治的拒絶行為を除去できることを示す。
  論文  参考訳（メタデータ） (2025-12-18T14:43:04Z)
• Learning to Steer: Input-dependent Steering for Multimodal LLMs [54.41165851011022]
  本稿では,入力固有線形シフトを用いたきめ細かいステアリングについて検討する。 我々は、入力固有のステアリングベクトルを予測するために、小さな補助モジュールを訓練する。 我々のアプローチはL2S(Learn-to-Steer)と呼ばれ、幻覚を減らし、MLLMの安全性を向上し、他の静的ベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-08-18T10:53:20Z)
• Understanding Refusal in Language Models with Sparse Autoencoders [27.212781538459588]
  我々はスパースオートエンコーダを用いて、拒絶動作を因果的に仲介する潜伏特徴を特定する。 我々は、世代への影響を評価するために、拒絶に関連する特徴に介入する。 これにより、アクティベーションレベルでのリファインダーの表示方法のきめ細かい検査が可能になる。
  論文  参考訳（メタデータ） (2025-05-29T15:33:39Z)
• Robustness via Referencing: Defending against Prompt Injection Attacks by Referencing the Executed Instruction [68.6543680065379]
  大型言語モデル(LLM)はインジェクション攻撃に弱い。 本研究では,LLMの命令追従能力を抑えるのではなく,新たな防御手法を提案する。
  論文  参考訳（メタデータ） (2025-04-29T07:13:53Z)
• The Geometry of Refusal in Large Language Models: Concept Cones and Representational Independence [57.57786477441956]
  以前の研究は、モデルのアクティベーション空間における1つの拒絶方向が、LCMが要求を拒否するかどうかを決定することを示唆している。 本稿では,表現工学における勾配に基づく新しい手法を提案し,それを用いて拒絶方向を同定する。 LLMの拒絶機構は複雑な空間構造によって制御され、機能的に独立な方向を識別する。
  論文  参考訳（メタデータ） (2025-02-24T18:52:59Z)
• On Prompt-Driven Safeguarding for Large Language Models [172.13943777203377]
  表現空間では、入力クエリは通常、安全プロンプトによって「より高い拒絶」方向に移動される。 これらの知見に触発されて,安全性向上,すなわちDROの最適化手法を提案する。 安全性プロンプトを継続的かつトレーニング可能な埋め込みとして扱うことで、DROは、その有害性に応じて、クエリの表現を拒否方向に沿ってあるいは反対に移動させることを学ぶ。
  論文  参考訳（メタデータ） (2024-01-31T17:28:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。