論文の概要: Steering Instruction Hierarchies at Inference Time

• arxiv url: http://arxiv.org/abs/2607.26228v1
• Date: Tue, 28 Jul 2026 20:06:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-30 21:06:25.462903
• Title: Steering Instruction Hierarchies at Inference Time
• Title（参考訳）: 推論時間におけるステアリング命令階層
• Abstract要約: V-Steerは、キャッシュされた値ベクトルを即時位置で編集することで特権的影響を回復する訓練不要な推論時間法である。 V-Steerは、低優先度が特権的スパンを支配しているヘッドを特定し、特権的スパンを強化し、対立する低優先度スパンを抑制する。 7Bから70Bまでのモデル全体で、この介入は、コントロールされたロールコンフリクトベンチマークにおいて、18%未満から92%まで、一次制約の精度を高める。
• 参考スコア（独自算出の注目度）: 12.819290639427445
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Instruction hierarchies are a core safety assumption of language model deployment: higher priority inputs, such as system prompts, should override conflicting lower priority inputs from users or tools. Yet frontier LLMs often violate this hierarchy. We introduce V-Steer, a training-free inference time method that restores privileged influence by editing cached value vectors at prompt positions. Using direct logit attribution on the first next token prediction, V-Steer identifies heads where lower priority spans dominate privileged ones, then boosts privileged spans and suppresses conflicting lower priority spans through in-place multiplicative edits to cached V tensors. Since the method acts only on cached values, it remains compatible with fused attention backends and adds only a one time prefill overhead. Across models from 7B to 70B, this attribution guided intervention raises primary constraint accuracy from under 18% up to 92% on controlled role conflict benchmarks, and on broader instruction hierarchy evaluations substantially outperforms prompt only baselines while matching or exceeding SoTA training based methods on 3 of 4 scales of LLMs, with negligible decoding-speed overhead. The code is available at https://github.com/cindy2000sh/v-steer.
• Abstract（参考訳）: システムプロンプトのような高い優先度のインプットは、ユーザやツールからの低い優先度のインプットの競合をオーバーライドする必要があります。 しかし、フロンティアLSMは、しばしばこの階層に反する。 V-Steerは、キャッシュされた値ベクトルを即時位置で編集することで特権的影響を回復する訓練不要な推論時間法である。 最初の次のトークン予測に対する直接ロジット属性を使用して、V-Steerは、下位優先度が特権付きトークンを支配下に置くヘッドを特定し、その後、特権付きスパンを強化し、キャッシュされたVテンソルへのインプレース乗算編集を通じて、下位優先度のスパンの競合を抑制する。 メソッドはキャッシュされた値にのみ作用するため、融合したアテンションバックエンドと互換性を持ち、オーバーヘッドを1回だけ追加する。 7Bから70Bまでのモデル全体で、この帰属的介入は、制御されたロールコンフリクトベンチマークにおいて18%未満から92%までの一次制約精度を上昇させ、より広範な命令階層評価では、4つのLLMのうち3つのスケールでSoTAトレーニングベースのメソッドをマッチングまたは超過しながら、ベースラインのみを実質的に上回り、デコード速度のオーバーヘッドが無視できる。 コードはhttps://github.com/cindy2000sh/v-steer.comから入手できる。

関連論文リスト

• IH-Benchmark: A Conflict-Centered Benchmark for Instruction-Hierarchy Robustness in LLM Applications [1.9966419762834917]
  IH-Benchmarkは、直接システムユーザ競合(S>U)とツール経由のユーザツール競合(U>T)にまたがる、命令階層の堅牢性のためのコンフリクト中心のベンチマークである。 37モデル中、階層順守は98.2%から20.5%の範囲で評価されている。 強いS>Uコンプライアンスは、U>Tロバストネスの信頼できるプロキシではないことが分かりました。
  論文  参考訳（メタデータ） (2026-07-28T17:06:13Z)
• TypedCSIP: Typed Counterfactual Pretraining for Chinese Legislative Conflict Classification [3.5137191090796054]
  TypedCSIPはLCR-CNベンチマークのコンフリクト分類タスクの型付き対実事前学習手法である。 我々は、LCR-CNの専門家による最小限の修正を、訓練時対実監督として活用する。
  論文  参考訳（メタデータ） (2026-05-25T06:26:46Z)
• Verifier-Free RL for LLMs via Intrinsic Gradient-Norm Reward [69.99652051809737]
  本研究では,検証自由な内在性勾配項再帰(VIGOR)を提案する。 VIGORはポリシーモデルのみを使用する単純な報酬です。 数学データのみに基づいてトレーニングされた場合、コードベンチマークへのクロスドメイン転送を示す。
  論文  参考訳（メタデータ） (2026-05-11T03:15:37Z)
• Reasoning Up the Instruction Ladder for Controllable Language Models [26.068755167791505]
  大規模言語モデル(LLM)に基づくシステムは、現実世界の意思決定において高い役割を担っている。 LLMの信頼性と制御性には,命令階層(IH)の強化が重要である。 本研究では,命令階層分解を推論タスクとして再設計する。
  論文  参考訳（メタデータ） (2025-10-30T22:13:31Z)
• Command-V: Pasting LLM Behaviors via Activation Profiles [67.07238260037839]
  Command-Vはバックプロパゲーションフリーな行動伝達法である。 既存の残留活性化アダプタをドナーモデルからコピーし、その効果を受信モデルに貼り付ける。
  論文  参考訳（メタデータ） (2025-06-23T21:21:49Z)
• PrePrompt: Predictive prompting for class incremental learning [37.06693481489317]
  事前学習モデルに基づくクラスインクリメンタルラーニング(CIL)は,オープンワールドの継続的ラーニングに有望な方向性を提供する。 本稿では,事前学習したモデルの自然な分類能力を活用し,タスク固有のプロンプトを予測することによって,相関に基づく制約を回避する新しいCILフレームワークであるPrepromptを提案する。 複数のベンチマークの実験は、PrePromptが最先端のプロンプトベースのCILメソッドよりも優れていることを示している。
  論文  参考訳（メタデータ） (2025-05-13T13:57:56Z)
• Mitigating Word Bias in Zero-shot Prompt-based Classifiers [55.60306377044225]
  一致したクラス先行は、オラクルの上界性能と強く相関していることを示す。 また,NLPタスクに対するプロンプト設定において,一貫したパフォーマンス向上を示す。
  論文  参考訳（メタデータ） (2023-09-10T10:57:41Z)
• Task Residual for Tuning Vision-Language Models [69.22958802711017]
  タスク残差調整(TaskRes)と呼ばれる視覚言語モデル(VLM)のための新しい効率的なチューニング手法を提案する。 TaskResは、トレーニング済みモデルの事前知識とターゲットタスクに関する新たな知識を明示的に分離する。 提案されたTaskResは単純だが有効であり、11のベンチマークデータセットで以前のメソッドよりも大幅に上回っている。
  論文  参考訳（メタデータ） (2022-11-18T15:09:03Z)
• Prototypical Classifier for Robust Class-Imbalanced Learning [64.96088324684683]
  埋め込みネットワークに付加的なパラメータを必要としないtextitPrototypealを提案する。 プロトタイプは、訓練セットがクラス不均衡であるにもかかわらず、すべてのクラスに対してバランスと同等の予測を生成する。 我々は, CIFAR-10LT, CIFAR-100LT, Webvision のデータセットを用いて, プロトタイプが芸術の状況と比較した場合, サブスタンスの改善が得られることを検証した。
  論文  参考訳（メタデータ） (2021-10-22T01:55:01Z)
• Pre-training Is (Almost) All You Need: An Application to Commonsense Reasoning [61.32992639292889]
  事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。 そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。 提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
  論文  参考訳（メタデータ） (2020-04-29T10:54:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。