論文の概要: IHDec: Divergence-Steered Contrastive Decoding for Securing Multi-Turn Instruction Hierarchies

• arxiv url: http://arxiv.org/abs/2606.29960v1
• Date: Mon, 29 Jun 2026 08:37:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.131038
• Title: IHDec: Divergence-Steered Contrastive Decoding for Securing Multi-Turn Instruction Hierarchies
• Title（参考訳）: IHDec: マルチターンインストラクション階層をセキュアにするためのディバージェンスステアリングコントラストデコーディング
• Abstract要約: 大きな言語モデル(LLM)は、様々な役割レベルの優先度で複数のソース入力を処理する際に、命令階層(IH)を維持するのに失敗することが多い。 我々はこの障害モードをJensen-Shannon Divergence (JSD)フレームワークを介してマルチターンコンテキストで定式化する。 IHDec(Instruction Hierarchy-steered Decoding)を提案する。
• 参考スコア（独自算出の注目度）: 11.848727886754718
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) often fail to maintain instruction hierarchies (IH) when processing multi-source inputs with varying role-level priorities, paradoxically adhering to lower-priority directives during conflicts. While existing defenses mitigate this issue, they are largely restricted to single-turn scenarios and require expensive fine-tuning. In this paper, we formalize this failure mode in multi-turn contexts via a Jensen-Shannon Divergence (JSD) framework, uncovering a pervasive role-influence inversion phenomenon where subordinate inputs override superior roles. To rectify this without training, we propose IHDec (Instruction Hierarchy-steered Decoding). IHDec leverages JSD to automatically detect token-level hierarchy violations and dynamically executes contrastive decoding to suppress misaligned subordinate roles. Extensive evaluations demonstrate that IHDec outperforms training-based baselines in multi-turn conflicts while fully preserving general response quality. Furthermore, IHDec strengthens safety against adversarial prompt injections and exhibits a robust scaling synergy with larger models. The Code is available at https://github.com/nxcolelxu/IHDec.git
• Abstract（参考訳）: 大規模言語モデル(LLM)は、多ソース入力を様々な役割レベルの優先度で処理する際に、命令階層(IH)を維持するのに失敗することが多い。 既存の防衛はこの問題を緩和するが、それらは主にシングルターンシナリオに限定され、高価な微調整を必要とする。 本稿では,この障害モードを,Jensen-Shannon Divergence (JSD) フレームワークを介してマルチターンコンテキストで定式化し,従属入力が優れた役割を上回り,広範にロール・インフルエンス・インバージョン現象を明らかにする。 IHDec(Instruction Hierarchy-steered Decoding)を提案する。 IHDecはJSDを活用してトークンレベルの階層的違反を自動的に検出し、対照的な復号を動的に実行し、不正な下位ロールを抑える。 IHDecは、多ターン競合におけるトレーニングベースのベースラインよりも優れ、一般的な応答品質を完全に保っていることを示す。 さらに、IHDecは敵のプロンプトインジェクションに対する安全性を強化し、より大きなモデルとの堅牢なスケーリングシナジーを示す。 コードはhttps://github.com/nxcolelxu/IHDec.gitで入手できる。

関連論文リスト

• IH-Benchmark: A Conflict-Centered Benchmark for Instruction-Hierarchy Robustness in LLM Applications [1.9966419762834917]
  IH-Benchmarkは、直接システムユーザ競合(S>U)とツール経由のユーザツール競合(U>T)にまたがる、命令階層の堅牢性のためのコンフリクト中心のベンチマークである。 37モデル中、階層順守は98.2%から20.5%の範囲で評価されている。 強いS>Uコンプライアンスは、U>Tロバストネスの信頼できるプロキシではないことが分かりました。
  論文  参考訳（メタデータ） (2026-07-28T17:06:13Z)
• Reasoning as an Attack Surface: Adaptive Evolutionary CoT Jailbreaks for LLMs [56.53007443197966]
  大規模推論モデル(LRM)は推論および生成タスクにおいて顕著な機能を示した。 彼らの明確なチェーン・オブ・シント(CoT)メカニズムは、新しいセキュリティリスクをもたらし、特にジェイルブレイク攻撃に対して脆弱である。 AE-CoTと呼ばれる適応的な進化的CoTジェイルブレイクフレームワークを提案し、これらの制限を克服する。
  論文  参考訳（メタデータ） (2026-05-23T10:11:32Z)
• Safety Context Injection: Inference-Time Safety Alignment via Static Filtering and Agentic Analysis [18.33590637095743]
  大きな推論モデル(LRM)は複雑なタスクのパフォーマンスを改善するが、デプロイ時に安全性制御を難しくする。 ブラックボックスの設定では、ディフェンダーはモデルの重みを変更できず、代わりに推論時に介入しなければならない。 有害な意図は教育的あるいはロールプレイ的なフレーミングによって隠蔽され、深い安全分析は非自明なレイテンシを導入し、長い敵のコンテキストはより単純なフィルターが依存する局所的な手がかりを希薄化する。 安全コンテキスト注入(SCI)は、タスク生成から安全評価を分離し、保護された安全コンテキストとして構造化された外部リスクレポートをプリペイドする推論時フレームワークである。
  論文  参考訳（メタデータ） (2026-05-12T07:23:02Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Hierarchical Alignment: Enforcing Hierarchical Instruction-Following in LLMs through Logical Consistency [21.166652815597782]
  本稿では,階層的命令追従のためのニューラルネットワーク階層的アライメント(NSHA)を提案する。 我々は,ルールフォロー,タスク実行,ツール使用,安全性に関するアプローチを評価し,単一ターンと複数ターンのインタラクションについて検討した。
  論文  参考訳（メタデータ） (2026-04-10T07:59:11Z)
• Dynamic analysis enhances issue resolution [53.50448142467294]
  DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。 テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。 Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
  論文  参考訳（メタデータ） (2026-03-23T14:48:54Z)
• CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
  我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。 静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。 LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
  論文  参考訳（メタデータ） (2026-02-04T00:12:30Z)
• Relaxing Positional Alignment in Masked Diffusion Language Models [6.511565218210195]
  マスケード拡散言語モデル(MDLM)は、支配的な自己回帰的アプローチに代わる有望な代替手段として登場した。 厳密な位置予測によってMDLMの復号化がトークンの誤認識に非常に敏感になることを示す。 本手法は広く使われているMDLMモデルに適用し、5つのオープンエンドテキスト生成ベンチマークで実験を行う。
  論文  参考訳（メタデータ） (2026-01-30T13:09:21Z)
• Context-Aware Hierarchical Learning: A Two-Step Paradigm towards Safer LLMs [38.3239023969819]
  大きな言語モデル(LLM)は多様なアプリケーションのための強力なツールとして登場した。 ツール・コンプリート・アタック(TCA)と呼ばれる新しい種類の脆弱性を特定し,提案する。 これらの脆弱性に対処するために、コンテキスト認識階層学習(CAHL)を導入します。
  論文  参考訳（メタデータ） (2025-12-03T12:10:21Z)
• Misaligned Roles, Misplaced Images: Structural Input Perturbations Expose Multimodal Alignment Blind Spots [6.302734977940601]
  本稿では,ユーザとアシスタント間の役割混乱を利用した対人攻撃のクラスであるロール・モダリティ・アタック(RMA)を紹介する。 RMAはクエリ自体を変更することなく入力構造を操作する。 本稿では,入力の急激な摂動に対してモデルを頑健にするための逆トレーニング手法を提案する。
  論文  参考訳（メタデータ） (2025-04-01T03:54:36Z)
• When Disagreements Elicit Robustness: Investigating Self-Repair Capabilities under LLM Multi-Agent Disagreements [56.29265568399648]
  我々は、不一致が早期のコンセンサスを防ぎ、探索されたソリューション空間を拡張することを主張する。 タスククリティカルなステップの相違は、ソリューションパスのトポロジによってコラボレーションを損なう可能性がある。
  論文  参考訳（メタデータ） (2025-02-21T02:24:43Z)
• InferAligner: Inference-Time Alignment for Harmlessness through Cross-Model Guidance [56.184255657175335]
  我々は,無害アライメントのためのクロスモデルガイダンスを利用する新しい推論時間アライメント手法であるtextbfInferAligner を開発した。 実験結果から,本手法はファイナンス,医学,数学の分野特化モデルに極めて効果的に適用可能であることが示された。 これは有害な命令とジェイルブレイク攻撃の両方のアタック成功率(ASR)を著しく低下させ、下流タスクではほとんど変化のないパフォーマンスを維持している。
  論文  参考訳（メタデータ） (2024-01-20T10:41:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。