論文の概要: From Context-Aware to Conflict-Aware: Generalizing Contrastive Decoding for Knowledge Conflict in LLMs

• arxiv url: http://arxiv.org/abs/2606.10298v1
• Date: Tue, 09 Jun 2026 01:34:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.249784
• Title: From Context-Aware to Conflict-Aware: Generalizing Contrastive Decoding for Knowledge Conflict in LLMs
• Title（参考訳）: 文脈認識から紛争認識へ:LLMにおける知識衝突に対するコントラストデコーディングの一般化
• Authors: Runze Jiang, Taiqiang Wu, Yan Wang, Bingyu Zhu, Longtao Huang,
• Abstract要約: 先行ロジットと文脈ロジットのアフィン結合は、固有の非対称性を持つtextbfpower family を生じることを示す。 本稿では,3つの競合状態(補正,抵抗,合意)を測定するために,モデル毎の事前知識を校正するモデル認識評価プロトコルであるTriState-Benchを提案する。
• 参考スコア（独自算出の注目度）: 15.185124141582277
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When large language models generate from retrieved or augmented contexts, conflicts between external context and parametric priors remain a central reliability bottleneck. Existing contrastive decoding methods follow a \emph{context-aware} paradigm that unilaterally amplifies context over parametric priors, overwriting correct priors when the context is erroneous. We generalize this to the \textbf{conflict-aware} paradigm that dynamically allocates authority between prior and context based on conflict signals, rather than presupposing context trustworthiness. We show that the affine combination of prior and context logits yields a \textbf{power family} with an inherent \textbf{regime asymmetry}: extrapolation amplifies errors unboundedly when the prior is correct, interpolation under-corrects when the context is correct, and no static regime covers both. Existing contrastive decoding methods are instances of this family, mostly extrapolative. To evaluate both conflict directions, we propose TriState-Bench, a model-aware evaluation protocol that calibrates per-model prior knowledge to measure three conflict states: correction, resistance, and agreement. To resolve the asymmetry, we propose Adaptive Regime Routing (ARR), which routes between regimes at each step, lifting resistance EM from below 6 to 16--33 without sacrificing correction or agreement. Our code is available at https://github.com/keith-Jiang/conflict-aware-decoding.
• Abstract（参考訳）: 大きな言語モデルが検索または拡張されたコンテキストから生成される場合、外部コンテキストとパラメトリックな事前との衝突は、信頼性のボトルネックの中心のままである。 既存のコントラスト的復号法は、パラメトリック事前よりも一方的に文脈を増幅する \emph{context-aware} パラダイムに従っており、コンテキストが誤っていた場合に正しい事前を上書きする。 我々は、コンテクストの信頼性を前提とせず、コンフリクト信号に基づいて事前と文脈の権限を動的に割り当てる「textbf{conflict-aware}」パラダイムにこれを一般化する。 補間(extrapolation)は、前者が正しい場合にエラーをアンバウンド(unbounded)に増幅し、そのコンテキストが正しいときに補間(interpolation under-correct)し、静的な状態が両方をカバーしない。 既存の対照的な復号法はこの家系の例であり、大部分は外挿的である。 両コンフリクトの方向性を評価するために,モデルの事前知識を校正して3つのコンフリクト状態(補正,抵抗,合意)を測定するモデル認識評価プロトコルTriState-Benchを提案する。 非対称性を解決するために,各段階のレジーム間を経路するアダプティブ・レジーム・ルーティング(ARR)を提案し,補正や合意を犠牲にすることなく抵抗EMを6から16-33まで引き上げる。 私たちのコードはhttps://github.com/keith-Jiang/conflict-aware-decoding.comで利用可能です。

関連論文リスト

• Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding [51.242997961841276]
  大規模言語モデルは事前学習を通じてパラメトリック知識を蓄積する。 知識の衝突は、時代遅れまたは誤ったパラメトリック知識が文脈における外部知識と衝突する際に起こる。 既存の手法は、対照的な復号化を通じて知識の衝突に対処するが、競合のないシナリオでは静的アプローチが出力分布を妨害する。 本稿では,動的認知和解復号法(DCRD)を提案する。
  論文  参考訳（メタデータ） (2026-05-12T14:29:45Z)
• To Fuse or to Drop? Dual-Path Learning for Resolving Modality Conflicts in Multimodal Emotion Recognition [87.22988227382329]
  マルチモーダル感情認識(MER)は、テキスト、音声、視覚を組み合わせることで恩恵を受けるが、標準的な融合は、モダリティが相反する場合に失敗することが多い。 我々は,いつフューズするか,いつモダリティを落とすのかを学習する統合フレームワークであるDual-Path Conflict Resolution (DCR)を提案する。
  論文  参考訳（メタデータ） (2026-05-06T13:11:33Z)
• BideDPO: Conditional Image Generation with Simultaneous Text and Condition Alignment [53.94214054918876]
  条件付き画像生成は、構造的、空間的、スタイリスティックな事前のテキストと画像の合成を強化する。 現在の手法では、ソース間の競合を処理する上で、課題に直面している。 双方向分離型DPOフレームワーク(BideDPO)を提案する。
  論文  参考訳（メタデータ） (2025-11-24T16:20:11Z)
• That's Deprecated! Understanding, Detecting, and Steering Knowledge Conflicts in Language Models for Code Generation [55.78914774437411]
  大規模言語モデル(LLM)は、パラメトリック知識とプロンプトに含まれる矛盾する情報との相違に直面して振る舞う。 このような対立を構築・解釈するためのドメインに依存しないフレームワークを提案する。 本研究では, アクティベーションレベルのステアリングが, ランダムベースライン上でのステアリング成功率を最大12.6%向上させることができることを示す。
  論文  参考訳（メタデータ） (2025-10-21T22:27:56Z)
• Conflict-Aware Soft Prompting for Retrieval-Augmented Generation [13.671410389511498]
  Retrieval-augmented Generation (RAG)は、外部知識を入力プロンプトに組み込むことで、大規模言語モデル(LLM)の能力を高める。 RAGはしばしば、誤った外部コンテキストと正しいパラメトリック知識の間の競合を解決できない。 コンテクストアセスタとベースLLMから構成されるCARE(Conflict-Aware Retrieval-Augmented Generation)を紹介する。 CAREはコンテキストメモリの競合を効果的に軽減し、QAとファクトチェックベンチマークの平均パフォーマンスは5.0%向上した。
  論文  参考訳（メタデータ） (2025-08-21T05:36:29Z)
• AdaCAD: Adaptively Decoding to Balance Conflicts between Contextual and Parametric Knowledge [57.66282463340297]
  知識の衝突は、大きな言語モデルの文脈における情報と、そのパラメータに格納された知識との相違から生じる。 コンフリクトの度合いに基づいて動的に調整の重みを推定する,AdaCADと呼ばれる細粒度なインスタンスレベルのアプローチを提案する。 ADACADは静的コントラストベースラインよりも平均QA精度14.21%(絶対)のデコードベースラインを一貫して上回り、要約の事実性を6.19倍(AlignScore)向上させることを示す。
  論文  参考訳（メタデータ） (2024-09-11T16:35:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。