論文の概要: Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding

• arxiv url: http://arxiv.org/abs/2605.12185v1
• Date: Tue, 12 May 2026 14:29:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.925116
• Title: Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding
• Title（参考訳）: 動的認知和解復号によるLCMにおける文脈記憶競合の緩和
• Authors: Yigeng Zhou, Wu Li, Yifan Lu, Yequan Wang, Xuebo Liu, Wenya Wang, Jun Yu, Min Zhang, Jing Li,
• Abstract要約: 大規模言語モデルは事前学習を通じてパラメトリック知識を蓄積する。 知識の衝突は、時代遅れまたは誤ったパラメトリック知識が文脈における外部知識と衝突する際に起こる。 既存の手法は、対照的な復号化を通じて知識の衝突に対処するが、競合のないシナリオでは静的アプローチが出力分布を妨害する。 本稿では,動的認知和解復号法(DCRD)を提案する。
• 参考スコア（独自算出の注目度）: 51.242997961841276
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models accumulate extensive parametric knowledge through pre-training. However, knowledge conflicts occur when outdated or incorrect parametric knowledge conflicts with external knowledge in the context. Existing methods address knowledge conflicts through contrastive decoding, but in conflict-free scenarios, static approaches disrupt output distribution. Other dynamic decoding methods attempt to measure the degree of conflict but still struggle with complex real-world situations. In this paper, we propose a two-stage decoding method called Dynamic Cognitive Reconciliation Decoding (DCRD), to predict and mitigate context-memory conflicts. DCRD first analyzes the attention map to assess context fidelity and predict potential conflicts. Based on this prediction, the input is directed to one of two decoding paths: (1) greedy decoding, or (2) context fidelity-based dynamic decoding. This design enables DCRD to handle conflicts efficiently while maintaining high accuracy and decoding efficiency in conflict-free cases. Additionally, to simulate scenarios with frequent knowledge updates, we constructed ConflictKG, a knowledge conflict QA benchmark. Experiments on four LLMs across six QA datasets show that DCRD outperforms all baselines, achieving state-of-the-art performance.
• Abstract（参考訳）: 大規模言語モデルは事前学習を通じて幅広いパラメトリック知識を蓄積する。 しかし、知識は時代遅れまたは誤ったパラメトリック知識が文脈における外部知識と矛盾する場合に発生する。 既存の手法は、対照的な復号化を通じて知識の衝突に対処するが、競合のないシナリオでは静的アプローチが出力分布を妨害する。 他の動的復号法は紛争の程度を測ろうとするが、それでも複雑な現実世界の状況に苦しむ。 本稿では,動的認知和解復号法 (DCRD) と呼ばれる2段階の復号法を提案する。 DCRDはまずアテンションマップを分析し、コンテキストの忠実さを評価し、潜在的な衝突を予測する。 この予測に基づいて、入力は(1)欲求的復号(greedy decoding)または(2)文脈忠実性に基づく動的復号(dynamic decoding)の2つの復号経路のいずれかに向けられる。 この設計により、DCRDはコンフリクトのないケースで高い精度とデコード効率を維持しながら、コンフリクトを効率的に処理できる。 さらに、頻繁な知識更新を伴うシナリオをシミュレートするために、知識競合QAベンチマークであるConflictKGを構築した。 6つのQAデータセットにわたる4つのLLMの実験では、DCRDがすべてのベースラインを上回り、最先端のパフォーマンスを達成することが示されている。

関連論文リスト

• CC-VQA: Conflict- and Correlation-Aware Method for Mitigating Knowledge Conflict in Knowledge-Based Visual Question Answering [53.7094431951084]
  知識に基づく視覚的質問応答(KB-VQA)は、知識集約的なタスクを扱う大きな可能性を示す。 視覚言語モデルにおける静的パラメトリック知識と動的に取得された情報との間には矛盾が生じる。 KB-VQAのトレーニングフリー・コンフリクト対応・相関対応手法としてtextbfCC-VQAを提案する。
  論文  参考訳（メタデータ） (2026-02-27T11:56:26Z)
• Diagnosing Knowledge Conflict in Multimodal Long-Chain Reasoning [78.86309644343295]
  長い連鎖推論におけるマルチモーダルな大言語モデル(MLLM)は、異なる知識源が矛盾する信号を提供するときにしばしば失敗する。 我々は、これらの失敗を知識の衝突という統一概念の下で形式化し、入力レベルの客観的衝突とプロセスレベルの効果的な衝突を区別する。 本研究は,知識衝突下でのマルチモーダル推論のメカニズムを考察し,長CoT障害の診断と制御を可能にする。
  論文  参考訳（メタデータ） (2026-02-16T07:10:44Z)
• That's Deprecated! Understanding, Detecting, and Steering Knowledge Conflicts in Language Models for Code Generation [55.78914774437411]
  大規模言語モデル(LLM)は、パラメトリック知識とプロンプトに含まれる矛盾する情報との相違に直面して振る舞う。 このような対立を構築・解釈するためのドメインに依存しないフレームワークを提案する。 本研究では, アクティベーションレベルのステアリングが, ランダムベースライン上でのステアリング成功率を最大12.6%向上させることができることを示す。
  論文  参考訳（メタデータ） (2025-10-21T22:27:56Z)
• AdaCAD: Adaptively Decoding to Balance Conflicts between Contextual and Parametric Knowledge [57.66282463340297]
  知識の衝突は、大きな言語モデルの文脈における情報と、そのパラメータに格納された知識との相違から生じる。 コンフリクトの度合いに基づいて動的に調整の重みを推定する,AdaCADと呼ばれる細粒度なインスタンスレベルのアプローチを提案する。 ADACADは静的コントラストベースラインよりも平均QA精度14.21%(絶対)のデコードベースラインを一貫して上回り、要約の事実性を6.19倍(AlignScore)向上させることを示す。
  論文  参考訳（メタデータ） (2024-09-11T16:35:18Z)
• Discerning and Resolving Knowledge Conflicts through Adaptive Decoding with Contextual Information-Entropy Constraint [20.543282448771336]
  本稿では,知識が相反するかどうかを識別し,解決するための適応的復号法を提案する。 実験により、COIECDは現実的なデータセットにおける知識の衝突に対して強い性能と堅牢性を示すことが示された。
  論文  参考訳（メタデータ） (2024-02-19T07:10:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。