論文の概要: Navigating Unreliable Parametric and Contextual Knowledge: Explicit Knowledge Conflict Resolution for LLM Inference

• arxiv url: http://arxiv.org/abs/2606.20245v1
• Date: Thu, 18 Jun 2026 13:56:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-19 18:23:39.89502
• Title: Navigating Unreliable Parametric and Contextual Knowledge: Explicit Knowledge Conflict Resolution for LLM Inference
• Title（参考訳）: 信頼できないパラメトリック知識と文脈知識をナビゲートする: LLM推論のための明示的知識競合解決
• Authors: Huang Peng, Jiuyang Tang, Weixin Zeng, Hao Xu, Xiang Zhao,
• Abstract要約: 大規模言語モデル(LLM)は、幅広い言語ベースのタスクで高いパフォーマンスを実現している。 外部知識の統合は、モデルの内部パラメトリック知識と外部情報との間のだけでなく、複数の外部コンテキストの間にも矛盾をもたらす可能性がある。 本稿では,従来の二項選択パラダイムを超えて,マルチエージェント推論に基づく明示的なコンフリクト解決機構を取り入れた新しいフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 19.125715989350347
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large language models (LLMs) have achieved strong performance across a wide range of language-based tasks by leveraging both extensive parametric knowledge and in-context learning ability, enabling them to incorporate external information provided in the input prompt. However, the integration of external knowledge can introduce conflicts, not only between the model's internal parametric knowledge and the external information, but also among multiple pieces of external contexts. Existing approaches typically assume that either the model or the provided context is reliable, overlooking the possibility that both sources may contain errors, and avoid conflicts by privileging one source over the other, rather than actively resolving inconsistencies. To address these limitations, we propose a novel framework MACR for LLM knowledge conflict resolution that moves beyond the conventional binary choice paradigm and incorporates an explicit conflict-resolution mechanism based on a multi-agent reasoning approach. Specifically, we first propose an adaptive knowledge assessment and retrieval approach that employs a modified semantic entropy measure to quantify an LLM's confidence in its answer to a given query. Based on this confidence estimation, MACR either externalizes the model's internal knowledge as textual representations or retrieves relevant external knowledge when internal knowledge is insufficient, generating basic contexts for subsequent reasoning. Then we introduce an inductive multi-agent reasoning framework with three specialized agents that, respectively, induce explicit rules, analyze potential conflicts, and resolve inconsistencies across all available contexts. Empirical results demonstrate that MACR significantly outperforms state-of-the-art baselines across benchmarks, while also providing interpretable resolutions of explicit conflicts.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、幅広いパラメトリック知識とコンテキスト内学習能力を活用して、入力プロンプトに提供される外部情報を組み込むことにより、幅広い言語ベースのタスクにおいて強力なパフォーマンスを実現している。 しかし、外部知識の統合は、モデルの内部パラメトリック知識と外部情報との間のだけでなく、複数の外部コンテキストの間でも矛盾をもたらす可能性がある。 既存のアプローチでは、モデルまたは提供されたコンテキストのどちらかが信頼できると仮定し、両方のソースがエラーを含む可能性を見落とし、矛盾を積極的に解決するのではなく、一方のソースを他のソースから奪うことによって回避する。 これらの制約に対処するために,従来の二分選択パラダイムを超えて,マルチエージェント推論アプローチに基づく明示的な競合解決機構を組み込んだ,LLM知識競合解決のための新しいフレームワークMACRを提案する。 具体的には,LLMの質問に対する回答に対する信頼度を定量化するために,改良された意味エントロピー尺度を用いた適応的知識評価と検索手法を提案する。 この信頼度推定に基づいて、MACRはモデルの内部知識をテキスト表現として外部化するか、あるいは内部知識が不十分な場合に関連する外部知識を検索し、その後の推論のための基本的なコンテキストを生成する。 次に、3つの特殊エージェントを持つ帰納的マルチエージェント推論フレームワークを導入し、それぞれが明示的なルールを誘導し、潜在的な矛盾を分析し、利用可能なすべてのコンテキストで不整合を解消する。 実証的な結果は、MACRがベンチマーク間で最先端のベースラインを著しく上回り、明示的な矛盾の解釈可能な解決を提供することを示している。

関連論文リスト

• Leveraging LLM Parametric Knowledge for Fact Checking without Retrieval [60.25608870901428]
  信頼性は、大規模言語モデル(LLM)上に構築されたエージェントAIシステムの中核研究課題である 本研究では,任意の自然言語クレームの検証に焦点をあて,検索なしで事実チェックを行うタスクを提案する。
  論文  参考訳（メタデータ） (2026-03-05T18:42:51Z)
• Probing Latent Knowledge Conflict for Faithful Retrieval-Augmented Generation [46.03923254984181]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)の現実性を高めるための強力なパラダイムとして登場した。 既存の文脈忠実性を改善するアプローチは、プロンプトエンジニアリング、デコード制約、報酬に基づく微調整など、外部からの介入に依存している。 文脈を微粒な文レベルの知識に分解するフレームワークであるCLEAR(Conflict-Localized and Enhanced Attention for RAG)を提案する。
  論文  参考訳（メタデータ） (2025-10-14T12:48:24Z)
• Conflict-Aware Soft Prompting for Retrieval-Augmented Generation [13.671410389511498]
  Retrieval-augmented Generation (RAG)は、外部知識を入力プロンプトに組み込むことで、大規模言語モデル(LLM)の能力を高める。 RAGはしばしば、誤った外部コンテキストと正しいパラメトリック知識の間の競合を解決できない。 コンテクストアセスタとベースLLMから構成されるCARE(Conflict-Aware Retrieval-Augmented Generation)を紹介する。 CAREはコンテキストメモリの競合を効果的に軽減し、QAとファクトチェックベンチマークの平均パフォーマンスは5.0%向上した。
  論文  参考訳（メタデータ） (2025-08-21T05:36:29Z)
• MAGIC: A Multi-Hop and Graph-Based Benchmark for Inter-Context Conflicts in Retrieval-Augmented Generation [7.927396904317054]
  RAGシステムでは、検索された文書が互いに矛盾したり、モデルのパラメトリックな知識と矛盾することがある。 本稿では,2つの類似しているが異なる文脈間の相違を多様かつ微妙に生成する知識グラフ(KG)に基づくフレームワークを提案する。 我々のベンチマークであるMAGICの実験結果から,LLMの内部動作に関する興味深い知見が得られた。
  論文  参考訳（メタデータ） (2025-07-29T07:19:49Z)
• CoRe-MMRAG: Cross-Source Knowledge Reconciliation for Multimodal RAG [53.950029990391066]
  マルチモーダルRAG(CoRe-MMRAG)のためのクロスソース知識textbfReconciliation 本稿では,知識ソース間の不整合を効果的に解決する新しいエンドツーエンドフレームワークを提案する。 KB-VQAベンチマークの実験では、CoRe-MMRAGはベースライン法よりも大幅に改善されている。
  論文  参考訳（メタデータ） (2025-06-03T07:32:40Z)
• ParamMute: Suppressing Knowledge-Critical FFNs for Faithful Retrieval-Augmented Generation [91.20492150248106]
  本研究では,不誠実な生成の背後にある内部メカニズムを解明し,不均等に活性化される中深度フィードフォワードネットワーク(FFN)のサブセットを同定する。 本研究では,不信感関連FFNの活性化を抑制することにより,文脈的忠実度を向上させるフレームワークであるParametric Knowledge Mutingを提案する。 実験結果から,ParamMuteはCoFaithfulQAと確立されたConFiQAベンチマークの両方の信頼度を大幅に向上し,パラメトリックメモリへの依存度を大幅に低下させることが示された。
  論文  参考訳（メタデータ） (2025-02-21T15:50:41Z)
• Insight Over Sight: Exploring the Vision-Knowledge Conflicts in Multimodal LLMs [55.74117540987519]
  本稿では,マルチモーダル大言語モデル(MLLM)におけるコモンセンスレベル・ビジョン・知識衝突の問題について考察する。 MLLMにおけるこれらの競合をシミュレートし、評価するために設計された入力を生成するために、人間のループ品質制御を付加した自動フレームワークを導入する。 このフレームワークを用いて、374のオリジナル画像と1,122の高品質な質問応答対からなる診断ベンチマークを構築した。
  論文  参考訳（メタデータ） (2024-10-10T17:31:17Z)
• Improving Open Information Extraction with Large Language Models: A Study on Demonstration Uncertainty [52.72790059506241]
  オープン情報抽出(OIE)タスクは、構造化されていないテキストから構造化された事実を抽出することを目的としている。 一般的なタスク解決手段としてChatGPTのような大きな言語モデル(LLM)の可能性にもかかわらず、OIEタスクの最先端(教師付き)メソッドは遅れている。
  論文  参考訳（メタデータ） (2023-09-07T01:35:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。