論文の概要: Exploring Knowledge Conflicts for Faithful LLM Reasoning: Benchmark and Method

• arxiv url: http://arxiv.org/abs/2604.11209v1
• Date: Mon, 13 Apr 2026 09:05:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:16.448242
• Title: Exploring Knowledge Conflicts for Faithful LLM Reasoning: Benchmark and Method
• Title（参考訳）: 忠実なLLM推論のための知識衝突の探索:ベンチマークと方法
• Authors: Tianzhe Zhao, Jiaoyan Chen, Shuxiu Zhang, Haiping Zhu, Qika Lin, Jun Liu,
• Abstract要約: 大規模な言語モデル(LLM)は、矛盾する知識が検索されると、しばしば忠実な推論を行うのに苦労することを示す。 我々は、テキスト証拠とKG証拠の衝突を系統的にインスタンス化する新しいベンチマークであるConflictQAを紹介する。 また、異種相反する証拠の推論に適した2段階の説明に基づく思考フレームワークであるXoTを提案する。
• 参考スコア（独自算出の注目度）: 23.57320318595907
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have achieved remarkable success across a wide range of applications especially when augmented by external knowledge through retrieval-augmented generation (RAG). Despite their widespread adoption, recent studies have shown that LLMs often struggle to perform faithful reasoning when conflicting knowledge is retrieved. However, existing work primarily focuses on conflicts between external knowledge and the parametric knowledge of LLMs, leaving conflicts across external knowledge largely unexplored. Meanwhile, modern RAG systems increasingly emphasize the integration of unstructured text and (semi-)structured data like knowledge graphs (KGs) to improve knowledge completeness and reasoning faithfulness. To address this gap, we introduce ConflictQA, a novel benchmark that systematically instantiates conflicts between textual evidence and KG evidence. Extensive evaluations across representative LLMs reveal that, facing such cross-source conflicts, LLMs often fail to identify reliable evidence for correct reasoning. Instead, LLMs become more sensitive to prompting choices and tend to rely exclusively on either KG or textual evidence, resulting in incorrect responses. Based on these findings, we further propose XoT, a two-stage explanation-based thinking framework tailored for reasoning over heterogeneous conflicting evidence, and verify its effectiveness with extensive experiments.
• Abstract（参考訳）: 大規模言語モデル (LLM) は、特に検索強化世代 (RAG) を通じて外部知識によって拡張された場合、広範囲のアプリケーションで顕著な成功を収めている。 広く普及しているにもかかわらず、近年の研究では、LLMは、矛盾する知識が回収されるときに、忠実な推論を行うのに苦慮していることが示されている。 しかし、既存の研究は主に外部知識とLCMのパラメトリック知識の対立に焦点を当てており、外部知識間の対立はほとんど未解明のままである。 一方、現代のRAGシステムでは、知識完全性の向上と忠実性の推論のために、構造化されていないテキストと知識グラフ(KG)のような半構造化データの統合がますます強調されている。 このギャップに対処するために、テキスト証拠とKG証拠の衝突を系統的にインスタンス化する新しいベンチマークであるConflictQAを紹介する。 代表的LLMの広範な評価は、このようなクロスソースの対立に直面して、LLMは正しい推論の信頼できる証拠を特定できないことが多いことを示している。 代わりに、LSMは選択を促すことに敏感になり、KGかテキストの証拠にのみ依存する傾向にあり、誤った反応をもたらす。 これらの知見に基づき、異種相反する証拠の推論に適した2段階の説明に基づく思考フレームワークであるXoTを提案し、その効果を広範囲な実験で検証する。

関連論文リスト

• TruthfulRAG: Resolving Factual-level Conflicts in Retrieval-Augmented Generation with Knowledge Graphs [10.861331756147477]
  本稿では,RAGシステムにおける事実レベルの知識紛争を解決するためにTrathfulRAGを提案する。 TruthfulRAGは、検索されたコンテンツからトリプルを体系的に抽出することで、知識グラフ(KG)を構築する。 大規模な実験により、TrathfulRAGは既存の手法より優れていることが判明した。
  論文  参考訳（メタデータ） (2025-11-13T14:49:44Z)
• Probing Latent Knowledge Conflict for Faithful Retrieval-Augmented Generation [46.03923254984181]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)の現実性を高めるための強力なパラダイムとして登場した。 既存の文脈忠実性を改善するアプローチは、プロンプトエンジニアリング、デコード制約、報酬に基づく微調整など、外部からの介入に依存している。 文脈を微粒な文レベルの知識に分解するフレームワークであるCLEAR(Conflict-Localized and Enhanced Attention for RAG)を提案する。
  論文  参考訳（メタデータ） (2025-10-14T12:48:24Z)
• KCR: Resolving Long-Context Knowledge Conflicts via Reasoning in LLMs [4.4180007117819935]
  我々は,LLMが矛盾する知識を解決する能力を高める,知識衝突推論(KCR)フレームワークを提案する。 KCRの基本的な考え方は、コンテキストの選択と定着に報いることによって、バックボーンLSMをトレーニングして正しい推論プロセスを確立することである。 我々は、モデルに正しい推論経路に従う推論プロセスのパラダイムを学ぶよう促すために強化学習を採用する。
  論文  参考訳（メタデータ） (2025-08-02T09:09:50Z)
• Untangle the KNOT: Interweaving Conflicting Knowledge and Reasoning Skills in Large Language Models [51.72963030032491]
  大規模言語モデル(LLM)の知識文書は、時代遅れや誤った知識のためにLLMの記憶と矛盾する可能性がある。 我々は,知識紛争解決のための新しいデータセットKNOTを構築した。
  論文  参考訳（メタデータ） (2024-04-04T16:40:11Z)
• Resolving Knowledge Conflicts in Large Language Models [46.903549751371415]
  大規模言語モデル(LLM)はしばしば知識の衝突に遭遇する。 知識衝突が発生した場合のLLMのデシラタとは何か,既存のLLMがそれを満たすのかを問う。 文脈知識の矛盾をシミュレートする評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-02T06:57:45Z)
• Investigating the Factual Knowledge Boundary of Large Language Models with Retrieval Augmentation [109.8527403904657]
  大規模言語モデル(LLM)は,その知識に対する信頼度が低く,内部知識と外部知識の衝突をうまく扱えないことを示す。 検索の強化は、LLMの知識境界に対する認識を高める効果的なアプローチであることが証明されている。 本稿では,文書を動的に活用するための簡易な手法を提案する。
  論文  参考訳（メタデータ） (2023-07-20T16:46:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。