Fugu-MT 論文翻訳(概要): Large Language Models in Resolving Contextual Knowledge Conflicts

論文の概要: Large Language Models in Resolving Contextual Knowledge Conflicts

arxiv url: http://arxiv.org/abs/2609.03148v1
Date: Wed, 02 Sep 2026 20:30:15 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-04 18:28:38.855244
Title: Large Language Models in Resolving Contextual Knowledge Conflicts
Title（参考訳）: 文脈的知識紛争を解決するための大規模言語モデル
Abstract要約: 6種類のコンテクストコンフリクトの分類を導入し,包括的データセットContextConflictに貢献する。データセットには5,781のサンプルが含まれ、推論と要約の両方をカバーし、明示的な矛盾と多段階推論を必要とする暗黙の矛盾の両方を含んでいる。本研究では、より包括的な証拠の取り込みを促すために、アクティベーションをステアリングする、トレーニングフリーでラベルフリーなステアリング手法を提案する。
参考スコア（独自算出の注目度）: 7.7973038442706715
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Most prior works focused on conflicts between an LLM's internal parametric knowledge and externally provided context. In contrast, we investigate how LLMs handle conflicts that arise within contextual knowledge itself. We introduce a taxonomy of six types of contextual conflicts (factual, inferential, temporal, granularity, perspective, and ambiguity) and contribute a comprehensive dataset ContextConflict for this setting. The dataset contains 5,781 samples, covers both reasoning and summarization tasks, and includes both explicit contradictions and implicit conflicts that require multi-step reasoning. Experiments on nine LLMs show that current models still fall short in resolving contextual knowledge conflicts. We further provide mechanistic interpretability insights into how LLMs process such conflicts, revealing their latent awareness of conflicts and the representational geometry underlying conflict processing. In addition, our analysis uncovers a consistent model bias towards earlier evidence, and this positional preference serves as a key obstacle to effective conflict resolution. Motivated by these findings, we further propose a simple training-free, label-free steering method that steers activations to encourage a more comprehensive incorporation of evidences for better conflict resolution. On our dataset, the method consistently improves accuracy on reasoning tasks and generates higher-quality, more balanced summaries for summarization tasks.
Abstract（参考訳）: これまでのほとんどの研究は、LLMの内部パラメトリック知識と外部に提供されたコンテキストとの間の対立に焦点を当てていた。対照的に、LLMが文脈知識自体に生じる矛盾にどう対処するかを考察する。本研究では,6種類の文脈的対立(実例,推論,時間的,粒度,視点,曖昧さ)の分類を導入し,この設定に包括的データセット ContextConflict を貢献する。データセットには5,781のサンプルが含まれ、推論と要約の両方をカバーし、明示的な矛盾と多段階推論を必要とする暗黙の矛盾の両方を含んでいる。 9つのLCMの実験では、現在のモデルは文脈的知識の矛盾を解決するのに依然として不足している。我々はさらに、LLMがこのような紛争をどのように処理するかに関する機械論的解釈可能性の洞察を提供し、紛争に対する潜在的な認識と、紛争処理の基礎となる表現幾何学を明らかにする。さらに,本分析により,先行する証拠に対する一貫したモデルバイアスが明らかとなり,この位置選好が効果的な紛争解決の鍵となる。これらの知見に触発されて、我々はさらに、より包括的な証拠の取り込みを促進するために、アクティベーションをステアリングする、単純なトレーニングフリーでラベルフリーなステアリング手法を提案する。本手法は,タスクの推論精度を常に向上し,より高品質でバランスの取れた要約を生成する。

関連論文リスト

Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding [51.242997961841276]
大規模言語モデルは事前学習を通じてパラメトリック知識を蓄積する。知識の衝突は、時代遅れまたは誤ったパラメトリック知識が文脈における外部知識と衝突する際に起こる。既存の手法は、対照的な復号化を通じて知識の衝突に対処するが、競合のないシナリオでは静的アプローチが出力分布を妨害する。本稿では,動的認知和解復号法(DCRD)を提案する。
論文参考訳（メタデータ） (2026-05-12T14:29:45Z)
Diagnosing Knowledge Conflict in Multimodal Long-Chain Reasoning [78.86309644343295]
長い連鎖推論におけるマルチモーダルな大言語モデル(MLLM)は、異なる知識源が矛盾する信号を提供するときにしばしば失敗する。我々は、これらの失敗を知識の衝突という統一概念の下で形式化し、入力レベルの客観的衝突とプロセスレベルの効果的な衝突を区別する。本研究は,知識衝突下でのマルチモーダル推論のメカニズムを考察し,長CoT障害の診断と制御を可能にする。
論文参考訳（メタデータ） (2026-02-16T07:10:44Z)
That's Deprecated! Understanding, Detecting, and Steering Knowledge Conflicts in Language Models for Code Generation [55.78914774437411]
大規模言語モデル(LLM)は、パラメトリック知識とプロンプトに含まれる矛盾する情報との相違に直面して振る舞う。このような対立を構築・解釈するためのドメインに依存しないフレームワークを提案する。本研究では, アクティベーションレベルのステアリングが, ランダムベースライン上でのステアリング成功率を最大12.6%向上させることができることを示す。
論文参考訳（メタデータ） (2025-10-21T22:27:56Z)
MAGIC: A Multi-Hop and Graph-Based Benchmark for Inter-Context Conflicts in Retrieval-Augmented Generation [7.927396904317054]
RAGシステムでは、検索された文書が互いに矛盾したり、モデルのパラメトリックな知識と矛盾することがある。本稿では,2つの類似しているが異なる文脈間の相違を多様かつ微妙に生成する知識グラフ(KG)に基づくフレームワークを提案する。我々のベンチマークであるMAGICの実験結果から,LLMの内部動作に関する興味深い知見が得られた。
論文参考訳（メタデータ） (2025-07-29T07:19:49Z)
Conflicts in Texts: Data, Implications and Challenges [58.03478157713084]
矛盾は、状況の複雑さ、説明と対処が必要な変更、データアノテーションの難しさ、生成された出力の誤りを反映する可能性がある。本調査ではこれらの矛盾を,(1)事実的矛盾,主観的偏見,および複数の視点が矛盾を生じさせるWeb上の自然テキスト,(2)注釈者がモデルトレーニングに影響を及ぼす注釈付きデータ,(3)幻覚と知識の衝突が発生するモデルインタラクションの3つの重要な領域に分類する。我々は、対立する情報をより効果的に推論し、調整できる紛争対応NLPシステムの開発における重要な課題と今後の方向性を強調した。
論文参考訳（メタデータ） (2025-04-28T04:24:01Z)
SegSub: Evaluating Robustness to Knowledge Conflicts and Hallucinations in Vision-Language Models [6.52323086990482]
視覚言語モデル(VLM)は、高度なマルチモーダル推論を実証するが、知識の衝突に直面した場合には幻覚を起こす傾向がある。本研究は,VLMレジリエンスを知識衝突に対して調査するために,目標画像摂動を適用するフレームワークであるsegsubを紹介する。
論文参考訳（メタデータ） (2025-02-19T00:26:38Z)
Insight Over Sight: Exploring the Vision-Knowledge Conflicts in Multimodal LLMs [55.74117540987519]
本稿では,マルチモーダル大言語モデル(MLLM)におけるコモンセンスレベル・ビジョン・知識衝突の問題について考察する。 MLLMにおけるこれらの競合をシミュレートし、評価するために設計された入力を生成するために、人間のループ品質制御を付加した自動フレームワークを導入する。このフレームワークを用いて、374のオリジナル画像と1,122の高品質な質問応答対からなる診断ベンチマークを構築した。
論文参考訳（メタデータ） (2024-10-10T17:31:17Z)
ECon: On the Detection and Resolution of Evidence Conflicts [56.89209046429291]
大規模言語モデル(LLM)の台頭は意思決定システムにおける情報の質に大きな影響を与えている。本研究では,実世界の誤情報シナリオをシミュレートするために,多様で検証された証拠衝突を生成する手法を提案する。
論文参考訳（メタデータ） (2024-10-05T07:41:17Z)
Unraveling Cross-Modality Knowledge Conflicts in Large Vision-Language Models [33.76903352835436]
LVLM(Large Vision-Language Models)は、マルチモーダル入力をキャプチャし、推論する能力を示す。これらのモデルは、そのビジョンと言語コンポーネント間の表現された知識の不整合から生じるパラメトリックな知識の衝突を招きやすい。我々は、それらを検出し、解釈し、緩和するための体系的なアプローチを提案する。
論文参考訳（メタデータ） (2024-10-04T17:59:28Z)
ConflictBank: A Benchmark for Evaluating the Influence of Knowledge Conflicts in LLM [36.332500824079844]
大規模言語モデル (LLM) は、多くの分野にわたって顕著な進歩を遂げてきたが、知識紛争の重大な問題は研究されることはめったにない。我々は3つの側面から知識衝突を評価するために開発された最初の総合ベンチマークであるConflictBankを紹介する。本研究は, 誤情報, 時間的相違, 意味的相違から生じる対立を慎重に分析し, 4つのモデルファミリーと12個のLLMインスタンスに分類した。
論文参考訳（メタデータ） (2024-08-22T02:33:13Z)
Resolving Knowledge Conflicts in Large Language Models [46.903549751371415]
大規模言語モデル(LLM)はしばしば知識の衝突に遭遇する。知識衝突が発生した場合のLLMのデシラタとは何か,既存のLLMがそれを満たすのかを問う。文脈知識の矛盾をシミュレートする評価フレームワークを提案する。
論文参考訳（メタデータ） (2023-10-02T06:57:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。