論文の概要: Which Knowledge Should LLMs Trust? Uncovering a Generalizable Steering Direction Across Knowledge Conflicts

• arxiv url: http://arxiv.org/abs/2610.20067v1
• Date: Wed, 14 Oct 2026 12:06:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:16.133337
• Title: Which Knowledge Should LLMs Trust? Uncovering a Generalizable Steering Direction Across Knowledge Conflicts
• Title（参考訳）: LLMはどの知識を信頼すべきか?
• Abstract要約: 大規模言語モデル(LLM)は、内部パラメトリック知識と外部文脈知識の衝突に頻繁に遭遇する。 本研究では,文脈とパラメトリック知識の選択が線形に表現され,モデル残差ストリームの単一方向に沿って制御可能であることを示す。
• 参考スコア（独自算出の注目度）: 60.00213370267085
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) frequently encounter conflicts between internal parametric knowledge and external contextual knowledge, yet the mechanisms governing this selection remain unclear. We show that the choice between context and parametric knowledge is linearly represented and can be controlled along a single direction in the model's residual stream. We first demonstrate that this direction generalizes across factual-conflict settings, including context formats, knowledge categories, and datasets, while consistently shifting behavior between parametric and contextual answers. We then transfer a direction learned from simple factual conflicts to three more complex task families: RAG, memory, and rule following, where models must acquire information from retrieved documents, interaction histories, or explicit rules. Across four model families and multiple transfer settings, steering consistently improves the use of prompt-provided information over the unsteered model. These results suggest that the direction captures a transferable preference for external knowledge rather than a mechanism specific to factual conflicts.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、内部パラメトリック知識と外部文脈知識の衝突に頻繁に遭遇するが、この選択を規定するメカニズムはいまだ不明である。 本研究では,文脈とパラメトリック知識の選択が線形に表現され,モデル残差ストリームの単一方向に沿って制御可能であることを示す。 まず、この方向がコンテキストフォーマット、知識カテゴリ、データセットなど、現実的なコンフリクト設定にまたがって一般化され、パラメトリックな回答と文脈的な回答を一貫してシフトすることが示される。 次に、単純な事実的衝突から学んだ方向を、RAG、メモリ、ルールフォローという3つのより複雑なタスクファミリに転送します。 4つのモデルファミリと複数の転送設定にまたがって、ステアリングは、非ステアリングモデル上でプロンプト提供された情報の使用を一貫して改善する。 これらの結果は,現実の対立に特有のメカニズムではなく,伝達可能な外部知識の嗜好を捉えていることを示唆している。

関連論文リスト

• Knowledge Interaction in Hypernetwork-based Continual Learning: Conflict and Composition [76.91914211842983]
  本研究では,基本モデルからの知識,パラメータ更新,入力コンテキストの相互作用について検討する。 知識の対立の下では、モデルは文脈に優先的に従い、それらの選択は、その内容よりも知識が提示される場所に依存する。 マルチホップ推論では、モデルが3つの情報源の知識を確実に構成できないことが分かる。
  論文  参考訳（メタデータ） (2026-10-11T14:57:18Z)
• Navigating Unreliable Parametric and Contextual Knowledge: Explicit Knowledge Conflict Resolution for LLM Inference [19.125715989350347]
  大規模言語モデル(LLM)は、幅広い言語ベースのタスクで高いパフォーマンスを実現している。 外部知識の統合は、モデルの内部パラメトリック知識と外部情報との間のだけでなく、複数の外部コンテキストの間にも矛盾をもたらす可能性がある。 本稿では,従来の二項選択パラダイムを超えて,マルチエージェント推論に基づく明示的なコンフリクト解決機構を取り入れた新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-18T13:56:31Z)
• That's Deprecated! Understanding, Detecting, and Steering Knowledge Conflicts in Language Models for Code Generation [55.78914774437411]
  大規模言語モデル(LLM)は、パラメトリック知識とプロンプトに含まれる矛盾する情報との相違に直面して振る舞う。 このような対立を構築・解釈するためのドメインに依存しないフレームワークを提案する。 本研究では, アクティベーションレベルのステアリングが, ランダムベースライン上でのステアリング成功率を最大12.6%向上させることができることを示す。
  論文  参考訳（メタデータ） (2025-10-21T22:27:56Z)
• When Seeing Overrides Knowing: Disentangling Knowledge Conflicts in Vision-Language Models [13.390492503308792]
  我々は,視覚言語モデル(VLM)がモーダル間の衝突を解決するために使用するメカニズムを解析する。 私たちは、紛争を制御する小さな首のセットをロジット検査でローカライズします。 このような頭部のピンポイントからの注意は、視覚的オーバーライドを駆動する局所化画像領域に向けられ、精度において勾配に基づく属性よりも優れていた。
  論文  参考訳（メタデータ） (2025-07-18T12:42:30Z)
• FaithfulRAG: Fact-Level Conflict Modeling for Context-Faithful Retrieval-Augmented Generation [37.28571879699906]
  検索システムで強化された大規模言語モデル(LLM)は、知識集約的なタスクを扱う上で大きな可能性を示している。 本稿では,モデルパラメトリック知識と検索コンテキストの相違を明示的にモデル化することにより,知識の対立を解決する新しいフレームワークであるFaithfulRAGを提案する。
  論文  参考訳（メタデータ） (2025-06-10T16:02:54Z)
• Task Matters: Knowledge Requirements Shape LLM Responses to Context-Memory Conflict [13.091464232666835]
  大規模言語モデルは文脈知識とパラメトリックメモリの両方を必要とするが、これらの情報源は一致しない。 本稿では,モデルの信念とキュレートされた知識集合との間の不一致を自動的に検出する,モデルに依存しない診断フレームワークを用いて,この問題を考察する。 競合によるパフォーマンス劣化は、タスクの知識依存と相関している。
  論文  参考訳（メタデータ） (2025-06-06T19:20:23Z)
• MergeNet: Knowledge Migration across Heterogeneous Models, Tasks, and Modalities [72.05167902805405]
  異種モデルのパラメータ空間のギャップを埋めることを学ぶMergeNetを提案する。 MergeNetの中核となるメカニズムはパラメータアダプタにあり、ソースモデルの低ランクパラメータをクエリすることで動作する。 MergeNetは両方のモデルと共に学習され、我々のフレームワークは、現在のステージに関する知識を動的に転送し、適応することができます。
  論文  参考訳（メタデータ） (2024-04-20T08:34:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。