論文の概要: Don't Pick a Winner: Knowledge Conflicts Need a Prior, Not a Rule

• arxiv url: http://arxiv.org/abs/2610.36169v1
• Date: Mon, 26 Oct 2026 19:03:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.407814
• Title: Don't Pick a Winner: Knowledge Conflicts Need a Prior, Not a Rule
• Title（参考訳）: 勝者を選ばないで - 知識の衝突は優先事項であり、ルールではない
• Abstract要約: 検索強化された言語モデルは、検索されたコンテキストとその知識の2つのソースから回答する。 既存のメソッドは、設計時に固定されたルールとの相違を解決します – コンテキストに従ったり、モデルの動きの程度に比例してそれを増幅したり、モデルのメモリを信頼したりします。 これらの主張をGRACE上で検証する。これは、固定された質問の知識グラフコンテキストに介入するベンチマークで、モデルが知っていること、コンテキストが何を言っているか、真実が何であるかを別々に測定する。
• 参考スコア（独自算出の注目度）: 3.308743964406687
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A retrieval-augmented language model answers from two sources, the retrieved context and its own knowledge, and the two disagree whenever the context is incomplete or wrong. Existing methods settle the disagreement with a rule fixed at design time: follow the context, amplify it in proportion to how far it moves the model, or trust the model's memory. Each rule is confidently wrong in some deployment. In a decision-theoretic model of two sources, the score of any fixed rule is linear in the share of reliable contexts while the best attainable score is convex, so every fixed rule is beaten wherever it is not exactly optimal; and a symmetric divergence between the two sources, the signal adaptive decoding uses, carries no information about which one is right. Resolving a conflict therefore needs two inputs that no existing method keeps: evidence about each source separately, and a prior on how often the context is right. We test these claims on GRACE, a benchmark that intervenes on the knowledge-graph context of a fixed question, so that what the model knows, what the context says and what is true are measured separately. There, every baseline from four families is strong on right contexts or on wrong ones, never on both. We then build the two inputs: the model states its knowledge as notes, a small policy voices each note with a calibrated confidence, a reader answers in two voices, and a selector commits or abstains under a prior $π$ applied as an exact prior shift. With $π$ set to the true share of right contexts, the system is above the best baseline at every mixture of GRACE contexts, by up to 26 points. Its overall score is 45.3 and 35.0 (Qwen3.5-35B-A3B, Llama-3.1-8B), against 29.4 and 27.5 for the best baseline. On preregistered ClashEval it beats same-backbone CK-PLUG and TCR by 12 and 26 points. Where the model lacks the knowledge, the gains vanish, as the theory predicts.
• Abstract（参考訳）: 検索強化された言語モデルは、検索されたコンテキストとその知識の2つのソースから回答する。 既存のメソッドは、設計時に固定されたルールとの相違を解決します – コンテキストに従ったり、モデルの動きの程度に比例してそれを増幅したり、モデルのメモリを信頼したりします。 それぞれのルールは、あるデプロイメントでは確実に間違っている。 2つのソースの判定理論モデルにおいて、任意の固定ルールのスコアは信頼されたコンテキストの共有において線形であり、最も達成可能なスコアは凸であり、すべての固定ルールは正確に最適でない場所で打ち負かされる。 したがって、コンフリクトを解決するには、既存のメソッドが保持しない2つのインプットが必要です。 これらの主張をGRACE上で検証する。これは、固定された質問の知識グラフコンテキストに介入するベンチマークで、モデルが知っていること、コンテキストが何を言っているか、真実が何であるかを別々に測定する。 4つのファミリーのすべてのベースラインは、正しいコンテキストや間違ったコンテキストに強く、両方にはない。 モデルはその知識をノートとして記述し、小さなポリシーは各ノートを校正された信頼で音声化し、読者は2声で回答し、セレクタは前回のπ$を正確に前のシフトとして適用してコミットまたは停止する。 π$が正しい文脈の真の共有に設定されている場合、システムはGRACEコンテキストのすべての混合において、最大26ポイントの最良のベースラインを超える。 総合得点は45.3点、35.0点(Qwen3.5-35B-A3B, Llama-3.1-8B)、29.4点、27.5点である。 プレ登録のClashEvalでは、同じバックボーンのCK-PLUGとTCRを12ポイント、26ポイント上回っている。 モデルが知識を欠いている場合、理論が予測するように利得は消える。

関連論文リスト

• Same Scores, Different Decisions: Evaluating JEV and Language Models for Legal Document Understanding [65.85599131866623]
  私たちはJevとContractNLIの9つの言語モデルを比較します。 制御された比較は、仮説の可視性、要求された出力、および出力順序によって異なる。 Jevは、評価された構成の中で、最低コストと中央値のレスポンス時間を持っています。
  論文  参考訳（メタデータ） (2026-09-23T10:53:01Z)
• Consistency Without Alignment: Item-Sensitive Language Models Indistinguishable From Random [0.0]
  項目感度は、モデルの選択が自身の出力よりも特定の入力に依存するかどうかとして定義され、タスク能力の証拠として広く報告されている。 この証拠は、香港のボードゲーム『Deception: Murder: Hong Kong』から抜粋された強制選択シグナリングタスクを用いて、必要だが不十分であることを示す。 7つの言語モデル、2つのモデルファミリー、訓練後のアブレーション、3つの独立したスコアリングルールは、21のモデル・バイ・ルール・セルのうちの1つが確実にアイテムに敏感である。 我々はこの一貫性をアライメントなしで呼び、アイテム感度、置換整合性に依存するあらゆる評価に一般化する。
  論文  参考訳（メタデータ） (2026-09-01T02:12:10Z)
• IndicQE-APE: A Benchmark for Quality Estimation and Automatic Post-Editing for Indic Languages [77.88427845181154]
  我々はWMT 2020-2024の共有タスクの系統を、英語のリソースを拡張してインディクシーに集約する:9つの方向対に対して126,754ドルのインスタンス。 セグメントレベルのQEでは,LSMが6つ,COMETが3つ,APEでは3つのシステムをベンチマークした。
  論文  参考訳（メタデータ） (2026-08-17T09:50:52Z)
• Split the Labor: Separating Evidence Interpretation from Decision Aggregation [0.0]
  言語モデルに多くの情報源から結論に達するよう要求するシステムは通常、それらを1つのプロンプトに分割する。 提案する4分野のエビデンス(仮説,信頼性バケット,合理性,証明)は,両半減期を決定することを示す。 この修正はアーキテクチャよりも算術的であり、言語モデル以外のルールのクラスに適用される。
  論文  参考訳（メタデータ） (2026-08-14T17:24:55Z)
• Learning When to Trust via Selective Context Preference Optimization [34.54211638111961]
  言語モデルは次第に外部の信号に答えを条件付けている。 誤解を招く人は正しい答えを間違えることがある。 私たちはその問題を選択的信頼と再考した。
  論文  参考訳（メタデータ） (2026-08-06T17:59:58Z)
• From Context-Aware to Conflict-Aware: Generalizing Contrastive Decoding for Knowledge Conflict in LLMs [15.185124141582277]
  先行ロジットと文脈ロジットのアフィン結合は、固有の非対称性を持つtextbfpower family を生じることを示す。 本稿では,3つの競合状態(補正,抵抗,合意)を測定するために,モデル毎の事前知識を校正するモデル認識評価プロトコルであるTriState-Benchを提案する。
  論文  参考訳（メタデータ） (2026-06-09T01:34:13Z)
• StemBind: When MLLMs Get Lost Between Rules and Instances in Abstract Visual Reasoning [13.74158437063828]
  マルチモーダルな大言語モデル(MLLM)はルールをよく知っているが、視覚的推論タスクについて間違った答えを選択する。 既存のベンチマークでは、知覚を崩壊させ、ルール誘導し、答えの選択を1つの右または右の信号に変換するため、これを検出できない。 StemBindは、同じ視覚幹を3つの質問で探索する共有視点診断ベンチマークである。
  論文  参考訳（メタデータ） (2026-05-29T03:20:05Z)
• Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。 認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。 この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T13:56:44Z)
• GRACE: Discriminator-Guided Chain-of-Thought Reasoning [75.35436025709049]
  本稿では, 正しい推論手順を導出するために, GRACE (CorrectnEss Discriminator) を用いたチェーン・オブ・シークレット・リAsoningを提案する。 GRACEは、正しいステップと間違ったステップに対して対照的な損失で訓練された判別器を採用しており、復号時に次のステップ候補を採点するために使用される。
  論文  参考訳（メタデータ） (2023-05-24T09:16:51Z)
• RulE: Knowledge Graph Reasoning with Rule Embedding [69.31451649090661]
  我々は、論理ルールを活用してKG推論を強化する、textbfRulE(ルール埋め込みのためのスタンド)と呼ばれる原則的なフレームワークを提案する。 RulEは、既存の三重項と一階規則からルールの埋め込みを学習し、統一された埋め込み空間において、textbfentities、textbfrelations、textbflogical rulesを共同で表現する。 複数のベンチマークの結果、我々のモデルは既存の埋め込みベースのアプローチやルールベースのアプローチよりも優れています。
  論文  参考訳（メタデータ） (2022-10-24T06:47:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。