論文の概要: Accept or Repair: Preserving Passage-Supported Answers in Contrastive Decoding

• arxiv url: http://arxiv.org/abs/2610.29727v1
• Date: Wed, 21 Oct 2026 13:32:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.372981
• Title: Accept or Repair: Preserving Passage-Supported Answers in Contrastive Decoding
• Title（参考訳）: アクセプションか修復か:コントラスト復号におけるパスポート付き回答を保存する
• Abstract要約: パスに対する回答のチェックは、このトレードオフを排除します。 本稿では,Accept-or-Repair(AoR)を提案する。
• 参考スコア（独自算出の注目度）: 30.60367130184079
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models often answer from knowledge learned during training, even when a provided passage contradicts that knowledge. To address this problem, contrastive decoding contrasts the predictions under the full and a modified prompt at every token, but it also alters correct answers that the passage supports. We show that checking answers against the passage removes this trade-off. Based on this observation, we propose Accept-or-Repair (AoR), a training-free procedure. AoR keeps a sampled answer if the passage supports it. Otherwise, it tries up to two replacements with contrastive decoding, returning one as soon as it passes this check. It rejects replacements that repeat the answer generated without the passage when the passage favors another answer. Our experiments show that AoR raises the score over sampling by 12.5 points on counterfactual passages and 2.3 on ordinary ones, surpassing eight contrastive and prompting baselines on both, including when each receives the same rejection rule. Replacing only initial answers that the passage does not support improves the average score of every decoder. These results suggest that models can follow passages that contradict their knowledge while preserving accuracy on passages that agree with it. Code will be released at https://github.com/js-lee-AI/AoR.
• Abstract（参考訳）: 大きな言語モデルは、提供されたパスがその知識と矛盾している場合でも、トレーニング中に学んだ知識から答えることが多い。 この問題に対処するために、コントラッシブ復号法は全てのトークンの完全かつ修正されたプロンプトの下での予測と対比するが、パスがサポートする正しい答えも変更する。 パスに対する回答のチェックは、このトレードオフを排除します。 そこで本研究では,Accept-or-Repair (AoR) をトレーニング不要な手法として提案する。 AoRは、パスがそれをサポートする場合、サンプル回答を保持します。 さもなければ、コントラスト的なデコードで2つの置換を試み、このチェックをパスするとすぐに1つを返す。 パスが別の回答を優先する場合に、パスなしで生成された回答を繰り返す置き換えを拒否する。 実験の結果,AoRは12.5点,一般の2.3点のサンプリングよりもスコアを高くし,それぞれが同じ拒否規則を受理した場合を含む8点のコントラストと2点のベースラインを突破した。 パスがサポートしていない最初の回答のみをリプレースすることで、デコーダの平均スコアが向上する。 これらの結果は、モデルがそれらの知識と矛盾する通路を辿り、それと一致する通路の精度を保っていることを示唆している。 コードはhttps://github.com/js-lee-AI/AoR.comでリリースされる。

関連論文リスト

• Breaking Diffusion: Parallel Reasoning with Draft Refinement [30.497632141131835]
  パラレルリビジョンを提案し、候補ドラフトを評価するために、1つのデノイザを使用します。 我々は、デノイザーに、一様に破損したドラフトから全てのトークンを再構築するよう訓練し、保存と修復の両方を教えます。 Countdown, Sudoku-Extreme, Maze-Hard にまたがって, 本手法は自己回帰的, 離散的拡散ベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-10-19T15:02:45Z)
• Answer with Evidence: Consistency-Aware Grounded Visual Question Answering for Roadside Traffic Scenes [74.32863692381677]
  RoadSceneVQA-Gは34.7Kの質問応答対のベンチマークである。 RoadSceneVQA-Gは34.7Kの質問応答対のベンチマークである。
  論文  参考訳（メタデータ） (2026-10-04T14:48:54Z)
• Regime Boundary Alignment for Evidence-Gated Question Answering [14.305051281043378]
  RBA(Regime Boundary Alignment)は、同じ質問と金の答えの一致した変種について、単一の読者を訓練する。 3つの種にまたがる3つのマルチホップQAデータセットでは、RCAはサポート対象の回答率を60パーセント以上削減する。 結果は, 支持境界の両側で, 証拠有意な回答を学ばなければならないことを示唆している。
  論文  参考訳（メタデータ） (2026-09-25T18:48:13Z)
• When Should LLMs Trust Their Own Revisions? A Risk-Aware Study of Intrinsic Self-Correction [29.91953104203498]
  内在的な自己訂正は、新たな外部証拠を受け取らずに、言語モデルに自身の回答を改訂するよう要求する。 第2のパスはミスを回復できるが、すでに正しい回答を覆すこともできる。 このトレードオフを,BoolQ,GSM8K,Corr2Cause上で29個のオープンウェイトLLMに対して検討した。
  論文  参考訳（メタデータ） (2026-09-23T21:05:53Z)
• Independent Patch Verification for Coding Agents with a Bidirectional Reconstruct-and-Verify Framework [49.16055123488827]
  大規模言語モデルを利用したコーディングエージェントは、バグレポートから直接コードパッチを生成することができる。 報告された問題を真に解決するかどうかを独立に検証するメカニズムは存在しない。 本稿では,RETRACE をトレーニング不要なポストジェネレーション検証フレームワークとして提案する。
  論文  参考訳（メタデータ） (2026-08-09T22:59:13Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• Separating Semantic Competition from Context Length in RAG Reading [1.3192560874022086]
  検索拡張生成(RAG)システムは、正しいパスが取得された場合でも、誤って応答することができる。 我々は、RAG読取のためのマッチング制御プロトコルを導入し、実演する。 パスの数と長さを固定するが、競争力の低いリアルパスでハードコンペティターを置き換える。
  論文  参考訳（メタデータ） (2026-05-26T17:06:55Z)
• ListConRanker: A Contrastive Text Reranker with Listwise Encoding [27.017035527335402]
  本稿では,Listwise-encoded Contrastive text reRanker (ListConRanker)を提案する。 これは、エンコーディングプロセス中に他のパスと比較するのに役立ちます。 これは、中国語のMassive Text Embedding Benchmarkの再評価ベンチマークで、最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-01-13T07:51:46Z)
• Tag and Correct: Question aware Open Information Extraction with Two-stage Decoding [73.24783466100686]
  質問 オープンIEは質問と通過を入力として受け取り、主題、述語、および1つ以上の議論を含む回答を出力する。 半構造化された答えには2つの利点がある。 一つは、Open IEモデルによるパスから候補回答を抽出し、質問にマッチしてランク付けする抽出方法である。 もう1つは、シーケンスモデルを用いて回答を直接生成する生成方法である。
  論文  参考訳（メタデータ） (2020-09-16T00:58:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。