論文の概要: Did the Model Use That? Counterfactual Training Boosts Self-Attribution in Language Models

• arxiv url: http://arxiv.org/abs/2610.35295v1
• Date: Mon, 26 Oct 2026 12:03:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.912642
• Title: Did the Model Use That? Counterfactual Training Boosts Self-Attribution in Language Models
• Title（参考訳）: モデルはそれを使用したか? 対人訓練は言語モデルにおける自己貢献を促進する
• Abstract要約: 本稿では,モデルが自己帰属的かどうかを検討する。 反実的訓練によって自己貢献がいかに改善されるかを示す。
• 参考スコア（独自算出の注目度）: 10.62784887593804
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A fundamental challenge for explainable and accountable language models is revealing how external information influences their answers. This paper examines whether models are self-attributive: that is, whether they indicate when -- and only when -- their responses to questions are influenced by information provided alongside the question. Furthermore, we explore how self-attribution can be improved through counterfactual training, which explicitly teaches models to distinguish between answers that do and do not depend on supplied information. We found that most of the eleven frontier models rarely attribute influential information in their answers, and the rest attribute non-influential information. Training acknowledgment into reasoning does not fix this: the acknowledgment does not reach the final answer. We introduce CREDIT, which directly supervises final-answer self-attribution with counterfactual labels, without the need for human annotation. CREDIT substantially improves attribution in four open models, including two distilled reasoning models, and outperforms reasoning-level fine-tuning and prompting baselines. Among answers that agree with a user's suggestion, CREDIT distinguishes those changed by the suggestion from those the model would have given anyway. Gains transfer partly to unseen information types and prompts containing sources that support conflicting answers.
• Abstract（参考訳）: 説明可能な言語モデルと説明可能な言語モデルに対する根本的な課題は、外部情報が回答にどのように影響するかを明らかにすることである。 本稿では,モデルが自己帰属的かどうかを考察する。 さらに,提示された情報に依存しない解答の識別をモデルに明示的に教える反事実学習を通じて,自己帰属をいかに改善できるかを考察する。 その結果、11のフロンティアモデルのほとんどは、その答えの影響力のある情報にほとんど寄与せず、残りは非インフルエンシャルな情報に寄与することが判明した。 推論への知識の訓練は、これを解決しない: 認定は最終的な答えに到達しない。 我々は,人間のアノテーションを必要とせずに,最終回答の自己帰属を反事実ラベルで直接監督するCREDITを紹介する。 CREDITは、2つの蒸留推論モデルを含む4つのオープンモデルの属性を大幅に改善し、推論レベルの微調整とベースラインの促進に優れる。 ユーザの提案に同意する回答の中で、CREDITはモデルが与えたであろう提案との違いを区別する。 ゲインは、部分的には見当たらない情報タイプと、矛盾する回答をサポートするソースを含むプロンプトに転送される。

関連論文リスト

• A Removal Based Approach to Improve LLM Faithfulness at Test-Time [2.6612030624044194]
  大規模言語モデル(LLM)は、逐次決定にますます使われる。 これらの説明は不信であり、モデルの決定の根底にある実際の理由を反映していない。 不完全性を直接ターゲットとするテストタイムアプローチを導入します。
  論文  参考訳（メタデータ） (2026-09-03T18:09:26Z)
• Mitigating Spurious Correlations Between Question and Answer via Chain-of-Thought Correctness Perception Distillation [25.195244084313114]
  CoPeD (Chain-of-Thought Correctness Perception Distillation) は,学生モデルの推論品質の向上を目的としている。 CoPeDは学生モデルに対して、正しい合理性に基づいて回答を予測し、誤ったときに修正するよう推奨する。
  論文  参考訳（メタデータ） (2025-09-06T05:33:17Z)
• R-Tuning: Instructing Large Language Models to Say `I Don't Know' [66.11375475253007]
  大きな言語モデル(LLM)は、優れたパフォーマンスで多くのドメインに革命をもたらしたが、それでもその課題に直面している。 事前の指導チューニング方法は、モデルが知識を知っているかどうかに関わらず、モデルに文章を完成させるよう強制する。 我々はRefusal-Aware Instruction Tuning (R-Tuning)と呼ばれる新しいアプローチを提案する。 実験の結果、R-Tuningは、既知の質問に答えたり、未知の質問に答えるのを控えるモデルの能力を効果的に改善することを示した。
  論文  参考訳（メタデータ） (2023-11-16T08:45:44Z)
• What if you said that differently?: How Explanation Formats Affect Human Feedback Efficacy and User Perception [53.4840989321394]
  我々は,QAモデルが生成した有理性の効果を分析し,その答えを支持する。 ユーザに対して,様々な形式で誤った回答とそれに対応する有理性を提示する。 このフィードバックの有効性を,文脈内学習を通じて評価する。
  論文  参考訳（メタデータ） (2023-11-16T04:26:32Z)
• Evaluating Correctness and Faithfulness of Instruction-Following Models for Question Answering [26.34649731975005]
  Retriever-augmented instruction-following modelは、質問応答のための微調整アプローチ(QA)の魅力的な代替品である モデル応答は自然で流動的である傾向にあるが、追加の冗長性により、モデルパフォーマンスを正確に定量化するために従来のQA評価指標は信頼できない。 1) ユーザの情報要求(正確性)をどの程度満足させるか,2) 提供された知識(忠実性)に基づいて応答を生成するか,という2つの次元に沿って,これらのモデルを評価するために,自動評価と人的評価の両方を用いる。
  論文  参考訳（メタデータ） (2023-07-31T17:41:00Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。