論文の概要: Context or Knowledge: How LLMs Attribute Their Own Answers

• arxiv url: http://arxiv.org/abs/2610.32109v1
• Date: Fri, 23 Oct 2026 03:21:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.333901
• Title: Context or Knowledge: How LLMs Attribute Their Own Answers
• Title（参考訳）: コンテキストや知識: LLMが自身の回答にどのように貢献するか
• Abstract要約: 言語モデルは、供給された文書やパラメトリック知識から質問に答えることができる。 我々は,回答が生成され,質問される前に,モデルのキー値キャッシュを介在させることによりこれを研究する。
• 参考スコア（独自算出の注目度）: 8.193506331028308
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models can answer a question from a supplied document or from their parametric knowledge. When later asked where the answer came from, what determines their source report? We study this by intervening on the model's key-value (KV) cache after the answer is generated and before the source question is asked. On a controlled factual task with four models (7B-32B), changing or removing the document's cache never changes the report. In contrast, transplanting the question-and-answer (Q+A) cache between runs with identical question and answer tokens transfers it: every eligible report follows the donor, while the recipient's document is unchanged. On the two smaller models, steering Q+A values along directions fitted before any source question reverses 98.9-100% of reports across four document conditions at a fixed strength, while norm-matched random directions flip at most 1.1%. The components of keys and values along fitted directions carry the transplant effect: copying them alone nearly reproduces the report change; holding them fixed nearly prevents it. Applied during answer generation, the same value directions also change which source supplies the answer, though more weakly and depending on the prompt. Source reporting in this setting thus depends causally on cached state produced while answering. We do not establish general reporting accuracy or a complete interpretation of this state.
• Abstract（参考訳）: 言語モデルは、供給された文書やパラメトリック知識から質問に答えることができる。 その後、答えがどこから来たのかを尋ねると、ソースレポートはどうなるのか? そこで本研究では,モデルが生成したキー値 (KV) キャッシュを介入して検討する。 4つのモデル(7B-32B)で制御された現実的なタスクでは、ドキュメントのキャッシュの変更や削除は決してレポートを変更しない。 対照的に、問合せ(Q+A)キャッシュを同一の問合せトークンと解答トークンの間で移植すると、それを転送する。 2つの小さなモデルでは、Q+A値をソース問題に適合する方向に沿って操ると、4つの文書条件にわたるレポートの98.9-100%が一定強度で逆転し、標準整合ランダムな方向は最大1.1%反転する。 キーと値の成分は、固定された方向に沿って、移植効果を持ち、それをコピーするだけで、報告の変更がほとんど再現され、固定されたキーの保持がほとんど防止される。 応答生成中に適用される同じ値方向も、応答の供給元を変更するが、より弱く、プロンプトに依存している。 この設定でのソースレポートは、応答中に生成されるキャッシュ状態に慎重に依存する。 我々は、この状態の一般的な報告精度や完全な解釈を確立していない。

関連論文リスト

• Do LiDAR Language Models Really Understand Spatio-temporal Relationships? [62.56505727364142]
  ベンチマークと診断プロトコルであるLiDAR-Halluを150 nusのシーンで紹介する。 提案プロトコルは,固定回答と候補コンテンツ制御,クロスシーンペアを同一のプロンプトで組み合わせるが,参照応答は逆で,リレーショナルなリコールを行う。 記録された10万の応答の分析は、集合的空間精度によって隠された失敗を明らかにする。
  論文  参考訳（メタデータ） (2026-09-21T11:59:07Z)
• When Models Defer to Wrong Answers: A Robustness Audit of Source-Attributed Cues in Multiple-Choice QA [2.347309464574674]
  言語モデルは、他のソースが答えたことについてのクレームとともに、しばしば質問を受ける。 このような主張が複数の質問応答において解答を不安定化させるかどうかを検査する。 英語,ヒンディー語,ベンガル語,タミル語,テルグ語でMMLU-ProとIndicMMLU-Proの4つの命令追従モデルを評価する。
  論文  参考訳（メタデータ） (2026-09-08T15:57:24Z)
• Same Question, Different Answers: Evaluating LLM Reliability Beyond Accuracy [41.17236645999555]
  本研究では,現実的な質問応答や数学的推論タスクにおいて,意味保存的言い回しの下でモデル解がどう変化するかを検討する。 4つのベンチマークと13のモデルで、モデル出力はプロンプトの正確な表現に依存することが多い。 多くの質問に対して、モデルはフレーズによって正しい答えと間違った答えを交互に行い、ミスマッチ率は23%以上に達する。
  論文  参考訳（メタデータ） (2026-05-18T16:45:13Z)
• Answer, Assemble, Ace: Understanding How LMs Answer Multiple Choice Questions [103.20281438405111]
  MCQA(Multiple-choice Question answering)は、高性能トランスフォーマー言語モデルのキーコンピテンスである。 我々は,正解を予測するための関連情報をエンコードするキー隠れ状態のローカライズに語彙予測とアクティベーションパッチ手法を用いる。 後続の層は語彙空間における予測応答記号の確率を増大させ、この確率の増加は、特異な役割を持つ注目ヘッドのスパースセットと関連していることを示す。
  論文  参考訳（メタデータ） (2024-07-21T00:10:23Z)
• When to Read Documents or QA History: On Unified and Selective Open-domain QA [22.941325275188376]
  本稿では,知識資源を活用した多様な質問に答えることを目的として,オープンドメイン質問応答の問題について検討する。 QAペアと文書コーパスの2種類のソースは、以下の相補的な強度で積極的に活用されている。 したがって、自然なフォローアップが両方のモデルを活用する一方で、単純でパイプライニングや統合的なアプローチは、どちらのモデルよりも追加的な利益をもたらすことができませんでした。
  論文  参考訳（メタデータ） (2023-06-07T06:03:39Z)
• DIFFQG: Generating Questions to Summarize Factual Changes [41.142542919449355]
  本稿では,ペア化された文書間の事実変化を質問応答ペアとして表現する。 DIFFQGは、759のQAペアと1153のペアパスの実際の変更のない例で構成されている。
  論文  参考訳（メタデータ） (2023-03-01T05:45:48Z)
• Realistic Conversational Question Answering with Answer Selection based on Calibrated Confidence and Uncertainty Measurement [54.55643652781891]
  対話型質問回答モデル(ConvQA)は,会話中に複数回発生した質問文と過去の質問文のペアを用いて質問に回答することを目的としている。 本稿では,会話履歴における不正確な回答を,ConvQAモデルから推定された信頼度と不確実性に基づいてフィルタリングすることを提案する。 我々は2つの標準ConvQAデータセット上で、回答選択に基づくリアルな会話質問回答モデルの有効性を検証する。
  論文  参考訳（メタデータ） (2023-02-10T09:42:07Z)
• Mitigating False-Negative Contexts in Multi-document QuestionAnswering with Retrieval Marginalization [29.797379277423143]
  応答不能なクエリを適切に処理するset-valued検索の新しいパラメータ化を開発している。 トレーニング中にこの集合を限界化することで、モデルが注釈付き支持証拠の偽陰性を緩和できることを示す。 IIRCでは,代替文脈の余分化による連成モデリングによりモデル性能が5.5F1ポイント向上し,50.6F1の新たな最先端性能が得られることを示す。
  論文  参考訳（メタデータ） (2021-03-22T23:44:35Z)
• Tell Me How to Ask Again: Question Data Augmentation with Controllable Rewriting in Continuous Space [94.8320535537798]
  機械読解(MRC)、質問生成、質問答え自然言語推論タスクのための制御可能な書き換えベースの質問データ拡張(CRQDA)。 質問データ拡張タスクを制約付き質問書き換え問題として扱い、コンテキスト関連、高品質、多様な質問データサンプルを生成する。
  論文  参考訳（メタデータ） (2020-10-04T03:13:46Z)
• Selective Question Answering under Domain Shift [90.021577320085]
  モデルがドメイン外の入力に対して過度に信頼されているため、モデルのソフトマックス確率のみに基づくアテンションポリシーは不適切である。 キャリブレータをトレーニングして、QAモデルがアースする入力を識別し、エラーを予測した場合に停止する。 提案手法は,80%の精度を維持しながら56%の質問に回答するが,それに対してモデルの確率を直接使用する場合,80%の精度で48%しか回答しない。
  論文  参考訳（メタデータ） (2020-06-16T19:13:21Z)
• Asking and Answering Questions to Evaluate the Factual Consistency of Summaries [80.65186293015135]
  本稿では,QAGS (kags) と呼ばれる自動評価プロトコルを提案する。 QAGSは、要約とそのソースについて質問すると、要約が実際にソースと一致している場合、同様の回答が得られます。 QAGSは、使いやすく、現実的に一貫性のあるテキストを自動的に生成するための有望なツールであると考えています。
  論文  参考訳（メタデータ） (2020-04-08T20:01:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。