Fugu-MT 論文翻訳(概要): How Context Attribution Handles What the Model Already Knows

論文の概要: How Context Attribution Handles What the Model Already Knows

arxiv url: http://arxiv.org/abs/2607.23804v1
Date: Sun, 26 Jul 2026 19:06:29 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-28 22:34:15.230805
Title: How Context Attribution Handles What the Model Already Knows
Title（参考訳）: コンテキスト属性はモデルがすでに知っていることをどう扱うか
Abstract要約: 大規模言語モデル(LLM)のコンテキスト属性手法は、どの入力コンテキストがモデル応答に寄与するかを特定する。近年の研究では、コンテクストのコントリビューティブスコアに貢献する最初の成功例が示されている。トレーニングデータとコンテキストが重なり合うと、これらのメソッドは、重み付けのコントリビューションからコンテキスト内をアンタングルできない。
参考スコア（独自算出の注目度）: 12.541488378965932
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Context attribution methods for large language models (LLMs) identify which input context contributes to the model response. Recent works show the initial success in attributing the con- tributive score of the contexts. However, we observe that when the context overlaps with the training data, these methods can- not disentangle in-context from in-weight (IW) contributions, producing unreliable scores. Based on this observation, in this work, we introduce: 1) an evaluation protocol that relies on four new metrics (base-model context attribution score (BCS), cross-model context attribution consistency (CAC), attribution preservation score (APS), source separation pre- cision (SSP)) and 2) a benchmark dataset (WMDP-Cyber++) with ground-truth provenance labels to systematically assess attribution under IW overlap. In our experiments across four well-known context attribution methods, we demonstrate that they provide unfaithful attribution when the knowledge from the context also exists in the weights. Finally, we adapt these methods for source separation (IW vs. in-context learning (ICL)) and show that they cannot do the disentanglement based on the contributive score
Abstract（参考訳）: 大規模言語モデル(LLM)のコンテキスト属性手法は、どの入力コンテキストがモデル応答に寄与するかを特定する。最近の研究は、コンテクストの属性スコアに貢献する最初の成功を示している。しかし、文脈がトレーニングデータと重なり合う場合、これらの手法は、インウェイト(IW)コントリビューションからインコンテキストを遠ざけることができず、信頼できないスコアを生み出す。この観察に基づき,本研究で紹介する。 1)4つの新しい指標(ベースモデルコンテキスト属性スコア(BCS)、クロスモデルコンテキスト属性一貫性(CAC)、属性保存スコア(APS)、ソース分離前精度(SSP)、および評価プロトコル 2) ベンチマークデータセット (WMDP-Cyber++) は, IWオーバーラップ時の属性を体系的に評価するために, 基調証明ラベルを持つ。 4つのよく知られた文脈帰属法に関する実験において、文脈からの知識が重みの中にも存在する場合、それらが不誠実な帰属を与えることを示した。最後に、これらの手法を音源分離(IW vs. in-context Learning (ICL))に適用し、帰納的スコアに基づいて解離を行うことができないことを示す。

関連論文リスト

Context is Enough: Empirical Validation of $\ extit{Sequentiality}$ on Essays [1.338174941551702]
コンテクスト版の連続性は, 談話レベルの特徴の人間による評価とより密接に一致していることを示す。本研究は,自動エッセイ評価および関連するNLPタスクの検証,解釈,補完機能としてコンテキストベースのシーケンシャル性の利用を支援する。
論文参考訳（メタデータ） (2025-11-12T10:31:07Z)
Evaluation Framework for Highlight Explanations of Context Utilisation in Language Models [36.64390220306208]
コンテキスト利用(Context utilisation)は、言語モデルが応答を生成するときに提供されるコンテキストから関連する情報を組み込む機能である。実地ストルース・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・コンテクスト・アトリビューションのための最初のゴールド標準HE評価フレームワークを提案する。私たちは、すべてのコンテキストシナリオで、MechLightが最高のパフォーマンスを発揮することに気付きました。
論文参考訳（メタデータ） (2025-10-03T00:15:36Z)
Label-Context-Dependent Internal Language Model Estimation for CTC [50.25063912757367]
本稿では,コネクショニストの時間的分類のための新しい文脈依存型ILM推定手法を提案する。実験の結果,コンテキスト依存型ILMはドメイン間評価において,コンテキスト非依存型の先行よりも優れていた。平滑化手法を用いたラベルレベルKDは,他のILM推定手法を超えている。
論文参考訳（メタデータ） (2025-06-06T13:54:43Z)
Document Attribution: Examining Citation Relationships using Large Language Models [62.46146670035751]
そこで本研究では,帰属を簡単なテキスト・エンタテインメント・タスクとみなすゼロショット・アプローチを提案する。また,アトリビューションプロセスの強化におけるアテンションメカニズムの役割についても検討する。
論文参考訳（メタデータ） (2025-05-09T04:40:11Z)
Controlling Out-of-Domain Gaps in LLMs for Genre Classification and Generated Text Detection [0.20482269513546458]
本研究は,Large Language Models (LLMs) の現代世代において,事前学習型言語モデル (PLMs) の先行研究において観測された,同じ領域外(OOD) 性能差に悩まされていることを示す。本稿では,予測指標が使用されるか,分類中に除外されるかを制御する手法を提案する。このアプローチにより、数ショットのセットアップで最大20パーセントのOODギャップが削減される。
論文参考訳（メタデータ） (2024-12-29T21:54:39Z)
Context-DPO: Aligning Language Models for Context-Faithfulness [80.62221491884353]
本研究では,大規模言語モデルの文脈信頼度を高めるためのアライメント手法を提案する。 ConFiQAから提供されたコンテキストの質問に対する忠実で頑健な応答を活用することで、Context-DPOは直接の選好最適化を通じてLLMを調整します。大規模な実験により、私たちのContext-DPOは、一般的なオープンソースモデルで35%から280%の改善を達成し、コンテキスト忠実性を大幅に改善します。
論文参考訳（メタデータ） (2024-12-18T04:08:18Z)
On the Loss of Context-awareness in General Instruction Fine-tuning [101.03941308894191]
教師付き微調整後の文脈認識の喪失について検討した。性能低下は,会話指導の微調整中に学んだ異なる役割に対する偏見と関連していることがわかった。一般命令微調整データセットから文脈依存例を識別する指標を提案する。
論文参考訳（メタデータ） (2024-11-05T00:16:01Z)
On Context Utilization in Summarization with Large Language Models [83.84459732796302]
大きな言語モデル(LLM)は抽象的な要約タスクに優れ、流動的で関連する要約を提供する。最近の進歩は、100kトークンを超える長期入力コンテキストを扱う能力を拡張している。要約における文脈利用と位置バイアスに関する最初の総合的研究を行う。
論文参考訳（メタデータ） (2023-10-16T16:45:12Z)
Context vs Target Word: Quantifying Biases in Lexical Semantic Datasets [18.754562380068815]
BERTのような最先端のコンテキスト化モデルは、WiCやWSDのようなタスクを使用して、ワード・イン・コンテクストの表現を評価する。本研究は,主要な文脈的語彙意味タスクにおいて,文脈-単語間相互作用を検証した最初の定量的分析(探索ベースラインを用いた)を提案する。
論文参考訳（メタデータ） (2021-12-13T15:37:05Z)
An Explanation of In-context Learning as Implicit Bayesian Inference [117.19809377740188]
In-context Learning の出現における事前学習分布の役割について検討した。本研究では,潜在概念のベイズ的推論を通じて,文脈内学習が暗黙的に起こることを証明した。我々は,事前学習損失が同じであっても,スケーリングモデルのサイズがコンテキスト内精度を向上させることを実証的に見出した。
論文参考訳（メタデータ） (2021-11-03T09:12:33Z)
CIF-based Collaborative Decoding for End-to-end Contextual Speech Recognition [14.815422751109061]
コンテキストバイアスをより制御可能な方法でサポートするCIF(Continuous Integration-and-fire)ベースのモデルを提案する。追加のコンテキスト処理ネットワークを導入し、コンテキスト埋め込みを抽出し、音響的に関連するコンテキスト情報を統合し、コンテキスト出力分布をデコードする。提案手法は, 強ベースラインと比較して, 相対的文字誤り率 (CER) の8.83%/21.13%, 相対的名前付きエンティティ文字誤り率 (NE-CER) の40.14%/51.50%削減を実現する。
論文参考訳（メタデータ） (2020-12-17T09:40:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。