論文の概要: The Intrusion Pathway: How Non-Evidential Context Degrades Language Model Performance

• arxiv url: http://arxiv.org/abs/2611.07778v1
• Date: Thu, 05 Nov 2026 10:18:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.654778
• Title: The Intrusion Pathway: How Non-Evidential Context Degrades Language Model Performance
• Title（参考訳）: 侵入経路:非情報文脈が言語モデルの性能をいかに劣化させるか
• Abstract要約: 我々は,プロンプトが意味のない文脈を含む場合,言語モデルが精度を低下させることを示す。 このノイズは、検索、ツール使用、長期展開に及んでいる。 汚職は侵入経路まで遡る。
• 参考スコア（独自算出の注目度）: 54.768582914863174
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models lose accuracy when a prompt contains non-evidential context: irrelevant statements from unrelated domains, or random off-distribution tokens, with no competing answer and no semantic overlap with the query. Such noise pervades retrieval-augmented, tool-using, and long-context deployments, yet the failure has lacked a mechanistic account. We trace the corruption to the Intrusion Pathway, which starts with MLPs enriching both query-subject and irrelevant-token representations, parroting heads carry prefix-token content to the prediction position, and relational readers largely avoid unrelated sources. Nevertheless, preserved subject enrichment and selective reading do not prevent intrusion in the broader computation. We then localize part of this interference to a sparse set of attention heads, which we call intrusion heads. Their prefix-derived writes promote distractor-related content, while their reduced support for the correct answer arises primarily from weaker non-prefix contributions rather than direct suppression by the prefix. The same heads transfer across tasks and distractor types and are largely weight-disjoint from the heads that integrate relevant contextual evidence, enabling a class-conditional intervention. Replacing the corrupted last-token residual with its clean counterpart, an oracle probe that requires a matched clean forward pass, recovers 97.6% on average of the distractor-induced drop across four downstream tasks. A deployable mask level knockout of about ten heads, roughly 1% of the model's attention heads, recovers 57% at bounded cost to helpful context.
• Abstract（参考訳）: 言語モデルは、プロンプトが非エビデンシャルなコンテキストを含む場合、正確さを失う。無関係なドメインからのステートメントやランダムなオフディストリビューショントークンであり、競合する回答はなく、クエリとセマンティックな重複もない。 このようなノイズは、検索、ツールの使用、長いコンテキストのデプロイメントに及んでいるが、メカニスティックな説明が欠如している。 提案手法は,クエリ対象表現と無関係表現の両方を豊かにするMPPから始まり,オウム化ヘッドはプレフィックス・トーケンのコンテンツを予測位置に運び,リレーショナル・リーダーは関係のない情報源をほとんど避ける。 それでも、保存された被写体エンリッチメントと選択的読解は、より広い計算における侵入を妨げない。 そして、この干渉の一部は、侵入ヘッドと呼ばれる、まばらな注意ヘッドのセットに局所化します。 接頭辞由来の書き込みは、散発的関連コンテンツを促進するが、正しい回答に対するサポートの減少は、主に接頭辞による直接の抑制よりも、より弱い非修正貢献によって生じる。 同じヘッドがタスクやイントラクタタイプにまたがって移動し、関連する文脈的証拠を統合するヘッドから大きく重み付けされ、クラス-条件的介入が可能である。 破損した残余をクリーンなものに置き換え、クリーンな前方通過を必要とするオラクルプローブは、4つの下流のタスクに散らばる散逸によって引き起こされる平均で97.6%を回復する。 約10個のヘッド、約1%のアテンションヘッドのデプロイ可能なマスクレベルのノックアウトは、57%のバウンドコストで回復し、コンテキストに役立ちます。

関連論文リスト

• Many Perturbations, Shared Failure Dynamics: Tracing Direction-Sensitive Perturbation Influence in Language Models [11.514477267634225]
  不均一な言語変更は、入力非依存の障害方向を共有することなく、幾何学的および読み出し的関係を共有することができる。 コンパクトリザーブ・アンド・トランスミッションモデルは、Qwen3-32BとGemma 4 31Bの保留家族とアイテム間の障害を予測する。 その結果、自然障害の完全な説明と局所因果感受性を区別しながら、予備、変換、応答間の共通関係を支持する。
  論文  参考訳（メタデータ） (2026-10-23T08:09:28Z)
• From Relation-Specific Heads to Shared Interventions: Contextual Entrainment in Language Models [0.8330284986715402]
  大規模言語モデルは、文脈内での学習、形式に従うこと、および局所的な証拠に適応するために、素早い文脈に依存している。 モデルでは、後続のクエリに応答する際に、以前のコンテキストから無関係なトークンを再利用することができる。 先行研究は、この振る舞いを文脈的エントレメントとして認識し、アブレーションが減少する注意ヘッドを見つけ、これらのヘッドは、主にタスクまたは関係性固有のものであると主張した。 しかし、文脈制約のメカニズムは、関係によって真に孤立しているか、関係条件付き検索は関係間で共有される再利用可能なコンポーネントを回復するのか?
  論文  参考訳（メタデータ） (2026-10-13T16:33:02Z)
• Decomposing and Predicting Annotation Disagreement in Harmful Content Across Languages [48.69228180369574]
  アノテーションの不一致は、主観的なタスクの有意義な性質として、ますます認識されている。 テキストの解釈可能な意味特性から不一致を予測することを提案する。 モデルとデータセット全体、デロゲーションに関する質問、コンテキストの欠如、決定境界が最強の予測要因として機能する。
  論文  参考訳（メタデータ） (2026-10-13T15:49:44Z)
• Decoupling Token Roles in Autoregressive Pretraining [64.8145310915365]
  ノイズの多いトークンを予測しやすくすることは、ターゲットとしてのダメージを減少させるが、コンテキストとして増大させる。 同じ分離は、言語モデルによって生成されたテキストを説明するのに役立つ。
  論文  参考訳（メタデータ） (2026-09-27T09:33:02Z)
• Lexical Perturbations Disrupt LLM Reasoning: An Empirical Study of Attention Diversion [5.695799452859879]
  大規模言語モデル(LLM)は強い推論性能を達成するが、現実的な語彙的腐敗に対する頑健さはいまだに理解されていない。 キーボードノイズ,文字スワップ,フィラー挿入の4つの推論ベンチマークにおいて,4つのオープンウェイトな命令調整モデルとフロンティアモデルを評価した。 語彙的破損断片はサブワードトークン化され、結果として生じる断片は不均等な注意を惹きつける。
  論文  参考訳（メタデータ） (2026-08-22T23:51:33Z)
• Sparse Attention for Dense Open-Vocabulary Prediction in CLIP [54.45759517856271]
  最終視覚的自己注意層における行方向のソフトマックスの推測時間置換について検討した。 entmaxは低得点を正確に0にマッピングするデータ依存しきい値を適用するため、暗黙のデノイザとして機能する。 オープン語彙タスクセンスセマンティックセマンティックセグメンテーション (Pascal VOC, Pascal Context, ADE20K) ときめ細かい検索 (FG-OVD) について検討する。
  論文  参考訳（メタデータ） (2026-07-08T08:30:48Z)
• Unsupervised Identification and Removal of Spurious Correlations During Fine-Tuning [6.800325210654667]
  キュレートされたデータセット上で事前訓練された言語モデルを微調整すると、素早い相関が生まれる。 そこで本研究では,LoRAファインチューンの重みから潜伏因子を,監督なしで同定できることを実証した。 本稿では,関連Spurious Patternsのグラディエント・プロジェクションであるGRASPを提案する。
  論文  参考訳（メタデータ） (2026-05-26T20:51:48Z)
• The Point of No Return: Counterfactual Localization of Deceptive Commitment in Language-Model Reasoning [9.827138852806305]
  本稿では,言語モデルにおける偽装の偽装化について紹介する。 詐欺は決して誘発されないが、戦略的インセンティブから生じる5つの環境を構築します。 得られたコーパスは4つの推論モデルで$sim$1.46Mの文をローカライズする。
  論文  参考訳（メタデータ） (2026-05-16T18:36:29Z)
• CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
  我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。 静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。 LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
  論文  参考訳（メタデータ） (2026-02-04T00:12:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。