論文の概要: ResLRP: The Role of Residual Cancellation in Attribution Instability in Vision Transformers

• arxiv url: http://arxiv.org/abs/2609.17152v1
• Date: Tue, 15 Sep 2026 13:17:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.533602
• Title: ResLRP: The Role of Residual Cancellation in Attribution Instability in Vision Transformers
• Title（参考訳）: ResLRP:視覚変換器の属性不安定性における残留キャンセラレーションの役割
• Abstract要約: 欠落する成分は,残余接続の治療であることを示す。 ResLRP(Residual-Aware Layer-wise Relevance Propagation)を導入する。 ResLRP は LRP の単純な拡張であり、その伝搬規則は残枝のキャンセルを明示的に考慮している。
• 参考スコア（独自算出の注目度）: 58.411900827911346
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Vision Transformers (ViTs) are central to most modern vision models, yet obtaining input attributions that are fine-grained, faithful, and stable remains challenging. Layer-wise Relevance Propagation (LRP) has been adapted to transformer attention, but in ViTs it often produces noisy, unfaithful explanations. We show that the missing ingredient is the treatment of residual connections: cancellation effects in residual pathways lead to attribution explosion. Moreover, we find that these cancellations are substantially stronger in ViTs than in language transformers. To address this issue, we introduce Residual-aware Layer-wise Relevance Propagation (ResLRP), a simple extension of LRP whose propagation rules explicitly account for cancellations in residual branches, are exactly conservative, and provably bound relevance explosion. Causal channel-wise interventions confirm that residual cancellation, not a generic regularization effect, drives the instability. ResLRP substantially improves attribution quality across faithfulness and localization, evaluated on ViT architectures spanning supervised, self-supervised, contrastive, hierarchical, and multimodal families, as well as on the ground-truth-controlled FunnyBirds benchmark. The largest gains arise in modern Vision Language Models (VLMs), with +27-29% localization and up to 3.4x faithfulness scores. Beyond benchmarks, ResLRP localizes Sparse Autoencoder (SAE) features in input space, and our residual amplification measure serves as an architecture-level diagnostic predicting where attribution degrades.
• Abstract（参考訳）: 視覚変換器(ViT)は現代のほとんどの視覚モデルの中心であるが、細粒度で忠実で安定した入力属性を得るのは難しい。 LRP(Layer-wise Relevance Propagation)はトランスフォーマーの注意に適応しているが、ViTではノイズや不信な説明がしばしば発生する。 残存経路におけるキャンセル効果は, 帰属爆発を引き起こすことが示唆された。 さらに、これらのキャンセルは言語変換器よりもViTの方がはるかに強いことが判明した。 この問題に対処するために、Residual-Aware Layer-wise Relevance Propagation (ResLRP)を導入します。 因果チャネルの介入は、一般的な正則化効果ではなく、残留キャンセルが不安定性を引き起こすことを裏付ける。 ResLRPは、教師付き、自己監督型、コントラスト型、階層型、マルチモーダルなファニーバード(FunnyBirds)のベンチマークだけでなく、教師付き、自己管理型、階層型、マルチモーダル型のViTアーキテクチャで評価された、忠実さとローカライゼーションにわたる帰属品質を大幅に改善する。 最新のビジョン言語モデル(VLM)では、+27-29%のローカライゼーションと3.4倍の忠実度スコアがある。 ベンチマークの他に、ResLRPはスパースオートエンコーダ(SAE)機能を入力空間にローカライズし、残差増幅法は属性の劣化箇所をアーキテクチャレベルで予測するのに役立つ。

関連論文リスト

• ARISE-RL: Agentic Rubric-Grounded Iterative Self-Evolution with Reinforcement Learning [74.19730275669227]
  ARISE-RLは、オープンエンドエージェントをトレーニングするための新しいフルサイクルの自己進化フレームワークである。 Reward-Gated Self-Evolution Distillation (RG-SED)を提案する。 ECR-Benchは,シングルツールディープリサーチとマルチツールトラベルプランニングを対象とする,専門家校正型ルーリックベンチマークスイートである。
  論文  参考訳（メタデータ） (2026-09-01T10:54:13Z)
• TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs [83.78708832901194]
  大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。 しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。 凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。 MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
  論文  参考訳（メタデータ） (2026-08-18T23:40:28Z)
• Actionable Hallucination Detection: Translating Latent Uncertainty into Agentic Critique [1.1172382217477128]
  AIエージェントとしてデプロイされるLarge Language Models (LLM)は、しばしばユーザ仕様のグラウンド障害を示す。 既存の検出方法は、幻覚をローカライズしないか、禁忌の推論遅延を発生しないため、実行可能でリアルタイムな修正を提供することができない。 フリーズベースLCM世代と並行して動作する軽量低ランクアダプタ(LoRA)であるLatent Criticを導入する。
  論文  参考訳（メタデータ） (2026-08-11T03:26:16Z)
• Diagnosing and Mitigating Compounding Failures in Agentic Persuasion via Taxonomic Strategy Retrieval [2.5607169168631696]
  分類学的戦略RAG(英: Taxonomic Strategy RAG、TS-RAG)は、個別の分類的ボトルネックを通じて戦略をルートし、議論的構造をトピックの内容から切り離すシステム介入である。 TS-RAGは、標準的なセマンティック検索が崩壊する抽象論理の転送を大幅に改善する。 非対称な配置において「能力橋」として機能し、軽量な説得者に対抗相手を一貫して打ち負かす権限を与える。
  論文  参考訳（メタデータ） (2026-06-23T12:16:27Z)
• Where to Refine, When to Stop: Rethinking Redundancy via Latent Discrepancy for Efficient Visual Autoregressive Generation [50.139984798361375]
  遅延不一致による冗長性を除去する学習自由フレームワークを提案する。 LD-Pruningは、Infinity-8Bの最大2.35倍のスピードアップを実現し、高い生成品質を維持しながら推論を大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-29T19:34:39Z)
• Robustness of Transformer-Based Fluence Map Prediction Under Clinically Realistic Perturbations [4.066732323672965]
  本研究では, 解剖学(CT, 輪郭)を線量にマッピングし, ビームレットフルエンスマップに変換する2段階トランスフォーマーパイプラインについて検討した。 本研究では, フラエンス段変圧器のバックボーンと階層的, グローバル的, ハイブリッド的注目度を比較した。 その結果、中等度摂動下ではスムーズな劣化がみられたが、急激な回転と騒音下では急激な故障がみられた。
  論文  参考訳（メタデータ） (2026-04-28T21:32:47Z)
• Causal Bootstrapped Alignment for Unsupervised Video-Based Visible-Infrared Person Re-Identification [52.784239635604735]
  VVI-ReIDは、静止画像以外にも時間情報が付加的な手がかりを提供する、全日監視のための重要な技術である。 既存のアプローチは、高価なクロスモダリティアノテーションによる完全な教師付き学習に大きく依存しており、スケーラビリティが制限されています。 そこで,本研究では,ビデオの先行を明示的に活用するCausal Bootstrapped Alignmentフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-17T02:15:59Z)
• Revisiting LRP: Positional Attribution as the Missing Ingredient for Transformer Explainability [53.21677928601684]
  階層的関連性伝播は、ディープラーニングにおける説明可能性に対する最も有望なアプローチの1つである。 そこで我々は,様々な位置符号化手法にまたがる属性の伝播を目的とした,理論的なLRP規則を提案する。 本手法は,視力とNLP説明可能性の両面において,最先端の課題を著しく上回っている。
  論文  参考訳（メタデータ） (2025-06-02T18:07:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。