論文の概要: Unifying Perplexing Behaviors in Modified BP Attributions through Alignment Perspective

• arxiv url: http://arxiv.org/abs/2503.11160v1
• Date: Fri, 14 Mar 2025 07:58:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-17 13:08:48.771662
• Title: Unifying Perplexing Behaviors in Modified BP Attributions through Alignment Perspective
• Title（参考訳）: 配向視点による改良BP属性の複雑化挙動の統一
• Authors: Guanhua Zheng, Jitao Sang, Changsheng Xu,
• Abstract要約: GBP, RectGrad, LRP, DTD などの手法の統一理論フレームワークを提案する。 活性化ニューロンの重みを結合して入力アライメントを実現することを実証した。 このアライメントにより、可視化品質が向上し、重量ランダム化に対する感度が低下する。
• 参考スコア（独自算出の注目度）: 61.5509267439999
• License:
• Abstract: Attributions aim to identify input pixels that are relevant to the decision-making process. A popular approach involves using modified backpropagation (BP) rules to reverse decisions, which improves interpretability compared to the original gradients. However, these methods lack a solid theoretical foundation and exhibit perplexing behaviors, such as reduced sensitivity to parameter randomization, raising concerns about their reliability and highlighting the need for theoretical justification. In this work, we present a unified theoretical framework for methods like GBP, RectGrad, LRP, and DTD, demonstrating that they achieve input alignment by combining the weights of activated neurons. This alignment improves the visualization quality and reduces sensitivity to weight randomization. Our contributions include: (1) Providing a unified explanation for multiple behaviors, rather than focusing on just one. (2) Accurately predicting novel behaviors. (3) Offering insights into decision-making processes, including layer-wise information changes and the relationship between attributions and model decisions.
• Abstract（参考訳）: 属性は、意思決定プロセスに関連する入力ピクセルを特定することを目的としている。 一般的なアプローチは、修正されたバックプロパゲーション(BP)ルールを使用して決定を逆転させることで、元の勾配よりも解釈可能性を向上させる。 しかし、これらの手法には確固たる理論的基盤がなく、パラメータのランダム化に対する感度の低下、信頼性への懸念の高まり、理論的な正当化の必要性の強調など、複雑な振る舞いを示す。 本研究では, GBP, RectGrad, LRP, DTD などの手法の統一的理論的枠組みを提案し, 活性化ニューロンの重みを結合して入力アライメントを実現することを示した。 このアライメントにより、可視化品質が向上し、重量ランダム化に対する感度が低下する。 1)1つだけに焦点を当てるのではなく、複数の行動に関する統一的な説明を提供すること。 2)新しい行動の正確な予測 (3)レイヤワイド情報の変更や属性とモデル決定の関係など、意思決定プロセスに関する洞察の提供。

関連論文リスト

• Faster Adaptive Optimization via Expected Gradient Outer Product Reparameterization [11.394969272703014]
  本研究では,多種多様な関数に対して,EGOP行列スペクトルの減衰の影響を受け,適応アルゴリズムの選択に対する感度の影響を示す。
  論文  参考訳（メタデータ） (2025-02-03T18:26:35Z)
• Smart Predict-then-Optimize Method with Dependent Data: Risk Bounds and Calibration of Autoregression [7.369846475695131]
  本稿では,決定段階における最適化問題を直接対象とする自己回帰型SPO手法を提案する。 我々は, 絶対損失と最小二乗損失と比較して, SPO+サロゲートの有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2024-11-19T17:02:04Z)
• PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
  PseudoNeg-MAEは,ポイントマスク自動エンコーダのグローバルな特徴表現を強化する,自己教師型学習フレームワークである。 PseudoNeg-MAE は ModelNet40 と ScanObjectNN のデータセット上で最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2024-09-24T07:57:21Z)
• Revisiting Edge Perturbation for Graph Neural Network in Graph Data Augmentation and Attack [58.440711902319855]
  エッジ摂動はグラフ構造を変更する方法である。 グラフニューラルネットワーク(GNN)の性能への影響に基づき、2つの静脈に分類できる。 統一的な定式化を提案し、エッジ摂動法の2つのカテゴリ間の明確な境界を確立する。
  論文  参考訳（メタデータ） (2024-03-10T15:50:04Z)
• Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
  この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。 本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。 学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
  論文  参考訳（メタデータ） (2024-01-10T02:38:21Z)
• Input-gradient space particle inference for neural network ensembles [32.64178604645513]
  FoRDE (First-order Repulsive Deep Ensemble) は、ParVIに基づくアンサンブル学習手法である。 画像分類データセットと転写学習タスクの実験は、FORDEがゴールドスタンダードのDsよりも大幅に優れていることを示している。
  論文  参考訳（メタデータ） (2023-06-05T11:00:11Z)
• Towards Robust and Adaptive Motion Forecasting: A Causal Representation Perspective [72.55093886515824]
  本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。 我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。 合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2021-11-29T18:59:09Z)
• Variational Inference MPC using Tsallis Divergence [10.013572514839082]
  非拡張型Tsallis発散を用いた可変推論確率最適制御の枠組みを提供する。 新規な Tsallis Variational Inference-Model Predictive Control アルゴリズムが導出される。
  論文  参考訳（メタデータ） (2021-04-01T04:00:49Z)
• Contrastive Reasoning in Neural Networks [26.65337569468343]
  因果クラス依存性を識別する機能に基づいて構築された推論は、フィードフォワード推論と呼ばれる。 本稿では,コントラスト推論の構造を形式化し,ニューラルネットワークのコントラスト概念を抽出する手法を提案する。 平均精度の3.47%、2.56%、5.48%の改善を報告することにより、歪み下での対比認識の価値を実証する。
  論文  参考訳（メタデータ） (2021-03-23T05:54:36Z)
• Cogradient Descent for Bilinear Optimization [124.45816011848096]
  双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。 一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。 本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
  論文  参考訳（メタデータ） (2020-06-16T13:41:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。