論文の概要: On Spectral Properties of Gradient-based Explanation Methods

• arxiv url: http://arxiv.org/abs/2508.10595v1
• Date: Thu, 14 Aug 2025 12:37:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-15 22:24:48.311979
• Title: On Spectral Properties of Gradient-based Explanation Methods
• Title（参考訳）: 勾配に基づく説明法のスペクトル特性について
• Authors: Amir Mehrpanah, Erik Englesson, Hossein Azizpour,
• Abstract要約: 我々は,新しい確率的・スペクトル的視点を用いて説明法を解析する。 今回の研究では、勾配によるスペクトルバイアスが広範に広まっており、一般的な設計選択に光を当てています。 提案する形式主義に基づく2つの治療法を提案する。 (i) 標準摂動尺度を決定するメカニズムと, (ii) スペクトルレンズと呼ぶ集約手法である。
• 参考スコア（独自算出の注目度）: 6.181300669254824
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Understanding the behavior of deep networks is crucial to increase our confidence in their results. Despite an extensive body of work for explaining their predictions, researchers have faced reliability issues, which can be attributed to insufficient formalism. In our research, we adopt novel probabilistic and spectral perspectives to formally analyze explanation methods. Our study reveals a pervasive spectral bias stemming from the use of gradient, and sheds light on some common design choices that have been discovered experimentally, in particular, the use of squared gradient and input perturbation. We further characterize how the choice of perturbation hyperparameters in explanation methods, such as SmoothGrad, can lead to inconsistent explanations and introduce two remedies based on our proposed formalism: (i) a mechanism to determine a standard perturbation scale, and (ii) an aggregation method which we call SpectralLens. Finally, we substantiate our theoretical results through quantitative evaluations.
• Abstract（参考訳）: ディープネットワークの振る舞いを理解することは、結果に対する私たちの信頼を高めるために不可欠です。 予測を説明するための膨大な努力にもかかわらず、研究者は信頼性の問題に直面しており、これは不十分な形式主義によるものである。 本研究では,新しい確率的・スペクトル的視点を用いて説明法を公式に分析する。 本研究は,勾配による広範スペクトルバイアスを明らかにし,特に2乗勾配と入力摂動を用いた実験で発見された一般的な設計選択に光を当てた。 さらに、SmoothGradのような説明手法における摂動ハイパーパラメータの選択が矛盾する説明を導き出し、提案した形式主義に基づく2つの治療法を導入することを特徴付ける。 一 標準摂動尺度を決定するための機構、及び (ii)SpectralLensと呼ぶアグリゲーション手法。 最後に,理論的結果の定量的評価を行った。

関連論文リスト

• On the Complexity-Faithfulness Trade-off of Gradient-Based Explanations [5.528734654854472]
  ReLUネットワークはシャープな遷移を持ち、時には予測のために個々のピクセルに依存する。 GradCAMのような既存の手法は、忠実さを犠牲にして代理モデルを作成することによって、これらの説明を円滑にする。 我々は、スムーズさ、忠実さ、およびそれらのトレードオフを系統的に分析し、定量化する統一スペクトルフレームワークを導入する。
  論文  参考訳（メタデータ） (2025-08-14T09:49:07Z)
• Avoided-crossings, degeneracies and Berry phases in the spectrum of quantum noise through analytic Bloch-Messiah decomposition [49.1574468325115]
  解析的ブロッホ・メシア分解 (analytic Bloch-Messiah decomposition) は量子光学系の力学を特徴づけるためのアプローチを提供する。 単一パラメータが変化した場合,回避された交差は自然に発生し,特異ベクトルの過敏性をもたらすことを示す。 我々は,避けられた交差を意図的に設計することで,フォトニックシステムのスペクトル応答をプログラムできる可能性を強調した。
  論文  参考訳（メタデータ） (2025-04-29T13:14:15Z)
• Towards Understanding the Optimization Mechanisms in Deep Learning [5.281849820329249]
  本稿では,ディープニューラルネットワークを用いた教師付き分類のメカニズムを探るため,分布推定の観点を採用する。 後者では、オーバー・アンド・確率ランダム化のようなメカニズムに関する理論的洞察を提供する。
  論文  参考訳（メタデータ） (2025-03-29T08:46:13Z)
• Spectral Analysis of Diffusion Models with Application to Schedule Design [23.105365495914644]
  拡散モデル(DM)は、複雑なデータ分散をモデル化するための強力なツールとして登場した。 我々は、DMの推論プロセスの新たな解析を行い、包括的周波数応答の観点を導入する。 提案手法を応用して,データの特徴と効果的に整合するノイズスケジュールを設計する方法を実証する。
  論文  参考訳（メタデータ） (2025-01-31T21:50:31Z)
• Explaining Predictive Uncertainty by Exposing Second-Order Effects [13.83164409095901]
  本稿では,2次効果に基づく予測不確実性を説明する新しい手法を提案する。 提案手法は一般に適用可能であり,一般的な帰属手法を強力な二次不確実性説明器に変換することができる。
  論文  参考訳（メタデータ） (2024-01-30T21:02:21Z)
• Spectral Decomposition Representation for Reinforcement Learning [100.0424588013549]
  本稿では, スペクトル分解表現法(SPEDER)を提案する。この手法は, データ収集ポリシーに急激な依存を生じさせることなく, ダイナミックスから状態-作用の抽象化を抽出する。 理論的解析により、オンライン設定とオフライン設定の両方において提案アルゴリズムのサンプル効率が確立される。 実験により、いくつかのベンチマークで現在の最先端アルゴリズムよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-08-19T19:01:30Z)
• On the Benefits of Large Learning Rates for Kernel Methods [110.03020563291788]
  本稿では,カーネル手法のコンテキストにおいて,現象を正確に特徴付けることができることを示す。 分離可能なヒルベルト空間における2次対象の最小化を考慮し、早期停止の場合、学習速度の選択が得られた解のスペクトル分解に影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2022-02-28T13:01:04Z)
• Neural density estimation and uncertainty quantification for laser induced breakdown spectroscopy spectra [4.698576003197588]
  構造付きスペクトル潜在空間上の正規化フローを用いて確率密度を推定する。 観測されていない状態ベクトルを予測する際に不確実性定量化法を評価する。 火星探査機キュリオシティが収集したレーザー誘起分解分光データに本手法の有効性を実証する。
  論文  参考訳（メタデータ） (2021-08-17T01:10:29Z)
• Discovering Latent Causal Variables via Mechanism Sparsity: A New Principle for Nonlinear ICA [81.4991350761909]
  ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。 潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
  論文  参考訳（メタデータ） (2021-07-21T14:22:14Z)
• Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
  実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。 特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。 本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
  論文  参考訳（メタデータ） (2021-02-12T12:23:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。