論文の概要: Guided Integrated Gradients: An Adaptive Path Method for Removing Noise

• arxiv url: http://arxiv.org/abs/2106.09788v1
• Date: Thu, 17 Jun 2021 20:00:55 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-21 14:17:33.110038
• Title: Guided Integrated Gradients: An Adaptive Path Method for Removing Noise
• Title（参考訳）: 誘導型統合勾配:雑音除去のための適応経路法
• Authors: Andrei Kapishnikov, Subhashini Venugopalan, Besim Avci, Ben Wedin, Michael Terry, Tolga Bolukbasi
• Abstract要約: 統合グラディエンツ(IG)は、ディープニューラルネットワークのための一般的な特徴属性法である。 問題の原因の1つは、IG経路に沿ったノイズの蓄積である。 我々は、帰属経路自体に適応することを提案し、画像だけでなく、説明されるモデルにも経路を条件付けする。
• 参考スコア（独自算出の注目度）: 9.792727625917083
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Integrated Gradients (IG) is a commonly used feature attribution method for deep neural networks. While IG has many desirable properties, the method often produces spurious/noisy pixel attributions in regions that are not related to the predicted class when applied to visual models. While this has been previously noted, most existing solutions are aimed at addressing the symptoms by explicitly reducing the noise in the resulting attributions. In this work, we show that one of the causes of the problem is the accumulation of noise along the IG path. To minimize the effect of this source of noise, we propose adapting the attribution path itself -- conditioning the path not just on the image but also on the model being explained. We introduce Adaptive Path Methods (APMs) as a generalization of path methods, and Guided IG as a specific instance of an APM. Empirically, Guided IG creates saliency maps better aligned with the model's prediction and the input image that is being explained. We show through qualitative and quantitative experiments that Guided IG outperforms other, related methods in nearly every experiment.
• Abstract（参考訳）: 統合勾配 (ig) はディープニューラルネットワークで一般的に用いられる特徴帰属法である。 igには多くの望ましい特性があるが、この方法は視覚モデルに適用すると予測されたクラスとは無関係な領域にスプリアス/ノイズの画素帰属を生成することが多い。 これは以前にも指摘されてきたが、既存のほとんどのソリューションは、結果の帰属のノイズを明示的に減らすことで、症状に対処することを目的としている。 本研究では,問題の原因の一つとして,IG経路に沿った雑音の蓄積があげられる。 このノイズの発生源の影響を最小限に抑えるため、アトリビューションパス自体の適応を提案する。 本稿では,パスメソッドの一般化としてAdaptive Path Methods (APMs)を導入し,APMの具体例としてIGをガイドする。 経験的に、 Guided IG はモデルの予測や説明されている入力画像とよりよく一致した精度マップを作成する。 ほぼすべての実験において、IGが他の関連手法よりも優れる定性的かつ定量的な実験を示す。

関連論文リスト

• Rethinking the Principle of Gradient Smooth Methods in Model Explanation [2.6819730646697972]
  グラディエント・スムーシング(Gradient Smoothing)は、勾配モデル記述法における雑音の低減に有効な手法である。 これらの知見に基づいて適応的な勾配平滑化手法AdaptGradを提案する。
  論文  参考訳（メタデータ） (2024-10-10T08:24:27Z)
• GeoGuide: Geometric guidance of diffusion models [8.34616719984217]
  GeoGuideは、データ多様体から拡散モデルの軌道距離をトレースするガイダンスモデルである。 FIDスコアと生成された画像の品質の両方に関して、確率論的アプローチ ADM-G を超えている。
  論文  参考訳（メタデータ） (2024-07-17T07:56:27Z)
• IG2: Integrated Gradient on Iterative Gradient Path for Feature Attribution [6.278326325782819]
  反復勾配経路統合勾配(IG2)はディープニューラルネットワークの顕著な経路帰属法である。 IG2は逆ファクト勾配を反復的に積分経路に組み込み、新しい経路(GradPath)と新しいベースライン(GradCF)を生成する XAIベンチマーク、ImageNet、MNIST、TRECの質問に対する回答、ウェハマップの失敗パターン、CelebAの顔属性の実験的結果は、IG2が優れた特徴属性を提供することを示す。
  論文  参考訳（メタデータ） (2024-06-16T08:48:03Z)
• Model-Based Reparameterization Policy Gradient Methods: Theory and Practical Algorithms [88.74308282658133]
  Reization (RP) Policy Gradient Methods (PGM) は、ロボット工学やコンピュータグラフィックスにおける連続的な制御タスクに広く採用されている。 近年の研究では、長期強化学習問題に適用した場合、モデルベースRP PGMはカオス的かつ非滑らかな最適化環境を経験する可能性があることが示されている。 本稿では,長期モデルアンロールによる爆発的分散問題を緩和するスペクトル正規化法を提案する。
  論文  参考訳（メタデータ） (2023-10-30T18:43:21Z)
• Domain Generalization Guided by Gradient Signal to Noise Ratio of Parameters [69.24377241408851]
  ソースドメインへのオーバーフィッティングは、ディープニューラルネットワークの勾配に基づくトレーニングにおいて一般的な問題である。 本稿では,ネットワークパラメータの勾配-信号-雑音比(GSNR)を選択することを提案する。
  論文  参考訳（メタデータ） (2023-10-11T10:21:34Z)
• Enhancing Generalization of Universal Adversarial Perturbation through Gradient Aggregation [40.18851174642427]
  深部ニューラルネットワークは普遍的逆境摂動(UAP)に脆弱である 本稿では,一般化の観点から,UAP生成手法の真剣なジレンマについて検討する。 グラディエント・アグリゲーション(SGA)と呼ばれるシンプルで効果的な手法を提案する。 SGAは勾配の消失を緩和し、局所最適度の低下から同時に逃れる。
  論文  参考訳（メタデータ） (2023-08-11T08:44:58Z)
• Integrated Decision Gradients: Compute Your Attributions Where the Model Makes Its Decision [9.385886214196479]
  我々は、IDG(Integrated decision gradients)と呼ばれる帰属アルゴリズムを提案する。 IDGは、モデルが決定する経路の領域、すなわち出力ロジットがゼロから最終値に急速に遷移する経路の部分からの勾配の統合に焦点を当てている。 適応サンプリングによって決定される一様でない部分分割を利用して経路積分の和近似における誤差を最小化する。
  論文  参考訳（メタデータ） (2023-05-31T17:25:12Z)
• Deep Variational Network Toward Blind Image Restoration [60.45350399661175]
  ブラインド画像復元はコンピュータビジョンでは一般的だが難しい問題である。 両利点を両立させることを目的として,新しいブラインド画像復元手法を提案する。 画像デノイングと超解像という2つの典型的なブラインド赤外線タスクの実験により,提案手法が現状よりも優れた性能を達成できることが実証された。
  論文  参考訳（メタデータ） (2020-08-25T03:30:53Z)
• Shape Matters: Understanding the Implicit Bias of the Noise Covariance [76.54300276636982]
  勾配降下のノイズはパラメータ化モデルに対するトレーニングにおいて重要な暗黙の正則化効果をもたらす。 ミニバッチやラベルの摂動によって引き起こされるパラメータ依存ノイズはガウスノイズよりもはるかに効果的であることを示す。 分析の結果,パラメータ依存ノイズは局所最小値に偏りを生じさせるが,球状ガウス雑音は生じないことがわかった。
  論文  参考訳（メタデータ） (2020-06-15T18:31:02Z)
• On Noise Injection in Generative Adversarial Networks [85.51169466453646]
  ノイズ注入は高忠実度画像の生成における重要な技術のひとつであることが証明されている。 GANにおけるノイズ注入の役割を理論的に解析するための幾何学的枠組みを提案する。
  論文  参考訳（メタデータ） (2020-06-10T15:24:48Z)
• Understanding Integrated Gradients with SmoothTaylor for Deep Neural Network Attribution [70.78655569298923]
  ディープニューラルネットワークモデルの属性方法としての統合グラディエントは、シンプルな実装性を提供する。 理解しやすさに影響を及ぼす説明のうるささに悩まされる。 SmoothGrad法は,ノイズ問題を解消し,勾配に基づく帰属法の帰属写像を円滑化するために提案される。
  論文  参考訳（メタデータ） (2020-04-22T10:43:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。