論文の概要: Using the Path of Least Resistance to Explain Deep Networks

• arxiv url: http://arxiv.org/abs/2502.12108v1
• Date: Mon, 17 Feb 2025 18:29:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-18 14:17:07.686281
• Title: Using the Path of Least Resistance to Explain Deep Networks
• Title（参考訳）: 深層ネットワークへの耐性パスの利用
• Authors: Sina Salek, Joseph Enguehard,
• Abstract要約: Integrated Gradients (IG) は、広く使われている公理経路に基づく属性法である。 直進経路が原因で属性に欠陥があることが示されます。 代替として測地統合勾配(GIG)を提案する。
• 参考スコア（独自算出の注目度）: 5.614094161229764
• License:
• Abstract: Integrated Gradients (IG), a widely used axiomatic path-based attribution method, assigns importance scores to input features by integrating model gradients along a straight path from a baseline to the input. While effective in some cases, we show that straight paths can lead to flawed attributions. In this paper, we identify the cause of these misattributions and propose an alternative approach that treats the input space as a Riemannian manifold, computing attributions by integrating gradients along geodesics. We call this method Geodesic Integrated Gradients (GIG). To approximate geodesic paths, we introduce two techniques: a k-Nearest Neighbours-based approach for smaller models and a Stochastic Variational Inference-based method for larger ones. Additionally, we propose a new axiom, Strong Completeness, extending the axioms satisfied by IG. We show that this property is desirable for attribution methods and that GIG is the only method that satisfies it. Through experiments on both synthetic and real-world data, we demonstrate that GIG outperforms existing explainability methods, including IG.
• Abstract（参考訳）: Integrated Gradients (IG) は、ベースラインから入力への直線経路に沿ったモデル勾配を統合することで、重要度を入力特徴に割り当てる。 いくつかのケースでは有効であるが、直進路が原因で帰属の欠陥が生じる可能性がある。 本稿では,これらの誤帰の原因を特定し,入力空間をリーマン多様体として扱う方法を提案する。 この手法をGeodesic Integrated Gradients (GIG)と呼ぶ。 測地線経路を近似するために、より小さなモデルに対する k-Nearest Neighbours に基づくアプローチとより大きいモデルに対する確率的変分推論に基づく手法を導入する。 さらに,IG が満たす公理を拡張した新しい公理である強完全性を提案する。 我々は,この特性が帰属法に望ましいこと,GIGがそれを満たす唯一の方法であることを示す。 GIGは、合成データと実世界のデータの両方で実験を行い、IGを含む既存の説明可能性手法よりも優れていることを示した。

関連論文リスト

• IG2: Integrated Gradient on Iterative Gradient Path for Feature Attribution [6.278326325782819]
  反復勾配経路統合勾配(IG2)はディープニューラルネットワークの顕著な経路帰属法である。 IG2は逆ファクト勾配を反復的に積分経路に組み込み、新しい経路(GradPath)と新しいベースライン(GradCF)を生成する XAIベンチマーク、ImageNet、MNIST、TRECの質問に対する回答、ウェハマップの失敗パターン、CelebAの顔属性の実験的結果は、IG2が優れた特徴属性を提供することを示す。
  論文  参考訳（メタデータ） (2024-06-16T08:48:03Z)
• Manifold Integrated Gradients: Riemannian Geometry for Feature Attribution [8.107199775668942]
  Integrated Gradients (IG)は、ブラックボックス深層学習モデルの一般的な特徴属性法である。 我々は、IGに関連する2つの主要な課題に対処する。ノイズの多い特徴可視化の生成と、敵の帰属攻撃に対する脆弱性である。 提案手法は,データ多様体の内在的幾何とより密接に関連し,経路に基づく特徴属性の適応を伴う。
  論文  参考訳（メタデータ） (2024-05-16T04:13:17Z)
• Optimizing Solution-Samplers for Combinatorial Problems: The Landscape of Policy-Gradient Methods [52.0617030129699]
  本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。 我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。 本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
  論文  参考訳（メタデータ） (2023-10-08T23:39:38Z)
• A Heat Diffusion Perspective on Geodesic Preserving Dimensionality Reduction [66.21060114843202]
  熱測地線埋め込みと呼ばれるより一般的な熱カーネルベースの多様体埋め込み法を提案する。 その結果,本手法は,地中真理多様体距離の保存において,既存の技術よりも優れていることがわかった。 また,連続体とクラスタ構造を併用した単一セルRNAシークエンシングデータセットに本手法を適用した。
  論文  参考訳（メタデータ） (2023-05-30T13:58:50Z)
• Interactive Segmentation as Gaussian Process Classification [58.44673380545409]
  クリックベースのインタラクティブセグメンテーション(IS)は、ユーザインタラクション下で対象オブジェクトを抽出することを目的としている。 現在のディープラーニング(DL)ベースの手法のほとんどは、主にセマンティックセグメンテーションの一般的なパイプラインに従っている。 本稿では,各画像上でガウス過程(GP)に基づく画素単位のバイナリ分類モデルとしてISタスクを定式化することを提案する。
  論文  参考訳（メタデータ） (2023-02-28T14:01:01Z)
• Geometrically Guided Integrated Gradients [0.3867363075280543]
  我々は「幾何学的誘導積分勾配」と呼ばれる解釈可能性法を導入する。 提案手法は,入力の複数のスケールバージョンからモデルの動的挙動を探索し,各入力に対する最適な属性をキャプチャする。 また,従来のモデルランダム化試験を補完する「モデル摂動」正当性チェックを提案する。
  論文  参考訳（メタデータ） (2022-06-13T05:05:43Z)
• Guided Integrated Gradients: An Adaptive Path Method for Removing Noise [9.792727625917083]
  統合グラディエンツ(IG)は、ディープニューラルネットワークのための一般的な特徴属性法である。 問題の原因の1つは、IG経路に沿ったノイズの蓄積である。 我々は、帰属経路自体に適応することを提案し、画像だけでなく、説明されるモデルにも経路を条件付けする。
  論文  参考訳（メタデータ） (2021-06-17T20:00:55Z)
• Improving Metric Dimensionality Reduction with Distributed Topology [68.8204255655161]
  DIPOLEは、局所的、計量的項と大域的、位相的項の両方で損失関数を最小化し、初期埋め込みを補正する次元推論後処理ステップである。 DIPOLEは、UMAP、t-SNE、Isomapといった一般的な手法よりも多くの一般的なデータセットで優れています。
  論文  参考訳（メタデータ） (2021-06-14T17:19:44Z)
• Self-supervised Geometric Perception [96.89966337518854]
  自己教師付き幾何知覚(self-supervised geometric perception)は、基底幾何モデルラベルなしで対応マッチングのための特徴記述子を学ぶためのフレームワークである。 また,SGPは,地上トラスラベルを用いて訓練した教師付きオークルよりも同等か優れる最先端性能を達成できることを示す。
  論文  参考訳（メタデータ） (2021-03-04T15:34:43Z)
• GELATO: Geometrically Enriched Latent Model for Offline Reinforcement Learning [54.291331971813364]
  オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。 本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。 提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
  論文  参考訳（メタデータ） (2021-02-22T19:42:40Z)
• Graph Based Gaussian Processes on Restricted Domains [13.416168979487118]
  非パラメトリック回帰では、入力はユークリッド空間の制限された部分集合に落ちるのが一般的である。 入力領域の幾何学を尊重する共分散を学習するグラフラプラシアン型GP(GL-GP)の新たなクラスを提案する。 本稿では,GL-GP手法の理論的サポートを提供し,各種アプリケーションの性能向上を示す。
  論文  参考訳（メタデータ） (2020-10-14T17:01:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。