論文の概要: The Manifold Hypothesis for Gradient-Based Explanations

• arxiv url: http://arxiv.org/abs/2206.07387v2
• Date: Mon, 15 Jul 2024 09:44:31 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-18 00:30:09.239008
• Title: The Manifold Hypothesis for Gradient-Based Explanations
• Title（参考訳）: 勾配に基づく説明のためのマニフォールド仮説
• Authors: Sebastian Bordt, Uddeshya Upadhyay, Zeynep Akata, Ulrike von Luxburg,
• Abstract要約: 勾配に基づく説明アルゴリズムは知覚的に整合した説明を提供する。 特徴属性がデータの接する空間と一致しているほど、知覚的に一致している傾向にあることを示す。 説明アルゴリズムは、その説明をデータ多様体と整合させるよう積極的に努力すべきである。
• 参考スコア（独自算出の注目度）: 55.01671263121624
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When do gradient-based explanation algorithms provide perceptually-aligned explanations? We propose a criterion: the feature attributions need to be aligned with the tangent space of the data manifold. To provide evidence for this hypothesis, we introduce a framework based on variational autoencoders that allows to estimate and generate image manifolds. Through experiments across a range of different datasets -- MNIST, EMNIST, CIFAR10, X-ray pneumonia and Diabetic Retinopathy detection -- we demonstrate that the more a feature attribution is aligned with the tangent space of the data, the more perceptually-aligned it tends to be. We then show that the attributions provided by popular post-hoc methods such as Integrated Gradients and SmoothGrad are more strongly aligned with the data manifold than the raw gradient. Adversarial training also improves the alignment of model gradients with the data manifold. As a consequence, we suggest that explanation algorithms should actively strive to align their explanations with the data manifold. This is an extended version of a CVPR Workshop paper. Code is available at https://github.com/tml-tuebingen/explanations-manifold.
• Abstract（参考訳）: 勾配に基づく説明アルゴリズムは知覚に整合した説明を提供するのか? 特徴属性はデータ多様体の接空間と整合する必要がある。 この仮説を実証するために,画像多様体を推定・生成できる変分オートエンコーダに基づくフレームワークを提案する。 さまざまなデータセット(MNIST、EMNIST、CIFAR10、X線肺炎、糖尿病網膜症検出など)にわたる実験を通じて、私たちは、特徴属性がデータの接する空間と一致しているほど、知覚的に整合する傾向にあることを示す。 次に、積分グラディエントやSmoothGradのような一般的なポストホック法によって提供される属性が、生勾配よりもデータ多様体と強く一致していることを示す。 逆トレーニングは、データ多様体とのモデル勾配のアライメントも改善する。 その結果、説明アルゴリズムは、その説明をデータ多様体と整合させるよう積極的に努力すべきであると示唆した。 これはCVPRワークショップの論文の拡張版である。 コードはhttps://github.com/tml-tuebingen/explanations-manifold.comで公開されている。

関連論文リスト

• Learning to Approximate Adaptive Kernel Convolution on Graphs [4.434835769977399]
  本稿では,拡散カーネルのスケールによって特徴集約の範囲を制御できる拡散学習フレームワークを提案する。 本モデルは,最先端データセットの性能評価のためのノードワイズ分類のための様々な標準で検証されている。 グラフ分類のための実世界の脳ネットワークデータにも検証され、アルツハイマー分類の実用性を実証している。
  論文  参考訳（メタデータ） (2024-01-22T10:57:11Z)
• Improving embedding of graphs with missing data by soft manifolds [51.425411400683565]
  グラフ埋め込みの信頼性は、連続空間の幾何がグラフ構造とどの程度一致しているかに依存する。 我々は、この問題を解決することができる、ソフト多様体と呼ばれる新しい多様体のクラスを導入する。 グラフ埋め込みにソフト多様体を用いることで、複雑なデータセット上のデータ解析における任意のタスクを追求するための連続空間を提供できる。
  論文  参考訳（メタデータ） (2023-11-29T12:48:33Z)
• Gradient-Based Spectral Embeddings of Random Dot Product Graphs [7.612218105739107]
  本稿では,RDPG (Random Dot Product Graph) の組込み問題の解法について述べる。 そこで我々は, 結果の多様体に対して, 実現可能な新しい最適化手法を開発した。 当社のオープンソースアルゴリズムの実装はスケーラブルで、エッジデータに欠ける堅牢さと異なり、ストリーミンググラフからゆっくりと、潜伏した位置を追跡することができます。
  論文  参考訳（メタデータ） (2023-07-25T21:09:55Z)
• A Heat Diffusion Perspective on Geodesic Preserving Dimensionality Reduction [66.21060114843202]
  熱測地線埋め込みと呼ばれるより一般的な熱カーネルベースの多様体埋め込み法を提案する。 その結果,本手法は,地中真理多様体距離の保存において,既存の技術よりも優れていることがわかった。 また,連続体とクラスタ構造を併用した単一セルRNAシークエンシングデータセットに本手法を適用した。
  論文  参考訳（メタデータ） (2023-05-30T13:58:50Z)
• Convolutional Filtering on Sampled Manifolds [122.06927400759021]
  サンプル多様体上の畳み込みフィルタリングは連続多様体フィルタリングに収束することを示す。 本研究は,ナビゲーション制御の問題点を実証的に明らかにした。
  論文  参考訳（メタデータ） (2022-11-20T19:09:50Z)
• Diffusion Models for Causal Discovery via Topological Ordering [20.875222263955045]
  emphTopological ordering approachは、グラフ空間ではなく置換を探索することによって因果発見の最適化空間を減少させる。 ANMsの場合、データログのようなemphHessianは、葉ノードを因果グラフで見つけるのに使用することができ、トポロジ的順序付けを可能にする。 ニューラルネットワークを再トレーニングすることなく、学習したヘッセンを更新する理論を導入し、サンプルのサブセットによる計算が注文の正確な近似を与えることを示す。
  論文  参考訳（メタデータ） (2022-10-12T13:36:29Z)
• Inferring Manifolds From Noisy Data Using Gaussian Processes [17.166283428199634]
  ほとんどの既存の多様体学習アルゴリズムは、元のデータを低次元座標で置き換える。 本稿では,これらの問題に対処するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-10-14T15:50:38Z)
• Hard-label Manifolds: Unexpected Advantages of Query Efficiency for Finding On-manifold Adversarial Examples [67.23103682776049]
  画像分類モデルに対する最近のゼロオーダーのハードラベル攻撃は、ファーストオーダーのグラデーションレベルの代替品に匹敵する性能を示している。 最近、グラデーションレベルの設定では、通常の敵対的な例がデータ多様体から離れ、オンマニホールドの例が実際には一般化エラーであることが示されている。 雑音の多い多様体距離オラクルに基づく情報理論論的議論を提案し、敵の勾配推定を通じて多様体情報を漏洩させる。
  論文  参考訳（メタデータ） (2021-03-04T20:53:06Z)
• Hyperbolic Graph Embedding with Enhanced Semi-Implicit Variational Inference [48.63194907060615]
  半単純グラフ変分自動エンコーダを用いて,低次元グラフ潜在表現における高次統計量を取得する。 我々は、階層構造を示すグラフを効率的に表現するために、ポインケア埋め込みを通して潜在空間に双曲幾何学を組み込む。
  論文  参考訳（メタデータ） (2020-10-31T05:48:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。