論文の概要: EMaP: Explainable AI with Manifold-based Perturbations
- arxiv url: http://arxiv.org/abs/2209.08453v1
- Date: Sun, 18 Sep 2022 02:43:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-20 18:54:26.159906
- Title: EMaP: Explainable AI with Manifold-based Perturbations
- Title(参考訳): EMaP: マニフォールドに基づく摂動を用いた説明可能なAI
- Authors: Minh N. Vu, Huy Q. Mai, My T. Thai
- Abstract要約: より忠実で堅牢な説明が得られるように、新しい摂動方式を導入する。
データトポロジ上の摂動方向は、離散的なグロモフ・ハウスドルフ距離の最悪のケース解析と永続的ホモロジーによる平均ケース解析の両方において、データトポロジをよりよく保存することを示す。
実験の結果,EMaPは説明者の性能を向上するだけでなく,近年開発された摂動法に対する攻撃を克服する上でも有効であることがわかった。
- 参考スコア(独自算出の注目度): 23.216762728356798
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In the last few years, many explanation methods based on the perturbations of
input data have been introduced to improve our understanding of decisions made
by black-box models. The goal of this work is to introduce a novel perturbation
scheme so that more faithful and robust explanations can be obtained. Our study
focuses on the impact of perturbing directions on the data topology. We show
that perturbing along the orthogonal directions of the input manifold better
preserves the data topology, both in the worst-case analysis of the discrete
Gromov-Hausdorff distance and in the average-case analysis via persistent
homology. From those results, we introduce EMaP algorithm, realizing the
orthogonal perturbation scheme. Our experiments show that EMaP not only
improves the explainers' performance but also helps them overcome a
recently-developed attack against perturbation-based methods.
- Abstract(参考訳): 近年,ブラックボックスモデルによる意思決定の理解を深めるため,入力データの摂動に基づく多くの説明手法が導入されている。
本研究の目的は、より忠実で堅牢な説明を得ることのできる、新しい摂動スキームを導入することである。
本研究では,摂動方向がデータトポロジに与える影響に着目した。
入力多様体の直交方向に沿った摂動は、離散グロモフ・ハウスドルフ距離の最悪のケース解析と永続ホモロジーによる平均ケース解析の両方において、データトポロジーをよりよく保存することを示す。
これらの結果から直交摂動方式を実現するEMaPアルゴリズムを提案する。
実験の結果,EMaPは説明者の性能を向上するだけでなく,近年開発された摂動法に対する攻撃の克服にも有効であることがわかった。
関連論文リスト
- QUCE: The Minimisation and Quantification of Path-Based Uncertainty for Generative Counterfactual Explanations [1.649938899766112]
Quantified Uncertainty Counterfactual Explanations (QUCE) は、経路の不確実性を最小化する手法である。
そこで本研究では,QUCEが説明文の提示時に不確実性を定量化し,より確実な逆実例を生成することを示す。
本稿では,QUCE法の性能を,経路に基づく説明法と生成対実例の両方の競合手法と比較することによって示す。
論文 参考訳(メタデータ) (2024-02-27T14:00:08Z) - Robustness and Exploration of Variational and Machine Learning
Approaches to Inverse Problems: An Overview [50.166025644333295]
本稿では,変分法と機械学習を用いた画像の逆問題に対する現在のアプローチの概要について述べる。
特別な焦点は、点推定器とその敵の摂動に対する頑健性である。
論文 参考訳(メタデータ) (2024-02-19T11:48:11Z) - Denoising Diffusion Variational Inference: Diffusion Models as
Expressive Variational Posteriors [12.380863420871071]
DDVIは、フレキシブルな変動後部として拡散モデルに依存する潜在変数モデルの近似推論アルゴリズムである。
DDVIは、ヒトゲノムから潜伏する祖先を推定する生物学のモチベーションタスクで使われており、数千のゲノムデータセットの強いベースラインを上回ります。
論文 参考訳(メタデータ) (2024-01-05T10:27:44Z) - Disentanglement Learning via Topology [23.95757601091452]
マルチスケールなトポロジ的損失項を追加することで,不整合表現を学習するTopDisを提案する。
ディスタングルメントは、ディープラーニングモデルの説明可能性と堅牢性にとって重要なデータ表現の重要な特性である。
提案した位相損失を用いて,訓練されたGANにおいて不整合方向を求める方法を示す。
論文 参考訳(メタデータ) (2023-08-24T10:29:25Z) - Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。
完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。
また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文 参考訳(メタデータ) (2022-11-30T18:59:27Z) - Evaluating the Adversarial Robustness for Fourier Neural Operators [78.36413169647408]
フーリエ・ニューラル・オペレータ(FNO)は、ゼロショット超解像で乱流をシミュレートした最初の人物である。
我々はノルム有界データ入力摂動に基づくFNOの逆例を生成する。
以上の結果から,モデルの強靭性は摂動レベルの増加とともに急速に低下することが明らかとなった。
論文 参考訳(メタデータ) (2022-04-08T19:19:42Z) - Meta Adversarial Perturbations [66.43754467275967]
メタ逆境摂動(MAP)の存在を示す。
MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。
これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
論文 参考訳(メタデータ) (2021-11-19T16:01:45Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Hard-label Manifolds: Unexpected Advantages of Query Efficiency for
Finding On-manifold Adversarial Examples [67.23103682776049]
画像分類モデルに対する最近のゼロオーダーのハードラベル攻撃は、ファーストオーダーのグラデーションレベルの代替品に匹敵する性能を示している。
最近、グラデーションレベルの設定では、通常の敵対的な例がデータ多様体から離れ、オンマニホールドの例が実際には一般化エラーであることが示されている。
雑音の多い多様体距離オラクルに基づく情報理論論的議論を提案し、敵の勾配推定を通じて多様体情報を漏洩させる。
論文 参考訳(メタデータ) (2021-03-04T20:53:06Z) - Towards Out-of-Distribution Detection with Divergence Guarantee in Deep
Generative Models [22.697643259435115]
深層生成モデルは、分布外データ(OOD)に対して、分布内データ(ID)よりも高い確率を割り当てることができる。
フローベースモデルにおける散逸を解析するための定理を証明している。
本稿では,2つのグループ異常検出手法を提案する。
論文 参考訳(メタデータ) (2020-02-09T09:54:12Z) - DANCE: Enhancing saliency maps using decoys [35.46266461621123]
本稿では,2段階の手順に従うことで,サリエンシ手法の堅牢性を向上させる枠組みを提案する。
まず、中間表現を変更せずに入力サンプルを微妙に変化させる摂動機構を導入する。
第2に、摂動サンプルの塩分マップを計算し、塩分マップを集約する新しい方法を提案する。
論文 参考訳(メタデータ) (2020-02-03T01:21:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。