論文の概要: EMaP: Explainable AI with Manifold-based Perturbations

• arxiv url: http://arxiv.org/abs/2209.08453v1
• Date: Sun, 18 Sep 2022 02:43:50 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-20 18:54:26.159906
• Title: EMaP: Explainable AI with Manifold-based Perturbations
• Title（参考訳）: EMaP: マニフォールドに基づく摂動を用いた説明可能なAI
• Authors: Minh N. Vu, Huy Q. Mai, My T. Thai
• Abstract要約: より忠実で堅牢な説明が得られるように、新しい摂動方式を導入する。 データトポロジ上の摂動方向は、離散的なグロモフ・ハウスドルフ距離の最悪のケース解析と永続的ホモロジーによる平均ケース解析の両方において、データトポロジをよりよく保存することを示す。 実験の結果,EMaPは説明者の性能を向上するだけでなく,近年開発された摂動法に対する攻撃を克服する上でも有効であることがわかった。
• 参考スコア（独自算出の注目度）: 23.216762728356798
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: In the last few years, many explanation methods based on the perturbations of input data have been introduced to improve our understanding of decisions made by black-box models. The goal of this work is to introduce a novel perturbation scheme so that more faithful and robust explanations can be obtained. Our study focuses on the impact of perturbing directions on the data topology. We show that perturbing along the orthogonal directions of the input manifold better preserves the data topology, both in the worst-case analysis of the discrete Gromov-Hausdorff distance and in the average-case analysis via persistent homology. From those results, we introduce EMaP algorithm, realizing the orthogonal perturbation scheme. Our experiments show that EMaP not only improves the explainers' performance but also helps them overcome a recently-developed attack against perturbation-based methods.
• Abstract（参考訳）: 近年,ブラックボックスモデルによる意思決定の理解を深めるため,入力データの摂動に基づく多くの説明手法が導入されている。 本研究の目的は、より忠実で堅牢な説明を得ることのできる、新しい摂動スキームを導入することである。 本研究では,摂動方向がデータトポロジに与える影響に着目した。 入力多様体の直交方向に沿った摂動は、離散グロモフ・ハウスドルフ距離の最悪のケース解析と永続ホモロジーによる平均ケース解析の両方において、データトポロジーをよりよく保存することを示す。 これらの結果から直交摂動方式を実現するEMaPアルゴリズムを提案する。 実験の結果,EMaPは説明者の性能を向上するだけでなく,近年開発された摂動法に対する攻撃の克服にも有効であることがわかった。

関連論文リスト

• Unsupervised Domain Adaptation Via Data Pruning [0.0]
  非教師なし領域適応(UDA)の観点から問題を考える。 本稿では,UDAのトレーニング例を取り除き,トレーニング分布を対象データと整合させる手法であるAdaPruneを提案する。 UDAの手法として、AdaPruneは関連する技術より優れており、CoRALなどの他のUDAアルゴリズムと相補的であることを示す。
  論文  参考訳（メタデータ） (2024-09-18T15:48:59Z)
• Spatially-Aware Diffusion Models with Cross-Attention for Global Field Reconstruction with Sparse Observations [1.371691382573869]
  フィールド再構成タスクにおけるスコアベース拡散モデルの開発と拡張を行う。 本研究では,観測領域と観測領域の間のトラクタブルマッピングを構築するための条件符号化手法を提案する。 本研究では, モデルが再現可能かどうかを把握し, 融合結果の精度を向上する能力を示す。
  論文  参考訳（メタデータ） (2024-08-30T19:46:23Z)
• Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
  機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。 非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
  論文  参考訳（メタデータ） (2024-08-20T19:06:02Z)
• QUCE: The Minimisation and Quantification of Path-Based Uncertainty for Generative Counterfactual Explanations [1.649938899766112]
  Quantified Uncertainty Counterfactual Explanations (QUCE) は、経路の不確実性を最小化する手法である。 そこで本研究では,QUCEが説明文の提示時に不確実性を定量化し,より確実な逆実例を生成することを示す。 本稿では,QUCE法の性能を,経路に基づく説明法と生成対実例の両方の競合手法と比較することによって示す。
  論文  参考訳（メタデータ） (2024-02-27T14:00:08Z)
• Variational Laplace Autoencoders [53.08170674326728]
  変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。 完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。 また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
  論文  参考訳（メタデータ） (2022-11-30T18:59:27Z)
• Evaluating the Adversarial Robustness for Fourier Neural Operators [78.36413169647408]
  フーリエ・ニューラル・オペレータ(FNO)は、ゼロショット超解像で乱流をシミュレートした最初の人物である。 我々はノルム有界データ入力摂動に基づくFNOの逆例を生成する。 以上の結果から,モデルの強靭性は摂動レベルの増加とともに急速に低下することが明らかとなった。
  論文  参考訳（メタデータ） (2022-04-08T19:19:42Z)
• Meta Adversarial Perturbations [66.43754467275967]
  メタ逆境摂動(MAP)の存在を示す。 MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。 これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
  論文  参考訳（メタデータ） (2021-11-19T16:01:45Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• Hard-label Manifolds: Unexpected Advantages of Query Efficiency for Finding On-manifold Adversarial Examples [67.23103682776049]
  画像分類モデルに対する最近のゼロオーダーのハードラベル攻撃は、ファーストオーダーのグラデーションレベルの代替品に匹敵する性能を示している。 最近、グラデーションレベルの設定では、通常の敵対的な例がデータ多様体から離れ、オンマニホールドの例が実際には一般化エラーであることが示されている。 雑音の多い多様体距離オラクルに基づく情報理論論的議論を提案し、敵の勾配推定を通じて多様体情報を漏洩させる。
  論文  参考訳（メタデータ） (2021-03-04T20:53:06Z)
• Towards Out-of-Distribution Detection with Divergence Guarantee in Deep Generative Models [22.697643259435115]
  深層生成モデルは、分布外データ(OOD)に対して、分布内データ(ID)よりも高い確率を割り当てることができる。 フローベースモデルにおける散逸を解析するための定理を証明している。 本稿では,2つのグループ異常検出手法を提案する。
  論文  参考訳（メタデータ） (2020-02-09T09:54:12Z)
• DANCE: Enhancing saliency maps using decoys [35.46266461621123]
  本稿では,2段階の手順に従うことで,サリエンシ手法の堅牢性を向上させる枠組みを提案する。 まず、中間表現を変更せずに入力サンプルを微妙に変化させる摂動機構を導入する。 第2に、摂動サンプルの塩分マップを計算し、塩分マップを集約する新しい方法を提案する。
  論文  参考訳（メタデータ） (2020-02-03T01:21:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。