論文の概要: Derivative-Free Diffusion Manifold-Constrained Gradient for Unified XAI

• arxiv url: http://arxiv.org/abs/2411.15265v1
• Date: Fri, 22 Nov 2024 11:15:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-26 14:23:03.941081
• Title: Derivative-Free Diffusion Manifold-Constrained Gradient for Unified XAI
• Title（参考訳）: ユニファイドXAIのための微分自由拡散マニフォールド制約勾配
• Authors: Won Jun Kim, Hyungjin Chung, Jaemin Kim, Sangmin Lee, Byeongsu Sim, Jong Chul Ye,
• Abstract要約: 微分自由拡散多様体制約勾配(FreeMCG)を導入する。 FreeMCGは、与えられたニューラルネットワークの説明可能性を改善する基盤として機能する。 提案手法は,XAIツールが期待する本質性を保ちながら,最先端の成果が得られることを示す。
• 参考スコア（独自算出の注目度）: 59.96044730204345
• License:
• Abstract: Gradient-based methods are a prototypical family of explainability techniques, especially for image-based models. Nonetheless, they have several shortcomings in that they (1) require white-box access to models, (2) are vulnerable to adversarial attacks, and (3) produce attributions that lie off the image manifold, leading to explanations that are not actually faithful to the model and do not align well with human perception. To overcome these challenges, we introduce Derivative-Free Diffusion Manifold-Constrainted Gradients (FreeMCG), a novel method that serves as an improved basis for explainability of a given neural network than the traditional gradient. Specifically, by leveraging ensemble Kalman filters and diffusion models, we derive a derivative-free approximation of the model's gradient projected onto the data manifold, requiring access only to the model's outputs. We demonstrate the effectiveness of FreeMCG by applying it to both counterfactual generation and feature attribution, which have traditionally been treated as distinct tasks. Through comprehensive evaluation on both tasks, counterfactual explanation and feature attribution, we show that our method yields state-of-the-art results while preserving the essential properties expected of XAI tools.
• Abstract（参考訳）: グラディエントベースの手法は、特に画像ベースモデルにおいて、説明可能性のテクニックの原型である。 それでも、(1)モデルへのホワイトボックスアクセスを必要とすること、(2)敵対的攻撃に弱いこと、(3)画像多様体から外れた属性を生成すること、そして(3)モデルに忠実で人間の知覚とうまく一致しない説明をもたらすことなど、いくつかの欠点がある。 これらの課題を克服するために、従来の勾配よりもニューラルネットワークの説明可能性を改善する新しい手法である、微分自由拡散マニフォールド制約勾配(FreeMCG)を導入する。 具体的には、アンサンブルカルマンフィルタと拡散モデルを利用して、データ多様体上に投影されたモデルの勾配の微分自由近似を導出し、モデルの出力にのみアクセスする。 従来,異なるタスクとして扱われてきた対物生成と特徴属性の両方に適用することで,FreeMCGの有効性を実証する。 提案手法は,タスクの包括的評価,反実的説明,特徴属性の両面から,XAIツールが期待する本質的特性を保ちながら,最先端の成果が得られることを示す。

関連論文リスト

• Sub-graph Based Diffusion Model for Link Prediction [43.15741675617231]
  拡散確率モデル(Denoising Diffusion Probabilistic Models, DDPM)は、例外的な品質を持つ同時代の生成モデルである。 本研究では,ベイズ式による確率推定過程を分解するために,専用設計を用いたリンク予測のための新しい生成モデルを構築した。 提案手法は,(1)再トレーニングを伴わないデータセット間の転送可能性,(2)限られたトレーニングデータに対する有望な一般化,(3)グラフ敵攻撃に対する堅牢性など,多くの利点を示す。
  論文  参考訳（メタデータ） (2024-09-13T02:23:55Z)
• Derivative-Free Guidance in Continuous and Discrete Diffusion Models with Soft Value-Based Decoding [84.3224556294803]
  拡散モデルは、画像、分子、DNA、RNA、タンパク質配列の自然なデザイン空間を捉えるのに優れている。 これらの設計空間の自然性を保ちながら、下流の報酬関数を最適化することを目指している。 提案アルゴリズムは,中間雑音状態が将来高い報酬をもたらすことの先駆けとして,ソフトバリュー関数を統合する。
  論文  参考訳（メタデータ） (2024-08-15T16:47:59Z)
• Latent Diffusion Counterfactual Explanations [28.574246724214962]
  潜在拡散対実説明(LDCE)について紹介する。 LDCEは、最近のクラスまたはテキスト条件の潜在拡散モデルの能力を利用して、対実生成を高速化する。 LDCEがモデルエラーに対する洞察を提供し、ブラックボックスモデル行動の理解を深める方法を示す。
  論文  参考訳（メタデータ） (2023-10-10T14:42:34Z)
• Eliminating Lipschitz Singularities in Diffusion Models [51.806899946775076]
  拡散モデルは、時間ステップの零点付近で無限のリプシッツをしばしば表すことを示す。 これは、積分演算に依存する拡散過程の安定性と精度に脅威をもたらす。 我々はE-TSDMと呼ばれる新しい手法を提案し、これは0に近い拡散モデルのリプシッツを除去する。
  論文  参考訳（メタデータ） (2023-06-20T03:05:28Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• Studying How to Efficiently and Effectively Guide Models with Explanations [52.498055901649025]
  「モデルガイダンス」とは「正しい理由のために正しい」ことを保証するためにモデルの説明を規則化する考え方である。 PASCAL VOC 2007 および MS COCO 2014 データセット上で, 各種損失関数, 帰属方法, モデル, 誘導深度について詳細な評価を行う。 具体的には、一般的に使用されるセグメンテーションマスクよりもはるかに安価で入手可能なバウンディングボックスアノテーションを用いてモデルをガイドする。
  論文  参考訳（メタデータ） (2023-03-21T15:34:50Z)
• ContraFeat: Contrasting Deep Features for Semantic Discovery [102.4163768995288]
  StyleGANは、アンタングル化セマンティックコントロールの強い可能性を示している。 StyleGANの既存の意味発見手法は、修正された潜在層を手作業で選択することで、良好な操作結果が得られる。 本稿では,このプロセスを自動化し,最先端のセマンティック発見性能を実現するモデルを提案する。
  論文  参考訳（メタデータ） (2022-12-14T15:22:13Z)
• Formalising the Robustness of Counterfactual Explanations for Neural Networks [16.39168719476438]
  本稿では,CFXのロバスト性を検証するために,インターバルニューラルネットワークに基づく抽象化フレームワークを提案する。 既存のメソッドにDelta-robustnessを組み込むことで、確実に堅牢なCFXを提供できることを示す。
  論文  参考訳（メタデータ） (2022-08-31T14:11:23Z)
• An Invertible Graph Diffusion Neural Network for Source Localization [8.811725212252544]
  本稿では,グラフ上のソースローカライゼーションのための非可逆グラフ拡散モデルの汎用的枠組みを確立することを目的とする。 具体的には,既存のグラフ拡散モデルを理論的保証で非可逆化するグラフ残差シナリオを提案する。 また,推定源の誤差を相殺する新しい誤り補償機構も開発している。
  論文  参考訳（メタデータ） (2022-06-18T14:35:27Z)
• GLIME: A new graphical methodology for interpretable model-agnostic explanations [0.0]
  本稿では,ブラックボックスモデルのための新しいグラフィカルな説明可能性ツールの開発に寄与する。 gLIMEと呼ばれる提案されたXAI方法論は、グローバル(データセット全体)またはローカルスケール(特定のデータポイント)でグラフィカルなモデルに依存しない説明を提供する。
  論文  参考訳（メタデータ） (2021-07-21T08:06:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。