論文の概要: Enhancing Counterfactual Image Generation Using Mahalanobis Distance with Distribution Preferences in Feature Space

• arxiv url: http://arxiv.org/abs/2405.20685v1
• Date: Fri, 31 May 2024 08:26:53 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-03 15:07:03.101526
• Title: Enhancing Counterfactual Image Generation Using Mahalanobis Distance with Distribution Preferences in Feature Space
• Title（参考訳）: マハラノビス距離を用いた特徴空間における分布推定による対物画像生成の促進
• Authors: Yukai Zhang, Ao Xu, Zihao Li, Tieru Wu,
• Abstract要約: 人工知能(AI)の領域では、説明可能な人工知能(XAI)の重要性がますます認識されている。 1つの注目すべきシングルインスタンスXAIアプローチは、モデルの決定を理解するのに役立つ、反ファクトな説明である。 本稿では,ブラックボックスモデルの特徴空間における特徴量の重要性を計算するための新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 7.00851481261778
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the realm of Artificial Intelligence (AI), the importance of Explainable Artificial Intelligence (XAI) is increasingly recognized, particularly as AI models become more integral to our lives. One notable single-instance XAI approach is counterfactual explanation, which aids users in comprehending a model's decisions and offers guidance on altering these decisions. Specifically in the context of image classification models, effective image counterfactual explanations can significantly enhance user understanding. This paper introduces a novel method for computing feature importance within the feature space of a black-box model. By employing information fusion techniques, our method maximizes the use of data to address feature counterfactual explanations in the feature space. Subsequently, we utilize an image generation model to transform these feature counterfactual explanations into image counterfactual explanations. Our experiments demonstrate that the counterfactual explanations generated by our method closely resemble the original images in both pixel and feature spaces. Additionally, our method outperforms established baselines, achieving impressive experimental results.
• Abstract（参考訳）: 人工知能(AI)の領域では、説明可能な人工知能(XAI)の重要性がますます認識されている。 これは、モデルの判断を理解するのに役立ち、これらの決定を変更するためのガイダンスを提供する。 具体的には、画像分類モデルの文脈において、効果的な画像対実的説明はユーザーの理解を著しく向上させる。 本稿では,ブラックボックスモデルの特徴空間における特徴量の重要性を計算するための新しい手法を提案する。 情報融合手法を用いることで,特徴空間における特徴の反実的説明に対処するためのデータの利用を最大化する。 その後、画像生成モデルを用いて、これらの特徴の反実的説明を画像の反実的説明に変換する。 実験により,本手法が生成した反実的説明は,画素空間と特徴空間の両方の原画像によく似ていることが示された。 さらに,本手法は確立されたベースラインよりも優れ,優れた実験結果が得られた。

関連論文リスト

• Relevant Irrelevance: Generating Alterfactual Explanations for Image Classifiers [11.200613814162185]
  本稿では,ブラックボックス画像分類器の再現的説明の実現可能性を示す。 ニューラルネットワークに基づくブラックボックスモデルにこのアイデアを適用することが可能であることを初めて示します。
  論文  参考訳（メタデータ） (2024-05-08T11:03:22Z)
• Diffexplainer: Towards Cross-modal Global Explanations with Diffusion Models [51.21351775178525]
  DiffExplainerは、言語ビジョンモデルを活用することで、マルチモーダルなグローバルな説明可能性を実現する新しいフレームワークである。 最適化されたテキストプロンプトに条件付けされた拡散モデルを使用し、クラス出力を最大化する画像を合成する。 生成した視覚的記述の分析により、バイアスと突発的特徴の自動識別が可能になる。
  論文  参考訳（メタデータ） (2024-04-03T10:11:22Z)
• HawkI: Homography & Mutual Information Guidance for 3D-free Single Image to Aerial View [67.8213192993001]
  本稿では,テキストと模範画像から空中視像を合成するためのHawkeIを提案する。 HawkIは、予め訓練されたテキストから2次元の安定拡散モデルに入力画像からの視覚的特徴をブレンドする。 推測において、HawkeIは、入力画像の意味的詳細を忠実に複製するために生成されたイメージを操るために、ユニークな相互情報ガイダンスの定式化を用いる。
  論文  参考訳（メタデータ） (2023-11-27T01:41:25Z)
• Advancing Post Hoc Case Based Explanation with Feature Highlighting [0.8287206589886881]
  テスト画像中の複数の明瞭な特徴部分を分離し、トレーニングデータに見られる説明事例に接続する2つの一般的なアルゴリズムを提案する。 提案手法は,実世界データにおける曖昧な分類に対して,ユーザの「正確さ」感を適切に校正することを示す。
  論文  参考訳（メタデータ） (2023-11-06T16:34:48Z)
• Human Attention-Guided Explainable Artificial Intelligence for Computer Vision Models [38.50257023156464]
  我々は,人的注意力の知識を満足度に基づく説明可能なAI(XAI)手法に組み込むことで,その妥当性と忠実性を高めることができるかどうかを検討した。 我々はまず,オブジェクト検出モデルのための勾配に基づく新しいXAI手法を開発し,オブジェクト固有の説明を生成する。 そこで我々は,人間の注意を喚起したXAIを開発し,モデルからの説明情報を最大限に組み合わせて説明の妥当性を高める方法を学んだ。
  論文  参考訳（メタデータ） (2023-05-05T15:05:07Z)
• Foiling Explanations in Deep Neural Networks [0.0]
  本稿では,画像ベースDNNにおける説明手法の問題点を明らかにする。 進化戦略を用いて、説明を任意に操作する方法を実証する。 我々の新しいアルゴリズムは、人間の目では認識できない方法で画像の操作に成功している。
  論文  参考訳（メタデータ） (2022-11-27T15:29:39Z)
• Combining Counterfactuals With Shapley Values To Explain Image Models [13.671174461441304]
  我々は、反事実を生成し、Shapley値を推定するパイプラインを開発する。 我々は強い公理的保証を持つ対照的で解釈可能な説明を得る。
  論文  参考訳（メタデータ） (2022-06-14T18:23:58Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation [51.29486247405601]
  AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。 異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。 実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
  論文  参考訳（メタデータ） (2021-01-18T08:37:13Z)
• This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
  反実用説明システムは、入力画像を変更して反実用推論を可能にする。 本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。 その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
  論文  参考訳（メタデータ） (2020-12-22T10:08:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。