論文の概要: Causal Generative Explainers using Counterfactual Inference: A Case
Study on the Morpho-MNIST Dataset
- arxiv url: http://arxiv.org/abs/2401.11394v1
- Date: Sun, 21 Jan 2024 04:07:48 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-23 16:44:51.708692
- Title: Causal Generative Explainers using Counterfactual Inference: A Case
Study on the Morpho-MNIST Dataset
- Title（参考訳）: 因果推論を用いた因果生成記述器: Morpho-MNIST データセットのケーススタディ
- Authors: Will Taylor-Melanson and Zahra Sadeghi and Stan Matwin
- Abstract要約: 本稿では,視覚的特徴と因果的要因の影響を研究するために,生成的対実的推論手法を提案する。
我々は,OmnixAIオープンソースツールキットの視覚的説明手法を用いて,提案手法との比較を行った。
このことから,本手法は因果的データセットの解釈に極めて適していることが示唆された。
- 参考スコア（独自算出の注目度）: 5.458813674116228
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we propose leveraging causal generative learning as an
interpretable tool for explaining image classifiers. Specifically, we present a
generative counterfactual inference approach to study the influence of visual
features (i.e., pixels) as well as causal factors through generative learning.
To this end, we first uncover the most influential pixels on a classifier's
decision by varying the value of a causal attribute via counterfactual
inference and computing both Shapely and contrastive explanations for
counterfactual images with these different attribute values. We then establish
a Monte-Carlo mechanism using the generator of a causal generative model in
order to adapt Shapley explainers to produce feature importances for the
human-interpretable attributes of a causal dataset in the case where a
classifier has been trained exclusively on the images of the dataset. Finally,
we present optimization methods for creating counterfactual explanations of
classifiers by means of counterfactual inference, proposing straightforward
approaches for both differentiable and arbitrary classifiers. We exploit the
Morpho-MNIST causal dataset as a case study for exploring our proposed methods
for generating counterfacutl explantions. We employ visual explanation methods
from OmnixAI open source toolkit to compare them with our proposed methods. By
employing quantitative metrics to measure the interpretability of
counterfactual explanations, we find that our proposed methods of
counterfactual explanation offer more interpretable explanations compared to
those generated from OmnixAI. This finding suggests that our methods are
well-suited for generating highly interpretable counterfactual explanations on
causal datasets.
- Abstract（参考訳）: 本稿では,画像分類器の解釈ツールとして因果生成学習を活用することを提案する。
具体的には、生成学習を通して視覚的特徴(ピクセル)と因果要因の影響を研究するために、生成的反事実推論手法を提案する。
この目的のために,我々はまず,カウンターファクト推論によって因果属性の値を変化させ,これら異なる属性値を持つカウンターファクト画像の形状的および対比的説明を演算することにより,分類器の決定において最も影響力のある画素を明らかにする。
次に,因果生成モデルの生成子を用いてモンテカルロ機構を確立し,シャープリー説明器を用いて因果データセットの人間解釈可能な属性に対して,分類器がデータセットのイメージに対してのみ訓練された場合の特徴量を生成する。
最後に, 分類器の相反的説明を相反的推論によって生成する最適化手法を提案し, 微分可能および任意の分類器に対して直接的アプローチを提案する。
我々はMorpho-MNIST因果的データセットを事例として,本提案手法を応用した。
我々は,OmnixAIオープンソースツールキットの視覚的説明手法を用いて,提案手法との比較を行った。
提案手法は, 対実的説明の解釈可能性を測定するために定量的な指標を用いることで, 対実的説明の手法がOmnixAIの手法よりも解釈可能な説明を提供することがわかった。
このことから,本手法は因果的データセットの解釈に極めて適していると考えられる。
関連論文リスト
- Rethinking Distance Metrics for Counterfactual Explainability [53.436414009687]
本研究では, 反事実を参照領域から独立して引き出すのではなく, 基礎となるデータ分布からの参照と共同してサンプリングする, 反事実生成手法のフレーミングについて検討する。
我々は、幅広い設定に適用可能な、反ファクト的な類似性のために調整された距離メートル法を導出する。
論文 参考訳（メタデータ） (2024-10-18T15:06:50Z) - Selective Explanations [14.312717332216073]
機械学習モデルは、1つの推論だけで特徴属性スコアを予測するために訓練される。
その効率にもかかわらず、償却された説明者は不正確な予測や誤解を招く説明を生み出すことができる。
そこで本稿では,低品質な説明文を生成する際の特徴帰属手法である選択的説明文を提案する。
論文 参考訳（メタデータ） (2024-05-29T23:08:31Z) - CNN-based explanation ensembling for dataset, representation and explanations evaluation [1.1060425537315088]
畳み込みモデルを用いた深層分類モデルによる説明文の要約の可能性について検討する。
実験と分析を通じて、モデル行動のより一貫性と信頼性のあるパターンを明らかにするために、説明を組み合わせることの意味を明らかにすることを目的とする。
論文 参考訳（メタデータ） (2024-04-16T08:39:29Z) - Diffexplainer: Towards Cross-modal Global Explanations with Diffusion Models [51.21351775178525]
DiffExplainerは、言語ビジョンモデルを活用することで、マルチモーダルなグローバルな説明可能性を実現する新しいフレームワークである。
最適化されたテキストプロンプトに条件付けされた拡散モデルを使用し、クラス出力を最大化する画像を合成する。
生成した視覚的記述の分析により、バイアスと突発的特徴の自動識別が可能になる。
論文 参考訳（メタデータ） (2024-04-03T10:11:22Z) - Viewing the process of generating counterfactuals as a source of knowledge: a new approach for explaining classifiers [0.0]
本稿では,このシミュレーションプロセスを,使用可能な知識を,後に異なる方法で生成するための情報源として捉えることを提案する。
論文 参考訳（メタデータ） (2023-09-08T12:06:48Z) - CLIMAX: An exploration of Classifier-Based Contrastive Explanations [5.381004207943597]
我々は,ブラックボックスの分類を正当化する対照的な説明を提供する,ポストホックモデルXAI手法を提案する。
CLIMAXと呼ばれる手法は,局所的な分類法に基づく。
LIME, BayLIME, SLIMEなどのベースラインと比較して, 一貫性が向上することを示す。
論文 参考訳（メタデータ） (2023-07-02T22:52:58Z) - VCNet: A self-explaining model for realistic counterfactual generation [52.77024349608834]
事実的説明は、機械学習の決定を局所的に説明するための手法のクラスである。
本稿では,予測器と対実生成器を組み合わせたモデルアーキテクチャであるVCNet-Variational Counter Netを提案する。
我々はVCNetが予測を生成でき、また、別の最小化問題を解くことなく、反現実的な説明を生成できることを示した。
論文 参考訳（メタデータ） (2022-12-21T08:45:32Z) - Discriminative Attribution from Counterfactuals [64.94009515033984]
本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。
本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
論文 参考訳（メタデータ） (2021-09-28T00:53:34Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳（メタデータ） (2021-03-18T12:57:34Z) - Generative Counterfactuals for Neural Networks via Attribute-Informed
Perturbation [51.29486247405601]
AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。
異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。
実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
論文 参考訳（メタデータ） (2021-01-18T08:37:13Z) - Generative causal explanations of black-box classifiers [15.029443432414947]
学習した低次元データ表現に基づいてブラックボックス分類器の因果後説明を生成する手法を開発した。
次に,画像認識タスクにおける本手法の実用性を示す。
論文 参考訳（メタデータ） (2020-06-24T17:45:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。