論文の概要: Calculating and Visualizing Counterfactual Feature Importance Values
- arxiv url: http://arxiv.org/abs/2306.06506v1
- Date: Sat, 10 Jun 2023 18:54:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-13 18:35:31.865278
- Title: Calculating and Visualizing Counterfactual Feature Importance Values
- Title（参考訳）: 対物的特徴重要度を計算・可視化する
- Authors: Bjorge Meulemeester, Raphael Mazzine Barbosa De Oliveira, David
Martens
- Abstract要約: 個々の意思決定結果を説明するための潜在的な解決策として、カウンターファクチュアルな説明が急増した。
2つの大きな欠点は,(1) 特徴変化のアイソノミクス的視点,(2) 修正された各特徴が予測にどの程度影響するかを観察できないこと,(2) 反実的説明を可視化するグラフィカルリソースの欠如,の2つに直接的な影響がある。
本稿では,CFI(Conportance Constellation)の値をソリューションとして導入する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite the success of complex machine learning algorithms, mostly justified
by an outstanding performance in prediction tasks, their inherent opaque nature
still represents a challenge to their responsible application. Counterfactual
explanations surged as one potential solution to explain individual decision
results. However, two major drawbacks directly impact their usability: (1) the
isonomic view of feature changes, in which it is not possible to observe
\textit{how much} each modified feature influences the prediction, and (2) the
lack of graphical resources to visualize the counterfactual explanation. We
introduce Counterfactual Feature (change) Importance (CFI) values as a
solution: a way of assigning an importance value to each feature change in a
given counterfactual explanation. To calculate these values, we propose two
potential CFI methods. One is simple, fast, and has a greedy nature. The other,
coined CounterShapley, provides a way to calculate Shapley values between the
factual-counterfactual pair. Using these importance values, we additionally
introduce three chart types to visualize the counterfactual explanations: (a)
the Greedy chart, which shows a greedy sequential path for prediction score
increase up to predicted class change, (b) the CounterShapley chart, depicting
its respective score in a simple and one-dimensional chart, and finally (c) the
Constellation chart, which shows all possible combinations of feature changes,
and their impact on the model's prediction score. For each of our proposed CFI
methods and visualization schemes, we show how they can provide more
information on counterfactual explanations. Finally, an open-source
implementation is offered, compatible with any counterfactual explanation
generator algorithm. Code repository at:
https://github.com/ADMAntwerp/CounterPlots
- Abstract（参考訳）: 複雑な機械学習アルゴリズムの成功は、主に予測タスクの卓越したパフォーマンスによって正当化されているが、その固有の不透明な性質は、その責任あるアプリケーションに対する挑戦である。
個々の意思決定結果を説明するための潜在的な解決策として、カウンターファクチュアルな説明が急増した。
しかし2つの大きな欠点は,(1) 特徴変化のアイソノミクス的視点,(2) 修正された各特徴が予測に影響を及ぼし,(2) 反実的説明を可視化するためのグラフィカルなリソースが欠如していること,の2つに直接的な影響がある。
各機能変更に重要値を割り当てる方法として、所定の反事実説明において、cfi(counterfactual feature (change) importance)値をソリューションとして導入します。
これらの値を計算するために,2つの潜在的CFI手法を提案する。
一つは単純で速く、欲張りのある性質がある。
もう1つはCounterShapleyと呼ばれ、事実と事実のペア間のShapley値を計算する方法を提供する。
これらの重要な値を用いて、カウンターファクトの説明を視覚化する3つのチャートタイプも導入する。
(a) 予測スコアのグレディシーケンシャルパスを示すグリーディチャートは、予測クラス変更まで増加する。
(b)その各スコアを単純かつ一次元の図で表し、最後に、カウンターサプリーチャート
(c)Constellationチャートは、機能変更の可能なすべての組み合わせと、モデルの予測スコアへの影響を示す。
提案するcfi手法と可視化スキームのそれぞれについて,反事実的説明についてより詳細な情報を提供する方法を示す。
最後にオープンソース実装が提供され、あらゆる反事実説明生成アルゴリズムと互換性がある。
コードリポジトリ: https://github.com/admantwerp/counterplots
関連論文リスト
- Less is More: One-shot Subgraph Reasoning on Large-scale Knowledge Graphs [49.547988001231424]
効率的かつ適応的な予測を実現するために,ワンショットサブグラフリンク予測を提案する。
設計原理は、KG全体に直接作用する代わりに、予測手順を2つのステップに分離する。
5つの大規模ベンチマークにおいて,効率の向上と性能の向上を実現している。
論文 参考訳（メタデータ） (2024-03-15T12:00:12Z) - Adapting to Change: Robust Counterfactual Explanations in Dynamic Data
Landscapes [9.943459106509687]
我々は、新しい半教師付きグラフカウンターファクトExplainer(GCE)方法論、ダイナミックGRAphカウンタファクトExplainer(DyGRACE)を紹介する。
これは、データ配布に関する初期知識を活用して、有効な偽物を探すと同時に、後続の時間ステップにおいて、潜在的に時代遅れな決定関数からの情報を使用することを避けます。
DyGRACEは非常に効果的でドリフト検出器として機能し、反復間の再構成誤差の違いに基づいて分布ドリフトを識別する。
論文 参考訳（メタデータ） (2023-08-04T14:41:03Z) - VCNet: A self-explaining model for realistic counterfactual generation [52.77024349608834]
事実的説明は、機械学習の決定を局所的に説明するための手法のクラスである。
本稿では,予測器と対実生成器を組み合わせたモデルアーキテクチャであるVCNet-Variational Counter Netを提案する。
我々はVCNetが予測を生成でき、また、別の最小化問題を解くことなく、反現実的な説明を生成できることを示した。
論文 参考訳（メタデータ） (2022-12-21T08:45:32Z) - Counterfactual Explanations for Support Vector Machine Models [1.933681537640272]
モデル解釈可能性を高めることを目的として, 反実的説明を見つける方法を示す。
また,保護機能を用いて法科学生が司法試験に合格するかどうかを予測するための支援ベクトルマシンモデルを構築した。
論文 参考訳（メタデータ） (2022-12-14T17:13:22Z) - CLEAR: Generative Counterfactual Explanations on Graphs [60.30009215290265]
グラフ上での対実的説明生成の問題について検討する。
グラフに関する反実的な説明を調査する研究はいくつかあるが、この問題の多くの課題はまだ十分に適応されていない。
本稿では,グラフレベルの予測モデルに対して,グラフ上の反実的説明を生成するための新しいフレームワークCLEARを提案する。
論文 参考訳（メタデータ） (2022-10-16T04:35:32Z) - Reinforced Causal Explainer for Graph Neural Networks [112.57265240212001]
グラフニューラルネットワーク(GNN)の探索には説明可能性が不可欠である
我々は強化学習エージェントReinforced Causal Explainer (RC-Explainer)を提案する。
RC-Explainerは忠実で簡潔な説明を生成し、グラフを見えなくするより優れたパワーを持つ。
論文 参考訳（メタデータ） (2022-04-23T09:13:25Z) - GraphCoCo: Graph Complementary Contrastive Learning [65.89743197355722]
グラフコントラスト学習(GCL)は、手作業によるアノテーションの監督なしに、グラフ表現学習(GRL)において有望な性能を示した。
本稿では,この課題に対処するため,グラフココというグラフ補完型コントラスト学習手法を提案する。
論文 参考訳（メタデータ） (2022-03-24T02:58:36Z) - Towards Unifying Feature Attribution and Counterfactual Explanations:
Different Means to the Same End [17.226134854746267]
本稿では,一組の反実例から特徴帰属説明を生成する手法を提案する。
本報告では, 帰属に基づく説明の妥当性を, その必要性と充足性の観点から評価するために, 対実例をいかに活用するかを示す。
論文 参考訳（メタデータ） (2020-11-10T05:41:43Z) - Shapley Flow: A Graph-based Approach to Interpreting Model Predictions [12.601158020289105]
Shapley Flowは、機械学習モデルを解釈するための新しいアプローチである。
因果グラフ全体を考慮し、ノードをクレジット割り当ての基本単位として扱う代わりに、クレジットをテキストメッセージに割り当てる。
論文 参考訳（メタデータ） (2020-10-27T20:21:00Z) - Gravitational Models Explain Shifts on Human Visual Attention [80.76475913429357]
視覚的注意(英: visual attention)とは、人間の脳が優先的な処理のために関連する感覚情報を選択する能力を指す。
過去30年間に様々な評価方法が提案されてきた。
注意変動を記述するための重力モデル(GRAV)を提案する。
論文 参考訳（メタデータ） (2020-09-15T10:12:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。