Fugu-MT 論文翻訳(概要): Viewing the process of generating counterfactuals as a source of knowledge: a new approach for explaining classifiers

論文の概要: Viewing the process of generating counterfactuals as a source of knowledge: a new approach for explaining classifiers

arxiv url: http://arxiv.org/abs/2309.04284v3
Date: Fri, 15 Mar 2024 08:08:52 GMT
ステータス: 処理完了
システム内更新日: 2024-03-19 06:53:05.904768
Title: Viewing the process of generating counterfactuals as a source of knowledge: a new approach for explaining classifiers
Title（参考訳）: 反事実生成の過程を知識の源として見る--分類器の説明のための新しいアプローチ
Authors: Vincent Lemaire, Nathan Le Boudec, Victor Guyomard, Françoise Fessant,
Abstract要約: 本稿では,このシミュレーションプロセスを,使用可能な知識を,後に異なる方法で生成するための情報源として捉えることを提案する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: There are now many explainable AI methods for understanding the decisions of a machine learning model. Among these are those based on counterfactual reasoning, which involve simulating features changes and observing the impact on the prediction. This article proposes to view this simulation process as a source of creating a certain amount of knowledge that can be stored to be used, later, in different ways. This process is illustrated in the additive model and, more specifically, in the case of the naive Bayes classifier, whose interesting properties for this purpose are shown.
Abstract（参考訳）: 現在、機械学習モデルの決定を理解するための説明可能なAIメソッドが多数存在する。そのうちの1つは、特徴の変化をシミュレートし、予測への影響を観察する反事実的推論に基づくものである。本稿では,このシミュレーションプロセスを,使用可能な知識を,後に異なる方法で生成するための情報源として捉えることを提案する。この過程は加法モデルで説明され、より具体的には、この目的の興味深い性質を示すネーブ・ベイズ分類器の場合に説明される。

関連論文リスト

Causal Generative Explainers using Counterfactual Inference: A Case Study on the Morpho-MNIST Dataset [5.458813674116228]
本稿では,視覚的特徴と因果的要因の影響を研究するために,生成的対実的推論手法を提案する。我々は,OmnixAIオープンソースツールキットの視覚的説明手法を用いて,提案手法との比較を行った。このことから,本手法は因果的データセットの解釈に極めて適していることが示唆された。
論文参考訳（メタデータ） (2024-01-21T04:07:48Z)
CLIMAX: An exploration of Classifier-Based Contrastive Explanations [5.381004207943597]
我々は,ブラックボックスの分類を正当化する対照的な説明を提供する,ポストホックモデルXAI手法を提案する。 CLIMAXと呼ばれる手法は,局所的な分類法に基づく。 LIME, BayLIME, SLIMEなどのベースラインと比較して, 一貫性が向上することを示す。
論文参考訳（メタデータ） (2023-07-02T22:52:58Z)
Streamlining models with explanations in the learning loop [0.0]
いくつかの説明可能なAIメソッドにより、機械学習ユーザーはブラックボックスモデルの分類プロセスに関する洞察を得ることができる。この情報を利用して機能エンジニアリングフェーズを設計し、説明と機能バリューを組み合わせる。
論文参考訳（メタデータ） (2023-02-15T16:08:32Z)
VCNet: A self-explaining model for realistic counterfactual generation [52.77024349608834]
事実的説明は、機械学習の決定を局所的に説明するための手法のクラスである。本稿では,予測器と対実生成器を組み合わせたモデルアーキテクチャであるVCNet-Variational Counter Netを提案する。我々はVCNetが予測を生成でき、また、別の最小化問題を解くことなく、反現実的な説明を生成できることを示した。
論文参考訳（メタデータ） (2022-12-21T08:45:32Z)
Invariant Causal Mechanisms through Distribution Matching [86.07327840293894]
本研究では、因果的視点と不変表現を学習するための新しいアルゴリズムを提供する。実験により,このアルゴリズムは様々なタスク群でうまく動作し,特にドメインの一般化における最先端のパフォーマンスを観察する。
論文参考訳（メタデータ） (2022-06-23T12:06:54Z)
A Symbolic Approach for Counterfactual Explanations [18.771531343438227]
本稿では,分類器の予測に反実的な説明を与えるための新しいシンボリックアプローチを提案する。我々のアプローチは、等価なCNF式で分類器の決定関数を符号化するという意味で象徴的である。
論文参考訳（メタデータ） (2022-06-20T08:38:54Z)
Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
論文参考訳（メタデータ） (2022-03-30T05:59:50Z)
Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
論文参考訳（メタデータ） (2022-03-15T15:44:28Z)
Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文参考訳（メタデータ） (2021-03-18T12:57:34Z)
Deducing neighborhoods of classes from a fitted model [68.8204255655161]
本稿では,新しいタイプの解釈可能な機械学習手法を提案する。量子シフトを用いた分類モデルでは、特徴空間の予測クラスへの分割を理解するのに役立ちます。基本的に、実際のデータポイント(または特定の関心点)を使用し、特定の特徴をわずかに引き上げたり減少させたりした後の予測の変化を観察する。
論文参考訳（メタデータ） (2020-09-11T16:35:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。