論文の概要: Declarative Approaches to Counterfactual Explanations for Classification

• arxiv url: http://arxiv.org/abs/2011.07423v3
• Date: Tue, 7 Dec 2021 23:57:07 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-25 07:04:03.703607
• Title: Declarative Approaches to Counterfactual Explanations for Classification
• Title（参考訳）: 分類の反事実的説明への宣言的アプローチ
• Authors: Leopoldo Bertossi
• Abstract要約: 本稿では,分類モデル上で入力されたエンティティに対する対実的介入を規定し,計算する解集合プログラムを提案する。 結果として生じるカウンターファクト的エンティティは、分類されたエンティティの特徴値に対する因果関係に基づく説明スコアの定義と計算の基盤となる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose answer-set programs that specify and compute counterfactual interventions on entities that are input on a classification model. In relation to the outcome of the model, the resulting counterfactual entities serve as a basis for the definition and computation of causality-based explanation scores for the feature values in the entity under classification, namely "responsibility scores". The approach and the programs can be applied with black-box models, and also with models that can be specified as logic programs, such as rule-based classifiers. The main focus of this work is on the specification and computation of "best" counterfactual entities, i.e. those that lead to maximum responsibility scores. From them one can read off the explanations as maximum responsibility feature values in the original entity. We also extend the programs to bring into the picture semantic or domain knowledge. We show how the approach could be extended by means of probabilistic methods, and how the underlying probability distributions could be modified through the use of constraints. Several examples of programs written in the syntax of the DLV ASP-solver, and run with it, are shown.
• Abstract（参考訳）: 本稿では,分類モデルに入力されるエンティティに対する反事実的介入を規定し,計算する解集合プログラムを提案する。 モデルの結果に関連して、結果として得られる反事実エンティティは、分類対象のエンティティの特徴値(すなわち「責任スコア」)に対する因果関係に基づく説明スコアの定義と計算の基盤となる。 このアプローチとプログラムはブラックボックスモデルにも適用でき、ルールベースの分類器のような論理プログラムとして指定できるモデルにも適用できる。 この研究の主な焦点は「最良の」カウンターファクトエンティティ、すなわち最大責任スコアにつながるエンティティの仕様と計算である。 これらから、元のエンティティの最大責任機能値として説明を読み取ることができる。 また、図のセマンティクスやドメインの知識をもたらすプログラムを拡張します。 本稿では,確率的手法によってアプローチを拡張する方法と,制約を用いることでその基礎となる確率分布を変更する方法を示す。 DLV ASP-solverの構文で書かれたプログラムのいくつかの例を示す。

関連論文リスト

• The Foundations of Tokenization: Statistical and Computational Concerns [51.370165245628975]
  トークン化は、NLPパイプラインにおける重要なステップである。 NLPにおける標準表現法としての重要性は認識されているが、トークン化の理論的基盤はまだ完全には理解されていない。 本稿では,トークン化モデルの表現と解析のための統一的な形式的枠組みを提案することによって,この理論的ギャップに対処することに貢献している。
  論文  参考訳（メタデータ） (2024-07-16T11:12:28Z)
• Prospector Heads: Generalized Feature Attribution for Large Models & Data [82.02696069543454]
  本稿では,説明に基づく帰属手法の効率的かつ解釈可能な代替手段であるプロスペクタヘッドを紹介する。 入力データにおけるクラス固有のパターンの解釈と発見を、プロファイラヘッドがいかに改善できるかを実証する。
  論文  参考訳（メタデータ） (2024-02-18T23:01:28Z)
• Coherent Entity Disambiguation via Modeling Topic and Categorical Dependency [87.16283281290053]
  従来のエンティティ曖昧化(ED)メソッドは、参照コンテキストと候補エンティティの一致するスコアに基づいて予測を行う、識別パラダイムを採用している。 本稿では,エンティティ予測のコヒーレンス向上を目的とした新しいデザインを備えたEDシステムであるCoherentedを提案する。 我々は、人気EDベンチマークにおいて、平均1.3F1ポイントの改善により、最先端の新たな結果を得る。
  論文  参考訳（メタデータ） (2023-11-06T16:40:13Z)
• LaPLACE: Probabilistic Local Model-Agnostic Causal Explanations [1.0370398945228227]
  本稿では,機械学習モデルに対する確率論的原因・効果説明を提供するLaPLACE-Explainerを紹介する。 LaPLACE-Explainerコンポーネントはマルコフ毛布の概念を利用して、関連する特徴と非関連する特徴の間の統計的境界を確立する。 提案手法は,LIME と SHAP の局所的精度と特徴の整合性の観点から,因果的説明と性能を向上する。
  論文  参考訳（メタデータ） (2023-10-01T04:09:59Z)
• Reasoning about Counterfactuals and Explanations: Problems, Results and Directions [0.0]
  これらのアプローチは柔軟でモジュール化されており、ドメイン知識のシームレスな追加を可能にします。 プログラムは、責任に基づく数値スコアを分類結果の属性的説明として指定し、計算するために使用することができる。
  論文  参考訳（メタデータ） (2021-08-25T01:04:49Z)
• Answer-Set Programs for Reasoning about Counterfactual Interventions and Responsibility Scores for Classification [0.0]
  本稿では,分類対象のエンティティに対する対実的介入を宣言的に特定するために,回答セットプログラムをどのように利用できるかを説明する。 特に、責任スコアを分類モデルの結果に対する属性に基づく説明として定義し、計算するために使用することができる。
  論文  参考訳（メタデータ） (2021-07-21T15:41:56Z)
• Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation [51.29486247405601]
  AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。 異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。 実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
  論文  参考訳（メタデータ） (2021-01-18T08:37:13Z)
• Score-Based Explanations in Data Management and Machine Learning [0.0]
  本稿では,データベースにおける問合せ応答と分類モデルによる結果について考察する。 説明されているアプローチは、主に因果的かつ反事実的な性質である。
  論文  参考訳（メタデータ） (2020-07-24T23:13:27Z)
• Interpretable Entity Representations through Large-Scale Typing [61.4277527871572]
  本稿では,人間の読みやすいエンティティ表現を作成し,箱から高パフォーマンスを実現する手法を提案する。 我々の表現は、微粒な実体型に対する後続確率に対応するベクトルである。 特定のドメインに対して,学習に基づく方法で,型セットのサイズを縮小できることを示す。
  論文  参考訳（メタデータ） (2020-04-30T23:58:03Z)
• An ASP-Based Approach to Counterfactual Explanations for Classification [0.0]
  本稿では,因果関係に基づく分類モデルに基づく意思決定の基盤として,反実的介入を規定し,計算する解集合プログラムを提案する。 ルールベースの分類器のような論理プログラムとして指定できるブラックボックスモデルやモデルに適用することができる。
  論文  参考訳（メタデータ） (2020-04-28T01:36:26Z)
• Can We Learn Heuristics For Graphical Model Inference Using Reinforcement Learning? [114.24881214319048]
  我々は、強化学習を用いて、高次条件ランダム場(CRF)における推論を解くためのプログラム、すなわち、ポリシーを学習できることを示します。 本手法は,ポテンシャルの形式に制約を加えることなく,推論タスクを効率的に解く。
  論文  参考訳（メタデータ） (2020-04-27T19:24:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。