論文の概要: Counterfactual Explanations for Concepts in $\mathcal{ELH}$

• arxiv url: http://arxiv.org/abs/2301.05109v1
• Date: Thu, 12 Jan 2023 16:06:06 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-13 13:51:57.561064
• Title: Counterfactual Explanations for Concepts in $\mathcal{ELH}$
• Title（参考訳）: $\mathcal{elh}$ における概念の反事実的説明
• Authors: Leonie Nora Sieger, Stefan Heindorf, Lukas Bl\"ubaum, Axel-Cyrille Ngonga Ngomo
• Abstract要約: 本稿では, 記述論理$mathcalELH$において, 反実的説明を生成するアルゴリズムを提案する。 概念から反事実候補を生成し、最も少ない特徴変化候補を反事実として選択する。 複数の偽物の場合、それらの特徴の組み合わせの類似性に応じてそれらをランク付けする。
• 参考スコア（独自算出の注目度）: 1.2445026956430827
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Knowledge bases are widely used for information management on the web, enabling high-impact applications such as web search, question answering, and natural language processing. They also serve as the backbone for automatic decision systems, e.g. for medical diagnostics and credit scoring. As stakeholders affected by these decisions would like to understand their situation and verify fair decisions, a number of explanation approaches have been proposed using concepts in description logics. However, the learned concepts can become long and difficult to fathom for non-experts, even when verbalized. Moreover, long concepts do not immediately provide a clear path of action to change one's situation. Counterfactuals answering the question "How must feature values be changed to obtain a different classification?" have been proposed as short, human-friendly explanations for tabular data. In this paper, we transfer the notion of counterfactuals to description logics and propose the first algorithm for generating counterfactual explanations in the description logic $\mathcal{ELH}$. Counterfactual candidates are generated from concepts and the candidates with fewest feature changes are selected as counterfactuals. In case of multiple counterfactuals, we rank them according to the likeliness of their feature combinations. For evaluation, we conduct a user survey to investigate which of the generated counterfactual candidates are preferred for explanation by participants. In a second study, we explore possible use cases for counterfactual explanations.
• Abstract（参考訳）: 知識ベースはWeb上の情報管理に広く使われており、Web検索、質問応答、自然言語処理などの高インパクトアプリケーションを可能にする。 また、医療診断や信用スコアなどの自動意思決定システムのバックボーンとしても機能している。 これらの決定に影響を受ける利害関係者は自らの状況を理解し、公平な決定を検証したいと考えているため、説明論理の概念を用いて多くの説明アプローチが提案されている。 しかしながら、学習された概念は、言語化されても、非専門家にとって長くて難しいものになりうる。 さらに、長い概念は、状況を変えるための明確な行動経路をすぐに提供しない。 異なる分類を得るためにどのように特徴値を変更する必要があるか?」という疑問に答える反事実は、表データに対して短く、人間にやさしい説明として提案されてきた。 本稿では,反事実の概念を記述論理に移し,記述論理 $\mathcal{elh}$ で反事実記述を生成する最初のアルゴリズムを提案する。 概念から反事実候補を生成し、最も少ない特徴変化候補を反事実として選択する。 複数の反事実の場合、それらの特徴の組み合わせの類似性に応じてそれらをランク付けする。 評価のために,参加者による説明にどちらが望ましいかを調べるために,ユーザ調査を実施している。 第2の研究では、対実的説明の可能性を探る。

関連論文リスト

• Relevant Irrelevance: Generating Alterfactual Explanations for Image Classifiers [11.200613814162185]
  本稿では,ブラックボックス画像分類器の再現的説明の実現可能性を示す。 ニューラルネットワークに基づくブラックボックスモデルにこのアイデアを適用することが可能であることを初めて示します。
  論文  参考訳（メタデータ） (2024-05-08T11:03:22Z)
• Disagreement amongst counterfactual explanations: How transparency can be deceptive [0.0]
  偽物の説明は、説明可能な人工知能技術としてますます使われている。 すべてのアルゴリズムが同じインスタンスに対して一様説明を生成するわけではない。 悪意のあるエージェントがこの多様性を使って不公平な機械学習モデルに見合うと、倫理的な問題が生じる。
  論文  参考訳（メタデータ） (2023-04-25T09:15:37Z)
• Explanation Selection Using Unlabeled Data for Chain-of-Thought Prompting [80.9896041501715]
  非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。 本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
  論文  参考訳（メタデータ） (2023-02-09T18:02:34Z)
• Motivating explanations in Bayesian networks using MAP-independence [0.0]
  ベイズネットワークにおいて、診断や分類は、仮説変数に対する最も確率の高い合同値の割り当ての計算として形式化される。 本稿では,MAP独立の概念を新たに導入し,この概念の意義を捉える。
  論文  参考訳（メタデータ） (2022-08-05T12:26:54Z)
• Features of Explainability: How users understand counterfactual and causal explanations for categorical and continuous features in XAI [10.151828072611428]
  対物的説明は、AI決定の解釈可能性、レコメンデーション、バイアスに対処するためにますます使われています。 本研究では,ユーザ予測の客観的精度に対する反事実的・因果的説明の効果を検証した。 また, 利用者は, カテゴリー的特徴を参照する説明を, 連続的特徴を参照する説明よりも容易に理解できることがわかった。
  論文  参考訳（メタデータ） (2022-04-21T15:01:09Z)
• Search Methods for Sufficient, Socially-Aligned Feature Importance Explanations with In-Distribution Counterfactuals [72.00815192668193]
  特徴重要度(FI)推定は一般的な説明形式であり、テスト時に特定の入力特徴を除去することによって生じるモデル信頼度の変化を計算し、評価することが一般的である。 FIに基づく説明の未探索次元についていくつかの考察を行い、この説明形式に対する概念的および実証的な改善を提供する。
  論文  参考訳（メタデータ） (2021-06-01T20:36:48Z)
• Contrastive Explanations for Model Interpretability [77.92370750072831]
  分類モデルの対照的説明を生成する手法を提案する。 本手法は潜在空間へのモデル表現の投影に基づいている。 本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
  論文  参考訳（メタデータ） (2021-03-02T00:36:45Z)
• This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
  反実用説明システムは、入力画像を変更して反実用推論を可能にする。 本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。 その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
  論文  参考訳（メタデータ） (2020-12-22T10:08:05Z)
• SCOUT: Self-aware Discriminant Counterfactual Explanations [78.79534272979305]
  対物的視覚的説明の問題点を考察する。 新しい差別的な説明の族が紹介される。 結果として生じる反実的な説明は、最適化が自由で、従って以前の方法よりもはるかに高速である。
  論文  参考訳（メタデータ） (2020-04-16T17:05:49Z)
• An Information-Theoretic Approach to Personalized Explainable Machine Learning [92.53970625312665]
  本稿では,予測とユーザ知識のための簡易確率モデルを提案する。 説明と予測の間の条件付き相互情報による説明の効果を定量化する。
  論文  参考訳（メタデータ） (2020-03-01T13:06:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。