論文の概要: Navigating Explanatory Multiverse Through Counterfactual Path Geometry

• arxiv url: http://arxiv.org/abs/2306.02786v3
• Date: Fri, 3 May 2024 18:42:14 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-08 01:26:19.599363
• Title: Navigating Explanatory Multiverse Through Counterfactual Path Geometry
• Title（参考訳）: 擬似経路幾何学による説明多元宇宙の探索
• Authors: Kacper Sokol, Edward Small, Yueqing Xuan,
• Abstract要約: 解説多元語という新しい概念を紹介する。 これらの軌道の幾何をナビゲートし、推論し、比較する方法を示す。 我々は、機会ポテンシャルと呼ばれるオールインワン計量を提案し、それらを定量化する。
• 参考スコア（独自算出の注目度）: 5.109188339767978
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Counterfactual explanations are the de facto standard when tasked with interpreting decisions of (opaque) predictive models. Their generation is often subject to algorithmic and domain-specific constraints -- such as density-based feasibility, and attribute (im)mutability or directionality of change -- that aim to maximise their real-life utility. In addition to desiderata with respect to the counterfactual instance itself, existence of a viable path connecting it with the factual data point, known as algorithmic recourse, has become an important technical consideration. While both of these requirements ensure that the steps of the journey as well as its destination are admissible, current literature neglects the multiplicity of such counterfactual paths. To address this shortcoming we introduce the novel concept of explanatory multiverse that encompasses all the possible counterfactual journeys. We then show how to navigate, reason about and compare the geometry of these trajectories with two methods: vector spaces and graphs. To this end, we overview their spacial properties -- such as affinity, branching, divergence and possible future convergence -- and propose an all-in-one metric, called opportunity potential, to quantify them. Implementing this (possibly interactive) explanatory process grants explainees agency by allowing them to select counterfactuals based on the properties of the journey leading to them in addition to their absolute differences. We show the flexibility, benefit and efficacy of such an approach through examples and quantitative evaluation on the German Credit and MNIST data sets.
• Abstract（参考訳）: 非現実的な説明は、(不透明な)予測モデルの決定を解釈するタスクを行うときのデファクトスタンダードである。 それらの生成は、しばしば、密度ベースの実現可能性や属性(不変性または変化の方向性)のようなアルゴリズム的およびドメイン固有の制約によって、彼らの現実のユーティリティを最大化することを目的としている。 デシダラタ(desiderata)は、デシダラタ(desiderata)と反ファクトのインスタンスそのものに加えて、アルゴリズム的リコース(英語版)として知られる事実データポイントとを繋ぐ実行可能なパスの存在が重要な技術的考慮事項となっている。 これらの要件はどちらも、旅の歩数と目的地が許容可能であることを保証しているが、現在の文献は、そのような反現実的な経路の多重性を無視している。 この欠点に対処するために,実証的多元論という新たな概念を導入する。 次に、これらの軌跡の幾何をベクトル空間とグラフの2つの方法と比較する方法を示す。 この目的のために、親和性、分岐性、発散性、将来の収束の可能性など、それらの空間的性質を概説し、機会ポテンシャルと呼ばれるオールインワン計量を提案してそれらを定量化する。 この(おそらく対話的な)説明プロセスを実装することで、説明官は、その絶対的な違いに加えて、それらにつながる旅の性質に基づいて、反事実を選択できるようになる。 本稿では,ドイツのCreditおよびMNISTデータセットの例と定量的評価を通じて,そのようなアプローチの柔軟性,メリット,有効性を示す。

関連論文リスト

• LLM Uncertainty Quantification through Directional Entailment Graph and Claim Level Response Augmentation [5.255129053741665]
  大規模言語モデル(LLM)は、基本質問応答(QA)に起因して、様々な領域にわたる高度なタスクにおいて優れた機能を示した。 そこで,本稿では,包含確率から方向グラフを構築することにより,方向不安定性を捉える不確実性を評価する新しい手法を提案する。 また、提案したレイヤに既存の作業のセマンティクスの不確実性を統合する方法も提供します。
  論文  参考訳（メタデータ） (2024-07-01T06:11:30Z)
• Enhancing Counterfactual Explanation Search with Diffusion Distance and Directional Coherence [0.0]
  AIモデルの採用の急激な問題は、予測に関するより人間中心の説明に対する需要の増加である。 本稿では,2つの新しいバイアスを組み込むことにより,効果的な対実的説明の探索を強化することを提案する。
  論文  参考訳（メタデータ） (2024-04-19T11:47:17Z)
• Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
  この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。 本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。 学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
  論文  参考訳（メタデータ） (2024-01-10T02:38:21Z)
• Enriching Disentanglement: From Logical Definitions to Quantitative Metrics [59.12308034729482]
  複雑なデータにおける説明的要素を遠ざけることは、データ効率の表現学習にとって有望なアプローチである。 論理的定義と量的指標の関連性を確立し, 理論的に根ざした絡み合いの指標を導出する。 本研究では,非交叉表現の異なる側面を分離することにより,提案手法の有効性を実証的に実証する。
  論文  参考訳（メタデータ） (2023-05-19T08:22:23Z)
• Implicit Bayes Adaptation: A Collaborative Transport Approach [25.96406219707398]
  領域適応は、高次元ユークリッド空間に埋め込まれた非線型部分多様体に本質的に横たわる各データの固有表現に根付いていることを示す。 これは暗黙のベイズ的フレームワークに準じるものであり、ドメイン適応に対するより堅牢で優れたパフォーマンスのアプローチで実現可能であることを示す。
  論文  参考訳（メタデータ） (2023-04-17T14:13:40Z)
• Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization [73.89239820192894]
  自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。 本稿では, 対実例生成のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-20T15:02:53Z)
• Learning Conditional Invariance through Cycle Consistency [60.85059977904014]
  本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。 提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。 我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
  論文  参考訳（メタデータ） (2021-11-25T17:33:12Z)
• You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory Prediction [52.442129609979794]
  軌道予測のための最近の深層学習手法は有望な性能を示す。 そのようなブラックボックスモデルが実際にどのモデルを予測するために使うのかは、まだ不明である。 本稿では,モデル性能に対する異なるキューの貢献度を定量化する手法を提案する。
  論文  参考訳（メタデータ） (2021-10-11T14:24:15Z)
• Learning Disentangled Representations with Latent Variation Predictability [102.4163768995288]
  本稿では,潜在不整合表現の変動予測可能性について述べる。 逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。 本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
  論文  参考訳（メタデータ） (2020-07-25T08:54:26Z)
• Scenario-Transferable Semantic Graph Reasoning for Interaction-Aware Probabilistic Prediction [29.623692599892365]
  交通参加者の行動の正確な予測は、自動運転車にとって必須の能力である。 本稿では, セマンティクスとドメイン知識を活かして, 様々な運転環境に対する新しい汎用表現を提案する。
  論文  参考訳（メタデータ） (2020-04-07T00:34:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。