論文の概要: Navigating Explanatory Multiverse Through Counterfactual Path Geometry
- arxiv url: http://arxiv.org/abs/2306.02786v1
- Date: Mon, 5 Jun 2023 11:26:46 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-06 15:31:16.631140
- Title: Navigating Explanatory Multiverse Through Counterfactual Path Geometry
- Title（参考訳）: 擬似経路幾何学による説明多元宇宙の探索
- Authors: Kacper Sokol and Edward Small and Yueqing Xuan
- Abstract要約: 解説多元語という新しい概念を紹介する。
これらの経路の幾何をナビゲートし、推論し、比較する方法を示す。
次に、そこから導かれる旅の性質に基づいて、偽物を選択する方法を示す。
- 参考スコア（独自算出の注目度）: 12.468665026043382
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Counterfactual explanations are the de facto standard when tasked with
interpreting decisions of (opaque) predictive models. Their generation is often
subject to algorithmic and domain-specific constraints -- such as density-based
feasibility for the former and attribute (im)mutability or directionality of
change for the latter -- that aim to maximise their real-life utility. In
addition to desiderata with respect to the counterfactual instance itself, the
existence of a viable path connecting it with the factual data point, known as
algorithmic recourse, has become an important technical consideration. While
both of these requirements ensure that the steps of the journey as well as its
destination are admissible, current literature neglects the multiplicity of
such counterfactual paths. To address this shortcoming we introduce the novel
concept of explanatory multiverse that encompasses all the possible
counterfactual journeys and shows how to navigate, reason about and compare the
geometry of these paths -- their affinity, branching, divergence and possible
future convergence -- with two methods: vector spaces and graphs. Implementing
this (interactive) explanatory process grants explainees more agency by
allowing them to select counterfactuals based on the properties of the journey
leading to them in addition to their absolute differences.
- Abstract（参考訳）: 反事実的説明は、(オパクな)予測モデルの決定を解釈するときにデファクトスタンダードとなる。
それらの生成はアルゴリズムやドメイン固有の制約、例えば前者の密度に基づく実現可能性、後者の属性(不変性)や変更の方向性など、現実のユーティリティを最大化することを目的としている。
デシデラタ(desiderata, desiderata)の逆のインスタンスそのものに加えて、それとアルゴリズム的リコース( algorithmic recourse)と呼ばれる事実データポイントを結ぶ実行可能なパスの存在が重要な技術的考察となっている。
これらの要件はどちらも、旅の歩数と目的地が許容可能であることを保証しているが、現在の文献は、そのような反現実的な経路の重複を無視している。
この欠点に対処するために、説明的多元宇宙という新しい概念を導入し、これらの経路の幾何 – それらの親和性、分岐性、発散性、および将来の収束 -- をベクトル空間とグラフの2つの方法でナビゲートし、推論し、比較する方法を示します。
この(対話的な)説明プロセスを実装することで、説明者は絶対的な違いに加えて、旅の属性に基づいて反事実を選択することができる。
関連論文リスト
- LLM Uncertainty Quantification through Directional Entailment Graph and Claim Level Response Augmentation [5.255129053741665]
大規模言語モデル(LLM)は、基本質問応答(QA)に起因して、様々な領域にわたる高度なタスクにおいて優れた機能を示した。
そこで,本稿では,包含確率から方向グラフを構築することにより,方向不安定性を捉える不確実性を評価する新しい手法を提案する。
また、提案したレイヤに既存の作業のセマンティクスの不確実性を統合する方法も提供します。
論文 参考訳（メタデータ） (2024-07-01T06:11:30Z) - Enhancing Counterfactual Explanation Search with Diffusion Distance and Directional Coherence [0.0]
AIモデルの採用の急激な問題は、予測に関するより人間中心の説明に対する需要の増加である。
本稿では,2つの新しいバイアスを組み込むことにより,効果的な対実的説明の探索を強化することを提案する。
論文 参考訳（メタデータ） (2024-04-19T11:47:17Z) - Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse
Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。
本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。
学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文 参考訳（メタデータ） (2024-01-10T02:38:21Z) - Enriching Disentanglement: From Logical Definitions to Quantitative Metrics [59.12308034729482]
複雑なデータにおける説明的要素を遠ざけることは、データ効率の表現学習にとって有望なアプローチである。
論理的定義と量的指標の関連性を確立し, 理論的に根ざした絡み合いの指標を導出する。
本研究では,非交叉表現の異なる側面を分離することにより,提案手法の有効性を実証的に実証する。
論文 参考訳（メタデータ） (2023-05-19T08:22:23Z) - Implicit Bayes Adaptation: A Collaborative Transport Approach [25.96406219707398]
領域適応は、高次元ユークリッド空間に埋め込まれた非線型部分多様体に本質的に横たわる各データの固有表現に根付いていることを示す。
これは暗黙のベイズ的フレームワークに準じるものであり、ドメイン適応に対するより堅牢で優れたパフォーマンスのアプローチで実現可能であることを示す。
論文 参考訳（メタデータ） (2023-04-17T14:13:40Z) - Exploring the Trade-off between Plausibility, Change Intensity and
Adversarial Power in Counterfactual Explanations using Multi-objective
Optimization [73.89239820192894]
自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。
本稿では, 対実例生成のための新しい枠組みを提案する。
論文 参考訳（メタデータ） (2022-05-20T15:02:53Z) - Learning Conditional Invariance through Cycle Consistency [60.85059977904014]
本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。
提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
論文 参考訳（メタデータ） (2021-11-25T17:33:12Z) - You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory
Prediction [52.442129609979794]
軌道予測のための最近の深層学習手法は有望な性能を示す。
そのようなブラックボックスモデルが実際にどのモデルを予測するために使うのかは、まだ不明である。
本稿では,モデル性能に対する異なるキューの貢献度を定量化する手法を提案する。
論文 参考訳（メタデータ） (2021-10-11T14:24:15Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳（メタデータ） (2020-07-25T08:54:26Z) - Scenario-Transferable Semantic Graph Reasoning for Interaction-Aware
Probabilistic Prediction [29.623692599892365]
交通参加者の行動の正確な予測は、自動運転車にとって必須の能力である。
本稿では, セマンティクスとドメイン知識を活かして, 様々な運転環境に対する新しい汎用表現を提案する。
論文 参考訳（メタデータ） (2020-04-07T00:34:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。