論文の概要: Navigating Explanatory Multiverse Through Counterfactual Path Geometry
- arxiv url: http://arxiv.org/abs/2306.02786v1
- Date: Mon, 5 Jun 2023 11:26:46 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-06 15:31:16.631140
- Title: Navigating Explanatory Multiverse Through Counterfactual Path Geometry
- Title(参考訳): 擬似経路幾何学による説明多元宇宙の探索
- Authors: Kacper Sokol and Edward Small and Yueqing Xuan
- Abstract要約: 解説多元語という新しい概念を紹介する。
これらの経路の幾何をナビゲートし、推論し、比較する方法を示す。
次に、そこから導かれる旅の性質に基づいて、偽物を選択する方法を示す。
- 参考スコア(独自算出の注目度): 12.468665026043382
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Counterfactual explanations are the de facto standard when tasked with
interpreting decisions of (opaque) predictive models. Their generation is often
subject to algorithmic and domain-specific constraints -- such as density-based
feasibility for the former and attribute (im)mutability or directionality of
change for the latter -- that aim to maximise their real-life utility. In
addition to desiderata with respect to the counterfactual instance itself, the
existence of a viable path connecting it with the factual data point, known as
algorithmic recourse, has become an important technical consideration. While
both of these requirements ensure that the steps of the journey as well as its
destination are admissible, current literature neglects the multiplicity of
such counterfactual paths. To address this shortcoming we introduce the novel
concept of explanatory multiverse that encompasses all the possible
counterfactual journeys and shows how to navigate, reason about and compare the
geometry of these paths -- their affinity, branching, divergence and possible
future convergence -- with two methods: vector spaces and graphs. Implementing
this (interactive) explanatory process grants explainees more agency by
allowing them to select counterfactuals based on the properties of the journey
leading to them in addition to their absolute differences.
- Abstract(参考訳): 反事実的説明は、(オパクな)予測モデルの決定を解釈するときにデファクトスタンダードとなる。
それらの生成はアルゴリズムやドメイン固有の制約、例えば前者の密度に基づく実現可能性、後者の属性(不変性)や変更の方向性など、現実のユーティリティを最大化することを目的としている。
デシデラタ(desiderata, desiderata)の逆のインスタンスそのものに加えて、それとアルゴリズム的リコース( algorithmic recourse)と呼ばれる事実データポイントを結ぶ実行可能なパスの存在が重要な技術的考察となっている。
これらの要件はどちらも、旅の歩数と目的地が許容可能であることを保証しているが、現在の文献は、そのような反現実的な経路の重複を無視している。
この欠点に対処するために、説明的多元宇宙という新しい概念を導入し、これらの経路の幾何 – それらの親和性、分岐性、発散性、および将来の収束 -- をベクトル空間とグラフの2つの方法でナビゲートし、推論し、比較する方法を示します。
この(対話的な)説明プロセスを実装することで、説明者は絶対的な違いに加えて、旅の属性に基づいて反事実を選択することができる。
関連論文リスト
- SemanticFormer: Holistic and Semantic Traffic Scene Representation for Trajectory Prediction using Knowledge Graphs [3.733790302392792]
自律運転における軌道予測は、運転シーンのすべての関連状況の正確な表現に依存する。
本稿では,交通シーングラフを解析することで,セマンティックフォーマーがマルチモーダルトラジェクトリを予測する手法について述べる。
論文 参考訳(メタデータ) (2024-04-30T09:11:04Z) - Enhancing Counterfactual Explanation Search with Diffusion Distance and Directional Coherence [0.0]
AIモデルの採用の急激な問題は、予測に関するより人間中心の説明に対する需要の増加である。
本稿では,2つの新しいバイアスを組み込むことにより,効果的な対実的説明の探索を強化することを提案する。
論文 参考訳(メタデータ) (2024-04-19T11:47:17Z) - Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse
Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。
本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。
学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文 参考訳(メタデータ) (2024-01-10T02:38:21Z) - Implicit Bayes Adaptation: A Collaborative Transport Approach [25.96406219707398]
領域適応は、高次元ユークリッド空間に埋め込まれた非線型部分多様体に本質的に横たわる各データの固有表現に根付いていることを示す。
これは暗黙のベイズ的フレームワークに準じるものであり、ドメイン適応に対するより堅牢で優れたパフォーマンスのアプローチで実現可能であることを示す。
論文 参考訳(メタデータ) (2023-04-17T14:13:40Z) - Exploring the Trade-off between Plausibility, Change Intensity and
Adversarial Power in Counterfactual Explanations using Multi-objective
Optimization [73.89239820192894]
自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。
本稿では, 対実例生成のための新しい枠組みを提案する。
論文 参考訳(メタデータ) (2022-05-20T15:02:53Z) - Learning Conditional Invariance through Cycle Consistency [60.85059977904014]
本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。
提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
論文 参考訳(メタデータ) (2021-11-25T17:33:12Z) - You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory
Prediction [52.442129609979794]
軌道予測のための最近の深層学習手法は有望な性能を示す。
そのようなブラックボックスモデルが実際にどのモデルを予測するために使うのかは、まだ不明である。
本稿では,モデル性能に対する異なるキューの貢献度を定量化する手法を提案する。
論文 参考訳(メタデータ) (2021-10-11T14:24:15Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳(メタデータ) (2020-07-25T08:54:26Z) - Orientation Attentive Robotic Grasp Synthesis with Augmented Grasp Map
Representation [62.79160608266713]
物体の形態学的特徴は、ロボットの把握の視覚的学習を阻害する、幅広い可視的把握方向を提供する可能性がある。
既存のグリップ生成アプローチを呪い、グリップポイント毎に大きく異なる向きのアノテーションを集約することにより、不連続グリップマップを構築する。
そこで本研究では,角度空間を複数のビンに分割することで,方向を局所的に歪曲する,画素ワイズ合成に適した拡張型グリップマップ表現を提案する。
論文 参考訳(メタデータ) (2020-06-09T08:54:54Z) - Scenario-Transferable Semantic Graph Reasoning for Interaction-Aware
Probabilistic Prediction [29.623692599892365]
交通参加者の行動の正確な予測は、自動運転車にとって必須の能力である。
本稿では, セマンティクスとドメイン知識を活かして, 様々な運転環境に対する新しい汎用表現を提案する。
論文 参考訳(メタデータ) (2020-04-07T00:34:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。