論文の概要: Counterfactual Explanation for Regression via Disentanglement in Latent Space

• arxiv url: http://arxiv.org/abs/2311.08228v1
• Date: Tue, 14 Nov 2023 15:08:14 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-15 13:36:51.832610
• Title: Counterfactual Explanation for Regression via Disentanglement in Latent Space
• Title（参考訳）: 潜在空間における乱れによる回帰の因果的説明
• Authors: Xuan Zhao and Klaus Broelemann and Gjergji Kasneci
• Abstract要約: 本稿では,事前学習した回帰器の対実説明(CE)を生成する新しい手法を提案する。 提案手法は, 提案手法の検索において, 問合せサンプルの特性を維持できることを示す。 当社のコードは,この作業の公開と同時に,オープンソースパッケージとして公開されます。
• 参考スコア（独自算出の注目度）: 19.312306559210125
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Counterfactual Explanations (CEs) help address the question: How can the factors that influence the prediction of a predictive model be changed to achieve a more favorable outcome from a user's perspective? Thus, they bear the potential to guide the user's interaction with AI systems since they represent easy-to-understand explanations. To be applicable, CEs need to be realistic and actionable. In the literature, various methods have been proposed to generate CEs. However, the majority of research on CEs focuses on classification problems where questions like ``What should I do to get my rejected loan approved?" are raised. In practice, answering questions like ``What should I do to increase my salary?" are of a more regressive nature. In this paper, we introduce a novel method to generate CEs for a pre-trained regressor by first disentangling the label-relevant from the label-irrelevant dimensions in the latent space. CEs are then generated by combining the label-irrelevant dimensions and the predefined output. The intuition behind this approach is that the ideal counterfactual search should focus on the label-irrelevant characteristics of the input and suggest changes toward target-relevant characteristics. Searching in the latent space could help achieve this goal. We show that our method maintains the characteristics of the query sample during the counterfactual search. In various experiments, we demonstrate that the proposed method is competitive based on different quality measures on image and tabular datasets in regression problem settings. It efficiently returns results closer to the original data manifold compared to three state-of-the-art methods, which is essential for realistic high-dimensional machine learning applications. Our code will be made available as an open-source package upon the publication of this work.
• Abstract（参考訳）: 予測モデルの予測に影響を与える要因は、ユーザの視点からより好ましい結果を得るために、どのように変えられるのか? このように、簡単に理解可能な説明を表現できるため、AIシステムとのユーザインタラクションをガイドする可能性を秘めている。 適用するには、CEは現実的で実行可能でなければなりません。 文献では、CEを生成する様々な方法が提案されている。 しかし、cesに関するほとんどの研究は、分類の問題に焦点を当てており、「拒否されたローンを承認するには、何をすべきか?」といった質問が提起されている。実際には、「給料を増やすには、何をすべきか?」といった質問に答えることは、より回帰的な性質である。 本稿では,ラベル関係をラベル非関係次元から潜在空間に分離して,事前学習したレグレッセプタのcesを生成する新しい手法を提案する。 CEはラベル非関連次元と事前定義された出力を組み合わせることで生成される。 このアプローチの背景にある直感は、理想的な反事実探索は、入力のラベル非関連特性に焦点を合わせ、ターゲット関連特性への変化を提案することである。 潜在領域での検索はこの目標を達成するのに役立つ。 本手法は,反事実探索中にクエリサンプルの特性を維持していることを示す。 様々な実験において、回帰問題設定における画像と表のデータセットの異なる品質尺度に基づいて、提案手法が競合することを示した。 リアルな高次元機械学習アプリケーションに不可欠な3つの最先端手法と比較して、元のデータ多様体に近い結果を効率よく返します。 私たちのコードは、この作業の公開時にオープンソースパッケージとして公開されます。

関連論文リスト

• What Hides behind Unfairness? Exploring Dynamics Fairness in Reinforcement Learning [52.51430732904994]
  強化学習問題では、エージェントはリターンを最大化しながら長期的な公正性を考慮する必要がある。 近年の研究では様々なフェアネスの概念が提案されているが、RL問題における不公平性がどのように生じるかは定かではない。 我々は、環境力学から生じる不平等を明示的に捉える、ダイナミックスフェアネスという新しい概念を導入する。
  論文  参考訳（メタデータ） (2024-04-16T22:47:59Z)
• Introducing User Feedback-based Counterfactual Explanations (UFCE) [49.1574468325115]
  対実的説明(CE)は、XAIで理解可能な説明を生成するための有効な解決策として浮上している。 UFCEは、アクション可能な機能のサブセットで最小限の変更を決定するために、ユーザー制約を含めることができる。 UFCEは、textitproximity(英語版)、textitsparsity(英語版)、textitfeasibility(英語版)の2つのよく知られたCEメソッドより優れている。
  論文  参考訳（メタデータ） (2024-02-26T20:09:44Z)
• Counterfactual Explanation via Search in Gaussian Mixture Distributed Latent Space [19.312306559210125]
  対実説明(CE)は2つの問題に対処するアルゴリズム・リコースにおいて重要なツールである。 簡単に理解しやすい説明を提供することによって、AIシステムに対するユーザのインタラクションを導くことは、AIシステムの信頼できる採用と長期的な受け入れに不可欠である。 本稿では,まずオートエンコーダの潜伏空間をガウス分布の混合として形成することにより,事前学習されたバイナリ分類器のCEを生成する手法を提案する。
  論文  参考訳（メタデータ） (2023-07-25T10:21:26Z)
• Embroid: Unsupervised Prediction Smoothing Can Improve Few-Shot Classification [20.85088711770188]
  ラベル付きデータを追加せずに即時学習を改善することができることを示す。 組込み関数の異なるデータセットの複数の表現を演算するEmbroidを提案する。 Embroidはオリジナルのプロンプトよりも性能が大幅に向上することがわかった。
  論文  参考訳（メタデータ） (2023-07-20T17:07:28Z)
• SoK: Privacy-Preserving Data Synthesis [72.92263073534899]
  本稿では,プライバシ保護データ合成(PPDS)に注目し,その分野の総合的な概要,分析,議論を行う。 PPDSでは,統計的手法と深層学習(DL)に基づく手法の2つの顕著な研究を統一するマスターレシピを作成した。
  論文  参考訳（メタデータ） (2023-07-05T08:29:31Z)
• Going beyond research datasets: Novel intent discovery in the industry setting [60.90117614762879]
  本稿では,大規模なeコマースプラットフォームに展開する意図発見パイプラインを改善する手法を提案する。 ドメイン内データに基づく事前学習型言語モデルの利点を示す。 また,クラスタリングタスクの微調整中に,実生活データセットの会話構造(質問と回答)を利用するための最善の方法も考案した。
  論文  参考訳（メタデータ） (2023-05-09T14:21:29Z)
• Finding Regions of Counterfactual Explanations via Robust Optimization [0.0]
  反事実的説明 (CE) は、モデルの決定が変化する最小の摂動データポイントである。 既存のメソッドのほとんどは1つのCEしか提供できないが、ユーザにとっては達成できないかもしれない。 特徴がわずかに乱れた後も有効であるロバストCEを計算するための反復的手法を導出する。
  論文  参考訳（メタデータ） (2023-01-26T14:06:26Z)
• Evaluating counterfactual explanations using Pearl's counterfactual method [0.0]
  対実的説明(英: Counterfactual explanations、CE)は、異なる望ましい結果を生み出す別のシナリオを生成する方法である。 CEは現在、データの真の因果構造を必ずしも考慮しない機械学習モデルから生成される。 そこで本研究では,ユデア・パール(Judea Pearl)の計算正解法を用いてCEをテストすることを提案する。
  論文  参考訳（メタデータ） (2023-01-06T13:18:26Z)
• Injecting Knowledge in Data-driven Vehicle Trajectory Predictors [82.91398970736391]
  車両軌道予測タスクは、一般的に知識駆動とデータ駆動の2つの視点から取り組まれている。 本稿では,これら2つの視点を効果的に結合する「現実的残留ブロック」 (RRB) の学習を提案する。 提案手法は,残留範囲を限定し,その不確実性を考慮した現実的な予測を行う。
  論文  参考訳（メタデータ） (2021-03-08T16:03:09Z)
• Value-driven Hindsight Modelling [68.658900923595]
  値推定は強化学習(RL)パラダイムの重要な構成要素である。 モデル学習は、観測系列に存在する豊富な遷移構造を利用することができるが、このアプローチは通常、報酬関数に敏感ではない。 この2つの極点の間に位置するRLにおける表現学習のアプローチを開発する。 これにより、タスクに直接関連し、値関数の学習を加速できる、抽出可能な予測ターゲットが提供される。
  論文  参考訳（メタデータ） (2020-02-19T18:10:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。