論文の概要: A Causal Perspective on Meaningful and Robust Algorithmic Recourse

• arxiv url: http://arxiv.org/abs/2107.07853v1
• Date: Fri, 16 Jul 2021 12:37:54 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-19 18:55:24.208697
• Title: A Causal Perspective on Meaningful and Robust Algorithmic Recourse
• Title（参考訳）: 意味とロバストなアルゴリズムに関する因果的視点
• Authors: Gunnar K\"onig, Timo Freiesleben, Moritz Grosse-Wentrup
• Abstract要約: 一般的に、MLモデルは介入分布においてうまく予測できない。 本稿では,予測と目標の両方を改善する行動のみを推奨する有意義なアルゴリズム・リコース(MAR)を提案する。
• 参考スコア（独自算出の注目度）: 1.0804061924593267
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Algorithmic recourse explanations inform stakeholders on how to act to revert unfavorable predictions. However, in general ML models do not predict well in interventional distributions. Thus, an action that changes the prediction in the desired way may not lead to an improvement of the underlying target. Such recourse is neither meaningful nor robust to model refits. Extending the work of Karimi et al. (2021), we propose meaningful algorithmic recourse (MAR) that only recommends actions that improve both prediction and target. We justify this selection constraint by highlighting the differences between model audit and meaningful, actionable recourse explanations. Additionally, we introduce a relaxation of MAR called effective algorithmic recourse (EAR), which, under certain assumptions, yields meaningful recourse by only allowing interventions on causes of the target.
• Abstract（参考訳）: アルゴリズムによる説明は、好ましくない予測を逆転する方法を利害関係者に通知する。 しかし、一般的にMLモデルは介入分布においてうまく予測できない。 したがって、望ましい方法で予測を変更するアクションは、基盤となるターゲットの改善に繋がることはないかもしれない。 このようなリコースは、モデル修正にとって有意義でもロバストでもない。 karimiらによる作品の拡張。 (2021) 予測と目標の両方を改善する行動のみを推奨する有意義なアルゴリズム・リコース(MAR)を提案する。 この選択制約を、モデル監査と意味のある行動可能な説明の違いを強調して正当化する。 さらに, ある仮定の下では, 対象の因果に対する介入のみを許すことで, 有意義な言動が得られる, 効果的なアルゴリズム・リコース(EAR)と呼ばれるMARの緩和を導入する。

関連論文リスト

• Calibrated Probabilistic Forecasts for Arbitrary Sequences [58.54729945445505]
  実際のデータストリームは、分散シフトやフィードバックループ、敵アクターによって予測不可能に変化する可能性がある。 データがどのように進化するかに関わらず、有効な不確実性推定を保証するための予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-27T21:46:42Z)
• Prediction-Oriented Bayesian Active Learning [51.426960808684655]
  予測情報ゲイン(EPIG)は、パラメータではなく予測空間における情報ゲインを測定する。 EPIGは、さまざまなデータセットやモデルにわたるBALDと比較して、予測パフォーマンスが向上する。
  論文  参考訳（メタデータ） (2023-04-17T10:59:57Z)
• Distributionally Robust Recourse Action [12.139222986297263]
  recourseアクションは、別の結果を受け取るためにインスタンスを修正できる特定の方法を示すことで、特定のアルゴリズム上の決定を説明することを目的としている。 本研究では、モデルシフトの混合の下で有効となる確率の高いリコースアクションを生成する分散ロバスト・リコース・アクション(DiRRAc)フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-02-22T08:52:01Z)
• Probabilistically Robust Recourse: Navigating the Trade-offs between Costs and Robustness in Algorithmic Recourse [34.39887495671287]
  本稿では,達成された(反感)と所望のリコース無効率とのギャップを同時に最小化する目的関数を提案する。 我々は,任意のインスタンスに対応するリコース無効化率を特徴付けるために,新しい理論的結果を開発した。 複数の実世界のデータセットを用いた実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2022-03-13T21:39:24Z)
• Algorithmic Recourse in Partially and Fully Confounded Settings Through Bounding Counterfactual Effects [0.6299766708197883]
  アルゴリズムリコースは、自動意思決定システムからより好ましい結果を得るために、個人に実行可能なレコメンデーションを提供することを目的としている。 既存の手法では,データから学習した因果モデルを用いて,隠れたコンバウンディングや付加雑音などの仮定をモデル化する手法が提案されている。 本稿では、これらの仮定を緩和し、観測不能な共役および任意の構造方程式を可能にする離散確率変数に対する別のアプローチを提案する。
  論文  参考訳（メタデータ） (2021-06-22T15:07:49Z)
• When Does Uncertainty Matter?: Understanding the Impact of Predictive Uncertainty in ML Assisted Decision Making [68.19284302320146]
  我々は,異なるレベルの専門知識を持つ人々が,異なるタイプの予測不確実性にどう反応するかを評価するために,ユーザスタディを実施している。 その結果,後続の予測分布を示すことは,MLモデルの予測との相違点が小さくなることがわかった。 このことは、後続の予測分布は、人間の分布の種類や専門性を考慮し、注意を払って使用するべき有用な決定支援として役立つ可能性があることを示唆している。
  論文  参考訳（メタデータ） (2020-11-12T02:23:53Z)
• Estimating Generalization under Distribution Shifts via Domain-Invariant Representations [75.74928159249225]
  未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。 結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
  論文  参考訳（メタデータ） (2020-07-06T17:21:24Z)
• Counterfactual Predictions under Runtime Confounding [74.90756694584839]
  本研究は, 過去のデータからすべての関連要因を抽出した環境で, 事実予測タスクについて検討する。 本稿では,この環境下での対実予測モデル学習のための2次ロバスト手法を提案する。
  論文  参考訳（メタデータ） (2020-06-30T15:49:05Z)
• Algorithmic recourse under imperfect causal knowledge: a probabilistic approach [15.124107808802703]
  真の構造方程式にアクセスできることなく、リコースを保証することは不可能であることを示す。 本稿では,限られた因果的知識が与えられた場合,高い確率で会話を遂行する最適な行動を選択するための2つの確率的アプローチを提案する。
  論文  参考訳（メタデータ） (2020-06-11T21:19:07Z)
• Explaining the Behavior of Black-Box Prediction Algorithms with Causal Learning [9.279259759707996]
  ブラックボックス予測モデルのポストホック説明可能性に対する因果的アプローチは、ますます人気が高まっている。 因果図形表現を学習し、特徴間の任意の非計測的共起を可能にする。 我々のアプローチは、適切な説明が介入論的な意味で「異論者」である要因を示唆する因果説明の反実理論によって動機付けられている。
  論文  参考訳（メタデータ） (2020-06-03T19:02:34Z)
• Learning to Predict Error for MRI Reconstruction [67.76632988696943]
  提案手法による予測の不確実性は予測誤差と強く相関しないことを示す。 本稿では,2段階の予測誤差の目標ラベルと大小を推定する新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-02-13T15:55:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。