論文の概要: Performative Validity of Recourse Explanations

• arxiv url: http://arxiv.org/abs/2506.15366v1
• Date: Wed, 18 Jun 2025 11:34:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-19 19:35:51.639668
• Title: Performative Validity of Recourse Explanations
• Title（参考訳）: 談話説明の形式的妥当性
• Authors: Gunnar König, Hidde Fokkema, Timo Freiesleben, Celestine Mendler-Dünner, Ulrike on Luxburg,
• Abstract要約: 我々は,言論説明が実行条件下で有効である条件を特徴付ける。 重要な発見は、リコメンデーションアクションが非因果変数の影響を受けている場合や、非因果変数に介入している場合、無効になる可能性があることである。
• 参考スコア（独自算出の注目度）: 11.237217706303175
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When applicants get rejected by an algorithmic decision system, recourse explanations provide actionable suggestions for how to change their input features to get a positive evaluation. A crucial yet overlooked phenomenon is that recourse explanations are performative: When many applicants act according to their recommendations, their collective behavior may change statistical regularities in the data and, once the model is refitted, also the decision boundary. Consequently, the recourse algorithm may render its own recommendations invalid, such that applicants who make the effort of implementing their recommendations may be rejected again when they reapply. In this work, we formally characterize the conditions under which recourse explanations remain valid under performativity. A key finding is that recourse actions may become invalid if they are influenced by or if they intervene on non-causal variables. Based on our analysis, we caution against the use of standard counterfactual explanations and causal recourse methods, and instead advocate for recourse methods that recommend actions exclusively on causal variables.
• Abstract（参考訳）: 応募者がアルゴリズムによる意思決定システムに拒否されると、リコースの説明は、入力機能の変更を積極的に評価するための実用的な提案を提供する。 多くの応募者がレコメンデーションに従って行動するとき、それらの集団行動はデータの統計的規則性を変え、モデルが修正されると、決定境界も変更される。 その結果、リコースアルゴリズムは独自のレコメンデーションを無効にすることができるため、レコメンデーションの実施に尽力した応募者は再適用時に再び拒否される可能性がある。 本研究は,言論説明が実行条件下で有効である条件を公式に特徴づけるものである。 重要な発見は、リコメンデーションアクションが非因果変数の影響を受けている場合や、非因果変数に介入している場合、無効になる可能性があることである。 本分析では,標準の因果的説明法や因果的説明法の使用に留意し,因果的変数のみに限定して行動を推奨する言い換え法を提唱する。

関連論文リスト

• Feature Responsiveness Scores: Model-Agnostic Explanations for Recourse [7.730963708373791]
  消費者保護規則では、企業は意思決定対象に予測を説明する必要がある。 これらのプラクティスが、改善に繋がらない機能を強調して、消費者を弱める方法を示します。 応答性スコアに基づいて特徴を強調することにより,これらの課題に対処することを提案する。
  論文  参考訳（メタデータ） (2024-10-29T23:37:49Z)
• Unintentional Unalignment: Likelihood Displacement in Direct Preference Optimization [60.176008034221404]
  直接選好最適化(DPO)とその変種は、言語モデルと人間の選好の整合にますます利用されている。 以前の研究では、トレーニング中に好まれる反応の可能性が減少する傾向が見られた。 確率変位は破滅的になりうることを示し、確率質量を好ましくない反応から反対の意味の反応へとシフトさせる。
  論文  参考訳（メタデータ） (2024-10-11T14:22:44Z)
• Algorithmic Recourse with Missing Values [11.401006371457436]
  本稿では,欠落した値の存在下でも機能するアルゴリズム・リコース(AR)の新たな枠組みを提案する。 ARは、分類器によって与えられる望ましくない予測結果を変更するためのリコースアクションを提供することを目的としている。 実験の結果, 基準値に比較して, 欠落した値の存在下での本手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-04-28T03:22:48Z)
• On the Trade-Off between Actionable Explanations and the Right to be Forgotten [21.26254644739585]
  データ削除要求の文脈におけるリコース無効化の問題について検討する。 トレーニングセットから最大2つのデータインスタンスを削除することで、一般的な最先端アルゴリズムによって出力されるすべてのリコースの最大95%を無効化できることを示す。
  論文  参考訳（メタデータ） (2022-08-30T10:35:32Z)
• Sayer: Using Implicit Feedback to Optimize System Policies [63.992191765269396]
  我々は、暗黙のフィードバックを活用して、新しいシステムポリシーを評価し、訓練する方法論を開発する。 Sayerは、強化学習の2つのアイデアに基づいて、既存のポリシーで収集されたデータを活用する。 Sayer氏は任意のポリシーを正確に評価し、生産ポリシーを上回るような新しいポリシーをトレーニングできることを示します。
  論文  参考訳（メタデータ） (2021-10-28T04:16:56Z)
• Algorithmic Recourse in Partially and Fully Confounded Settings Through Bounding Counterfactual Effects [0.6299766708197883]
  アルゴリズムリコースは、自動意思決定システムからより好ましい結果を得るために、個人に実行可能なレコメンデーションを提供することを目的としている。 既存の手法では,データから学習した因果モデルを用いて,隠れたコンバウンディングや付加雑音などの仮定をモデル化する手法が提案されている。 本稿では、これらの仮定を緩和し、観測不能な共役および任意の構造方程式を可能にする離散確率変数に対する別のアプローチを提案する。
  論文  参考訳（メタデータ） (2021-06-22T15:07:49Z)
• Learning "What-if" Explanations for Sequential Decision-Making [92.8311073739295]
  実世界の意思決定の解釈可能なパラメータ化を実証行動に基づいて構築することが不可欠である。 そこで我々は,「何」の結果に対する嗜好の観点から,報酬関数をモデル化し,専門家による意思決定の学習的説明を提案する。 本研究は,行動の正確かつ解釈可能な記述を回復する上で,実効的逆強化学習手法であるバッチの有効性を強調した。
  論文  参考訳（メタデータ） (2020-07-02T14:24:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。