論文の概要: Probabilistically Robust Recourse: Navigating the Trade-offs between
Costs and Robustness in Algorithmic Recourse
- arxiv url: http://arxiv.org/abs/2203.06768v4
- Date: Wed, 11 Oct 2023 15:46:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-13 17:00:22.988827
- Title: Probabilistically Robust Recourse: Navigating the Trade-offs between
Costs and Robustness in Algorithmic Recourse
- Title（参考訳）: 確率論的ロバストなリコース:アルゴリズムリコースにおけるコストとロバスト性の間のトレードオフのナビゲート
- Authors: Martin Pawelczyk and Teresa Datta and Johannes van-den-Heuvel and
Gjergji Kasneci and Himabindu Lakkaraju
- Abstract要約: 本稿では,達成された(反感)と所望のリコース無効率とのギャップを同時に最小化する目的関数を提案する。
我々は,任意のインスタンスに対応するリコース無効化率を特徴付けるために,新しい理論的結果を開発した。
複数の実世界のデータセットを用いた実験により,提案手法の有効性が示された。
- 参考スコア（独自算出の注目度）: 34.39887495671287
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As machine learning models are increasingly being employed to make
consequential decisions in real-world settings, it becomes critical to ensure
that individuals who are adversely impacted (e.g., loan denied) by the
predictions of these models are provided with a means for recourse. While
several approaches have been proposed to construct recourses for affected
individuals, the recourses output by these methods either achieve low costs
(i.e., ease-of-implementation) or robustness to small perturbations (i.e.,
noisy implementations of recourses), but not both due to the inherent
trade-offs between the recourse costs and robustness. Furthermore, prior
approaches do not provide end users with any agency over navigating the
aforementioned trade-offs. In this work, we address the above challenges by
proposing the first algorithmic framework which enables users to effectively
manage the recourse cost vs. robustness trade-offs. More specifically, our
framework Probabilistically ROBust rEcourse (\texttt{PROBE}) lets users choose
the probability with which a recourse could get invalidated (recourse
invalidation rate) if small changes are made to the recourse i.e., the recourse
is implemented somewhat noisily. To this end, we propose a novel objective
function which simultaneously minimizes the gap between the achieved
(resulting) and desired recourse invalidation rates, minimizes recourse costs,
and also ensures that the resulting recourse achieves a positive model
prediction. We develop novel theoretical results to characterize the recourse
invalidation rates corresponding to any given instance w.r.t. different classes
of underlying models (e.g., linear models, tree based models etc.), and
leverage these results to efficiently optimize the proposed objective.
Experimental evaluation with multiple real world datasets demonstrates the
efficacy of the proposed framework.
- Abstract（参考訳）: 機械学習モデルが、現実世界の設定で一連の決定を下すためにますます採用されているため、これらのモデルの予測によって悪影響(例えばローン拒否)を受けた個人にリコースの手段が提供されることを保証することが重要になる。
影響を受ける個人のためのレコースを構築するためのいくつかのアプローチが提案されているが、これらの手法によって出力されるレコースは、低コスト(即ち、実装の容易さ)を達成するか、小さな摂動(すなわち、リコースのノイズの多い実装)に頑健になるかのいずれかである。
さらに、先程のアプローチは、上記のトレードオフをナビゲートするいかなるエージェンシーもエンドユーザに提供しない。
本稿では,ユーザがリコースコスト対ロバスト性トレードオフを効果的に管理できる最初のアルゴリズムフレームワークを提案することで,上記の課題を解決する。
より具体的には、我々のフレームワーク Probabilistically ROBust rEcourse (\texttt{PROBE}) は、リコースに小さな変更を加えると、リコースが無効になる確率(リコース無効化率)をユーザが選択できるようにします。
そこで本研究では,達成された(反感)と所望のリコース無効化率のギャップを同時に最小化し,リコースコストを最小化し,得られたリコースが肯定的なモデル予測を達成することを保証する,新たな目的関数を提案する。
基礎となるモデル(線形モデル、ツリーベースモデルなど)の任意のインスタンスw.r.t.の異なるクラスに対応する帰納無効率を特徴付けるための新しい理論的結果を開発し、これらの結果を利用して効率的に目的を最適化する。
複数の実世界データセットを用いた実験評価により,提案手法の有効性が示された。
関連論文リスト
- Perfect Counterfactuals in Imperfect Worlds: Modelling Noisy Implementation of Actions in Sequential Algorithmic Recourse [26.57812122315108]
アルゴリズムによる会話は、自動意思決定に悪影響を及ぼした個人に行動を与える。
環境変動性や個人の選択により、ユーザーが完璧に実装することを保証していない。
本稿では,RObust Sequential(ROSE)レコース生成器を提案する。
論文 参考訳（メタデータ） (2024-10-03T07:47:42Z) - On the Trade-offs between Adversarial Robustness and Actionable Explanations [32.05150063480917]
本研究は, 対向的に頑健なモデルが動作可能な説明に与える影響を初めて研究する試みである。
提案手法は,最先端のアルゴリズムが生成する手法のコストと妥当性の差に関する理論的境界を導出する。
その結果, 逆向き頑健なモデルでは, コストが大幅に増加し, 結果の妥当性が低下することが示唆された。
論文 参考訳（メタデータ） (2023-09-28T13:59:50Z) - Leaving the Nest: Going Beyond Local Loss Functions for
Predict-Then-Optimize [57.22851616806617]
本手法は,文献から得られた4つの領域において,最先端の成果が得られることを示す。
提案手法は, 局所性仮定が破られた場合, 既存手法よりも200%近く性能が向上する。
論文 参考訳（メタデータ） (2023-05-26T11:17:45Z) - When Demonstrations Meet Generative World Models: A Maximum Likelihood
Framework for Offline Inverse Reinforcement Learning [62.00672284480755]
本稿では, 専門家エージェントから, 一定の有限個の実演において観測された動作を過小評価する報酬と環境力学の構造を復元することを目的とする。
タスクを実行するための正確な専門知識モデルは、臨床的意思決定や自律運転のような安全に敏感な応用に応用できる。
論文 参考訳（メタデータ） (2023-02-15T04:14:20Z) - Stochastic Methods for AUC Optimization subject to AUC-based Fairness
Constraints [51.12047280149546]
公正な予測モデルを得るための直接的なアプローチは、公正な制約の下で予測性能を最適化することでモデルを訓練することである。
フェアネスを考慮した機械学習モデルのトレーニング問題を,AUCに基づくフェアネス制約のクラスを対象とする最適化問題として定式化する。
フェアネス測定値の異なる実世界のデータに対するアプローチの有効性を実証する。
論文 参考訳（メタデータ） (2022-12-23T22:29:08Z) - Error-based Knockoffs Inference for Controlled Feature Selection [49.99321384855201]
本手法では, ノックオフ特徴量, エラーベース特徴重要度統計量, ステップダウン手順を一体化して, エラーベースのノックオフ推定手法を提案する。
提案手法では回帰モデルを指定する必要はなく,理論的保証で特徴選択を処理できる。
論文 参考訳（メタデータ） (2022-03-09T01:55:59Z) - Low-Cost Algorithmic Recourse for Users With Uncertain Cost Functions [74.00030431081751]
本稿では,ユーザ固有のコスト関数の概念を定式化し,ユーザのための行動可能なリコースを識別する新しい手法を提案する。
本手法は,強いベースライン法に比べて最大25.89パーセントのユーザを満足させる。
論文 参考訳（メタデータ） (2021-11-01T19:49:35Z) - Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。
このアプローチは多くの実装と最適化の課題をもたらします。
提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
論文 参考訳（メタデータ） (2021-03-18T14:26:26Z) - Towards Robust and Reliable Algorithmic Recourse [11.887537452826624]
モデルシフトに堅牢なリコースを見つけるための敵対的トレーニングを活用する新しいフレームワークであるRObust Algorithmic Recourse(ROAR)を提案します。
また,モデルシフトにロバストなリコースの構築の重要性を強調する詳細な理論解析を行う。
論文 参考訳（メタデータ） (2021-02-26T17:38:52Z) - Present-Biased Optimization [8.775878711928591]
論文は,akerlof (1991) が提唱した,時間的一貫性のない計画に関する人間の行動の様々な側面を研究する枠組みを拡張した。
その結果,現在偏りのあるエージェントが計算している解のコストと最適解のコストの比率は,問題制約によって大きく異なることがわかった。
論文 参考訳（メタデータ） (2020-12-29T12:40:59Z) - Beyond Individualized Recourse: Interpretable and Interactive Summaries
of Actionable Recourses [14.626432428431594]
本稿では,Actionable Recourse Agnostic (AReS) と呼ばれる新しいモデルフレームワークを提案する。
説明文の正当性と解釈可能性の両面を同時に最適化する新たな目的を定式化する。
当社のフレームワークは,ブラックボックスモデルに対応するリコースの包括的概要を意思決定者に提供する。
論文 参考訳（メタデータ） (2020-09-15T15:14:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。