論文の概要: A Causal Framework to Measure and Mitigate Non-binary Treatment Discrimination
- arxiv url: http://arxiv.org/abs/2503.22454v1
- Date: Fri, 28 Mar 2025 14:06:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-31 15:32:14.712494
- Title: A Causal Framework to Measure and Mitigate Non-binary Treatment Discrimination
- Title（参考訳）: 非バイナリな処理識別を計測・緩和するための因果的枠組み
- Authors: Ayan Majumdar, Deborah D. Kanubala, Kavya Gupta, Isabel Valera,
- Abstract要約: 非バイナリな処理決定は意思決定プロセスに不可欠なものであり、意思決定者によって制御されている、と我々は主張する。
公平性分析を拡張する因果的枠組みを提案する。
この枠組みは歴史的データから治療の差別を効果的に緩和することを示します。
- 参考スコア（独自算出の注目度）: 10.30435055404255
- License:
- Abstract: Fairness studies of algorithmic decision-making systems often simplify complex decision processes, such as bail or loan approvals, into binary classification tasks. However, these approaches overlook that such decisions are not inherently binary (e.g., approve or not approve bail or loan); they also involve non-binary treatment decisions (e.g., bail conditions or loan terms) that can influence the downstream outcomes (e.g., loan repayment or reoffending). In this paper, we argue that non-binary treatment decisions are integral to the decision process and controlled by decision-makers and, therefore, should be central to fairness analyses in algorithmic decision-making. We propose a causal framework that extends fairness analyses and explicitly distinguishes between decision-subjects' covariates and the treatment decisions. This specification allows decision-makers to use our framework to (i) measure treatment disparity and its downstream effects in historical data and, using counterfactual reasoning, (ii) mitigate the impact of past unfair treatment decisions when automating decision-making. We use our framework to empirically analyze four widely used loan approval datasets to reveal potential disparity in non-binary treatment decisions and their discriminatory impact on outcomes, highlighting the need to incorporate treatment decisions in fairness assessments. Moreover, by intervening in treatment decisions, we show that our framework effectively mitigates treatment discrimination from historical data to ensure fair risk score estimation and (non-binary) decision-making processes that benefit all stakeholders.
- Abstract（参考訳）: アルゴリズムによる意思決定システムの公正性の研究は、保釈やローン承認のような複雑な意思決定プロセスを二項分類タスクに単純化することが多い。
しかし、これらのアプローチは、そのような決定は本質的に二元的(例えば、保釈や融資を承認または承認しない)ではなく、下流の結果に影響を及ぼす可能性のある非二元的処理決定(例えば、保釈条件やローン条件)も含んでいる。
本稿では,非バイナリ処理決定は意思決定プロセスに不可欠なものであり,意思決定者によって制御されるので,アルゴリズムによる意思決定における公平性分析の中心となるべきであると論じる。
公平性分析を拡張し,意思決定対象の共変量と治療決定を明確に区別する因果的枠組みを提案する。
この仕様により、意思決定者は私たちのフレームワークを使えるようになります。
一 歴史的データ及び反実的推論を用いて、その処理格差及び下流効果を測定すること。
二 意思決定の自動化における過去の不公平な処理決定の影響を軽減すること。
我々は,広く使用されている4つのローン承認データセットを実証的に分析し,非バイナリ処理決定における潜在的な格差と結果に対する差別的影響を明らかにし,公平性評価に治療決定を組み込む必要性を強調した。
さらに, 治療決定の介入により, 全利害関係者に利益をもたらす公平なリスクスコア推定と(二元的でない)意思決定プロセスを確保するために, 歴史的データからの治療差別を効果的に軽減できることが示唆された。
関連論文リスト
- (Un)certainty of (Un)fairness: Preference-Based Selection of Certainly Fair Decision-Makers [0.0]
公正度指標は、さまざまな領域にわたる意思決定プロセスにおける差別と偏見を評価するために使用される。
我々は差別評価を強化するために格差の不確実性を定量化する。
我々は、意思決定者よりも好みを定義し、最適な意思決定者を選択するためにブルートフォースを利用する。
論文 参考訳（メタデータ） (2024-09-19T11:44:03Z) - Enhancing Language Model Rationality with Bi-Directional Deliberation Reasoning [73.77288647011295]
本稿では,BI-Directional Deliberation Reasoning (BIDDER)を導入し,言語モデルの意思決定合理性を高める。
私たちのアプローチには3つの重要なプロセスがあります。
歴史的データから、意思決定過程における不確実な情報を表すために隠された国家を推定すること。
隠れた状態を使って将来の潜在的な状態と潜在的な結果を予測する。
歴史的情報(過去コンテキスト)と長期的結果(未来コンテキスト)を統合することで、推論を知らせる。
論文 参考訳（メタデータ） (2024-07-08T16:48:48Z) - Explaining by Imitating: Understanding Decisions by Interpretable Policy
Learning [72.80902932543474]
観察されたデータから人間の行動を理解することは、意思決定における透明性と説明責任にとって重要である。
意思決定者の方針をモデル化することが困難である医療などの現実的な設定を考えてみましょう。
本稿では, 設計による透明性の向上, 部分観測可能性の確保, 完全にオフラインで動作可能なデータ駆動型意思決定行動の表現を提案する。
論文 参考訳（メタデータ） (2023-10-28T13:06:14Z) - Online Decision Mediation [72.80902932543474]
意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。
臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
論文 参考訳（メタデータ） (2023-10-28T05:59:43Z) - Influence of the algorithm's reliability and transparency in the user's
decision-making process [0.0]
我々は61人の参加者とともにオンライン実験を行い、アルゴリズムの透明性と信頼性の変化がユーザーの意思決定プロセスにどのように影響するかを調べる。
その結果,信頼性が悪くても,アルゴリズムの判断にある程度の信頼感が示されることがわかった。
論文 参考訳（メタデータ） (2023-07-13T03:13:49Z) - An End-to-End Approach for Online Decision Mining and Decision Drift
Analysis in Process-Aware Information Systems: Extended Version [0.0]
決定マイニングは、イベントログやストリームから決定ルールの発見を可能にする。
オンライン意思決定マイニングは、意思決定ルールの進化と意思決定のドリフトを継続的に監視することを可能にする。
本稿では,発見のためのエンドツーエンドアプローチと,実行中の決定点とそれに対応する決定ルールの監視について述べる。
論文 参考訳（メタデータ） (2023-03-07T15:04:49Z) - Causal Fairness Analysis [68.12191782657437]
意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。
我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。
本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
論文 参考訳（メタデータ） (2022-07-23T01:06:34Z) - A Justice-Based Framework for the Analysis of Algorithmic
Fairness-Utility Trade-Offs [0.0]
予測に基づく意思決定システムでは、異なる視点が異なってくる可能性がある。
意思決定者の短期的なビジネス目標はしばしば、意思決定対象が公平に扱われたいという願望と矛盾している。
本稿では,これらの価値を優先した選択を明確化するためのフレームワークを提案する。
論文 参考訳（メタデータ） (2022-06-06T20:31:55Z) - Inverse Online Learning: Understanding Non-Stationary and Reactionary
Policies [79.60322329952453]
エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。
一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。
本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。
UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
論文 参考訳（メタデータ） (2022-03-14T17:40:42Z) - Learning Pareto-Efficient Decisions with Confidence [21.915057426589748]
本稿では,結果が不確実な場合の多目的意思決定支援の問題点について考察する。
これにより、安全クリティカルなアプリケーションに関係のある末尾的な結果の観点から、意思決定間のトレードオフを定量化できます。
論文 参考訳（メタデータ） (2021-10-19T11:32:17Z) - Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。
本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。
本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
論文 参考訳（メタデータ） (2021-01-24T05:40:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。