論文の概要: A Causal Lens for Learning Long-term Fair Policies
- arxiv url: http://arxiv.org/abs/2506.11242v1
- Date: Thu, 12 Jun 2025 19:22:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-16 17:50:49.558246
- Title: A Causal Lens for Learning Long-term Fair Policies
- Title（参考訳）: 長期的公正政策学習のための因果レンズ
- Authors: Jacob Lear, Lu Zhang,
- Abstract要約: 本稿では,動的意思決定システムにおける長期公正性の検証の重要性を強調した。
本稿では,期待される平均資格獲得率の差によって,長期的公正度が測定される一般的な枠組みを提案する。
我々は、これらの構成要素と、利益公正という新たな公正概念との本質的な関係を解析する。
- 参考スコア（独自算出の注目度）: 3.2233767737586674
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Fairness-aware learning studies the development of algorithms that avoid discriminatory decision outcomes despite biased training data. While most studies have concentrated on immediate bias in static contexts, this paper highlights the importance of investigating long-term fairness in dynamic decision-making systems while simultaneously considering instantaneous fairness requirements. In the context of reinforcement learning, we propose a general framework where long-term fairness is measured by the difference in the average expected qualification gain that individuals from different groups could obtain.Then, through a causal lens, we decompose this metric into three components that represent the direct impact, the delayed impact, as well as the spurious effect the policy has on the qualification gain. We analyze the intrinsic connection between these components and an emerging fairness notion called benefit fairness that aims to control the equity of outcomes in decision-making. Finally, we develop a simple yet effective approach for balancing various fairness notions.
- Abstract（参考訳）: 公正な学習は、偏りのあるトレーニングデータにもかかわらず差別的な決定結果を避けるアルゴリズムの開発を研究する。
静的な文脈における即時バイアスに注目する研究は多いが,本論文では,動的意思決定システムにおける長期公正性を同時に検討することの重要性を強調した。
強化学習の文脈において、異なるグループの個人が獲得できる平均的適格率の差によって長期的公正度が測定される一般的な枠組みを提案し、その後、因果レンズを通して、この指標を3つの要素に分解し、直接的な影響、遅延した影響、および政策が認定利得にもたらす素早い影響について述べる。
我々は、これらのコンポーネントと、意思決定における成果の公平性を制御することを目的とした利益公平性という、新たな公正性の概念との本質的な関係を分析する。
最後に、様々な公正概念のバランスをとるための、単純で効果的なアプローチを開発する。
関連論文リスト
- Fairness in Reinforcement Learning with Bisimulation Metrics [45.674943127750595]
公平さを考慮せずに報酬を最大化することにより、AIエージェントはグループや個人の扱いに格差を導入することができる。
そこで本研究では,バイシミュレーションのメトリクスを利用して報酬関数と観測ダイナミクスを学習する手法を提案する。
論文 参考訳（メタデータ） (2024-12-22T18:23:06Z) - Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。
因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。
因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
論文 参考訳（メタデータ） (2024-05-24T11:19:52Z) - What Hides behind Unfairness? Exploring Dynamics Fairness in Reinforcement Learning [52.51430732904994]
強化学習問題では、エージェントはリターンを最大化しながら長期的な公正性を考慮する必要がある。
近年の研究では様々なフェアネスの概念が提案されているが、RL問題における不公平性がどのように生じるかは定かではない。
我々は、環境力学から生じる不平等を明示的に捉える、ダイナミックスフェアネスという新しい概念を導入する。
論文 参考訳（メタデータ） (2024-04-16T22:47:59Z) - Fairness and robustness in anti-causal prediction [73.693135253335]
分散シフトと公平性に対するロバストさは、機械学習モデルに必要な2つの重要なデシラタとして独立に現れている。
これら2つのデシダラタは関連しているように見えるが、実際にはその関連性はしばしば不明である。
この観点から見れば、共通フェアネス基準(分離)とロバストネスの共通概念との明確な関係を描いています。
論文 参考訳（メタデータ） (2022-09-20T02:41:17Z) - Causal Fairness Analysis [68.12191782657437]
意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。
我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。
本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
論文 参考訳（メタデータ） (2022-07-23T01:06:34Z) - What-is and How-to for Fairness in Machine Learning: A Survey,
Reflection, and Perspective [13.124434298120494]
機械学習文学においてこれまで提案されてきたフェアネスの概念を概観し,考察する。
また、現在の予測と決定によって引き起こされる長期的な影響についても検討する。
本稿では、目的を達成するために、ミッション(どんな公正を強制したいのか)と手段(どの公正分析が興味を持つのか)を一致させることの重要性を示す。
論文 参考訳（メタデータ） (2022-06-08T18:05:46Z) - How Do Fair Decisions Fare in Long-term Qualification? [28.069400272075185]
部分的に観察されたマルコフ決定問題設定の下で,集団資格とアルゴリズム決定のダイナミクスについて検討した。
このような力学の平衡を特徴付けることにより、静的フェアネス制約の長期的影響がグループウェルビーイングの平等性と改善に与える影響を解析する。
論文 参考訳（メタデータ） (2020-10-21T20:27:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。