論文の概要: On Prediction-Modelers and Decision-Makers: Why Fairness Requires More
Than a Fair Prediction Model
- arxiv url: http://arxiv.org/abs/2310.05598v1
- Date: Mon, 9 Oct 2023 10:34:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-12 06:30:48.984009
- Title: On Prediction-Modelers and Decision-Makers: Why Fairness Requires More
Than a Fair Prediction Model
- Title（参考訳）: 予測モデルと意思決定者について:なぜ公正が公正な予測モデル以上のものが必要なのか
- Authors: Teresa Scantamburlo, Joachim Baumann, Christoph Heitz
- Abstract要約: 予測に基づく意思決定の分野における暗黙の曖昧さは、予測の概念と決定の関係を考察する。
これら2つの要素が予測に基づく決定システムの最終的な公平性にどう影響するかを示す。
本稿では,予測に基づく意思決定において公平性を生み出す概念論理の理解と推論を可能にするフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 1.3996171129586732
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An implicit ambiguity in the field of prediction-based decision-making
regards the relation between the concepts of prediction and decision. Much of
the literature in the field tends to blur the boundaries between the two
concepts and often simply speaks of 'fair prediction.' In this paper, we point
out that a differentiation of these concepts is helpful when implementing
algorithmic fairness. Even if fairness properties are related to the features
of the used prediction model, what is more properly called 'fair' or 'unfair'
is a decision system, not a prediction model. This is because fairness is about
the consequences on human lives, created by a decision, not by a prediction. We
clarify the distinction between the concepts of prediction and decision and
show the different ways in which these two elements influence the final
fairness properties of a prediction-based decision system. In addition to
exploring this relationship conceptually and practically, we propose a
framework that enables a better understanding and reasoning of the conceptual
logic of creating fairness in prediction-based decision-making. In our
framework, we specify different roles, namely the 'prediction-modeler' and the
'decision-maker,' and the information required from each of them for being able
to implement fairness of the system. Our framework allows for deriving distinct
responsibilities for both roles and discussing some insights related to ethical
and legal requirements. Our contribution is twofold. First, we shift the focus
from abstract algorithmic fairness to context-dependent decision-making,
recognizing diverse actors with unique objectives and independent actions.
Second, we provide a conceptual framework that can help structure
prediction-based decision problems with respect to fairness issues, identify
responsibilities, and implement fairness governance mechanisms in real-world
scenarios.
- Abstract（参考訳）: 予測に基づく意思決定の分野における暗黙の曖昧さは、予測の概念と決定の関係を考察する。
この分野の文学の多くは2つの概念の境界を曖昧にしがちであり、単に「公正な予測」を述べることが多い。
本稿では,アルゴリズムの公平性を実装する上で,これらの概念の分化が有用であることを示す。
フェアネス特性が使用した予測モデルの特徴と関連しているとしても、より適切に「フェア」あるいは「アンフェア」と呼ばれるものは、予測モデルではなく決定システムである。
これは、公平さは、予測ではなく、決定によって生み出される人間の生活の結果であるからである。
予測と決定の概念の区別を明確にし,これら2つの要素が予測に基づく決定システムの最終的な公平性に影響を与える異なる方法を示す。
この関係を概念的かつ実践的に探求することに加えて,予測に基づく意思決定において公平性を生み出す概念論理の理解と推論を可能にする枠組みを提案する。
本フレームワークでは,「予測モデラー」と「意思決定者」という異なる役割と,システムの公平性を実現するために必要な情報を指定する。
当社のフレームワークは,両役割の明確な責任の導出と,倫理的および法的要件に関する洞察の議論を可能にします。
私たちの貢献は2倍です。
まず,抽象的アルゴリズム的公平性から文脈依存的意思決定へと焦点を移し,ユニークな目的と独立した行動を持つ多様なアクタを認識する。
第2に,公平性問題に関する予測に基づく意思決定問題の構築,責任の特定,現実世界のシナリオにおける公平性ガバナンス機構の実現を支援する,概念的枠組みを提案する。
関連論文リスト
- Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。
因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。
因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
論文 参考訳（メタデータ） (2024-05-24T11:19:52Z) - Fairness Explainability using Optimal Transport with Applications in
Image Classification [0.46040036610482665]
機械学習アプリケーションにおける差別の原因を明らかにするための包括的アプローチを提案する。
We leverage Wasserstein barycenters to achieve fair predictions and introduce an extension to pinpoint bias-associated region。
これにより、各特徴がバイアスに影響を及ぼすかどうかを測定するために強制的公正性を使用する凝集系を導出することができる。
論文 参考訳（メタデータ） (2023-08-22T00:10:23Z) - Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。
カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。
本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
論文 参考訳（メタデータ） (2023-07-17T04:08:29Z) - Causal Fairness for Outcome Control [68.12191782657437]
本稿では,自動システムにおいて,公平かつ公平な結果変数を最適化することを目的とした,結果制御と呼ばれる特定の意思決定タスクについて検討する。
本稿では、まず因果レンズを通して利益の概念を分析し、特定の個人が肯定的な決定によってどれだけの利益を得られるかを明らかにする。
次に、保護された属性の影響を受けている可能性があることに留意し、これを分析するために使用できる因果的ツールを提案する。
論文 参考訳（メタデータ） (2023-06-08T09:31:18Z) - Reconciling Predictive and Statistical Parity: A Causal Approach [68.59381759875734]
本稿では,予測パリティに付随する公平度対策のための因果分解式を提案する。
統計的および予測パリティの概念は、実際には互いに排他的ではなく、相補的であり、公正の概念のスペクトルにまたがっていることを示す。
論文 参考訳（メタデータ） (2023-06-08T09:23:22Z) - Causal Fairness Analysis [68.12191782657437]
意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。
我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。
本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
論文 参考訳（メタデータ） (2022-07-23T01:06:34Z) - What-is and How-to for Fairness in Machine Learning: A Survey,
Reflection, and Perspective [13.124434298120494]
機械学習文学においてこれまで提案されてきたフェアネスの概念を概観し,考察する。
また、現在の予測と決定によって引き起こされる長期的な影響についても検討する。
本稿では、目的を達成するために、ミッション(どんな公正を強制したいのか)と手段(どの公正分析が興味を持つのか)を一致させることの重要性を示す。
論文 参考訳（メタデータ） (2022-06-08T18:05:46Z) - A Justice-Based Framework for the Analysis of Algorithmic
Fairness-Utility Trade-Offs [0.0]
予測に基づく意思決定システムでは、異なる視点が異なってくる可能性がある。
意思決定者の短期的なビジネス目標はしばしば、意思決定対象が公平に扱われたいという願望と矛盾している。
本稿では,これらの価値を優先した選択を明確化するためのフレームワークを提案する。
論文 参考訳（メタデータ） (2022-06-06T20:31:55Z) - The Equity Framework: Fairness Beyond Equalized Predictive Outcomes [0.0]
意思決定者が物理的・社会的環境を描写するモデルから逸脱するモデルを使用すると生じる公平性の問題について検討する。
モデルへの平等なアクセス、モデルからの平等な結果、モデルの平等な利用を考慮に入れたEquity Frameworkを定式化する。
論文 参考訳（メタデータ） (2022-04-18T20:49:51Z) - Measuring Fairness of Text Classifiers via Prediction Sensitivity [63.56554964580627]
加速度予測感度は、入力特徴の摂動に対するモデルの予測感度に基づいて、機械学習モデルの公正度を測定する。
この計量は、群フェアネス(統計パリティ)と個人フェアネスという特定の概念と理論的に関連付けられることを示す。
論文 参考訳（メタデータ） (2022-03-16T15:00:33Z) - Legal perspective on possible fairness measures - A legal discussion
using the example of hiring decisions (preprint) [0.0]
雇用決定の特定の適用に適用可能な、さまざまな公正の概念を説明します。
本研究は,それぞれの公正解釈について,その長所と短所を分析し,法的観点から評価する。
論文 参考訳（メタデータ） (2021-08-16T06:41:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。