論文の概要: Error Parity Fairness: Testing for Group Fairness in Regression Tasks
- arxiv url: http://arxiv.org/abs/2208.08279v1
- Date: Tue, 16 Aug 2022 17:47:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-18 13:32:45.997391
- Title: Error Parity Fairness: Testing for Group Fairness in Regression Tasks
- Title（参考訳）: Error Parity Fairness: 回帰作業におけるグループフェアネスのテスト
- Authors: Furkan Gursoy, Ioannis A. Kakadiaris
- Abstract要約: この研究は、回帰フェアネスの概念としてエラーパリティを示し、グループフェアネスを評価するためのテスト手法を導入する。
続いて、いくつかの統計上のグループを比較し、格差を探索し、影響されたグループを特定するのに適した置換テストが実施される。
全体として、提案された回帰公正性テスト手法は、公正な機械学習文献のギャップを埋め、より大きなアカウンタビリティ評価とアルゴリズム監査の一部として機能する可能性がある。
- 参考スコア（独自算出の注目度）: 5.076419064097733
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The applications of Artificial Intelligence (AI) surround decisions on
increasingly many aspects of human lives. Society responds by imposing legal
and social expectations for the accountability of such automated decision
systems (ADSs). Fairness, a fundamental constituent of AI accountability, is
concerned with just treatment of individuals and sensitive groups (e.g., based
on sex, race). While many studies focus on fair learning and fairness testing
for the classification tasks, the literature is rather limited on how to
examine fairness in regression tasks. This work presents error parity as a
regression fairness notion and introduces a testing methodology to assess group
fairness based on a statistical hypothesis testing procedure. The error parity
test checks whether prediction errors are distributed similarly across
sensitive groups to determine if an ADS is fair. It is followed by a suitable
permutation test to compare groups on several statistics to explore disparities
and identify impacted groups. The usefulness and applicability of the proposed
methodology are demonstrated via a case study on COVID-19 projections in the US
at the county level, which revealed race-based differences in forecast errors.
Overall, the proposed regression fairness testing methodology fills a gap in
the fair machine learning literature and may serve as a part of larger
accountability assessments and algorithm audits.
- Abstract（参考訳）: 人工知能(AI)の応用は、人間の生活の多くの側面における決定を取り巻く。
社会は、このような自動意思決定システム(ADS)の責任について法的および社会的期待を課すことで対応している。
aiアカウンタビリティの基本的な構成要素であるフェアネスは、個人やセンシティブなグループ(例えば、性別や人種に基づく)の扱いにのみ関係している。
多くの研究は分類タスクの公正な学習と公平性テストに焦点を当てているが、この文献は回帰タスクの公平性を調べる方法にかなり限定されている。
本研究は,回帰的公平性の概念としてエラーパリティを示し,統計的仮説検定手法に基づく集団公平性を評価するためのテスト手法を提案する。
エラーパリティテストは、予測エラーがセンシティブなグループ間でも同様に分散されているかどうかをチェックし、ADSが公平かどうかを判断する。
続いて、いくつかの統計上の群を比較して不一致を探索し、影響のある群を識別する適切な置換試験が行われる。
提案手法の有用性と適用性は郡レベルでのcovid-19予測をケーススタディとして実証し,予測誤差の人種差を明らかにした。
全体として、提案された回帰公正性テスト手法は、公正な機械学習文献のギャップを埋め、より大きなアカウンタビリティ評価とアルゴリズム監査の一部として機能する可能性がある。
関連論文リスト
- Fairness Evaluation with Item Response Theory [10.871079276188649]
本稿では機械学習(ML)モデルにおける公平性を評価するための新しいFair-IRTフレームワークを提案する。
項目特性曲線(ICC)の詳細な説明は、特定の個人に対して提供される。
公平性評価ツールとしてのこのフレームワークの有効性を実証する実験を行った。
論文 参考訳（メタデータ） (2024-10-20T22:25:20Z) - Equal Confusion Fairness: Measuring Group-Based Disparities in Automated
Decision Systems [5.076419064097733]
本稿では,公正度の自動判定システムをチェックするための等混乱公正度試験と,不公平度を定量化するための新しい混乱パリティ誤差を提案する。
全体として、ここで提供される方法とメトリクスは、より広範な説明責任評価の一環として、自動決定システムの公正性を評価することができる。
論文 参考訳（メタデータ） (2023-07-02T04:44:19Z) - The Flawed Foundations of Fair Machine Learning [0.0]
統計的に正確な結果と類似した結果とのトレードオフが存在することを示す。
本稿では,統計的に正確な結果とグループ類似の結果の関係を理解する上で,研究者やデザイナーを支援するための概念実証手法を提案する。
論文 参考訳（メタデータ） (2023-06-02T10:07:12Z) - Counterpart Fairness -- Addressing Systematic between-group Differences in Fairness Evaluation [17.495053606192375]
機械学習を用いて意思決定を行う場合、アルゴリズム上の決定が公平であり、特定の個人やグループに対して差別的でないことを保証することが重要である。
既存のグループフェアネス手法は、人種や性別などの保護された変数によって規定されたグループ間で平等な結果を保証することを目的としている。
グループ間の系統的な差異が結果に重要な役割を果たす場合、これらの手法は非保護変数の影響を見逃す可能性がある。
論文 参考訳（メタデータ） (2023-05-29T15:41:12Z) - Auditing ICU Readmission Rates in an Clinical Database: An Analysis of
Risk Factors and Clinical Outcomes [0.0]
本研究では,30日間の読解問題における臨床データ分類のための機械学習パイプラインを提案する。
公正監査は、平等機会、予測パリティ、偽陽性率パリティ、偽陰性率パリティ基準の格差を明らかにする。
この研究は、人工知能(AI)システムのバイアスと公平性に対処するために、研究者、政策立案者、実践者の協力的努力の必要性を示唆している。
論文 参考訳（メタデータ） (2023-04-12T17:09:38Z) - D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling
Algorithmic Bias [57.87117733071416]
D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。
ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。
それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
論文 参考訳（メタデータ） (2022-08-10T03:41:48Z) - Fair Machine Learning in Healthcare: A Review [90.22219142430146]
我々は、機械学習と医療格差における公正性の交差を分析する。
機械学習の観点から、関連する公正度メトリクスを批判的にレビューする。
本稿では,医療における倫理的かつ公平なMLアプリケーション開発を約束する新たな研究指針を提案する。
論文 参考訳（メタデータ） (2022-06-29T04:32:10Z) - Measuring Fairness of Text Classifiers via Prediction Sensitivity [63.56554964580627]
加速度予測感度は、入力特徴の摂動に対するモデルの予測感度に基づいて、機械学習モデルの公正度を測定する。
この計量は、群フェアネス(統計パリティ)と個人フェアネスという特定の概念と理論的に関連付けられることを示す。
論文 参考訳（メタデータ） (2022-03-16T15:00:33Z) - Normalise for Fairness: A Simple Normalisation Technique for Fairness in Regression Machine Learning Problems [46.93320580613236]
回帰問題に対する正規化(FaiReg)に基づく単純かつ効果的な手法を提案する。
データバランシングと敵対的トレーニングという,公正性のための2つの標準的な手法と比較する。
その結果、データバランスよりも不公平さの影響を低減できる優れた性能を示した。
論文 参考訳（メタデータ） (2022-02-02T12:26:25Z) - Measuring Fairness Under Unawareness of Sensitive Attributes: A
Quantification-Based Approach [131.20444904674494]
センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。
定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
論文 参考訳（メタデータ） (2021-09-17T13:45:46Z) - Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking
Fairness and Algorithm Utility [54.179859639868646]
Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。
学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。
本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-15T10:08:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。