論文の概要: Robust Fairness under Covariate Shift
- arxiv url: http://arxiv.org/abs/2010.05166v3
- Date: Sat, 6 Feb 2021 06:46:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-08 12:57:02.728071
- Title: Robust Fairness under Covariate Shift
- Title（参考訳）: 共変量シフト下におけるロバストフェアネス
- Authors: Ashkan Rezaei, Anqi Liu, Omid Memarrast, Brian Ziebart
- Abstract要約: 保護グループメンバーシップに関して公正な予測を行うことは、分類アルゴリズムの重要な要件となっている。
本稿では,ターゲット性能の面で最悪のケースに対して頑健な予測値を求める手法を提案する。
- 参考スコア（独自算出の注目度）: 11.151913007808927
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Making predictions that are fair with regard to protected group membership
(race, gender, age, etc.) has become an important requirement for
classification algorithms. Existing techniques derive a fair model from sampled
labeled data relying on the assumption that training and testing data are
identically and independently drawn (iid) from the same distribution. In
practice, distribution shift can and does occur between training and testing
datasets as the characteristics of individuals interacting with the machine
learning system change. We investigate fairness under covariate shift, a
relaxation of the iid assumption in which the inputs or covariates change while
the conditional label distribution remains the same. We seek fair decisions
under these assumptions on target data with unknown labels. We propose an
approach that obtains the predictor that is robust to the worst-case in terms
of target performance while satisfying target fairness requirements and
matching statistical properties of the source data. We demonstrate the benefits
of our approach on benchmark prediction tasks.
- Abstract（参考訳）: 保護されたグループメンバーシップ(人種、性別、年齢など)に関して公正な予測を行うことは、分類アルゴリズムの重要な要件となっている。
既存の手法は、トレーニングデータとテストデータが同一かつ独立に(iid)同じ分布から引き出されるという仮定に基づいて、サンプルラベル付きデータから公正なモデルを導出する。
実際には、機械学習システムの変更と相互作用する個人の特性として、データセットのトレーニングとテストの間に分散シフトが発生する。
条件付きラベル分布が同じまま入力や共変数が変化するiid仮定の緩和である共変量シフトの下での公平性について検討する。
我々は、未知のラベルを持つターゲットデータに対して、これらの仮定の下で公正な決定を求める。
対象とする公平性要件を満たし,ソースデータの統計的特性を整合しつつ,目標性能の面では最悪の場合にロバストな予測器を得る手法を提案する。
ベンチマーク予測タスクにおけるアプローチの利点を実証する。
関連論文リスト
- Balancing Fairness and Accuracy in Data-Restricted Binary Classification [14.439413517433891]
本稿では,4つの実践シナリオ下での精度と公平性のトレードオフをモデル化する枠組みを提案する。
3つのデータセットの実験では、トレードオフを定量化するためのツールとして提案されたフレームワークの有用性が示されている。
論文 参考訳（メタデータ） (2024-03-12T15:01:27Z) - Chasing Fairness Under Distribution Shift: A Model Weight Perturbation
Approach [72.19525160912943]
まず,分布シフト,データ摂動,モデルウェイト摂動の関連性を理論的に検証した。
次に、ターゲットデータセットの公平性を保証するのに十分な条件を分析します。
これらの十分な条件により、ロバストフェアネス正則化(RFR)を提案する。
論文 参考訳（メタデータ） (2023-03-06T17:19:23Z) - Breaking the Spurious Causality of Conditional Generation via Fairness
Intervention with Corrective Sampling [77.15766509677348]
条件生成モデルは、トレーニングデータセットから急激な相関を継承することが多い。
これは別の潜在属性に対して不均衡なラベル条件分布をもたらす。
この問題を緩和するための一般的な2段階戦略を提案する。
論文 参考訳（メタデータ） (2022-12-05T08:09:33Z) - Fairness Transferability Subject to Bounded Distribution Shift [5.62716254065607]
あるソース分布に「フェア」なアルゴリズム予測器が与えられたとしても、あるバウンダリ内のソースと異なる未知のターゲット分布上では、まだフェアなのか?
本研究では,有界分布シフトを考慮した機械学習予測器の統計的グループフェアネスの伝達可能性について検討する。
論文 参考訳（メタデータ） (2022-05-31T22:16:44Z) - Conformal prediction for the design problem [72.14982816083297]
機械学習の現実的な展開では、次にテストすべきデータを選択するために予測アルゴリズムを使用します。
このような設定では、トレーニングデータとテストデータの間には、異なるタイプの分散シフトがある。
このような環境で予測の不確実性を定量化する手法を提案する。
論文 参考訳（メタデータ） (2022-02-08T02:59:12Z) - Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。
本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。
本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
論文 参考訳（メタデータ） (2022-01-11T23:01:12Z) - Robust Fairness-aware Learning Under Sample Selection Bias [17.09665420515772]
サンプル選択バイアス下での頑健で公正な学習のための枠組みを提案する。
テストデータが利用可能で、利用できない場合に、サンプル選択バイアスを処理する2つのアルゴリズムを開発した。
論文 参考訳（メタデータ） (2021-05-24T23:23:36Z) - Can Active Learning Preemptively Mitigate Fairness Issues? [66.84854430781097]
データセットバイアスは、機械学習における不公平な原因の1つです。
不確実性に基づくALで訓練されたモデルが保護クラスの決定において公平であるかどうかを検討する。
また,勾配反転(GRAD)やBALDなどのアルゴリズム的公正性手法の相互作用についても検討する。
論文 参考訳（メタデータ） (2021-04-14T14:20:22Z) - Robust Validation: Confident Predictions Even When Distributions Shift [19.327409270934474]
本稿では,モデルが点予測ではなく,その予測に対して不確実な推定を行うような,頑健な予測推論の手順について述べる。
本稿では, トレーニング集団の周囲に$f$-divergence のボールを用いて, 任意のテスト分布に対して適切なカバレッジレベルを与える予測セットを生成する手法を提案する。
私たちの方法論の重要な構成要素は、将来のデータシフトの量を見積り、それに対する堅牢性を構築することです。
論文 参考訳（メタデータ） (2020-08-10T17:09:16Z) - Towards Accuracy-Fairness Paradox: Adversarial Example-based Data
Augmentation for Visual Debiasing [15.689539491203373]
機械学習の公平性は、ターゲットタスクに対処する際に、特定の保護された、または機密性の高いグループに対するバイアスを懸念する。
本稿では,画像分類タスクの文脈におけるバイアス問題について検討する。
論文 参考訳（メタデータ） (2020-07-27T15:17:52Z) - Causal Feature Selection for Algorithmic Fairness [61.767399505764736]
データ管理の統合コンポーネントにおける公平性について検討する。
本稿では,データセットの公平性を保証する特徴のサブコレクションを同定する手法を提案する。
論文 参考訳（メタデータ） (2020-06-10T20:20:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。