論文の概要: Group Fairness with Uncertainty in Sensitive Attributes
- arxiv url: http://arxiv.org/abs/2302.08077v2
- Date: Wed, 7 Jun 2023 12:33:50 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-08 19:14:20.588068
- Title: Group Fairness with Uncertainty in Sensitive Attributes
- Title(参考訳): 感性属性の不確かさを伴うグループフェアネス
- Authors: Abhin Shah, Maohao Shen, Jongha Jon Ryu, Subhro Das, Prasanna
Sattigeri, Yuheng Bu, and Gregory W. Wornell
- Abstract要約: 公正な予測モデルは、ハイテイクなアプリケーションにおける少数派グループに対する偏見のある決定を緩和するために不可欠である。
本稿では, 感度特性の不確実性にも拘わらず, フェアネスの目標レベルを達成するブートストラップに基づくアルゴリズムを提案する。
本アルゴリズムは離散的属性と連続的属性の両方に適用可能であり,実世界の分類や回帰作業に有効である。
- 参考スコア(独自算出の注目度): 34.608332397776245
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning a fair predictive model is crucial to mitigate biased decisions
against minority groups in high-stakes applications. A common approach to learn
such a model involves solving an optimization problem that maximizes the
predictive power of the model under an appropriate group fairness constraint.
However, in practice, sensitive attributes are often missing or noisy resulting
in uncertainty. We demonstrate that solely enforcing fairness constraints on
uncertain sensitive attributes can fall significantly short in achieving the
level of fairness of models trained without uncertainty. To overcome this
limitation, we propose a bootstrap-based algorithm that achieves the target
level of fairness despite the uncertainty in sensitive attributes. The
algorithm is guided by a Gaussian analysis for the independence notion of
fairness where we propose a robust quadratically constrained quadratic problem
to ensure a strict fairness guarantee with uncertain sensitive attributes. Our
algorithm is applicable to both discrete and continuous sensitive attributes
and is effective in real-world classification and regression tasks for various
group fairness notions, e.g., independence and separation.
- Abstract(参考訳): 公正な予測モデルを学ぶことは、高度なアプリケーションにおいて少数派グループに対する偏見のある決定を緩和するために不可欠である。
このようなモデルを学ぶ一般的なアプローチは、適切なグループフェアネス制約の下でモデルの予測力を最大化する最適化問題を解決することである。
しかし、実際には、センシティブな属性が欠落したり、うるさいことがしばしばある。
不確実性属性に対する公平性の制約のみを課すことは、不確実性のないモデルの公平性のレベルを達成するのに著しく低下することを示した。
この制限を克服するために,機密性の高い属性の不確かさにもかかわらず,公平さの目標レベルを達成するブートストラップベースのアルゴリズムを提案する。
このアルゴリズムは、不確実な属性を持つ厳密な公正性を保証するために、頑健な2次制約付き二次問題を提案する独立性の概念に対するガウス解析によって導かれる。
本アルゴリズムは離散的および連続的な敏感な属性に適用でき、例えば独立性や分離など、様々なグループフェアネス概念の現実世界の分類や回帰タスクに有効である。
関連論文リスト
- Provable Optimization for Adversarial Fair Self-supervised Contrastive Learning [49.417414031031264]
本稿では,自己教師型学習環境におけるフェアエンコーダの学習について検討する。
すべてのデータはラベル付けされておらず、そのごく一部だけが機密属性で注釈付けされている。
論文 参考訳(メタデータ) (2024-06-09T08:11:12Z) - Fairness Without Harm: An Influence-Guided Active Sampling Approach [32.173195437797766]
我々は、モデルの精度に害を与えることなく、グループフェアネスの格差を軽減するモデルを訓練することを目指している。
公正なアクティブな学習アプローチのような現在のデータ取得方法は、通常、アノテートセンシティブな属性を必要とする。
トレーニンググループアノテーションに依存しない抽出可能なアクティブデータサンプリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-02-20T07:57:38Z) - Fairness in Matching under Uncertainty [78.39459690570531]
アルゴリズム的な二面市場は、こうした設定における公平性の問題に注意を向けている。
我々は、利益の不確実性を尊重する両面の市場設定において、個々人の公正性の概念を公理化する。
そこで我々は,配当よりも公平なユーティリティ最大化分布を求めるために,線形プログラミングフレームワークを設計する。
論文 参考訳(メタデータ) (2023-02-08T00:30:32Z) - Practical Approaches for Fair Learning with Multitype and Multivariate
Sensitive Attributes [70.6326967720747]
現実世界に展開された機械学習アルゴリズムが不公平さや意図しない社会的結果をもたらすことはないことを保証することが重要である。
本稿では,カーネルHilbert Spacesの相互共分散演算子上に構築されたフェアネス尺度であるFairCOCCOを紹介する。
実世界のデータセットにおける予測能力と公正性のバランスをとる上で、最先端技術に対する一貫した改善を実証的に示す。
論文 参考訳(メタデータ) (2022-11-11T11:28:46Z) - Fairness via Adversarial Attribute Neighbourhood Robust Learning [49.93775302674591]
本稿では,分類ヘッドを損なうために,UnderlineRobust underlineAdversarial underlineAttribute underlineNeighbourhood (RAAN)損失を原則として提案する。
論文 参考訳(メタデータ) (2022-10-12T23:39:28Z) - SLIDE: a surrogate fairness constraint to ensure fairness consistency [1.3649494534428745]
本稿では, SLIDE と呼ばれる新しい代用フェアネス制約を提案し, 高速収束率を実現する。
数値実験により、SLIDEは様々なベンチマークデータセットでうまく機能することを確認した。
論文 参考訳(メタデータ) (2022-02-07T13:50:21Z) - Dikaios: Privacy Auditing of Algorithmic Fairness via Attribute
Inference Attacks [0.5801044612920815]
モデルビルダーのための公正性アルゴリズムのためのプライバシ監査ツールであるDikaiosを提案する。
適応予測しきい値を持つ属性推論攻撃は,前回の攻撃よりも有意に優れていた。
論文 参考訳(メタデータ) (2022-02-04T17:19:59Z) - Measuring Fairness Under Unawareness of Sensitive Attributes: A
Quantification-Based Approach [131.20444904674494]
センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。
定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
論文 参考訳(メタデータ) (2021-09-17T13:45:46Z) - Fair Classification with Adversarial Perturbations [35.030329189029246]
本研究は,学習サンプルの任意の$eta$-fractionを選択でき,保護属性を任意に摂動することができるような,万能な逆境の存在下での公平な分類について検討する。
我々の主な貢献は、精度と公正性に関する証明可能な保証を伴うこの逆条件で公平な分類法を学ぶための最適化フレームワークである。
我々は、自然な仮説クラスに対する我々のフレームワークの保証のほぼ正当性を証明している: どのアルゴリズムもはるかに精度が良く、より良い公正性を持つアルゴリズムは、より低い精度でなければならない。
論文 参考訳(メタデータ) (2021-06-10T17:56:59Z) - Addressing Fairness in Classification with a Model-Agnostic
Multi-Objective Algorithm [33.145522561104464]
分類における公平性の目標は、人種や性別などのセンシティブな属性に基づいて個人のグループを識別しない分類器を学習することである。
公正アルゴリズムを設計する1つのアプローチは、公正の概念の緩和を正規化項として使うことである。
我々はこの性質を利用して、既存の緩和よりも証明可能な公正の概念を近似する微分可能な緩和を定義する。
論文 参考訳(メタデータ) (2020-09-09T17:40:24Z) - Beyond Individual and Group Fairness [90.4666341812857]
本稿では,不公平な不公平な苦情に導かれる公平さの新しいデータ駆動モデルを提案する。
我々のモデルは、複数のフェアネス基準をサポートし、それらの潜在的な不整合を考慮に入れている。
論文 参考訳(メタデータ) (2020-08-21T14:14:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。