論文の概要: Fairness Under Feature Exemptions: Counterfactual and Observational Measures

• arxiv url: http://arxiv.org/abs/2006.07986v2
• Date: Fri, 6 Aug 2021 19:27:57 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-21 12:55:52.652065
• Title: Fairness Under Feature Exemptions: Counterfactual and Observational Measures
• Title（参考訳）: 特例免除の公正性:対実的・観察的措置
• Authors: Sanghamitra Dutta, Praveen Venkatesh, Piotr Mardziel, Anupam Datta, Pulkit Grover
• Abstract要約: 本稿では,2つの成分に相違点を分解する情報理論を提案する。 非例外成分は、臨界特徴によって説明できない部分を定量化し、例外成分は残りの格差を定量化する。 非免除格差を減らしながら、モデルを監査/トレーニングする方法を示すケーススタディを実行します。
• 参考スコア（独自算出の注目度）: 34.5472206536785
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the growing use of ML in highly consequential domains, quantifying disparity with respect to protected attributes, e.g., gender, race, etc., is important. While quantifying disparity is essential, sometimes the needs of an occupation may require the use of certain features that are critical in a way that any disparity that can be explained by them might need to be exempted. E.g., in hiring a software engineer for a safety-critical application, coding-skills may be weighed strongly, whereas name, zip code, or reference letters may be used only to the extent that they do not add disparity. In this work, we propose an information-theoretic decomposition of the total disparity (a quantification inspired from counterfactual fairness) into two components: a non-exempt component which quantifies the part that cannot be accounted for by the critical features, and an exempt component that quantifies the remaining disparity. This decomposition allows one to check if the disparity arose purely due to the critical features (inspired from the business necessity defense of disparate impact law) and also enables selective removal of the non-exempt component if desired. We arrive at this decomposition through canonical examples that lead to a set of desirable properties (axioms) that a measure of non-exempt disparity should satisfy. Our proposed measure satisfies all of them. Our quantification bridges ideas of causality, Simpson's paradox, and a body of work from information theory called Partial Information Decomposition. We also obtain an impossibility result showing that no observational measure can satisfy all the desirable properties, leading us to relax our goals and examine observational measures that satisfy only some of them. We perform case studies to show how one can audit/train models while reducing non-exempt disparity.
• Abstract（参考訳）: 高度に連続したドメインにおけるMLの利用の増加に伴い、保護された属性(例えば、性別、人種など)に対する格差の定量化が重要である。 格差の定量化は不可欠であるが、時として職業のニーズは、それらによって説明できる不一致を除外する必要がある方法で重要な特定の特徴の使用を必要とすることがある。 例えば、安全クリティカルなアプリケーションのためにソフトウェアエンジニアを雇う場合、コーディングスキルは強く重み付けされるが、名前、zipコード、リファレンスレターは、相違点を付加しない程度でしか使用できない。 そこで,本研究では,不平等(反事実的公平性に触発された定量化)を,重要な特徴に説明できない部分を定量化する非免除成分と,残った不平等を定量化する免除成分の2つの構成要素に情報理論的に分解する。 この分解により、不一致が(異質な影響法のビジネスニーズの防御から着想を得て)純粋に生じたかどうかを確認でき、必要に応じて不要なコンポーネントを選択的に削除することができる。 この分解は、非例外格差の尺度が満たすべき望ましい性質(公理)の集合に導かれる標準的な例を通して達成される。 我々の提案はそれらすべてを満たす。 我々の定量化は因果性、シンプソンのパラドックス、および部分的情報分解と呼ばれる情報理論からの成果の体系を橋渡しする。 また,観測測度が望まれるすべての特性を満足することができないことを示し,目的を緩和し,観測測度のみを満足させる結果を得た。 非免除格差を減らしながら、モデルを監査/トレーニングする方法を示すケーススタディを実行します。

関連論文リスト

• Identifiability Guarantees for Causal Disentanglement from Purely Observational Data [10.482728002416348]
  因果解離は、データの背後にある潜在因果関係について学ぶことを目的としている。 近年の進歩は、(単一の)潜伏因子への介入が可能であると仮定して、識別可能性(identifiability)が確立されている。 非線形因果モデルで同定できる潜伏因子の高精度な評価法を提案する。
  論文  参考訳（メタデータ） (2024-10-31T04:18:29Z)
• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Nonparametric Identifiability of Causal Representations from Unknown Interventions [63.1354734978244]
  本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。 我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
  論文  参考訳（メタデータ） (2023-06-01T10:51:58Z)
• Quantifying Feature Contributions to Overall Disparity Using Information Theory [24.61791450920249]
  機械学習アルゴリズムがバイアス決定を行う場合、不一致の原因を理解して、なぜバイアスが存在するのかを説明するのに役立つ。 正確な意思決定メカニズムがアクセスできない場合、各特徴の観察された相違点に対する「潜在的」貢献はどのようなものか? 入力に介入できない場合、最終決定と個々の特徴の両方に存在する保護属性に関する「冗長」統計的依存を定量化する。
  論文  参考訳（メタデータ） (2022-06-16T21:27:22Z)
• Towards efficient representation identification in supervised learning [32.3875659102181]
  人間は複雑な感覚入力を分解する驚くべき能力を持っている。 我々は,補助情報次元が真の潜在表現の次元よりもはるかに小さい場合でも,絡み合いが可能であることを理論的,実験的に示す。
  論文  参考訳（メタデータ） (2022-04-10T05:34:13Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)
• Deconfounding Scores: Feature Representations for Causal Effect Estimation with Weak Overlap [140.98628848491146]
  推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。 分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。 特に,この手法が標準正規化の魅力的な代替となることを示す。
  論文  参考訳（メタデータ） (2021-04-12T18:50:11Z)
• Fundamental Limits and Tradeoffs in Invariant Representation Learning [99.2368462915979]
  多くの機械学習アプリケーションは、2つの競合する目標を達成する表現を学習する。 ミニマックスゲーム理論の定式化は、精度と不変性の基本的なトレードオフを表す。 分類と回帰の双方において,この一般的かつ重要な問題を情報論的に解析する。
  論文  参考訳（メタデータ） (2020-12-19T15:24:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。