論文の概要: A Causal Approach for Unfair Edge Prioritization and Discrimination Removal

• arxiv url: http://arxiv.org/abs/2111.14348v1
• Date: Mon, 29 Nov 2021 06:47:16 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-01 02:58:36.612823
• Title: A Causal Approach for Unfair Edge Prioritization and Discrimination Removal
• Title（参考訳）: 不公平なエッジ優先化と識別除去のための因果的アプローチ
• Authors: Pavan Ravishankar, Pranshu Malviya, and Balaraman Ravindran
• Abstract要約: 現実世界で不公平を緩和する措置をとる前に、不公平の源泉を優先することが不可欠である。 この作業は、Unfair Edge Prioritizationアルゴリズムによって与えられるデータ生成時の不公平性を緩和するツールキットを提供する。
• 参考スコア（独自算出の注目度）: 16.323822608442836
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In budget-constrained settings aimed at mitigating unfairness, like law enforcement, it is essential to prioritize the sources of unfairness before taking measures to mitigate them in the real world. Unlike previous works, which only serve as a caution against possible discrimination and de-bias data after data generation, this work provides a toolkit to mitigate unfairness during data generation, given by the Unfair Edge Prioritization algorithm, in addition to de-biasing data after generation, given by the Discrimination Removal algorithm. We assume that a non-parametric Markovian causal model representative of the data generation procedure is given. The edges emanating from the sensitive nodes in the causal graph, such as race, are assumed to be the sources of unfairness. We first quantify Edge Flow in any edge X -> Y, which is the belief of observing a specific value of Y due to the influence of a specific value of X along X -> Y. We then quantify Edge Unfairness by formulating a non-parametric model in terms of edge flows. We then prove that cumulative unfairness towards sensitive groups in a decision, like race in a bail decision, is non-existent when edge unfairness is absent. We prove this result for the non-trivial non-parametric model setting when the cumulative unfairness cannot be expressed in terms of edge unfairness. We then measure the Potential to mitigate the Cumulative Unfairness when edge unfairness is decreased. Based on these measurements, we propose the Unfair Edge Prioritization algorithm that can then be used by policymakers. We also propose the Discrimination Removal Procedure that de-biases a data distribution by eliminating optimization constraints that grow exponentially in the number of sensitive attributes and values taken by them. Extensive experiments validate the theorem and specifications used for quantifying the above measures.
• Abstract（参考訳）: 法執行など不公平を緩和するための予算制約のある環境では、現実世界で不公平を緩和するための対策を講じる前に不公平の源を優先することが不可欠である。 データ生成後の差別や非バイアスデータに対する警告としてしか機能しない以前の研究とは異なり、この研究は、不公平エッジ優先化アルゴリズムによって与えられるデータ生成中の不公平性を緩和するためのツールキットを提供する。 データ生成手順を表す非パラメトリックマルコフ因果モデルが与えられると仮定する。 人種のような因果グラフのセンシティブなノードから発せられるエッジは不公平な原因であると仮定される。 X-> Y に沿った X の特定の値の影響により、Y の特定の値を観測する信念である任意のエッジ X-> Y において、エッジフローを定量化し、その後、エッジフローの観点から非パラメトリックモデルを定式化することによってエッジ不公平を定量化する。 次に、保釈決定におけるレースのような決定における機密グループに対する累積不公平性は、エッジ不公平性が欠如している場合に存在しないことを証明する。 非自明な非パラメトリックモデル設定において、累積不公平性がエッジ不公平性で表現できない場合に、この結果を証明する。 そして、エッジの不公平性が低下した場合の累積不公平を緩和する可能性を測定する。 これらの測定に基づいて,政策立案者が使用できる不公平なエッジ優先化アルゴリズムを提案する。 また,感度の高い属性数やそれらの値に指数関数的に増加する最適化制約を取り除き,データ分布を曖昧にする識別除去手法を提案する。 広範な実験は、上記の測度の定量化に使用される定理と仕様を検証する。

関連論文リスト

• Towards Harmless Rawlsian Fairness Regardless of Demographic Prior [57.30787578956235]
  トレーニングセットに事前の人口統計が提供されない場合に,有効性を損なうことなく公平性を達成する可能性を探る。 本稿では,経験的損失の最適セット内でのトレーニング損失の分散を最小限に抑えるため,VFairという簡単な手法を提案する。
  論文  参考訳（メタデータ） (2024-11-04T12:40:34Z)
• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Fairness Without Harm: An Influence-Guided Active Sampling Approach [32.173195437797766]
  我々は、モデルの精度に害を与えることなく、グループフェアネスの格差を軽減するモデルを訓練することを目指している。 公正なアクティブな学習アプローチのような現在のデータ取得方法は、通常、アノテートセンシティブな属性を必要とする。 トレーニンググループアノテーションに依存しない抽出可能なアクティブデータサンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-02-20T07:57:38Z)
• Marginal Debiased Network for Fair Visual Recognition [59.05212866862219]
  本稿では,デバイアス表現を学習するための新しい限界脱バイアスネットワーク(MDN)を提案する。 我々のMDNは、表現不足のサンプルに対して顕著な性能を達成できる。
  論文  参考訳（メタデータ） (2024-01-04T08:57:09Z)
• Equal Opportunity of Coverage in Fair Regression [50.76908018786335]
  我々は、予測の不確実性の下で公正な機械学習(ML)を研究し、信頼性と信頼性のある意思決定を可能にする。 本研究は,(1)類似した結果の異なる集団に対するカバー率が近いこと,(2)人口全体のカバー率が一定水準にあること,の2つの特性を達成することを目的としたカバーの平等機会(EOC)を提案する。
  論文  参考訳（メタデータ） (2023-11-03T21:19:59Z)
• Causal Fair Machine Learning via Rank-Preserving Interventional Distributions [0.5062312533373299]
  我々は、個人が架空の、規範的に望まれる(FiND)世界で等しければ、規範的に等しくなると定義する。 本研究では,それが保持する特定のFiND世界を定義するために,ランク保存的介入分布を提案する。 我々のワープアプローチは、最も差別された個人を効果的に識別し、不公平を緩和することを示します。
  論文  参考訳（メタデータ） (2023-07-24T13:46:50Z)
• Bounding Counterfactuals under Selection Bias [60.55840896782637]
  本稿では,識別不能なクエリと識別不能なクエリの両方に対処するアルゴリズムを提案する。 選択バイアスによって引き起こされる欠如にもかかわらず、利用可能なデータの可能性は無限であることを示す。
  論文  参考訳（メタデータ） (2022-07-26T10:33:10Z)
• Mitigating Algorithmic Bias with Limited Annotations [65.060639928772]
  機密属性が公開されていない場合、バイアスを軽減するために、トレーニングデータの小さな部分を手動でアノテートする必要がある。 本稿では,アルゴリズムバイアスの影響を最大限に排除するために,限定アノテーションを誘導する対話型フレームワークであるアクティブペナライゼーション・オブ・差別(APOD)を提案する。 APODは完全なアノテートバイアス緩和と同等のパフォーマンスを示しており、機密情報が制限された場合、APODが現実世界のアプリケーションに利益をもたらすことを実証している。
  論文  参考訳（メタデータ） (2022-07-20T16:31:19Z)
• A Sandbox Tool to Bias(Stress)-Test Fairness Algorithms [19.86635585740634]
  バイアス注入型サンドボックスツールの概念と実装について, 各種バイアスの公平性について検討する。 既存のツールキットとは異なり、私たちのツールはMLパイプラインに事実上バイアスを注入する制御された環境を提供します。 特に、バイアス注入前において、偏りのない状態の真のラベルに介入した後に生じる予測を比較することで、与えられた治療法が注入されたバイアスを軽減することができるかどうかを検証できる。
  論文  参考訳（メタデータ） (2022-04-21T16:12:19Z)
• A Distributionally Robust Approach to Fair Classification [17.759493152879013]
  本研究では、性別や民族などのセンシティブな属性に対する差別を防止する不公平なペナルティを持つロジスティックなロジスティック回帰モデルを提案する。 このモデルは、トレーニングデータ上の経験的分布を中心とするワッサーシュタイン球が分布の不確かさのモデル化に使用される場合、トラクタブル凸最適化問題と等価である。 得られた分類器は, 合成データセットと実データセットの両方において, 予測精度の限界損失による公平性の向上を実証する。
  論文  参考訳（メタデータ） (2020-07-18T22:34:48Z)
• A Causal Linear Model to Quantify Edge Flow and Edge Unfairness for UnfairEdge Prioritization and Discrimination Removal [16.096824533334352]
  本稿では、現実世界における不公平さを緩和する前に、不公平な情報源の優先順位付けを試みる。 間接経路の影響を減衰させることにより,エッジに沿って流れる信念であるエッジフローを定量化する。 次に、エッジの不公平度が減少する際の累積不公平性を緩和する可能性を測定する。
  論文  参考訳（メタデータ） (2020-07-10T17:50:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。