論文の概要: Auditing Fairness under Unobserved Confounding

• arxiv url: http://arxiv.org/abs/2403.14713v2
• Date: Thu, 25 Apr 2024 02:56:14 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-26 20:48:34.172264
• Title: Auditing Fairness under Unobserved Confounding
• Title（参考訳）: 観測不能な条件下での公正さの監査
• Authors: Yewon Byun, Dylan Sam, Michael Oberst, Zachary C. Lipton, Bryan Wilder,
• Abstract要約: リスクファクターがすべて観察されているという仮定を完全に取り除いたり緩和したりしても、ハイリスクな個人に治療率に有意義な限界を与えることができることを示す。 既存の意思決定システムの不公平な結果を原則的に評価することができる。
• 参考スコア（独自算出の注目度）: 56.61738581796362
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The presence of inequity is a fundamental problem in the outcomes of decision-making systems, especially when human lives are at stake. Yet, estimating notions of unfairness or inequity is difficult, particularly if they rely on hard-to-measure concepts such as risk. Such measurements of risk can be accurately obtained when no unobserved confounders have jointly influenced past decisions and outcomes. However, in the real world, this assumption rarely holds. In this paper, we show a surprising result that one can still give meaningful bounds on treatment rates to high-risk individuals, even when entirely eliminating or relaxing the assumption that all relevant risk factors are observed. We use the fact that in many real-world settings (e.g., the release of a new treatment) we have data from prior to any allocation to derive unbiased estimates of risk. This result is of immediate practical interest: we can audit unfair outcomes of existing decision-making systems in a principled manner. For instance, in a real-world study of Paxlovid allocation, our framework provably identifies that observed racial inequity cannot be explained by unobserved confounders of the same strength as important observed covariates.
• Abstract（参考訳）: 不等式の存在は、意思決定システムの結果、特に人間の生命が危険にさらされている場合に、根本的な問題である。 しかし、不公平さや不平等の概念を推定することは、特にリスクのような難しい概念に依存している場合、困難である。 このようなリスクの測定は、観測されていない共同創設者が過去の決定や成果に共同で影響を与えていない場合に、正確に得ることができる。 しかし、現実の世界では、この仮定はめったに成立しない。 本稿では, リスク要因がすべて観察されているという仮定を完全に取り除いたり緩和したりしても, 高リスク者に対して治療率に有意な限界を与えることができるという驚くべき結果を示す。 私たちは、現実の多くの設定(例えば、新しい治療のリリース)において、偏見のないリスクの見積を導き出すために、アロケーションの前にデータを持っているという事実を使用します。 既存の意思決定システムの不公平な結果を原則的に評価することができる。 例えば、Paxlovidアロケーションの現実的な研究において、我々のフレームワークは、観察された人種的不平等が、重要な観察された共変量と同じ強さを持つ未観測の共同設立者によって説明できないことを確実に特定しています。

関連論文リスト

• Uncertainty Quantification in Stereo Matching [61.73532883992135]
  ステレオマッチングのための新しいフレームワークとその不確実性定量化を提案する。 我々は、不確実性と推定データの尺度としてベイズリスクを採用し、個別に不確実性をモデル化する。 我々は,不確実性の少ないデータポイントを選択することにより,予測精度を向上させるために不確実性手法を適用した。
  論文  参考訳（メタデータ） (2024-12-24T23:28:20Z)
• FairlyUncertain: A Comprehensive Benchmark of Uncertainty in Algorithmic Fairness [4.14360329494344]
  フェアネスにおける不確実性評価のための公理的ベンチマークであるFairlyUncertainを紹介する。 我々のベンチマークは、予測の不確実性推定は学習パイプライン間で一貫性があり、観測されたランダム性に調整されるべきである、と示唆している。
  論文  参考訳（メタデータ） (2024-10-02T20:15:29Z)
• The Unfairness of $\varepsilon$-Fairness [0.0]
  我々は、$varepsilon$-fairnessという概念が採用されれば、現実世界の文脈で最大に不公平な結果をもたらす可能性があることを示した。 本研究は,大学入学と信用リスク評価の2つの実例を用いて実施した。
  論文  参考訳（メタデータ） (2024-05-15T14:13:35Z)
• What's the Harm? Sharp Bounds on the Fraction Negatively Affected by Treatment [58.442274475425144]
  我々は,これらの関数がどの程度の速さで学習されたかに関わらず,効率の良い頑健な推論アルゴリズムを開発した。 シミュレーション研究および失業者のキャリアカウンセリングのケーススタディにおいて,本手法を実証する。
  論文  参考訳（メタデータ） (2022-05-20T17:36:33Z)
• Treatment Effect Risk: Bounds and Inference [58.442274475425144]
  平均的な治療効果は社会福祉の変化を測定するため、たとえ肯定的であっても、人口の約10%に悪影響を及ぼすリスクがある。 本稿では,ICT分布のリスク条件値(CVaR)として定式化されたこの重要なリスク尺度をどう評価するかを検討する。 いくつかの境界は、複素CATE関数を単一の計量に要約したものと解釈することもでき、有界であることとは無関係に興味を持つ。
  論文  参考訳（メタデータ） (2022-01-15T17:21:26Z)
• Dense Uncertainty Estimation via an Ensemble-based Conditional Latent Variable Model [68.34559610536614]
  我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。 そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。 以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-11-22T08:54:10Z)
• DEUP: Direct Epistemic Uncertainty Prediction [56.087230230128185]
  認識の不確実性は、学習者の知識の欠如によるサンプル外の予測エラーの一部である。 一般化誤差の予測を学習し, aleatoric uncertaintyの推定を減算することで, 認識的不確かさを直接推定する原理的アプローチを提案する。
  論文  参考訳（メタデータ） (2021-02-16T23:50:35Z)
• Feedback Effects in Repeat-Use Criminal Risk Assessments [0.0]
  リスクは、単発テストで捉えられていない方法で、シーケンシャルな決定を伝達できることを示します。 リスクアセスメントツールは、非常に複雑でパスに依存したプロセスで動作し、歴史的な不平等が引き起こされる。
  論文  参考訳（メタデータ） (2020-11-28T06:40:05Z)
• Conformal Inference of Counterfactuals and Individual Treatment Effects [6.810856082577402]
  そこで本研究では,反ファクトや個々の治療効果について,信頼できる間隔を推定できる共形推論に基づく手法を提案する。 既存の手法は、単純なモデルであってもかなりのカバレッジの欠陥に悩まされる。
  論文  参考訳（メタデータ） (2020-06-11T01:03:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。