論文の概要: Conformal Prediction Sets Can Cause Disparate Impact

• arxiv url: http://arxiv.org/abs/2410.01888v1
• Date: Wed, 2 Oct 2024 18:00:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-04 10:04:30.328794
• Title: Conformal Prediction Sets Can Cause Disparate Impact
• Title（参考訳）: コンフォーマルな予測セットは、異なる影響を引き起こす可能性がある
• Authors: Jesse C. Cresswell, Bhargava Kumar, Yi Sui, Mouloud Belbahri,
• Abstract要約: コンフォーマル予測は、機械学習モデルの不確実性を定量化するための有望な方法である。 予測セットを提供することは、彼らの決定の不公平性を高めることができることを示す。 カバー範囲を等化するのではなく、経験的により公平な結果をもたらすグループ間でセットサイズを等化することを提案する。
• 参考スコア（独自算出の注目度）: 4.61590049339329
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although conformal prediction is a promising method for quantifying the uncertainty of machine learning models, the prediction sets it outputs are not inherently actionable. Many applications require a single output to act on, not several. To overcome this, prediction sets can be provided to a human who then makes an informed decision. In any such system it is crucial to ensure the fairness of outcomes across protected groups, and researchers have proposed that Equalized Coverage be used as the standard for fairness. By conducting experiments with human participants, we demonstrate that providing prediction sets can increase the unfairness of their decisions. Disquietingly, we find that providing sets that satisfy Equalized Coverage actually increases unfairness compared to marginal coverage. Instead of equalizing coverage, we propose to equalize set sizes across groups which empirically leads to more fair outcomes.
• Abstract（参考訳）: 共形予測は機械学習モデルの不確実性を定量化するための有望な手法であるが、出力する予測セットは本質的には実行可能なものではない。 多くのアプリケーションは、複数のアプリケーションではなく単一のアウトプットを必要とする。 これを解決するために、予測セットを人間に提供し、その人が情報的な決定をする。 このようなシステムでは、保護されたグループ間の結果の公平性を保証することが不可欠であり、研究者は平等化被覆を公正性の標準として用いることを提案している。 人間の被験者と実験を行うことで,予測セットの提供が意思決定の不公平性を高めることが実証された。 興味深いことに、等化被覆を満たす集合を提供すると、限界被覆よりも不公平になる。 カバー範囲を等化するのではなく、経験的により公平な結果をもたらすグループ間でセットサイズを等化することを提案する。

関連論文リスト

• Performative Prediction on Games and Mechanism Design [69.7933059664256]
  エージェントが過去の正確性に基づいて予測を信頼するかを判断する集団リスクジレンマについて検討する。 予測が集合的な結果を形成するにつれて、社会福祉は関心の指標として自然に現れる。 よりよいトレードオフを実現し、それらをメカニズム設計に使用する方法を示します。
  論文  参考訳（メタデータ） (2024-08-09T16:03:44Z)
• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Equal Opportunity of Coverage in Fair Regression [50.76908018786335]
  我々は、予測の不確実性の下で公正な機械学習(ML)を研究し、信頼性と信頼性のある意思決定を可能にする。 本研究は,(1)類似した結果の異なる集団に対するカバー率が近いこと,(2)人口全体のカバー率が一定水準にあること,の2つの特性を達成することを目的としたカバーの平等機会(EOC)を提案する。
  論文  参考訳（メタデータ） (2023-11-03T21:19:59Z)
• Arbitrariness Lies Beyond the Fairness-Accuracy Frontier [3.383670923637875]
  我々は,最先端のフェアネス介入が,グループフェアネスと精度の指標よりも高い予測倍率を隠蔽できることを示した。 より一貫した予測を確実に保証するフェアネス介入に適用可能なアンサンブルアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-06-15T18:15:46Z)
• Post-selection Inference for Conformal Prediction: Trading off Coverage for Precision [0.0]
  伝統的に、共形予測推論はデータに依存しない発見レベルの仕様を必要とする。 我々は,データ依存的誤発見レベルを考慮した同時共形推論を開発する。
  論文  参考訳（メタデータ） (2023-04-12T20:56:43Z)
• Fair Bayes-Optimal Classifiers Under Predictive Parity [33.648053823193855]
  本稿では、異なる保護群間での正の予測から、成功の確率を等しくする必要がある予測パリティについて考察する。 本研究では,FairBayes-DPPと呼ばれるアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-05-15T04:58:10Z)
• Attainability and Optimality: The Equalized Odds Fairness Revisited [8.44348159032116]
  等化オッドの公正性の概念の達成可能性を考える。 分類において、後処理による公平性を強制することと比較して、利用可能なすべての機能を利用する利点が常にあることを証明します。 性能予測は理論的保証で等化オッドを達成できるが、その限界と潜在的な負の社会的影響についても論じる。
  論文  参考訳（メタデータ） (2022-02-24T01:30:31Z)
• Fair When Trained, Unfair When Deployed: Observable Fairness Measures are Unstable in Performative Prediction Settings [0.0]
  性能予測設定では、予測器は正確に分布シフトを誘導することを意図している。 刑事司法、医療、消費者金融において、予測器を構築する目的は、有害な結果の率を減らすことである。 観測可能な結果ではなく、事実に依存した公平性の定義を用いることで、これらの問題の何つが避けられるかを示す。
  論文  参考訳（メタデータ） (2022-02-10T14:09:02Z)
• Private Prediction Sets [72.75711776601973]
  機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。 これら2つのデシラタを共同で扱う枠組みを提案する。 本手法を大規模コンピュータビジョンデータセット上で評価する。
  論文  参考訳（メタデータ） (2021-02-11T18:59:11Z)
• Right Decisions from Wrong Predictions: A Mechanism Design Alternative to Individual Calibration [107.15813002403905]
  意思決定者は、しばしば不完全な確率予測に頼る必要がある。 本稿では,予測ユーティリティが実際に取得したユーティリティと一致することを保証する補償機構を提案する。 本研究では、乗客が飛行遅延確率に基づいて、個々の旅行計画をどのように確実に最適化できるかを示すアプリケーションを示す。
  論文  参考訳（メタデータ） (2020-11-15T08:22:39Z)
• Counterfactual Predictions under Runtime Confounding [74.90756694584839]
  本研究は, 過去のデータからすべての関連要因を抽出した環境で, 事実予測タスクについて検討する。 本稿では,この環境下での対実予測モデル学習のための2次ロバスト手法を提案する。
  論文  参考訳（メタデータ） (2020-06-30T15:49:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。