論文の概要: Conformal Prediction Sets Can Cause Disparate Impact

• arxiv url: http://arxiv.org/abs/2410.01888v2
• Date: Thu, 13 Feb 2025 19:02:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-17 14:46:41.810021
• Title: Conformal Prediction Sets Can Cause Disparate Impact
• Title（参考訳）: コンフォーマルな予測セットは、異なる影響を引き起こす可能性がある
• Authors: Jesse C. Cresswell, Bhargava Kumar, Yi Sui, Mouloud Belbahri,
• Abstract要約: 予測セットの提供は、決定に異なる影響を与える可能性があることを示す。 我々は,異なる影響を経験的に減少させるグループ間でセットサイズを等化することを提案する。
• 参考スコア（独自算出の注目度）: 4.61590049339329
• License:
• Abstract: Conformal prediction is a statistically rigorous method for quantifying uncertainty in models by having them output sets of predictions, with larger sets indicating more uncertainty. However, prediction sets are not inherently actionable; many applications require a single output to act on, not several. To overcome this limitation, prediction sets can be provided to a human who then makes an informed decision. In any such system it is crucial to ensure the fairness of outcomes across protected groups, and researchers have proposed that Equalized Coverage be used as the standard for fairness. By conducting experiments with human participants, we demonstrate that providing prediction sets can lead to disparate impact in decisions. Disquietingly, we find that providing sets that satisfy Equalized Coverage actually increases disparate impact compared to marginal coverage. Instead of equalizing coverage, we propose to equalize set sizes across groups which empirically leads to lower disparate impact.
• Abstract（参考訳）: コンフォーマル予測(英: Conformal prediction)は、モデル内の不確かさを予測の出力セットによって定量化する統計学的に厳密な手法であり、より大きな集合はより不確実性を示す。 しかし、予測セットは本質的には動作可能ではなく、多くのアプリケーションは動作するために1つの出力を必要としている。 この制限を克服するために、予測セットを人間に提供し、情報的な決定を下すことができる。 このようなシステムでは、保護されたグループ間の結果の公平性を保証することが不可欠であり、研究者は平等化被覆を公正性の標準として用いることを提案している。 人間の被験者と実験を行うことで、予測セットの提供が決定に異なる影響をもたらすことを実証する。 興味深いことに、等化被覆を満たす集合の提供は、マージンカバレッジと比較して、実際に異なる影響を増大させる。 カバー範囲を等化するのではなく、経験的に異なる影響を減少させるグループ間でセットサイズを等化することを提案する。

関連論文リスト

• Conformal Prediction Sets with Improved Conditional Coverage using Trust Scores [52.92618442300405]
  有限サンプルにおいて、正確に分布のない条件付きカバレッジを達成することは不可能である。 本稿では,最も重要となる範囲を対象とするコンフォメーション予測アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-01-17T12:01:56Z)
• Bin-Conditional Conformal Prediction of Fatalities from Armed Conflict [0.5312303275762104]
  両条件共形予測(bin-conditional conformal prediction)と呼ぶ共形予測アルゴリズムを新たに導入する。 この手法により,任意の予測モデルに対して,個々のレベルの予測間隔を得ることができる。 両条件共形予測アルゴリズムを用いて、武装紛争による死亡率の予測を行う。
  論文  参考訳（メタデータ） (2024-10-18T14:41:42Z)
• Performative Prediction on Games and Mechanism Design [69.7933059664256]
  エージェントが過去の正確性に基づいて予測を信頼するかを判断する集団リスクジレンマについて検討する。 予測が集合的な結果を形成するにつれて、社会福祉は関心の指標として自然に現れる。 よりよいトレードオフを実現し、それらをメカニズム設計に使用する方法を示します。
  論文  参考訳（メタデータ） (2024-08-09T16:03:44Z)
• Equal Opportunity of Coverage in Fair Regression [50.76908018786335]
  我々は、予測の不確実性の下で公正な機械学習(ML)を研究し、信頼性と信頼性のある意思決定を可能にする。 本研究は,(1)類似した結果の異なる集団に対するカバー率が近いこと,(2)人口全体のカバー率が一定水準にあること,の2つの特性を達成することを目的としたカバーの平等機会(EOC)を提案する。
  論文  参考訳（メタデータ） (2023-11-03T21:19:59Z)
• Conformal Prediction for Deep Classifier via Label Ranking [29.784336674173616]
  コンフォーマル予測(Conformal prediction)は、予測セットを所望のカバレッジ保証で生成する統計フレームワークである。 我々は、$textitSorted Adaptive Prediction Sets$ (SAPS)という新しいアルゴリズムを提案する。 SAPSは最大ソフトマックス確率を除いて全ての確率値を捨てる。
  論文  参考訳（メタデータ） (2023-10-10T08:54:14Z)
• On the Expected Size of Conformal Prediction Sets [24.161372736642157]
  分割共形予測フレームワークを用いて,予測セットの予測サイズを理論的に定量化する。 この正確な定式化は通常直接計算できないので、点推定と高確率境界間隔を導出する。 回帰と分類の両問題に対する実世界のデータセットを用いた実験により,結果の有効性を裏付ける。
  論文  参考訳（メタデータ） (2023-06-12T17:22:57Z)
• Post-selection Inference for Conformal Prediction: Trading off Coverage for Precision [0.0]
  伝統的に、共形予測推論はデータに依存しない発見レベルの仕様を必要とする。 我々は,データ依存的誤発見レベルを考慮した同時共形推論を開発する。
  論文  参考訳（メタデータ） (2023-04-12T20:56:43Z)
• Conformal Off-Policy Prediction in Contextual Bandits [54.67508891852636]
  コンフォーマルなオフ政治予測は、新しい目標ポリシーの下で、結果に対する信頼できる予測間隔を出力することができる。 理論上の有限サンプル保証は、標準的な文脈的バンディットの設定を超える追加の仮定をすることなく提供する。
  論文  参考訳（メタデータ） (2022-06-09T10:39:33Z)
• Selective Regression Under Fairness Criteria [30.672082160544996]
  少数派集団のパフォーマンスは、カバー範囲を減らしながら低下する場合もある。 満足度基準を満たす特徴を構築できれば、そのような望ましくない行動は避けられることを示す。
  論文  参考訳（メタデータ） (2021-10-28T19:05:12Z)
• Private Prediction Sets [72.75711776601973]
  機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。 これら2つのデシラタを共同で扱う枠組みを提案する。 本手法を大規模コンピュータビジョンデータセット上で評価する。
  論文  参考訳（メタデータ） (2021-02-11T18:59:11Z)
• Counterfactual Predictions under Runtime Confounding [74.90756694584839]
  本研究は, 過去のデータからすべての関連要因を抽出した環境で, 事実予測タスクについて検討する。 本稿では,この環境下での対実予測モデル学習のための2次ロバスト手法を提案する。
  論文  参考訳（メタデータ） (2020-06-30T15:49:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。