論文の概要: Conformal Prediction Sets Can Cause Disparate Impact

• arxiv url: http://arxiv.org/abs/2410.01888v1
• Date: Wed, 2 Oct 2024 18:00:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-04 10:04:30.328794
• Title: Conformal Prediction Sets Can Cause Disparate Impact
• Title（参考訳）: コンフォーマルな予測セットは、異なる影響を引き起こす可能性がある
• Authors: Jesse C. Cresswell, Bhargava Kumar, Yi Sui, Mouloud Belbahri,
• Abstract要約: コンフォーマル予測は、機械学習モデルの不確実性を定量化するための有望な方法である。 予測セットを提供することは、彼らの決定の不公平性を高めることができることを示す。 カバー範囲を等化するのではなく、経験的により公平な結果をもたらすグループ間でセットサイズを等化することを提案する。
• 参考スコア（独自算出の注目度）: 4.61590049339329
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although conformal prediction is a promising method for quantifying the uncertainty of machine learning models, the prediction sets it outputs are not inherently actionable. Many applications require a single output to act on, not several. To overcome this, prediction sets can be provided to a human who then makes an informed decision. In any such system it is crucial to ensure the fairness of outcomes across protected groups, and researchers have proposed that Equalized Coverage be used as the standard for fairness. By conducting experiments with human participants, we demonstrate that providing prediction sets can increase the unfairness of their decisions. Disquietingly, we find that providing sets that satisfy Equalized Coverage actually increases unfairness compared to marginal coverage. Instead of equalizing coverage, we propose to equalize set sizes across groups which empirically leads to more fair outcomes.
• Abstract（参考訳）: 共形予測は機械学習モデルの不確実性を定量化するための有望な手法であるが、出力する予測セットは本質的には実行可能なものではない。 多くのアプリケーションは、複数のアプリケーションではなく単一のアウトプットを必要とする。 これを解決するために、予測セットを人間に提供し、その人が情報的な決定をする。 このようなシステムでは、保護されたグループ間の結果の公平性を保証することが不可欠であり、研究者は平等化被覆を公正性の標準として用いることを提案している。 人間の被験者と実験を行うことで,予測セットの提供が意思決定の不公平性を高めることが実証された。 興味深いことに、等化被覆を満たす集合を提供すると、限界被覆よりも不公平になる。 カバー範囲を等化するのではなく、経験的により公平な結果をもたらすグループ間でセットサイズを等化することを提案する。

関連論文リスト

• Conformal Prediction Sets with Improved Conditional Coverage using Trust Scores [52.92618442300405]
  有限サンプルにおいて、正確に分布のない条件付きカバレッジを達成することは不可能である。 本稿では,最も重要となる範囲を対象とするコンフォメーション予測アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-01-17T12:01:56Z)
• Bin-Conditional Conformal Prediction of Fatalities from Armed Conflict [0.5312303275762104]
  両条件共形予測(bin-conditional conformal prediction)と呼ぶ共形予測アルゴリズムを新たに導入する。 この手法により,任意の予測モデルに対して,個々のレベルの予測間隔を得ることができる。 両条件共形予測アルゴリズムを用いて、武装紛争による死亡率の予測を行う。
  論文  参考訳（メタデータ） (2024-10-18T14:41:42Z)
• Performative Prediction on Games and Mechanism Design [69.7933059664256]
  エージェントが過去の正確性に基づいて予測を信頼するかを判断する集団リスクジレンマについて検討する。 予測が集合的な結果を形成するにつれて、社会福祉は関心の指標として自然に現れる。 よりよいトレードオフを実現し、それらをメカニズム設計に使用する方法を示します。
  論文  参考訳（メタデータ） (2024-08-09T16:03:44Z)
• Equal Opportunity of Coverage in Fair Regression [50.76908018786335]
  我々は、予測の不確実性の下で公正な機械学習(ML)を研究し、信頼性と信頼性のある意思決定を可能にする。 本研究は,(1)類似した結果の異なる集団に対するカバー率が近いこと,(2)人口全体のカバー率が一定水準にあること,の2つの特性を達成することを目的としたカバーの平等機会(EOC)を提案する。
  論文  参考訳（メタデータ） (2023-11-03T21:19:59Z)
• Conformal Prediction for Deep Classifier via Label Ranking [29.784336674173616]
  コンフォーマル予測(Conformal prediction)は、予測セットを所望のカバレッジ保証で生成する統計フレームワークである。 我々は、$textitSorted Adaptive Prediction Sets$ (SAPS)という新しいアルゴリズムを提案する。 SAPSは最大ソフトマックス確率を除いて全ての確率値を捨てる。
  論文  参考訳（メタデータ） (2023-10-10T08:54:14Z)
• On the Expected Size of Conformal Prediction Sets [24.161372736642157]
  分割共形予測フレームワークを用いて,予測セットの予測サイズを理論的に定量化する。 この正確な定式化は通常直接計算できないので、点推定と高確率境界間隔を導出する。 回帰と分類の両問題に対する実世界のデータセットを用いた実験により,結果の有効性を裏付ける。
  論文  参考訳（メタデータ） (2023-06-12T17:22:57Z)
• Post-selection Inference for Conformal Prediction: Trading off Coverage for Precision [0.0]
  伝統的に、共形予測推論はデータに依存しない発見レベルの仕様を必要とする。 我々は,データ依存的誤発見レベルを考慮した同時共形推論を開発する。
  論文  参考訳（メタデータ） (2023-04-12T20:56:43Z)
• Conformal Off-Policy Prediction in Contextual Bandits [54.67508891852636]
  コンフォーマルなオフ政治予測は、新しい目標ポリシーの下で、結果に対する信頼できる予測間隔を出力することができる。 理論上の有限サンプル保証は、標準的な文脈的バンディットの設定を超える追加の仮定をすることなく提供する。
  論文  参考訳（メタデータ） (2022-06-09T10:39:33Z)
• Selective Regression Under Fairness Criteria [30.672082160544996]
  少数派集団のパフォーマンスは、カバー範囲を減らしながら低下する場合もある。 満足度基準を満たす特徴を構築できれば、そのような望ましくない行動は避けられることを示す。
  論文  参考訳（メタデータ） (2021-10-28T19:05:12Z)
• Private Prediction Sets [72.75711776601973]
  機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。 これら2つのデシラタを共同で扱う枠組みを提案する。 本手法を大規模コンピュータビジョンデータセット上で評価する。
  論文  参考訳（メタデータ） (2021-02-11T18:59:11Z)
• Counterfactual Predictions under Runtime Confounding [74.90756694584839]
  本研究は, 過去のデータからすべての関連要因を抽出した環境で, 事実予測タスクについて検討する。 本稿では,この環境下での対実予測モデル学習のための2次ロバスト手法を提案する。
  論文  参考訳（メタデータ） (2020-06-30T15:49:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。