論文の概要: Is My Prediction Arbitrary? Measuring Self-Consistency in Fair Classification

• arxiv url: http://arxiv.org/abs/2301.11562v3
• Date: Wed, 31 May 2023 10:20:54 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-01 20:45:10.509460
• Title: Is My Prediction Arbitrary? Measuring Self-Consistency in Fair Classification
• Title（参考訳）: 私の予測は任意か? 公平な分類における自己一貫性の測定
• Authors: A. Feder Cooper, Katherine Lee, Solon Barocas, Christopher De Sa, Siddhartha Sen, Baobao Zhang
• Abstract要約: 公平な分類における分散(ビズ・ア・ビズ・ビズ・ア・ビズ・セルフ・一貫性と仲裁性)の役割について,これまでで最大の実証的研究を行った。 ほとんどの公正分類ベンチマークは、予測に現れる任意性の量を考慮すると、fair-to-fairである。 サブグループのエラー率は、一般的な公平な介入を適用する前に似ています。
• 参考スコア（独自算出の注目度）: 29.795035162522197
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Variance in predictions across different trained models is a significant, under-explored source of error in fair classification. Empirically, the variance on some instances is so large that decisions can be effectively arbitrary. To study this problem, we perform a large-scale empirical study and make four overarching contributions: We 1) Define a metric called self-consistency, derived from variance, which we use as a proxy for measuring and reducing arbitrariness; 2) Develop an ensembling algorithm that abstains from classification when a prediction would be arbitrary; 3) Conduct the largest to-date empirical study of the role of variance (vis-a-vis self-consistency and arbitrariness) in fair classification; and, 4) Release a toolkit that makes the US Home Mortgage Disclosure Act (HMDA) datasets easily usable for future research. Altogether, our empirical results reveal shocking insights about reproducibility. Most fairness classification benchmarks are close-to-fair when taking into account the amount of arbitrariness present in predictions. Subgroup error rates are similar before we even try to apply common fairness interventions
• Abstract（参考訳）: 異なる訓練されたモデル間の予測のばらつきは、公平な分類において重要で未熟な誤りの原因である。 経験上、いくつかのインスタンスのばらつきは非常に大きいので、決定を効果的に任意にすることができる。 この問題を研究するため,我々は大規模な実証的研究を行い,4つの総合的な貢献を行った。 1) 偏差から派生した自己整合性と呼ばれる指標を定義し、その指標を任意性の測定及び低減の代用として用いる。 2) 予測が任意である場合に分類を棄却するアンサンブルアルゴリズムを開発する。 3)公平な分類における分散(vis-a-vis自己矛盾と任意性)の役割について、過去最大の実証研究を行い、 4) US Home Mortgage Disclosure Act (HMDA)データセットを将来の研究に容易に利用できるようにするツールキットをリリースする。 その結果,再現性に対する衝撃的な洞察が得られた。 ほとんどの公平性分類ベンチマークは、予測に存在する任意性量を考慮すると、ほぼフェアに近い。 共通フェアネス介入を適用する前に、サブグループエラーレートは似ている

関連論文リスト

• Editable Fairness: Fine-Grained Bias Mitigation in Language Models [52.66450426729818]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• Evaluating the Fairness of Discriminative Foundation Models in Computer Vision [51.176061115977774]
  本稿では,CLIP (Contrastive Language-Pretraining) などの差別基盤モデルのバイアス評価のための新しい分類法を提案する。 そして、これらのモデルにおけるバイアスを緩和するための既存の手法を分類学に関して体系的に評価する。 具体的には,ゼロショット分類,画像検索,画像キャプションなど,OpenAIのCLIPとOpenCLIPモデルをキーアプリケーションとして評価する。
  論文  参考訳（メタデータ） (2023-10-18T10:32:39Z)
• Correcting Underrepresentation and Intersectional Bias for Classification [49.1574468325115]
  我々は、表現不足のバイアスによって破損したデータから学習する問題を考察する。 偏りのないデータの少ない場合、グループワイドのドロップアウト率を効率的に推定できることが示される。 本アルゴリズムは,有限VC次元のモデルクラスに対して,効率的な学習を可能にする。
  論文  参考訳（メタデータ） (2023-06-19T18:25:44Z)
• Systematic Evaluation of Predictive Fairness [60.0947291284978]
  バイアス付きデータセットのトレーニングにおけるバイアスの緩和は、重要なオープンな問題である。 複数のタスクにまたがる様々なデバイアス化手法の性能について検討する。 データ条件が相対モデルの性能に強い影響を与えることがわかった。
  論文  参考訳（メタデータ） (2022-10-17T05:40:13Z)
• Fairness and Unfairness in Binary and Multiclass Classification: Quantifying, Calculating, and Bounding [22.449347663780767]
  本稿では,分類器の公平性を定量的に分析できる,不公平性の新しい解釈可能な尺度を提案する。 分類器の条件付き乱雑行列が知られている場合に、この測度がどのように計算されるかを示す。 多様なアプリケーションを表すデータセットに関する実験を報告する。
  論文  参考訳（メタデータ） (2022-06-07T12:26:28Z)
• Measuring Fairness of Text Classifiers via Prediction Sensitivity [63.56554964580627]
  加速度予測感度は、入力特徴の摂動に対するモデルの予測感度に基づいて、機械学習モデルの公正度を測定する。 この計量は、群フェアネス(統計パリティ)と個人フェアネスという特定の概念と理論的に関連付けられることを示す。
  論文  参考訳（メタデータ） (2022-03-16T15:00:33Z)
• Pairwise Fairness for Ordinal Regression [22.838858781036574]
  我々は,以前フェアランキングで考慮されていた2つのフェアネス概念を適応させ,どちらの概念にもとづいてほぼフェアな予測者を訓練するための戦略を提案する。 我々の予測器は、スコアリング関数としきい値のセットからなるしきい値モデルから成り立っている。 提案手法は,精度-vs-fairness のトレードオフを効果的に探索することを可能にし,順序回帰の「不公平」な手法とよく比較できることを示す。
  論文  参考訳（メタデータ） (2021-05-07T10:33:42Z)
• On the Fairness of Causal Algorithmic Recourse [36.519629650529666]
  グループレベルでの公平度基準と個人レベルでの公平度基準を提案する。 ここでは,会話の公平さは予測の公平さと相補的であることを示す。 本稿では, 社会的介入によって, データ生成プロセスの公正性違反に対処できるかどうかを論じる。
  論文  参考訳（メタデータ） (2020-10-13T16:35:06Z)
• Robust Fairness under Covariate Shift [11.151913007808927]
  保護グループメンバーシップに関して公正な予測を行うことは、分類アルゴリズムの重要な要件となっている。 本稿では,ターゲット性能の面で最悪のケースに対して頑健な予測値を求める手法を提案する。
  論文  参考訳（メタデータ） (2020-10-11T04:42:01Z)
• Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking Fairness and Algorithm Utility [54.179859639868646]
  Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。 学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。 本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-15T10:08:39Z)
• Fairness Measures for Regression via Probabilistic Classification [0.0]
  アルゴリズムフェアネス(英: Algorithmic Fairness)とは、機械学習アルゴリズムが最適化できる定量尺度として、公平性や合理的な扱いなどの概念を表現することである。 これは、分類公正度尺度が結果の比率を比較することで容易に計算され、同じ資格を持つ男性の割合が適格女性として選択されるような行動につながるためである。 しかし、そのような尺度は、価格や支払いの割当といった問題に対する継続的な回帰設定を一般化することは、計算的に困難である。 回帰設定では, 保護属性の異なる条件確率の比率として, 独立性, 分離性, 充足性基準の抽出可能な近似を導入する。
  論文  参考訳（メタデータ） (2020-01-16T21:53:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。