論文の概要: The Role of Uncertainty in Assessing the Fairness of Machine Learning Models

• arxiv url: http://arxiv.org/abs/2609.07959v1
• Date: Mon, 07 Sep 2026 20:34:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.511158
• Title: The Role of Uncertainty in Assessing the Fairness of Machine Learning Models
• Title（参考訳）: 機械学習モデルの公正性評価における不確実性の役割
• Abstract要約: 機械学習モデルは、臨床応用、ソーシャルメディア、法執行機関、重要なインフラで広く利用されている。 アウトプットが不利なグループや個人に偏っているかどうかを検証することは、彼らが公平で、そのような環境での使用を可能にするために不可欠である。 可能性のある公平性違反の厳密なリスク評価には、そのようなモデルの選択と推定に関連する不確実性を定量化する必要がある。
• 参考スコア（独自算出の注目度）: 0.5097809301149341
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning models are widely used in clinical applications, social media, law enforcement and critical infrastructure. Verifying whether their outputs are biased against disadvantaged groups or individuals is crucial to ensuring they are fair and allowing their use in such settings. A rigorous risk assessment of possible fairness violations requires quantifying the uncertainty associated with selecting and estimating such models. Yet, this is rarely done in the literature, which focuses on identifying a single model with a suitable trade-off between predictive accuracy and fairness. In this paper, we move beyond point estimation and discuss frequentist and Bayesian approaches to uncertainty quantification for fair machine learning, with practical examples and implications for simulated and real data.
• Abstract（参考訳）: 機械学習モデルは、臨床応用、ソーシャルメディア、法執行機関、重要なインフラで広く利用されている。 アウトプットが不利なグループや個人に偏っているかどうかを検証することは、公平であることを保証し、そのような環境での使用を可能にするために不可欠である。 可能性のある公平性違反の厳密なリスク評価には、そのようなモデルの選択と推定に関連する不確実性を定量化する必要がある。 しかし、これは、予測精度と公正性の間の適切なトレードオフを持つ単一のモデルを特定することに焦点を当てた文献ではほとんど行われない。 本稿では、点推定を超えて、公平な機械学習のための不確実性定量化に対する頻繁かつベイズ的なアプローチと、シミュレーションおよび実データに対する実践例と含意について論じる。

関連論文リスト

• When Fairness Metrics Disagree: Evaluating the Reliability of Demographic Fairness Assessment in Machine Learning [0.0]
  機械学習モデルにおける階層バイアスの系統的マルチメトリック分析を行うことにより、公平性評価の整合性を検討する。 結果から,評価値の妥当性は指標の選択によって大きく異なっており,モデルバイアスに関する矛盾した結論が得られた。 これらの知見は、現在の公正度評価の実践において重要な限界を浮き彫りにしており、信頼性の高いバイアス評価にはシングルメトリックレポートが不十分であることを示唆している。
  論文  参考訳（メタデータ） (2026-04-16T14:07:37Z)
• Understanding challenges to the interpretation of disaggregated evaluations of algorithmic fairness [49.35494016290887]
  関係する人口を表わすが、実世界の格差を反映するデータである場合、サブグループ間での平等なパフォーマンスは、信頼できない公平さの尺度であることを示す。 本フレームワークでは, 因果関係の明示的な仮定と分析を相補して, 相反や分布変化の制御を提案する。
  論文  参考訳（メタデータ） (2025-06-04T17:40:31Z)
• Fairness and Robustness in Machine Unlearning [20.758637391023345]
  機械学習アルゴリズムにおける公平性と堅牢性に焦点を当てる。 実験では、現在の最先端の非学習アルゴリズムが敵攻撃に対する脆弱性を実証している。 中間層と最後の層でのアンラーニングが時間とメモリの複雑さに十分で費用対効果があることを実証する。
  論文  参考訳（メタデータ） (2025-04-18T10:31:44Z)
• Achievable Fairness on Your Data With Utility Guarantees [16.78730663293352]
  機械学習の公平性において、異なるセンシティブなグループ間の格差を最小限に抑えるトレーニングモデルは、しばしば精度を低下させる。 本稿では,各データセットに適合する公平性-正確性トレードオフ曲線を近似する計算効率のよい手法を提案する。 そこで我々は,モデルフェアネスを監査するための堅牢な枠組みを実践者に提供し,評価の不確実性を定量化する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-02-27T00:59:32Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• Fairness in Matching under Uncertainty [78.39459690570531]
  アルゴリズム的な二面市場は、こうした設定における公平性の問題に注意を向けている。 我々は、利益の不確実性を尊重する両面の市場設定において、個々人の公正性の概念を公理化する。 そこで我々は,配当よりも公平なユーティリティ最大化分布を求めるために,線形プログラミングフレームワークを設計する。
  論文  参考訳（メタデータ） (2023-02-08T00:30:32Z)
• Rethinking and Recomputing the Value of Machine Learning Models [16.06614967567121]
  機械学習モデルをトレーニングし評価する一般的なアプローチは、現実のアプリケーションを考えるのに失敗することが多い、と私たちは主張する。 精度やfスコアといった従来のメトリクスは、このようなハイブリッドな設定でモデルの有益な価値を捉えることができません。 本稿では, 予測, 誤り, 拒絶に対するタスク固有のコストを組み込んだ, 単純かつ理論的に健全な"値"メトリックを提案する。
  論文  参考訳（メタデータ） (2022-09-30T01:02:31Z)
• Measuring Fairness Under Unawareness of Sensitive Attributes: A Quantification-Based Approach [131.20444904674494]
  センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。 定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
  論文  参考訳（メタデータ） (2021-09-17T13:45:46Z)
• Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
  予測信頼性尺度は統計学と機械学習において基本的なものである。 これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。 この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
  論文  参考訳（メタデータ） (2020-11-24T19:52:38Z)
• Accurate and Robust Feature Importance Estimation under Distribution Shifts [49.58991359544005]
  PRoFILEは、新しい特徴重要度推定法である。 忠実さと頑健さの両面で、最先端のアプローチよりも大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2020-09-30T05:29:01Z)
• Fair inference on error-prone outcomes [0.0]
  提案手法では, エラー発生時プロキシターゲットを用いた場合, 正当性基準の評価と校正を行う既存の手法が, 真の対象変数に拡張されないことを示す。 本稿では,統計的文献から見いだされる公正なML手法と測定モデルの組み合わせから得られる枠組みを提案する。 医療決定問題では,測定誤差を考慮に入れた潜伏変数モデルを用いることで,これまで検出された不公平さを排除できることが判明した。
  論文  参考訳（メタデータ） (2020-03-17T10:31:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。