論文の概要: Interpretable and Fair Mechanisms for Abstaining Classifiers

• arxiv url: http://arxiv.org/abs/2503.18826v1
• Date: Mon, 24 Mar 2025 16:06:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-25 14:38:04.432472
• Title: Interpretable and Fair Mechanisms for Abstaining Classifiers
• Title（参考訳）: 識別器の確保のための解釈的・公正なメカニズム
• Authors: Daphne Lenders, Andrea Pugnana, Roberto Pellungrini, Toon Calders, Dino Pedreschi, Fosca Giannotti,
• Abstract要約: 本稿では,不確実性と不公平性に基づいて,両者の予測を拒否するアルゴリズムである,解釈的かつ公正な保証を導入する。 提案手法は,非リジェクトデータの集団間における誤り率と肯定的な決定率の差を低減させる。 この説明可能な側面は、最近のAI規制に照らして特に重要である。
• 参考スコア（独自算出の注目度）: 12.539170258479778
• License:
• Abstract: Abstaining classifiers have the option to refrain from providing a prediction for instances that are difficult to classify. The abstention mechanism is designed to trade off the classifier's performance on the accepted data while ensuring a minimum number of predictions. In this setting, often fairness concerns arise when the abstention mechanism solely reduces errors for the majority groups of the data, resulting in increased performance differences across demographic groups. While there exist a bunch of methods that aim to reduce discrimination when abstaining, there is no mechanism that can do so in an explainable way. In this paper, we fill this gap by introducing Interpretable and Fair Abstaining Classifier IFAC, an algorithm that can reject predictions both based on their uncertainty and their unfairness. By rejecting possibly unfair predictions, our method reduces error and positive decision rate differences across demographic groups of the non-rejected data. Since the unfairness-based rejections are based on an interpretable-by-design method, i.e., rule-based fairness checks and situation testing, we create a transparent process that can empower human decision-makers to review the unfair predictions and make more just decisions for them. This explainable aspect is especially important in light of recent AI regulations, mandating that any high-risk decision task should be overseen by human experts to reduce discrimination risks.
• Abstract（参考訳）: 保持された分類器は、分類が難しいインスタンスの予測を控えるオプションがある。 禁忌機構は、最小数の予測を確保しつつ、受理されたデータ上での分類器のパフォーマンスをトレードオフするように設計されている。 この設定では、控えめなメカニズムがデータの大多数のグループのエラーを単に減らし、人口統計群間での性能差が増加すると、しばしば公平性に関する懸念が生じる。 棄権時に差別を減らそうとするメソッドはたくさんありますが、説明可能な方法でそれを行うメカニズムはありません。 本稿では,不確実性と不公平性の両方に基づいて予測を拒否できるアルゴリズムであるIFACを,解釈可能かつ不確実性のある分類法として導入することにより,このギャップを埋める。 本手法は,不公平な予測を拒絶することにより,非拒否データの人口集団間での誤りや肯定的な決定率の差を低減させる。 不公平性に基づく拒絶は、解釈可能な設計法、すなわちルールに基づく公平性チェックと状況テストに基づいており、我々は、人間の意思決定者が不公平な予測をレビューし、より公正な判断を下すための透明なプロセスを作成する。 この説明可能な側面は、最近のAI規制に照らして特に重要である。

関連論文リスト

• Achieving Fairness in Predictive Process Analytics via Adversarial Learning [50.31323204077591]
  本稿では、デバイアスフェーズを予測ビジネスプロセス分析に組み込むことの課題に対処する。 本研究の枠組みは, 4つのケーススタディで検証し, 予測値に対する偏り変数の寄与を著しく低減することを示した。
  論文  参考訳（メタデータ） (2024-10-03T15:56:03Z)
• Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Equal Opportunity of Coverage in Fair Regression [50.76908018786335]
  我々は、予測の不確実性の下で公正な機械学習(ML)を研究し、信頼性と信頼性のある意思決定を可能にする。 本研究は,(1)類似した結果の異なる集団に対するカバー率が近いこと,(2)人口全体のカバー率が一定水準にあること,の2つの特性を達成することを目的としたカバーの平等機会(EOC)を提案する。
  論文  参考訳（メタデータ） (2023-11-03T21:19:59Z)
• Counterfactual Reasoning for Bias Evaluation and Detection in a Fairness under Unawareness setting [6.004889078682389]
  現在のAI規制では、不公平な結果を防ぐために、アルゴリズムの意思決定プロセスで機密機能を破棄する必要がある。 本稿では、機密機能が破棄された場合でも継続可能な機械学習モデルの潜在的な隠れバイアスを明らかにする方法を提案する。
  論文  参考訳（メタデータ） (2023-02-16T10:36:18Z)
• A Sandbox Tool to Bias(Stress)-Test Fairness Algorithms [19.86635585740634]
  バイアス注入型サンドボックスツールの概念と実装について, 各種バイアスの公平性について検討する。 既存のツールキットとは異なり、私たちのツールはMLパイプラインに事実上バイアスを注入する制御された環境を提供します。 特に、バイアス注入前において、偏りのない状態の真のラベルに介入した後に生じる予測を比較することで、与えられた治療法が注入されたバイアスを軽減することができるかどうかを検証できる。
  論文  参考訳（メタデータ） (2022-04-21T16:12:19Z)
• Measuring Fairness Under Unawareness of Sensitive Attributes: A Quantification-Based Approach [131.20444904674494]
  センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。 定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
  論文  参考訳（メタデータ） (2021-09-17T13:45:46Z)
• Accounting for Model Uncertainty in Algorithmic Discrimination [16.654676310264705]
  フェアネスアプローチは、モデルの不確実性に起因するエラーの均等化にのみ焦点をあてるべきである。 予測多重性とモデル不確実性の間に関係をもち、予測多重性からの手法がモデル不確実性に起因するエラーの特定に使用できると主張する。
  論文  参考訳（メタデータ） (2021-05-10T10:34:12Z)
• Heterogeneous-Agent Trajectory Forecasting Incorporating Class Uncertainty [54.88405167739227]
  本稿では,エージェントのクラス確率を明示的に組み込んだヘテロジニアスエージェント軌道予測手法であるHAICUを提案する。 さらに,新たな挑戦的な実世界の自動運転データセットであるpupも紹介する。 軌道予測にクラス確率を組み込むことで,不確実性に直面した性能が著しく向上することを示す。
  論文  参考訳（メタデータ） (2021-04-26T10:28:34Z)
• Classification with abstention but without disparities [5.025654873456756]
  我々は、異なる影響を回避しつつ、予測を棄却できる汎用的な分類アルゴリズムを構築した。 提案したアルゴリズムに対して,有限サンプルリスク,公平性,および留意保証を確立する。 本手法は, 適度な禁制率により, リスク・フェアネストレードオフを回避できることを実証的に示す。
  論文  参考訳（メタデータ） (2021-02-24T12:43:55Z)
• All of the Fairness for Edge Prediction with Optimal Transport [11.51786288978429]
  グラフにおけるエッジ予測の課題に対する公平性の問題について検討する。 本稿では,任意のグラフの隣接行列に対して,グループと個々の公正性のトレードオフを伴う埋め込み非依存の補修手順を提案する。
  論文  参考訳（メタデータ） (2020-10-30T15:33:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。