論文の概要: Transparency and Proportionality in Post-Processing Algorithmic Bias Correction

• arxiv url: http://arxiv.org/abs/2505.17525v1
• Date: Fri, 23 May 2025 06:33:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-26 18:08:33.865806
• Title: Transparency and Proportionality in Post-Processing Algorithmic Bias Correction
• Title（参考訳）: 後処理アルゴリズムバイアス補正における透明性と比例性
• Authors: Juliett Suárez Ferreira, Marija Slavkovik, Jorge Casillas,
• Abstract要約: 分類タスクの公平性を達成するためにアルゴリズム予測を変更する後処理技術に着目する。 後処理段階における解に対するフリップの相違を定量化する尺度を開発した。 提案手法は,(1)使用した脱バイアス戦略の比例性を評価すること,(2)各グループにおける戦略の効果を説明する透明性を有すること,(3)これらの結果に基づいて,バイアス緩和のための他のアプローチの可能性を分析すること,あるいは問題を解決することである。
• 参考スコア（独自算出の注目度）: 0.7783262415147651
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Algorithmic decision-making systems sometimes produce errors or skewed predictions toward a particular group, leading to unfair results. Debiasing practices, applied at different stages of the development of such systems, occasionally introduce new forms of unfairness or exacerbate existing inequalities. We focus on post-processing techniques that modify algorithmic predictions to achieve fairness in classification tasks, examining the unintended consequences of these interventions. To address this challenge, we develop a set of measures that quantify the disparity in the flips applied to the solution in the post-processing stage. The proposed measures will help practitioners: (1) assess the proportionality of the debiasing strategy used, (2) have transparency to explain the effects of the strategy in each group, and (3) based on those results, analyze the possibility of the use of some other approaches for bias mitigation or to solve the problem. We introduce a methodology for applying the proposed metrics during the post-processing stage and illustrate its practical application through an example. This example demonstrates how analyzing the proportionality of the debiasing strategy complements traditional fairness metrics, providing a deeper perspective to ensure fairer outcomes across all groups.
• Abstract（参考訳）: アルゴリズムによる意思決定システムは、時に特定のグループに対する誤りや予測を生じさせ、不公平な結果をもたらす。 このような制度の発展の異なる段階で適用される嫌悪行為は、時に新しい不公平な形態を導入するか、既存の不平等を悪化させる。 我々は,アルゴリズムの予測を修正して,分類タスクの公平性を実現するポストプロセッシング技術に注目し,これらの介入の意図しない結果について検討する。 この課題に対処するため、我々は、後処理段階のソリューションに適用されたフリップの相違を定量化する一連の尺度を開発した。 提案手法は,(1)使用した脱バイアス戦略の比例性を評価すること,(2)各グループにおける戦略の効果を説明する透明性を有すること,(3)これらの結果に基づいて,バイアス緩和のための他のアプローチの可能性を分析すること,あるいは問題を解決することである。 本稿では,提案するメトリクスを後処理段階で適用するための方法論を紹介し,その実例を例に示す。 この例では、デバイアスング戦略の比例分析が従来の公正度指標を補完する方法を示し、すべてのグループでより公平な結果を保証するためのより深い視点を提供する。

関連論文リスト

• Achieving Fairness in Predictive Process Analytics via Adversarial Learning [50.31323204077591]
  本稿では、デバイアスフェーズを予測ビジネスプロセス分析に組み込むことの課題に対処する。 本研究の枠組みは, 4つのケーススタディで検証し, 予測値に対する偏り変数の寄与を著しく低減することを示した。
  論文  参考訳（メタデータ） (2024-10-03T15:56:03Z)
• Predictive Inference in Multi-environment Scenarios [18.324321417099394]
  有効な信頼区間を構築するという課題に対処し、複数の環境にまたがる予測の問題に対処する。 我々は、非伝統的で階層的なデータ生成シナリオにおいて、分散のないカバレッジを得る方法を示すために、Jackknifeとsplit-conformalメソッドを拡張します。 コントリビューションには、非実測値応答の設定の拡張、これらの一般的な問題における予測推論の一貫性の理論、条件付きカバレッジの限界に関する洞察が含まれる。
  論文  参考訳（メタデータ） (2024-03-25T00:21:34Z)
• FRAPPE: A Group Fairness Framework for Post-Processing Everything [48.57876348370417]
  本稿では,任意の正規化インプロセッシング手法をポストプロセッシング手法に変換するフレームワークを提案する。 理論的および実験を通して、我々のフレームワークは、内部処理で達成された優れた公正なエラートレードオフを保っていることを示す。
  論文  参考訳（メタデータ） (2023-12-05T09:09:21Z)
• Investigating the Effects of Fairness Interventions Using Pointwise Representational Similarity [12.879768345296718]
  本稿では,PNKA(Pointwise Normalized Kernel Alignment)を提案する。 PNKAは、偏りが個人の中間表現にどのように影響するかを測定することで、これまで未知の洞察を明らかにしている。 PNKAを用いて表現を評価することにより、これらの表現に基づいて訓練されたMLモデルの挙動を確実に予測できることを示す。
  論文  参考訳（メタデータ） (2023-05-30T09:40:08Z)
• Auditing Fairness by Betting [43.515287900510934]
  我々は,デプロイされた分類モデルと回帰モデルの公平性を評価するための,実用的で効率的で非パラメトリックな手法を提供する。 我々の手法は逐次的であり、入ってくるデータの継続的なモニタリングを可能にする。 提案手法の有効性を3つのベンチマークフェアネスデータセットに示す。
  論文  参考訳（メタデータ） (2023-05-27T20:14:11Z)
• Better Understanding Differences in Attribution Methods via Systematic Evaluations [57.35035463793008]
  モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。 本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。 これらの評価手法を用いて、広範囲のモデルにおいて広く用いられている属性手法の長所と短所について検討する。
  論文  参考訳（メタデータ） (2023-03-21T14:24:58Z)
• When mitigating bias is unfair: multiplicity and arbitrariness in algorithmic group fairness [8.367620276482056]
  本稿では,5次元によるバイアス緩和を評価するFRAME(FaiRness Arbitrariness and Multiplicity Evaluation)フレームワークを紹介する。 FRAMEをキーデータセット全体にわたる様々なバイアス緩和アプローチに適用することにより、デバイアス手法の挙動に顕著な違いを示すことができる。 これらの知見は、現在の公平性基準の限界と、偏見過程における固有の仲裁性を強調している。
  論文  参考訳（メタデータ） (2023-02-14T16:53:52Z)
• Imputation Strategies Under Clinical Presence: Impact on Algorithmic Fairness [8.958956425857878]
  我々は、機械学習がデータおよびデータから欠落するものにおけるバイアスを補強するリスクを論じる。 医療の欠如に対処する方法は、アルゴリズムの公正性に有害な影響を与える可能性がある。 提案手法は,命令の選択を実証的に導くためのフレームワークと,それに伴う報告フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-08-13T13:34:05Z)
• Towards Better Understanding Attribution Methods [77.1487219861185]
  モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。 本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。 また,いくつかの属性法の性能を著しく向上する処理後平滑化ステップを提案する。
  論文  参考訳（メタデータ） (2022-05-20T20:50:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。