論文の概要: Fairness Theatre: Evaluating Post-Hoc Fairness Interventions in Vendor-Controlled Early Warning Systems

• arxiv url: http://arxiv.org/abs/2609.38552v1
• Date: Tue, 29 Sep 2026 21:11:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.734975
• Title: Fairness Theatre: Evaluating Post-Hoc Fairness Interventions in Vendor-Controlled Early Warning Systems
• Title（参考訳）: フェアネス・シアター:ベンダー制御早期警戒システムにおけるポストホックフェアネス・インターベンションの評価
• Abstract要約: 高等教育において、プロプライエタリな早期警戒システム(Early Warning Systems)は、不平等に対処するためにモデル出力を調整すること以外の選択肢を大学に残している。 このことは、ベンダー、機関、アドバイザー、そしてこれらのシステムを変えるのに不平等な力を持つ学生の間で、公正な仕事がどのように調整されているかという疑問を提起する。 我々は,調達制約を模擬した調査EWSにおいて,ホック後の公正な介入を6回評価した。
• 参考スコア（独自算出の注目度）: 15.276517616142549
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Public institutions increasingly procure AI systems whose design they cannot inspect or change. In higher education, proprietary Early Warning Systems (EWS) leave colleges with few options beyond adjusting model outputs to address inequity. This raises the question of how fairness work is coordinated among vendors, institutions, advisors, and students with unequal power to change these systems? Using student records from a public college in Ontario, Canada, we evaluate six post-hoc fairness interventions on a research EWS under simulated procurement constraints. We compare fairness, accuracy, and demographic disparities, introducing error-type profiling to trace how interventions redistribute false positives and false negatives. Interventions redistributed disparities without consistently reducing them. Two implementations favored already-advantaged groups because they used group size to define disadvantage; small, marginalized groups remained poorly served. These findings show how procurement constraints and implementation choices shape the possibilities for fairness work. We call the resulting condition fairness theatre; dashboard metrics converge while groups' error burdens persist or worsen.
• Abstract（参考訳）: 公共機関は、検査や変更ができない設計のAIシステムをますます調達する。 高等教育において、プロプライエタリな早期警告システム(EWS)は、不等式に対応するためにモデル出力を調整する以外に選択肢がほとんどない大学を去る。 このことは、ベンダー、機関、アドバイザー、そしてこれらのシステムを変えるのに不平等な力を持つ学生の間で、公正な作業がどのように調整されているのかという疑問を提起する。 カナダのオンタリオ州にある公立大学の学生記録を用いて, 調達制約を模擬した調査EWSにおいて, ホック後の公正な介入を6回評価した。 フェアネス、精度、人口統計の格差を比較し、介入が偽陽性と偽陰性を再分配する方法を辿るためにエラー型プロファイリングを導入する。 介入は相違を常に減少させることなく再分配する。 2つの実装は、不利益を定義するためにグループサイズを使用したため、既に改善されたグループを好んだ。 これらの結果は、調達制約と実装選択が公正な仕事の可能性をいかに形作るかを示している。 ダッシュボードのメトリクスは集約され、グループのエラーの重荷は持続または悪化します。

関連論文リスト

• Fairness under uncertainty in sequential decisions [14.392931077157906]
  アルゴリズム的アプローチだけでは構造的不等式は解決できない。 多くの実際の機械学習アプリケーションはオンラインでシーケンシャルであり、事前決定は将来のものを伝える。 本稿では, 逐次意思決定における不確実性の分類について紹介する。
  論文  参考訳（メタデータ） (2026-04-23T14:17:58Z)
• Fairness May Backfire: When Leveling-Down Occurs in Fair Machine Learning [17.3262089857067]
  属性認識型システムでは、フェアMLは必ずしも(弱く)不利なグループの結果を改善することが示される。 属性・ブラインド体制では、公正さは両方のグループの結果を同じ方向にシフトさせ、レベルアップまたはレベルダウンのいずれかにつながる。 この結果から,アルゴリズム的公正性を追求することで,グループの結果が向上する可能性が示唆された。
  論文  参考訳（メタデータ） (2026-03-06T21:38:46Z)
• Intersectional Fairness via Mixed-Integer Optimization [2.664154603948153]
  真の公正性は、保護されたグループの交差点におけるバイアスに対処する必要があると我々は主張する。 本研究では,Mixed-Integer Optimization (MIO) を利用して,相互に公平かつ本質的に解釈可能な分類器を訓練する統合フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-27T13:29:25Z)
• Fairness for the People, by the People: Minority Collective Action [50.29077265863936]
  機械学習モデルは、トレーニングデータに存在するバイアスを保存し、一部の少数民族を不公平に扱う。 我々は,企業のトレーニングプロセスを変更することなく,公正性を高めるために,自らのデータを戦略的に再ラベルする調整されたマイノリティグループを提案する。 以上の結果から,少数民族のサブグループは,全体の予測誤差に少なからぬ影響で,不公平さを著しく低減できることが明らかとなった。
  論文  参考訳（メタデータ） (2025-08-21T09:09:39Z)
• Mitigating Subgroup Disparities in Multi-Label Speech Emotion Recognition: A Pseudo-Labeling and Unsupervised Learning Approach [53.824673312331626]
  Implicit Demography Inference (IDI)モジュールは、k平均クラスタリングを用いて、音声感情認識(SER)におけるバイアスを軽減する 実験により、擬似ラベルIDIはサブグループの格差を減らし、フェアネスの指標を28%以上改善することが示された。 教師なしのIDIは、SERのパフォーマンスが3.6%未満のフェアネス指標を4.6%以上改善する。
  論文  参考訳（メタデータ） (2025-05-20T14:50:44Z)
• How Robust is Your Fairness? Evaluating and Sustaining Fairness under Unseen Distribution Shifts [107.72786199113183]
  CUMA(CUrvature Matching)と呼ばれる新しいフェアネス学習手法を提案する。 CUMAは、未知の分布シフトを持つ未知の領域に一般化可能な頑健な公正性を達成する。 提案手法を3つの人気フェアネスデータセットで評価する。
  論文  参考訳（メタデータ） (2022-07-04T02:37:50Z)
• Domain Adaptation meets Individual Fairness. And they get along [48.95808607591299]
  アルゴリズムフェアネスの介入は、機械学習モデルが分散シフトを克服するのに役立つことを示す。 特に,個人フェアネス(IF)の適切な概念を強制することで,MLモデルの分布外精度が向上することを示す。
  論文  参考訳（メタデータ） (2022-05-01T16:19:55Z)
• The Disparate Impact of Uncertainty: Affirmative Action vs. Affirmative Information [0.0]
  平均的な結果の高い群は、通常、高い偽陽性率を割り当てられる。 データセットから人口統計変数を省略する直感的な治療法が、それを修正しない理由を説明している。 本稿では,データ欠落の代わりに,データ富化が機会へのアクセスをいかに拡大するかを検討する。
  論文  参考訳（メタデータ） (2021-02-19T16:40:47Z)
• Ethical Adversaries: Towards Mitigating Unfairness with Adversarial Machine Learning [8.436127109155008]
  個人や組織は、モデルデザイナやデプロイ担当者が責任を持つように、不公平な結果に気付き、テストし、批判します。 トレーニングデータセットから生じる不公平な表現を緩和する上で,これらのグループを支援するフレームワークを提供する。 我々のフレームワークは公平性を改善するために2つの相互運用敵に依存している。
  論文  参考訳（メタデータ） (2020-05-14T10:10:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。