論文の概要: Mitigating Label Bias with Interpretable Rubric Embeddings

• arxiv url: http://arxiv.org/abs/2605.21455v1
• Date: Wed, 20 May 2026 17:46:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-21 19:19:56.821062
• Title: Mitigating Label Bias with Interpretable Rubric Embeddings
• Title（参考訳）: 可解なゴム埋め込みによるラベルバイアスの緩和
• Authors: Calvin Isley, Johann D. Gaebler, Sharad Goel,
• Abstract要約: 本稿では,標準的なブラックボックス埋め込みを専門家定義基準から派生した特徴に置き換える表現フレームワークを提案する。 その結果, れんがの埋込みを訓練したモデルでは, コホート品質の指標を改良しながら, 群差を低減できることが判明した。 この結果から,解釈可能なドメイン基底表現の階層的予測は,バイアス付きラベルの存在下での学習に実践的なアプローチをもたらすことが示唆された。
• 参考スコア（独自算出の注目度）: 2.58435220827336
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Statistical decision algorithms are increasingly deployed in domains where ground-truth labels are hard to obtain, such as hiring, university admissions, and content moderation. In these settings, models are typically trained on historical human evaluations -- for example, using past hiring decisions as a proxy for true applicant quality. However, if past evaluations unjustly favor certain groups, models trained on these labels may inherit those biases. To address this problem, we propose basing predictions on rubric embeddings, a representation framework that replaces standard black-box embeddings with features derived from expert-defined criteria that align with the underlying construct of interest. By anchoring predictions to semantically meaningful dimensions, this approach guards against biased proxy signals. We provide both theoretical and empirical evidence that rubric embeddings mitigate label bias under plausible conditions. Empirically, we evaluate our method on a novel dataset of applications to a large master's program. We find that models trained on rubric embeddings reduce group disparities while improving measures of cohort quality. Our results suggest that basing predictions on interpretable, domain-grounded representations offers a practical approach to learning in the presence of biased labels.
• Abstract（参考訳）: 統計的決定アルゴリズムは、雇用、大学入試、コンテンツモデレーションなど、地道ラベルの入手が困難な領域にますます導入されている。 これらの設定では、モデルは通常、過去の人間の評価に基づいてトレーニングされます。 しかし、過去の評価が不当に特定のグループを好んだ場合、これらのラベルで訓練されたモデルはこれらのバイアスを継承する可能性がある。 この問題に対処するために,標準的なブラックボックス埋め込みを置き換える表現フレームワークであるルーブリック埋め込みのベースとなる予測手法を提案する。 予測を意味論的に意味のある次元に固定することで、このアプローチはバイアスのあるプロキシ信号から保護する。 ゴムの埋没が可塑性条件下でラベルバイアスを軽減するという理論的および実証的な証拠を提供する。 実験により,本手法を大規模マスタプログラムに適用した新しいアプリケーションデータセット上で評価する。 その結果, れんがの埋込みを訓練したモデルでは, コホート品質の指標を改良しながら, 群差を低減できることが判明した。 この結果から,解釈可能なドメイン基底表現の階層的予測は,バイアス付きラベルの存在下での学習に実践的なアプローチをもたらすことが示唆された。

関連論文リスト

• Unlabeled Debiasing in Downstream Tasks via Class-wise Low Variance Regularization [13.773597081543185]
  本稿では,組込みのクラスワイドな分散に基づく新しいデバイアス正規化手法を提案する。 提案手法は属性ラベルを必要とせず,属性をターゲットとせず,既存のデバイアス手法の欠点に対処する。
  論文  参考訳（メタデータ） (2024-09-29T03:56:50Z)
• Language-guided Detection and Mitigation of Unknown Dataset Bias [23.299264313976213]
  本稿では,キャプションの部分的発生に基づく事前知識のないキーワードとして潜在的なバイアスを識別する枠組みを提案する。 我々のフレームワークは、事前知識のない既存のメソッドよりも優れているだけでなく、事前知識を前提としたメソッドにさえ匹敵する。
  論文  参考訳（メタデータ） (2024-06-05T03:11:33Z)
• Learning with Complementary Labels Revisited: The Selected-Completely-at-Random Setting Is More Practical [66.57396042747706]
  補完ラベル学習は、弱教師付き学習問題である。 均一分布仮定に依存しない一貫したアプローチを提案する。 相補的なラベル学習は、負のラベル付きバイナリ分類問題の集合として表現できる。
  論文  参考訳（メタデータ） (2023-11-27T02:59:17Z)
• Evaluating the Fairness of Discriminative Foundation Models in Computer Vision [51.176061115977774]
  本稿では,CLIP (Contrastive Language-Pretraining) などの差別基盤モデルのバイアス評価のための新しい分類法を提案する。 そして、これらのモデルにおけるバイアスを緩和するための既存の手法を分類学に関して体系的に評価する。 具体的には,ゼロショット分類,画像検索,画像キャプションなど,OpenAIのCLIPとOpenCLIPモデルをキーアプリケーションとして評価する。
  論文  参考訳（メタデータ） (2023-10-18T10:32:39Z)
• On Comparing Fair Classifiers under Data Bias [42.43344286660331]
  本研究では,データ偏差の変化が公正分類器の精度と公平性に及ぼす影響について検討する。 我々の実験は、既存のフェアネスダッシュボードにデータバイアスリスクの尺度を統合する方法を示している。
  論文  参考訳（メタデータ） (2023-02-12T13:04:46Z)
• Systematic Evaluation of Predictive Fairness [60.0947291284978]
  バイアス付きデータセットのトレーニングにおけるバイアスの緩和は、重要なオープンな問題である。 複数のタスクにまたがる様々なデバイアス化手法の性能について検討する。 データ条件が相対モデルの性能に強い影響を与えることがわかった。
  論文  参考訳（メタデータ） (2022-10-17T05:40:13Z)
• Social Bias Meets Data Bias: The Impacts of Labeling and Measurement Errors on Fairness Criteria [4.048444203617942]
  我々は、ラベル付けプロセスにおける事前決定者による誤りと、不利な個人の特徴の測定における誤りの2つの形態を考察する。 分析により、ある統計的バイアスに直面した場合、いくつかの制約が頑健であることを示し、他の制約(等化オッドなど)はバイアスデータでトレーニングされた場合、著しく侵害される。 以上の結果から,既存の公正基準の中から選択するためのガイドラインや,利用可能なデータセットに偏りがある場合の新たな基準を提案するためのガイドラインが提示された。
  論文  参考訳（メタデータ） (2022-05-31T22:43:09Z)
• Optimising Equal Opportunity Fairness in Model Training [60.0947291284978]
  既存のデバイアス法、例えば、敵の訓練や、表現から保護された情報を取り除くことは、バイアスを減らすことが示されている。 2つの新たな学習目標を提案し,2つの分類課題における高い性能を維持しつつ,バイアスの低減に有効であることを示す。
  論文  参考訳（メタデータ） (2022-05-05T01:57:58Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。