論文の概要: Reweighting is not Harmless: Understanding the Role of Dataset Characteristics

• arxiv url: http://arxiv.org/abs/2611.07258v1
• Date: Thu, 05 Nov 2026 00:14:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.475324
• Title: Reweighting is not Harmless: Understanding the Role of Dataset Characteristics
• Title（参考訳）: 再重み付けは有害ではない:データセットの特徴の役割を理解する
• Abstract要約: 重み付けが、あるグループに対して過小評価を減らし、別のグループに導入することで、フェアネスの誤解を招く可能性があることを示す。 現実世界のアプリケーションで報告されたミラーパターンを見つけ、この公正な介入の影響を形作る上で、データ特性が重要な役割をあらわす。
• 参考スコア（独自算出の注目度）: 0.6486360268668425
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reweighting is a widely used pre-processing method for promoting discrimination-free model behavior by assigning different weights to data points during model training. While it is often credited with improving fairness, particularly by mitigating systematic underestimation for underrepresented groups, it can also introduce unintended harms under certain data conditions. Using controlled simulations that vary group size and baseline event prevalence, we show how reweighting can yield misleading improvements in fairness by reducing underestimation for one group while introducing it for another. Across 3,000 simulated datasets with event prevalence of 7-14%, reweighting improved parity in positive classification and false negative rates (FNR) between groups, but did so partly by decreasing positive classifications and increasing FNR for the group with higher baseline prevalence. These effects were most pronounced when that group was a minority: its FNR rose by 6 percentage points, approximately 82 additional missed cases per 10,000 group members, and roughly three-quarters of the improvement in FNR parity came from this increase rather than from gains for the other group. The pattern held across six classifiers, from logistic regression to neural networks, while overall accuracy was essentially unchanged, leaving the shift invisible in aggregate performance metrics. These findings mirror patterns reported in real-world applications and underscore the critical role of data characteristics in shaping the impact of this fairness intervention. While reweighting may create desirable outcomes in some applications, practitioners should critically evaluate it relative to their problem area and goals. Specifically, when the goal is to reduce underestimation in one group without introducing underestimation in another, reweighting may not be the appropriate approach.
• Abstract（参考訳）: 重み付けは、モデルトレーニング中に異なる重み付けをデータポイントに割り当てることで、差別のないモデル行動を促進するために広く使われている前処理手法である。 フェアネスの改善、特に低表現群に対する体系的な過小評価を緩和することでしばしば評価されるが、特定のデータ条件下で意図しない害をもたらすこともある。 グループサイズやベースラインイベントの頻度の異なる制御されたシミュレーションを用いて、一方のグループの過小評価を減らし、他方のグループの過小評価を減らし、再重み付けがフェアネスの誤った改善をもたらすことを示す。 イベント頻度が7-14%の3000以上のシミュレーションデータセットは, グループ間での正の分類と偽陰性率(FNR)が向上したが, 正の分類が減少し, 基線頻度が高いグループではFNRが増加した。 これらの効果は、FNRが6ポイント上昇し、約82件の欠席事件が1万人当たり発生し、FNRパリティの改善の約4分の3は、他のグループの利益からではなく、この増加によるものであることが最も顕著であった。 パターンはロジスティック回帰からニューラルネットワークまで6つの分類器にまたがって保持され、全体的な精度は基本的に変化せず、総合的なパフォーマンス指標ではシフトは見えなかった。 これらの知見は実世界の応用で報告されたパターンを反映し、この公正介入の影響を形作る上で、データ特性が重要な役割を担っていることを裏付けるものである。 再重み付けは、いくつかのアプリケーションで望ましい結果をもたらすかもしれないが、実践者は、問題領域と目標に対して、それを批判的に評価する必要がある。 特に、あるグループにおける過小評価を、別のグループで過小評価を導入することなく減らすことが目的であれば、再重み付けは適切なアプローチではないかもしれない。

関連論文リスト

• SAGE: Subpopulation-Aware Generative Enhancement for Mitigating Spurious Correlations [7.753860485619659]
  Subpopulation-Aware Generative Enhancement (SAGE)は、2段階の生成拡張フレームワークである。 本研究では,水鳥,CelebA,MetaShiftにおいて,SAGEが89.5%,85.7%,79.1%の群精度を達成したことを実験的に示した。
  論文  参考訳（メタデータ） (2026-09-01T10:47:11Z)
• Leveraging Error Diversity in Group Rollouts for Reinforcement Learning [61.10980882949414]
  Reinforcement Learning from Verifiable Rewards (RLVR) は通常、プロンプト毎に複数のレスポンスをサンプリングし、個々の正確性に基づいてバイナリ報酬を割り当てる。 グループ内エラーの多様性に基づいて,不正なロールアウトに対して有利なシグナルを変調するために,EDAS(Error Diversity Advantage Shaping)を提案する。 EDASは、任意のRLVRアルゴリズムにシームレスに統合できるシンプルなポストホック調整として動作する。
  論文  参考訳（メタデータ） (2026-05-17T08:52:31Z)
• Developing Fairness-Aware Task Decomposition to Improve Equity in Post-Spinal Fusion Complication Prediction [3.860970992977915]
  術後合併症予測のための公平性を考慮したマルチタスク学習フレームワークを提案する。 FAIR-MTLはデータ駆動型サブグループ推論機構を採用している。 AUCは0.86であり、75%の精度でシングルタスクベースラインを上回り、バイアスを大幅に低減する。
  論文  参考訳（メタデータ） (2025-11-29T19:06:07Z)
• DisCO: Reinforcing Large Reasoning Models with Discriminative Constrained Optimization [50.91849555841057]
  グループ相対政策最適化は大規模推論モデル(LRM)の強化学習手法である 差別学習の原則を基礎として, LRMの強化のための新たな差別的制約付き最適化フレームワークを導入する。 DisCO は GRPO と DAPO などの改良型を著しく上回り、GRPO の7%、DAPO の6% を平均的に上回っている。
  論文  参考訳（メタデータ） (2025-05-18T11:08:32Z)
• Trained Models Tell Us How to Make Them Robust to Spurious Correlation without Group Annotation [3.894771553698554]
  経験的リスク最小化(ERM)モデルは、ターゲットと高い刺激的な相関を持つ属性に依存する傾向がある。 これにより、これらの属性を欠いた未表現(または'マイナー')グループのパフォーマンスを低下させることができる。 本稿では,環境に基づく検証と損失に基づくサンプリング(EVaLS)を提案する。
  論文  参考訳（メタデータ） (2024-10-07T08:17:44Z)
• How does promoting the minority fraction affect generalization? A theoretical study of the one-hidden-layer neural network on group imbalance [64.1656365676171]
  グループ不均衡は経験的リスク最小化において既知の問題である。 本稿では,個々の集団がサンプルの複雑さ,収束率,平均および群レベルの試験性能に与える影響を定量化する。
  論文  参考訳（メタデータ） (2024-03-12T04:38:05Z)
• Modeling the Q-Diversity in a Min-max Play Game for Robust Optimization [61.39201891894024]
  群分布的ロバスト最適化(群 DRO)は、事前定義された群に対する最悪の損失を最小限にすることができる。 グループDROフレームワークをQ-Diversityを提案して再構築する。 インタラクティブなトレーニングモードによって特徴付けられるQ-Diversityは、アノテーションからグループ識別を緩和し、直接パラメータ化を行う。
  論文  参考訳（メタデータ） (2023-05-20T07:02:27Z)
• Pushing the Accuracy-Group Robustness Frontier with Introspective Self-play [16.262574174989698]
  Introspective Self-play (ISP)は、データセットバイアス下でのディープニューラルネットワークの不確実性推定を改善するための単純なアプローチである。 ISPはモデル表現のバイアス認識と結果の不確実性評価を確実に改善することを示す。
  論文  参考訳（メタデータ） (2023-02-11T22:59:08Z)
• Take One Gram of Neural Features, Get Enhanced Group Robustness [23.541213868620837]
  経験的リスク最小化で訓練された機械学習モデルの予測性能は、分散シフト下で大幅に低下する可能性がある。 本稿では,識別モデルの抽出した特徴の文法行列に基づいて,トレーニングデータセットをグループに分割する。 このアプローチは、ERMに対するグループロバスト性を向上するだけでなく、最近のすべてのベースラインを上回ります。
  論文  参考訳（メタデータ） (2022-08-26T12:34:55Z)
• Deconfounding Scores: Feature Representations for Causal Effect Estimation with Weak Overlap [140.98628848491146]
  推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。 分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。 特に,この手法が標準正規化の魅力的な代替となることを示す。
  論文  参考訳（メタデータ） (2021-04-12T18:50:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。