論文の概要: When Debiasing Backfires: Counterintuitive Side Effects of Preprocessing-Based Stereotype Mitigation

• arxiv url: http://arxiv.org/abs/2607.07937v1
• Date: Wed, 08 Jul 2026 21:34:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-10 14:45:27.348292
• Title: When Debiasing Backfires: Counterintuitive Side Effects of Preprocessing-Based Stereotype Mitigation
• Title（参考訳）: バックファイアの消火時:前処理によるステレオタイプ除去の非直感的副作用
• Abstract要約: 脱バイアスコーパスにおけるプレ/ポストトレーニングのようなステレオタイプ緩和法は、NLPで広く用いられている。 ステレオタイピングや反ステレオタイピングは、他の人口層にとって中立的なベースラインに対して増加する可能性がある。 評価の意義を議論し、実用的な診断を提供し、副作用を意識した透明な緩和の実践を論じる。
• 参考スコア（独自算出の注目度）: 33.039003778415726
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Preprocessing-based methods for stereotype mitigation, such as pre-/post-training on debiased corpora, are widely used in NLP. While these approaches reduce measurable stereotypes for targeted groups, we find they often induce unintended shifts-side effects, where stereotyping or counter-stereotyping can increase relative to neutral baselines for other demographics, including across unrelated demographic categories. We demonstrate these side effects across two model families (encoder-only and decoder-only), multiple preprocessing strategies (removing stereotypical sentences, removing group mentions, and swapping group references), and both pre- and post-training at different data scales on Wikipedia. Standard benchmarks frequently miss these shifts. Using attention-rollout analysis, we observe that such side effects are not accompanied by large changes in attention flow, complicating mechanistic explanations. We discuss implications for evaluation, provide actionable diagnostics, and argue for side-effect-aware, transparent mitigation practices.
• Abstract（参考訳）: 脱バイアスコーパスにおけるプレ/ポストトレーニングなどのステレオタイプ緩和のための前処理ベースの手法は、NLPで広く使われている。 これらのアプローチは対象グループに対する測定可能なステレオタイプを減少させるが、しばしば意図しないシフトサイド効果を誘発し、ステレオタイピングや反ステレオタイピングは、無関係なカテゴリーを含む他の人口層に対する中立的なベースラインに対して増加しうる。 2つのモデルファミリー(エンコーダのみとデコーダのみ)、複数のプリプロセッシング戦略(ステレオタイプ文の削除、グループ参照の削除、グループ参照の交換)、およびウィキペディア上の異なるデータスケールでの事前および後トレーニングの両方の副作用を実証する。 標準ベンチマークは、このシフトを見逃すことが多い。 注意ロールアウト分析を用いて、このような副作用は注意フローに大きな変化を伴わず、機械的説明が複雑になるのを観察する。 評価の意義を議論し、実用的な診断を提供し、副作用を意識した透明な緩和の実践を論じる。

関連論文リスト

• Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection [49.26064449816502]
  本研究では,テキスト・視覚バイアスと共起バイアスに対処するために,グラディエントベースのインフルエンス・アウェア制約付きデコーディング(GACD)手法を提案する。 GACDは幻覚を効果的に低減し、MLLM出力の視覚的接地を改善する。
  論文  参考訳（メタデータ） (2025-09-03T08:13:52Z)
• How Quantization Shapes Bias in Large Language Models [61.40435736418359]
  重みとアクティベーションの定量化戦略に焦点をあて、幅広いバイアスタイプにまたがる効果について検討する。 確率的および生成されたテキストベースのメトリクスを9つのベンチマークで使用し、アーキテクチャファミリや推論能力の異なるモデルを評価する。
  論文  参考訳（メタデータ） (2025-08-25T14:48:26Z)
• Fair Deepfake Detectors Can Generalize [51.21167546843708]
  共同設立者(データ分散とモデルキャパシティ)の制御により,公正な介入による一般化が向上することを示す。 この知見を応用して, 逆正当性重み付けとサブグループワイド特徴正規化を併用し, 新たなアライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・インセンティブ・インターベンション・インベンション・インテクション(DAID)を提案する。 DAIDは、いくつかの最先端技術と比較して、公平性と一般化の両方において一貫して優れた性能を達成する
  論文  参考訳（メタデータ） (2025-07-03T14:10:02Z)
• Fairness Mediator: Neutralize Stereotype Associations to Mitigate Bias in Large Language Models [66.5536396328527]
  LLMは必然的にトレーニングデータから急激な相関関係を吸収し、偏りのある概念と特定の社会的グループの間のステレオタイプ的関連をもたらす。 ステレオタイプアソシエーションを中和するバイアス緩和フレームワークであるFairness Mediator (FairMed)を提案する。 本フレームワークは, ステレオタイプアソシエーションプローバーと, 対向型デバイアス中和剤の2つの主成分からなる。
  論文  参考訳（メタデータ） (2025-04-10T14:23:06Z)
• Explainable Adversarial Attacks on Coarse-to-Fine Classifiers [4.1608968552041565]
  本稿では,多段階分類器に対するインスタンスベースの逆攻撃を提案する。 提案手法は, LRPを用いて, 粗い, きめ細かな分類に不可欠な重要な特徴を同定し, ターゲットにすることで, 説明可能な逆方向の摂動を生成する。 従来の攻撃とは異なり、本手法は誤分類を誘発するだけでなく、分類段階にわたってモデルの動作の解釈可能性を高める。
  論文  参考訳（メタデータ） (2025-01-19T00:23:02Z)
• Reranking individuals: The effect of fair classification within-groups [3.2976453916809803]
  バイアス緩和技術は、敏感なグループ間でのインスタンスのペアのランク付けに影響を及ぼす。 これらの効果は精度・公正性評価の枠組みにおいてレーダーの下に留まっている。 いくつかの一般的なバイアス緩和手法の効果と、その出力が現実世界のシナリオを反映しない場合について説明する。
  論文  参考訳（メタデータ） (2024-01-24T11:41:30Z)
• Explaining Knock-on Effects of Bias Mitigation [13.46387356280467]
  機械学習システムでは、バイアス緩和アプローチは特権と特権のないグループ間で成果をより公平にすることを目的としている。 本稿では,緩和介入を適用した場合のコホートの影響を特徴付けることを目的とする。 モデルライフサイクルの様々な段階で機能するバイアス緩和戦略について検討する。 検討の結果,全ての緩和策が非自明な事例,すなわち緩和努力のみでは望ましくない結果に悪影響を及ぼすことが明らかとなった。
  論文  参考訳（メタデータ） (2023-12-01T18:40:37Z)
• Contagion Effect Estimation Using Proximal Embeddings [17.483428990993744]
  感染効果は、ソーシャルネットワークにおける個人の結果に対する仲間の行動の因果効果を指す。 既存のプロキシベースの感染効果推定法は、プロキシが高次元である場合、非常に高いばらつきを持つ。 本稿では,変分オートエンコーダと対向ネットワークを統合した新しいフレームワーク Proximal Embeddings (ProEmb) を提案する。
  論文  参考訳（メタデータ） (2023-06-04T20:55:13Z)
• Investigating the Effects of Fairness Interventions Using Pointwise Representational Similarity [12.879768345296718]
  本稿では,PNKA(Pointwise Normalized Kernel Alignment)を提案する。 PNKAは、偏りが個人の中間表現にどのように影響するかを測定することで、これまで未知の洞察を明らかにしている。 PNKAを用いて表現を評価することにより、これらの表現に基づいて訓練されたMLモデルの挙動を確実に予測できることを示す。
  論文  参考訳（メタデータ） (2023-05-30T09:40:08Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)
• Deconfounding Scores: Feature Representations for Causal Effect Estimation with Weak Overlap [140.98628848491146]
  推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。 分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。 特に,この手法が標準正規化の魅力的な代替となることを示す。
  論文  参考訳（メタデータ） (2021-04-12T18:50:11Z)
• Fundamental Tradeoffs between Invariance and Sensitivity to Adversarial Perturbations [65.05561023880351]
  敵の例は誤分類を引き起こすために作られた悪意のある入力である。 本稿では, 相補的障害モード, 不変性に基づく逆数例について検討する。 感度に基づく攻撃に対する防御は、不変性に基づく攻撃に対するモデルの精度を積極的に損なうことを示す。
  論文  参考訳（メタデータ） (2020-02-11T18:50:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。