論文の概要: MABR: A Multilayer Adversarial Bias Removal Approach Without Prior Bias Knowledge

• arxiv url: http://arxiv.org/abs/2408.05497v2
• Date: Sat, 14 Dec 2024 21:10:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-17 13:51:19.116274
• Title: MABR: A Multilayer Adversarial Bias Removal Approach Without Prior Bias Knowledge
• Title（参考訳）: MABR: 先行バイアス知識のない多層逆バイアス除去手法
• Authors: Maxwell J. Yin, Boyu Wang, Charles Ling,
• Abstract要約: 実世界のデータに基づいてトレーニングされたモデルは、しばしば既存の社会的バイアスを反映し、悪化させる。 本稿では,従来のバイアス型知識とは独立して機能する,新たな対人訓練戦略を提案する。 本手法は,人口統計学的アノテーションを必要とせずに,社会的バイアスを効果的に低減する。
• 参考スコア（独自算出の注目度）: 6.208151505901749
• License:
• Abstract: Models trained on real-world data often mirror and exacerbate existing social biases. Traditional methods for mitigating these biases typically require prior knowledge of the specific biases to be addressed, such as gender or racial biases, and the social groups associated with each instance. In this paper, we introduce a novel adversarial training strategy that operates independently of prior bias-type knowledge and protected attribute labels. Our approach proactively identifies biases during model training by utilizing auxiliary models, which are trained concurrently by predicting the performance of the main model without relying on task labels. Additionally, we implement these auxiliary models at various levels of the feature maps of the main model, enabling the detection of a broader and more nuanced range of bias features. Through experiments on racial and gender biases in sentiment and occupation classification tasks, our method effectively reduces social biases without the need for demographic annotations. Moreover, our approach not only matches but often surpasses the efficacy of methods that require detailed demographic insights, marking a significant advancement in bias mitigation techniques.
• Abstract（参考訳）: 実世界のデータに基づいてトレーニングされたモデルは、しばしば既存の社会的バイアスを反映し、悪化させる。 これらの偏見を緩和する伝統的な方法は、通常、ジェンダーや人種的偏見、そして各事例に関連する社会集団といった、対処すべき特定の偏見に関する事前の知識を必要とする。 本稿では,従来のバイアス型知識と保護属性ラベルとは独立して機能する,新たな対人訓練戦略を提案する。 提案手法は,タスクラベルに頼らずにメインモデルの性能を予測することで同時に訓練される補助モデルを利用することで,モデルトレーニング中のバイアスを積極的に識別する。 さらに、本モデルの特徴マップの様々なレベルにおいて、これらの補助モデルを実装し、より広範かつニュアンスなバイアス特徴の検出を可能にする。 感情的・職業的分類タスクにおける人種的・性別的偏見に関する実験を通じて、人口統計学的アノテーションを必要とせずに、社会的偏見を効果的に低減する。 さらに,本手法は,必ずしも一致しないだけでなく,詳細な人口統計調査を必要とする手法の有効性を克服し,バイアス軽減技術の進歩を目立たせている。

関連論文リスト

• DCAST: Diverse Class-Aware Self-Training Mitigates Selection Bias for Fairer Learning [0.0]
  敏感な特徴に代表されないバイアスは 識別が困難で 診断されないのが普通です 未確認バイアスを緩和し、緩和方法を評価するための戦略は不可欠であるが、未調査のままである。 本稿では,クラス固有の偏見を意識したモデル非依存的緩和手法であるDiverse Class-Aware Self-Training (DCAST)を紹介した。
  論文  参考訳（メタデータ） (2024-09-30T09:26:19Z)
• Leveraging Prototypical Representations for Mitigating Social Bias without Demographic Information [50.29934517930506]
  DAFairは、言語モデルにおける社会的バイアスに対処する新しいアプローチである。 偏見を緩和するために、原型的人口統計テキストを活用し、微調整プロセス中に正規化用語を取り入れる。
  論文  参考訳（メタデータ） (2024-03-14T15:58:36Z)
• Improving Bias Mitigation through Bias Experts in Natural Language Understanding [10.363406065066538]
  補助モデルと主モデルの間に二項分類器を導入するデバイアス化フレームワークを提案する。 提案手法は補助モデルのバイアス識別能力を向上させる。
  論文  参考訳（メタデータ） (2023-12-06T16:15:00Z)
• Fast Model Debias with Machine Unlearning [54.32026474971696]
  ディープニューラルネットワークは多くの現実世界のシナリオでバイアスのある振る舞いをする。 既存のデバイアス法は、バイアスラベルやモデル再トレーニングのコストが高い。 バイアスを特定し,評価し,除去するための効率的なアプローチを提供する高速モデル脱バイアスフレームワーク(FMD)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T08:10:57Z)
• Language Models Get a Gender Makeover: Mitigating Gender Bias with Few-Shot Data Interventions [50.67412723291881]
  事前訓練された大きな言語モデルに存在する社会的バイアスが重要な問題である。 我々は,事前学習モデルにおける性別バイアスを低減するために,データ介入戦略を強力かつ簡単な手法として提案する。
  論文  参考訳（メタデータ） (2023-06-07T16:50:03Z)
• BLIND: Bias Removal With No Demographics [29.16221451643288]
  我々は、データセットの人口統計学の事前知識のないバイアス除去手法であるBLINDを紹介する。 下流タスクでモデルをトレーニングしている間、BLINDは、メインモデルの成功を予測する補助モデルを使用してバイアス付きサンプルを検出し、トレーニングプロセス中にこれらのサンプルをダウンウェイトする。 感情分類と職業分類タスクにおける人種的および性別的偏見による実験は、BLINDがコストのかかる人口統計学的アノテーションプロセスに頼ることなく社会的偏見を緩和することを示した。
  論文  参考訳（メタデータ） (2022-12-20T18:59:42Z)
• Optimising Equal Opportunity Fairness in Model Training [60.0947291284978]
  既存のデバイアス法、例えば、敵の訓練や、表現から保護された情報を取り除くことは、バイアスを減らすことが示されている。 2つの新たな学習目標を提案し,2つの分類課題における高い性能を維持しつつ,バイアスの低減に有効であることを示す。
  論文  参考訳（メタデータ） (2022-05-05T01:57:58Z)
• Statistical discrimination in learning agents [64.78141757063142]
  統計的差別は、訓練人口のバイアスとエージェントアーキテクチャの両方の関数としてエージェントポリシーに現れる。 我々は、リカレントニューラルネットワークを使用するエージェントによる差別の低減と、トレーニング環境のバイアスの低減が示される。
  論文  参考訳（メタデータ） (2021-10-21T18:28:57Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。