Fugu-MT 論文翻訳(概要): FITNESS: A Causal De-correlation Approach for Mitigating Bias in Machine Learning Software

論文の概要: FITNESS: A Causal De-correlation Approach for Mitigating Bias in Machine Learning Software

arxiv url: http://arxiv.org/abs/2305.14396v1
Date: Tue, 23 May 2023 06:24:43 GMT
ステータス: 処理完了
システム内更新日: 2023-05-26 00:25:25.550940
Title: FITNESS: A Causal De-correlation Approach for Mitigating Bias in Machine Learning Software
Title（参考訳）: FITNESS: 機械学習ソフトウェアにおけるバイアスの緩和のための因果非相関アプローチ
Authors: Ying Xiao, Shangwen Wang, Sicen Liu, Dingyuan Xue, Xian Zhan, Yepang Liu
Abstract要約: バイアスデータセットは不公平で潜在的に有害な結果をもたらす可能性がある。本稿では,感性特徴とラベルの因果関係を関連づけたバイアス緩和手法を提案する。我々のキーとなる考え方は、因果関係の観点からそのような効果を非相関化することで、モデルが繊細な特徴に基づいて予測することを避けることである。
参考スコア（独自算出の注目度）: 6.4073906779537095
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Software built on top of machine learning algorithms is becoming increasingly prevalent in a variety of fields, including college admissions, healthcare, insurance, and justice. The effectiveness and efficiency of these systems heavily depend on the quality of the training datasets. Biased datasets can lead to unfair and potentially harmful outcomes, particularly in such critical decision-making systems where the allocation of resources may be affected. This can exacerbate discrimination against certain groups and cause significant social disruption. To mitigate such unfairness, a series of bias-mitigating methods are proposed. Generally, these studies improve the fairness of the trained models to a certain degree but with the expense of sacrificing the model performance. In this paper, we propose FITNESS, a bias mitigation approach via de-correlating the causal effects between sensitive features (e.g., the sex) and the label. Our key idea is that by de-correlating such effects from a causality perspective, the model would avoid making predictions based on sensitive features and thus fairness could be improved. Furthermore, FITNESS leverages multi-objective optimization to achieve a better performance-fairness trade-off. To evaluate the effectiveness, we compare FITNESS with 7 state-of-the-art methods in 8 benchmark tasks by multiple metrics. Results show that FITNESS can outperform the state-of-the-art methods on bias mitigation while preserve the model's performance: it improved the model's fairness under all the scenarios while decreased the model's performance under only 26.67% of the scenarios. Additionally, FITNESS surpasses the Fairea Baseline in 96.72% cases, outperforming all methods we compared.
Abstract（参考訳）: 機械学習アルゴリズム上に構築されたソフトウェアは、大学入学、医療、保険、正義など、さまざまな分野で広く普及している。これらのシステムの有効性と効率は、トレーニングデータセットの品質に大きく依存する。バイアスデータセットは不公平で潜在的に有害な結果をもたらす可能性がある。これは特定の集団に対する差別を悪化させ、社会的な混乱を引き起こす。このような不公平さを軽減するため、一連のバイアス緩和法が提案されている。一般に、これらの研究は、訓練されたモデルの公正性をある程度改善するが、モデル性能を犠牲にして改善する。本稿では,敏感な特徴(例えば,性別)とラベル間の因果効果を非相関化するバイアス緩和手法であるfitnessを提案する。我々の重要な考え方は、因果関係の観点からそのような効果を非相関化することで、モデルは繊細な特徴に基づく予測を回避し、公平性を改善することができるということです。さらに、FITNESSは多目的最適化を活用して、より優れたパフォーマンス・フェアネストレードオフを実現する。有効性を評価するため,FITNESSを8つのベンチマークタスクで7つの最先端手法と比較した。結果は、適合性がバイアス緩和の最先端の手法を上回り、モデルの性能を保ちながら、モデルの公平性を改善し、モデルのパフォーマンスを26.67%のシナリオで低下させることを示した。さらに、FITNESSは96.72%のケースでFaireaベースラインを上回り、比較したすべてのメソッドを上回ります。

関連論文リスト

Understanding trade-offs in classifier bias with quality-diversity optimization: an application to talent management [2.334978724544296]
公正なAIモデルを開発する上での大きな課題は、そのようなモデルをトレーニングする上で利用可能なデータのバイアスにある。本稿では,データセットに固有のバイアスを可視化し,公平性と正確性の間の潜在的なトレードオフを理解する方法を提案する。
論文参考訳（メタデータ） (2024-11-25T22:14:02Z)
Fair Bilevel Neural Network (FairBiNN): On Balancing fairness and accuracy via Stackelberg Equilibrium [0.3350491650545292]
バイアスを緩和する現在の方法は、情報損失と精度と公平性のバランスが不十分であることが多い。本稿では,二段階最適化の原理に基づく新しい手法を提案する。私たちのディープラーニングベースのアプローチは、正確性と公平性の両方を同時に最適化します。
論文参考訳（メタデータ） (2024-10-21T18:53:39Z)
Enhancing Training Data Attribution for Large Language Models with Fitting Error Consideration [74.09687562334682]
Debias and Denoise Attribution (DDA) と呼ばれる新しいトレーニングデータ属性法を導入する。提案手法は既存のアプローチよりも優れており,平均91.64%のAUCを実現している。 DDAは、様々なソースとLLaMA2、QWEN2、Mistralのような異なるスケールのモデルに対して、強力な汎用性とスケーラビリティを示す。
論文参考訳（メタデータ） (2024-10-02T07:14:26Z)
Towards Fairness-Aware Adversarial Learning [13.932705960012846]
フェアネス・アウェア・アドバーサリアル・ラーニング(FAAL)という新しい学習パラダイムを提案する。提案手法は,異なるカテゴリ間で最悪の分布を求めることを目的としており,高い確率で上界性能が得られることを保証している。特にFAALは、不公平なロバストモデルを2つのエポックで公平に調整できるが、全体的なクリーンで堅牢なアキュラシーを損なうことはない。
論文参考訳（メタデータ） (2024-02-27T18:01:59Z)
Fast Model Debias with Machine Unlearning [54.32026474971696]
ディープニューラルネットワークは多くの現実世界のシナリオでバイアスのある振る舞いをする。既存のデバイアス法は、バイアスラベルやモデル再トレーニングのコストが高い。バイアスを特定し,評価し,除去するための効率的なアプローチを提供する高速モデル脱バイアスフレームワーク(FMD)を提案する。
論文参考訳（メタデータ） (2023-10-19T08:10:57Z)
FairAdaBN: Mitigating unfairness with adaptive batch normalization and its application to dermatological disease classification [14.589159162086926]
バッチ正規化をセンシティブ属性に適応させるFairAdaBNを提案する。本研究では,FATE(Fairness-Accuracy Trade-off efficiency)と呼ばれる新しい指標を提案する。 2つの皮膚科学データセットを用いた実験により,提案手法はフェアネス基準とFATEの他の手法よりも優れていた。
論文参考訳（メタデータ） (2023-03-15T02:22:07Z)
Delving into Identify-Emphasize Paradigm for Combating Unknown Bias [52.76758938921129]
同定精度を高めるため,有効バイアス強調スコアリング法(ECS)を提案する。また, マイニングされたバイアスアライメントとバイアスコンプリケート試料のコントリビューションのバランスをとるために, 勾配アライメント(GA)を提案する。様々な環境で複数のデータセットで実験を行い、提案されたソリューションが未知のバイアスの影響を軽減することを実証した。
論文参考訳（メタデータ） (2023-02-22T14:50:24Z)
Stochastic Methods for AUC Optimization subject to AUC-based Fairness Constraints [51.12047280149546]
公正な予測モデルを得るための直接的なアプローチは、公正な制約の下で予測性能を最適化することでモデルを訓練することである。フェアネスを考慮した機械学習モデルのトレーニング問題を,AUCに基づくフェアネス制約のクラスを対象とする最適化問題として定式化する。フェアネス測定値の異なる実世界のデータに対するアプローチの有効性を実証する。
論文参考訳（メタデータ） (2022-12-23T22:29:08Z)
Striving for data-model efficiency: Identifying data externalities on group performance [75.17591306911015]
信頼できる、効果的で責任ある機械学習システムの構築は、トレーニングデータとモデリング決定の違いが、予測パフォーマンスにどのように影響するかを理解することに集中する。我々は、特定のタイプのデータモデル非効率性に注目し、一部のソースからトレーニングデータを追加することで、集団の重要なサブグループで評価されるパフォーマンスを実際に低下させることができる。以上の結果から,データ効率が正確かつ信頼性の高い機械学習の鍵となることが示唆された。
論文参考訳（メタデータ） (2022-11-11T16:48:27Z)
Simultaneous Improvement of ML Model Fairness and Performance by Identifying Bias in Data [1.76179873429447]
トレーニング前にデータセットから削除すべき特定の種類のバイアスを記述したインスタンスを検出できるデータ前処理手法を提案する。特に、類似した特徴を持つインスタンスが存在するが、保護属性の変動に起因するラベルが異なる問題設定では、固有のバイアスがデータセット内で引き起こされる、と主張する。
論文参考訳（メタデータ） (2022-10-24T13:04:07Z)
On Modality Bias Recognition and Reduction [70.69194431713825]
マルチモーダル分類の文脈におけるモダリティバイアス問題について検討する。本稿では,各ラベルの特徴空間を適応的に学習するプラグアンドプレイ損失関数法を提案する。本手法は, ベースラインに比べ, 顕著な性能向上を実現している。
論文参考訳（メタデータ） (2022-02-25T13:47:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。