論文の概要: GroupMixNorm Layer for Learning Fair Models

• arxiv url: http://arxiv.org/abs/2312.11969v1
• Date: Tue, 19 Dec 2023 09:04:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-20 16:10:57.415534
• Title: GroupMixNorm Layer for Learning Fair Models
• Title（参考訳）: フェアモデル学習のためのGroupMixNormレイヤ
• Authors: Anubha Pandey, Aditi Rai, Maneet Singh, Deepak Bhatt, Tanmoy Bhowmik
• Abstract要約: 本研究では,ディープラーニングモデルからバイアスを緩和するための,内部処理に基づく新しいGroupMixNorm層を提案する。 提案手法は,全体の精度に最小限の影響を伴って,いくつかの公正度測定値を改善する。
• 参考スコア（独自算出の注目度）: 4.324785083027206
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent research has identified discriminatory behavior of automated prediction algorithms towards groups identified on specific protected attributes (e.g., gender, ethnicity, age group, etc.). When deployed in real-world scenarios, such techniques may demonstrate biased predictions resulting in unfair outcomes. Recent literature has witnessed algorithms for mitigating such biased behavior mostly by adding convex surrogates of fairness metrics such as demographic parity or equalized odds in the loss function, which are often not easy to estimate. This research proposes a novel in-processing based GroupMixNorm layer for mitigating bias from deep learning models. The GroupMixNorm layer probabilistically mixes group-level feature statistics of samples across different groups based on the protected attribute. The proposed method improves upon several fairness metrics with minimal impact on overall accuracy. Analysis on benchmark tabular and image datasets demonstrates the efficacy of the proposed method in achieving state-of-the-art performance. Further, the experimental analysis also suggests the robustness of the GroupMixNorm layer against new protected attributes during inference and its utility in eliminating bias from a pre-trained network.
• Abstract（参考訳）: 近年の研究では、特定の保護属性(性別、民族、年齢グループなど)で特定されたグループに対する自動予測アルゴリズムの識別行動が特定されている。 現実のシナリオに展開する場合、このようなテクニックはバイアスのある予測を示し、不公平な結果をもたらす可能性がある。 近年の文献では、偏りのある振る舞いを緩和するためのアルゴリズムとして、人口統計学のパリティや損失関数の等化確率などのフェアネス指標の凸状サロゲートを主に追加している。 本研究では,ディープラーニングモデルからバイアスを緩和するための,内部処理に基づく新しいGroupMixNorm層を提案する。 GroupMixNormレイヤは、保護された属性に基づいて異なるグループにわたるサンプルのグループレベルの特徴統計を確率的に混合する。 提案手法は, 全体精度への影響を最小限に抑えながら, 公平度指標の改善を図る。 ベンチマーク表と画像データセットの分析により,提案手法の有効性が示された。 さらに,実験結果から,新たな保護属性に対するgroupmixnorm層のロバスト性,および事前学習したネットワークからのバイアス除去の有用性が示唆された。

関連論文リスト

• A structured regression approach for evaluating model performance across intersectional subgroups [53.91682617836498]
  分散評価(disaggregated evaluation)は、AIフェアネスアセスメントにおける中心的なタスクであり、AIシステムのさまざまなサブグループ間でのパフォーマンスを測定することを目的としている。 非常に小さなサブグループであっても,信頼性の高いシステム性能推定値が得られることを示す。
  論文  参考訳（メタデータ） (2024-01-26T14:21:45Z)
• When Fairness Meets Privacy: Exploring Privacy Threats in Fair Binary Classifiers through Membership Inference Attacks [18.27174440444256]
  本研究では,公平度差分結果に基づく公平度向上モデルに対する効率的なMIA手法を提案する。 また、プライバシー漏洩を緩和するための潜在的戦略についても検討する。
  論文  参考訳（メタデータ） (2023-11-07T10:28:17Z)
• Tackling Diverse Minorities in Imbalanced Classification [80.78227787608714]
  不均衡データセットは、様々な現実世界のアプリケーションで一般的に見られ、分類器の訓練において重要な課題が提示されている。 マイノリティクラスとマイノリティクラスの両方のデータサンプルを混合することにより、反復的に合成サンプルを生成することを提案する。 提案するフレームワークの有効性を,7つの公開ベンチマークデータセットを用いて広範な実験により実証する。
  論文  参考訳（メタデータ） (2023-08-28T18:48:34Z)
• Affinity Clustering Framework for Data Debiasing Using Pairwise Distribution Discrepancy [10.184056098238765]
  グループ不均衡(グループ不均衡)は、データセットにおける表現バイアスの主要な原因である。 本稿では、アフィニティクラスタリングを利用して、ターゲットデータセットの非保護および保護されたグループの表現のバランスをとるデータ拡張手法であるMASCを提案する。
  論文  参考訳（メタデータ） (2023-06-02T17:18:20Z)
• Fairness in Visual Clustering: A Novel Transformer Clustering Approach [32.806921406869996]
  まず、クラスタの純度の観点から、ディープクラスタリングモデルにおける人口統計バイアスを評価する。 フェアネスの側面を維持するために、すべてのクラスタに対して純粋性一貫性を促進するために、新しい損失関数が導入された。 本稿では,複数クラスタ間の相関を計測する新しいアテンション機構であるクロスアテンションを提案する。
  論文  参考訳（メタデータ） (2023-04-14T21:59:32Z)
• fAux: Testing Individual Fairness via Gradient Alignment [2.5329739965085785]
  いずれの要件も持たない個別の公正性をテストするための新しいアプローチについて述べる。 提案手法は,合成データセットと実世界のデータセットの識別を効果的に行う。
  論文  参考訳（メタデータ） (2022-10-10T21:27:20Z)
• Fair mapping [0.0]
  本稿では,保護されたグループの分布を選択対象に変換した新しい前処理手法を提案する。 我々はWasserstein GANおよびAttGANフレームワークの最近の成果を活用し、最適なデータポイントの転送を実現する。 提案手法は、データの解釈可能性を維持し、センシティブなグループを正確に定義することなく使用することができる。
  論文  参考訳（メタデータ） (2022-09-01T17:31:27Z)
• Contrastive Learning for Fair Representations [50.95604482330149]
  訓練された分類モデルは、意図せずバイアスのある表現や予測につながる可能性がある。 対戦訓練のような既存の分類モデルのデバイアス化手法は、訓練に高価であり、最適化が困難であることが多い。 比較学習を取り入れたバイアス軽減手法を提案し、同じクラスラベルを共有するインスタンスに類似した表現を推奨する。
  論文  参考訳（メタデータ） (2021-09-22T10:47:51Z)
• Minimax Active Learning [61.729667575374606]
  アクティブラーニングは、人間のアノテーションによってラベル付けされる最も代表的なサンプルをクエリすることによって、ラベル効率の高いアルゴリズムを開発することを目指している。 現在のアクティブラーニング技術は、最も不確実なサンプルを選択するためにモデルの不確実性に頼るか、クラスタリングを使うか、最も多様なラベルのないサンプルを選択するために再構築する。 我々は,不確実性と多様性を両立させる半教師付きミニマックスエントロピーに基づく能動学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-12-18T19:03:40Z)
• LOGAN: Local Group Bias Detection by Clustering [86.38331353310114]
  コーパスレベルでバイアスを評価することは、モデルにバイアスがどのように埋め込まれているかを理解するのに十分ではない、と我々は主張する。 クラスタリングに基づく新しいバイアス検出手法であるLOGANを提案する。 毒性分類および対象分類タスクの実験は、LOGANが局所領域のバイアスを特定することを示している。
  論文  参考訳（メタデータ） (2020-10-06T16:42:51Z)
• An Investigation of Why Overparameterization Exacerbates Spurious Correlations [98.3066727301239]
  この動作を駆動するトレーニングデータの2つの重要な特性を特定します。 モデルの"記憶"に対する帰納的バイアスが,パラメータ化の超過を損なう可能性を示す。
  論文  参考訳（メタデータ） (2020-05-09T01:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。