論文の概要: Discover and Mitigate Unknown Biases with Debiasing Alternate Networks

• arxiv url: http://arxiv.org/abs/2207.10077v2
• Date: Wed, 7 Sep 2022 21:09:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-19 10:00:10.467776
• Title: Discover and Mitigate Unknown Biases with Debiasing Alternate Networks
• Title（参考訳）: 代替ネットワークのデバイアスによる未知バイアスの検出と軽減
• Authors: Zhiheng Li, Anthony Hoogs, Chenliang Xu
• Abstract要約: 本稿では,Debiasing Alternate Networks (DebiAN)を提案する。 DebiANは、発見者によって特定されるバイアスをアンラーニングすることを目的としている。 従来の研究では、偏りを1つのバイアスで評価するが、マルチカラーMNISTデータセットを作成し、複数のバイアスのベンチマーク緩和を改善する。
• 参考スコア（独自算出の注目度）: 42.89260385194433
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep image classifiers have been found to learn biases from datasets. To mitigate the biases, most previous methods require labels of protected attributes (e.g., age, skin tone) as full-supervision, which has two limitations: 1) it is infeasible when the labels are unavailable; 2) they are incapable of mitigating unknown biases -- biases that humans do not preconceive. To resolve those problems, we propose Debiasing Alternate Networks (DebiAN), which comprises two networks -- a Discoverer and a Classifier. By training in an alternate manner, the discoverer tries to find multiple unknown biases of the classifier without any annotations of biases, and the classifier aims at unlearning the biases identified by the discoverer. While previous works evaluate debiasing results in terms of a single bias, we create Multi-Color MNIST dataset to better benchmark mitigation of multiple biases in a multi-bias setting, which not only reveals the problems in previous methods but also demonstrates the advantage of DebiAN in identifying and mitigating multiple biases simultaneously. We further conduct extensive experiments on real-world datasets, showing that the discoverer in DebiAN can identify unknown biases that may be hard to be found by humans. Regarding debiasing, DebiAN achieves strong bias mitigation performance.
• Abstract（参考訳）: 深層画像分類器はデータセットからバイアスを学ぶことができる。 バイアスを軽減するために、ほとんどの従来の方法は保護された属性(例えば、年齢、肌のトーン)をフルスーパービジョンとしてラベルする必要がある。 1) ラベルが使用できない場合は,無効である。 2) 未知のバイアス -- 人間が想定しないバイアス -- を緩和することができない。これらの問題を解決するため,我々は,2つのネットワーク - 発見者と分類者 - からなるdebiasing alternative network (debian) を提案する。 交互に訓練することで、発見者は、偏りの注釈なしで、複数の未知の偏りを見つけようとし、分類器は、発見者によって識別された偏りをアンラーニングすることを目指している。 従来の研究は, 偏りを1つの偏りで評価する一方で, マルチカラーMNISTデータセットを作成し, マルチバイアス設定における複数の偏りのベンチマーク精度を改善するとともに, 複数偏りの同定と緩和にDebiANの利点を実証した。 さらに,実世界のデータセットに関する広範な実験を行い,debianの発見者が人間の発見が難しい未知のバイアスを識別できることを示した。 デバイアスに関しては、DebiANは強いバイアス緩和性能を達成する。

関連論文リスト

• Debiasify: Self-Distillation for Unsupervised Bias Mitigation [19.813054813868476]
  単純性バイアスはニューラルネットワークにおいて重要な課題となり、しばしばモデルがより単純な解を好んで、急激な相関による決定規則を不注意に学習する。 バイアスの性質に関する事前の知識を必要としない新しい自己蒸留アプローチであるDebiasifyを紹介します。 提案手法は, 複雑で高精度な特徴を含む深い層から, より単純な特性条件を持つ浅層へと, ネットワーク内の知識を伝達するために, 新たな蒸留損失を生かしている。
  論文  参考訳（メタデータ） (2024-11-01T16:25:05Z)
• Is There a One-Model-Fits-All Approach to Information Extraction? Revisiting Task Definition Biases [62.806300074459116]
  定義バイアスは、モデルを誤解させる可能性のある負の現象である。 IEでは、情報抽出データセット間のバイアスと、情報抽出データセットとインストラクションチューニングデータセット間のバイアスの2つの定義バイアスを識別する。 本稿では, 定義バイアス測定, バイアス対応微調整, タスク固有バイアス緩和からなる多段階フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-25T03:19:20Z)
• Medical Image Debiasing by Learning Adaptive Agreement from a Biased Council [8.530912655468645]
  ディープラーニングは、データセットバイアスによって得られたショートカットを学習する傾向があります。 その重要性にもかかわらず、データセットバイアスに対処する医療画像分類領域では、多くの研究が行われている。 本稿では,バイアスラベルに依存しないバイアス緩和フレームワークであるバイアスド・カウンシル(Ada-ABC)からの学習適応合意を提案する。
  論文  参考訳（メタデータ） (2024-01-22T06:29:52Z)
• Causality and Independence Enhancement for Biased Node Classification [56.38828085943763]
  各種グラフニューラルネットワーク(GNN)に適用可能な新しい因果性・独立性向上(CIE)フレームワークを提案する。 提案手法は,ノード表現レベルでの因果的特徴と突発的特徴を推定し,突発的相関の影響を緩和する。 我々のアプローチCIEは、GNNの性能を大幅に向上するだけでなく、最先端の debiased ノード分類法よりも優れています。
  論文  参考訳（メタデータ） (2023-10-14T13:56:24Z)
• SMoA: Sparse Mixture of Adapters to Mitigate Multiple Dataset Biases [27.56143777363971]
  本稿では,複数のデータセットのバイアスを効果的かつ効率的に緩和できる分散混合適応器(SMOA)を提案する。 自然言語推論およびパラフレーズ識別タスクの実験は、SMoAがフルファインタニング、アダプタチューニングベースライン、および以前の強いデバイアス法よりも優れていることを示した。
  論文  参考訳（メタデータ） (2023-02-28T08:47:20Z)
• Whole Page Unbiased Learning to Rank [59.52040055543542]
  アンバイアスド・ラーニング・トゥ・ランク(ULTR)アルゴリズムは、バイアスド・クリックデータを用いたアンバイアスド・ランキングモデルを学ぶために提案される。 本稿では,BALというアルゴリズムをランク付けするバイアス非依存学習を提案する。 実世界のデータセットによる実験結果から,BALの有効性が検証された。
  論文  参考訳（メタデータ） (2022-10-19T16:53:08Z)
• Unsupervised Learning of Unbiased Visual Representations [10.871587311621974]
  ディープニューラルネットワークは、データセットにバイアスが存在するときに堅牢な表現を学習できないことで知られている。 我々は3つのステップからなる完全に教師なしの脱バイアスフレームワークを提案する。 我々は、非バイアスモデルを得るために最先端の教師付き脱バイアス技術を採用している。
  論文  参考訳（メタデータ） (2022-04-26T10:51:50Z)
• Pseudo Bias-Balanced Learning for Debiased Chest X-ray Classification [57.53567756716656]
  本研究では, バイアスラベルを正確に把握せず, 脱バイアス胸部X線診断モデルの開発について検討した。 本稿では,まずサンプルごとのバイアスラベルをキャプチャし,予測する新しいアルゴリズム,擬似バイアスバランス学習を提案する。 提案手法は他の最先端手法よりも一貫した改善を実現した。
  論文  参考訳（メタデータ） (2022-03-18T11:02:18Z)
• Fighting Fire with Fire: Contrastive Debiasing without Bias-free Data via Generative Bias-transformation [31.944147533327058]
  生成バイアス変換(CDvG)によるコントラスト劣化 本稿では, バイアスラベルやバイアスのないサンプルを伴わないCDvG (Generative Bias-Transformation) によるコントラスト的デバイアス(Contrastive Debiasing) 手法を提案する。 本手法は, バイアスのないサンプルが不足あるいは欠落している場合に, 従来の手法に比べて優れた性能を示す。
  論文  参考訳（メタデータ） (2021-12-02T07:16:06Z)
• Learning from Failure: Training Debiased Classifier from Biased Classifier [76.52804102765931]
  ニューラルネットワークは、所望の知識よりも学習が簡単である場合にのみ、素早い相関に依存することを学習していることを示す。 本稿では,一対のニューラルネットワークを同時にトレーニングすることで,障害に基づくデバイアス化手法を提案する。 本手法は,合成データセットと実世界のデータセットの両方において,各種バイアスに対するネットワークのトレーニングを大幅に改善する。
  論文  参考訳（メタデータ） (2020-07-06T07:20:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。