論文の概要: Fighting Fire with Fire: Contrastive Debiasing without Bias-free Data
via Generative Bias-transformation
- arxiv url: http://arxiv.org/abs/2112.01021v1
- Date: Thu, 2 Dec 2021 07:16:06 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-03 16:55:57.462799
- Title: Fighting Fire with Fire: Contrastive Debiasing without Bias-free Data
via Generative Bias-transformation
- Title（参考訳）: 火災と闘う: 生成バイアス変換によるバイアスフリーデータなしの対比的デバイアス
- Authors: Yeonsung Jung, Hajin Shim, June Yong Yang, Eunho Yang
- Abstract要約: ディープニューラルネットワークは、実際のタスク関連情報を使わずに、データの急激なバイアスを悪用することを学ぶことが多い。
本稿では,より一般的な環境で動作可能なCDvG(Generative Bias-Transformation)によるコントラストデバイアスを提案する。
- 参考スコア（独自算出の注目度）: 25.649263369497113
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite their remarkable ability to generalize with over-capacity networks,
deep neural networks often learn to abuse spurious biases in the data instead
of using the actual task-related information. Since such shortcuts are only
effective within the collected dataset, the resulting biased model
underperforms on real-world inputs, or cause unintended social repercussions
such as gender discrimination. To counteract the influence of bias, existing
methods either exploit auxiliary information which is rarely obtainable in
practice, or sift for bias-free samples in the training data, hoping for the
sufficient existence of clean samples. However, such presumptions about the
data are not always guaranteed. In this paper, we propose Contrastive Debiasing
via Generative Bias-transformation~(CDvG) which is capable of operating in more
general environments where existing methods break down due to unmet
presumptions such as insufficient bias-free samples. Motivated by our
observation that not only discriminative models, as previously known, but also
generative models tend to focus on the bias when possible, CDvG uses a
translation model to transform the bias in the sample to another mode of bias
while preserving task-relevant information. Through contrastive learning, we
set transformed biased views against another, learning bias-invariant
representations. Experimental results on synthetic and real-world datasets
demonstrate that our framework outperforms the current state-of-the-arts, and
effectively prevents the models from being biased even when bias-free samples
are extremely scarce.
- Abstract（参考訳）: 能力過大なネットワークで一般化する能力は目覚ましいが、ディープニューラルネットワークは、実際のタスク関連の情報を使うのではなく、データ内の散在するバイアスを悪用することを学ぶことが多い。
このようなショートカットは収集されたデータセット内でのみ有効であるため、結果として生じるバイアス付きモデルは現実世界の入力を弱め、性別差別のような意図しない社会的影響を引き起こす。
バイアスの影響に対処するため、既存の手法では、実際にはほとんど入手できない補助的な情報を利用するか、トレーニングデータにバイアスのないサンプルを盗むか、クリーンサンプルの十分な存在を期待する。
しかし、データに関するそのような推定は必ずしも保証されない。
本稿では, バイアスのないサンプルの不足など, 既存の手法が不適切な推定値によって故障する環境において, より汎用的な操作が可能なコントラスト型バイアス変換(CDvG)を提案する。
これまでに知られていた識別モデルだけでなく、生成モデルも可能な限りバイアスに注目する傾向にあるという我々の観察に動機づけられたCDvGは、タスク関連情報を保存しながらサンプル内のバイアスを別のバイアスモードに変換するために翻訳モデルを使用している。
対照的な学習を通じて、バイアス付きビューを他のビューに変換し、バイアス不変表現を学習する。
合成および実世界のデータセットに対する実験結果から、我々のフレームワークは現在の最先端よりも優れており、バイアスのないサンプルが極めて少ない場合でも、モデルがバイアスを受けるのを効果的に防いでいることが示された。
関連論文リスト
- CosFairNet:A Parameter-Space based Approach for Bias Free Learning [1.9116784879310025]
バイアス付きデータに基づいてトレーニングされたディープニューラルネットワークは、意図しない推論ルールを不注意に学習することが多い。
本稿では,モデルのパラメータ空間内で直接バイアスに対処する新しい手法を提案する。
各種合成および実世界のデータセットにおいて,分類精度の向上と偏りの低減効果を示す。
論文 参考訳（メタデータ） (2024-10-19T13:06:40Z) - Bias-Conflict Sample Synthesis and Adversarial Removal Debias Strategy
for Temporal Sentence Grounding in Video [67.24316233946381]
TSGV(Temporal Sentence Grounding in Video)は、データセットバイアスの問題に悩まされている。
偏りを伴うサンプル合成と逆行性除去脱バイアス戦略(BSSARD)を提案する。
論文 参考訳（メタデータ） (2024-01-15T09:59:43Z) - Improving Bias Mitigation through Bias Experts in Natural Language
Understanding [10.363406065066538]
補助モデルと主モデルの間に二項分類器を導入するデバイアス化フレームワークを提案する。
提案手法は補助モデルのバイアス識別能力を向上させる。
論文 参考訳（メタデータ） (2023-12-06T16:15:00Z) - Causality and Independence Enhancement for Biased Node Classification [56.38828085943763]
各種グラフニューラルネットワーク(GNN)に適用可能な新しい因果性・独立性向上(CIE)フレームワークを提案する。
提案手法は,ノード表現レベルでの因果的特徴と突発的特徴を推定し,突発的相関の影響を緩和する。
我々のアプローチCIEは、GNNの性能を大幅に向上するだけでなく、最先端の debiased ノード分類法よりも優れています。
論文 参考訳（メタデータ） (2023-10-14T13:56:24Z) - Delving into Identify-Emphasize Paradigm for Combating Unknown Bias [52.76758938921129]
同定精度を高めるため,有効バイアス強調スコアリング法(ECS)を提案する。
また, マイニングされたバイアスアライメントとバイアスコンプリケート試料のコントリビューションのバランスをとるために, 勾配アライメント(GA)を提案する。
様々な環境で複数のデータセットで実験を行い、提案されたソリューションが未知のバイアスの影響を軽減することを実証した。
論文 参考訳（メタデータ） (2023-02-22T14:50:24Z) - Feature-Level Debiased Natural Language Understanding [86.8751772146264]
既存の自然言語理解(NLU)モデルは、特定のデータセットで高いパフォーマンスを達成するために、データセットバイアスに依存することが多い。
本稿では, バイアスの潜在特性を緩和し, バイアスの動的性質を無視するために, DCT(Debiasing contrastive learning)を提案する。
DCTは、ディストリビューション内のパフォーマンスを維持しながら、アウトオブディストリビューションデータセットの最先端のベースラインを上回ります。
論文 参考訳（メタデータ） (2022-12-11T06:16:14Z) - Unsupervised Learning of Unbiased Visual Representations [10.871587311621974]
ディープニューラルネットワークは、データセットにバイアスが存在するときに堅牢な表現を学習できないことで知られている。
我々は3つのステップからなる完全に教師なしの脱バイアスフレームワークを提案する。
我々は、非バイアスモデルを得るために最先端の教師付き脱バイアス技術を採用している。
論文 参考訳（メタデータ） (2022-04-26T10:51:50Z) - Information-Theoretic Bias Reduction via Causal View of Spurious
Correlation [71.9123886505321]
本稿では,スプリアス相関の因果的解釈による情報理論バイアス測定手法を提案する。
本稿では,バイアス正規化損失を含むアルゴリズムバイアスに対する新しいデバイアスフレームワークを提案する。
提案したバイアス測定とデバイアス法は、多様な現実シナリオで検証される。
論文 参考訳（メタデータ） (2022-01-10T01:19:31Z) - General Greedy De-bias Learning [163.65789778416172]
本稿では,関数空間における勾配降下のような偏りのあるモデルとベースモデルを優雅に訓練する一般グリーディ・デバイアス学習フレームワーク(GGD)を提案する。
GGDは、事前知識を持つタスク固有バイアスモデルと、事前知識を持たない自己アンサンブルバイアスモデルの両方の設定の下で、より堅牢なベースモデルを学ぶことができる。
論文 参考訳（メタデータ） (2021-12-20T14:47:32Z) - Learning Debiased Models with Dynamic Gradient Alignment and
Bias-conflicting Sample Mining [39.00256193731365]
ディープニューラルネットワークは、堅牢性、一般化、公正性をモデル化するのに有害なデータセットバイアスに悩まされている。
難解な未知のバイアスと戦うための2段階のデバイアス方式を提案する。
論文 参考訳（メタデータ） (2021-11-25T14:50:10Z) - BiaSwap: Removing dataset bias with bias-tailored swapping augmentation [20.149645246997668]
ディープニューラルネットワークは、データセット固有のスプリットな相関に基づいて決定することが多く、偏りのないデータ分布を一般化することができない。
本稿では,バイアスタイプの監督を必要とせず,非バイアス表現を学習するための,バイアス調整強化に基づく新しいアプローチBiaSwapを提案する。
論文 参考訳（メタデータ） (2021-08-23T08:35:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。