論文の概要: Fairness Improves Learning from Noisily Labeled Long-Tailed Data

• arxiv url: http://arxiv.org/abs/2303.12291v1
• Date: Wed, 22 Mar 2023 03:46:51 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-23 15:29:42.017298
• Title: Fairness Improves Learning from Noisily Labeled Long-Tailed Data
• Title（参考訳）: fairnessは、ラベル付きロングテールデータから学習を改善する
• Authors: Jiaheng Wei, Zhaowei Zhu, Gang Niu, Tongliang Liu, Sijia Liu, Masashi Sugiyama, and Yang Liu
• Abstract要約: 長い尾とノイズの多いラベル付きデータは、現実世界のアプリケーションに頻繁に現れ、学習に重大な課題を課す。 2つのサブポピュレーション間のパフォーマンスギャップを正規化することから着想を得たFairness Regularizer(FR)を導入する。 導入したフェアネス正則化器は,尾部のサブポピュレーションと全体的な学習性能を向上することを示す。
• 参考スコア（独自算出の注目度）: 119.0612617460727
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Both long-tailed and noisily labeled data frequently appear in real-world applications and impose significant challenges for learning. Most prior works treat either problem in an isolated way and do not explicitly consider the coupling effects of the two. Our empirical observation reveals that such solutions fail to consistently improve the learning when the dataset is long-tailed with label noise. Moreover, with the presence of label noise, existing methods do not observe universal improvements across different sub-populations; in other words, some sub-populations enjoyed the benefits of improved accuracy at the cost of hurting others. Based on these observations, we introduce the Fairness Regularizer (FR), inspired by regularizing the performance gap between any two sub-populations. We show that the introduced fairness regularizer improves the performances of sub-populations on the tail and the overall learning performance. Extensive experiments demonstrate the effectiveness of the proposed solution when complemented with certain existing popular robust or class-balanced methods.
• Abstract（参考訳）: 長い尾とノイズの多いラベル付きデータは、現実世界のアプリケーションに頻繁に現れ、学習に重大な課題を課す。 ほとんどの先行研究は、どちらの問題も孤立した方法で扱い、両者のカップリング効果を明示的に考慮していない。 我々の経験的観察により、データセットにラベルノイズが長い場合、そのようなソリューションは学習を継続的に改善しないことが明らかになった。 さらに、ラベルノイズの存在下では、既存の手法では、異なるサブ人口間での普遍的な改善は見られず、言い換えれば、一部のサブ人口は、他人を傷つけるコストで精度を向上する利点を享受している。 これらの観測に基づいて,2つのサブ集団間のパフォーマンスギャップを正規化することから着想を得たFairness Regularizer(FR)を導入する。 導入したフェアネス正則化器は,尾部のサブポピュレーションと全体的な学習性能を向上することを示す。 大規模実験により,既存のロバストあるいはクラスバランス手法を補完する場合に提案手法の有効性が実証された。

関連論文リスト

• Gradient Reweighting: Towards Imbalanced Class-Incremental Learning [8.438092346233054]
  CIL(Class-Incremental Learning)は、非定常データから新しいクラスを継続的に認識するためにモデルを訓練する。 CILの大きな課題は、非一様分布を特徴とする実世界のデータに適用する場合である。 この二重不均衡問題により、FC層に偏りのある勾配更新が生じ、CILの過度/過度な適合と破滅的な忘れが引き起こされる。
  論文  参考訳（メタデータ） (2024-02-28T18:08:03Z)
• Adaptive End-to-End Metric Learning for Zero-Shot Cross-Domain Slot Filling [2.6056468338837457]
  スロットフィリングは、トレーニング中にサンプルを見ることのない新しいドメインを扱う上で重要な課題である。 ほとんどの先行研究は、メートル法学習に基づく2パスパイプライン方式でこの問題に対処している。 そこで本研究では,ゼロショットスロットの補充に挑戦する手法として,適応的なエンドツーエンドの計量学習手法を提案する。
  論文  参考訳（メタデータ） (2023-10-23T19:01:16Z)
• Beyond Myopia: Learning from Positive and Unlabeled Data through Holistic Predictive Trends [26.79150786180822]
  我々は、PULで興味深いが、長い間見過ごされてきた観察を公表する。 ポジティブクラスとネガティブクラスの予測傾向は、明らかに異なるパターンを示す。 本稿では,TPPにインスパイアされた新しいトレンド検出尺度を提案し,変化予測における不偏性を証明する。
  論文  参考訳（メタデータ） (2023-10-06T08:06:15Z)
• Late Stopping: Avoiding Confidently Learning from Mislabeled Examples [61.00103151680946]
  そこで本研究では,DNNの長期学習プロセスを通じて,本質的な頑健な学習能力を生かした新しいフレームワークであるLatlas Stoppingを提案する。 誤ラベルとクリーンな例は、それらが一貫して正しく分類されるために必要なエポックの数に相違があることを実証的に観察する。 ベンチマークシミュレーションと実世界のノイズデータセットによる実験結果から,提案手法は最先端の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-08-26T12:43:25Z)
• Co-Learning Meets Stitch-Up for Noisy Multi-label Visual Recognition [70.00984078351927]
  本稿では,多ラベル分類と長期学習の特徴に基づく雑音の低減に焦点をあてる。 よりクリーンなサンプルを合成し,マルチラベルノイズを直接低減するStitch-Up拡張を提案する。 ヘテロジニアス・コラーニング・フレームワークは、長い尾の分布とバランスの取れた分布の不整合を活用するためにさらに設計されている。
  論文  参考訳（メタデータ） (2023-07-03T09:20:28Z)
• Scaling Up Semi-supervised Learning with Unconstrained Unlabelled Data [27.75143621836449]
  制約のないデータから効果的な表現を学習できる半教師付き学習フレームワークUnMixMatchを提案する。 4つの一般的なデータセットに対して広範な実験を行い、4.79%の性能向上を伴う既存の半教師付き手法よりも優れた性能を示した。
  論文  参考訳（メタデータ） (2023-06-02T01:07:14Z)
• On Modality Bias Recognition and Reduction [70.69194431713825]
  マルチモーダル分類の文脈におけるモダリティバイアス問題について検討する。 本稿では,各ラベルの特徴空間を適応的に学習するプラグアンドプレイ損失関数法を提案する。 本手法は, ベースラインに比べ, 顕著な性能向上を実現している。
  論文  参考訳（メタデータ） (2022-02-25T13:47:09Z)
• Semi-supervised Long-tailed Recognition using Alternate Sampling [95.93760490301395]
  ロングテール認識の主な課題は、データ分布の不均衡とテールクラスにおけるサンプル不足である。 半教師付き長尾認識という新しい認識設定を提案する。 2つのデータセットで、他の競合方法よりも大幅な精度向上を実証します。
  論文  参考訳（メタデータ） (2021-05-01T00:43:38Z)
• Can Active Learning Preemptively Mitigate Fairness Issues? [66.84854430781097]
  データセットバイアスは、機械学習における不公平な原因の1つです。 不確実性に基づくALで訓練されたモデルが保護クラスの決定において公平であるかどうかを検討する。 また,勾配反転(GRAD)やBALDなどのアルゴリズム的公正性手法の相互作用についても検討する。
  論文  参考訳（メタデータ） (2021-04-14T14:20:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。