論文の概要: Learning with Imbalanced Noisy Data by Preventing Bias in Sample Selection

• arxiv url: http://arxiv.org/abs/2402.11242v1
• Date: Sat, 17 Feb 2024 10:34:53 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-20 22:23:59.971155
• Title: Learning with Imbalanced Noisy Data by Preventing Bias in Sample Selection
• Title（参考訳）: サンプル選択におけるバイアス回避による不均衡雑音データによる学習
• Authors: Huafeng Liu, Mengmeng Sheng, Zeren Sun, Yazhou Yao, Xian-Sheng Hua, and Heng-Tao Shen
• Abstract要約: 実世界のデータセットには、ノイズの多いラベルだけでなく、クラス不均衡も含まれている。 不均衡なデータセットにおけるノイズラベルに対処する,単純かつ効果的な手法を提案する。
• 参考スコア（独自算出の注目度）: 82.43311784594384
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learning with noisy labels has gained increasing attention because the inevitable imperfect labels in real-world scenarios can substantially hurt the deep model performance. Recent studies tend to regard low-loss samples as clean ones and discard high-loss ones to alleviate the negative impact of noisy labels. However, real-world datasets contain not only noisy labels but also class imbalance. The imbalance issue is prone to causing failure in the loss-based sample selection since the under-learning of tail classes also leans to produce high losses. To this end, we propose a simple yet effective method to address noisy labels in imbalanced datasets. Specifically, we propose Class-Balance-based sample Selection (CBS) to prevent the tail class samples from being neglected during training. We propose Confidence-based Sample Augmentation (CSA) for the chosen clean samples to enhance their reliability in the training process. To exploit selected noisy samples, we resort to prediction history to rectify labels of noisy samples. Moreover, we introduce the Average Confidence Margin (ACM) metric to measure the quality of corrected labels by leveraging the model's evolving training dynamics, thereby ensuring that low-quality corrected noisy samples are appropriately masked out. Lastly, consistency regularization is imposed on filtered label-corrected noisy samples to boost model performance. Comprehensive experimental results on synthetic and real-world datasets demonstrate the effectiveness and superiority of our proposed method, especially in imbalanced scenarios. Comprehensive experimental results on synthetic and real-world datasets demonstrate the effectiveness and superiority of our proposed method, especially in imbalanced scenarios.
• Abstract（参考訳）: 現実のシナリオにおける避けられない不完全なラベルは、深いモデルパフォーマンスを著しく損なう可能性があるため、ノイズの多いラベルによる学習が注目を集めている。 近年の研究では、低損失サンプルをクリーンなものとみなし、ノイズラベルの負の影響を軽減するために高損失サンプルを廃棄する傾向にある。 しかし、実際のデータセットはノイズラベルだけでなくクラス不均衡も含んでいる。 テールクラスのアンダーラーニングも高い損失を生み出すために傾いているため、アンバランス問題はロスベースサンプル選択の失敗を引き起こす可能性がある。 そこで本研究では,不均衡なデータセットにおけるノイズラベルに対処する,シンプルで効果的な手法を提案する。 具体的には,クラスBalance-based sample Selection (CBS) を提案し,トレーニング中にテールクラスサンプルが無視されるのを防ぐ。 本稿では,クリーンサンプルの信頼性を高めるために,信頼性に基づくサンプル拡張(CSA)を提案する。 選択されたノイズサンプルを利用するには,予測履歴を用いてノイズサンプルのラベルを補正する。 さらに,モデルの進化するトレーニングダイナミクスを活かし,補正ラベルの品質を測定するための平均信頼率(acm)指標を導入し,低品質の補正ノイズサンプルを適切にマスクアウトできるようにする。 最後に、モデル性能を高めるために、フィルタラベル補正ノイズサンプルに整合正則化を課す。 合成および実世界のデータセットに関する総合的な実験結果から,提案手法の有効性と優位性,特に不均衡なシナリオにおいて検証した。 合成および実世界のデータセットに関する総合的な実験結果から,提案手法の有効性と優位性,特に不均衡なシナリオにおいて検証した。

関連論文リスト

• Foster Adaptivity and Balance in Learning with Noisy Labels [26.309508654960354]
  我々はtextbfSelf-adaptivtextbfE とクラスバランスtextbfD 方式でラベルノイズに対処するための textbfSED という新しい手法を提案する。 平均教師モデルは、ノイズの多いサンプルのラベルを修正するために使用される。 また,検出した雑音に異なる重みを割り当てる自己適応型およびクラスバランスのサンプル再重み付け機構を提案する。
  論文  参考訳（メタデータ） (2024-07-03T03:10:24Z)
• Extracting Clean and Balanced Subset for Noisy Long-tailed Classification [66.47809135771698]
  そこで我々は,分布マッチングの観点から,クラスプロトタイプを用いた新しい擬似ラベリング手法を開発した。 手動で特定の確率尺度を設定することで、ノイズと長い尾を持つデータの副作用を同時に減らすことができる。 本手法は, クリーンなラベル付きクラスバランスサブセットを抽出し, ラベルノイズ付きロングテール分類において, 効果的な性能向上を実現する。
  論文  参考訳（メタデータ） (2024-04-10T07:34:37Z)
• Combating Label Noise With A General Surrogate Model For Sample Selection [84.61367781175984]
  本稿では,視覚言語サロゲートモデルCLIPを用いて,雑音の多いサンプルを自動的にフィルタリングする手法を提案する。 提案手法の有効性を実世界および合成ノイズデータセットで検証した。
  論文  参考訳（メタデータ） (2023-10-16T14:43:27Z)
• Late Stopping: Avoiding Confidently Learning from Mislabeled Examples [61.00103151680946]
  そこで本研究では,DNNの長期学習プロセスを通じて,本質的な頑健な学習能力を生かした新しいフレームワークであるLatlas Stoppingを提案する。 誤ラベルとクリーンな例は、それらが一貫して正しく分類されるために必要なエポックの数に相違があることを実証的に観察する。 ベンチマークシミュレーションと実世界のノイズデータセットによる実験結果から,提案手法は最先端の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-08-26T12:43:25Z)
• SoftMatch: Addressing the Quantity-Quality Trade-off in Semi-supervised Learning [101.86916775218403]
  本稿では, サンプル重み付けを統一した定式化により, 一般的な擬似ラベル法を再検討する。 トレーニング中の擬似ラベルの量と質を両立させることでトレードオフを克服するSoftMatchを提案する。 実験では、画像、テキスト、不均衡な分類など、さまざまなベンチマークで大幅に改善されている。
  論文  参考訳（メタデータ） (2023-01-26T03:53:25Z)
• Improving group robustness under noisy labels using predictive uncertainty [0.9449650062296823]
  ノイズラベル下での最悪のグループ精度を改善するために,モデルの予測不確実性を利用する。 本稿では,モデルがノイズラベルに頑健でありながら,刺激的な手がかりを学習するのを防ぐ,新しいEntropy based Debiasing(END)フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-14T04:40:50Z)
• Learning with Noisy Labels over Imbalanced Subpopulations [13.477553187049462]
  ノイズラベル(LNL)による学習は,研究コミュニティから大きな注目を集めている。 ノイズラベルと不均衡なサブポピュレーションを同時に扱う新しいLNL法を提案する。 試料のクリーンな確率を推定するために, 試料相関を考慮に入れた特徴量測定手法を提案する。
  論文  参考訳（メタデータ） (2022-11-16T07:25:24Z)
• Learning from Noisy Labels with Coarse-to-Fine Sample Credibility Modeling [22.62790706276081]
  ノイズの多いラベルでディープニューラルネットワーク(DNN)を訓練することは事実上難しい。 従来の取り組みでは、統合されたデノナイジングフローで部分データや完全なデータを扱う傾向があります。 本研究では,ノイズの多いデータを分割・分散的に処理するために,CREMAと呼ばれる粗大な頑健な学習手法を提案する。
  論文  参考訳（メタデータ） (2022-08-23T02:06:38Z)
• Neighborhood Collective Estimation for Noisy Label Identification and Correction [92.20697827784426]
  ノイズラベルを用いた学習(LNL)は,ノイズラベルに対するモデルオーバーフィットの効果を軽減し,モデル性能と一般化を改善するための戦略を設計することを目的としている。 近年の進歩は、個々のサンプルのラベル分布を予測し、ノイズ検証とノイズラベル補正を行い、容易に確認バイアスを生じさせる。 提案手法では, 候補サンプルの予測信頼性を, 特徴空間近傍と対比することにより再推定する。
  論文  参考訳（メタデータ） (2022-08-05T14:47:22Z)
• Uncertainty-Aware Learning Against Label Noise on Imbalanced Datasets [23.4536532321199]
  不整合データセットのラベルノイズを処理するための不確かさを意識したラベル補正フレームワークを提案する。 本研究では,不均衡なデータセットのラベルノイズを処理するために,不確かさを意識したラベル補正フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-12T11:35:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。