論文の概要: PropMix: Hard Sample Filtering and Proportional MixUp for Learning with
Noisy Labels
- arxiv url: http://arxiv.org/abs/2110.11809v1
- Date: Fri, 22 Oct 2021 14:27:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-25 18:46:37.899043
- Title: PropMix: Hard Sample Filtering and Proportional MixUp for Learning with
Noisy Labels
- Title(参考訳): PropMix: ノイズラベルによる学習のためのハードサンプルフィルタリングとプロポーショナルミックスアップ
- Authors: Filipe R. Cordeiro, Vasileios Belagiannis, Ian Reid, Gustavo Carneiro
- Abstract要約: 最も競争力のあるノイズラベル学習法は、クリーンサンプルとノイズサンプルの教師なし分類に依存している。
PropMixは、ノイズの多いサンプルをフィルタリングする。
PropMixは、CIFAR-10/-100(対称、非対称、セマンティックラベルノイズ付き)、Red Mini-ImageNet(制御ノイズWebラベルから)、Crothing1M、WebVisionの最先端(SOTA)結果を持っている。
- 参考スコア(独自算出の注目度): 36.461580348771435
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The most competitive noisy label learning methods rely on an unsupervised
classification of clean and noisy samples, where samples classified as noisy
are re-labelled and "MixMatched" with the clean samples. These methods have two
issues in large noise rate problems: 1) the noisy set is more likely to contain
hard samples that are in-correctly re-labelled, and 2) the number of samples
produced by MixMatch tends to be reduced because it is constrained by the small
clean set size. In this paper, we introduce the learning algorithm PropMix to
handle the issues above. PropMix filters out hard noisy samples, with the goal
of increasing the likelihood of correctly re-labelling the easy noisy samples.
Also, PropMix places clean and re-labelled easy noisy samples in a training set
that is augmented with MixUp, removing the clean set size constraint and
including a large proportion of correctly re-labelled easy noisy samples. We
also include self-supervised pre-training to improve robustness to high noisy
label scenarios. Our experiments show that PropMix has state-of-the-art (SOTA)
results on CIFAR-10/-100(with symmetric, asymmetric and semantic label noise),
Red Mini-ImageNet (from the Controlled Noisy Web Labels), Clothing1M and
WebVision. In severe label noise bench-marks, our results are substantially
better than other methods. The code is available
athttps://github.com/filipe-research/PropMix.
- Abstract(参考訳): 最も競争力のあるノイズラベル学習法は、クリーンサンプルとノイズサンプルの教師なし分類に依存しており、ノイズと分類されたサンプルは、クリーンサンプルで"MixMatched"と再ラベルされる。
これらの方法には大きなノイズレート問題に2つの問題がある。
1)ノイズ集合は、不正に再ラベルされた硬いサンプルを多く含む傾向があり、
2)mixmatchが生成するサンプルの数は小さくクリーンなセットサイズによって制限されるため少なくなる傾向がある。
本稿では,上記の問題に対処するための学習アルゴリズムpropmixを提案する。
propmixは難しいノイズのサンプルをフィルタし、簡単なノイズのサンプルを正しく再ラベルする可能性を高めることを目標としている。
また、RipMixは、MixUpで強化されたトレーニングセットに、クリーンで再レイアウトされた簡単なノイズサンプルを配置し、クリーンなセットサイズ制約を取り除き、正しくレイアウトされた簡単なノイズサンプルを多数含む。
また,ノイズの多いラベルシナリオに対するロバスト性を改善するために,自己教師付き事前トレーニングも含む。
実験の結果,CIFAR-10/-100(対称,非対称,セマンティックラベルノイズを含む),Red Mini-ImageNet(制御ノイズWebラベルから),Chrothing1M,WebVisionに対して,PropMixの最先端(SOTA)結果が得られた。
重度なラベルノイズベンチマークでは,他の手法よりも結果がかなり良好である。
コードはhttps://github.com/filipe-research/propmixで入手できる。
関連論文リスト
- Extracting Clean and Balanced Subset for Noisy Long-tailed Classification [66.47809135771698]
そこで我々は,分布マッチングの観点から,クラスプロトタイプを用いた新しい擬似ラベリング手法を開発した。
手動で特定の確率尺度を設定することで、ノイズと長い尾を持つデータの副作用を同時に減らすことができる。
本手法は, クリーンなラベル付きクラスバランスサブセットを抽出し, ラベルノイズ付きロングテール分類において, 効果的な性能向上を実現する。
論文 参考訳(メタデータ) (2024-04-10T07:34:37Z) - Class Prototype-based Cleaner for Label Noise Learning [73.007001454085]
半教師付き学習法は、雑音ラベル学習問題に対する現在のSOTAソリューションである。
textbfClass textbfPrototype-based label textbfCleaner。
論文 参考訳(メタデータ) (2022-12-21T04:56:41Z) - Neighborhood Collective Estimation for Noisy Label Identification and
Correction [92.20697827784426]
ノイズラベルを用いた学習(LNL)は,ノイズラベルに対するモデルオーバーフィットの効果を軽減し,モデル性能と一般化を改善するための戦略を設計することを目的としている。
近年の進歩は、個々のサンプルのラベル分布を予測し、ノイズ検証とノイズラベル補正を行い、容易に確認バイアスを生じさせる。
提案手法では, 候補サンプルの予測信頼性を, 特徴空間近傍と対比することにより再推定する。
論文 参考訳(メタデータ) (2022-08-05T14:47:22Z) - ProMix: Combating Label Noise via Maximizing Clean Sample Utility [18.305972075220765]
ProMixは、パフォーマンス向上のためのクリーンサンプルの有用性を最大化するフレームワークである。
CIFAR-Nデータセットの平均2.48%の改善を実現している。
論文 参考訳(メタデータ) (2022-07-21T03:01:04Z) - Sample Prior Guided Robust Model Learning to Suppress Noisy Labels [8.119439844514973]
本稿では,サンプルの事前知識を発生させることで雑音を抑えるための深層モデルの学習を行う新しいフレームワークPGDFを提案する。
我々のフレームワークは、より有益なハードクリーンなサンプルをクリーンにラベル付けされたセットに保存することができる。
我々は,CIFAR-10とCIFAR-100に基づく合成データセットと,WebVisionとChrothing1Mを用いた実世界のデータセットを用いて評価を行った。
論文 参考訳(メタデータ) (2021-12-02T13:09:12Z) - An Ensemble Noise-Robust K-fold Cross-Validation Selection Method for
Noisy Labels [0.9699640804685629]
大規模なデータセットには、ディープニューラルネットワーク(DNN)によって記憶されるような、ラベルのずれたサンプルが含まれている傾向があります。
本稿では, ノイズデータからクリーンなサンプルを効果的に選択するために, アンサンブルノイズ・ロバスト K-fold Cross-Validation Selection (E-NKCVS) を提案する。
我々は,ラベルが手動で異なる雑音比で破損した様々な画像・テキスト分類タスクに対するアプローチを評価する。
論文 参考訳(メタデータ) (2021-07-06T02:14:52Z) - LongReMix: Robust Learning with High Confidence Samples in a Noisy Label
Environment [33.376639002442914]
新しい2段ノイズラベルトレーニングアルゴリズムLongReMixを提案します。
CIFAR-10, CIFAR-100, WebVision, Clothing1M, Food101-NでLongReMixを試験した。
私たちのアプローチは、ほとんどのデータセットで最先端のパフォーマンスを実現します。
論文 参考訳(メタデータ) (2021-03-06T18:48:40Z) - EvidentialMix: Learning with Combined Open-set and Closed-set Noisy
Labels [30.268962418683955]
開集合ラベルと閉集合ラベルを組み合わせた雑音ラベル問題の新しい変種について検討する。
その結果,従来の最先端手法よりも優れた分類結果と特徴表現が得られた。
論文 参考訳(メタデータ) (2020-11-11T11:15:32Z) - Suppressing Mislabeled Data via Grouping and Self-Attention [60.14212694011875]
ディープネットワークは大規模クリーンなデータに対して優れた結果を得るが、ノイズのあるラベルから学習すると著しく劣化する。
本稿では,概念的にシンプルだが効率的な学習ブロックを提案し,これをAFM(Attentive Feature Mixup)と呼ぶ。
クリーンなサンプルにもっと注意を払うことができ、小さなグループでのサンプルインタラクションを通じて、ラベルを間違えることが少なくなります。
論文 参考訳(メタデータ) (2020-10-29T13:54:16Z) - DivideMix: Learning with Noisy Labels as Semi-supervised Learning [111.03364864022261]
ノイズラベルを学習するためのフレームワークであるDivideMixを提案する。
複数のベンチマークデータセットの実験は、最先端の手法よりも大幅に改善されている。
論文 参考訳(メタデータ) (2020-02-18T06:20:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。