論文の概要: Robust Long-Tailed Learning under Label Noise

• arxiv url: http://arxiv.org/abs/2108.11569v1
• Date: Thu, 26 Aug 2021 03:45:00 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-27 23:42:46.619676
• Title: Robust Long-Tailed Learning under Label Noise
• Title（参考訳）: ラベル雑音下での頑健な長期学習
• Authors: Tong Wei and Jiang-Xin Shi and Wei-Wei Tu and Yu-Feng Li
• Abstract要約: 本研究では,長期ラベル分布におけるラベルノイズ問題について検討する。 本稿では,長期学習のための雑音検出を実現する頑健なフレームワークAlgoを提案する。 我々のフレームワークは、半教師付き学習アルゴリズムを自然に活用して一般化をさらに改善することができる。
• 参考スコア（独自算出の注目度）: 50.00837134041317
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Long-tailed learning has attracted much attention recently, with the goal of improving generalisation for tail classes. Most existing works use supervised learning without considering the prevailing noise in the training dataset. To move long-tailed learning towards more realistic scenarios, this work investigates the label noise problem under long-tailed label distribution. We first observe the negative impact of noisy labels on the performance of existing methods, revealing the intrinsic challenges of this problem. As the most commonly used approach to cope with noisy labels in previous literature, we then find that the small-loss trick fails under long-tailed label distribution. The reason is that deep neural networks cannot distinguish correctly-labeled and mislabeled examples on tail classes. To overcome this limitation, we establish a new prototypical noise detection method by designing a distance-based metric that is resistant to label noise. Based on the above findings, we propose a robust framework,~\algo, that realizes noise detection for long-tailed learning, followed by soft pseudo-labeling via both label smoothing and diverse label guessing. Moreover, our framework can naturally leverage semi-supervised learning algorithms to further improve the generalisation. Extensive experiments on benchmark and real-world datasets demonstrate the superiority of our methods over existing baselines. In particular, our method outperforms DivideMix by 3\% in test accuracy. Source code will be released soon.
• Abstract（参考訳）: ロングテール学習は、テールクラスの一般化を改善することを目的として、近年多くの注目を集めている。 既存の作品の多くは、トレーニングデータセットの一般的なノイズを考慮せずに教師付き学習を使用する。 ロングテール学習をより現実的なシナリオへ移行するために,ロングテールラベル分布下でのラベルノイズ問題を考察する。 まず,既存の手法の性能に対するノイズラベルの悪影響を観察し,この問題の本質的な課題を明らかにする。 従来の文献におけるノイズの多いラベルに対処する最も一般的な手法として、小さめのトリックは長い尾のラベル分布で失敗する。 その理由は、深層ニューラルネットワークが尾のクラスで正しくラベル付けされたりラベル付けされたりした例を区別できないからである。 この制限を克服するために,ラベルノイズに耐性のある距離ベース距離メトリックを設計することで,新しいプロトタイプノイズ検出手法を確立する。 以上の知見に基づいて,長期学習のためのノイズ検出を実現する頑健なフレームワーク~\algoを提案し,その後ラベルの平滑化と多彩なラベル推定によるソフトな擬似ラベル処理を行った。 さらに,半教師付き学習アルゴリズムを自然に活用し,一般化をさらに改善することができる。 ベンチマークや実世界のデータセットに関する広範な実験は、既存のベースラインよりも優れた方法を示している。 特に本手法は,テスト精度でdisditionmixを3\%上回っている。 ソースコードはまもなくリリースされる。

関連論文リスト

• Learning from Noisy Labels for Long-tailed Data via Optimal Transport [2.8821062918162146]
  本稿では,長周期分布と雑音ラベルの両方を特徴とするデータ管理手法を提案する。 そこで我々は,半教師付き学習方式で擬似ラベルを生成するために,最適な輸送戦略を採用した。
  論文  参考訳（メタデータ） (2024-08-07T14:15:18Z)
• Extracting Clean and Balanced Subset for Noisy Long-tailed Classification [66.47809135771698]
  そこで我々は,分布マッチングの観点から,クラスプロトタイプを用いた新しい擬似ラベリング手法を開発した。 手動で特定の確率尺度を設定することで、ノイズと長い尾を持つデータの副作用を同時に減らすことができる。 本手法は, クリーンなラベル付きクラスバランスサブセットを抽出し, ラベルノイズ付きロングテール分類において, 効果的な性能向上を実現する。
  論文  参考訳（メタデータ） (2024-04-10T07:34:37Z)
• ERASE: Error-Resilient Representation Learning on Graphs for Label Noise Tolerance [53.73316938815873]
  本稿では, ERASE (Error-Resilient representation learning on graphs for lAbel noiSe tolerancE) という手法を提案する。 ERASEは、プロトタイプの擬似ラベルとプロパゲーションされた識別ラベルを組み合わせて、表現をエラーレジリエンスで更新する。 提案手法は, 広い雑音レベルにおいて, 複数のベースラインをクリアマージンで上回り, 高いスケーラビリティを享受できる。
  論文  参考訳（メタデータ） (2023-12-13T17:59:07Z)
• Co-Learning Meets Stitch-Up for Noisy Multi-label Visual Recognition [70.00984078351927]
  本稿では,多ラベル分類と長期学習の特徴に基づく雑音の低減に焦点をあてる。 よりクリーンなサンプルを合成し,マルチラベルノイズを直接低減するStitch-Up拡張を提案する。 ヘテロジニアス・コラーニング・フレームワークは、長い尾の分布とバランスの取れた分布の不整合を活用するためにさらに設計されている。
  論文  参考訳（メタデータ） (2023-07-03T09:20:28Z)
• Label-Noise Learning with Intrinsically Long-Tailed Data [65.41318436799993]
  本稿では,本質的な長期データを用いたラベルノイズ学習のための学習フレームワークを提案する。 具体的には, 2段階の2次元試料選択法(TABASCO)を提案する。
  論文  参考訳（メタデータ） (2022-08-21T07:47:05Z)
• Towards Harnessing Feature Embedding for Robust Learning with Noisy Labels [44.133307197696446]
  ディープニューラルネットワーク(DNN)の記憶効果は,近年のラベルノイズ学習法において重要な役割を担っている。 ラベルノイズを用いたディープラーニングのための新しい特徴埋め込み方式, LabEl Noise Dilution (LEND) を提案する。
  論文  参考訳（メタデータ） (2022-06-27T02:45:09Z)
• Learning to Aggregate and Refine Noisy Labels for Visual Sentiment Analysis [69.48582264712854]
  本研究では,頑健な視覚的感情分析を行うための頑健な学習手法を提案する。 本手法は,トレーニング中にノイズラベルを集約・フィルタリングするために外部メモリに依存している。 公開データセットを用いたラベルノイズを用いた視覚的感情分析のベンチマークを構築した。
  論文  参考訳（メタデータ） (2021-09-15T18:18:28Z)
• Label Noise Types and Their Effects on Deep Learning [0.0]
  本研究では,異なる種類のラベルノイズが学習に与える影響を詳細に分析する。 本稿では,特徴に依存したラベルノイズを生成する汎用フレームワークを提案する。 他の研究者がノイズの多いラベルでアルゴリズムをテストしやすいように、最も一般的に使用されているベンチマークデータセットに対して、破損したラベルを共有します。
  論文  参考訳（メタデータ） (2020-03-23T18:03:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。