Fugu-MT 論文翻訳(概要): Learning From Long-Tailed Data With Noisy Labels

論文の概要: Learning From Long-Tailed Data With Noisy Labels

arxiv url: http://arxiv.org/abs/2108.11096v1
Date: Wed, 25 Aug 2021 07:45:40 GMT
ステータス: 処理完了
システム内更新日: 2021-08-26 13:07:31.459799
Title: Learning From Long-Tailed Data With Noisy Labels
Title（参考訳）: 雑音ラベルによる長期データからの学習
Authors: Shyamgopal Karthik and J\'erome Revaud and Chidlovskii Boris
Abstract要約: クラス不均衡とノイズラベルは多くの大規模分類データセットの標準である。本稿では,近年の自己教師型学習の進歩をもとに,簡単な2段階のアプローチを提案する。自己指導型学習アプローチは,重度のクラス不均衡に効果的に対処できることが判明した。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Class imbalance and noisy labels are the norm rather than the exception in many large-scale classification datasets. Nevertheless, most works in machine learning typically assume balanced and clean data. There have been some recent attempts to tackle, on one side, the problem of learning from noisy labels and, on the other side, learning from long-tailed data. Each group of methods make simplifying assumptions about the other. Due to this separation, the proposed solutions often underperform when both assumptions are violated. In this work, we present a simple two-stage approach based on recent advances in self-supervised learning to treat both challenges simultaneously. It consists of, first, task-agnostic self-supervised pre-training, followed by task-specific fine-tuning using an appropriate loss. Most significantly, we find that self-supervised learning approaches are effectively able to cope with severe class imbalance. In addition, the resulting learned representations are also remarkably robust to label noise, when fine-tuned with an imbalance- and noise-resistant loss function. We validate our claims with experiments on CIFAR-10 and CIFAR-100 augmented with synthetic imbalance and noise, as well as the large-scale inherently noisy Clothing-1M dataset.
Abstract（参考訳）: クラス不均衡とノイズラベルは多くの大規模分類データセットの例外よりも標準である。それでも、機械学習におけるほとんどの仕事は、バランスとクリーンなデータを想定している。最近の試みでは、ノイズの多いラベルから学ぶことや、長い尾を持つデータから学ぶことの難しさに対処する試みがいくつかある。それぞれのメソッド群は、他方に関する仮定を単純化する。この分離のため、提案された解は両方の仮定に違反する場合にしばしば過小評価される。本稿では,両課題を同時に扱うための自己教師付き学習の最近の進歩に基づく,単純な二段階アプローチを提案する。まず、タスクに依存しない自己教師付き事前トレーニングと、適切な損失を用いたタスク固有の微調整で構成される。さらに, 自己指導型学習アプローチは, 重度のクラス不均衡に効果的に対処できることがわかった。また, 不平衡・耐雑音損失関数を微調整した場合, 学習した表現はラベルノイズに対して著しく頑健である。我々は,cifar-10とcifar-100の合成不均衡とノイズを付加した実験と,大規模で本質的にノイズの多いwears-1mデータセットを用いて,我々の主張を検証する。

関連論文リスト

Conformal-in-the-Loop for Learning with Imbalanced Noisy Data [5.69777817429044]
大規模なデータセットでは、クラス不均衡とラベルノイズが広まっています。機械学習の研究の多くは、よくラベル付けされたバランスの取れたデータを前提としている。コンフォーマル・イン・ザ・ループ(Conformal-in-the-Loop, CitL)は,コンフォーマルな予測に基づく手法を用いて,両課題に対処する新しいトレーニングフレームワークである。
論文参考訳（メタデータ） (2024-11-04T17:09:58Z)
Multiclass Learning from Noisy Labels for Non-decomposable Performance Measures [15.358504449550013]
非分解性性能尺度の2つのクラスに対して雑音ラベルから学習するアルゴリズムを設計する。どちらの場合も、広範に研究されているクラス条件雑音モデルの下で、アルゴリズムのノイズ補正バージョンを開発する。実験では,ラベルノイズ処理におけるアルゴリズムの有効性を実証した。
論文参考訳（メタデータ） (2024-02-01T23:03:53Z)
DIRECT: Deep Active Learning under Imbalance and Label Noise [15.571923343398657]
我々は,クラス不均衡とラベルノイズの両面において,アクティブラーニングの最初の研究を行う。本稿では,クラス分離閾値を頑健に同定し,最も不確実な例を注釈する新しいアルゴリズムを提案する。以上の結果から,DIRECTは最先端のアクティブ学習アルゴリズムと比較して,アノテーション予算の60%以上を節約できることが示された。
論文参考訳（メタデータ） (2023-12-14T18:18:34Z)
Identifying Hard Noise in Long-Tailed Sample Distribution [76.16113794808001]
NLT(Noisy Long-Tailed Classification)を紹介する。ほとんどのノイズ除去法は、ハードノイズを特定するのに失敗する。我々はH2E(Hard-to-Easy)と呼ばれる反復的な雑音学習フレームワークを設計する。
論文参考訳（メタデータ） (2022-07-27T09:03:03Z)
Learning with Neighbor Consistency for Noisy Labels [69.83857578836769]
特徴空間におけるトレーニング例間の類似性を利用した雑音ラベルから学習する手法を提案する。合成(CIFAR-10, CIFAR-100)とリアル(mini-WebVision, Clothing1M, mini-ImageNet-Red)の両方のノイズを評価するデータセットの評価を行った。
論文参考訳（メタデータ） (2022-02-04T15:46:27Z)
Prototypical Classifier for Robust Class-Imbalanced Learning [64.96088324684683]
埋め込みネットワークに付加的なパラメータを必要としないtextitPrototypealを提案する。プロトタイプは、訓練セットがクラス不均衡であるにもかかわらず、すべてのクラスに対してバランスと同等の予測を生成する。我々は, CIFAR-10LT, CIFAR-100LT, Webvision のデータセットを用いて, プロトタイプが芸術の状況と比較した場合, サブスタンスの改善が得られることを検証した。
論文参考訳（メタデータ） (2021-10-22T01:55:01Z)
Robust Long-Tailed Learning under Label Noise [50.00837134041317]
本研究では,長期ラベル分布におけるラベルノイズ問題について検討する。本稿では,長期学習のための雑音検出を実現する頑健なフレームワークAlgoを提案する。我々のフレームワークは、半教師付き学習アルゴリズムを自然に活用して一般化をさらに改善することができる。
論文参考訳（メタデータ） (2021-08-26T03:45:00Z)
A Second-Order Approach to Learning with Instance-Dependent Label Noise [58.555527517928596]
ラベルノイズの存在は、しばしばディープニューラルネットワークのトレーニングを誤解させる。人間による注釈付きラベルのエラーは、タスクの難易度レベルに依存する可能性が高いことを示しています。
論文参考訳（メタデータ） (2020-12-22T06:36:58Z)
EvidentialMix: Learning with Combined Open-set and Closed-set Noisy Labels [30.268962418683955]
開集合ラベルと閉集合ラベルを組み合わせた雑音ラベル問題の新しい変種について検討する。その結果,従来の最先端手法よりも優れた分類結果と特徴表現が得られた。
論文参考訳（メタデータ） (2020-11-11T11:15:32Z)
Learning from Noisy Similar and Dissimilar Data [84.76686918337134]
ノイズSとDラベル付きデータから分類器を学習する方法を示す。また、このような相互監督データからの学習と、通常のクラスラベルデータからの学習との間に重要な関連性を示す。
論文参考訳（メタデータ） (2020-02-03T19:59:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。