論文の概要: From Noisy Prediction to True Label: Noisy Prediction Calibration via
Generative Model
- arxiv url: http://arxiv.org/abs/2205.00690v1
- Date: Mon, 2 May 2022 07:15:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-03 23:05:43.240477
- Title: From Noisy Prediction to True Label: Noisy Prediction Calibration via
Generative Model
- Title(参考訳): ノイズ予測から真のラベルへ:生成モデルによるノイズ予測校正
- Authors: HeeSun Bae, Seungjae Shin, JoonHo Jang, Byeonghu Na, Kyungwoo Song and
Il-Chul Moon
- Abstract要約: ノイズ予測(NPC)は、ノイズラベルで学習する新しいアプローチである。
NPCは、事前訓練された分類器から真のラベルへのノイズ予測を後処理スキームとして修正する。
本手法は,合成および実世界の両方のデータセット上でのベースラインモデルの分類性能を向上させる。
- 参考スコア(独自算出の注目度): 22.722830935155223
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Noisy labels are inevitable yet problematic in machine learning society. It
ruins the generalization power of a classifier by making the classifier be
trained to be overfitted to wrong labels. Existing methods on noisy label have
focused on modifying classifier training procedure. It results in two possible
problems. First, these methods are not applicable to a pre-trained classifier
without further access into training. Second, it is not easy to train a
classifier and remove all of negative effects from noisy labels simultaneously.
From these problems, we suggests a new branch of approach, Noisy Prediction
Calibration (NPC) in learning with noisy labels. Through the introduction and
estimation of a new type of transition matrix via generative model, NPC
corrects the noisy prediction from the pre-trained classifier to the true label
as a post-processing scheme. We prove that NPC theoretically aligns with the
transition matrix based methods. Yet, NPC provides more accurate pathway to
estimate true label, even without involvement in classifier learning. Also, NPC
is applicable to any classifier trained with noisy label methods, if training
instances and its predictions are available. Our method, NPC, boosts the
classification performances of all baseline models on both synthetic and
real-world datasets.
- Abstract(参考訳): ノイズラベルは機械学習社会では避けられないが問題である。
分類器を間違ったラベルに過度に適合させるように訓練することで、分類器の一般化能力を損なう。
ノイズラベルの既存の手法は、分類器の訓練手順の変更に焦点を当てている。
これは2つの問題を引き起こす。
まず、これらの方法は事前訓練された分類器には適用できない。
第2に、分類器を訓練し、ノイズラベルからすべての悪影響を同時に取り除くことは容易ではない。
これらの問題から,ノイズラベルを用いた学習における雑音予測キャリブレーション(npc)という新しい手法を提案する。
生成モデルによる新しいタイプの遷移行列の導入と推定により、npcは事前学習された分類器から真ラベルへのノイズ予測を後処理方式として補正する。
我々は npc が遷移行列に基づく手法と理論的に一致することを証明する。
しかし、NPCは分類器学習に関わらず、真のラベルを推定するより正確な経路を提供する。
また、NPCは、トレーニングインスタンスとその予測が利用可能であれば、ノイズラベルメソッドで訓練された任意の分類器に適用できる。
我々の手法であるNPCは、合成および実世界のデータセットのベースラインモデルの分類性能を向上させる。
関連論文リスト
- Label-Retrieval-Augmented Diffusion Models for Learning from Noisy
Labels [61.97359362447732]
ノイズの多いラベルからの学習は、実際のアプリケーションのための機械学習において、重要かつ長年にわたる問題である。
本稿では,生成モデルの観点からラベルノイズ問題を再構成する。
我々のモデルは、標準的な実世界のベンチマークデータセットで新しいSOTA(State-of-the-art)結果を達成する。
論文 参考訳(メタデータ) (2023-05-31T03:01:36Z) - Class Prototype-based Cleaner for Label Noise Learning [73.007001454085]
半教師付き学習法は、雑音ラベル学習問題に対する現在のSOTAソリューションである。
textbfClass textbfPrototype-based label textbfCleaner。
論文 参考訳(メタデータ) (2022-12-21T04:56:41Z) - SELC: Self-Ensemble Label Correction Improves Learning with Noisy Labels [4.876988315151037]
ディープニューラルネットワークはノイズラベルを過度に適合させる傾向があり、結果として一般化性能は低下する。
ノイズラベルを段階的に補正し,モデルを改良する自己アンサンブルラベル補正法(SELC)を提案する。
SELCは、クラス条件、インスタンス依存、および実世界のラベルノイズの存在において、より有望で安定した結果を得る。
論文 参考訳(メタデータ) (2022-05-02T18:42:47Z) - Prototypical Classifier for Robust Class-Imbalanced Learning [64.96088324684683]
埋め込みネットワークに付加的なパラメータを必要としないtextitPrototypealを提案する。
プロトタイプは、訓練セットがクラス不均衡であるにもかかわらず、すべてのクラスに対してバランスと同等の予測を生成する。
我々は, CIFAR-10LT, CIFAR-100LT, Webvision のデータセットを用いて, プロトタイプが芸術の状況と比較した場合, サブスタンスの改善が得られることを検証した。
論文 参考訳(メタデータ) (2021-10-22T01:55:01Z) - Extended T: Learning with Mixed Closed-set and Open-set Noisy Labels [86.5943044285146]
ラベルノイズ遷移行列$T$は、真のラベルがノイズのあるものへと反転する確率を反映する。
本稿では,閉集合と開集合の混在したラベル雑音下での学習に着目した。
本手法は,従来の最先端のラベル雑音学習法よりも頑健な性能を追求し,混合ラベル雑音をモデル化する。
論文 参考訳(メタデータ) (2020-12-02T02:42:45Z) - Error-Bounded Correction of Noisy Labels [17.510654621245656]
ノイズのある分類器の予測は、トレーニングデータのラベルがクリーンかどうかを示す良い指標であることを示す。
理論的結果に基づいて,雑音分類器の予測に基づいてラベルを補正する新しいアルゴリズムを提案する。
ラベル補正アルゴリズムをディープニューラルネットワークのトレーニングや,複数の公開データセット上で優れたテスト性能を実現するトレーニングモデルに組み込む。
論文 参考訳(メタデータ) (2020-11-19T19:23:23Z) - Class2Simi: A Noise Reduction Perspective on Learning with Noisy Labels [98.13491369929798]
そこで我々は,ノイズのあるクラスラベルを持つデータポイントを,ノイズの多い類似ラベルを持つデータペアに変換するClass2Simiというフレームワークを提案する。
Class2Simiは、この変換がミニバッチのオンザフライであるだけでなく、モデル予測上の損失をペアワイズに変化させるため、計算的に効率的である。
論文 参考訳(メタデータ) (2020-06-14T07:55:32Z) - Multi-Class Classification from Noisy-Similarity-Labeled Data [98.13491369929798]
雑音に類似したラベル付きデータのみから学習する方法を提案する。
ノイズ遷移行列を用いて、クリーンデータとノイズデータの間にクラス後確率をブリッジする。
雑音のないクラスラベルをインスタンスに割り当てる新しい学習システムを構築した。
論文 参考訳(メタデータ) (2020-02-16T05:10:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。