論文の概要: Agreement or Disagreement in Noise-tolerant Mutual Learning?
- arxiv url: http://arxiv.org/abs/2203.15317v1
- Date: Tue, 29 Mar 2022 08:00:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-31 03:54:14.728504
- Title: Agreement or Disagreement in Noise-tolerant Mutual Learning?
- Title(参考訳): 耐雑音性相互学習における合意・否認
- Authors: Jiarun Liu, Daguang Jiang, Yukun Yang, Ruirui Li
- Abstract要約: 本稿では,MLCという耐雑音性フレームワークをエンドツーエンドに提案する。
二重ネットワークを分岐正則化で調整し、機構の有効性を保証する。
提案手法は,ノイズデータを用いてネットワークの精度,一般化,堅牢性を向上させる。
- 参考スコア(独自算出の注目度): 9.890478302701315
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning has made many remarkable achievements in many fields but
suffers from noisy labels in datasets. The state-of-the-art learning with noisy
label method Co-teaching and Co-teaching+ confronts the noisy label by
mutual-information between dual-network. However, the dual network always tends
to convergent which would weaken the dual-network mechanism to resist the noisy
labels. In this paper, we proposed a noise-tolerant framework named MLC in an
end-to-end manner. It adjusts the dual-network with divergent regularization to
ensure the effectiveness of the mechanism. In addition, we correct the label
distribution according to the agreement between dual-networks. The proposed
method can utilize the noisy data to improve the accuracy, generalization, and
robustness of the network. We test the proposed method on the simulate noisy
dataset MNIST, CIFAR-10, and the real-world noisy dataset Clothing1M. The
experimental result shows that our method outperforms the previous
state-of-the-art method. Besides, our method is network-free thus it is
applicable to many tasks.
- Abstract(参考訳): ディープラーニングは多くの分野で大きな成果を上げているが、データセットのノイズの多いラベルに苦しめられている。
ノイズラベル法とコティーチング+を用いた最先端学習は、デュアルネットワーク間の相互情報によってノイズラベルに直面する。
しかし、デュアルネットワークは常に収束し、ノイズラベルに抵抗する双対ネットワーク機構が弱まる傾向にある。
本稿では,MLCという耐雑音性フレームワークをエンドツーエンドに提案する。
二重ネットワークを分岐正則化で調整し、機構の有効性を保証する。
さらに,デュアルネットワーク間の合意に基づいてラベル分布を補正する。
提案手法は,ノイズデータを用いてネットワークの精度,一般化,堅牢性を向上させる。
提案手法は,シミュレートされたノイズデータセットmnist,cifar-10,実世界のノイズデータセットwearing1mを用いて検証する。
実験の結果,本手法は従来の最先端手法よりも優れていた。
また,本手法はネットワークフリーであり,多くのタスクに適用可能である。
関連論文リスト
- Dual Clustering Co-teaching with Consistent Sample Mining for
Unsupervised Person Re-Identification [13.65131691012468]
教師なしのRe-IDでは、擬似ラベルノイズに対処するための効果的な方法として、2つのネットワークを活用したピアティーチング戦略が証明されている。
本稿では,この問題に対処する新しいDCCT手法を提案する。
DCCTは主に2つのネットワークから抽出された特徴を利用して、異なるパラメータのクラスタリングによって2つの擬似ラベルを別々に生成する。
論文 参考訳(メタデータ) (2022-10-07T06:04:04Z) - Neighborhood Collective Estimation for Noisy Label Identification and
Correction [92.20697827784426]
ノイズラベルを用いた学習(LNL)は,ノイズラベルに対するモデルオーバーフィットの効果を軽減し,モデル性能と一般化を改善するための戦略を設計することを目的としている。
近年の進歩は、個々のサンプルのラベル分布を予測し、ノイズ検証とノイズラベル補正を行い、容易に確認バイアスを生じさせる。
提案手法では, 候補サンプルの予測信頼性を, 特徴空間近傍と対比することにより再推定する。
論文 参考訳(メタデータ) (2022-08-05T14:47:22Z) - Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。
擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。
アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
論文 参考訳(メタデータ) (2022-06-13T14:04:57Z) - Noise-Tolerant Learning for Audio-Visual Action Recognition [31.641972732424463]
ビデオデータセットは通常、粗い注釈付きまたはインターネットから収集される。
本稿では,雑音ラベルと雑音対応の両方に対して,反干渉モデルパラメータを求めるための耐雑音性学習フレームワークを提案する。
本手法は,動作認識モデルのロバスト性を大幅に向上し,ベースラインをクリアマージンで越える。
論文 参考訳(メタデータ) (2022-05-16T12:14:03Z) - Learning with Neighbor Consistency for Noisy Labels [69.83857578836769]
特徴空間におけるトレーニング例間の類似性を利用した雑音ラベルから学習する手法を提案する。
合成(CIFAR-10, CIFAR-100)とリアル(mini-WebVision, Clothing1M, mini-ImageNet-Red)の両方のノイズを評価するデータセットの評価を行った。
論文 参考訳(メタデータ) (2022-02-04T15:46:27Z) - S3: Supervised Self-supervised Learning under Label Noise [53.02249460567745]
本稿では,ラベルノイズの存在下での分類の問題に対処する。
提案手法の核心は,サンプルのアノテートラベルと特徴空間内のその近傍のラベルの分布との整合性に依存するサンプル選択機構である。
提案手法は,CIFARCIFAR100とWebVisionやANIMAL-10Nなどの実環境ノイズデータセットの両方で,従来の手法をはるかに上回っている。
論文 参考訳(メタデータ) (2021-11-22T15:49:20Z) - Co-matching: Combating Noisy Labels by Augmentation Anchoring [2.0349696181833337]
拡張アンカーによる2つのネットワーク間の整合性と発散のバランスをとる学習アルゴリズムであるCo-matchingを提案する。
3つのベンチマークデータセットの実験は、コマッチングが最先端のメソッドに匹敵する結果を達成することを実証している。
論文 参考訳(メタデータ) (2021-03-23T20:00:13Z) - Attentive WaveBlock: Complementarity-enhanced Mutual Networks for
Unsupervised Domain Adaptation in Person Re-identification and Beyond [97.25179345878443]
本稿では,新しい軽量モジュールであるAttentive WaveBlock (AWB)を提案する。
AWBは相互学習の二重ネットワークに統合され、相互学習の相補性を高め、擬似ラベルのノイズをさらに抑えることができる。
実験により, 提案手法は, 複数のUDA人物再識別タスクを大幅に改善し, 最先端の性能を達成できることが実証された。
論文 参考訳(メタデータ) (2020-06-11T15:40:40Z) - Combating noisy labels by agreement: A joint training method with
co-regularization [27.578738673827658]
トレーニング中の2つのネットワークの多様性を低減することを目的とした,JoCoRと呼ばれる堅牢な学習パラダイムを提案する。
ノイズラベルを用いた学習において,JoCoRは最先端の多くのアプローチよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-03-05T16:42:41Z) - DivideMix: Learning with Noisy Labels as Semi-supervised Learning [111.03364864022261]
ノイズラベルを学習するためのフレームワークであるDivideMixを提案する。
複数のベンチマークデータセットの実験は、最先端の手法よりも大幅に改善されている。
論文 参考訳(メタデータ) (2020-02-18T06:20:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。