論文の概要: Clusterability as an Alternative to Anchor Points When Learning with Noisy Labels

• arxiv url: http://arxiv.org/abs/2102.05291v1
• Date: Wed, 10 Feb 2021 07:22:56 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-11 14:53:45.302398
• Title: Clusterability as an Alternative to Anchor Points When Learning with Noisy Labels
• Title（参考訳）: 雑音ラベル学習におけるアンカーポイント代替としてのクラスタ性
• Authors: Zhaowei Zhu, Yiwen Song, Yang Liu
• Abstract要約: 本稿では,クラスタ可能性条件に基づく効率的な推定手法を提案する。 アンカーポイントを使った手法と比較して、我々のアプローチはより多くのインスタンスを使用し、より優れたサンプル複雑さの恩恵を受ける。
• 参考スコア（独自算出の注目度）: 7.920797564912219
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The knowledge of the label noise transition matrix, characterizing the probabilities of a training instance being wrongly annotated, is crucial to designing popular solutions to learning with noisy labels, including loss correction and loss reweighting approaches. Existing works heavily rely on the existence of "anchor points" or their approximates, defined as instances that belong to a particular class almost surely. Nonetheless, finding anchor points remains a non-trivial task, and the estimation accuracy is also often throttled by the number of available anchor points. In this paper, we propose an alternative option to the above task. Our main contribution is the discovery of an efficient estimation procedure based on a clusterability condition. We prove that with clusterable representations of features, using up to third-order consensuses of noisy labels among neighbor representations is sufficient to estimate a unique transition matrix. Compared with methods using anchor points, our approach uses substantially more instances and benefits from a much better sample complexity. We demonstrate the estimation accuracy and advantages of our estimates using both synthetic noisy labels (on CIFAR-10/100) and real human-level noisy labels (on Clothing1M and our self-collected human-annotated CIFAR-10).
• Abstract（参考訳）: ラベルノイズ遷移行列の知識は、誤って注釈付けされているトレーニングインスタンスの確率を特徴づけ、損失補正や損失軽減アプローチを含む騒々しいラベルで学習するための一般的なソリューションを設計するために重要です。 既存の仕事は、ほぼ確実に特定のクラスに属するインスタンスとして定義される「アンカーポイント」またはその近似の存在に大きく依存します。 それにもかかわらず、アンカーポイントの発見は非自明なタスクであり、推定精度は利用可能なアンカーポイントの数によってしばしば低下します。 本稿では,上記の課題に対する代替オプションを提案する。 我々の主な貢献は、クラスタ可能性条件に基づく効率的な推定手順の発見である。 特徴のクラスタ化可能な表現では,隣接表現間の雑音ラベルの最大3次コンセンサスを用いることで,一意的な遷移行列を推定できることを示す。 アンカーポイントを使った手法と比較して、我々のアプローチはより多くのインスタンスを使用し、より優れたサンプル複雑さの恩恵を受ける。 合成ノイズラベル(CIFAR-10/100)と実際の人間レベルのノイズラベル(Clothing1M)の両方を使用して推定の精度と利点を示します。

関連論文リスト

• Multi-Label Noise Transition Matrix Estimation with Label Correlations: Theory and Algorithm [73.94839250910977]
  ノイズの多いマルチラベル学習は、大規模な正確なラベルの収集によって生じる課題により、注目を集めている。 遷移行列の導入は、マルチラベルノイズをモデル化し、統計的に一貫したアルゴリズムの開発に役立つ。 そこで本稿では, アンカーポイントを必要とせずに, ラベル相関を利用した新しい推定器を提案する。
  論文  参考訳（メタデータ） (2023-09-22T08:35:38Z)
• Adversary-Aware Partial label learning with Label distillation [47.18584755798137]
  本稿では、Ad-Aware partial Label Learningを紹介し、各インスタンスの候補ラベルのコレクションに、ノイズの多いラベルのセットである$textitrival$を紹介します。 提案手法は, CIFAR10, CIFAR100, CUB200データセットに対して有望な結果を得る。
  論文  参考訳（メタデータ） (2023-04-02T10:18:30Z)
• Instance-dependent Label Distribution Estimation for Learning with Label Noise [20.479674500893303]
  雑音遷移行列(NTM)推定はラベル雑音による学習に有望な手法である。 本稿では、画像分類のためのノイズラベルから学習するためのインスタンス依存ラベル分布推定(ILDE)手法を提案する。 提案手法は, 合成ノイズであっても実雑音であっても, 競合する全ての手法より優れていることを示す。
  論文  参考訳（メタデータ） (2022-12-16T10:13:25Z)
• Neighbour Consistency Guided Pseudo-Label Refinement for Unsupervised Person Re-Identification [80.98291772215154]
  教師なしの人物再識別(ReID)は、アノテーションを使わずに人物検索のための識別的アイデンティティの特徴を学習することを目的としている。 近年の進歩はクラスタリングに基づく擬似ラベルを活用することで実現されている。 本稿では, Pseudo Label Refinement フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-30T09:39:57Z)
• Neighborhood Collective Estimation for Noisy Label Identification and Correction [92.20697827784426]
  ノイズラベルを用いた学習(LNL)は,ノイズラベルに対するモデルオーバーフィットの効果を軽減し,モデル性能と一般化を改善するための戦略を設計することを目的としている。 近年の進歩は、個々のサンプルのラベル分布を予測し、ノイズ検証とノイズラベル補正を行い、容易に確認バイアスを生じさせる。 提案手法では, 候補サンプルの予測信頼性を, 特徴空間近傍と対比することにより再推定する。
  論文  参考訳（メタデータ） (2022-08-05T14:47:22Z)
• Beyond Images: Label Noise Transition Matrix Estimation for Tasks with Lower-Quality Features [13.659465403114766]
  そこで我々は,低品質特徴の低情報部分の重み付けに対する実践的な情報理論的アプローチを提案する。 我々は,有望な$f$ミューチュアル情報尺度が,ノイズラベルを用いて計算した場合の順序をよく保持できることを証明した。
  論文  参考訳（メタデータ） (2022-02-02T20:36:09Z)
• S3: Supervised Self-supervised Learning under Label Noise [53.02249460567745]
  本稿では,ラベルノイズの存在下での分類の問題に対処する。 提案手法の核心は,サンプルのアノテートラベルと特徴空間内のその近傍のラベルの分布との整合性に依存するサンプル選択機構である。 提案手法は,CIFARCIFAR100とWebVisionやANIMAL-10Nなどの実環境ノイズデータセットの両方で,従来の手法をはるかに上回っている。
  論文  参考訳（メタデータ） (2021-11-22T15:49:20Z)
• Exploiting Sample Uncertainty for Domain Adaptive Person Re-Identification [137.9939571408506]
  各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。 不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2020-12-16T04:09:04Z)
• Meta Transition Adaptation for Robust Deep Learning with Noisy Labels [61.8970957519509]
  本研究では,新しいメタ遷移学習戦略を提案する。 具体的には、クリーンなラベル付きメタデータの小さなセットのサウンドガイダンスにより、ノイズ遷移行列と分類器パラメータを相互に改善することができる。 本手法は, 従来技術よりも頑健な性能で, 遷移行列をより正確に抽出することができる。
  論文  参考訳（メタデータ） (2020-06-10T07:27:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。