論文の概要: Meta Transition Adaptation for Robust Deep Learning with Noisy Labels

• arxiv url: http://arxiv.org/abs/2006.05697v2
• Date: Fri, 12 Jun 2020 01:18:07 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-23 04:30:42.467298
• Title: Meta Transition Adaptation for Robust Deep Learning with Noisy Labels
• Title（参考訳）: 雑音ラベルを用いたロバスト深層学習のためのメタ遷移適応
• Authors: Jun Shu, Qian Zhao, Zongben Xu, Deyu Meng
• Abstract要約: 本研究では,新しいメタ遷移学習戦略を提案する。 具体的には、クリーンなラベル付きメタデータの小さなセットのサウンドガイダンスにより、ノイズ遷移行列と分類器パラメータを相互に改善することができる。 本手法は, 従来技術よりも頑健な性能で, 遷移行列をより正確に抽出することができる。
• 参考スコア（独自算出の注目度）: 61.8970957519509
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To discover intrinsic inter-class transition probabilities underlying data, learning with noise transition has become an important approach for robust deep learning on corrupted labels. Prior methods attempt to achieve such transition knowledge by pre-assuming strongly confident anchor points with 1-probability belonging to a specific class, generally infeasible in practice, or directly jointly estimating the transition matrix and learning the classifier from the noisy samples, always leading to inaccurate estimation misguided by wrong annotation information especially in large noise cases. To alleviate these issues, this study proposes a new meta-transition-learning strategy for the task. Specifically, through the sound guidance of a small set of meta data with clean labels, the noise transition matrix and the classifier parameters can be mutually ameliorated to avoid being trapped by noisy training samples, and without need of any anchor point assumptions. Besides, we prove our method is with statistical consistency guarantee on correctly estimating the desired transition matrix. Extensive synthetic and real experiments validate that our method can more accurately extract the transition matrix, naturally following its more robust performance than prior arts. Its essential relationship with label distribution learning is also discussed, which explains its fine performance even under no-noise scenarios.
• Abstract（参考訳）: データに基づく固有のクラス間遷移確率を発見するために、ノイズ遷移を用いた学習は、破損したラベルに対する堅牢な深層学習にとって重要なアプローチとなっている。 従来の手法では、特定のクラスに属する1確率の強い確実なアンカーポイントを前提として、一般的には実現不可能である、あるいは、遷移行列を直接推定し、ノイズのあるサンプルから分類器を学習することで、常に間違ったアノテーション情報、特に大きなノイズケースで誤認される不正確な推定を行う。 これらの問題を緩和するため,本研究はタスクに対する新しいメタトランジション学習戦略を提案する。 具体的には、クリーンなラベルを持つ小さなメタデータセットのサウンドガイダンスにより、ノイズ遷移行列と分類器パラメータを相互に改善し、ノイズの多いトレーニングサンプルに閉じ込められないようにし、アンカーポイントの仮定を不要にすることができる。 また,本手法は,所望の遷移行列を正しく推定する上で,統計的一貫性を保証できることを示す。 総合的な合成および実実験により,本手法は従来よりも頑健な性能で,遷移行列をより正確に抽出できることが検証された。 ラベル分布学習と本質的な関係についても考察し,無音シナリオにおいても優れた性能を示す。

関連論文リスト

• Multi-Label Noise Transition Matrix Estimation with Label Correlations: Theory and Algorithm [73.94839250910977]
  ノイズの多いマルチラベル学習は、大規模な正確なラベルの収集によって生じる課題により、注目を集めている。 遷移行列の導入は、マルチラベルノイズをモデル化し、統計的に一貫したアルゴリズムの開発に役立つ。 そこで本稿では, アンカーポイントを必要とせずに, ラベル相関を利用した新しい推定器を提案する。
  論文  参考訳（メタデータ） (2023-09-22T08:35:38Z)
• Robust Meta-learning with Sampling Noise and Label Noise via Eigen-Reptile [78.1212767880785]
  Meta-learnerは、利用可能なサンプルがわずかしかないため、過度に適合する傾向がある。 ノイズの多いラベルでデータを扱う場合、メタラーナーはラベルノイズに対して非常に敏感になる可能性がある。 本稿では,タスク固有のパラメータの主要な方向でメタパラメータを更新するEigen-Reptile(ER)を提案する。
  論文  参考訳（メタデータ） (2022-06-04T08:48:02Z)
• Beyond Images: Label Noise Transition Matrix Estimation for Tasks with Lower-Quality Features [13.659465403114766]
  そこで我々は,低品質特徴の低情報部分の重み付けに対する実践的な情報理論的アプローチを提案する。 我々は,有望な$f$ミューチュアル情報尺度が,ノイズラベルを用いて計算した場合の順序をよく保持できることを証明した。
  論文  参考訳（メタデータ） (2022-02-02T20:36:09Z)
• Learning Noise Transition Matrix from Only Noisy Labels via Total Variation Regularization [88.91872713134342]
  本稿では,雑音遷移行列を推定し,同時に分類器を学習する理論的基礎付け手法を提案する。 提案手法の有効性を,ベンチマークおよび実世界のデータセットを用いた実験により示す。
  論文  参考訳（メタデータ） (2021-02-04T05:09:18Z)
• Provably End-to-end Label-Noise Learning without Anchor Points [118.97592870124937]
  本稿では,アンカーポイントを使わずにラベルノイズ学習を実現するためのエンドツーエンドフレームワークを提案する。 提案フレームワークでは,クリーンなクラス後確率が十分に分散している場合,遷移行列を同定できる。
  論文  参考訳（メタデータ） (2021-02-04T03:59:37Z)
• Extended T: Learning with Mixed Closed-set and Open-set Noisy Labels [86.5943044285146]
  ラベルノイズ遷移行列$T$は、真のラベルがノイズのあるものへと反転する確率を反映する。 本稿では,閉集合と開集合の混在したラベル雑音下での学習に着目した。 本手法は,従来の最先端のラベル雑音学習法よりも頑健な性能を追求し,混合ラベル雑音をモデル化する。
  論文  参考訳（メタデータ） (2020-12-02T02:42:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。