論文の概要: Partial Label Supervision for Agnostic Generative Noisy Label Learning

• arxiv url: http://arxiv.org/abs/2308.01184v2
• Date: Wed, 28 Feb 2024 16:09:24 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-29 18:50:25.546301
• Title: Partial Label Supervision for Agnostic Generative Noisy Label Learning
• Title（参考訳）: 生成雑音ラベル学習のための部分ラベルスーパービジョン
• Authors: Fengbei Liu, Chong Wang, Yuanhong Chen, Yuyuan Liu, Gustavo Carneiro
• Abstract要約: ノイズラベル学習は差別的アプローチと生成的アプローチの両方に取り組んできた。 本稿では,これらの課題に対処する生成ノイズラベル学習のための新しい枠組みを提案する。
• 参考スコア（独自算出の注目度）: 18.29334728940232
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Noisy label learning has been tackled with both discriminative and generative approaches. Despite the simplicity and efficiency of discriminative methods, generative models offer a more principled way of disentangling clean and noisy labels and estimating the label transition matrix. However, existing generative methods often require inferring additional latent variables through costly generative modules or heuristic assumptions, which hinder adaptive optimisation for different causal directions. They also assume a uniform clean label prior, which does not reflect the sample-wise clean label distribution and uncertainty. In this paper, we propose a novel framework for generative noisy label learning that addresses these challenges. First, we propose a new single-stage optimisation that directly approximates image generation by a discriminative classifier output. This approximation significantly reduces the computation cost of image generation, preserves the generative modelling benefits, and enables our framework to be agnostic in regards to different causality scenarios (i.e., image generate label or vice-versa). Second, we introduce a new Partial Label Supervision (PLS) for noisy label learning that accounts for both clean label coverage and uncertainty. The supervision of PLS does not merely aim at minimising loss, but seeks to capture the underlying sample-wise clean label distribution and uncertainty. Extensive experiments on computer vision and natural language processing (NLP) benchmarks demonstrate that our generative modelling achieves state-of-the-art results while significantly reducing the computation cost. Our code is available at https://github.com/lfb-1/GNL.
• Abstract（参考訳）: ノイズラベル学習は差別的アプローチと生成的アプローチの両方に取り組んできた。 識別法の単純さと効率性にもかかわらず、生成モデルはクリーンでノイズの多いラベルを分離し、ラベル遷移行列を推定するより原則的な方法を提供する。 しかし、既存の生成法は、コストのかかる生成モジュールまたはヒューリスティックな仮定を通じて追加の潜在変数を推測する必要がある。 彼らはまた、サンプル単位のクリーンなラベル分布と不確実性を反映しない均一なクリーンなラベルを事前に仮定する。 本稿では,これらの課題に対処する生成ノイズラベル学習のための新しい枠組みを提案する。 まず、識別分類器出力による画像生成を直接近似する新しい単段最適化を提案する。 この近似は、画像生成の計算コストを大幅に削減し、生成モデリングの利点を保ち、異なる因果性シナリオ(画像生成ラベルまたは逆逆)に関して我々のフレームワークを非依存にすることができる。 第2に,クリーンなラベルカバレッジと不確実性の両方を考慮したノイズラベル学習のための新しい部分ラベル監督(pls)を提案する。 PLSの監督は、損失を最小限に抑えるだけでなく、基礎となるサンプルワイドなラベル分布と不確実性を捉えようとしている。 コンピュータビジョンと自然言語処理(nlp)ベンチマークに関する広範な実験は、計算コストを大幅に削減しながら、生成モデルが最先端の結果を達成していることを示している。 私たちのコードはhttps://github.com/lfb-1/gnlで利用可能です。

関連論文リスト

• Label-Retrieval-Augmented Diffusion Models for Learning from Noisy Labels [61.97359362447732]
  ノイズの多いラベルからの学習は、実際のアプリケーションのための機械学習において、重要かつ長年にわたる問題である。 本稿では,生成モデルの観点からラベルノイズ問題を再構成する。 我々のモデルは、標準的な実世界のベンチマークデータセットで新しいSOTA(State-of-the-art)結果を達成する。
  論文  参考訳（メタデータ） (2023-05-31T03:01:36Z)
• BadLabel: A Robust Perspective on Evaluating and Enhancing Label-noise Learning [113.8799653759137]
  我々はBadLabelと呼ばれる新しいラベルノイズタイプを導入し、既存のLNLアルゴリズムの性能を大幅に劣化させることができる。 BadLabelは、標準分類に対するラベルフライング攻撃に基づいて開発されている。 そこで本稿では, 各エポックにおいてラベルを逆向きに摂動させ, クリーンかつノイズの多いラベルの損失値を再び識別可能にする頑健なLNL法を提案する。
  論文  参考訳（メタデータ） (2023-05-28T06:26:23Z)
• Towards the Identifiability in Noisy Label Learning: A Multinomial Mixture Approach [37.32107678838193]
  雑音ラベル(LNL)からの学習は、ディープラーニングにおいて重要な役割を果たす。 最も有望なLNLメソッドは、ノイズの多いアノテーションでデータセットからクリーンなラベルサンプルを特定することに依存する。 そこで本研究では,最寄りの住民を対象に,雑音ラベルの分布を推定することで,新たな雑音ラベルを自動的に生成する手法を提案する。
  論文  参考訳（メタデータ） (2023-01-04T01:54:33Z)
• Dist-PU: Positive-Unlabeled Learning from a Label Distribution Perspective [89.5370481649529]
  本稿では,PU学習のためのラベル分布視点を提案する。 そこで本研究では,予測型と基底型のラベル分布間のラベル分布の整合性を追求する。 提案手法の有効性を3つのベンチマークデータセットで検証した。
  論文  参考訳（メタデータ） (2022-12-06T07:38:29Z)
• Category-Adaptive Label Discovery and Noise Rejection for Multi-label Image Recognition with Partial Positive Labels [78.88007892742438]
  部分正ラベル(MLR-PPL)を用いたマルチラベルモデルの訓練が注目されている。 これまでの研究では、未知のラベルを負とみなし、従来のMLRアルゴリズムを採用した。 我々は,MLR-PPLタスクを容易にするために,異なる画像間の意味的相関について検討する。
  論文  参考訳（メタデータ） (2022-11-15T02:11:20Z)
• Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
  雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。 擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。 アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
  論文  参考訳（メタデータ） (2022-06-13T14:04:57Z)
• Instance-dependent Label-noise Learning under a Structural Causal Model [92.76400590283448]
  ラベルノイズはディープラーニングアルゴリズムの性能を劣化させる。 構造因果モデルを活用することにより,実例依存型ラベルノイズ学習のための新しい生成手法を提案する。
  論文  参考訳（メタデータ） (2021-09-07T10:42:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。