論文の概要: Partial Label Supervision for Agnostic Generative Noisy Label Learning
- arxiv url: http://arxiv.org/abs/2308.01184v2
- Date: Wed, 28 Feb 2024 16:09:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-02-29 18:50:25.546301
- Title: Partial Label Supervision for Agnostic Generative Noisy Label Learning
- Title(参考訳): 生成雑音ラベル学習のための部分ラベルスーパービジョン
- Authors: Fengbei Liu, Chong Wang, Yuanhong Chen, Yuyuan Liu, Gustavo Carneiro
- Abstract要約: ノイズラベル学習は差別的アプローチと生成的アプローチの両方に取り組んできた。
本稿では,これらの課題に対処する生成ノイズラベル学習のための新しい枠組みを提案する。
- 参考スコア(独自算出の注目度): 18.29334728940232
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Noisy label learning has been tackled with both discriminative and generative
approaches. Despite the simplicity and efficiency of discriminative methods,
generative models offer a more principled way of disentangling clean and noisy
labels and estimating the label transition matrix. However, existing generative
methods often require inferring additional latent variables through costly
generative modules or heuristic assumptions, which hinder adaptive optimisation
for different causal directions. They also assume a uniform clean label prior,
which does not reflect the sample-wise clean label distribution and
uncertainty. In this paper, we propose a novel framework for generative noisy
label learning that addresses these challenges. First, we propose a new
single-stage optimisation that directly approximates image generation by a
discriminative classifier output. This approximation significantly reduces the
computation cost of image generation, preserves the generative modelling
benefits, and enables our framework to be agnostic in regards to different
causality scenarios (i.e., image generate label or vice-versa). Second, we
introduce a new Partial Label Supervision (PLS) for noisy label learning that
accounts for both clean label coverage and uncertainty. The supervision of PLS
does not merely aim at minimising loss, but seeks to capture the underlying
sample-wise clean label distribution and uncertainty. Extensive experiments on
computer vision and natural language processing (NLP) benchmarks demonstrate
that our generative modelling achieves state-of-the-art results while
significantly reducing the computation cost. Our code is available at
https://github.com/lfb-1/GNL.
- Abstract(参考訳): ノイズラベル学習は差別的アプローチと生成的アプローチの両方に取り組んできた。
識別法の単純さと効率性にもかかわらず、生成モデルはクリーンでノイズの多いラベルを分離し、ラベル遷移行列を推定するより原則的な方法を提供する。
しかし、既存の生成法は、コストのかかる生成モジュールまたはヒューリスティックな仮定を通じて追加の潜在変数を推測する必要がある。
彼らはまた、サンプル単位のクリーンなラベル分布と不確実性を反映しない均一なクリーンなラベルを事前に仮定する。
本稿では,これらの課題に対処する生成ノイズラベル学習のための新しい枠組みを提案する。
まず、識別分類器出力による画像生成を直接近似する新しい単段最適化を提案する。
この近似は、画像生成の計算コストを大幅に削減し、生成モデリングの利点を保ち、異なる因果性シナリオ(画像生成ラベルまたは逆逆)に関して我々のフレームワークを非依存にすることができる。
第2に,クリーンなラベルカバレッジと不確実性の両方を考慮したノイズラベル学習のための新しい部分ラベル監督(pls)を提案する。
PLSの監督は、損失を最小限に抑えるだけでなく、基礎となるサンプルワイドなラベル分布と不確実性を捉えようとしている。
コンピュータビジョンと自然言語処理(nlp)ベンチマークに関する広範な実験は、計算コストを大幅に削減しながら、生成モデルが最先端の結果を達成していることを示している。
私たちのコードはhttps://github.com/lfb-1/gnlで利用可能です。
関連論文リスト
- Reliable Active Learning from Unreliable Labels via Neural Collapse Geometry [5.1511135538176]
アクティブラーニング(AL)は、情報的なサンプルを優先順位付けすることでアノテーションのコストを削減することを約束するが、ラベルがうるさい場合やデータ分散がシフトした場合、その信頼性は低下する。
本稿では,深層ネットワークの創発的幾何学的規則性を活用し,信頼できない監視に対処するフレームワークである能動学習(NCAL-R)を提案する。
論文 参考訳(メタデータ) (2025-10-10T17:50:31Z) - Robust Canonicalization through Bootstrapped Data Re-Alignment [5.437226012505534]
昆虫や鳥の識別などのきめ細かい視覚分類タスクは、微妙な視覚的手がかりに対する感受性を必要とする。
分散を低減してトレーニングサンプルを反復的に調整するブートストラップアルゴリズムを提案する。
本手法は,拡張と同等の性能を保ちながら,同変および正準化ベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2025-10-09T13:05:20Z) - Uncertainty-Aware Graph Self-Training with Expectation-Maximization Regularization [2.743479615751918]
半教師付きノード分類のためのグラフ自己学習手法を提案する。
本手法は,擬似ラベル生成とモデル再学習における不確実性機構を組み込んだものである。
我々のフレームワークは、ノイズの多いグラフ構造や特徴空間をより効率的に扱うように設計されています。
論文 参考訳(メタデータ) (2025-03-26T21:52:21Z) - Probably Approximately Precision and Recall Learning [60.00180898830079]
機械学習における重要な課題は、一方的なフィードバックの頻度である。
本稿では,確率的近似(PAC)フレームワークを導入し,各入力をラベルの集合にマッピングする仮説を定めている。
我々は、正のデータのみから学習する新しいアルゴリズムを開発し、実現可能な場合において最適なサンプル複雑性を実現する。
論文 参考訳(メタデータ) (2024-11-20T04:21:07Z) - Reduction-based Pseudo-label Generation for Instance-dependent Partial Label Learning [41.345794038968776]
本稿では,誤り候補ラベルの影響を軽減するために,リダクションに基づく擬似ラベルを活用することを提案する。
推定モデルから生成した擬似ラベルと比較して,減算に基づく擬似ラベルはベイズ最適分類器との整合性が高いことを示す。
論文 参考訳(メタデータ) (2024-10-28T07:32:20Z) - HPL-ESS: Hybrid Pseudo-Labeling for Unsupervised Event-based Semantic Segmentation [47.271784693700845]
本稿では,教師なしイベントベースセマンティックセマンティックセグメンテーション(HPL-ESS)のためのハイブリッド擬似ラベルフレームワークを提案する。
提案手法は,DSEC-Semanticデータセットにおいて,既存の最先端手法よりも高い性能を示す。
論文 参考訳(メタデータ) (2024-03-25T14:02:33Z) - Label-Retrieval-Augmented Diffusion Models for Learning from Noisy
Labels [61.97359362447732]
ノイズの多いラベルからの学習は、実際のアプリケーションのための機械学習において、重要かつ長年にわたる問題である。
本稿では,生成モデルの観点からラベルノイズ問題を再構成する。
我々のモデルは、標準的な実世界のベンチマークデータセットで新しいSOTA(State-of-the-art)結果を達成する。
論文 参考訳(メタデータ) (2023-05-31T03:01:36Z) - BadLabel: A Robust Perspective on Evaluating and Enhancing Label-noise
Learning [113.8799653759137]
我々はBadLabelと呼ばれる新しいラベルノイズタイプを導入し、既存のLNLアルゴリズムの性能を大幅に劣化させることができる。
BadLabelは、標準分類に対するラベルフライング攻撃に基づいて開発されている。
そこで本稿では, 各エポックにおいてラベルを逆向きに摂動させ, クリーンかつノイズの多いラベルの損失値を再び識別可能にする頑健なLNL法を提案する。
論文 参考訳(メタデータ) (2023-05-28T06:26:23Z) - Towards the Identifiability in Noisy Label Learning: A Multinomial
Mixture Approach [37.32107678838193]
雑音ラベル(LNL)からの学習は、ディープラーニングにおいて重要な役割を果たす。
最も有望なLNLメソッドは、ノイズの多いアノテーションでデータセットからクリーンなラベルサンプルを特定することに依存する。
そこで本研究では,最寄りの住民を対象に,雑音ラベルの分布を推定することで,新たな雑音ラベルを自動的に生成する手法を提案する。
論文 参考訳(メタデータ) (2023-01-04T01:54:33Z) - Dist-PU: Positive-Unlabeled Learning from a Label Distribution
Perspective [89.5370481649529]
本稿では,PU学習のためのラベル分布視点を提案する。
そこで本研究では,予測型と基底型のラベル分布間のラベル分布の整合性を追求する。
提案手法の有効性を3つのベンチマークデータセットで検証した。
論文 参考訳(メタデータ) (2022-12-06T07:38:29Z) - Neighbour Consistency Guided Pseudo-Label Refinement for Unsupervised
Person Re-Identification [80.98291772215154]
教師なしの人物再識別(ReID)は、アノテーションを使わずに人物検索のための識別的アイデンティティの特徴を学習することを目的としている。
近年の進歩はクラスタリングに基づく擬似ラベルを活用することで実現されている。
本稿では, Pseudo Label Refinement フレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-30T09:39:57Z) - NorMatch: Matching Normalizing Flows with Discriminative Classifiers for
Semi-Supervised Learning [8.749830466953584]
Semi-Supervised Learning (SSL)は、小さなラベル付きセットと大量のラベルなしデータを使ってモデルを学習することを目的としている。
この作業では、NorMatchというSSLの新しいフレームワークを紹介します。
数値的および視覚的な結果を通して、NorMatchはいくつかのデータセットで最先端のパフォーマンスを達成することを実証する。
論文 参考訳(メタデータ) (2022-11-17T15:39:18Z) - Category-Adaptive Label Discovery and Noise Rejection for Multi-label
Image Recognition with Partial Positive Labels [78.88007892742438]
部分正ラベル(MLR-PPL)を用いたマルチラベルモデルの訓練が注目されている。
これまでの研究では、未知のラベルを負とみなし、従来のMLRアルゴリズムを採用した。
我々は,MLR-PPLタスクを容易にするために,異なる画像間の意味的相関について検討する。
論文 参考訳(メタデータ) (2022-11-15T02:11:20Z) - Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。
擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。
アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
論文 参考訳(メタデータ) (2022-06-13T14:04:57Z) - Instance-dependent Label-noise Learning under a Structural Causal Model [92.76400590283448]
ラベルノイズはディープラーニングアルゴリズムの性能を劣化させる。
構造因果モデルを活用することにより,実例依存型ラベルノイズ学習のための新しい生成手法を提案する。
論文 参考訳(メタデータ) (2021-09-07T10:42:54Z) - Dash: Semi-Supervised Learning with Dynamic Thresholding [72.74339790209531]
我々は、ラベルのない例を使ってモデルをトレーニングする半教師付き学習(SSL)アプローチを提案する。
提案手法であるDashは、ラベルなしデータ選択の観点から適応性を享受する。
論文 参考訳(メタデータ) (2021-09-01T23:52:29Z) - Semi-Supervised Learning with Meta-Gradient [123.26748223837802]
半教師付き学習における簡単なメタ学習アルゴリズムを提案する。
その結果,提案アルゴリズムは最先端の手法に対して良好に動作することがわかった。
論文 参考訳(メタデータ) (2020-07-08T08:48:56Z) - Progressive Identification of True Labels for Partial-Label Learning [112.94467491335611]
部分ラベル学習(Partial-label Learning, PLL)は、典型的な弱教師付き学習問題であり、各トレーニングインスタンスには、真のラベルである候補ラベルのセットが設けられている。
既存のほとんどの手法は、特定の方法で解決しなければならない制約付き最適化として精巧に設計されており、計算複雑性をビッグデータにスケールアップするボトルネックにしている。
本稿では,モデルと最適化アルゴリズムの柔軟性を備えた分類器の新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-19T08:35:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。