論文の概要: Combating Semantic Contamination in Learning with Label Noise
- arxiv url: http://arxiv.org/abs/2412.11620v2
- Date: Tue, 17 Dec 2024 04:26:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-18 14:01:30.062535
- Title: Combating Semantic Contamination in Learning with Label Noise
- Title(参考訳): ラベル雑音による学習における意味汚染の圧縮
- Authors: Wenxiao Fan, Kan Li,
- Abstract要約: ノイズラベルはディープニューラルネットワークの性能に悪影響を及ぼす可能性がある。
1つの一般的な解決策はラベル修復であり、予測と分布を通してノイズラベルを再構成する。
これらの手法は、セマンティック汚染(Semantic Contamination)と同一視される現象である問題的セマンティックアソシエーションを導入する可能性がある。
本研究では,再生ラベルに対する半教師付き学習を利用して,ビューやモデルにまたがる埋め込みから適切な意味的関連を抽出する,協調的クロスラーニング(Collaborative Cross Learning)という新しい手法を提案する。
- 参考スコア(独自算出の注目度): 4.1764890353795
- License:
- Abstract: Noisy labels can negatively impact the performance of deep neural networks. One common solution is label refurbishment, which involves reconstructing noisy labels through predictions and distributions. However, these methods may introduce problematic semantic associations, a phenomenon that we identify as Semantic Contamination. Through an analysis of Robust LR, a representative label refurbishment method, we found that utilizing the logits of views for refurbishment does not adequately balance the semantic information of individual classes. Conversely, using the logits of models fails to maintain consistent semantic relationships across models, which explains why label refurbishment methods frequently encounter issues related to Semantic Contamination. To address this issue, we propose a novel method called Collaborative Cross Learning, which utilizes semi-supervised learning on refurbished labels to extract appropriate semantic associations from embeddings across views and models. Experimental results show that our method outperforms existing approaches on both synthetic and real-world noisy datasets, effectively mitigating the impact of label noise and Semantic Contamination.
- Abstract(参考訳): ノイズラベルはディープニューラルネットワークの性能に悪影響を及ぼす可能性がある。
1つの一般的な解決策はラベル修復であり、予測と分布を通してノイズラベルを再構成する。
しかし,これらの手法はセマンティック汚染(Semantic Contamination, Semantic Contamination, セマンティック汚染(Semantic Contamination, セマンティック汚染))と同一視される現象である問題的セマンティックアソシエーションを導入する可能性がある。
代表的なラベル更新手法であるRobust LRの分析により,各クラスの意味情報の適切なバランスが取れないことが判明した。
逆に、モデルのロジットの使用は、モデル間の一貫性のあるセマンティックな関係を維持するのに失敗する。
そこで本稿では,再生ラベルに半教師付き学習を応用して,ビューやモデルにまたがる埋め込みから適切な意味的関連を抽出する,協調的クロスラーニングという手法を提案する。
実験結果から,本手法は実世界の雑音と合成ノイズの双方において既存の手法よりも優れており,ラベルノイズやセマンティック汚染の影響を効果的に軽減できることがわかった。
関連論文リスト
- Compensation Learning in Semantic Segmentation [22.105356244579745]
本研究では,曖昧さとラベルノイズを識別・補償するフレームワークであるセマンティックスケープにおける補償学習を提案する。
ニューラルネットワークに新たな不確実性分岐を導入し、関連する領域にのみ補償バイアスを誘導する。
提案手法は最先端のセグメンテーションフレームワークに応用され,いくつかの実験により,提案手法がクラス間関係を学習することを示す。
論文 参考訳(メタデータ) (2023-04-26T10:26:11Z) - Category-Adaptive Label Discovery and Noise Rejection for Multi-label
Image Recognition with Partial Positive Labels [78.88007892742438]
部分正ラベル(MLR-PPL)を用いたマルチラベルモデルの訓練が注目されている。
これまでの研究では、未知のラベルを負とみなし、従来のMLRアルゴリズムを採用した。
我々は,MLR-PPLタスクを容易にするために,異なる画像間の意味的相関について検討する。
論文 参考訳(メタデータ) (2022-11-15T02:11:20Z) - Learning Semantic Correspondence with Sparse Annotations [66.37298464505261]
密接な意味的対応を見つけることは、コンピュータビジョンの基本的な問題である。
本研究では,高密度な擬似ラベルを生成するための教師学習パラダイムを提案する。
また、擬似ラベルを識別するための2つの新しい戦略も開発している。
論文 参考訳(メタデータ) (2022-08-15T02:24:18Z) - Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。
擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。
アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
論文 参考訳(メタデータ) (2022-06-13T14:04:57Z) - Part-based Pseudo Label Refinement for Unsupervised Person
Re-identification [29.034390810078172]
教師なしの人物再識別(re-ID)は、ラベルなしデータから人物検索のための識別表現を学習することを目的としている。
近年の手法では擬似ラベルを用いることでこの課題が達成されているが,これらのラベルは本質的にノイズが多く,精度が低下している。
本稿では,グローバルな特徴と部分的特徴の相補関係を利用して,ラベルノイズを低減するPseudo Label Refinement (PPLR) フレームワークを提案する。
論文 参考訳(メタデータ) (2022-03-28T12:15:53Z) - Resolving label uncertainty with implicit posterior models [71.62113762278963]
本稿では,データサンプルのコレクション間でラベルを共同で推論する手法を提案する。
異なる予測子を後部とする生成モデルの存在を暗黙的に仮定することにより、弱い信念の下での学習を可能にする訓練目標を導出する。
論文 参考訳(メタデータ) (2022-02-28T18:09:44Z) - Label Noise in Adversarial Training: A Novel Perspective to Study Robust
Overfitting [45.58217741522973]
逆行訓練においてラベルノイズが存在することを示す。
このようなラベルノイズは、正反対例の真のラベル分布とクリーン例から受け継いだラベルとのミスマッチに起因する。
本稿では,ラベルノイズと頑健なオーバーフィッティングに対処するため,ラベルの自動校正手法を提案する。
論文 参考訳(メタデータ) (2021-10-07T01:15:06Z) - Refining Pseudo Labels with Clustering Consensus over Generations for
Unsupervised Object Re-identification [84.72303377833732]
教師なしのオブジェクト再識別は、アノテーションなしでオブジェクト検索のための識別表現を学習することを目的としている。
本稿では,クラスタリングコンセンサスを用いた連続学習世代間の擬似ラベル類似性を推定し,時間的に伝播およびアンサンブルされた擬似ラベルを用いた洗練された擬似ラベルを提案する。
提案する擬似ラベル精錬戦略は単純だが有効であり、既存のクラスタリングに基づく教師なし再同定手法にシームレスに統合することができる。
論文 参考訳(メタデータ) (2021-06-11T02:42:42Z) - Semi-supervised Relation Extraction via Incremental Meta Self-Training [56.633441255756075]
半教師付き関係抽出法は,限られたサンプルからの学習に加え,ラベルのないデータを活用することを目的としている。
既存の自己学習手法は段階的なドリフト問題に悩まされ、未ラベルデータにノイズのある擬似ラベルが組み込まれている。
本稿では,リレーショナルラベル生成ネットワークが,メタオブジェクトとしてリレーショナル分類ネットワークを成功・失敗に導くことによって,擬似ラベルの品質評価を生成するメタSREという手法を提案する。
論文 参考訳(メタデータ) (2020-10-06T03:54:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。