論文の概要: NCSAM Noise-Compensated Sharpness-Aware Minimization for Noisy Label Learning
- arxiv url: http://arxiv.org/abs/2601.19947v1
- Date: Sat, 24 Jan 2026 11:10:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-29 15:46:06.599836
- Title: NCSAM Noise-Compensated Sharpness-Aware Minimization for Noisy Label Learning
- Title(参考訳): NCSAM雑音補償型シャープネス認識による雑音ラベル学習の最小化
- Authors: Jiayu Xu, Junbiao Pang,
- Abstract要約: 本稿では,損失景観の平坦度とラベルノイズの有無の関係を理論的に解析する。
シャープネス認識最小化(SAM)の摂動を利用してラベルノイズの損傷を軽減するためのノイズ補償シャープネス認識最小化(NCSAM)を提案する。
- 参考スコア(独自算出の注目度): 5.810900591128541
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning from Noisy Labels (LNL) presents a fundamental challenge in deep learning, as real-world datasets often contain erroneous or corrupted annotations, \textit{e.g.}, data crawled from Web. Current research focuses on sophisticated label correction mechanisms. In contrast, this paper adopts a novel perspective by establishing a theoretical analysis the relationship between flatness of the loss landscape and the presence of label noise. In this paper, we theoretically demonstrate that carefully simulated label noise synergistically enhances both the generalization performance and robustness of label noises. Consequently, we propose Noise-Compensated Sharpness-aware Minimization (NCSAM) to leverage the perturbation of Sharpness-Aware Minimization (SAM) to remedy the damage of label noises. Our analysis reveals that the testing accuracy exhibits a similar behavior that has been observed on the noise-clear dataset. Extensive experimental results on multiple benchmark datasets demonstrate the consistent superiority of the proposed method over existing state-of-the-art approaches on diverse tasks.
- Abstract(参考訳): Noisy Labels(LNL)からの学習は、Webからクロールされたデータである‘textit{e g }’という誤ったあるいは破損したアノテーションを実世界のデータセットに含めることが多いため、ディープラーニングにおける根本的な課題である。
現在の研究は、高度なラベル補正機構に焦点を当てている。
対照的に、損失景観の平坦性とラベルノイズの存在との関係を理論的に解析することで、新しい視点を採用する。
本稿では,ラベルノイズの一般化性能とロバスト性の両方を,注意深くシミュレートしたラベルノイズが相乗的に向上することを示す。
その結果、シャープネス認識最小化 (NCSAM) は、シャープネス認識最小化 (SAM) の摂動を利用してラベルノイズの損傷を緩和する。
分析の結果,実験精度はノイズクラーデータセット上で観測されたのと同様の挙動を示すことがわかった。
複数のベンチマークデータセットに対する大規模な実験結果から,提案手法が様々なタスクに対する既存の最先端アプローチよりも一貫した優位性を示した。
関連論文リスト
- FNBench: Benchmarking Robust Federated Learning against Noisy Labels [23.660857480962104]
本稿では,フェデレートラーニング(FL)における雑音ラベルに関する最初のベンチマーク研究について述べる。
本稿では, 合成ラベルノイズ, 不完全な人間のアノテーション誤り, 系統的誤りを含む3種類のラベルノイズパターンについて考察する。
評価には、5つの画像認識データセットと1つのテキスト分類データセットに18の最先端手法が組み込まれている。
論文 参考訳(メタデータ) (2025-05-10T16:14:52Z) - NoiseBench: Benchmarking the Impact of Real Label Noise on Named Entity Recognition [3.726602636064681]
そこで本研究では,実雑音がシミュレーションノイズよりもはるかに難易度が高いことを示す。
ノイズロスト学習の最先端モデルが理論的に達成可能な上限よりもはるかに低くなることを示す。
論文 参考訳(メタデータ) (2024-05-13T10:20:31Z) - Learning with Imbalanced Noisy Data by Preventing Bias in Sample
Selection [82.43311784594384]
実世界のデータセットには、ノイズの多いラベルだけでなく、クラス不均衡も含まれている。
不均衡なデータセットにおけるノイズラベルに対処する,単純かつ効果的な手法を提案する。
論文 参考訳(メタデータ) (2024-02-17T10:34:53Z) - Robust Tiny Object Detection in Aerial Images amidst Label Noise [50.257696872021164]
本研究は,ノイズラベル管理下での微小物体検出の問題に対処する。
本稿では,DN-TOD(Denoising Tiny Object Detector)を提案する。
本手法は,1段と2段の両方のオブジェクト検出パイプラインにシームレスに統合できる。
論文 参考訳(メタデータ) (2024-01-16T02:14:33Z) - Neighborhood Collective Estimation for Noisy Label Identification and
Correction [92.20697827784426]
ノイズラベルを用いた学習(LNL)は,ノイズラベルに対するモデルオーバーフィットの効果を軽減し,モデル性能と一般化を改善するための戦略を設計することを目的としている。
近年の進歩は、個々のサンプルのラベル分布を予測し、ノイズ検証とノイズラベル補正を行い、容易に確認バイアスを生じさせる。
提案手法では, 候補サンプルの予測信頼性を, 特徴空間近傍と対比することにより再推定する。
論文 参考訳(メタデータ) (2022-08-05T14:47:22Z) - S3: Supervised Self-supervised Learning under Label Noise [53.02249460567745]
本稿では,ラベルノイズの存在下での分類の問題に対処する。
提案手法の核心は,サンプルのアノテートラベルと特徴空間内のその近傍のラベルの分布との整合性に依存するサンプル選択機構である。
提案手法は,CIFARCIFAR100とWebVisionやANIMAL-10Nなどの実環境ノイズデータセットの両方で,従来の手法をはるかに上回っている。
論文 参考訳(メタデータ) (2021-11-22T15:49:20Z) - Learning with Noisy Labels Revisited: A Study Using Real-World Human
Annotations [54.400167806154535]
ノイズラベルを用いた学習に関する既存の研究は、主に合成ラベルノイズに焦点を当てている。
本研究は2つの新しいベンチマークデータセット(CIFAR-10N, CIFAR-100N)を示す。
実世界のノイズラベルは古典的に採用されたクラス依存のラベルではなく、インスタンス依存のパターンに従うことを示す。
論文 参考訳(メタデータ) (2021-10-22T22:42:11Z) - Open-set Label Noise Can Improve Robustness Against Inherent Label Noise [27.885927200376386]
オープンセットノイズラベルは非毒性であり, 固有ノイズラベルに対するロバスト性にも寄与することを示した。
本研究では,動的雑音ラベル(ODNL)を用いたオープンセットサンプルをトレーニングに導入することで,シンプルかつ効果的な正規化を提案する。
論文 参考訳(メタデータ) (2021-06-21T07:15:50Z) - Analysing the Noise Model Error for Realistic Noisy Label Data [14.766574408868806]
本研究では,ノイズモデルの予測誤差を導出して,理論的な側面から推定ノイズモデルの品質について検討する。
NLPドメインから新たなノイズラベルデータセットであるNoisyNERも公開しています。
論文 参考訳(メタデータ) (2021-01-24T17:45:15Z) - Tackling Instance-Dependent Label Noise via a Universal Probabilistic
Model [80.91927573604438]
本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。
合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
論文 参考訳(メタデータ) (2021-01-14T05:43:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。