論文の概要: Feature Noise Boosts DNN Generalization under Label Noise

• arxiv url: http://arxiv.org/abs/2308.01609v1
• Date: Thu, 3 Aug 2023 08:31:31 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-04 14:48:24.907450
• Title: Feature Noise Boosts DNN Generalization under Label Noise
• Title（参考訳）: ラベル雑音下でのDNN一般化を促進する特徴雑音
• Authors: Lu Zeng, Xuan Chen, Xiaoshuang Shi, Heng Tao Shen
• Abstract要約: トレーニングデータにおけるラベルノイズの存在は、ディープニューラルネットワーク(DNN)の一般化に大きな影響を与える 本研究では,学習データの特徴に直接ノイズを付加する単純な特徴雑音法を,理論的に導入し,理論的に実証する。
• 参考スコア（独自算出の注目度）: 65.36889005555669
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The presence of label noise in the training data has a profound impact on the generalization of deep neural networks (DNNs). In this study, we introduce and theoretically demonstrate a simple feature noise method, which directly adds noise to the features of training data, can enhance the generalization of DNNs under label noise. Specifically, we conduct theoretical analyses to reveal that label noise leads to weakened DNN generalization by loosening the PAC-Bayes generalization bound, and feature noise results in better DNN generalization by imposing an upper bound on the mutual information between the model weights and the features, which constrains the PAC-Bayes generalization bound. Furthermore, to ensure effective generalization of DNNs in the presence of label noise, we conduct application analyses to identify the optimal types and levels of feature noise to add for obtaining desirable label noise generalization. Finally, extensive experimental results on several popular datasets demonstrate the feature noise method can significantly enhance the label noise generalization of the state-of-the-art label noise method.
• Abstract（参考訳）: トレーニングデータにおけるラベルノイズの存在は、ディープニューラルネットワーク(DNN)の一般化に大きな影響を与える。 本研究では,学習データにノイズを直接付加する単純な特徴雑音法を導入,理論的に実証し,ラベル雑音下でのDNNの一般化を促進できることを示す。 具体的には、ラベルノイズがPAC-Bayes一般化境界を緩めることによってDNN一般化の弱化につながることを明らかにする理論解析を行い、PAC-Bayes一般化境界を制約するモデル重みと特徴間の相互情報に上限を付与することにより特徴雑音がより良いDNN一般化をもたらすことを示す。 さらに、ラベルノイズの存在下でのDNNの効果的な一般化を確保するために、望ましいラベル雑音の一般化を得るために、最適な特徴雑音の種類とレベルを特定するためのアプリケーション分析を行う。 最後に、いくつかの人気のあるデータセットにおける広範囲な実験結果から、特徴ノイズ法が最先端のラベルノイズ法のラベルノイズ一般化を著しく向上できることが示されている。

関連論文リスト

• SoftPatch: Unsupervised Anomaly Detection with Noisy Data [67.38948127630644]
  本稿では,画像センサ異常検出におけるラベルレベルのノイズを初めて考察する。 本稿では,メモリベースの非教師付きAD手法であるSoftPatchを提案する。 既存の手法と比較して、SoftPatchは通常のデータの強力なモデリング能力を維持し、コアセットにおける過信問題を軽減する。
  論文  参考訳（メタデータ） (2024-03-21T08:49:34Z)
• Learning with Noisy Foundation Models [95.50968225050012]
  本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。 雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
  論文  参考訳（メタデータ） (2024-03-11T16:22:41Z)
• NoisywikiHow: A Benchmark for Learning with Real-world Noisy Labels in Natural Language Processing [26.678589684142548]
  実世界の大規模なデータセットには、必然的にラベルノイズが伴う。 ディープモデルはノイズの多いラベルに徐々に適合し、一般化性能を低下させる。 ラベルノイズの影響を軽減するため,雑音ラベル法(LNL)による学習は,より優れた一般化性能を実現するために設計されている。
  論文  参考訳（メタデータ） (2023-05-18T05:01:04Z)
• Latent Class-Conditional Noise Model [54.56899309997246]
  本稿では,ベイズ的枠組みの下での雑音遷移をパラメータ化するためのLatent Class-Conditional Noise Model (LCCN)を提案する。 次に、Gibs sampler を用いて遅延真のラベルを効率的に推測できる LCCN の動的ラベル回帰法を導出する。 提案手法は,サンプルのミニバッチから事前の任意チューニングを回避するため,ノイズ遷移の安定な更新を保護している。
  論文  参考訳（メタデータ） (2023-02-19T15:24:37Z)
• Noise Injection Node Regularization for Robust Learning [0.0]
  ノイズインジェクションノード規則化(NINR)は、トレーニング期間中に、構造化されたノイズをディープニューラルネットワーク(DNN)に注入する手法である。 本研究は、NINRの下で訓練されたフィードフォワードDNNに対する各種試験データ摂動に対するロバスト性を大幅に改善する理論的および実証的な証拠を示す。
  論文  参考訳（メタデータ） (2022-10-27T20:51:15Z)
• Open-set Label Noise Can Improve Robustness Against Inherent Label Noise [27.885927200376386]
  オープンセットノイズラベルは非毒性であり, 固有ノイズラベルに対するロバスト性にも寄与することを示した。 本研究では,動的雑音ラベル(ODNL)を用いたオープンセットサンプルをトレーニングに導入することで,シンプルかつ効果的な正規化を提案する。
  論文  参考訳（メタデータ） (2021-06-21T07:15:50Z)
• Analysing the Noise Model Error for Realistic Noisy Label Data [14.766574408868806]
  本研究では,ノイズモデルの予測誤差を導出して,理論的な側面から推定ノイズモデルの品質について検討する。 NLPドメインから新たなノイズラベルデータセットであるNoisyNERも公開しています。
  論文  参考訳（メタデータ） (2021-01-24T17:45:15Z)
• Tackling Instance-Dependent Label Noise via a Universal Probabilistic Model [80.91927573604438]
  本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。 合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
  論文  参考訳（メタデータ） (2021-01-14T05:43:51Z)
• Beyond Class-Conditional Assumption: A Primary Attempt to Combat Instance-Dependent Label Noise [51.66448070984615]
  ラベル雑音下での教師付き学習は近年多くの進歩を遂げている。 本論文では,実世界のデータセットにおけるノイズがCCNである可能性は低いことを実証する。 制御可能なインスタンス依存ノイズ(IDN)を生成するアルゴリズムを形式化する。
  論文  参考訳（メタデータ） (2020-12-10T05:16:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。