論文の概要: Efficient Bilevel Optimization for Meta Label Correction in Noisy Label Learning

• arxiv url: http://arxiv.org/abs/2605.17833v1
• Date: Mon, 18 May 2026 04:12:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:48.805535
• Title: Efficient Bilevel Optimization for Meta Label Correction in Noisy Label Learning
• Title（参考訳）: 雑音ラベル学習におけるメタラベル補正の2レベル最適化
• Authors: Ba Hoang Anh Nguyen, Viet Cuong Ta,
• Abstract要約: ノイズの多いラベルでディープニューラルネットワークをトレーニングすることで、データアノテーションのコストを削減できるが、学習モデルにノイズをもたらす可能性がある。 EBOMLC法は,1ステップのインナーループ更新,混合上損失,アライメントを考慮した動的バリアなど,3つの重要な改善を伴って設計されている。
• 参考スコア（独自算出の注目度）: 5.8010446129208155
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Training a deep neural network with noisy labels could reduce data annotation cost but may introduce noise into the learned model. In meta label correction approaches, an additional meta model besides the main model is trained with a small, clean dataset to correct the large, noisy dataset. However, the update of the meta model requires the computation of hypergradients at the inner step of the main model which signif- icantly increases the computational cost. To improve the training efficiency, we first introduce the dynamic barrier gradient descent into standard meta label correction. While this naive extenstion is able to speed up the training process to approximately first- order complexity, it lacks mechanisms to prevent the leakage of noisy signals to the main model and to stabilize the learning of the meta model. Based on this observation, we propose the EBOMLC method, which is designed with three key improvements including one-step inner loop update, mixture upper loss and alignment- aware dynamic barrier. Empirical results on CIFAR-10 and CIFAR-100 demonstrate that EBOMLC consistently outperforms other baselines, especially under high noise rate settings, while reducing training time of the meta label correction approach.
• Abstract（参考訳）: ノイズの多いラベルでディープニューラルネットワークをトレーニングすることで、データアノテーションのコストを削減できるが、学習モデルにノイズをもたらす可能性がある。 メタラベル補正アプローチでは、メインモデル以外の追加メタモデルを、小さくクリーンなデータセットでトレーニングし、大きなノイズの多いデータセットを修正する。 しかし、メタモデルの更新は、計算コストを増大させる主モデルの内段における過次性の計算を必要とする。 トレーニング効率を向上させるために,我々はまず,ダイナミックバリア勾配勾配を標準メタラベル補正に導入する。 このナイーブな拡張は、トレーニングプロセスをおよそ一階の複雑さに高速化するが、メインモデルへのノイズ信号の漏洩を防止し、メタモデルの学習を安定させるメカニズムが欠如している。 本研究は,1ステップの内ループ更新,混合上損失,アライメントを考慮した動的バリアを含む3つの重要な改良を施したEBOMLC法を提案する。 CIFAR-10 と CIFAR-100 の実証実験の結果,EBOMLC はメタラベル補正手法のトレーニング時間を短縮しつつ,特に高ノイズレート設定において,他のベースラインよりも一貫して優れていた。

関連論文リスト

• Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
  損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。 VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。 VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
  論文  参考訳（メタデータ） (2026-03-18T01:25:08Z)
• On the Learning Dynamics of Two-layer Linear Networks with Label Noise SGD [93.70725920710208]
  ラベル雑音による勾配降下の学習力学について検討する。 遅延からリッチな体制への移行を駆動する上で,ラベルノイズが重要な役割を担っていることを強調する。 これらの知見をSAM(Sharpness-Aware Minimization)に拡張し、ラベルノイズSGDを規定する原理がより広範な最適化アルゴリズムにも適用可能であることを示す。
  論文  参考訳（メタデータ） (2026-03-11T04:26:54Z)
• Optimizing ML Training with Metagradient Descent [69.89631748402377]
  モデルトレーニングによる勾配というメタグラディエントを,大規模に効率的に計算するアルゴリズムを導入する。 次に、メタグラディエントを用いた効果的な最適化を可能にする「滑らかなモデルトレーニング」フレームワークを導入する。
  論文  参考訳（メタデータ） (2025-03-17T22:18:24Z)
• Set a Thief to Catch a Thief: Combating Label Noise through Noisy Meta Learning [6.68999525326685]
  ノイズラベル(LNL)からの学習は、ノイズデータセットを使用して高性能なディープモデルをトレーニングすることを目的としている。 本稿では,ラベルノイズの補正にノイズデータを用いる新しい雑音付きメタラベル補正フレームワークSTCTを提案する。 STCTは、96.9%のラベル修正と95.2%の分類性能をCIFAR-10で達成し、80%の対称ノイズを持つ。
  論文  参考訳（メタデータ） (2025-02-22T05:58:01Z)
• Enhanced Meta Label Correction for Coping with Label Corruption [3.6804038214708577]
  本稿では,雑音ラベル問題を用いた学習のための拡張メタラベル補正手法を提案する。 TraditionalCは従来のアプローチより優れており、すべての標準ベンチマークで最先端の結果を達成する。
  論文  参考訳（メタデータ） (2023-05-22T12:11:07Z)
• Learning to Rectify for Robust Learning with Noisy Labels [25.149277009932423]
  分類ネットワークのトレーニング手順を適応的に修正するためのワープ確率推論(WarPI)を提案する。 雑音ラベルによる頑健な学習の4つのベンチマークでWarPIを評価し, 異種雑音下での新たな最先端の学習を実現する。
  論文  参考訳（メタデータ） (2021-11-08T02:25:50Z)
• Faster Meta Update Strategy for Noise-Robust Deep Learning [62.08964100618873]
  我々は,メタグラデーションの最も高価なステップをより高速なレイヤワイズ近似に置き換えるために,新しいファMUS(Faster Meta Update Strategy)を導入する。 本手法は,同等あるいはさらに優れた一般化性能を維持しつつ,トレーニング時間の3分の2を節約できることを示す。
  論文  参考訳（メタデータ） (2021-04-30T16:19:07Z)
• Learning to Purify Noisy Labels via Meta Soft Label Corrector [49.92310583232323]
  最近のディープニューラルネットワーク(DNN)は、ノイズラベルによるバイアス付きトレーニングデータに容易に適合する。 ラベル修正戦略はこの問題を軽減するために一般的に用いられる。 メタ学習モデルを提案する。
  論文  参考訳（メタデータ） (2020-08-03T03:25:17Z)
• Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant Disease Diagnosis [64.82680813427054]
  植物病は食料安全保障と作物生産に対する主要な脅威の1つである。 1つの一般的なアプローチは、葉画像分類タスクとしてこの問題を変換し、強力な畳み込みニューラルネットワーク(CNN)によって対処できる。 本稿では,正規化メタ学習モジュールを共通CNNパラダイムに組み込んだ新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-17T09:51:30Z)
• Self-Adaptive Training: beyond Empirical Risk Minimization [15.59721834388181]
  余分な計算コストを伴わずにモデル予測により問題ラベルを動的に補正する新しいトレーニングアルゴリズムを提案する。 自己適応型トレーニングは、様々なレベルのノイズに対する一般化を著しく改善し、自然と敵対両方のトレーニングにおいて過度に適合する問題を緩和する。 CIFARとImageNetデータセットの実験は、我々のアプローチの有効性を2つのアプリケーションで検証する。
  論文  参考訳（メタデータ） (2020-02-24T15:47:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。