論文の概要: Robust Losses from Univariate Base Functions for Noisy-Label Learning
- arxiv url: http://arxiv.org/abs/2607.16768v1
- Date: Sat, 18 Jul 2026 11:05:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.256711
- Title: Robust Losses from Univariate Base Functions for Noisy-Label Learning
- Title(参考訳): 雑音ラベル学習のための単変数基底関数からのロバスト損失
- Authors: Peng Hu, Jianwei Ma,
- Abstract要約: ノイズの多いラベルによる学習は、信頼できるディープニューラルネットワークのトレーニングにおける根本的な問題である。
単変量基底関数からロバストな多クラス損失を構成する一般的なフレームワークを提案する。
提案した損失は,様々な騒音条件下での競争力や優れた性能が得られることを示す。
- 参考スコア(独自算出の注目度): 18.268671025343696
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning with noisy labels is a fundamental problem in training reliable deep neural networks. Robust loss functions provide a direct and effective way to mitigate the adverse effects of label noise. However, most existing robust losses are designed directly at the level of the final multiclass objective, which makes it difficult to systematically characterize and extend their robustness properties. In this paper, we propose a general framework that constructs robust multiclass losses from univariate base functions. By defining mapping operators from base functions to multiclass losses, the robustness of the induced losses can be characterized through simple properties of the base functions. We develop two complementary construction schemes, Target Separation and Binary Reduction, corresponding to inter-class independent and inter-class dependent formulations, respectively. For both schemes, we analyze their symmetry and asymmetry properties and derive corresponding sufficient conditions, which provide theoretical criteria for noise-robust loss design. The proposed framework also provides a new route to constructing symmetric losses, serving as a complement to normalization-based symmetric loss designs. Extensive experiments on synthetic and real-world noisy-label benchmarks demonstrate that the proposed losses achieve competitive or superior performance under various noise settings.
- Abstract(参考訳): ノイズの多いラベルによる学習は、信頼できるディープニューラルネットワークのトレーニングにおける根本的な問題である。
ロバスト損失関数は、ラベルノイズの悪影響を軽減する直接的な効果的な方法を提供する。
しかし、既存のロバストな損失のほとんどは、最終マルチクラス目標のレベルで直接設計されているため、そのロバスト性の特性を体系的に特徴づけて拡張することは困難である。
本稿では,単変量基底関数からロバストな多クラス損失を構成する汎用フレームワークを提案する。
基本関数から多クラス損失への写像演算子の定義により、誘導された損失のロバスト性は基底関数の単純な性質によって特徴づけられる。
我々は,クラス間独立・クラス間依存の定式化に対応する,ターゲット分離とバイナリリダクションという2つの補完的な構成手法を開発した。
両スキームの対称性および非対称性特性を解析し,それに対応する十分な条件を導出し,ノイズ・ロバスト損失設計の理論的基準を提供する。
提案フレームワークはまた、正規化に基づく対称損失設計を補完するものとして、対称損失を構築するための新しい経路を提供する。
合成および実世界の雑音ラベルベンチマークの広範囲な実験により、提案された損失は様々な雑音条件下での競争力や優れた性能を達成することが示された。
関連論文リスト
- Symmetrization of Loss Functions for Robust Training of Neural Networks in the Presence of Noisy Labels [48.06655334157014]
本研究では、任意の多クラス損失関数の対称成分への一意分解から生じる対称性化法について検討する。
このマルチクラスのアンヒンジド損失は、ユニークな凸なマルチクラスの対称損失であることを示す。
次に,SGCE と α-MAE という2つの損失関数を導入する。
論文 参考訳(メタデータ) (2026-05-19T18:03:40Z) - Importance-Guided Basis Selection for Low-Rank Decomposition of Large Language Models [9.690793619550654]
本稿では,BSI(Basis Selection with Importance)について紹介する。
我々は,Hutchinsonランダム化探索法を適用し,対称なパラメータ摂動による曲率の減少に適応して,効率的なヘシアン対角推定器を開発した。
本稿では, ベースプルーニングによる損失増加境界, ヘッセン対角線推定誤差のこれらの境界への明示的伝播, ヘッセンスペクトルに関連付けられた分散特性, 目標推定精度を達成するための高確率サンプル-複雑度保証, 摂動強度のガイダンスなど, 包括的な理論的解析を行う。
論文 参考訳(メタデータ) (2026-05-02T22:35:02Z) - Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。
VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。
VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
論文 参考訳(メタデータ) (2026-03-18T01:25:08Z) - Robust low-rank estimation with multiple binary responses using pairwise AUC loss [0.0]
複数のバイナリ応答は、多くの現代のデータ分析問題に現れる。
低ランクモデルはタスク間の遅延依存をエンコードする自然な方法を提供する。
既存のバイナリデータの方法は概ね可能性ベースであり、ポイントワイズ分類に重点を置いている。
論文 参考訳(メタデータ) (2026-01-13T15:00:10Z) - The Multiclass Score-Oriented Loss (MultiSOL) on the Simplex [4.014524824655106]
教師付きバイナリ分類では、トレーニングフェーズ中に選択したパフォーマンスメトリックを直接最適化する目的でスコア指向の損失が導入された。
本稿では、最近導入された多次元しきい値に基づく分類フレームワークを用いて、スコア指向の損失をマルチクラス分類に拡張する。
いくつかの分類実験でも示されているように、この損失の族は二進法で観測される主な利点を維持するために設計されている。
論文 参考訳(メタデータ) (2025-11-27T16:20:55Z) - NDCG-Consistent Softmax Approximation with Accelerated Convergence [67.10365329542365]
本稿では,ランキングの指標と直接一致した新たな損失定式化を提案する。
提案したRG損失を高効率な Alternating Least Squares (ALS) 最適化手法と統合する。
実世界のデータセットに対する実証的な評価は、我々のアプローチが同等または上位のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2025-06-11T06:59:17Z) - Improve Noise Tolerance of Robust Loss via Noise-Awareness [60.34670515595074]
本稿では,NARL-Adjuster(NARL-Adjuster for brevity)と呼ばれる,ハイパーパラメータ予測関数を適応的に学習するメタラーニング手法を提案する。
4つのSOTAロバストな損失関数を我々のアルゴリズムに統合し,提案手法の一般性および性能をノイズ耐性と性能の両面で検証した。
論文 参考訳(メタデータ) (2023-01-18T04:54:58Z) - Label Distributionally Robust Losses for Multi-class Classification:
Consistency, Robustness and Adaptivity [55.29408396918968]
多クラス分類のためのラベル分布ロバスト(LDR)損失という損失関数群について検討した。
我々の貢献は、多クラス分類のためのLDR損失のトップ$kの一貫性を確立することによって、一貫性と堅牢性の両方を含んでいる。
本稿では,各インスタンスのクラスラベルの雑音度に個別化温度パラメータを自動的に適応させる適応型LDR損失を提案する。
論文 参考訳(メタデータ) (2021-12-30T00:27:30Z) - Asymmetric Loss Functions for Learning with Noisy Labels [82.50250230688388]
そこで本研究では,様々なノイズに対する雑音ラベルによる学習に頑健な,新しい損失関数,すなわちテクスティタ対称損失関数を提案する。
ベンチマークデータセットの実験結果は、非対称損失関数が最先端の手法より優れていることを示した。
論文 参考訳(メタデータ) (2021-06-06T12:52:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。