論文の概要: Symmetrization of Loss Functions for Robust Training of Neural Networks in the Presence of Noisy Labels
- arxiv url: http://arxiv.org/abs/2605.20347v1
- Date: Tue, 19 May 2026 18:03:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.30824
- Title: Symmetrization of Loss Functions for Robust Training of Neural Networks in the Presence of Noisy Labels
- Title(参考訳): 雑音ラベル存在下でのニューラルネットワークのロバストトレーニングにおける損失関数の対称性
- Authors: Alexandre Lemire Paquin, Brahim Chaib-Draa, Philippe Giguère,
- Abstract要約: 本研究では、任意の多クラス損失関数の対称成分への一意分解から生じる対称性化法について検討する。
このマルチクラスのアンヒンジド損失は、ユニークな凸なマルチクラスの対称損失であることを示す。
次に,SGCE と α-MAE という2つの損失関数を導入する。
- 参考スコア(独自算出の注目度): 48.06655334157014
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Labeling a training set is often expensive and susceptible to errors, making the design of robust loss functions for label noise an important problem. The symmetry condition provides theoretical guarantees for robustness to such noise. In this work, we study a symmetrization method arising from the unique decomposition of any multi-class loss function into a symmetric component and a class-insensitive term. In particular, symmetrizing the cross-entropy loss leads to a linear multi-class extension of the unhinged loss. Unlike in the binary case, the multi-class version must have specific coefficients in order to satisfy the symmetry condition. Under suitable assumptions, we show that this multi-class unhinged loss is the unique convex multi-class symmetric loss. We also show that it has a fundamental local role: the linear approximation of any symmetric loss around score vectors with equal components is equivalent to the multi-class unhinged loss. We then introduce SGCE and alpha-MAE, two loss functions that interpolate between the multi-class unhinged loss and the Mean Absolute Error while allowing control of the beta-smoothness of the loss. Experiments on standard noisy-label benchmarks show competitive performance compared with existing robust loss functions.
- Abstract(参考訳): トレーニングセットのラベル付けは、しばしばコストが高く、エラーの影響を受けやすいため、ラベルノイズに対するロバストな損失関数の設計が重要な問題となる。
対称性条件は、そのようなノイズに対するロバスト性の理論的な保証を提供する。
本研究では、任意の多クラス損失関数の対称成分とクラス非感受性項への一意分解から生じる対称性化法について検討する。
特に、クロスエントロピー損失の対称性は、アンヒンジド損失の線形多クラス拡張につながる。
二項の場合とは異なり、マルチクラス版は対称性条件を満たすために特定の係数を持つ必要がある。
適切な仮定の下で、このマルチクラスのアンヒンジド損失は、ユニークな凸なマルチクラスの対称損失であることを示す。
スコアベクトルに等しい成分を持つ任意の対称損失の線形近似は、マルチクラスアンヒンジド損失と同値である。
次に,SGCE と α-MAE という2つの損失関数を導入し,損失のβ-smoothness を制御しながら,マルチクラス・アンヒンジド・ロスと平均絶対誤差を補間する。
標準ノイズラベルベンチマークの実験は、既存のロバストな損失関数と比較して競合性能を示す。
関連論文リスト
- Lower Bounds on Adversarial Robustness for Multiclass Classification with General Loss Functions [4.562056072136493]
任意の損失関数の下での多クラス設定における逆ロバストな分類について考察する。
学習者に依存しない頑健なリスク問題の二重化と偏心化を導出する。
論文 参考訳(メタデータ) (2025-10-02T12:42:36Z) - Joint Asymmetric Loss for Learning with Noisy Labels [95.14298444251044]
対称的な損失は通常、過度に厳格な制約のために不適合な問題に悩まされる。
APL内では、対称的な損失がうまく拡張され、高度なロバストな損失関数が得られた。
JAL(Joint Asymmetric Loss)と呼ばれる新しいロバスト損失フレームワークを導入する。
論文 参考訳(メタデータ) (2025-07-23T16:57:43Z) - Label Distributionally Robust Losses for Multi-class Classification:
Consistency, Robustness and Adaptivity [55.29408396918968]
多クラス分類のためのラベル分布ロバスト(LDR)損失という損失関数群について検討した。
我々の貢献は、多クラス分類のためのLDR損失のトップ$kの一貫性を確立することによって、一貫性と堅牢性の両方を含んでいる。
本稿では,各インスタンスのクラスラベルの雑音度に個別化温度パラメータを自動的に適応させる適応型LDR損失を提案する。
論文 参考訳(メタデータ) (2021-12-30T00:27:30Z) - Asymmetric Loss Functions for Learning with Noisy Labels [82.50250230688388]
そこで本研究では,様々なノイズに対する雑音ラベルによる学習に頑健な,新しい損失関数,すなわちテクスティタ対称損失関数を提案する。
ベンチマークデータセットの実験結果は、非対称損失関数が最先端の手法より優れていることを示した。
論文 参考訳(メタデータ) (2021-06-06T12:52:48Z) - A Symmetric Loss Perspective of Reliable Machine Learning [87.68601212686086]
平衡誤差率 (BER) の最小化において, 対称損失が破損ラベルからのロバストな分類をいかに生み出すかを検討する。
我々は、関連するキーワードからのみ学習したい問題において、AUC手法が自然言語処理にどのように役立つかを実証する。
論文 参考訳(メタデータ) (2021-01-05T06:25:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。