論文の概要: Multi-class Label Noise Learning via Loss Decomposition and Centroid
Estimation
- arxiv url: http://arxiv.org/abs/2203.10858v1
- Date: Mon, 21 Mar 2022 10:28:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 18:13:49.897981
- Title: Multi-class Label Noise Learning via Loss Decomposition and Centroid
Estimation
- Title(参考訳): 損失分解とセントロイド推定による多クラスラベル雑音学習
- Authors: Yongliang Ding, Tao Zhou, Chuang Zhang, Yijing Luo, Juan Tang, Chen
Gong
- Abstract要約: ロス分解とセントロイド推定(LDCE)のための新しい多クラス頑健な学習法を提案する。
具体的には、一般に採用されている損失関数をラベル依存部分とラベル非依存部分に分解する。
新しいデータセントロイドの定義により,ラベル依存部分の回復問題をセントロイド推定問題に変換する。
- 参考スコア(独自算出の注目度): 25.098485298561155
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In real-world scenarios, many large-scale datasets often contain inaccurate
labels, i.e., noisy labels, which may confuse model training and lead to
performance degradation. To overcome this issue, Label Noise Learning (LNL) has
recently attracted much attention, and various methods have been proposed to
design an unbiased risk estimator to the noise-free dataset to combat such
label noise. Among them, a trend of works based on Loss Decomposition and
Centroid Estimation (LDCE) has shown very promising performance. However,
existing LNL methods based on LDCE are only designed for binary classification,
and they are not directly extendable to multi-class situations. In this paper,
we propose a novel multi-class robust learning method for LDCE, which is termed
"MC-LDCE". Specifically, we decompose the commonly adopted loss (e.g., mean
squared loss) function into a label-dependent part and a label-independent
part, in which only the former is influenced by label noise. Further, by
defining a new form of data centroid, we transform the recovery problem of a
label-dependent part to a centroid estimation problem. Finally, by critically
examining the mathematical expectation of clean data centroid given the
observed noisy set, the centroid can be estimated which helps to build an
unbiased risk estimator for multi-class learning. The proposed MC-LDCE method
is general and applicable to different types (i.e., linear and nonlinear) of
classification models. The experimental results on five public datasets
demonstrate the superiority of the proposed MC-LDCE against other
representative LNL methods in tackling multi-class label noise problem.
- Abstract(参考訳): 現実のシナリオでは、多くの大規模データセットは、しばしば不正確なラベル、すなわちノイズラベルを含んでいる。
この問題を解決するためにラベルノイズ学習(lnl)が最近注目を集めており、ラベルノイズに対処するためにノイズフリーデータセットにバイアスのないリスク推定器を設計するための様々な手法が提案されている。
その中でも、ロス分解とセントロイド推定(LDCE)に基づく研究の傾向は、非常に有望な性能を示している。
しかし、LDCEに基づく既存のLNL法はバイナリ分類のためにのみ設計されており、これらは直接マルチクラスに拡張できない。
本稿では,「MC-LDCE」と呼ばれるLDCEのマルチクラス頑健な学習手法を提案する。
具体的には、一般に採用されている損失(平均二乗損失)関数をラベル依存部分とラベル非依存部分に分解し、前者のみがラベルノイズの影響を受ける。
さらに,新たな形式のデータセンタロイドを定義することにより,ラベル依存部の回復問題をセンタロイド推定問題に変換する。
最後に、観測されたノイズ集合から得られたクリーンデータセントロイドの数学的期待を批判的に検証することにより、偏りのないリスク推定器の構築に役立つセントロイドを推定することができる。
提案したMC-LDCE法は,分類モデルの異なるタイプ(線形および非線形)に適用可能である。
5つの公開データセットに対する実験結果は、MC-LDCEがマルチクラスラベルノイズ問題に対処する際の他の代表LNL法よりも優れていることを示す。
関連論文リスト
- Trusted Multi-view Learning with Label Noise [17.458306450909316]
マルチビュー学習手法は、意思決定の不確実性を無視しながら、意思決定精度の向上に焦点を当てることが多い。
本稿では,この問題を解決するため,信頼度の高いマルチビューノイズ修正手法を提案する。
我々は,TMNRと最先端のマルチビュー学習,および5つの公開データセットに基づくラベルノイズ学習ベースラインを実証的に比較した。
論文 参考訳(メタデータ) (2024-04-18T06:47:30Z) - Combating Label Noise With A General Surrogate Model For Sample
Selection [84.61367781175984]
本稿では,視覚言語サロゲートモデルCLIPを用いて,雑音の多いサンプルを自動的にフィルタリングする手法を提案する。
提案手法の有効性を実世界および合成ノイズデータセットで検証した。
論文 参考訳(メタデータ) (2023-10-16T14:43:27Z) - Adaptive Negative Evidential Deep Learning for Open-set Semi-supervised Learning [69.81438976273866]
オープンセット半教師付き学習(Open-set SSL)は、ラベル付きデータ(inliers)で観測されない新しいカテゴリ(outliers)を含むラベル付きデータとテストデータを含む、より実践的なシナリオである。
本研究では,様々な不確かさを定量化するための外乱検出器として顕在的深層学習(EDL)を導入し,自己学習と推論のための異なる不確実性指標を設計する。
Inlierとoutlierの両方を含むラベルなしデータセットに適合するように、新しい適応的負の最適化戦略を提案する。
論文 参考訳(メタデータ) (2023-03-21T09:07:15Z) - Learning with Noisy Labels through Learnable Weighting and Centroid Similarity [5.187216033152917]
ノイズラベルは、医学診断や自律運転などの領域で一般的である。
本稿では,雑音ラベルの存在下で機械学習モデルを訓練するための新しい手法を提案する。
以上の結果から,本手法は既存の最先端技術よりも一貫して優れていることがわかった。
論文 参考訳(メタデータ) (2023-03-16T16:43:24Z) - Latent Class-Conditional Noise Model [54.56899309997246]
本稿では,ベイズ的枠組みの下での雑音遷移をパラメータ化するためのLatent Class-Conditional Noise Model (LCCN)を提案する。
次に、Gibs sampler を用いて遅延真のラベルを効率的に推測できる LCCN の動的ラベル回帰法を導出する。
提案手法は,サンプルのミニバッチから事前の任意チューニングを回避するため,ノイズ遷移の安定な更新を保護している。
論文 参考訳(メタデータ) (2023-02-19T15:24:37Z) - Learning Confident Classifiers in the Presence of Label Noise [5.829762367794509]
本稿では,ノイズ観測のための確率論的モデルを提案し,信頼性の高い分類とセグメンテーションモデルの構築を可能にする。
実験により,本アルゴリズムは,検討された分類問題と分割問題に対して,最先端の解よりも優れていることが示された。
論文 参考訳(メタデータ) (2023-01-02T04:27:25Z) - Class-Imbalanced Complementary-Label Learning via Weighted Loss [8.934943507699131]
補完ラベル学習(Complementary-label Learning, CLL)は、弱い教師付き分類において広く用いられている。
クラス不均衡のトレーニングサンプルに直面すると、現実世界のデータセットでは大きな課題に直面します。
多クラス分類のためのクラス不均衡補完ラベルからの学習を可能にする新しい問題設定を提案する。
論文 参考訳(メタデータ) (2022-09-28T16:02:42Z) - Learning from Label Proportions by Learning with Label Noise [30.7933303912474]
ラベル比例(LLP)からの学習は、データポイントをバッグに分類する弱い教師付き分類問題である。
ラベル雑音による学習の低減に基づくLLPに対する理論的基礎的なアプローチを提案する。
このアプローチは、複数のデータセットやアーキテクチャにわたるディープラーニングシナリオにおける経験的パフォーマンスの向上を実証する。
論文 参考訳(メタデータ) (2022-03-04T18:52:21Z) - L2B: Learning to Bootstrap Robust Models for Combating Label Noise [52.02335367411447]
本稿では,Learning to Bootstrap (L2B) という,シンプルで効果的な手法を提案する。
モデルは、誤った擬似ラベルの影響を受けずに、自身の予測を使ってブートストラップを行うことができる。
これは、実際の観測されたラベルと生成されたラベル間の重みを動的に調整し、メタラーニングを通じて異なるサンプル間の重みを動的に調整することで実現される。
論文 参考訳(メタデータ) (2022-02-09T05:57:08Z) - Tackling Instance-Dependent Label Noise via a Universal Probabilistic
Model [80.91927573604438]
本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。
合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
論文 参考訳(メタデータ) (2021-01-14T05:43:51Z) - Progressive Identification of True Labels for Partial-Label Learning [112.94467491335611]
部分ラベル学習(Partial-label Learning, PLL)は、典型的な弱教師付き学習問題であり、各トレーニングインスタンスには、真のラベルである候補ラベルのセットが設けられている。
既存のほとんどの手法は、特定の方法で解決しなければならない制約付き最適化として精巧に設計されており、計算複雑性をビッグデータにスケールアップするボトルネックにしている。
本稿では,モデルと最適化アルゴリズムの柔軟性を備えた分類器の新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-19T08:35:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。