論文の概要: Estimating Instance-dependent Label-noise Transition Matrix using DNNs
- arxiv url: http://arxiv.org/abs/2105.13001v1
- Date: Thu, 27 May 2021 08:36:54 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-28 16:16:08.666647
- Title: Estimating Instance-dependent Label-noise Transition Matrix using DNNs
- Title(参考訳): DNNを用いたインスタンス依存ラベルノイズ遷移行列の推定
- Authors: Shuo Yang, Erkun Yang, Bo Han, Yang Liu, Min Xu, Gang Niu, Tongliang
Liu
- Abstract要約: ラベルノイズ学習では、遷移行列の推定がホットトピックである。
本稿では,ベイズ最適分布から雑音分布への遷移を直接モデル化する。
この利点を生かして、ディープニューラルネットワークをパラメータ化してベイズラベル遷移行列を推定する。
- 参考スコア(独自算出の注目度): 66.29979882301265
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In label-noise learning, estimating the transition matrix is a hot topic as
the matrix plays an important role in building statistically consistent
classifiers. Traditionally, the transition from clean distribution to noisy
distribution (i.e., clean label transition matrix) has been widely exploited to
learn a clean label classifier by employing the noisy data. Motivated by that
classifiers mostly output Bayes optimal labels for prediction, in this paper,
we study to directly model the transition from Bayes optimal distribution to
noisy distribution (i.e., Bayes label transition matrix) and learn a Bayes
optimal label classifier. Note that given only noisy data, it is ill-posed to
estimate either the clean label transition matrix or the Bayes label transition
matrix. But favorably, Bayes optimal labels are less uncertain compared with
the clean labels, i.e., the class posteriors of Bayes optimal labels are
one-hot vectors while those of clean labels are not. This enables two
advantages to estimate the Bayes label transition matrix, i.e., (a) we could
theoretically recover a set of Bayes optimal labels under mild conditions; (b)
the feasible solution space is much smaller. By exploiting the advantages, we
estimate the Bayes label transition matrix by employing a deep neural network
in a parameterized way, leading to better generalization and superior
classification performance.
- Abstract(参考訳): ラベルノイズ学習では、行列が統計的に一貫性のある分類器を構築する上で重要な役割を果たすため、遷移行列の推定はホットな話題である。
従来、クリーン分布からノイズ分布(すなわちクリーンラベル遷移行列)への移行は、ノイズデータを用いてクリーンラベル分類法を学ぶために広く利用されてきた。
本稿では,ベイズ最適分布から雑音分布(ベイズラベル遷移行列)への遷移を直接モデル化し,ベイズ最適ラベル分類法を学習する。
ノイズデータのみを与えられた場合、クリーンラベル遷移行列またはベイズラベル遷移行列のいずれかを推定することは不適切である。
しかし好ましくは、ベイズ最適ラベルはクリーンラベルに比べて不確実性が低く、すなわちベイズ最適ラベルのクラス後方はワンホットベクターであり、クリーンラベルはそうではない。
これによりベイズラベル遷移行列を推定する2つの利点、すなわち (a) マイルドな条件下でベイズ最適ラベルの集合を理論的に回収することができる、 (b) 実現可能な解空間はずっと小さい。
この利点を生かして,深層ニューラルネットワークをパラメータ化することでベイズラベル遷移行列を推定し,より一般化され,分類性能が向上した。
関連論文リスト
- Complementary to Multiple Labels: A Correlation-Aware Correction
Approach [65.59584909436259]
理論上, マルチクラスCLLにおける遷移行列が, 複数ラベルの場合どのように歪むかを示す。
候補ラベルから遷移行列を推定する2段階の手法を提案する。
論文 参考訳(メタデータ) (2023-02-25T04:48:48Z) - Multi-label Classification with High-rank and High-order Label
Correlations [62.39748565407201]
従来の手法では, ラベル行列を低ランク行列係数化した潜在ラベル空間に変換することにより, 高階ラベル相関を捕えることができた。
本稿では,高次ラベル相関を明示的に記述する簡易かつ効果的な手法を提案し,同時にラベル行列の高次値を維持する。
12個のベンチマークデータセットの比較研究により,マルチラベル分類における提案アルゴリズムの有効性が検証された。
論文 参考訳(メタデータ) (2022-07-09T05:15:31Z) - Provably End-to-end Label-Noise Learning without Anchor Points [118.97592870124937]
本稿では,アンカーポイントを使わずにラベルノイズ学習を実現するためのエンドツーエンドフレームワークを提案する。
提案フレームワークでは,クリーンなクラス後確率が十分に分散している場合,遷移行列を同定できる。
論文 参考訳(メタデータ) (2021-02-04T03:59:37Z) - Extended T: Learning with Mixed Closed-set and Open-set Noisy Labels [86.5943044285146]
ラベルノイズ遷移行列$T$は、真のラベルがノイズのあるものへと反転する確率を反映する。
本稿では,閉集合と開集合の混在したラベル雑音下での学習に着目した。
本手法は,従来の最先端のラベル雑音学習法よりも頑健な性能を追求し,混合ラベル雑音をモデル化する。
論文 参考訳(メタデータ) (2020-12-02T02:42:45Z) - Error-Bounded Correction of Noisy Labels [17.510654621245656]
ノイズのある分類器の予測は、トレーニングデータのラベルがクリーンかどうかを示す良い指標であることを示す。
理論的結果に基づいて,雑音分類器の予測に基づいてラベルを補正する新しいアルゴリズムを提案する。
ラベル補正アルゴリズムをディープニューラルネットワークのトレーニングや,複数の公開データセット上で優れたテスト性能を実現するトレーニングモデルに組み込む。
論文 参考訳(メタデータ) (2020-11-19T19:23:23Z) - Dual T: Reducing Estimation Error for Transition Matrix in Label-noise
Learning [157.2709657207203]
遷移行列を推定する既存の方法は、ノイズのあるクラス後部を推定することに大きく依存している。
雑音のクラス後部を直接推定するのを避けるために中間クラスを導入する。
この中間クラスにより、元の遷移行列は2つの容易に推定できる遷移行列の積に分解できる。
論文 参考訳(メタデータ) (2020-06-14T05:48:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。