論文の概要: Multi-Label Noise Transition Matrix Estimation with Label Correlations: Theory and Algorithm

• arxiv url: http://arxiv.org/abs/2309.12706v1
• Date: Fri, 22 Sep 2023 08:35:38 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-25 15:20:34.253873
• Title: Multi-Label Noise Transition Matrix Estimation with Label Correlations: Theory and Algorithm
• Title（参考訳）: ラベル相関を用いたマルチラベル雑音遷移行列推定:理論とアルゴリズム
• Authors: Shikun Li, Xiaobo Xia, Hansong Zhang, Shiming Ge, Tongliang Liu
• Abstract要約: ノイズの多いマルチラベル学習は、大規模な正確なラベルの収集によって生じる課題により、注目を集めている。 遷移行列の導入は、マルチラベルノイズをモデル化し、統計的に一貫したアルゴリズムの開発に役立つ。 そこで本稿では, アンカーポイントを必要とせずに, ラベル相関を利用した新しい推定器を提案する。
• 参考スコア（独自算出の注目度）: 73.94839250910977
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Noisy multi-label learning has garnered increasing attention due to the challenges posed by collecting large-scale accurate labels, making noisy labels a more practical alternative. Motivated by noisy multi-class learning, the introduction of transition matrices can help model multi-label noise and enable the development of statistically consistent algorithms for noisy multi-label learning. However, estimating multi-label noise transition matrices remains a challenging task, as most existing estimators in noisy multi-class learning rely on anchor points and accurate fitting of noisy class posteriors, which is hard to satisfy in noisy multi-label learning. In this paper, we address this problem by first investigating the identifiability of class-dependent transition matrices in noisy multi-label learning. Building upon the identifiability results, we propose a novel estimator that leverages label correlations without the need for anchor points or precise fitting of noisy class posteriors. Specifically, we first estimate the occurrence probability of two noisy labels to capture noisy label correlations. Subsequently, we employ sample selection techniques to extract information implying clean label correlations, which are then used to estimate the occurrence probability of one noisy label when a certain clean label appears. By exploiting the mismatches in label correlations implied by these occurrence probabilities, we demonstrate that the transition matrix becomes identifiable and can be acquired by solving a bilinear decomposition problem. Theoretically, we establish an estimation error bound for our multi-label transition matrix estimator and derive a generalization error bound for our statistically consistent algorithm. Empirically, we validate the effectiveness of our estimator in estimating multi-label noise transition matrices, leading to excellent classification performance.
• Abstract（参考訳）: 騒がしいマルチレーベル学習は、大規模な正確なラベルを収集し、ノイズラベルをより実用的な代替手段にすることで生じる課題により、注目を集めている。 ノイズの多いマルチクラス学習によって動機付けられた遷移行列の導入は、マルチラベルノイズをモデル化し、ノイズの多いマルチラベル学習のための統計的に一貫したアルゴリズムの開発を可能にする。 しかし,マルチラベル音遷移行列の推定は難解な課題であり,ノイズ多層学習における既存の推定者はアンカーポイントとノイズクラス後方の正確な適合に依存しており,ノイズ多層学習では満足できない。 本稿では,まず,ノイズの多い複数ラベル学習におけるクラス依存遷移行列の識別可能性について検討する。 そこで本研究では, アンカーポイントを必要とせず, ノイズのあるクラス後部を正確に適合させることなく, ラベル相関を利用した新しい推定器を提案する。 具体的には,まず2つの雑音ラベルの発生確率を推定し,雑音ラベル相関を捉える。 その後,クリーンラベル相関を示す情報を抽出するためにサンプル選択手法を用い,あるクリーンラベルが出現したときのノイズラベルの発生確率を推定する。 これらの発生確率が示唆するラベル相関のミスマッチを利用して, 遷移行列が同定可能となり, 双線型分解問題を解くことで得られることを示す。 理論的には,多ラベル遷移行列推定器に対して推定誤差を定め,統計的に一貫したアルゴリズムに対して一般化誤差を導出する。 実験により,マルチラベル雑音遷移行列の推定における推定器の有効性を検証することにより,分類性能が向上した。

関連論文リスト

• Rethinking the Value of Labels for Instance-Dependent Label Noise Learning [43.481591776038144]
  実世界のアプリケーションにおけるノイズの多いラベルは、しばしば真のラベルと機能の両方に依存します。 本研究では、ノイズ遷移行列を明示的にモデル化しない新しい深層生成モデルを用いて、インスタンス依存ラベルノイズに対処する。 提案アルゴリズムは,カジュアルな表現学習を活用し,データから高レベルのコンテンツとスタイルの潜伏要素を同時に識別する。
  論文  参考訳（メタデータ） (2023-05-10T15:29:07Z)
• Clusterability as an Alternative to Anchor Points When Learning with Noisy Labels [7.920797564912219]
  本稿では,クラスタ可能性条件に基づく効率的な推定手法を提案する。 アンカーポイントを使った手法と比較して、我々のアプローチはより多くのインスタンスを使用し、より優れたサンプル複雑さの恩恵を受ける。
  論文  参考訳（メタデータ） (2021-02-10T07:22:56Z)
• Learning Noise Transition Matrix from Only Noisy Labels via Total Variation Regularization [88.91872713134342]
  本稿では,雑音遷移行列を推定し,同時に分類器を学習する理論的基礎付け手法を提案する。 提案手法の有効性を,ベンチマークおよび実世界のデータセットを用いた実験により示す。
  論文  参考訳（メタデータ） (2021-02-04T05:09:18Z)
• Extended T: Learning with Mixed Closed-set and Open-set Noisy Labels [86.5943044285146]
  ラベルノイズ遷移行列$T$は、真のラベルがノイズのあるものへと反転する確率を反映する。 本稿では,閉集合と開集合の混在したラベル雑音下での学習に着目した。 本手法は,従来の最先端のラベル雑音学習法よりも頑健な性能を追求し,混合ラベル雑音をモデル化する。
  論文  参考訳（メタデータ） (2020-12-02T02:42:45Z)
• Dual T: Reducing Estimation Error for Transition Matrix in Label-noise Learning [157.2709657207203]
  遷移行列を推定する既存の方法は、ノイズのあるクラス後部を推定することに大きく依存している。 雑音のクラス後部を直接推定するのを避けるために中間クラスを導入する。 この中間クラスにより、元の遷移行列は2つの容易に推定できる遷移行列の積に分解できる。
  論文  参考訳（メタデータ） (2020-06-14T05:48:20Z)
• Meta Transition Adaptation for Robust Deep Learning with Noisy Labels [61.8970957519509]
  本研究では,新しいメタ遷移学習戦略を提案する。 具体的には、クリーンなラベル付きメタデータの小さなセットのサウンドガイダンスにより、ノイズ遷移行列と分類器パラメータを相互に改善することができる。 本手法は, 従来技術よりも頑健な性能で, 遷移行列をより正確に抽出することができる。
  論文  参考訳（メタデータ） (2020-06-10T07:27:25Z)
• Multi-Class Classification from Noisy-Similarity-Labeled Data [98.13491369929798]
  雑音に類似したラベル付きデータのみから学習する方法を提案する。 ノイズ遷移行列を用いて、クリーンデータとノイズデータの間にクラス後確率をブリッジする。 雑音のないクラスラベルをインスタンスに割り当てる新しい学習システムを構築した。
  論文  参考訳（メタデータ） (2020-02-16T05:10:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。