論文の概要: Instance-dependent Label-noise Learning under a Structural Causal Model
- arxiv url: http://arxiv.org/abs/2109.02986v1
- Date: Tue, 7 Sep 2021 10:42:54 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-08 14:48:44.209398
- Title: Instance-dependent Label-noise Learning under a Structural Causal Model
- Title(参考訳): 構造因果モデルによるインスタンス依存ラベルノイズ学習
- Authors: Yu Yao, Tongliang Liu, Mingming Gong, Bo Han, Gang Niu, Kun Zhang
- Abstract要約: ラベルノイズはディープラーニングアルゴリズムの性能を劣化させる。
構造因果モデルを活用することにより,実例依存型ラベルノイズ学習のための新しい生成手法を提案する。
- 参考スコア(独自算出の注目度): 92.76400590283448
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Label noise will degenerate the performance of deep learning algorithms
because deep neural networks easily overfit label errors. Let X and Y denote
the instance and clean label, respectively. When Y is a cause of X, according
to which many datasets have been constructed, e.g., SVHN and CIFAR, the
distributions of P(X) and P(Y|X) are entangled. This means that the
unsupervised instances are helpful to learn the classifier and thus reduce the
side effect of label noise. However, it remains elusive on how to exploit the
causal information to handle the label noise problem. In this paper, by
leveraging a structural causal model, we propose a novel generative approach
for instance-dependent label-noise learning. In particular, we show that
properly modeling the instances will contribute to the identifiability of the
label noise transition matrix and thus lead to a better classifier.
Empirically, our method outperforms all state-of-the-art methods on both
synthetic and real-world label-noise datasets.
- Abstract(参考訳): ラベルノイズは、ディープニューラルネットワークがラベルエラーをオーバーフィットするため、ディープラーニングアルゴリズムのパフォーマンスを低下させる。
X と Y はそれぞれインスタンスとクリーンラベルを表す。
Y が X の原因であるとき、SVHN や CIFAR など多くのデータセットが構築されているため、P(X) と P(Y|X) の分布は絡み合っている。
これは、教師なしインスタンスが分類器の学習に役立ち、ラベルノイズの副作用を低減することを意味する。
しかしながら、ラベルノイズ問題に対処するために因果情報をどのように利用するかは、いまだに不明である。
本稿では,構造的因果モデルを用いて,インスタンス依存ラベル雑音学習のための新しい生成手法を提案する。
特に、インスタンスを適切にモデル化することで、ラベルノイズ遷移行列の識別性が向上し、より優れた分類が可能となることを示す。
実験により,本手法は,合成および実世界のラベルノイズデータセットにおいて,最先端の手法よりも優れていた。
関連論文リスト
- Inaccurate Label Distribution Learning with Dependency Noise [52.08553913094809]
本稿では,依存雑音に基づく不正確なラベル分布学習(DN-ILDL)フレームワークを導入し,ラベル分布学習におけるノイズによる課題に対処する。
本稿では,DN-ILDLがILDL問題に効果的に対処し,既存のLCL法より優れていることを示す。
論文 参考訳(メタデータ) (2024-05-26T07:58:07Z) - Label-Retrieval-Augmented Diffusion Models for Learning from Noisy
Labels [61.97359362447732]
ノイズの多いラベルからの学習は、実際のアプリケーションのための機械学習において、重要かつ長年にわたる問題である。
本稿では,生成モデルの観点からラベルノイズ問題を再構成する。
我々のモデルは、標準的な実世界のベンチマークデータセットで新しいSOTA(State-of-the-art)結果を達成する。
論文 参考訳(メタデータ) (2023-05-31T03:01:36Z) - Rethinking the Value of Labels for Instance-Dependent Label Noise
Learning [43.481591776038144]
実世界のアプリケーションにおけるノイズの多いラベルは、しばしば真のラベルと機能の両方に依存します。
本研究では、ノイズ遷移行列を明示的にモデル化しない新しい深層生成モデルを用いて、インスタンス依存ラベルノイズに対処する。
提案アルゴリズムは,カジュアルな表現学習を活用し,データから高レベルのコンテンツとスタイルの潜伏要素を同時に識別する。
論文 参考訳(メタデータ) (2023-05-10T15:29:07Z) - Tackling Instance-Dependent Label Noise via a Universal Probabilistic
Model [80.91927573604438]
本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。
合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
論文 参考訳(メタデータ) (2021-01-14T05:43:51Z) - A Second-Order Approach to Learning with Instance-Dependent Label Noise [58.555527517928596]
ラベルノイズの存在は、しばしばディープニューラルネットワークのトレーニングを誤解させる。
人間による注釈付きラベルのエラーは、タスクの難易度レベルに依存する可能性が高いことを示しています。
論文 参考訳(メタデータ) (2020-12-22T06:36:58Z) - Analysis of label noise in graph-based semi-supervised learning [2.4366811507669124]
機械学習では、目に見えないデータに一般化できるモデルを監督するためにラベルを取得する必要がある。
多くの場合、私たちのデータのほとんどはラベル付けされていない。
半教師付き学習(SSL)は、ラベルと入力データ分布の関係について強い仮定をすることで緩和する。
論文 参考訳(メタデータ) (2020-09-27T22:13:20Z) - Label Noise Types and Their Effects on Deep Learning [0.0]
本研究では,異なる種類のラベルノイズが学習に与える影響を詳細に分析する。
本稿では,特徴に依存したラベルノイズを生成する汎用フレームワークを提案する。
他の研究者がノイズの多いラベルでアルゴリズムをテストしやすいように、最も一般的に使用されているベンチマークデータセットに対して、破損したラベルを共有します。
論文 参考訳(メタデータ) (2020-03-23T18:03:39Z) - Multi-Class Classification from Noisy-Similarity-Labeled Data [98.13491369929798]
雑音に類似したラベル付きデータのみから学習する方法を提案する。
ノイズ遷移行列を用いて、クリーンデータとノイズデータの間にクラス後確率をブリッジする。
雑音のないクラスラベルをインスタンスに割り当てる新しい学習システムを構築した。
論文 参考訳(メタデータ) (2020-02-16T05:10:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。