論文の概要: Approximating Instance-Dependent Noise via Instance-Confidence Embedding

• arxiv url: http://arxiv.org/abs/2103.13569v1
• Date: Thu, 25 Mar 2021 02:33:30 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-26 13:52:26.076490
• Title: Approximating Instance-Dependent Noise via Instance-Confidence Embedding
• Title（参考訳）: インスタンス信頼埋め込みによるインスタンス依存ノイズの近似
• Authors: Yivan Zhang, Masashi Sugiyama
• Abstract要約: マルチクラス分類におけるラベルノイズは、学習システムの展開にとって大きな障害である。 インスタンス依存ノイズ(IDN)モデルを調査し、IDNの効率的な近似を提案し、インスタンス固有のラベル破損を捕捉する。
• 参考スコア（独自算出の注目度）: 87.65718705642819
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Label noise in multiclass classification is a major obstacle to the deployment of learning systems. However, unlike the widely used class-conditional noise (CCN) assumption that the noisy label is independent of the input feature given the true label, label noise in real-world datasets can be aleatory and heavily dependent on individual instances. In this work, we investigate the instance-dependent noise (IDN) model and propose an efficient approximation of IDN to capture the instance-specific label corruption. Concretely, noting the fact that most columns of the IDN transition matrix have only limited influence on the class-posterior estimation, we propose a variational approximation that uses a single-scalar confidence parameter. To cope with the situation where the mapping from the instance to its confidence value could vary significantly for two adjacent instances, we suggest using instance embedding that assigns a trainable parameter to each instance. The resulting instance-confidence embedding (ICE) method not only performs well under label noise but also can effectively detect ambiguous or mislabeled instances. We validate its utility on various image and text classification tasks.
• Abstract（参考訳）: 多クラス分類におけるラベルノイズは,学習システムの展開において大きな障害となる。 しかし、実世界のデータセットのラベルノイズは個々のインスタンスに大きく依存するので、広く使われているクラス条件ノイズ(CCN)の仮定とは異なり、ノイズラベルは真のラベルが与えられた入力特徴とは独立である。 本稿では,インスタンス依存ノイズ(idn)モデルを調査し,インスタンス固有のラベル破壊を捉えるためのidnの効率的な近似を提案する。 具体的には,idn遷移行列のほとんどの列がクラス後推定に限られた影響しか与えていないことを指摘し,単一スカラー信頼度パラメータを用いた変分近似を提案する。 隣接する2つのインスタンスに対して、各インスタンスからその信頼性値へのマッピングが著しく異なる状況に対処するため、各インスタンスにトレーニング可能なパラメータを割り当てるインスタンス埋め込みを提案する。 結果として生じるインスタンス信頼埋め込み(ICE)法はラベルノイズ下では良好に機能するだけでなく、あいまいなインスタンスや誤ラベルされたインスタンスを効果的に検出することができる。 様々な画像やテキストの分類タスクで有効性を検証する。

関連論文リスト

• InstanT: Semi-supervised Learning with Instance-dependent Thresholds [75.91684890150283]
  本稿では,既存手法と比較して高い自由度を有するインスタンス依存しきい値の研究を提案する。 インスタンスレベルのあいまいさと擬似ラベルのインスタンス依存エラー率を利用して、すべての未ラベルインスタンスに対して新しいインスタンス依存しきい値関数を考案する。
  論文  参考訳（メタデータ） (2023-10-29T05:31:43Z)
• Instance-Dependent Noisy Label Learning via Graphical Modelling [30.922188228545906]
  ディープラーニングのエコシステムでは、モデルが簡単に過度に適合できるため、ノイズの多いラベルは厄介です。 本稿では、識別モデルと生成モデルを組み合わせた、インスタンスGMと呼ばれる新しいグラフィカルモデリング手法を提案する。
  論文  参考訳（メタデータ） (2022-09-02T09:27:37Z)
• S3: Supervised Self-supervised Learning under Label Noise [53.02249460567745]
  本稿では,ラベルノイズの存在下での分類の問題に対処する。 提案手法の核心は,サンプルのアノテートラベルと特徴空間内のその近傍のラベルの分布との整合性に依存するサンプル選択機構である。 提案手法は,CIFARCIFAR100とWebVisionやANIMAL-10Nなどの実環境ノイズデータセットの両方で,従来の手法をはるかに上回っている。
  論文  参考訳（メタデータ） (2021-11-22T15:49:20Z)
• Tackling Instance-Dependent Label Noise via a Universal Probabilistic Model [80.91927573604438]
  本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。 合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
  論文  参考訳（メタデータ） (2021-01-14T05:43:51Z)
• A Second-Order Approach to Learning with Instance-Dependent Label Noise [58.555527517928596]
  ラベルノイズの存在は、しばしばディープニューラルネットワークのトレーニングを誤解させる。 人間による注釈付きラベルのエラーは、タスクの難易度レベルに依存する可能性が高いことを示しています。
  論文  参考訳（メタデータ） (2020-12-22T06:36:58Z)
• Confidence Scores Make Instance-dependent Label-noise Learning Possible [129.84497190791103]
  ノイズのあるラベルで学習する際、そのラベルはノイズモデルと呼ばれる遷移分布に従ってランダムに他のクラスに移動することができる。 我々は、各インスタンスラベル対に信頼スコアを付与する、信頼スコア付きインスタンス依存ノイズ(CSIDN)を導入する。 信頼性スコアの助けを借りて、各インスタンスの遷移分布を推定できる。
  論文  参考訳（メタデータ） (2020-01-11T16:15:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。