論文の概要: How Does Heterogeneous Label Noise Impact Generalization in Neural Nets?

• arxiv url: http://arxiv.org/abs/2106.15475v1
• Date: Tue, 29 Jun 2021 14:58:46 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-30 20:05:14.725215
• Title: How Does Heterogeneous Label Noise Impact Generalization in Neural Nets?
• Title（参考訳）: 異種ラベルノイズはニューラルネットの一般化にどのように影響するか?
• Authors: Bidur Khanal and Christopher Kanan
• Abstract要約: 誤ラベル付き例(ラベルノイズ)は、現実のコンピュータビジョンデータセットで一般的である。 実世界では、ラベルノイズはしばしば異種であり、いくつかのカテゴリーは他のものよりも大きな影響を受けている。
• 参考スコア（独自算出の注目度）: 29.326472933292603
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Incorrectly labeled examples, or label noise, is common in real-world computer vision datasets. While the impact of label noise on learning in deep neural networks has been studied in prior work, these studies have exclusively focused on homogeneous label noise, i.e., the degree of label noise is the same across all categories. However, in the real-world, label noise is often heterogeneous, with some categories being affected to a greater extent than others. Here, we address this gap in the literature. We hypothesized that heterogeneous label noise would only affect the classes that had label noise unless there was transfer from those classes to the classes without label noise. To test this hypothesis, we designed a series of computer vision studies using MNIST, CIFAR-10, CIFAR-100, and MS-COCO where we imposed heterogeneous label noise during the training of multi-class, multi-task, and multi-label systems. Our results provide evidence in support of our hypothesis: label noise only affects the class affected by it unless there is transfer.
• Abstract（参考訳）: 誤ラベル付き例(ラベルノイズ)は、現実のコンピュータビジョンデータセットで一般的である。 深層ニューラルネットワークの学習におけるラベルノイズの影響は先行研究で研究されてきたが、これらの研究はラベルノイズの均質性、すなわちラベルノイズの程度にのみ焦点が当てられている。 しかし、現実の世界ではラベルノイズはしばしば異種であり、一部のカテゴリは他のカテゴリよりも大きな影響を受けている。 ここでは、文献のこのギャップに対処する。 異種ラベルノイズがラベルノイズを伴わないクラスに移行しなければ,ラベルノイズを持つクラスにのみ影響すると仮定した。 この仮説を検証するために,MNIST,CIFAR-10,CIFAR-100,MS-COCOを用いたコンピュータビジョン研究を設計し,マルチクラス,マルチタスク,マルチラベルシステムのトレーニング中に異種ラベルノイズを課した。 ラベルノイズは、転送がない限り、影響を受けるクラスにのみ影響します。

関連論文リスト

• AlleNoise: large-scale text classification benchmark dataset with real-world label noise [40.11095094521714]
  我々は、実世界のインスタンス依存ラベルノイズを持つ新しいキュレートされたテキスト分類ベンチマークであるAlleNoiseを提示する。 ノイズの分布は、主要なeコマースマーケットプレースの実際のユーザから来ており、人間のミスの意味を現実的に反映している。 このような実環境騒音に対処するには,雑音ラベルを用いた学習方法の代表的選択が不十分であることを示す。
  論文  参考訳（メタデータ） (2024-06-24T09:29:14Z)
• Handling Realistic Label Noise in BERT Text Classification [1.0515439489916731]
  実ラベルノイズはランダムではなく、入力特徴や他のアノテータ固有の要因と相関することが多い。 これらのノイズの存在がBERT分類性能を著しく低下させることを示す。
  論文  参考訳（メタデータ） (2023-05-23T18:30:31Z)
• Robustness to Label Noise Depends on the Shape of the Noise Distribution in Feature Space [6.748225062396441]
  騒音分布の規模と形状が後部確率に影響を及ぼすことを示す。 雑音分布が決定境界を目標とする場合、小さなノイズであっても、分類ロバスト性は低下しうることを示す。
  論文  参考訳（メタデータ） (2022-06-02T15:41:59Z)
• Learning with Noisy Labels Revisited: A Study Using Real-World Human Annotations [54.400167806154535]
  ノイズラベルを用いた学習に関する既存の研究は、主に合成ラベルノイズに焦点を当てている。 本研究は2つの新しいベンチマークデータセット(CIFAR-10N, CIFAR-100N)を示す。 実世界のノイズラベルは古典的に採用されたクラス依存のラベルではなく、インスタンス依存のパターンに従うことを示す。
  論文  参考訳（メタデータ） (2021-10-22T22:42:11Z)
• Instance-dependent Label-noise Learning under a Structural Causal Model [92.76400590283448]
  ラベルノイズはディープラーニングアルゴリズムの性能を劣化させる。 構造因果モデルを活用することにより,実例依存型ラベルノイズ学習のための新しい生成手法を提案する。
  論文  参考訳（メタデータ） (2021-09-07T10:42:54Z)
• Learning with Feature-Dependent Label Noise: A Progressive Approach [19.425199841491246]
  一般的なi.i.dよりもはるかに一般的である特徴依存ラベルノイズの新しいファミリーを提案する。 ラベルノイズ。 我々は、様々な(未知)ノイズパターンに対して、この戦略で訓練された分類器がベイズ分類器と一致するように収束することを示す理論的保証を提供する。
  論文  参考訳（メタデータ） (2021-03-13T17:34:22Z)
• A Second-Order Approach to Learning with Instance-Dependent Label Noise [58.555527517928596]
  ラベルノイズの存在は、しばしばディープニューラルネットワークのトレーニングを誤解させる。 人間による注釈付きラベルのエラーは、タスクの難易度レベルに依存する可能性が高いことを示しています。
  論文  参考訳（メタデータ） (2020-12-22T06:36:58Z)
• Part-dependent Label Noise: Towards Instance-dependent Label Noise [194.73829226122731]
  このような現実的なノイズをモデル化することは困難であるため,テキスト依存性のラベルノイズによる学習は困難である。 本稿では,テキスト単位のラベルノイズを利用して,インスタンス依存のラベルノイズを近似する。 合成および実世界のデータセットに関する実証的な評価は、我々の手法が最先端のアプローチよりも優れていることを示している。
  論文  参考訳（メタデータ） (2020-06-14T08:12:10Z)
• Class2Simi: A Noise Reduction Perspective on Learning with Noisy Labels [98.13491369929798]
  そこで我々は,ノイズのあるクラスラベルを持つデータポイントを,ノイズの多い類似ラベルを持つデータペアに変換するClass2Simiというフレームワークを提案する。 Class2Simiは、この変換がミニバッチのオンザフライであるだけでなく、モデル予測上の損失をペアワイズに変化させるため、計算的に効率的である。
  論文  参考訳（メタデータ） (2020-06-14T07:55:32Z)
• Multi-Class Classification from Noisy-Similarity-Labeled Data [98.13491369929798]
  雑音に類似したラベル付きデータのみから学習する方法を提案する。 ノイズ遷移行列を用いて、クリーンデータとノイズデータの間にクラス後確率をブリッジする。 雑音のないクラスラベルをインスタンスに割り当てる新しい学習システムを構築した。
  論文  参考訳（メタデータ） (2020-02-16T05:10:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。