論文の概要: Using Under-trained Deep Ensembles to Learn Under Extreme Label Noise

• arxiv url: http://arxiv.org/abs/2009.11128v2
• Date: Mon, 15 Nov 2021 12:37:53 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-15 15:36:24.783907
• Title: Using Under-trained Deep Ensembles to Learn Under Extreme Label Noise
• Title（参考訳）: 深層アンサンブルを用いた極低騒音下での学習
• Authors: Konstantinos Nikolaidis, Thomas Plagemann, Stein Kristiansen, Vera Goebel, Mohan Kankanhalli
• Abstract要約: 極端ラベル雑音下での学習に有効な手法を提案する。 本研究は,睡眠時無呼吸症検出の課題に焦点をあて,我々のアプローチを広範囲に評価する。
• 参考スコア（独自算出の注目度）: 0.6999740786886535
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Improper or erroneous labelling can pose a hindrance to reliable generalization for supervised learning. This can have negative consequences, especially for critical fields such as healthcare. We propose an effective new approach for learning under extreme label noise, based on under-trained deep ensembles. Each ensemble member is trained with a subset of the training data, to acquire a general overview of the decision boundary separation, without focusing on potentially erroneous details. The accumulated knowledge of the ensemble is combined to form new labels, that determine a better class separation than the original labels. A new model is trained with these labels to generalize reliably despite the label noise. We focus on a healthcare setting and extensively evaluate our approach on the task of sleep apnea detection. For comparison with related work, we additionally evaluate on the task of digit recognition. In our experiments, we observed performance improvement in accuracy from 6.7\% up-to 49.3\% for the task of digit classification and in kappa from 0.02 up-to 0.55 for the task of sleep apnea detection.
• Abstract（参考訳）: 不適切なラベル付けや誤ったラベル付けは、教師付き学習の信頼性の高い一般化を妨げる可能性がある。 これは、特に医療などの重要な分野において、ネガティブな結果をもたらす可能性がある。 過渡ラベル雑音下での学習に有効な新しい手法を提案する。 各アンサンブルメンバーは、トレーニングデータのサブセットで訓練され、潜在的に誤った詳細に集中することなく、決定境界分離の一般的な概要を取得する。 アンサンブルの蓄積した知識が組み合わさって新しいラベルを形成し、元のラベルよりも優れたクラス分離を決定する。 新しいモデルはこれらのラベルで訓練され、ラベルノイズにもかかわらず確実に一般化される。 本研究は,睡眠時無呼吸症検出の課題に焦点をあて,我々のアプローチを広く評価する。 また,関連する作業と比較し,数字認識の課題について検討した。 本実験では,指分類のタスクは6.7\%から49.3\%,睡眠時無呼吸検出のタスクでは0.02から0.55までの精度向上が観察された。

関連論文リスト

• Extracting Clean and Balanced Subset for Noisy Long-tailed Classification [66.47809135771698]
  そこで我々は,分布マッチングの観点から,クラスプロトタイプを用いた新しい擬似ラベリング手法を開発した。 手動で特定の確率尺度を設定することで、ノイズと長い尾を持つデータの副作用を同時に減らすことができる。 本手法は, クリーンなラベル付きクラスバランスサブセットを抽出し, ラベルノイズ付きロングテール分類において, 効果的な性能向上を実現する。
  論文  参考訳（メタデータ） (2024-04-10T07:34:37Z)
• Mitigating Label Noise through Data Ambiguation [9.51828574518325]
  表現力の高い大型モデルは、誤ったラベルを記憶する傾向があるため、一般化性能を損なう。 本稿では,対象情報の「曖昧化」により,両手法の欠点に対処することを提案する。 より正確には、いわゆる超集合学習の枠組みを利用して、信頼度閾値に基づいて設定値の目標を構築する。
  論文  参考訳（メタデータ） (2023-05-23T07:29:08Z)
• Blind Knowledge Distillation for Robust Image Classification [19.668440671541546]
  ブラインド知識蒸留(Blind Knowledge Distillation)は、ノイズラベルで学習する教師による学習方法である。 我々はOtsusアルゴリズムを用いて、一般化からオーバーフィッティングまでのチップポイントを推定する。 実験では, Blind Knowledge Distillation がトレーニング中の過剰適合を効果的に検出することを示した。
  論文  参考訳（メタデータ） (2022-11-21T11:17:07Z)
• Robust Medical Image Classification from Noisy Labeled Data with Global and Local Representation Guided Co-training [73.60883490436956]
  本稿では,ロバストな医用画像分類のためのグローバルおよびローカルな表現学習を用いた新しい協調学習パラダイムを提案する。 ノイズラベルフィルタを用いた自己アンサンブルモデルを用いて、クリーンでノイズの多いサンプルを効率的に選択する。 また,ネットワークを暗黙的に正規化してノイズの多いサンプルを利用するための,グローバルかつ局所的な表現学習手法を設計する。
  論文  参考訳（メタデータ） (2022-05-10T07:50:08Z)
• Two Wrongs Don't Make a Right: Combating Confirmation Bias in Learning with Label Noise [6.303101074386922]
  Robust Label Refurbishment (Robust LR) は、擬似ラベルと信頼度推定技術を組み込んだ新しいハイブリッド手法である。 本手法はラベルノイズと確認バイアスの両方の損傷を軽減できることを示す。 例えば、Robust LRは、実世界のノイズデータセットであるWebVisionにおいて、以前の最高値よりも最大4.5%の絶対的トップ1精度の向上を実現している。
  論文  参考訳（メタデータ） (2021-12-06T12:10:17Z)
• Combating Noise: Semi-supervised Learning by Region Uncertainty Quantification [55.23467274564417]
  現在の手法は、擬似ラベルによって生成されるノイズの多い領域によって容易に妨げられる。 領域の不確実性を定量化して雑音耐性半教師付き学習を提案する。 PASCAL VOCとMS COCOの併用実験により,本手法の異常な性能を実証した。
  論文  参考訳（メタデータ） (2021-11-01T13:23:42Z)
• Label Noise in Adversarial Training: A Novel Perspective to Study Robust Overfitting [45.58217741522973]
  逆行訓練においてラベルノイズが存在することを示す。 このようなラベルノイズは、正反対例の真のラベル分布とクリーン例から受け継いだラベルとのミスマッチに起因する。 本稿では,ラベルノイズと頑健なオーバーフィッティングに対処するため,ラベルの自動校正手法を提案する。
  論文  参考訳（メタデータ） (2021-10-07T01:15:06Z)
• Co-Correcting: Noise-tolerant Medical Image Classification via mutual Label Correction [5.994566233473544]
  本稿では,Co-Correctingという耐雑音性医用画像分類フレームワークを提案する。 分類精度を大幅に向上させ、デュアルネットワーク相互学習、ラベル確率推定、カリキュラムラベルの修正を通じてより正確なラベルを得る。 実験により, 様々なタスクにおいて, 雑音比の異なるコココレクショニングが最適な精度と一般化を実現することが示された。
  論文  参考訳（メタデータ） (2021-09-11T02:09:52Z)
• Robust Long-Tailed Learning under Label Noise [50.00837134041317]
  本研究では,長期ラベル分布におけるラベルノイズ問題について検討する。 本稿では,長期学習のための雑音検出を実現する頑健なフレームワークAlgoを提案する。 我々のフレームワークは、半教師付き学習アルゴリズムを自然に活用して一般化をさらに改善することができる。
  論文  参考訳（メタデータ） (2021-08-26T03:45:00Z)
• Disentangling Sampling and Labeling Bias for Learning in Large-Output Spaces [64.23172847182109]
  異なる負のサンプリングスキームが支配的ラベルと稀なラベルで暗黙的にトレードオフパフォーマンスを示す。 すべてのラベルのサブセットで作業することで生じるサンプリングバイアスと、ラベルの不均衡に起因するデータ固有のラベルバイアスの両方に明示的に対処する統一された手段を提供する。
  論文  参考訳（メタデータ） (2021-05-12T15:40:13Z)
• Improving Medical Image Classification with Label Noise Using Dual-uncertainty Estimation [72.0276067144762]
  医用画像における2種類のラベルノイズについて論じ,定義する。 医用画像分類作業中にこれら2つのラベルノイズを処理する不確実性推定に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-02-28T14:56:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。