論文の概要: Prototype-Anchored Learning for Learning with Imperfect Annotations
- arxiv url: http://arxiv.org/abs/2206.11602v1
- Date: Thu, 23 Jun 2022 10:25:37 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-24 13:14:12.917303
- Title: Prototype-Anchored Learning for Learning with Imperfect Annotations
- Title(参考訳): 不完全アノテーションを用いた学習のためのプロトタイプ学習
- Authors: Xiong Zhou, Xianming Liu, Deming Zhai, Junjun Jiang, Xin Gao,
Xiangyang Ji
- Abstract要約: 不完全な注釈付きデータセットからバイアスのない分類モデルを学ぶことは困難である。
本稿では,様々な学習に基づく分類手法に容易に組み込むことができるプロトタイプ・アンコレッド学習法を提案する。
我々は,PALがクラス不均衡学習および耐雑音学習に与える影響を,合成および実世界のデータセットに関する広範な実験により検証した。
- 参考スコア(独自算出の注目度): 83.7763875464011
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The success of deep neural networks greatly relies on the availability of
large amounts of high-quality annotated data, which however are difficult or
expensive to obtain. The resulting labels may be class imbalanced, noisy or
human biased. It is challenging to learn unbiased classification models from
imperfectly annotated datasets, on which we usually suffer from overfitting or
underfitting. In this work, we thoroughly investigate the popular softmax loss
and margin-based loss, and offer a feasible approach to tighten the
generalization error bound by maximizing the minimal sample margin. We further
derive the optimality condition for this purpose, which indicates how the class
prototypes should be anchored. Motivated by theoretical analysis, we propose a
simple yet effective method, namely prototype-anchored learning (PAL), which
can be easily incorporated into various learning-based classification schemes
to handle imperfect annotation. We verify the effectiveness of PAL on
class-imbalanced learning and noise-tolerant learning by extensive experiments
on synthetic and real-world datasets.
- Abstract(参考訳): ディープニューラルネットワークの成功は、大量の高品質な注釈付きデータの可用性に大きく依存している。
結果のラベルは、クラス不均衡、ノイズ、あるいは人間の偏りがある。
不完全な注釈付きデータセットからバイアスのない分類モデルを学ぶのは困難です。
本研究では,一般的なソフトマックス損失とマージンベース損失を徹底的に検討し,最小サンプルマージンを最大化することで,一般化誤差を締め付けるための実現可能なアプローチを提案する。
この目的のために、我々はさらに、クラスプロトタイプのアンカー方法を示す最適条件を導出する。
理論解析により,不完全なアノテーションを扱うために,様々な学習に基づく分類手法に容易に組み込むことができる簡易かつ効果的な手法であるPALを提案する。
我々は,PALがクラス不均衡学習および耐雑音学習に与える影響を,合成および実世界のデータセットに関する広範な実験により検証した。
関連論文リスト
- Fair Bilevel Neural Network (FairBiNN): On Balancing fairness and accuracy via Stackelberg Equilibrium [0.3350491650545292]
バイアスを緩和する現在の方法は、情報損失と精度と公平性のバランスが不十分であることが多い。
本稿では,二段階最適化の原理に基づく新しい手法を提案する。
私たちのディープラーニングベースのアプローチは、正確性と公平性の両方を同時に最適化します。
論文 参考訳(メタデータ) (2024-10-21T18:53:39Z) - A Unified Generalization Analysis of Re-Weighting and Logit-Adjustment
for Imbalanced Learning [129.63326990812234]
そこで本研究では,データ依存型コンダクタンス(Data-dependent contraction)と呼ばれる手法を提案する。
この技術に加えて、不均衡学習のための微粒な一般化境界が確立され、再重み付けとロジット調整の謎を明らかにするのに役立つ。
論文 参考訳(メタデータ) (2023-10-07T09:15:08Z) - Learning with Noisy Labels through Learnable Weighting and Centroid Similarity [5.187216033152917]
ノイズラベルは、医学診断や自律運転などの領域で一般的である。
本稿では,雑音ラベルの存在下で機械学習モデルを訓練するための新しい手法を提案する。
以上の結果から,本手法は既存の最先端技術よりも一貫して優れていることがわかった。
論文 参考訳(メタデータ) (2023-03-16T16:43:24Z) - Boosting Differentiable Causal Discovery via Adaptive Sample Reweighting [62.23057729112182]
異なるスコアに基づく因果探索法は観測データから有向非巡回グラフを学習する。
本稿では,Reweighted Score関数ReScoreの適応重みを動的に学習することにより因果発見性能を向上させるためのモデルに依存しないフレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-06T14:49:59Z) - SoftMatch: Addressing the Quantity-Quality Trade-off in Semi-supervised
Learning [101.86916775218403]
本稿では, サンプル重み付けを統一した定式化により, 一般的な擬似ラベル法を再検討する。
トレーニング中の擬似ラベルの量と質を両立させることでトレードオフを克服するSoftMatchを提案する。
実験では、画像、テキスト、不均衡な分類など、さまざまなベンチマークで大幅に改善されている。
論文 参考訳(メタデータ) (2023-01-26T03:53:25Z) - MaxMatch: Semi-Supervised Learning with Worst-Case Consistency [149.03760479533855]
半教師付き学習(SSL)のための最悪ケース整合正則化手法を提案する。
本稿では,ラベル付きトレーニングデータとラベル付きトレーニングデータとを別々に比較した経験的損失項からなるSSLの一般化について述べる。
この境界によって動機づけられたSSLの目的は、元のラベルのないサンプルと、その複数の拡張版との最大の矛盾を最小限に抑えるものである。
論文 参考訳(メタデータ) (2022-09-26T12:04:49Z) - CMW-Net: Learning a Class-Aware Sample Weighting Mapping for Robust Deep
Learning [55.733193075728096]
現代のディープニューラルネットワークは、破損したラベルやクラス不均衡を含むバイアス付きトレーニングデータに容易に適合する。
サンプル再重み付け手法は、このデータバイアス問題を緩和するために一般的に使用されている。
本稿では,データから直接明示的な重み付け方式を適応的に学習できるメタモデルを提案する。
論文 参考訳(メタデータ) (2022-02-11T13:49:51Z) - Label-Descriptive Patterns and their Application to Characterizing
Classification Errors [31.272875287136426]
最先端のディープラーニング手法は多くのタスクで人間のようなパフォーマンスを達成するが、それでもエラーを犯す。
これらのエラーを容易に解釈可能な言葉で特徴付けることは、モデルが体系的なエラーを起こす傾向にあるかどうかの洞察を与えるだけでなく、モデルを実行し改善する方法を与える。
本稿では,予測の正しさに応じて分割された入力データを簡潔に記述するパターンの小さなセットをマイニングすることにより,任意の分類器に対して,任意の分類を行うことができる手法を提案する。
論文 参考訳(メタデータ) (2021-10-18T19:42:21Z) - Identifying Wrongly Predicted Samples: A Method for Active Learning [6.976600214375139]
本稿では,不確実性を超えた単純なサンプル選択基準を提案する。
予測されたサンプルを正しく識別するために、最先端の結果とより良いレートを示す。
論文 参考訳(メタデータ) (2020-10-14T09:00:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。