論文の概要: Complementing Semi-Supervised Learning with Uncertainty Quantification
- arxiv url: http://arxiv.org/abs/2207.12131v1
- Date: Fri, 22 Jul 2022 00:15:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-26 13:35:30.415028
- Title: Complementing Semi-Supervised Learning with Uncertainty Quantification
- Title（参考訳）: 不確実性定量化による半教師付き学習の補完
- Authors: Ehsan Kazemi
- Abstract要約: そこで本研究では,アレータ性およびてんかん性不確実性定量化に依存する,教師なし不確実性認識の新たな目的を提案する。
CIFAR-100やMini-ImageNetのような複雑なデータセットでは,結果が最先端の成果よりも優れています。
- 参考スコア（独自算出の注目度）: 6.612035830987296
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The problem of fully supervised classification is that it requires a
tremendous amount of annotated data, however, in many datasets a large portion
of data is unlabeled. To alleviate this problem semi-supervised learning (SSL)
leverages the knowledge of the classifier on the labeled domain and
extrapolates it to the unlabeled domain which has a supposedly similar
distribution as annotated data. Recent success on SSL methods crucially hinges
on thresholded pseudo labeling and thereby consistency regularization for the
unlabeled domain. However, the existing methods do not incorporate the
uncertainty of the pseudo labels or unlabeled samples in the training process
which are due to the noisy labels or out of distribution samples owing to
strong augmentations. Inspired by the recent developments in SSL, our goal in
this paper is to propose a novel unsupervised uncertainty-aware objective that
relies on aleatoric and epistemic uncertainty quantification. Complementing the
recent techniques in SSL with the proposed uncertainty-aware loss function our
approach outperforms or is on par with the state-of-the-art over standard SSL
benchmarks while being computationally lightweight. Our results outperform the
state-of-the-art results on complex datasets such as CIFAR-100 and
Mini-ImageNet.
- Abstract（参考訳）: 完全教師付き分類の問題は、大量の注釈付きデータを必要とすることであるが、多くのデータセットでは、大量のデータがラベル付けされていない。
この問題を解決するために、半教師付き学習(SSL)はラベル付きドメインの分類器の知識を活用し、アノテーション付きデータとして類似した分布を持つ未ラベルのドメインに外挿する。
SSL手法の最近の成功は、しきい値付き擬似ラベリングと、未ラベル領域の整合正則化に決定的に依存している。
しかし, 従来の手法では, ノイズラベルによるトレーニングプロセスや, 強化による分布サンプルの流出など, 擬似ラベルや未ラベルサンプルの不確実性は含まない。
sslの最近の発展に触発されて,本論文の目標は,アレテータ的および認識的不確実性定量化に依存する新しい教師なし不確実性認識目標を提案することである。
sslの最近の技術と提案されている不確実性認識損失関数を補完する我々のアプローチは、計算的に軽量でありながら標準sslベンチマークよりも優れています。
CIFAR-100やMini-ImageNetのような複雑なデータセットでは,結果が最先端の成果を上回っている。
関連論文リスト
- Generalized Semi-Supervised Learning via Self-Supervised Feature Adaptation [87.17768598044427]
従来の半教師付き学習は、ラベル付きデータとラベルなしデータの特徴分布が一貫したものであると仮定する。
本稿では,ラベル付きおよびラベルなしデータの分散によるSSL性能向上のための汎用フレームワークであるセルフ・スーパービジョン・フィーチャー・アダプテーション(SSFA)を提案する。
提案するSSFAは擬似ラベルベースのSSL学習者に適用可能であり,ラベル付き,ラベルなし,さらには目に見えない分布における性能を著しく向上させる。
論文 参考訳（メタデータ） (2024-05-31T03:13:45Z) - A Channel-ensemble Approach: Unbiased and Low-variance Pseudo-labels is Critical for Semi-supervised Classification [61.473485511491795]
半教師付き学習(SSL)はコンピュータビジョンにおける実践的な課題である。
Pseudo-label (PL) メソッド、例えば FixMatch や FreeMatch は SSL で State of The Art (SOTA) のパフォーマンスを取得する。
本稿では,複数の下位PLを理論的に保証された非偏りと低分散のPLに集約する,軽量なチャネルベースアンサンブル法を提案する。
論文 参考訳（メタデータ） (2024-03-27T09:49:37Z) - Do not trust what you trust: Miscalibration in Semi-supervised Learning [21.20806568508201]
最先端の半教師付き学習(SSL)アプローチは、ラベルなしサンプルのトレーニングをガイドする擬似ラベルとして機能するために、信頼性の高い予測に依存している。
擬似ラベルに基づくSSL方式は, かなり誤解されていることを示し, ミンエントロピーの最小化を正式に示す。
我々は単純なペナルティ項を統合し、ラベルのないサンプルの予測のロジットを低く保ち、ネットワーク予測が過信にならないようにする。
論文 参考訳（メタデータ） (2024-03-22T18:43:46Z) - InstanT: Semi-supervised Learning with Instance-dependent Thresholds [75.91684890150283]
本稿では,既存手法と比較して高い自由度を有するインスタンス依存しきい値の研究を提案する。
インスタンスレベルのあいまいさと擬似ラベルのインスタンス依存エラー率を利用して、すべての未ラベルインスタンスに対して新しいインスタンス依存しきい値関数を考案する。
論文 参考訳（メタデータ） (2023-10-29T05:31:43Z) - Contrastive Credibility Propagation for Reliable Semi-Supervised Learning [6.014538614447467]
逐次的擬似ラベルリファインメントによる深部SSLのためのコントラストCCP(Contrastive Credibility Propagation)を提案する。
CCPは、教師付きベースラインをデータシナリオで確実に上回るために、半教師付き学習とノイズの多いラベル学習を統一する。
論文 参考訳（メタデータ） (2022-11-17T23:01:47Z) - Robust Deep Semi-Supervised Learning: A Brief Introduction [63.09703308309176]
半教師付き学習(SSL)は、ラベルが不十分なときにラベル付きデータを活用することにより、学習性能を向上させることを目的としている。
ディープモデルによるSSLは、標準ベンチマークタスクで成功したことが証明されている。
しかし、それらは現実世界のアプリケーションにおける様々な堅牢性に対する脅威に対して依然として脆弱である。
論文 参考訳（メタデータ） (2022-02-12T04:16:41Z) - In Defense of Pseudo-Labeling: An Uncertainty-Aware Pseudo-label
Selection Framework for Semi-Supervised Learning [53.1047775185362]
Pseudo-labeling (PL) は一般的な SSL アプローチで、この制約はありませんが、当初の処方では比較的不十分です。
PLは不整合モデルからの誤った高い信頼度予測により性能が低下していると論じる。
そこで本研究では,疑似ラベリング精度を向上させるための不確実性認識型擬似ラベル選択(ups)フレームワークを提案する。
論文 参考訳（メタデータ） (2021-01-15T23:29:57Z) - Distribution Aligning Refinery of Pseudo-label for Imbalanced
Semi-supervised Learning [126.31716228319902]
Pseudo-label (DARP) アルゴリズムの分散アライメント・リファナリーを開発する。
DARPは最先端のSSLスキームと有効かつ効率的に互換性があることを示す。
論文 参考訳（メタデータ） (2020-07-17T09:16:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。