論文の概要: Contrastive Credibility Propagation for Reliable Semi-Supervised Learning

• arxiv url: http://arxiv.org/abs/2211.09929v1
• Date: Thu, 17 Nov 2022 23:01:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-21 15:28:16.068500
• Title: Contrastive Credibility Propagation for Reliable Semi-Supervised Learning
• Title（参考訳）: 信頼性半教師付き学習のためのコントラスト信頼度伝播
• Authors: Brody Kutt, Pamela Toman, Xavier Mignot, Sujit Rokka Chhetri, Shan Huang, Nandini Ramanan, Min Du, William Hewlett
• Abstract要約: コントラスト信頼度伝播(CCP)と呼ばれる,深層SSL,特に擬似ラベル作成のための新しいフレームワークを提案する。 CCPは、擬似ラベルを生成するための新しい対照的なアプローチと、インスタンスベースのラベルノイズを克服する強力な技術を統合する。 その結果、教師付きベースライン上での性能を確実に向上するために、避けられない疑似ラベルエラーを克服するために明示的に設計された半教師付き分類フレームワークが得られた。
• 参考スコア（独自算出の注目度）: 10.156063048793243
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Inferencing unlabeled data from labeled data is an error-prone process. Conventional neural network training is highly sensitive to supervision errors. These two realities make semi-supervised learning (SSL) troublesome. Often, SSL approaches fail to outperform their fully supervised baseline. Proposed is a novel framework for deep SSL, specifically pseudo-labeling, called contrastive credibility propagation (CCP). Through an iterative process of generating and refining soft pseudo-labels, CCP unifies a novel contrastive approach to generating pseudo-labels and a powerful technique to overcome instance-based label noise. The result is a semi-supervised classification framework explicitly designed to overcome inevitable pseudo-label errors in an attempt to reliably boost performance over a supervised baseline. Our empirical evaluation across five benchmark classification datasets suggests one must choose between reliability or effectiveness with prior approaches while CCP delivers both. We also demonstrate an unsupervised signal to subsample pseudo-labels to eliminate errors between iterations of CCP and after its conclusion.
• Abstract（参考訳）: ラベル付きデータからラベルなしのデータを参照することは、エラーを起こしやすいプロセスである。 従来のニューラルネットワークトレーニングは、監視エラーに非常に敏感である。 これら2つの現実は、半教師付き学習(SSL)を厄介にする。 SSLアプローチは、完全に教師されたベースラインを上回りません。 提案は、Deep SSL(特に擬似ラベル)のための新しいフレームワークで、CCP(Contrative credibility propagation)と呼ばれる。 ソフトな擬似ラベルを生成して精製する反復的なプロセスを通じて、CCPは、擬似ラベルを生成するための新しいコントラスト的なアプローチと、インスタンスベースのラベルノイズを克服する強力なテクニックを統一する。 その結果、教師付きベースライン上での性能を確実に向上するために、避けられない疑似ラベルエラーを克服するために明示的に設計された半教師付き分類フレームワークが得られた。 5つのベンチマーク分類データセットに対する実証的な評価は、CCPが両方を提供するのに対して、事前アプローチによる信頼性と有効性を選択する必要があることを示唆している。 また,CCPの反復と終了後の誤りを除去するため,擬似ラベルをサブサンプリングする教師なし信号も示す。

関連論文リスト

• ProtoCon: Pseudo-label Refinement via Online Clustering and Prototypical Consistency for Efficient Semi-supervised Learning [60.57998388590556]
  ProtoConは信頼性に基づく疑似ラベル作成の新しい手法である。 ProtoConのオンライン版では、データセット全体のラベル履歴を1回のトレーニングサイクルで活用することができる。 最先端のデータセットよりも大幅に向上し、より高速に収束する。
  論文  参考訳（メタデータ） (2023-03-22T23:51:54Z)
• Complementing Semi-Supervised Learning with Uncertainty Quantification [6.612035830987296]
  そこで本研究では,アレータ性およびてんかん性不確実性定量化に依存する,教師なし不確実性認識の新たな目的を提案する。 CIFAR-100やMini-ImageNetのような複雑なデータセットでは,結果が最先端の成果よりも優れています。
  論文  参考訳（メタデータ） (2022-07-22T00:15:02Z)
• Learning from Label Proportions by Learning with Label Noise [30.7933303912474]
  ラベル比例(LLP)からの学習は、データポイントをバッグに分類する弱い教師付き分類問題である。 ラベル雑音による学習の低減に基づくLLPに対する理論的基礎的なアプローチを提案する。 このアプローチは、複数のデータセットやアーキテクチャにわたるディープラーニングシナリオにおける経験的パフォーマンスの向上を実証する。
  論文  参考訳（メタデータ） (2022-03-04T18:52:21Z)
• Robust Deep Semi-Supervised Learning: A Brief Introduction [63.09703308309176]
  半教師付き学習(SSL)は、ラベルが不十分なときにラベル付きデータを活用することにより、学習性能を向上させることを目的としている。 ディープモデルによるSSLは、標準ベンチマークタスクで成功したことが証明されている。 しかし、それらは現実世界のアプリケーションにおける様々な堅牢性に対する脅威に対して依然として脆弱である。
  論文  参考訳（メタデータ） (2022-02-12T04:16:41Z)
• Self-Tuning for Data-Efficient Deep Learning [75.34320911480008]
  セルフチューニングは、データ効率のよいディープラーニングを可能にする新しいアプローチである。 ラベル付きおよびラベルなしデータの探索と事前訓練されたモデルの転送を統一する。 SSLとTLの5つのタスクをシャープなマージンで上回ります。
  論文  参考訳（メタデータ） (2021-02-25T14:56:19Z)
• In Defense of Pseudo-Labeling: An Uncertainty-Aware Pseudo-label Selection Framework for Semi-Supervised Learning [53.1047775185362]
  Pseudo-labeling (PL) は一般的な SSL アプローチで、この制約はありませんが、当初の処方では比較的不十分です。 PLは不整合モデルからの誤った高い信頼度予測により性能が低下していると論じる。 そこで本研究では,疑似ラベリング精度を向上させるための不確実性認識型擬似ラベル選択(ups)フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-15T23:29:57Z)
• ORDisCo: Effective and Efficient Usage of Incremental Unlabeled Data for Semi-supervised Continual Learning [52.831894583501395]
  連続学習は、入力されたデータが完全にラベル付けされていると仮定し、実際のアプリケーションでは適用できないかもしれない。 我々は、条件付き生成逆数ネットワーク(GAN)を用いた分類器を相互に学習するために、識別器整合(ORDisCo)を用いたディープオンライン再生を提案する。 ORDisCo が SSCL の様々な半教師付き学習ベンチマークデータセットで大幅なパフォーマンス向上を達成していることを示します。
  論文  参考訳（メタデータ） (2021-01-02T09:04:14Z)
• Distribution Aligning Refinery of Pseudo-label for Imbalanced Semi-supervised Learning [126.31716228319902]
  Pseudo-label (DARP) アルゴリズムの分散アライメント・リファナリーを開発する。 DARPは最先端のSSLスキームと有効かつ効率的に互換性があることを示す。
  論文  参考訳（メタデータ） (2020-07-17T09:16:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。