論文の概要: Conformal Credal Self-Supervised Learning

• arxiv url: http://arxiv.org/abs/2205.15239v2
• Date: Fri, 9 Jun 2023 13:30:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-12 18:34:36.035130
• Title: Conformal Credal Self-Supervised Learning
• Title（参考訳）: 共形クレダル自己教師付き学習
• Authors: Julian Lienen, Caglar Demir, Eyke H\"ullermeier
• Abstract要約: 半教師付き学習において、自己学習のパラダイムとは、学習者自身が提案する擬似ラベルから学習することを指す。 そのような方法の1つは、いわゆるクレダル自己教師学習であり、ラベル上の(単体ではなく)確率分布の集合の形で擬超越性を維持している。
• 参考スコア（独自算出の注目度）: 7.170735702082675
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In semi-supervised learning, the paradigm of self-training refers to the idea of learning from pseudo-labels suggested by the learner itself. Across various domains, corresponding methods have proven effective and achieve state-of-the-art performance. However, pseudo-labels typically stem from ad-hoc heuristics, relying on the quality of the predictions though without guaranteeing their validity. One such method, so-called credal self-supervised learning, maintains pseudo-supervision in the form of sets of (instead of single) probability distributions over labels, thereby allowing for a flexible yet uncertainty-aware labeling. Again, however, there is no justification beyond empirical effectiveness. To address this deficiency, we make use of conformal prediction, an approach that comes with guarantees on the validity of set-valued predictions. As a result, the construction of credal sets of labels is supported by a rigorous theoretical foundation, leading to better calibrated and less error-prone supervision for unlabeled data. Along with this, we present effective algorithms for learning from credal self-supervision. An empirical study demonstrates excellent calibration properties of the pseudo-supervision, as well as the competitiveness of our method on several benchmark datasets.
• Abstract（参考訳）: 半教師付き学習では、自己学習のパラダイムは学習者自身が提案した擬似ラベルから学習する考え方を指す。 様々な分野において、対応する手法が有効であることが証明され、最先端のパフォーマンスが達成されている。 しかし、疑似ラベルは大抵、その妥当性を保証せずに予測の質に依存する、アドホックなヒューリスティックスに由来する。 そのような方法の1つ、いわゆるcredal self-supervised learningは、ラベル上の(単一の)確率分布の集合の形で擬似スーパービジョンを維持し、柔軟だが不確実性のあるラベリングを可能にする。 しかし、実証的有効性以上の正当性はない。 この欠陥に対処するために、設定値予測の有効性の保証を伴うアプローチである共形予測を利用する。 その結果、ラベルのクレーダルセットの構築は厳密な理論基盤によって支えられ、未ラベルデータに対するキャリブレーションが向上し、エラーの少ない監視が可能となった。 そこで本研究では,credal self-supervisionから学習するための効果的なアルゴリズムを提案する。 実証実験により,疑似スーパービジョンのキャリブレーション特性と,複数のベンチマークデータセットにおける本手法の競合性が示された。

関連論文リスト

• Binary Classification with Confidence Difference [100.08818204756093]
  本稿では,信頼性差分法 (ConfDiff) という,弱教師付き二項分類問題について考察する。 本稿では,この問題に対処するためのリスク一貫性のあるアプローチを提案し,推定誤差が最適収束率と一致することを示す。 また,整合性や収束率も証明されたオーバーフィッティング問題を緩和するためのリスク補正手法も導入する。
  論文  参考訳（メタデータ） (2023-10-09T11:44:50Z)
• Robust Representation Learning for Unreliable Partial Label Learning [86.909511808373]
  部分ラベル学習(Partial Label Learning, PLL)は、弱い教師付き学習の一種で、各トレーニングインスタンスに候補ラベルのセットが割り当てられる。 これはUn Reliable partial Label Learning (UPLL) と呼ばれ、部分ラベルの本質的な信頼性の欠如とあいまいさにより、さらなる複雑さをもたらす。 本研究では,信頼できない部分ラベルに対するモデル強化を支援するために,信頼性に欠けるコントラスト学習を活用するUnreliability-Robust Representation Learning framework(URRL)を提案する。
  論文  参考訳（メタデータ） (2023-08-31T13:37:28Z)
• Class-Distribution-Aware Pseudo Labeling for Semi-Supervised Multi-Label Learning [97.88458953075205]
  Pseudo-labelingは、ラベルなしデータを利用するための人気で効果的なアプローチとして登場した。 本稿では,クラスアウェアの擬似ラベル処理を行うCAP(Class-Aware Pseudo-Labeling)という新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-05-04T12:52:18Z)
• Debiased Pseudo Labeling in Self-Training [77.83549261035277]
  ディープニューラルネットワークは、大規模ラベル付きデータセットの助けを借りて、幅広いタスクで顕著なパフォーマンスを達成する。 ラベル付きデータの要求を軽減するため、ラベル付けされていないデータに擬似ラベルを付けることにより、学術と産業の両方で自己学習が広く使われている。 疑似ラベルの生成と利用を2つの独立した頭文字で分離するデバイアスドを提案する。
  論文  参考訳（メタデータ） (2022-02-15T02:14:33Z)
• Predictive Inference with Weak Supervision [3.1925030748447747]
  コンフォメーション予測フレームワークを開発することにより,部分監督と検証のギャップを埋める。 我々は、新しいカバレッジと予測妥当性の概念を導入し、いくつかのアプリケーションシナリオを開発します。 我々は、新しいカバレッジ定義がより厳密で情報的な(しかし有効な)信頼セットを可能にするという仮説を裏付ける。
  論文  参考訳（メタデータ） (2022-01-20T17:26:52Z)
• Learning with Proper Partial Labels [87.65718705642819]
  部分ラベル学習は、不正確なラベルを持つ弱い教師付き学習の一種である。 この適切な部分ラベル学習フレームワークには,従来の部分ラベル学習設定が数多く含まれていることを示す。 次に、分類リスクの統一的非バイアス推定器を導出する。
  論文  参考訳（メタデータ） (2021-12-23T01:37:03Z)
• Uncertainty-aware Mean Teacher for Source-free Unsupervised Domain Adaptive 3D Object Detection [6.345037597566315]
  擬似ラベルに基づく自己学習アプローチは、ソースフリーな教師なしドメイン適応の一般的な方法である。 本研究では,学習中に誤字を暗黙的にフィルタリングする不確実性認識型平均教師フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-29T18:17:09Z)
• Credal Self-Supervised Learning [0.0]
  未ラベルのインスタンスに対して,学習者が"擬似スーパービジョン"を生成する方法を示す。 整合性正規化と組み合わせて、擬似ラベルは様々な領域で有望な性能を示している。 我々は、我々の方法論を最先端のセルフスーパービジョンアプローチと比較する。
  論文  参考訳（メタデータ） (2021-06-22T15:19:04Z)
• Exploiting Sample Uncertainty for Domain Adaptive Person Re-Identification [137.9939571408506]
  各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。 不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2020-12-16T04:09:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。