論文の概要: RDA: Reciprocal Distribution Alignment for Robust SSL

• arxiv url: http://arxiv.org/abs/2208.04619v1
• Date: Tue, 9 Aug 2022 09:24:25 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-10 12:22:35.372774
• Title: RDA: Reciprocal Distribution Alignment for Robust SSL
• Title（参考訳）: RDA:ロバストSSLのための相互分散アライメント
• Authors: Yue Duan, Lei Qi, Lei Wang, Luping Zhou, Yinghuan Shi
• Abstract要約: 半教師付き学習(SSL)に対処するための相互分布アライメント(RDA)を提案する。 提案手法は,SSL において,種々の不一致分布のシナリオ下での有望な性能を実現する。
• 参考スコア（独自算出の注目度）: 32.88780104439422
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this work, we propose Reciprocal Distribution Alignment (RDA) to address semi-supervised learning (SSL), which is a hyperparameter-free framework that is independent of confidence threshold and works with both the matched (conventionally) and the mismatched class distributions. Distribution mismatch is an often overlooked but more general SSL scenario where the labeled and the unlabeled data do not fall into the identical class distribution. This may lead to the model not exploiting the labeled data reliably and drastically degrade the performance of SSL methods, which could not be rescued by the traditional distribution alignment. In RDA, we enforce a reciprocal alignment on the distributions of the predictions from two classifiers predicting pseudo-labels and complementary labels on the unlabeled data. These two distributions, carrying complementary information, could be utilized to regularize each other without any prior of class distribution. Moreover, we theoretically show that RDA maximizes the input-output mutual information. Our approach achieves promising performance in SSL under a variety of scenarios of mismatched distributions, as well as the conventional matched SSL setting. Our code is available at: https://github.com/NJUyued/RDA4RobustSSL.
• Abstract（参考訳）: 本研究では,信頼しきい値に依存しないハイパーパラメータフリーフレームワークである半教師付き学習(SSL)に対処し,一致した(従来型)クラス分布と不一致なクラス分布の両方で動作する相互分布アライメント(RDA)を提案する。 分散ミスマッチは、しばしば見過ごされるが、ラベル付きデータとラベルなしデータが同じクラスディストリビューションに該当しない、より一般的なSSLシナリオである。 これにより、ラベル付きデータを確実に利用せず、従来の分散アライメントによって救えなかったSSLメソッドのパフォーマンスが大幅に低下する可能性がある。 RDAでは、擬似ラベルと相補ラベルを予測する2つの分類器からの予測の分布を相互にアライメントする。 これら2つの分布は相補的な情報を持ち、クラス分布に先立つことなく相互に正規化することができる。 さらに,RDAが入力出力相互情報を最大化することを示す。 提案手法は,従来のSSL設定と一致しない分散のさまざまなシナリオにおいて,SSLの有望な性能を実現する。 私たちのコードは、https://github.com/NJUyued/RDA4RobustSSLで利用可能です。

関連論文リスト

• Generalized Semi-Supervised Learning via Self-Supervised Feature Adaptation [87.17768598044427]
  従来の半教師付き学習は、ラベル付きデータとラベルなしデータの特徴分布が一貫したものであると仮定する。 本稿では,ラベル付きおよびラベルなしデータの分散によるSSL性能向上のための汎用フレームワークであるセルフ・スーパービジョン・フィーチャー・アダプテーション(SSFA)を提案する。 提案するSSFAは擬似ラベルベースのSSL学習者に適用可能であり,ラベル付き,ラベルなし,さらには目に見えない分布における性能を著しく向上させる。
  論文  参考訳（メタデータ） (2024-05-31T03:13:45Z)
• Semi-Supervised Learning via Weight-aware Distillation under Class Distribution Mismatch [15.57119122765309]
  我々は、SSLエラーを軽減するために、Weight-Aware Distillation (WAD)と呼ばれる堅牢なSSLフレームワークを提案する。 WADは、表現空間内のポイント相互情報(PMI)を探索することにより、適応重みと高品質な擬似ラベルをターゲットインスタンスにキャプチャする。 集団分布ミスマッチでは,WADは人口リスクの上限が狭いことが証明された。
  論文  参考訳（メタデータ） (2023-08-23T02:37:34Z)
• Flexible Distribution Alignment: Towards Long-tailed Semi-supervised Learning with Proper Calibration [18.376601653387315]
  Longtailed semi-supervised learning (LTSSL)は、半教師付きアプリケーションのための実践的なシナリオである。 この問題は、ラベル付きとラベルなしのクラス分布の相違によってしばしば悪化する。 本稿では,新しい適応ロジット調整型損失フレームワークFlexDAを紹介する。
  論文  参考訳（メタデータ） (2023-06-07T17:50:59Z)
• Bi-directional Distribution Alignment for Transductive Zero-Shot Learning [48.80413182126543]
  そこで我々は,Bi-VAEGANと呼ばれる新しいゼロショット学習モデル(TZSL)を提案する。 視覚空間と補助空間の間の配向の強化によるシフトを大幅に改善する。 ベンチマーク評価では、Bi-VAEGANは、標準および一般化されたTZSL設定の両方の下で、新しい芸術の状態を達成している。
  論文  参考訳（メタデータ） (2023-03-15T15:32:59Z)
• OpenLDN: Learning to Discover Novel Classes for Open-World Semi-Supervised Learning [110.40285771431687]
  半教師付き学習(SSL)は、教師付き学習のアノテーションボトルネックに対処する主要なアプローチの1つである。 最近のSSLメソッドは、ラベルなしデータの大規模なリポジトリを有効活用して、ラベル付きデータの小さなセットに依存しながら、パフォーマンスを向上させることができる。 この研究は、ペアワイズ類似度損失を利用して新しいクラスを発見するOpenLDNを導入している。
  論文  参考訳（メタデータ） (2022-07-05T18:51:05Z)
• On Non-Random Missing Labels in Semi-Supervised Learning [114.62655062520425]
  Semi-Supervised Learning (SSL)は基本的にラベルの問題である。 SSL に "class" を明示的に組み込んでいます。 提案手法は,既存のベースラインを著しく上回るだけでなく,他のラベルバイアス除去SSL法を上回ります。
  論文  参考訳（メタデータ） (2022-06-29T22:01:29Z)
• Federated Semi-Supervised Learning with Class Distribution Mismatch [34.46190258291223]
  フェデレート半教師付き学習(Fed-SSL)はラベル付きデータとラベルなしデータの両方を完全に活用するための魅力的なソリューションである。 我々は、Fed-SSLにおけるクラス分散ミスマッチ問題を効果的に緩和できる2つの適切な正規化項を導入する。 我々は、分散低減と正規化平均化技術を活用して、新しいFed-SSLアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-29T14:18:20Z)
• Distribution-Aware Semantics-Oriented Pseudo-label for Imbalanced Semi-Supervised Learning [80.05441565830726]
  本稿では,疑似ラベルの重み付けがモデル性能に悪影響を及ぼすような,不均衡な半教師付き学習に対処する。 本稿では,この観測の動機となるバイアスに対処する,一般的な擬似ラベルフレームワークを提案する。 不均衡SSLのための新しい擬似ラベルフレームワークを、DASO(Distributed-Aware Semantics-Oriented Pseudo-label)と呼ぶ。
  論文  参考訳（メタデータ） (2021-06-10T11:58:25Z)
• Distribution Aligning Refinery of Pseudo-label for Imbalanced Semi-supervised Learning [126.31716228319902]
  Pseudo-label (DARP) アルゴリズムの分散アライメント・リファナリーを開発する。 DARPは最先端のSSLスキームと有効かつ効率的に互換性があることを示す。
  論文  参考訳（メタデータ） (2020-07-17T09:16:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。