Fugu-MT 論文翻訳(概要): Semi-supervised Learning via Conditional Rotation Angle Estimation

論文の概要: Semi-supervised Learning via Conditional Rotation Angle Estimation

arxiv url: http://arxiv.org/abs/2001.02865v1
Date: Thu, 9 Jan 2020 07:06:20 GMT
ステータス: 処理完了
システム内更新日: 2023-01-13 04:57:59.106414
Title: Semi-supervised Learning via Conditional Rotation Angle Estimation
Title（参考訳）: 条件付き回転角推定による半教師あり学習
Authors: Hai-Ming Xu, Lingqiao Liu, Dong Gong
Abstract要約: 半教師付き学習(SemSL)と自己教師付き学習(SlfSL)を併用することを提案する。このアイデアを単純だが効果的なSlfSLアプローチで実装することにより、条件回転角推定(CRAE)と呼ばれる新しいSemSLアプローチを作成する。
参考スコア（独自算出の注目度）: 29.8660182824314
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Self-supervised learning (SlfSL), aiming at learning feature representations through ingeniously designed pretext tasks without human annotation, has achieved compelling progress in the past few years. Very recently, SlfSL has also been identified as a promising solution for semi-supervised learning (SemSL) since it offers a new paradigm to utilize unlabeled data. This work further explores this direction by proposing to couple SlfSL with SemSL. Our insight is that the prediction target in SemSL can be modeled as the latent factor in the predictor for the SlfSL target. Marginalizing over the latent factor naturally derives a new formulation which marries the prediction targets of these two learning processes. By implementing this idea through a simple-but-effective SlfSL approach -- rotation angle prediction, we create a new SemSL approach called Conditional Rotation Angle Estimation (CRAE). Specifically, CRAE is featured by adopting a module which predicts the image rotation angle conditioned on the candidate image class. Through experimental evaluation, we show that CRAE achieves superior performance over the other existing ways of combining SlfSL and SemSL. To further boost CRAE, we propose two extensions to strengthen the coupling between SemSL target and SlfSL target in basic CRAE. We show that this leads to an improved CRAE method which can achieve the state-of-the-art SemSL performance.
Abstract（参考訳）: 自己教師付き学習(self-supervised learning, slfsl)は、人間のアノテーションなしで巧みにデザインされた前文タスクを通して特徴表現を学習することを目的としており、ここ数年で説得力のある進歩を遂げている。 SlfSLは、ラベルのないデータを利用するための新しいパラダイムを提供するため、半教師付き学習(SemSL)のための有望なソリューションとして認識されている。この研究は、SlfSLとSemSLを結合させることによって、この方向性をさらに探求する。我々は,semslにおける予測対象をslfsl目標の予測因子の潜在因子としてモデル化できることを考察した。潜伏因子のMarginalizingは、これらの2つの学習プロセスの予測ターゲットを結婚させる新しい定式化を自然に引き起こす。本手法は,SlfSL法(回転角予測)を用いて実装することにより,条件回転角推定(CRAE)と呼ばれる新しいSemSL法を作成する。特に、CRAEは、候補画像クラスに条件付き画像回転角を予測するモジュールを採用することで特徴付けられる。実験により,CRAEはSlfSLとSemSLを組み合わせた他の既存手法よりも優れた性能を示した。 CRAEをさらに強化するため,基礎CRAEにおけるSemSLターゲットとSlfSLターゲットの結合を強化する2つの拡張を提案する。これにより,最先端のSemSL性能を実現するCRAE法が改良されることを示す。

関連論文リスト

Towards Supervised Performance on Speaker Verification with Self-Supervised Learning by Leveraging Large-Scale ASR Models [0.0]
大規模ASRモデルからの音声表現には、貴重な話者情報が含まれる。本稿では,事前学習したWavLMを教師付き損失で微調整することにより,SSLコンテキストで話者表現を学習するフレームワークを提案する。提案手法はVoxCeleb1-O上で0.99%のEERを達成し,自己教師型SVにおける新たな最先端技術を確立する。
論文参考訳（メタデータ） (2024-06-04T12:58:19Z)
Erasing the Bias: Fine-Tuning Foundation Models for Semi-Supervised Learning [4.137391543972184]
半教師付き学習(SSL)は目覚ましい進歩をみせており、多くの方法のバリエーションをもたらしている。本稿では,FinSSLという新しいSSLアプローチを提案する。我々は、FineSSLが複数のベンチマークデータセットにSSLの新たな状態を設定し、トレーニングコストを6倍以上削減し、さまざまな微調整と現代的なSSLアルゴリズムをシームレスに統合できることを実証した。
論文参考訳（メタデータ） (2024-05-20T03:33:12Z)
Reinforcement Learning-Guided Semi-Supervised Learning [20.599506122857328]
本稿では,SSLを片腕バンディット問題として定式化する新しい強化学習ガイド型SSL手法 RLGSSL を提案する。 RLGSSLは、ラベル付きデータとラベルなしデータのバランスを保ち、一般化性能を向上させるために、慎重に設計された報酬関数を組み込んでいる。我々は,複数のベンチマークデータセットに対する広範な実験を通じてRCGSSLの有効性を実証し,我々の手法が最先端のSSL手法と比較して一貫した優れた性能を実現することを示す。
論文参考訳（メタデータ） (2024-05-02T21:52:24Z)
Understanding and Improving the Role of Projection Head in Self-Supervised Learning [77.59320917894043]
自己教師付き学習(SSL)は、人間のラベル付きデータアノテーションにアクセスせずに有用な特徴表現を作成することを目的としている。現在の対照的な学習アプローチは、InfoNCEの目的を最適化するために、あるバックボーンネットワークの端にパラメータ化されたプロジェクションヘッドを付加する。学習可能なプロジェクションヘッドが、トレーニング後にそれを破棄する場合、なぜ必要となるのか?
論文参考訳（メタデータ） (2022-12-22T05:42:54Z)
Improving Self-Supervised Learning by Characterizing Idealized Representations [155.1457170539049]
与えられたデータ拡張に不変なタスクに対して必要かつ十分な条件を証明します。対照的に、我々のフレームワークは、従来の手法に対して単純だが重要な改善を規定している。非コントラスト学習では、私たちのフレームワークを使って、シンプルで斬新な目的を導き出します。
論文参考訳（メタデータ） (2022-09-13T18:01:03Z)
A Strong Baseline for Semi-Supervised Incremental Few-Shot Learning [54.617688468341704]
少ないショット学習は、限られたトレーニングサンプルを持つ新しいクラスに一般化するモデルを学ぶことを目的としている。本研究では,(1)信頼できない擬似ラベルによる基本クラスと新クラスのあいまいさを緩和する高度に設計されたメタトレーニングアルゴリズム,(2)ラベルの少ないデータとラベルなしデータを用いて基礎知識を保ちながら,新クラスの識別的特徴を学習するモデル適応機構を提案する。
論文参考訳（メタデータ） (2021-10-21T13:25:52Z)
Trash to Treasure: Harvesting OOD Data with Cross-Modal Matching for Open-Set Semi-Supervised Learning [101.28281124670647]
オープンセット半教師付き学習(Open-set SSL)では、ラベルなしデータにOOD(Out-of-distribution)サンプルを含む、難しいが実用的なシナリオを調査する。我々は、OODデータの存在を効果的に活用し、特徴学習を増強する新しいトレーニングメカニズムを提案する。我々のアプローチは、オープンセットSSLのパフォーマンスを大幅に向上させ、最先端技術よりも大きなマージンで性能を向上します。
論文参考訳（メタデータ） (2021-08-12T09:14:44Z)
On Data-Augmentation and Consistency-Based Semi-Supervised Learning [77.57285768500225]
最近提案された整合性に基づく半教師付き学習(SSL)手法は,複数のSSLタスクにおいて最先端技術である。これらの進歩にもかかわらず、これらの手法の理解はまだ比較的限られている。
論文参考訳（メタデータ） (2021-01-18T10:12:31Z)
Interventional Few-Shot Learning [88.31112565383457]
本稿では,新しいFew-Shot Learningパラダイム,Interventional Few-Shot Learningを提案する。コードはhttps://github.com/yue-zhongqi/ifsl.comで公開されている。
論文参考訳（メタデータ） (2020-09-28T01:16:54Z)
Semi-supervised learning objectives as log-likelihoods in a generative model of data curation [32.45282187405337]
データキュレーションの生成モデルにおいて、SSLの目的をログライクな形式として定式化する。おもちゃのデータにベイジアンSSLの証明を与える。
論文参考訳（メタデータ） (2020-08-13T13:50:27Z)
Consistency Regularization with Generative Adversarial Networks for Semi-Supervised Learning [2.9707483702447783]
GAN(Adversarial Adversarial Networks)に基づく半教師付き学習(SSL)アプローチは,多数の未ラベルサンプルを利用して分類性能を向上させる。しかし、彼らのパフォーマンスは、最先端の非GANベースのSSLアプローチよりも遅れている。この主な理由は、局所摂動下で同じ画像上でのクラス確率予測の整合性の欠如である。
論文参考訳（メタデータ） (2020-07-08T01:47:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。