論文の概要: Consistency Regularization with Generative Adversarial Networks for
Semi-Supervised Learning
- arxiv url: http://arxiv.org/abs/2007.03844v2
- Date: Tue, 15 Sep 2020 08:23:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-12 09:44:12.706047
- Title: Consistency Regularization with Generative Adversarial Networks for
Semi-Supervised Learning
- Title(参考訳): 半教師付き学習のための生成逆ネットワークによる一貫性規則化
- Authors: Zexi Chen, Bharathkumar Ramachandra, Ranga Raju Vatsavai
- Abstract要約: GAN(Adversarial Adversarial Networks)に基づく半教師付き学習(SSL)アプローチは,多数の未ラベルサンプルを利用して分類性能を向上させる。
しかし、彼らのパフォーマンスは、最先端の非GANベースのSSLアプローチよりも遅れている。
この主な理由は、局所摂動下で同じ画像上でのクラス確率予測の整合性の欠如である。
- 参考スコア(独自算出の注目度): 2.9707483702447783
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative Adversarial Networks (GANs) based semi-supervised learning (SSL)
approaches are shown to improve classification performance by utilizing a large
number of unlabeled samples in conjunction with limited labeled samples.
However, their performance still lags behind the state-of-the-art non-GAN based
SSL approaches. We identify that the main reason for this is the lack of
consistency in class probability predictions on the same image under local
perturbations. Following the general literature, we address this issue via
label consistency regularization, which enforces the class probability
predictions for an input image to be unchanged under various
semantic-preserving perturbations. In this work, we introduce consistency
regularization into the vanilla semi-GAN to address this critical limitation.
In particular, we present a new composite consistency regularization method
which, in spirit, leverages both local consistency and interpolation
consistency. We demonstrate the efficacy of our approach on two SSL image
classification benchmark datasets, SVHN and CIFAR-10. Our experiments show that
this new composite consistency regularization based semi-GAN significantly
improves its performance and achieves new state-of-the-art performance among
GAN-based SSL approaches.
- Abstract(参考訳): GAN(Generative Adversarial Networks)に基づく半教師付き学習(SSL)アプローチは,限られたラベル付きサンプルとともに多数のラベル付きサンプルを活用することで分類性能を向上させる。
しかし、彼らのパフォーマンスは、最先端の非GANベースのSSLアプローチよりも遅れている。
この主な原因は,局所摂動下における同一画像上のクラス確率予測の一貫性の欠如にあると考えられる。
一般的な文献に従えば、様々な意味保存摂動の下で入力画像のクラス確率予測が変化するよう強制するラベル一貫性規則化によってこの問題に対処できる。
本研究では,この限界に対処するため,バニラ半GANに整合正則化を導入する。
特に, 局所一貫性と補間一貫性を両立させる新しい複合一貫性正規化法を提案する。
提案手法の有効性を,SVHNとCIFAR-10の2つのSSL画像分類ベンチマークデータセットに示す。
実験により,この合成整合正則化に基づく半GANは,その性能を著しく向上し,GANベースのSSLアプローチにおける新たな最先端性能を実現することが示された。
関連論文リスト
- ItTakesTwo: Leveraging Peer Representations for Semi-supervised LiDAR Semantic Segmentation [24.743048965822297]
本稿では,ItTakesTwo (IT2) と呼ばれる半教師付きLiDARセマンティックセマンティックセマンティクスフレームワークを提案する。
IT2は、ピアLiDAR表現からの一貫性のある予測を保証するために設計されており、一貫性学習における摂動効率を改善する。
その結果,本手法は従来のSOTA法よりも顕著に改善されていることがわかった。
論文 参考訳(メタデータ) (2024-07-09T18:26:53Z) - AstMatch: Adversarial Self-training Consistency Framework for Semi-Supervised Medical Image Segmentation [19.80612796391153]
半教師付き学習(SSL)は,医用画像のセグメンテーションにおいて有意な可能性を示唆している。
本研究では,対戦型自己学習一貫性フレームワーク(AstMatch)を提案する。
提案されたAstMatchは、3つの公開データセット上の最先端SSLメソッドで広く評価されている。
論文 参考訳(メタデータ) (2024-06-28T04:38:12Z) - A Channel-ensemble Approach: Unbiased and Low-variance Pseudo-labels is Critical for Semi-supervised Classification [61.473485511491795]
半教師付き学習(SSL)はコンピュータビジョンにおける実践的な課題である。
Pseudo-label (PL) メソッド、例えば FixMatch や FreeMatch は SSL で State of The Art (SOTA) のパフォーマンスを取得する。
本稿では,複数の下位PLを理論的に保証された非偏りと低分散のPLに集約する,軽量なチャネルベースアンサンブル法を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:49:37Z) - Improving Representation Learning for Histopathologic Images with
Cluster Constraints [31.426157660880673]
自己教師型学習(SSL)事前学習戦略が,現実的な代替手段として浮上している。
転送可能な表現学習と意味的に意味のあるクラスタリングのためのSSLフレームワークを導入する。
我々の手法は、下流の分類やクラスタリングタスクにおいて一般的なSSLメソッドよりも優れています。
論文 参考訳(メタデータ) (2023-10-18T21:20:44Z) - Instance Adaptive Prototypical Contrastive Embedding for Generalized
Zero Shot Learning [11.720039414872296]
一般的なゼロショット学習は、トレーニング中に目に見えないラベルがアクセスできないと仮定して、目に見えないラベルと見えないラベルからサンプルを分類することを目的としている。
GZSLの最近の進歩は、生成ネットワークにコントラッシブラーニングベースの埋め込みを組み込むことによって、加速している。
論文 参考訳(メタデータ) (2023-09-13T14:26:03Z) - Revisiting Deep Semi-supervised Learning: An Empirical Distribution
Alignment Framework and Its Generalization Bound [97.93945601881407]
経験分布アライメントによる半教師あり学習(SLEDA)と呼ばれる深層半教師あり学習フレームワークを提案する。
ラベル付きデータに対するトレーニング誤差を最小化することにより,半教師付き学習の一般化誤差を効果的にバウンドできることを示す。
新しい枠組みと理論的境界に基づいて、Augmented Distribution Alignment Network(ADA-Net)と呼ばれるシンプルで効果的な深層半教師付き学習手法を開発した。
論文 参考訳(メタデータ) (2022-03-13T11:59:52Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Revisiting Consistency Regularization for Semi-Supervised Learning [80.28461584135967]
そこで我々は,FeatDistLossというシンプルな手法により,一貫性の規則化を改良したフレームワークを提案する。
実験結果から,本モデルは様々なデータセットや設定のための新しい技術状態を定義する。
論文 参考訳(メタデータ) (2021-12-10T20:46:13Z) - On Data-Augmentation and Consistency-Based Semi-Supervised Learning [77.57285768500225]
最近提案された整合性に基づく半教師付き学習(SSL)手法は,複数のSSLタスクにおいて最先端技術である。
これらの進歩にもかかわらず、これらの手法の理解はまだ比較的限られている。
論文 参考訳(メタデータ) (2021-01-18T10:12:31Z) - Revisiting LSTM Networks for Semi-Supervised Text Classification via
Mixed Objective Function [106.69643619725652]
我々は,単純なBiLSTMモデルであっても,クロスエントロピー損失でトレーニングした場合に,競争的な結果が得られるようなトレーニング戦略を開発する。
いくつかのベンチマークデータセット上で,テキスト分類タスクの最先端結果について報告する。
論文 参考訳(メタデータ) (2020-09-08T21:55:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。