論文の概要: AlphaMatch: Improving Consistency for Semi-supervised Learning with Alpha-divergence

• arxiv url: http://arxiv.org/abs/2011.11779v1
• Date: Mon, 23 Nov 2020 22:43:45 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-22 01:35:37.594080
• Title: AlphaMatch: Improving Consistency for Semi-supervised Learning with Alpha-divergence
• Title（参考訳）: AlphaMatch:Alpha-divergenceによる半教師あり学習の一貫性向上
• Authors: Chengyue Gong, Dilin Wang, Qiang Liu
• Abstract要約: 半教師付き学習(SSL)は、ラベル付きデータとラベルなしデータの両方を併用することにより、よりデータ効率の高い機械学習への重要なアプローチである。 我々は、データポイントとそれらから派生した拡張データとのラベル一貫性を効率的に強化することにより、データ拡張を利用する効率的なSSL手法であるAlphaMatchを提案する。
• 参考スコア（独自算出の注目度）: 44.88886269629515
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Semi-supervised learning (SSL) is a key approach toward more data-efficient machine learning by jointly leverage both labeled and unlabeled data. We propose AlphaMatch, an efficient SSL method that leverages data augmentations, by efficiently enforcing the label consistency between the data points and the augmented data derived from them. Our key technical contribution lies on: 1) using alpha-divergence to prioritize the regularization on data with high confidence, achieving a similar effect as FixMatch but in a more flexible fashion, and 2) proposing an optimization-based, EM-like algorithm to enforce the consistency, which enjoys better convergence than iterative regularization procedures used in recent SSL methods such as FixMatch, UDA, and MixMatch. AlphaMatch is simple and easy to implement, and consistently outperforms prior arts on standard benchmarks, e.g. CIFAR-10, SVHN, CIFAR-100, STL-10. Specifically, we achieve 91.3% test accuracy on CIFAR-10 with just 4 labelled data per class, substantially improving over the previously best 88.7% accuracy achieved by FixMatch.
• Abstract（参考訳）: 半教師付き学習(SSL)は、ラベル付きデータとラベルなしデータの両方を併用することにより、よりデータ効率の高い機械学習への重要なアプローチである。 我々は、データポイントとそれらから派生した拡張データとのラベル一貫性を効率的に強化することにより、データ拡張を利用する効率的なSSL手法であるAlphaMatchを提案する。 私たちの重要な技術的貢献は 1) 信頼度の高いデータの正規化を優先するためにアルファディバイジェンスを使用して、FixMatchと同じような効果を、より柔軟な方法で達成し、 2) fixmatch, uda, mixmatch などの最近のsslメソッドで使用される反復正規化手順よりも収束性がよい,一貫性を実現するための最適化ベースのemライクなアルゴリズムの提案。 AlphaMatchは単純で実装が簡単で、CIFAR-10、SVHN、CIFAR-100、STL-10などの標準ベンチマークで先行技術より一貫して優れている。 具体的には、CIFAR-10の91.3%の精度をクラスごとのラベル付きデータで達成し、FixMatchが達成した88.7%の精度よりも大幅に改善した。

関連論文リスト

• AstMatch: Adversarial Self-training Consistency Framework for Semi-Supervised Medical Image Segmentation [19.80612796391153]
  半教師付き学習(SSL)は,医用画像のセグメンテーションにおいて有意な可能性を示唆している。 本研究では,対戦型自己学習一貫性フレームワーク(AstMatch)を提案する。 提案されたAstMatchは、3つの公開データセット上の最先端SSLメソッドで広く評価されている。
  論文  参考訳（メタデータ） (2024-06-28T04:38:12Z)
• MaskMatch: Boosting Semi-Supervised Learning Through Mask Autoencoder-Driven Feature Learning [8.255082589733673]
  algoは、ラベルのないデータを完全に活用して、半教師付き学習を促進する新しいアルゴリズムである。 algoは自己教師型学習戦略、すなわちMasked Autoencoder(MAE)を統合する。 アルゴは、挑戦的なデータセットでそれぞれ18.71%、9.47%、3.07%の低いエラー率を達成する。
  論文  参考訳（メタデータ） (2024-05-10T03:39:54Z)
• JointMatch: A Unified Approach for Diverse and Collaborative Pseudo-Labeling to Semi-Supervised Text Classification [65.268245109828]
  半教師付きテキスト分類(SSTC)は、ラベルのないデータを活用する能力によって注目を集めている。 擬似ラベルに基づく既存のアプローチは、擬似ラベルバイアスと誤り蓄積の問題に悩まされる。 我々は、最近の半教師付き学習からアイデアを統一することでこれらの課題に対処する、SSTCの総合的なアプローチであるJointMatchを提案する。
  論文  参考訳（メタデータ） (2023-10-23T05:43:35Z)
• Class-Aware Contrastive Semi-Supervised Learning [51.205844705156046]
  本研究では,擬似ラベル品質を向上し,実環境におけるモデルの堅牢性を高めるため,CCSSL(Class-Aware Contrastive Semi-Supervised Learning)と呼ばれる一般的な手法を提案する。 提案するCCSSLは,標準データセットCIFAR100とSTL10の最先端SSLメソッドに対して,大幅な性能向上を実現している。
  論文  参考訳（メタデータ） (2022-03-04T12:18:23Z)
• OpenMatch: Open-set Consistency Regularization for Semi-supervised Learning with Outliers [71.08167292329028]
  我々はOpenMatchと呼ばれる新しいオープンセットセミスーパーバイザードラーニング(OSSL)アプローチを提案する。 OpenMatchは、1-vs-all(OVA)分類器に基づいた新規検出とFixMatchを統合する。 3つのデータセットで最先端のパフォーマンスを実現し、CIFAR10の未ラベルデータで見えないアウトリーチを検出する上で、完全な教師付きモデルよりも優れています。
  論文  参考訳（メタデータ） (2021-05-28T23:57:15Z)
• CoMatch: Semi-supervised Learning with Contrastive Graph Regularization [86.84486065798735]
  CoMatchは、支配的なアプローチを統一する、新しい半教師付き学習手法である。 複数のデータセット上で最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2020-11-23T02:54:57Z)
• Semi-Supervised Learning with Data Augmentation for End-to-End ASR [4.878819328459915]
  我々は、画像分類タスクにうまく適用された整合正則化原理に着目する。 We present sequence-to-sequence (seq2seq) version of the FixMatch and Noisy Students algorithm。
  論文  参考訳（メタデータ） (2020-07-27T21:24:52Z)
• FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidence [93.91751021370638]
  半教師付き学習(SSL)は、ラベルのないデータを活用してモデルの性能を向上させる効果的な手段を提供する。 本稿では、整合正則化と擬似ラベル付けという2つの共通SSL手法の単純な組み合わせのパワーを実証する。 筆者らのアルゴリズムであるFixMatchは、まず、弱拡張未ラベル画像上のモデルの予測を用いて擬似ラベルを生成する。
  論文  参考訳（メタデータ） (2020-01-21T18:32:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。