論文の概要: SemiGPC: Distribution-Aware Label Refinement for Imbalanced
Semi-Supervised Learning Using Gaussian Processes
- arxiv url: http://arxiv.org/abs/2311.01646v1
- Date: Fri, 3 Nov 2023 00:25:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-06 15:36:03.142981
- Title: SemiGPC: Distribution-Aware Label Refinement for Imbalanced
Semi-Supervised Learning Using Gaussian Processes
- Title(参考訳): semigpc:ガウス過程を用いた不均衡半教師付き学習のための分布認識ラベルの改良
- Authors: Abdelhak Lemkhenter, Manchen Wang, Luca Zancato, Gurumurthy
Swaminathan, Paolo Favaro, Davide Modolo
- Abstract要約: SemiGPC はガウス過程に基づく分布対応のラベルリファインメント戦略である。
SemiGPCは、クラス不均衡の度合いが異なる技術結果の状態を達成している。
SemiGPCを使用すると、新しい競争基準に比べて約2%の精度が向上する。
- 参考スコア(独自算出の注目度): 27.85861657719241
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper we introduce SemiGPC, a distribution-aware label refinement
strategy based on Gaussian Processes where the predictions of the model are
derived from the labels posterior distribution. Differently from other
buffer-based semi-supervised methods such as CoMatch and SimMatch, our SemiGPC
includes a normalization term that addresses imbalances in the global data
distribution while maintaining local sensitivity. This explicit control allows
SemiGPC to be more robust to confirmation bias especially under class
imbalance. We show that SemiGPC improves performance when paired with different
Semi-Supervised methods such as FixMatch, ReMixMatch, SimMatch and FreeMatch
and different pre-training strategies including MSN and Dino. We also show that
SemiGPC achieves state of the art results under different degrees of class
imbalance on standard CIFAR10-LT/CIFAR100-LT especially in the low data-regime.
Using SemiGPC also results in about 2% avg.accuracy increase compared to a new
competitive baseline on the more challenging benchmarks SemiAves, SemiCUB,
SemiFungi and Semi-iNat.
- Abstract(参考訳): 本稿では,モデルの予測をラベル後方分布から導出するガウス過程に基づく分布認識ラベルリファインメント戦略であるsemigpcを提案する。
CoMatchやSimMatchのようなバッファベースの他の半教師付き手法とは異なり、SemiGPCは局所感度を維持しながらグローバルなデータ分布の不均衡に対処する正規化項を含む。
この明示的な制御により、SemiGPCは特にクラス不均衡下での確認バイアスに対してより堅牢になる。
そこで本研究では,FixMatch,ReMixMatch,SimMatch,FreeMatchなどのSemi-SupervisedメソッドとMSN,Dinoなどの事前学習戦略との組み合わせにより,SemiGPCの性能向上を示す。
また,SemiGPCは標準CIFAR10-LT/CIFAR100-LTにおけるクラス不均衡の度合いが異なる結果が得られることを示す。
SemiGPCを使用すると、より困難なベンチマークであるSemiAves、SemiCUB、SemiFungi、Semi-iNatの新たな競争ベースラインと比較して約2%の精度が向上する。
関連論文リスト
- SAM as the Guide: Mastering Pseudo-Label Refinement in Semi-Supervised Referring Expression Segmentation [66.92696817276288]
SemiRESは、RESを実行するためにラベル付きデータとラベルなしデータの組み合わせを効果的に活用する半教師付きフレームワークである。
SemiRESはSegment Anything Model (SAM) を組み込んでいる。
利用可能な候補と正確なマスクが一致しない場合、Pixel-Wise Adjustment(PWA)戦略を開発する。
論文 参考訳(メタデータ) (2024-06-03T15:42:30Z) - A Channel-ensemble Approach: Unbiased and Low-variance Pseudo-labels is Critical for Semi-supervised Classification [61.473485511491795]
半教師付き学習(SSL)はコンピュータビジョンにおける実践的な課題である。
Pseudo-label (PL) メソッド、例えば FixMatch や FreeMatch は SSL で State of The Art (SOTA) のパフォーマンスを取得する。
本稿では,複数の下位PLを理論的に保証された非偏りと低分散のPLに集約する,軽量なチャネルベースアンサンブル法を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:49:37Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - Semi-DETR: Semi-Supervised Object Detection with Detection Transformers [105.45018934087076]
半教師付き物体検出(SSOD)におけるDETRに基づくフレームワークの解析
本報告では,第1次変圧器を用いたエンド・ツー・エンド半教師対象検出器であるSemi-DETRについて述べる。
我々の手法は、最先端の手法をクリアマージンで上回る。
論文 参考訳(メタデータ) (2023-07-16T16:32:14Z) - Flexible Distribution Alignment: Towards Long-tailed Semi-supervised Learning with Proper Calibration [18.376601653387315]
Longtailed semi-supervised learning (LTSSL)は、半教師付きアプリケーションのための実践的なシナリオである。
この問題は、ラベル付きとラベルなしのクラス分布の相違によってしばしば悪化する。
本稿では,新しい適応ロジット調整型損失フレームワークFlexDAを紹介する。
論文 参考訳(メタデータ) (2023-06-07T17:50:59Z) - Balanced Semi-Supervised Generative Adversarial Network for Damage
Assessment from Low-Data Imbalanced-Class Regime [0.1657441317977376]
我々は、バランス付き半教師付きGAN(BSS-GAN)と呼ばれるGAN(Generative Adversarial Network)の1つの変種を紹介する。
半教師付き学習の概念を採用し、低データと不均衡クラスの問題を解決するためにトレーニングにバランストバッチサンプリングを適用している。
以上の結果から,BSS-GANは従来手法よりも,リコールやF_beta$スコアにおいて,より優れた損傷検出が可能であることが示唆された。
論文 参考訳(メタデータ) (2022-11-29T06:40:06Z) - Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。
ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。
SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
論文 参考訳(メタデータ) (2021-05-16T09:13:56Z) - Label-Imbalanced and Group-Sensitive Classification under
Overparameterization [32.923780772605596]
ラベルの不均衡でグループに敏感な分類は、関連するメトリクスを最適化するための標準トレーニングアルゴリズムを適切に修正することを目指す。
標準実証的リスク最小化に対するロジット調整による損失修正は,一般的には効果がない可能性がある。
本研究では, 2つの共通する不均衡(ラベル/グループ)を統一的に処理し, 敏感群の二値分類に自然に適用できることを示した。
論文 参考訳(メタデータ) (2021-03-02T08:09:43Z) - Revisiting LSTM Networks for Semi-Supervised Text Classification via
Mixed Objective Function [106.69643619725652]
我々は,単純なBiLSTMモデルであっても,クロスエントロピー損失でトレーニングした場合に,競争的な結果が得られるようなトレーニング戦略を開発する。
いくつかのベンチマークデータセット上で,テキスト分類タスクの最先端結果について報告する。
論文 参考訳(メタデータ) (2020-09-08T21:55:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。