論文の概要: Analysis of Pseudo-Labeling for Online Source-Free Universal Domain Adaptation
- arxiv url: http://arxiv.org/abs/2504.11992v1
- Date: Wed, 16 Apr 2025 11:34:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-17 18:06:32.774421
- Title: Analysis of Pseudo-Labeling for Online Source-Free Universal Domain Adaptation
- Title(参考訳): オンラインソースフリーユニバーサルドメイン適応のための擬似ラベル解析
- Authors: Pascal Schlachter, Jonathan Fuss, Bin Yang,
- Abstract要約: トレーニングデータとテストデータのシフトは、ディープニューラルネットワークの実際のパフォーマンスを妨げることが多い。
オンラインソースフリーユニバーサルドメイン適応(SF-UniDA)はこの課題に対処する。
既存の手法は主に擬似ラベルによる自己学習に依存しているが、擬似ラベルと適応結果の関係は研究されていない。
- 参考スコア(独自算出の注目度): 3.1265626879839923
- License:
- Abstract: A domain (distribution) shift between training and test data often hinders the real-world performance of deep neural networks, necessitating unsupervised domain adaptation (UDA) to bridge this gap. Online source-free UDA has emerged as a solution for practical scenarios where access to source data is restricted and target data is received as a continuous stream. However, the open-world nature of many real-world applications additionally introduces category shifts meaning that the source and target label spaces may differ. Online source-free universal domain adaptation (SF-UniDA) addresses this challenge. Existing methods mainly rely on self-training with pseudo-labels, yet the relationship between pseudo-labeling and adaptation outcomes has not been studied yet. To bridge this gap, we conduct a systematic analysis through controlled experiments with simulated pseudo-labeling, offering valuable insights into pseudo-labeling for online SF-UniDA. Our findings reveal a substantial gap between the current state-of-the-art and the upper bound of adaptation achieved with perfect pseudo-labeling. Moreover, we show that a contrastive loss enables effective adaptation even with moderate pseudo-label accuracy, while a cross-entropy loss, though less robust to pseudo-label errors, achieves superior results when pseudo-labeling approaches perfection. Lastly, our findings indicate that pseudo-label accuracy is in general more crucial than quantity, suggesting that prioritizing fewer but high-confidence pseudo-labels is beneficial. Overall, our study highlights the critical role of pseudo-labeling in (online) SF-UniDA and provides actionable insights to drive future advancements in the field. Our code is available at https://github.com/pascalschlachter/PLAnalysis.
- Abstract(参考訳): トレーニングデータとテストデータの間のドメイン(配布)シフトは、ディープニューラルネットワークの実際のパフォーマンスを妨げることが多く、このギャップを埋めるためには、教師なしのドメイン適応(UDA)が必要である。
オンラインソースフリーのUDAは、ソースデータへのアクセスが制限され、ターゲットデータが連続的なストリームとして受信される、実践的なシナリオのソリューションとして登場した。
しかし、多くの実世界のアプリケーションにおけるオープンワールドの性質は、ソースとターゲットのラベル空間が異なることを意味するカテゴリシフトも導入している。
オンラインソースフリーユニバーサルドメイン適応(SF-UniDA)はこの課題に対処する。
既存の手法は主に擬似ラベルによる自己学習に依存しているが、擬似ラベルと適応結果の関係は研究されていない。
このギャップを埋めるために、シミュレーションされた擬似ラベルによる制御実験を通して体系的な分析を行い、オンラインSF-UniDAのための擬似ラベルに関する貴重な洞察を提供する。
以上の結果から, 完全擬似ラベルで達成した現状と適応の上限との間には, かなりのギャップがあることが判明した。
さらに, 相互エントロピー損失は擬似ラベル誤りに弱いが, 擬似ラベルが完全に近づいた場合, 優れた結果が得られることを示す。
最後に,疑似ラベルの精度は一般に量よりも重要であり,信頼性が低い偽ラベルの優先順位付けが有用であることが示唆された。
本研究は, SF-UniDAにおける疑似ラベルの意義を明らかにするとともに, この分野における今後の進歩を促進するための実践的な洞察を提供する。
私たちのコードはhttps://github.com/pascalschlachter/PLAnalysis.comで公開されています。
関連論文リスト
- Fuzzy-aware Loss for Source-free Domain Adaptation in Visual Emotion Recognition [17.617780698468465]
視覚的感情認識におけるソースフリードメイン適応(SFDA-VER)は非常に難しい課題である。
本稿では,新たなファジィ・アウェア・ロス(FAL)を提案する。
論文 参考訳(メタデータ) (2025-01-26T13:20:52Z) - Trust And Balance: Few Trusted Samples Pseudo-Labeling and Temperature Scaled Loss for Effective Source-Free Unsupervised Domain Adaptation [16.5799094981322]
Few Trusted Samples Pseudo-labeling (FTSP) and Temperature Scaled Adaptive Loss (TSAL)を紹介する。
FTSPは、ターゲットデータからの信頼されたサンプルの限られたサブセットを使用して、ドメイン全体の擬似ラベルを推論する分類器を構築する。
TSALは、ユニークな双対温度スケジューリング、漸近的なバランスの多様性、識別性、擬似ラベルの組み込みで設計されている。
論文 参考訳(メタデータ) (2024-09-01T15:09:14Z) - Unsupervised Domain Adaptation for Brain Vessel Segmentation through
Transwarp Contrastive Learning [46.248404274124546]
教師なし領域適応(Unsupervised domain adapt, UDA)は、ラベル付きソース分布とラベル付きターゲット分布との整合を目的とし、ドメイン不変な予測モデルを得る。
本稿では,ラベル付きソースと非ラベル付きターゲット分布の領域間ギャップを狭めるための,UDAのための簡易かつ強力なコントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2024-02-23T10:01:22Z) - All Points Matter: Entropy-Regularized Distribution Alignment for
Weakly-supervised 3D Segmentation [67.30502812804271]
擬似ラベルは、弱い教師付き3Dセグメンテーションタスクに広く使われており、学習に使えるのはスパース・グラウンド・トラス・ラベルのみである。
本稿では,生成した擬似ラベルを正規化し,擬似ラベルとモデル予測とのギャップを効果的に狭めるための新しい学習戦略を提案する。
論文 参考訳(メタデータ) (2023-05-25T08:19:31Z) - Adapting to Online Label Shift with Provable Guarantees [137.89382409682233]
オンラインラベルシフトの問題を定式化し,検討する。
非定常性と監督の欠如は、この問題に取り組むことを困難にしている。
我々のアルゴリズムは最適な動的後悔を享受しており、性能が透かしの性質と競合していることを示している。
論文 参考訳(メタデータ) (2022-07-05T15:43:14Z) - Unsupervised Domain Adaptive Salient Object Detection Through
Uncertainty-Aware Pseudo-Label Learning [104.00026716576546]
そこで本研究では,手動のアノテーションを使わずに,自然に高いピクセルラベル品質を有する合成・クリーンなラベルから,サリエンスを学習することを提案する。
提案手法は,複数のベンチマークデータセット上で,既存の最先端の深層教師なしSOD法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-02-26T16:03:55Z) - Adaptive Pseudo-Label Refinement by Negative Ensemble Learning for
Source-Free Unsupervised Domain Adaptation [35.728603077621564]
既存のUnsupervised Domain Adaptation (UDA)メソッドは、トレーニング中にソースとターゲットのドメインデータを同時に利用できると仮定する。
訓練済みのソースモデルは、よく知られたドメインシフトの問題により、ターゲットに対して性能が悪くても、常に利用可能であると考えられている。
適応型ノイズフィルタリングと擬似ラベル改良に取り組むための統一手法を提案する。
論文 参考訳(メタデータ) (2021-03-29T22:18:34Z) - Cycle Self-Training for Domain Adaptation [85.14659717421533]
Cycle Self-Training (CST) は、ドメイン間の一般化に擬似ラベルを強制する、原則付き自己学習アルゴリズムである。
CSTは目標の真理を回復し、不変の機能学習とバニラ自己訓練の両方が失敗する。
実験結果から,標準的なUDAベンチマークでは,CSTは先行技術よりも大幅に改善されていることが示唆された。
論文 参考訳(メタデータ) (2021-03-05T10:04:25Z) - A Free Lunch for Unsupervised Domain Adaptive Object Detection without
Source Data [69.091485888121]
教師なしドメイン適応(unsupervised domain adaptation) ソースとターゲットのドメインデータは自由に利用でき、通常、ドメイン間のギャップを減らすために一緒に訓練される。
ノイズの多いラベルで学習する問題にモデル化することで,ソースデータのないドメイン適応オブジェクト検出(SFOD)フレームワークを提案する。
論文 参考訳(メタデータ) (2020-12-10T01:42:35Z) - Selective Pseudo-Labeling with Reinforcement Learning for
Semi-Supervised Domain Adaptation [116.48885692054724]
半教師付きドメイン適応のための強化学習に基づく選択擬似ラベル法を提案する。
高精度かつ代表的な擬似ラベルインスタンスを選択するための深層Q-ラーニングモデルを開発する。
提案手法は, SSDAのベンチマークデータセットを用いて評価し, 全ての比較手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2020-12-07T03:37:38Z) - Unsupervised Domain Adaptation with Progressive Adaptation of Subspaces [26.080102941802107]
Unsupervised Domain Adaptation (UDA)は、ラベル付きソースドメインからの知識をドメインシフトで転送することで、ラベル付きターゲットドメインを分類することを目的としている。
そこで我々は,これらの直観を利用して,信頼性の高い擬似ラベルを徐々に取得する,プログレッシブ・アダプティブ・オブ・サブスペース・アプローチ (PAS) という新しいUDA手法を提案する。
我々の徹底的な評価は、PASが一般的なUDAに有効であるだけでなく、より挑戦的な部分的ドメイン適応(PDA)の状況において、最先端の技術を上回っていることを示している。
論文 参考訳(メタデータ) (2020-09-01T15:40:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。