論文の概要: C-SFDA: A Curriculum Learning Aided Self-Training Framework for
Efficient Source Free Domain Adaptation
- arxiv url: http://arxiv.org/abs/2303.17132v1
- Date: Thu, 30 Mar 2023 03:42:54 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-31 14:24:07.075197
- Title: C-SFDA: A Curriculum Learning Aided Self-Training Framework for
Efficient Source Free Domain Adaptation
- Title(参考訳): C-SFDA: 効率的なソースフリードメイン適応のための自己学習フレームワーク
- Authors: Nazmul Karim, Niluthpol Chowdhury Mithun, Abhinav Rajvanshi, Han-pang
Chiu, Supun Samarasekera, Nazanin Rahnavard
- Abstract要約: 教師なしドメイン適応(UDA)アプローチは、ラベル付きソースドメインでトレーニングされたモデルをラベルなしターゲットドメインに適応させることに重点を置いている。
C-SFDAは、選択的擬似ラベルによるドメイン間の変化に効率よく確実に適応できる、SFDAの自己学習フレームワークである。
- 参考スコア(独自算出の注目度): 18.58469201869616
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Unsupervised domain adaptation (UDA) approaches focus on adapting models
trained on a labeled source domain to an unlabeled target domain. UDA methods
have a strong assumption that the source data is accessible during adaptation,
which may not be feasible in many real-world scenarios due to privacy concerns
and resource constraints of devices. In this regard, source-free domain
adaptation (SFDA) excels as access to source data is no longer required during
adaptation. Recent state-of-the-art (SOTA) methods on SFDA mostly focus on
pseudo-label refinement based self-training which generally suffers from two
issues: i) inevitable occurrence of noisy pseudo-labels that could lead to
early training time memorization, ii) refinement process requires maintaining a
memory bank which creates a significant burden in resource constraint
scenarios. To address these concerns, we propose C-SFDA, a curriculum learning
aided self-training framework for SFDA that adapts efficiently and reliably to
changes across domains based on selective pseudo-labeling. Specifically, we
employ a curriculum learning scheme to promote learning from a restricted
amount of pseudo labels selected based on their reliabilities. This simple yet
effective step successfully prevents label noise propagation during different
stages of adaptation and eliminates the need for costly memory-bank based label
refinement. Our extensive experimental evaluations on both image recognition
and semantic segmentation tasks confirm the effectiveness of our method. C-SFDA
is readily applicable to online test-time domain adaptation and also
outperforms previous SOTA methods in this task.
- Abstract(参考訳): unsupervised domain adaptation(uda)アプローチは、ラベル付きソースドメインでトレーニングされたモデルをラベルなしのターゲットドメインに適応させることに重点を置いている。
UDAメソッドは、ソースデータが適応中にアクセス可能であるという強い仮定を持っているが、プライバシの懸念やデバイスのリソース制約のため、多くの現実のシナリオでは実現できないかもしれない。
この点において、ソースフリードメイン適応(SFDA)は、ソースデータへのアクセスが適応中に不要になるため、優れている。
SFDAの最近の最先端(SOTA)法は、主に擬似ラベルによる自己訓練に焦点を当てている。
一 早期の訓練時間の記憶に繋がるうるノイズのある擬似ラベルの必然的発生
二 資源制約のシナリオにおいて重大な負担となるメモリバンクの維持が必要であること。
そこで本研究では,sfdaのためのカリキュラム学習支援自己学習フレームワークであるc-sfdaを提案する。
具体的には,その信頼性に基づいて選択した疑似ラベルの制限量から学習を促進するためのカリキュラム学習方式を提案する。
このシンプルで効果的なステップは、適応の異なる段階におけるラベルノイズの伝搬をうまく防止し、コストのかかるメモリバンクベースのラベルリファインメントを不要にする。
画像認識とセマンティクスセグメンテーション課題の両方に関する広範囲な実験評価を行い,提案手法の有効性を確認した。
C-SFDAは、オンラインテストタイムドメイン適応にも容易に適用でき、従来のSOTAメソッドよりも優れている。
関連論文リスト
- Empowering Source-Free Domain Adaptation with MLLM-driven Curriculum Learning [5.599218556731767]
Source-Free Domain Adaptation (SFDA)は、未ラベルのターゲットデータのみを使用して、トレーニング済みのソースモデルをターゲットドメインに適応することを目的としている。
Reliability-based Curriculum Learning (RCL)は、SFDAの擬似ラベルによる知識活用のために複数のMLLMを統合している。
論文 参考訳(メタデータ) (2024-05-28T17:18:17Z) - De-Confusing Pseudo-Labels in Source-Free Domain Adaptation [14.954662088592762]
ソースのないドメイン適応は、ソースデータにアクセスすることなく、未ラベルのターゲットドメインにソース訓練されたモデルを適用することを目的としている。
本稿では,ドメイン適応設定における雑音分布に対処するための新しいノイズ学習手法を提案する。
論文 参考訳(メタデータ) (2024-01-03T10:07:11Z) - Robust Source-Free Domain Adaptation for Fundus Image Segmentation [3.585032903685044]
Unlabelled Domain Adaptation (UDA)は、ラベル付きデータから学習した知識を、未ラベルデータのみを使用してターゲットドメインに転送する学習技術である。
本研究では,ロバストドメイン適応のための2段階トレーニングステージを提案する。
本稿では,ラベルのないターゲットデータを有効利用して擬似ラベルと擬似境界を生成する,ロバストな擬似ラベルと擬似境界(PLPB)手法を提案する。
論文 参考訳(メタデータ) (2023-10-25T14:25:18Z) - Prior Knowledge Guided Unsupervised Domain Adaptation [82.9977759320565]
本稿では,対象とするクラス分布に関する事前知識を利用できる知識誘導型非教師付きドメイン適応(KUDA)設定を提案する。
特に,対象領域におけるクラス分布に関する2種類の事前知識について考察する。
このような事前知識を用いて生成した擬似ラベルを精査する修正モジュールを提案する。
論文 参考訳(メタデータ) (2022-07-18T18:41:36Z) - Boosting Cross-Domain Speech Recognition with Self-Supervision [35.01508881708751]
自動音声認識(ASR)のクロスドメイン性能は,トレーニングとテストのミスマッチにより著しく損なわれる可能性がある。
従来, 自己監督学習 (SSL) や擬似ラベル学習 (PL) は, 未ラベルデータの自己監督を利用してUDAに有効であることが示された。
この研究は、事前学習および微調整のパラダイムにおいて、ラベルなしデータを完全に活用する体系的なUDAフレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-20T14:02:53Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - A Curriculum-style Self-training Approach for Source-Free Semantic Segmentation [91.13472029666312]
ソースフリーなドメイン適応型セマンティックセマンティックセグメンテーションのためのカリキュラムスタイルの自己学習手法を提案する。
提案手法は, ソースフリーなセマンティックセグメンテーションタスクにおいて, 合成-実-実-実-実-実-実-非実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実
論文 参考訳(メタデータ) (2021-06-22T10:21:39Z) - Adaptive Pseudo-Label Refinement by Negative Ensemble Learning for
Source-Free Unsupervised Domain Adaptation [35.728603077621564]
既存のUnsupervised Domain Adaptation (UDA)メソッドは、トレーニング中にソースとターゲットのドメインデータを同時に利用できると仮定する。
訓練済みのソースモデルは、よく知られたドメインシフトの問題により、ターゲットに対して性能が悪くても、常に利用可能であると考えられている。
適応型ノイズフィルタリングと擬似ラベル改良に取り組むための統一手法を提案する。
論文 参考訳(メタデータ) (2021-03-29T22:18:34Z) - Self-Supervised Noisy Label Learning for Source-Free Unsupervised Domain
Adaptation [87.60688582088194]
新規な自己監督雑音ラベル学習法を提案する。
本手法は最新の結果を容易に達成でき、他の手法を非常に大きなマージンで超えることができる。
論文 参考訳(メタデータ) (2021-02-23T10:51:45Z) - Selective Pseudo-Labeling with Reinforcement Learning for
Semi-Supervised Domain Adaptation [116.48885692054724]
半教師付きドメイン適応のための強化学習に基づく選択擬似ラベル法を提案する。
高精度かつ代表的な擬似ラベルインスタンスを選択するための深層Q-ラーニングモデルを開発する。
提案手法は, SSDAのベンチマークデータセットを用いて評価し, 全ての比較手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2020-12-07T03:37:38Z) - Universal Source-Free Domain Adaptation [57.37520645827318]
ドメイン適応のための新しい2段階学習プロセスを提案する。
Procurementの段階では、今後のカテゴリギャップやドメインシフトに関する事前知識を前提とせず、将来的なソースフリーデプロイメントのためのモデルの提供を目標としています。
Deploymentの段階では、幅広いカテゴリギャップをまたいで動作可能な統一適応アルゴリズムを設計することを目的としている。
論文 参考訳(メタデータ) (2020-04-09T07:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。