論文の概要: De-Confusing Pseudo-Labels in Source-Free Domain Adaptation
- arxiv url: http://arxiv.org/abs/2401.01650v1
- Date: Wed, 3 Jan 2024 10:07:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-04 14:36:12.078665
- Title: De-Confusing Pseudo-Labels in Source-Free Domain Adaptation
- Title(参考訳): ソースフリードメイン適応における擬似ラベルの分解
- Authors: Idit Diamant, Idan Achituve, Arnon Netzer
- Abstract要約: ソースフリードメイン適応(SFDA)は、ソースドメインから未ラベルのターゲットドメインに学習した知識を転送することを目的としている。
擬似ラベルのノイズ遷移行列を学習し、各クラスのラベルの破損を捉え、基礎となる真のラベル分布を学習する。
- 参考スコア(独自算出の注目度): 5.323105185250092
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Source-free domain adaptation (SFDA) aims to transfer knowledge learned from
a source domain to an unlabeled target domain, where the source data is
unavailable during adaptation. Existing approaches for SFDA focus on
self-training usually including well-established entropy minimization and
pseudo-labeling techniques. Recent work suggested a co-learning strategy to
improve the quality of the generated target pseudo-labels using robust
pretrained networks such as Swin-B. However, since the generated pseudo-labels
depend on the source model, they may be noisy due to domain shift. In this
paper, we view SFDA from the perspective of label noise learning and learn to
de-confuse the pseudo-labels. More specifically, we learn a noise transition
matrix of the pseudo-labels to capture the label corruption of each class and
learn the underlying true label distribution. Estimating the noise transition
matrix enables a better true class-posterior estimation results with better
prediction accuracy. We demonstrate the effectiveness of our approach applied
with several SFDA methods: SHOT, SHOT++, and AaD. We obtain state-of-the-art
results on three domain adaptation datasets: VisDA, DomainNet, and OfficeHome.
- Abstract(参考訳): ソースフリードメイン適応(Source-free domain adapt, SFDA)は、ソースドメインから学習した知識をラベルのないターゲットドメインに転送することを目的としている。
SFDAの既存のアプローチは通常、確立されたエントロピーの最小化と擬似ラベル技術を含む自己学習に焦点を当てている。
最近の研究は、swain-bのような堅牢な事前学習ネットワークを用いて生成された擬似ラベルの品質を改善するためのコラーニング戦略を提案している。
しかし、生成された擬似ラベルはソースモデルに依存するため、ドメインシフトによってノイズが発生する可能性がある。
本稿では,ラベルノイズ学習の観点からSFDAを考察し,擬似ラベルの解離を学習する。
より具体的には、疑似ラベルのノイズ遷移行列を学び、各クラスのラベル破損を捉え、基礎となる真のラベル分布を学ぶ。
ノイズ遷移行列の推定により、より正確な予測精度を持つ真のクラス後推定結果が得られる。
SFDA法(SHOT, SHOT++, AaD)に適用したアプローチの有効性を示す。
visda、domainnet、officehomeの3つのドメイン適応データセットについて最新の結果を得る。
関連論文リスト
- Robust Target Training for Multi-Source Domain Adaptation [110.77704026569499]
両レベル最適化に基づく新しいMSDAのためのロバスト目標訓練法(BORT$2$)を提案する。
提案手法は,大規模なDomainNetデータセットを含む3つのMSDAベンチマークにおいて,アートパフォーマンスの状態を達成している。
論文 参考訳(メタデータ) (2022-10-04T15:20:01Z) - Cycle Label-Consistent Networks for Unsupervised Domain Adaptation [57.29464116557734]
ドメイン適応は、ラベル付きソースドメインを活用して、異なる分布を持つラベル付きターゲットドメインの分類子を学ぶことを目的としています。
本稿では,分類ラベルのサイクル整合性を利用して,シンプルで効率的な領域適応手法,すなわちCycle Label-Consistent Network (CLCN)を提案する。
MNIST-USPS-SVHN, Office-31, Office-Home, Image CLEF-DAベンチマークに対するアプローチの有効性を示す。
論文 参考訳(メタデータ) (2022-05-27T13:09:08Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Target and Task specific Source-Free Domain Adaptive Image Segmentation [73.78898054277538]
ソースフリー領域適応画像分割のための2段階のアプローチを提案する。
我々は,高エントロピー領域を抑えつつ,ターゲット固有の擬似ラベルを生成することに注力する。
第2段階では、タスク固有の表現にネットワークを適用することに重点を置いている。
論文 参考訳(メタデータ) (2022-03-29T17:50:22Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - Adaptive Pseudo-Label Refinement by Negative Ensemble Learning for
Source-Free Unsupervised Domain Adaptation [35.728603077621564]
既存のUnsupervised Domain Adaptation (UDA)メソッドは、トレーニング中にソースとターゲットのドメインデータを同時に利用できると仮定する。
訓練済みのソースモデルは、よく知られたドメインシフトの問題により、ターゲットに対して性能が悪くても、常に利用可能であると考えられている。
適応型ノイズフィルタリングと擬似ラベル改良に取り組むための統一手法を提案する。
論文 参考訳(メタデータ) (2021-03-29T22:18:34Z) - Open-Set Hypothesis Transfer with Semantic Consistency [99.83813484934177]
本稿では,対象データの変換における意味的一貫性に着目した手法を提案する。
本モデルはまず,自信ある予測を発見し,擬似ラベルを用いた分類を行う。
その結果、ラベルなしデータは、ソースクラスまたは未知のクラスに一致した識別クラスに分類される。
論文 参考訳(メタデータ) (2020-10-01T10:44:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。