論文の概要: Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning
- arxiv url: http://arxiv.org/abs/2211.06612v1
- Date: Sat, 12 Nov 2022 09:21:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-15 16:00:11.625553
- Title: Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning
- Title(参考訳): divide and contrast:adaptive contrastive learningによるソースフリードメイン適応
- Authors: Ziyi Zhang, Weikai Chen, Hui Cheng, Zhen Li, Siyuan Li, Liang Lin,
Guanbin Li
- Abstract要約: Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
- 参考スコア(独自算出の注目度): 122.62311703151215
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We investigate a practical domain adaptation task, called source-free domain
adaptation (SFUDA), where the source-pretrained model is adapted to the target
domain without access to the source data. Existing techniques mainly leverage
self-supervised pseudo labeling to achieve class-wise global alignment [1] or
rely on local structure extraction that encourages feature consistency among
neighborhoods [2]. While impressive progress has been made, both lines of
methods have their own drawbacks - the "global" approach is sensitive to noisy
labels while the "local" counterpart suffers from source bias. In this paper,
we present Divide and Contrast (DaC), a new paradigm for SFUDA that strives to
connect the good ends of both worlds while bypassing their limitations. Based
on the prediction confidence of the source model, DaC divides the target data
into source-like and target-specific samples, where either group of samples is
treated with tailored goals under an adaptive contrastive learning framework.
Specifically, the source-like samples are utilized for learning global class
clustering thanks to their relatively clean labels. The more noisy
target-specific data are harnessed at the instance level for learning the
intrinsic local structures. We further align the source-like domain with the
target-specific samples using a memory bank-based Maximum Mean Discrepancy
(MMD) loss to reduce the distribution mismatch. Extensive experiments on VisDA,
Office-Home, and the more challenging DomainNet have verified the superior
performance of DaC over current state-of-the-art approaches. The code is
available at https://github.com/ZyeZhang/DaC.git.
- Abstract(参考訳): 本稿では、ソースデータにアクセスせずに、ソースプリトレーニングされたモデルをターゲットドメインに適応させる、ソースフリードメイン適応(sfuda)と呼ばれる実用的なドメイン適応タスクについて検討する。
既存の技術は主に自己教師付き擬似ラベリングを活用して、クラスワイドなグローバルアライメント [1] を達成するか、地域間の特徴一貫性を促進する局所構造抽出に依存する[2]。
グローバルな"アプローチはノイズの多いラベルに敏感だが、"ローカルな"アプローチはソースバイアスに悩まされている。
本稿では,SFUDAにおける新たなパラダイムであるDivide and Contrast(DaC)について述べる。
ソースモデルの予測信頼度に基づいて、dacは対象データをソースライクなサンプルとターゲット固有のサンプルに分割する。
特に、ソースライクなサンプルは、比較的クリーンなラベルのおかげで、グローバルなクラスクラスタリングを学ぶために利用される。
よりノイズの多いターゲット固有のデータは、固有のローカル構造を学ぶためにインスタンスレベルで利用されます。
さらに、メモリバンクベースの最大平均損失(mmd)損失を用いて、ソースライクなドメインとターゲット固有のサンプルを整合させ、分散ミスマッチを低減させる。
VisDA、Office-Home、そしてより挑戦的なDomainNetに関する大規模な実験は、現在の最先端アプローチよりもDaCの優れたパフォーマンスを検証した。
コードはhttps://github.com/zyezhang/dac.gitで入手できる。
関連論文リスト
- Chaos to Order: A Label Propagation Perspective on Source-Free Domain
Adaptation [8.27771856472078]
我々は、ソースフリードメイン適応(SFDA)のための新しいアプローチであるChaos to Order(CtO)を提示する。
CtOは、セマンティックな信頼性を制約し、ターゲットのサブポピュレーション間でラベル情報を伝達する。
実証的な証拠は、CtOが3つの公開ベンチマークで芸術の状態を上回っていることを示している。
論文 参考訳(メタデータ) (2023-01-20T03:39:35Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Low-confidence Samples Matter for Domain Adaptation [47.552605279925736]
ドメイン適応(DA)は、知識をラベルの豊富なソースドメインから関連するがラベルの少ないターゲットドメインに転送することを目的としている。
低信頼度サンプルの処理による新しいコントラスト学習法を提案する。
提案手法を教師なしと半教師付きの両方のDA設定で評価する。
論文 参考訳(メタデータ) (2022-02-06T15:45:45Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - Alleviating Semantic-level Shift: A Semi-supervised Domain Adaptation
Method for Semantic Segmentation [97.8552697905657]
このタスクの重要な課題は、ソースとターゲットドメイン間のデータ分散の相違を緩和する方法である。
本稿では,グローバルな視点とローカルな視点の両方から分布の整合性を促進できるASS(Alleviating Semantic-level Shift)を提案する。
GTA5、Cityscapes、Synthia、Cityscapesの2つのドメイン適応タスクにASSを適用します。
論文 参考訳(メタデータ) (2020-04-02T03:25:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。