論文の概要: Unified Source-Free Domain Adaptation
- arxiv url: http://arxiv.org/abs/2403.07601v1
- Date: Tue, 12 Mar 2024 12:40:08 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-13 21:35:19.407581
- Title: Unified Source-Free Domain Adaptation
- Title(参考訳): 統一ソースフリードメイン適応
- Authors: Song Tang, Wenxin Su, Mao Ye, Jianwei Zhang and Xiatian Zhu
- Abstract要約: ソーストレーニングデータにアクセスせずにソースモデルをターゲットドメインに転送する目的で、Source-Free Domain Adaptation (SFDA)が広く研究されている。
我々はLCFD(Latent Causal Factors Discovery)と呼ばれる新しい手法を提案する。
現実の統計的記述の学習を強調する従来の代替手段とは対照的に、因果性の観点からLCFDを定式化する。
- 参考スコア(独自算出の注目度): 44.95240684589647
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the pursuit of transferring a source model to a target domain without
access to the source training data, Source-Free Domain Adaptation (SFDA) has
been extensively explored across various scenarios, including closed-set,
open-set, partial-set, and generalized settings. Existing methods, focusing on
specific scenarios, not only address only a subset of challenges but also
necessitate prior knowledge of the target domain, significantly limiting their
practical utility and deployability. In light of these considerations, we
introduce a more practical yet challenging problem, termed unified SFDA, which
comprehensively incorporates all specific scenarios in a unified manner. To
tackle this unified SFDA problem, we propose a novel approach called Latent
Causal Factors Discovery (LCFD). In contrast to previous alternatives that
emphasize learning the statistical description of reality, we formulate LCFD
from a causality perspective. The objective is to uncover the causal
relationships between latent variables and model decisions, enhancing the
reliability and robustness of the learned model against domain shifts. To
integrate extensive world knowledge, we leverage a pre-trained vision-language
model such as CLIP. This aids in the formation and discovery of latent causal
factors in the absence of supervision in the variation of distribution and
semantics, coupled with a newly designed information bottleneck with
theoretical guarantees. Extensive experiments demonstrate that LCFD can achieve
new state-of-the-art results in distinct SFDA settings, as well as source-free
out-of-distribution generalization.Our code and data are available at
https://github.com/tntek/source-free-domain-adaptation.
- Abstract(参考訳): ソーストレーニングデータにアクセスせずにソースモデルをターゲットドメインに転送する目的で、ソースフリードメイン適応(sfda)はクローズドセット、オープンセット、部分セット、一般化された設定など、さまざまなシナリオで広く研究されてきた。
特定のシナリオに焦点を当てた既存のメソッドは、課題のサブセットだけではなく、ターゲットドメインの事前知識も必要とし、実用性とデプロイ性を大幅に制限する。
これらの考察を踏まえて、我々はより実用的で困難な問題である統合SFDAを導入し、すべての特定のシナリオを総合的に統一的に組み込んだ。
本研究では,この統合SFDA問題に対処するため,LCFD(Latent Causal Factors Discovery)と呼ばれる新しいアプローチを提案する。
現実の統計的記述の学習を強調する従来の代替手段とは対照的に、因果性の観点からLCFDを定式化する。
目的は、潜在変数とモデル決定との間の因果関係を明らかにし、ドメインシフトに対する学習モデルの信頼性と堅牢性を高めることである。
広義の世界知識を統合するために、CLIPのような事前学習された視覚言語モデルを利用する。
これは、分布と意味論のばらつきにおける監督の欠如と、理論的保証を備えた新しく設計された情報ボトルネックにおける潜在因果要因の形成と発見を支援する。
広範な実験により、lcfdは異なるsfda設定で新しい最先端の成果を得られることが示され、またソースフリーのアウト・オブ・ディストリビューション一般化(source-free out-of-distribution generalization)も可能である。
関連論文リスト
- CoSDA: Continual Source-Free Domain Adaptation [78.47274343972904]
ソースデータにアクセスせずに、ソースフリードメイン適応(SFDA)は、ソースドメインのトレーニングされたモデルからターゲットドメインに知識を転送する。
最近では、ソースドメインのデータプライバシ保護の必要性から、SFDAの人気が高まっている。
教師-学生モデルペアを2倍高速に最適化し,整合性学習機能を備えた,CoSDAという連続的ソースフリードメイン適応手法を提案する。
論文 参考訳(メタデータ) (2023-04-13T15:53:23Z) - A Comprehensive Survey on Source-free Domain Adaptation [69.17622123344327]
ソースフリードメイン適応(SFDA)の研究は近年注目を集めている。
SFDAの最近の進歩を包括的に調査し、それらを統一的な分類体系に整理する。
一般的な3つの分類基準で30以上のSFDA法を比較検討した。
論文 参考訳(メタデータ) (2023-02-23T06:32:09Z) - Jacobian Norm for Unsupervised Source-Free Domain Adaptation [37.958884762225814]
フリードメイン適応(USFDA)は、よく訓練されたソースモデルから関連するがラベルのないターゲットドメインに知識を伝達することを目的としている。
既存のFDAは、ソースモデルに隠された潜在分布にターゲット特徴を合わせることで、知識を伝達する。
性能向上のための新たな視点を提案する。
論文 参考訳(メタデータ) (2022-04-07T14:30:48Z) - Learning Invariant Representation with Consistency and Diversity for
Semi-supervised Source Hypothesis Transfer [46.68586555288172]
本稿では,SSHT(Semi-supervised Source hypothesis Transfer)という新たなタスクを提案する。
本研究では、ランダムに拡張された2つの未ラベルデータ間の予測整合性を容易にし、SSHTの簡易かつ効果的なフレームワークである一貫性と多様性の学習(CDL)を提案する。
実験の結果,本手法は,DomainNet,Office-Home,Office-31データセット上で,既存のSSDA手法や教師なしモデル適応手法よりも優れていた。
論文 参考訳(メタデータ) (2021-07-07T04:14:24Z) - Source-Free Domain Adaptation for Semantic Segmentation [11.722728148523366]
Unsupervised Domain Adaptation(UDA)は、セマンティックセグメンテーションのための畳み込みニューラルネットワークベースのアプローチがピクセルレベルの注釈付きデータに大きく依存するという課題に取り組むことができる。
そこで本稿では,十分に訓練されたソースモデルとラベルなしのターゲットドメインデータセットのみを適用可能な,意味セグメンテーションのためのソースフリーなドメイン適応フレームワークsfdaを提案する。
論文 参考訳(メタデータ) (2021-03-30T14:14:29Z) - Universal Source-Free Domain Adaptation [57.37520645827318]
ドメイン適応のための新しい2段階学習プロセスを提案する。
Procurementの段階では、今後のカテゴリギャップやドメインシフトに関する事前知識を前提とせず、将来的なソースフリーデプロイメントのためのモデルの提供を目標としています。
Deploymentの段階では、幅広いカテゴリギャップをまたいで動作可能な統一適応アルゴリズムを設計することを目的としている。
論文 参考訳(メタデータ) (2020-04-09T07:26:20Z) - Towards Inheritable Models for Open-Set Domain Adaptation [56.930641754944915]
本稿では、将来、ソースデータセットが存在しない場合の適応を容易にするために、ソース学習モデルを用いた実用的なドメイン適応パラダイムを提案する。
本稿では,ソースデータがない場合でも,対象領域に対して最適なソースモデルの選択を可能にするために,継承可能性の定量化を目的とする手法を提案する。
論文 参考訳(メタデータ) (2020-04-09T07:16:30Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。