論文の概要: On the Model-Agnostic Multi-Source-Free Unsupervised Domain Adaptation
- arxiv url: http://arxiv.org/abs/2403.01582v1
- Date: Sun, 3 Mar 2024 18:22:39 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 20:47:46.149901
- Title: On the Model-Agnostic Multi-Source-Free Unsupervised Domain Adaptation
- Title(参考訳): モデル非依存多元無教師領域適応について
- Authors: Jiangbo Pei, Ruizhe Li, Qingchao Chen
- Abstract要約: Multi-Source-Free Unsupervised Domain Adaptation (MSFDA)は、複数の well-labeled ソースドメインから unlabeled ターゲットドメインに知識を転送することを目的としている。
モデル非依存型マルチソース非教師なしドメイン適応(MMDA)の新たなMSFDA設定について紹介する。
MMDAは有望な可能性を秘めているが、多数のソースモデルを組み込むことで、望ましくないモデルを含めるリスクが高い。
- 参考スコア(独自算出の注目度): 12.766902152086846
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-Source-Free Unsupervised Domain Adaptation (MSFDA) aims to transfer
knowledge from multiple well-labeled source domains to an unlabeled target
domain, using source models instead of source data. Existing MSFDA methods
limited that each source domain provides only a single model, with a uniform
structure. This paper introduces a new MSFDA setting: Model-Agnostic
Multi-Source-Free Unsupervised Domain Adaptation (MMDA), allowing diverse
source models with varying architectures, without quantitative restrictions.
While MMDA holds promising potential, incorporating numerous source models
poses a high risk of including undesired models, which highlights the source
model selection problem. To address it, we first provide a theoretical analysis
of this problem. We reveal two fundamental selection principles:
transferability principle and diversity principle, and introduce a selection
algorithm to integrate them. Then, considering the measure of transferability
is challenging, we propose a novel Source-Free Unsupervised Transferability
Estimation (SUTE). This novel formulation enables the assessment and comparison
of transferability across multiple source models with different architectures
in the context of domain shift, without requiring access to any target labels
or source data. Based on the above, we introduce a new framework to address
MMDA. Specifically, we first conduct source model selection based on the
proposed selection principles. Subsequently, we design two modules to aggregate
knowledge from included models and recycle useful knowledge from excluded
models. These modules enable us to leverage source knowledge efficiently and
effectively, thereby supporting us in learning a discriminative target model
via adaptation. We validate the effectiveness of our method through numerous
experimental results, and demonstrate that our approach achieves
state-of-the-art performance.
- Abstract(参考訳): Multi-Source-Free Unsupervised Domain Adaptation (MSFDA)は、複数の well-labeled ソースドメインからの知識を、ソースデータの代わりにソースモデルを使用して、未ラベルのターゲットドメインに転送することを目的としている。
既存のMSFDAメソッドは、各ソースドメインが一様構造を持つ単一のモデルのみを提供するように制限されている。
本稿では,新しいmsfda設定であるmmda(model-agnostic multi-source-free unsupervised domain adaptation)を提案する。
mmdaは有望な可能性を持っているが、多数のソースモデルを統合することは、望ましくないモデルを含めるリスクが高い。
この問題に対処するため、我々はまずこの問題に関する理論的分析を行う。
我々は,伝達可能性原理と多様性原理という2つの基本選択原理を明らかにし,それらを統合するための選択アルゴリズムを提案する。
そこで,トランスファー可能性の測定は困難であると考え,sute(source-free unsupervised transferability estimation)を提案する。
この新たな定式化により、ターゲットラベルやソースデータにアクセスすることなく、ドメインシフトの文脈で異なるアーキテクチャを持つ複数のソースモデル間の転送可能性の評価と比較が可能になる。
以上に基づいて,MMDAに対応する新しいフレームワークを提案する。
具体的には,提案する選択原理に基づき,まずソースモデル選択を行う。
その後, 2つのモジュールを設計, 対象モデルからの知識を集約し, 排除されたモデルから有用な知識を再利用する。
これらのモジュールにより,ソース知識を効率的に効果的に活用し,適応による識別対象モデルの学習を支援する。
提案手法の有効性を実験により検証し,本手法が最先端性能を実現することを示す。
関連論文リスト
- AdAM: Few-Shot Image Generation via Adaptation-Aware Kernel Modulation [71.58154388819887]
F SIG(Few-shot Image Generation)は、少数のトレーニングサンプル(例:10)が与えられた新しい多様な画像を生成することを目的としている。
最近の研究は、大規模ソースドメインで事前訓練されたGANを活用し、ターゲットドメインに適応することで、F SIGに対処している。
本稿では、異なるソース・ターゲット領域近傍の一般F SIGに対してAdaptation-Aware kernel Modulation (AdAM)を提案する。
論文 参考訳(メタデータ) (2023-07-04T03:56:43Z) - Source-free Domain Adaptation Requires Penalized Diversity [60.04618512479438]
ソースデータがない場合、異なるドメイン間の知識伝達に対処するために、ソースフリードメイン適応(SFDA)が導入された。
教師なしのFDAでは、多様性はソース上の1つの仮説を学習するか、共有された特徴抽出器で複数の仮説を学習することに限定される。
本稿では,異なる特徴抽出器を用いて表現多様性を促進する新しい無教師付きSFDAアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-04-06T00:20:19Z) - Few-shot Image Generation via Adaptation-Aware Kernel Modulation [33.191479192580275]
F SIG(Few-shot Image Generation)は、ドメインから非常に限られた数のサンプルが与えられた場合に、新しく多様なサンプルを生成することを目的としている。
最近の研究は、大規模なソースドメインデータセットで事前訓練されたGANを活用して、トランスファーラーニングアプローチを使用してこの問題に対処している。
本稿では、異なるソース・ターゲット領域近傍の一般F SIGに対処するためのAdaptation-Aware kernel Modulation (AdAM)を提案する。
論文 参考訳(メタデータ) (2022-10-29T10:26:40Z) - Learning to Diversify for Single Domain Generalization [46.35670520201863]
ドメイン一般化(DG)は、複数のソース(トレーニング)ドメインで訓練されたモデルを、分散的に異なるターゲット(テスト)ドメインに一般化することを目的としている。
本稿では、より現実的で困難なシナリオ、すなわちSingle-DG(Single-DG)について考察する。
このシナリオでは、限られた多様性は、目に見えないターゲット領域上のモデル一般化を危険にさらす可能性がある。
そこで本研究では,ソースコードに相補的な多種多様な分布の画像を合成することにより,モデルの一般化能力を高めるためのスタイル補完モジュールを提案する。
論文 参考訳(メタデータ) (2021-08-26T12:04:32Z) - Graphical Modeling for Multi-Source Domain Adaptation [56.05348879528149]
マルチソースドメイン適応(MSDA)は、複数のソースドメインからターゲットドメインへの知識の転送に焦点を当てている。
我々は2種類のグラフィカルモデルを提案する。
MSDAの条件付きランダムフィールド(CRF-MSDA)とMSDAのマルコフランダムフィールド(MRF-MSDA)
これらの2つのモデルを、ドメインシフトとデータの複雑さが異なるMSDAの4つの標準ベンチマークデータセットで評価します。
論文 参考訳(メタデータ) (2021-04-27T09:04:22Z) - Multi-source Heterogeneous Domain Adaptation with Conditional Weighting
Adversarial Network [18.168373838347126]
不均一領域適応(HDA)は、異なる確率分布と特徴表現の両方を持つクロスドメインサンプルの学習に取り組む。
本稿では,マルチソースHDA問題について検討し,それに対応する条件重み付き対向ネットワーク(CWAN)を提案する。
論文 参考訳(メタデータ) (2020-08-06T15:31:44Z) - Learning to Generate Novel Domains for Domain Generalization [115.21519842245752]
本稿では,未知の領域によく一般化するモデルとして,複数のソースドメインから学習するタスクに焦点を当てる。
我々は、擬似ノーベル領域からデータを合成し、ソースドメインを増強するためにデータジェネレータを用いる。
我々の手法であるL2A-OTは、4つのベンチマークデータセット上で現在最先端のDG手法より優れています。
論文 参考訳(メタデータ) (2020-07-07T09:34:17Z) - Mutual Learning Network for Multi-Source Domain Adaptation [73.25974539191553]
ML-MSDA(Multial Learning Network for Multiple Source Domain Adaptation)を提案する。
相互学習の枠組みのもと,提案手法は対象ドメインと各ソースドメインをペアリングし,条件付き対向ドメイン適応ネットワークを分岐ネットワークとして訓練する。
提案手法は, 比較手法より優れ, 最先端の性能を実現する。
論文 参考訳(メタデータ) (2020-03-29T04:31:43Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。