論文の概要: On the Model-Agnostic Multi-Source-Free Unsupervised Domain Adaptation
- arxiv url: http://arxiv.org/abs/2403.01582v1
- Date: Sun, 3 Mar 2024 18:22:39 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 20:47:46.149901
- Title: On the Model-Agnostic Multi-Source-Free Unsupervised Domain Adaptation
- Title(参考訳): モデル非依存多元無教師領域適応について
- Authors: Jiangbo Pei, Ruizhe Li, Qingchao Chen
- Abstract要約: Multi-Source-Free Unsupervised Domain Adaptation (MSFDA)は、複数の well-labeled ソースドメインから unlabeled ターゲットドメインに知識を転送することを目的としている。
モデル非依存型マルチソース非教師なしドメイン適応(MMDA)の新たなMSFDA設定について紹介する。
MMDAは有望な可能性を秘めているが、多数のソースモデルを組み込むことで、望ましくないモデルを含めるリスクが高い。
- 参考スコア(独自算出の注目度): 12.766902152086846
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-Source-Free Unsupervised Domain Adaptation (MSFDA) aims to transfer
knowledge from multiple well-labeled source domains to an unlabeled target
domain, using source models instead of source data. Existing MSFDA methods
limited that each source domain provides only a single model, with a uniform
structure. This paper introduces a new MSFDA setting: Model-Agnostic
Multi-Source-Free Unsupervised Domain Adaptation (MMDA), allowing diverse
source models with varying architectures, without quantitative restrictions.
While MMDA holds promising potential, incorporating numerous source models
poses a high risk of including undesired models, which highlights the source
model selection problem. To address it, we first provide a theoretical analysis
of this problem. We reveal two fundamental selection principles:
transferability principle and diversity principle, and introduce a selection
algorithm to integrate them. Then, considering the measure of transferability
is challenging, we propose a novel Source-Free Unsupervised Transferability
Estimation (SUTE). This novel formulation enables the assessment and comparison
of transferability across multiple source models with different architectures
in the context of domain shift, without requiring access to any target labels
or source data. Based on the above, we introduce a new framework to address
MMDA. Specifically, we first conduct source model selection based on the
proposed selection principles. Subsequently, we design two modules to aggregate
knowledge from included models and recycle useful knowledge from excluded
models. These modules enable us to leverage source knowledge efficiently and
effectively, thereby supporting us in learning a discriminative target model
via adaptation. We validate the effectiveness of our method through numerous
experimental results, and demonstrate that our approach achieves
state-of-the-art performance.
- Abstract(参考訳): Multi-Source-Free Unsupervised Domain Adaptation (MSFDA)は、複数の well-labeled ソースドメインからの知識を、ソースデータの代わりにソースモデルを使用して、未ラベルのターゲットドメインに転送することを目的としている。
既存のMSFDAメソッドは、各ソースドメインが一様構造を持つ単一のモデルのみを提供するように制限されている。
本稿では,新しいmsfda設定であるmmda(model-agnostic multi-source-free unsupervised domain adaptation)を提案する。
mmdaは有望な可能性を持っているが、多数のソースモデルを統合することは、望ましくないモデルを含めるリスクが高い。
この問題に対処するため、我々はまずこの問題に関する理論的分析を行う。
我々は,伝達可能性原理と多様性原理という2つの基本選択原理を明らかにし,それらを統合するための選択アルゴリズムを提案する。
そこで,トランスファー可能性の測定は困難であると考え,sute(source-free unsupervised transferability estimation)を提案する。
この新たな定式化により、ターゲットラベルやソースデータにアクセスすることなく、ドメインシフトの文脈で異なるアーキテクチャを持つ複数のソースモデル間の転送可能性の評価と比較が可能になる。
以上に基づいて,MMDAに対応する新しいフレームワークを提案する。
具体的には,提案する選択原理に基づき,まずソースモデル選択を行う。
その後, 2つのモジュールを設計, 対象モデルからの知識を集約し, 排除されたモデルから有用な知識を再利用する。
これらのモジュールにより,ソース知識を効率的に効果的に活用し,適応による識別対象モデルの学習を支援する。
提案手法の有効性を実験により検証し,本手法が最先端性能を実現することを示す。
関連論文リスト
- Revisiting the Domain Shift and Sample Uncertainty in Multi-source
Active Domain Transfer [69.82229895838577]
Active Domain Adaptation (ADA)は、アノテートするターゲットデータの限られた数を選択することで、新しいターゲットドメインにおけるモデル適応を最大限に向上することを目的としている。
この設定は、複数のソースからトレーニングデータを収集するより実践的なシナリオを無視します。
これは、ADAを単一のソースドメインから複数のソースドメインに拡張する、新しい、挑戦的な知識転送の設定を目標にしています。
論文 参考訳(メタデータ) (2023-11-21T13:12:21Z) - Variational Model Perturbation for Source-Free Domain Adaptation [64.98560348412518]
確率的枠組みにおける変分ベイズ推定によるモデルパラメータの摂動を導入する。
本研究では,ベイズニューラルネットワークの学習と理論的関連性を実証し,目的領域に対する摂動モデルの一般化可能性を示す。
論文 参考訳(メタデータ) (2022-10-19T08:41:19Z) - On Balancing Bias and Variance in Unsupervised Multi-Source-Free Domain
Adaptation [6.2200089460762085]
マルチソースフリードメイン適応(MSFDA)の方法は、典型的には、ソースモデルによって生成された擬似ラベル付きデータを使用してターゲットモデルを訓練する。
得られた対象モデルの一般化誤差に基づく情報理論境界を開発する。
次に、ドメインアグリゲーション、選択的な擬似ラベル付け、共同機能アライメントといった3つの視点から、このトレードオフのバランスをとる方法についての洞察を提供します。
論文 参考訳(メタデータ) (2022-02-01T22:34:18Z) - A Novel Mix-normalization Method for Generalizable Multi-source Person
Re-identification [49.548815417844786]
人物再識別(Re-ID)は、監督されたシナリオにおいて大きな成功を収めた。
モデルがソースドメインに過度に適合するため、教師付きモデルを任意の未確認領域に直接転送することは困難である。
ドメイン・アウェア・ミックス正規化(DMN)とドメイン・ウェア・センター正規化(DCR)からなるMixNormを提案する。
論文 参考訳(メタデータ) (2022-01-24T18:09:38Z) - Learning to Diversify for Single Domain Generalization [46.35670520201863]
ドメイン一般化(DG)は、複数のソース(トレーニング)ドメインで訓練されたモデルを、分散的に異なるターゲット(テスト)ドメインに一般化することを目的としている。
本稿では、より現実的で困難なシナリオ、すなわちSingle-DG(Single-DG)について考察する。
このシナリオでは、限られた多様性は、目に見えないターゲット領域上のモデル一般化を危険にさらす可能性がある。
そこで本研究では,ソースコードに相補的な多種多様な分布の画像を合成することにより,モデルの一般化能力を高めるためのスタイル補完モジュールを提案する。
論文 参考訳(メタデータ) (2021-08-26T12:04:32Z) - Unsupervised Multi-source Domain Adaptation Without Access to Source
Data [58.551861130011886]
Unsupervised Domain Adaptation (UDA)は、ラベル付きソースドメインから知識を転送することで、ラベル付きドメインの予測モデルを学ぶことを目的としている。
本稿では,ソースモデルと適切な重み付けを自動的に組み合わせ,少なくとも最良のソースモデルと同等の性能を発揮する新しい効率的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-04-05T10:45:12Z) - Universal Source-Free Domain Adaptation [57.37520645827318]
ドメイン適応のための新しい2段階学習プロセスを提案する。
Procurementの段階では、今後のカテゴリギャップやドメインシフトに関する事前知識を前提とせず、将来的なソースフリーデプロイメントのためのモデルの提供を目標としています。
Deploymentの段階では、幅広いカテゴリギャップをまたいで動作可能な統一適応アルゴリズムを設計することを目的としている。
論文 参考訳(メタデータ) (2020-04-09T07:26:20Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。