論文の概要: Key Design Choices for Double-Transfer in Source-Free Unsupervised
Domain Adaptation
- arxiv url: http://arxiv.org/abs/2302.05379v1
- Date: Fri, 10 Feb 2023 17:00:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-13 15:16:30.944310
- Title: Key Design Choices for Double-Transfer in Source-Free Unsupervised
Domain Adaptation
- Title(参考訳): ソースフリー非教師なし領域適応におけるダブルトランスファーの鍵設計
- Authors: Andrea Maracani, Raffaello Camoriano, Elisa Maiettini, Davide Talon,
Lorenzo Rosasco and Lorenzo Natale
- Abstract要約: 本稿では、SF-UDA(Source-Free Unsupervised Domain Adaptation)における主要な設計選択の詳細な分析を行う。
正規化アプローチ、事前学習戦略、バックボーンアーキテクチャを最も重要な要素として挙げる。
SF-UDAは、標準ベンチマークやバックボーンアーキテクチャよりも競争力があり、データと計算コストのごく一部でUDAと同等の性能を発揮することを示す。
- 参考スコア(独自算出の注目度): 18.21955526087808
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Fine-tuning and Domain Adaptation emerged as effective strategies for
efficiently transferring deep learning models to new target tasks. However,
target domain labels are not accessible in many real-world scenarios. This led
to the development of Unsupervised Domain Adaptation (UDA) methods, which only
employ unlabeled target samples. Furthermore, efficiency and privacy
requirements may also prevent the use of source domain data during the
adaptation stage. This challenging setting, known as Source-Free Unsupervised
Domain Adaptation (SF-UDA), is gaining interest among researchers and
practitioners due to its potential for real-world applications. In this paper,
we provide the first in-depth analysis of the main design choices in SF-UDA
through a large-scale empirical study across 500 models and 74 domain pairs. We
pinpoint the normalization approach, pre-training strategy, and backbone
architecture as the most critical factors. Based on our quantitative findings,
we propose recipes to best tackle SF-UDA scenarios. Moreover, we show that
SF-UDA is competitive also beyond standard benchmarks and backbone
architectures, performing on par with UDA at a fraction of the data and
computational cost. In the interest of reproducibility, we include the full
experimental results and code as supplementary material.
- Abstract(参考訳): ファインチューニングとドメイン適応は、ディープラーニングモデルを新しいターゲットタスクに効率的に移行するための効果的な戦略として登場した。
しかし、ターゲットのドメインラベルは多くの現実世界のシナリオではアクセスできない。
これにより、未ラベルのターゲットサンプルのみを使用するUnsupervised Domain Adaptation (UDA) メソッドが開発された。
さらに、効率性とプライバシ要件は、適応段階でソースドメインデータの使用を妨げうる。
Source-Free Unsupervised Domain Adaptation (SF-UDA)として知られるこの挑戦的な設定は、現実世界のアプリケーションの可能性から、研究者や実践者の間で関心を集めている。
本稿では,500モデルと74ドメイン対にわたる大規模実証研究を通じて,SF-UDAの主設計選択の詳細な分析を行う。
正規化アプローチ、事前トレーニング戦略、バックボーンアーキテクチャを最も重要な要素として挙げます。
そこで本研究では,SF-UDAシナリオに対処するためのレシピを提案する。
さらに, SF-UDAは標準ベンチマークやバックボーンアーキテクチャを超越した競争力を持ち, データと計算コストのごく一部でUDAと同等の性能を発揮することを示した。
再現性については, 完全な実験結果と補足材料としてのコードを含める。
関連論文リスト
- Towards Source-free Domain Adaptive Semantic Segmentation via Importance-aware and Prototype-contrast Learning [26.544837987747766]
本稿では、Importance-Aware と Prototype-Contrast Learning を用いた、エンドツーエンドのソースフリードメイン適応セマンティックセマンティックセマンティクス手法を提案する。
提案したIAPCフレームワークは、訓練済みソースモデルからドメイン不変知識を効果的に抽出し、ラベルなしターゲットドメインからドメイン固有知識を学習する。
論文 参考訳(メタデータ) (2023-06-02T15:09:19Z) - A Comprehensive Survey on Source-free Domain Adaptation [69.17622123344327]
ソースフリードメイン適応(SFDA)の研究は近年注目を集めている。
SFDAの最近の進歩を包括的に調査し、それらを統一的な分類体系に整理する。
一般的な3つの分類基準で30以上のSFDA法を比較検討した。
論文 参考訳(メタデータ) (2023-02-23T06:32:09Z) - One-Shot Domain Adaptive and Generalizable Semantic Segmentation with
Class-Aware Cross-Domain Transformers [96.51828911883456]
セマンティックセグメンテーションのための教師なしのsim-to-realドメイン適応(UDA)は、シミュレーションデータに基づいて訓練されたモデルの実世界のテスト性能を改善することを目的としている。
従来のUDAは、適応のためのトレーニング中に利用可能なラベルのない実世界のサンプルが豊富にあると仮定することが多い。
実世界のデータサンプルが1つしか利用できない,一発の教師なしシム・トゥ・リアル・ドメイン適応(OSUDA)と一般化問題について検討する。
論文 参考訳(メタデータ) (2022-12-14T15:54:15Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Instance Relation Graph Guided Source-Free Domain Adaptive Object
Detection [79.89082006155135]
教師なしドメイン適応(Unsupervised Domain Adaptation, UDA)は、ドメインシフトの問題に取り組むための効果的なアプローチである。
UDAメソッドは、ターゲットドメインの一般化を改善するために、ソースとターゲット表現を整列させようとする。
Source-Free Adaptation Domain (SFDA)設定は、ソースデータへのアクセスを必要とせずに、ターゲットドメインに対してソーストレーニングされたモデルを適用することで、これらの懸念を軽減することを目的としている。
論文 参考訳(メタデータ) (2022-03-29T17:50:43Z) - Style-Guided Domain Adaptation for Face Presentation Attack Detection [21.959450790863432]
推論時適応型PADのための新しいスタイルガイド型ドメイン適応フレームワークを提案する。
スタイル選択正規化(SSN)は、高次特徴統計量内でのドメイン固有のスタイル情報を調べるために提案される。
提案したSSNは,ターゲットドメインとソースドメインのスタイル差を小さくすることで,ターゲットドメインへのモデルの適応を可能にする。
論文 参考訳(メタデータ) (2022-03-28T08:14:19Z) - Revisiting Deep Subspace Alignment for Unsupervised Domain Adaptation [42.16718847243166]
Unsupervised domain adapt (UDA) は、ラベル付きソースドメインからラベル付きターゲットドメインへの知識の転送と適応を目的としている。
伝統的に、部分空間に基づく手法はこの問題に対する重要な解のクラスを形成する。
本稿では,UDAにおける部分空間アライメントの利用を再検討し,一貫した一般化をもたらす新しい適応アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-01-05T20:16:38Z) - UMAD: Universal Model Adaptation under Domain and Category Shift [138.12678159620248]
Universal Model Adaptation (UMAD)フレームワークは、ソースデータにアクセスせずに両方のUDAシナリオを処理する。
未知のサンプルと未知のサンプルを識別するのに役立つ情報整合性スコアを開発した。
オープンセットおよびオープンパーティルセット UDA シナリオの実験では、UMAD が最先端のデータ依存手法に匹敵する性能を示した。
論文 参考訳(メタデータ) (2021-12-16T01:22:59Z) - Source-Free Open Compound Domain Adaptation in Semantic Segmentation [99.82890571842603]
SF-OCDAでは、ターゲットモデルを学習するために、ソース事前訓練されたモデルとターゲットデータのみが利用可能である。
そこで我々は,Cross-Patch Style Swap (CPSS)を提案する。
提案手法は,C-Drivingデータセット上で最先端の結果を生成する。
論文 参考訳(メタデータ) (2021-06-07T08:38:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。