論文の概要: Source-free Domain Adaptation via Distributional Alignment by Matching
Batch Normalization Statistics
- arxiv url: http://arxiv.org/abs/2101.10842v1
- Date: Tue, 19 Jan 2021 14:22:33 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-22 11:28:23.469368
- Title: Source-free Domain Adaptation via Distributional Alignment by Matching
Batch Normalization Statistics
- Title(参考訳): バッチ正規化統計のマッチングによる分布アライメントによるソースフリードメイン適応
- Authors: Masato Ishii and Masashi Sugiyama
- Abstract要約: ソースフリー設定のための新しいドメイン適応手法を提案する。
未観測のソースデータの分布を近似するために,事前学習モデルに格納されたバッチ正規化統計を用いた。
本手法は最先端のドメイン適応手法で競合性能を実現する。
- 参考スコア(独自算出の注目度): 85.75352990739154
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we propose a novel domain adaptation method for the
source-free setting. In this setting, we cannot access source data during
adaptation, while unlabeled target data and a model pretrained with source data
are given. Due to lack of source data, we cannot directly match the data
distributions between domains unlike typical domain adaptation algorithms. To
cope with this problem, we propose utilizing batch normalization statistics
stored in the pretrained model to approximate the distribution of unobserved
source data. Specifically, we fix the classifier part of the model during
adaptation and only fine-tune the remaining feature encoder part so that batch
normalization statistics of the features extracted by the encoder match those
stored in the fixed classifier. Additionally, we also maximize the mutual
information between the features and the classifier's outputs to further boost
the classification performance. Experimental results with several benchmark
datasets show that our method achieves competitive performance with
state-of-the-art domain adaptation methods even though it does not require
access to source data.
- Abstract(参考訳): 本稿では,ソースフリー設定のための新しいドメイン適応手法を提案する。
この設定では、未ラベルのターゲットデータと事前訓練されたデータモデルが与えられるが、適応中にソースデータにアクセスすることはできない。
ソースデータがないため、典型的なドメイン適応アルゴリズムとは異なり、ドメイン間のデータ分布を直接マッチングすることはできない。
この問題に対処するために、事前学習モデルに格納されたバッチ正規化統計を利用して、観測されていないソースデータの分布を近似する。
具体的には、適応中にモデルの分類部を固定し、残りの特徴エンコーダ部のみを微調整し、エンコーダによって抽出された特徴のバッチ正規化統計を固定分類器に格納されているものと一致させる。
さらに,特徴と分類器の出力間の相互情報を最大化し,分類性能をさらに向上させる。
いくつかのベンチマークデータセットによる実験結果から,提案手法はソースデータへのアクセスを必要とせずに,最先端のドメイン適応手法と競合する性能を発揮することが示された。
関連論文リスト
- Uncertainty-guided Source-free Domain Adaptation [77.3844160723014]
ソースフリードメイン適応(SFDA)は、事前訓練されたソースモデルのみを使用することで、未ラベルのターゲットデータセットに分類器を適応させることを目的としている。
本稿では、ソースモデル予測の不確実性を定量化し、ターゲット適応の導出に利用することを提案する。
論文 参考訳(メタデータ) (2022-08-16T08:03:30Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Unsupervised Adaptation of Semantic Segmentation Models without Source
Data [14.66682099621276]
意味的セグメンテーションのためのソースデータにアクセスすることなく、ソースモデルの教師なしドメイン適応という新しい問題を考察する。
本稿では,ソースモデルから知識を抽出する自己学習手法を提案する。
我々のフレームワークは、ターゲットデータに直接ソースモデルを適用した場合と比較して、大幅なパフォーマンス向上を実現できます。
論文 参考訳(メタデータ) (2021-12-04T15:13:41Z) - Source-Free Domain Adaptive Fundus Image Segmentation with Denoised
Pseudo-Labeling [56.98020855107174]
ドメイン適応は通常、ソースドメインデータにアクセスして、ターゲットデータとのドメインアライメントのために配布情報を利用する必要があります。
多くの実世界のシナリオでは、プライバシの問題により、ターゲットドメインのモデル適応中にソースデータがアクセスできない場合がある。
本稿では,本問題に対する新たな擬似ラベル付け手法を提案する。
論文 参考訳(メタデータ) (2021-09-19T06:38:21Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - Domain Impression: A Source Data Free Domain Adaptation Method [27.19677042654432]
教師なしドメイン適応法は、ソースデータセットがすべてのラベルで利用可能であると仮定して、ラベルなしのターゲットセットの適応問題を解決する。
本稿では,ソースデータを必要としないドメイン適応手法を提案する。
ソースデータの代わりに、ソースデータに基づいてトレーニングされた分類器のみを提供しています。
論文 参考訳(メタデータ) (2021-02-17T19:50:49Z) - Unsupervised Domain Adaptation in the Absence of Source Data [0.7366405857677227]
本稿では、ソース領域から自然軸に沿って変化する対象領域にソース分類器を適応させる教師なしの手法を提案する。
分布シフトが明るさ、コントラスト、回転を伴うシナリオにおいて本手法を検証し、ラベル付きデータに制限されたシナリオにおいて微調整ベースラインよりも優れた性能を示すことを示す。
論文 参考訳(メタデータ) (2020-07-20T16:22:14Z) - Sequential Model Adaptation Using Domain Agnostic Internal Distributions [31.3178953771424]
本研究では、ソースドメインが未注釈のターゲットドメインで一般化するように訓練された分類器を逐次適応するアルゴリズムを開発する。
このモデルは、ソースドメインアノテートされたデータに基づいてトレーニングされており、ソースドメインデータがアクセスできない場合には、ターゲットドメインアンアノテートされたデータを使用して適用する必要があると考えている。
論文 参考訳(メタデータ) (2020-07-01T03:14:17Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。