論文の概要: Source-Free Adaptation to Measurement Shift via Bottom-Up Feature
Restoration
- arxiv url: http://arxiv.org/abs/2107.05446v1
- Date: Mon, 12 Jul 2021 14:21:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-13 16:24:02.590796
- Title: Source-Free Adaptation to Measurement Shift via Bottom-Up Feature
Restoration
- Title(参考訳): ボトムアップ特徴回復による測定シフトへのソースフリー適応
- Authors: Cian Eastwood, Ian Mason, Christopher K. I. Williams, Bernhard
Sch\"olkopf
- Abstract要約: ソースフリードメイン適応(Source-free domain adapt, SFDA)は、ソースドメイン内のラベル付きデータに基づいてトレーニングされたモデルを、適応中にソースドメインデータにアクセスすることなく、ターゲットドメイン内の非ラベル付きデータに適応することを目的としている。
提案する特徴回復(FR)は,従来ソースから抽出されていた対象ドメインから,同じ意味を持つ特徴を抽出しようとするものである。
さらに,ネットワークの後半層における学習構造を保存することにより,パフォーマンスを向上させるためのボトムアップ・フィーチャー・リストア(BUFR)を提案する。
- 参考スコア(独自算出の注目度): 6.9871848733878155
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Source-free domain adaptation (SFDA) aims to adapt a model trained on
labelled data in a source domain to unlabelled data in a target domain without
access to the source-domain data during adaptation. Existing methods for SFDA
leverage entropy-minimization techniques which: (i) apply only to
classification; (ii) destroy model calibration; and (iii) rely on the source
model achieving a good level of feature-space class-separation in the target
domain. We address these issues for a particularly pervasive type of domain
shift called measurement shift, characterized by a change in measurement system
(e.g. a change in sensor or lighting). In the source domain, we store a
lightweight and flexible approximation of the feature distribution under the
source data. In the target domain, we adapt the feature-extractor such that the
approximate feature distribution under the target data realigns with that saved
on the source. We call this method Feature Restoration (FR) as it seeks to
extract features with the same semantics from the target domain as were
previously extracted from the source. We additionally propose Bottom-Up Feature
Restoration (BUFR), a bottom-up training scheme for FR which boosts performance
by preserving learnt structure in the later layers of a network. Through
experiments we demonstrate that BUFR often outperforms existing SFDA methods in
terms of accuracy, calibration, and data efficiency, while being less reliant
on the performance of the source model in the target domain.
- Abstract(参考訳): source-free domain adaptation(sfda)は、ソースドメイン内のラベル付きデータに基づいてトレーニングされたモデルを、適応中のソースドメインデータにアクセスせずにターゲットドメイン内のラベル付きデータに適用することを目的としている。
既存のSFDAの手法では,(i)分類にのみ適用されるエントロピー最小化手法,(ii)モデルキャリブレーションの破壊,(iii)ターゲット領域における特徴空間のクラスセパレーションの良好なレベルを達成するために,ソースモデルに依存している。
測定システムの変更(例)によって特徴づけられる測定シフトと呼ばれる,特に広範にわたる領域シフトの問題に対処する。
センサーや照明の変化)。
ソースドメインには、ソースデータの下での機能分布の軽量で柔軟な近似を格納します。
対象領域において、ターゲットデータに基づく近似的特徴分布が、ソースに保存された特徴量と一致するように特徴抽出器を適用する。
私たちは、このメソッドを機能復元(fr)と呼び、ソースから以前抽出されたのと同じ意味を持つ特徴をターゲットドメインから抽出する。
さらに,ネットワークの下位層における学習構造を保存し,パフォーマンスを向上させるためのボトムアップ訓練手法であるboot-up feature restoration (bufr)を提案する。
実験を通して、BUFRは、ターゲットドメインのソースモデルの性能に頼らず、精度、キャリブレーション、データ効率の点で、既存のSFDA法よりも優れていることを示す。
関連論文リスト
- Memory-Efficient Pseudo-Labeling for Online Source-Free Universal Domain Adaptation using a Gaussian Mixture Model [3.1265626879839923]
実際には、トレーニングデータとテストデータの間にドメインシフトが発生する可能性があり、トレーニング済みのソースモデルをターゲットドメインに調整するためには、ドメイン適応(DA)が必要である。
UniDAは、ソースとターゲットドメインの間の追加のカテゴリ(ラベル)シフトの可能性に対処するために注目を集めている。
ガウス混合モデル(GMM)を用いて特徴空間における既知のクラス分布を連続的にキャプチャする新しい手法を提案する。
このアプローチは、DomainNetおよびOffice-Homeデータセットに関するすべての実験において、最先端の結果を達成する。
論文 参考訳(メタデータ) (2024-07-19T11:13:31Z) - Continual Source-Free Unsupervised Domain Adaptation [37.060694803551534]
既存のソースフリーのUnsupervised Domain Adaptationアプローチは破滅的な忘れを見せる。
本稿では,SuDAの継続的な学習環境における課題に対応するための連続的なSUDA(C-SUDA)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-04-14T20:11:05Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Uncertainty-guided Source-free Domain Adaptation [77.3844160723014]
ソースフリードメイン適応(SFDA)は、事前訓練されたソースモデルのみを使用することで、未ラベルのターゲットデータセットに分類器を適応させることを目的としている。
本稿では、ソースモデル予測の不確実性を定量化し、ターゲット適応の導出に利用することを提案する。
論文 参考訳(メタデータ) (2022-08-16T08:03:30Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Instance Relation Graph Guided Source-Free Domain Adaptive Object
Detection [79.89082006155135]
教師なしドメイン適応(Unsupervised Domain Adaptation, UDA)は、ドメインシフトの問題に取り組むための効果的なアプローチである。
UDAメソッドは、ターゲットドメインの一般化を改善するために、ソースとターゲット表現を整列させようとする。
Source-Free Adaptation Domain (SFDA)設定は、ソースデータへのアクセスを必要とせずに、ターゲットドメインに対してソーストレーニングされたモデルを適用することで、これらの懸念を軽減することを目的としている。
論文 参考訳(メタデータ) (2022-03-29T17:50:43Z) - Source-Free Domain Adaptation for Semantic Segmentation [11.722728148523366]
Unsupervised Domain Adaptation(UDA)は、セマンティックセグメンテーションのための畳み込みニューラルネットワークベースのアプローチがピクセルレベルの注釈付きデータに大きく依存するという課題に取り組むことができる。
そこで本稿では,十分に訓練されたソースモデルとラベルなしのターゲットドメインデータセットのみを適用可能な,意味セグメンテーションのためのソースフリーなドメイン適応フレームワークsfdaを提案する。
論文 参考訳(メタデータ) (2021-03-30T14:14:29Z) - Source Data-absent Unsupervised Domain Adaptation through Hypothesis
Transfer and Labeling Transfer [137.36099660616975]
Unsupervised Adapt Adaptation (UDA) は、関連性のある異なるラベル付きソースドメインから新しいラベルなしターゲットドメインへの知識の転送を目標としている。
既存のudaメソッドの多くはソースデータへのアクセスを必要としており、プライバシ上の懸念からデータが機密で共有できない場合は適用できない。
本稿では、ソースデータにアクセスする代わりに、トレーニング済みの分類モデルのみを用いて現実的な設定に取り組むことを目的とする。
論文 参考訳(メタデータ) (2020-12-14T07:28:50Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。