論文の概要: Co-Learning with Pre-Trained Networks Improves Source-Free Domain
Adaptation
- arxiv url: http://arxiv.org/abs/2212.07585v1
- Date: Thu, 15 Dec 2022 02:25:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-16 16:16:18.502693
- Title: Co-Learning with Pre-Trained Networks Improves Source-Free Domain
Adaptation
- Title(参考訳): トレーニング済みネットワークによる共学習は、ソースフリードメイン適応を改善する
- Authors: Wenyu Zhang, Li Shen, Chuan-Sheng Foo
- Abstract要約: ソースフリードメイン適応は、完全にラベル付けされたソースドメインデータに基づいてトレーニングされたソースモデルを、ラベル付けされていないターゲットドメインデータを持つターゲットドメインに適応することを目的としている。
既存の作業では、ソースモデルを使用してターゲットデータを擬似ラベルするが、ソースとターゲットドメイン間のデータ分散シフトのため、擬似ラベルは信頼できない。
我々は,イメージネットの事前学習した特徴抽出器を新たな学習フレームワークに活用して,ターゲットの擬似ラベル品質を改善することを提案する。
- 参考スコア(独自算出の注目度): 18.508463037706914
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Source-free domain adaptation aims to adapt a source model trained on
fully-labeled source domain data to a target domain with unlabeled target
domain data. Source data is assumed inaccessible due to proprietary or privacy
reasons. Existing works use the source model to pseudolabel target data, but
the pseudolabels are unreliable due to data distribution shift between source
and target domain. In this work, we propose to leverage an ImageNet pre-trained
feature extractor in a new co-learning framework to improve target pseudolabel
quality for finetuning the source model. Benefits of the ImageNet feature
extractor include that it is not source-biased and it provides an alternate
view of features and classification decisions different from the source model.
Such pre-trained feature extractors are also publicly available, which allows
us to readily leverage modern network architectures that have strong
representation learning ability. After co-learning, we sharpen predictions of
non-pseudolabeled samples by entropy minimization. Evaluation on 3 benchmark
datasets show that our proposed method can outperform existing source-free
domain adaptation methods, as well as unsupervised domain adaptation methods
which assume joint access to source and target data.
- Abstract(参考訳): ソースフリードメイン適応は、完全にラベル付けされたソースドメインデータに基づいてトレーニングされたソースモデルを、ラベル付けされていないターゲットドメインデータを持つターゲットドメインに適応することを目的としている。
ソースデータは、プロプライエタリまたはプライバシの理由からアクセスできないと仮定される。
既存の作業では、ソースモデルを使用してターゲットデータを擬似ラベルするが、ソースとターゲットドメイン間のデータ分散シフトのため、擬似ラベルは信頼できない。
そこで本研究では,ImageNetで事前学習した特徴抽出器を新たな学習フレームワークに利用して,ソースモデルを微調整するための擬似ラベル品質を改善することを提案する。
imagenet feature extractorの利点は、ソースバイアスではなく、ソースモデルとは異なる特徴と分類決定の別の視点を提供することである。
このような事前訓練された特徴抽出器も公開されており、表現学習能力の強い最新のネットワークアーキテクチャを容易に活用することができる。
共学習後,エントロピー最小化により非ペドラベル化試料の予測を研削する。
3つのベンチマークデータセットから,提案手法は既存のソースフリー領域適応法,およびソースとターゲットデータへの共同アクセスを考慮した教師なし領域適応法より優れていることを示す。
関連論文リスト
- Source-Free Domain Adaptation Guided by Vision and Vision-Language Pre-Training [23.56208527227504]
ソースフリードメイン適応(SFDA)は、完全にラベル付けされたソースドメインでトレーニングされたソースモデルを、関連するがラベル付けされていないターゲットドメインに適応させることを目的としている。
従来のSFDAパイプラインでは、ソースモデルを初期化するために、大量のデータ(イメージネットなど)を事前訓練した特徴抽出器が使用される。
トレーニング済みネットワークを対象適応プロセスに組み込むための統合フレームワークを導入する。
論文 参考訳(メタデータ) (2024-05-05T14:48:13Z) - Consistency Regularization for Generalizable Source-free Domain
Adaptation [62.654883736925456]
ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。
既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。
より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-03T07:45:53Z) - Open-Set Domain Adaptation with Visual-Language Foundation Models [51.49854335102149]
非教師なしドメイン適応(UDA)は、ソースドメインからラベルのないデータを持つターゲットドメインへの知識の転送に非常に効果的であることが証明されている。
オープンセットドメイン適応(ODA)は、トレーニングフェーズ中にこれらのクラスを識別する潜在的なソリューションとして登場した。
論文 参考訳(メタデータ) (2023-07-30T11:38:46Z) - RAIN: RegulArization on Input and Network for Black-Box Domain
Adaptation [80.03883315743715]
ソースのないドメイン適応は、ソースデータを公開することなく、ソース訓練されたモデルをターゲットドメインに転送する。
このパラダイムは、ソースモデルに対する敵対的な攻撃のため、データ漏洩のリスクがある。
そこで我々は,入力レベルとネットワークレベルの両方の正規化からブラックボックスドメインを適応させる新しい手法であるRAIN(RegulArization on Input and Network)を提案する。
論文 参考訳(メタデータ) (2022-08-22T18:18:47Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - A Curriculum-style Self-training Approach for Source-Free Semantic Segmentation [91.13472029666312]
ソースフリーなドメイン適応型セマンティックセマンティックセグメンテーションのためのカリキュラムスタイルの自己学習手法を提案する。
提案手法は, ソースフリーなセマンティックセグメンテーションタスクにおいて, 合成-実-実-実-実-実-実-非実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実
論文 参考訳(メタデータ) (2021-06-22T10:21:39Z) - Source-Free Domain Adaptation for Semantic Segmentation [11.722728148523366]
Unsupervised Domain Adaptation(UDA)は、セマンティックセグメンテーションのための畳み込みニューラルネットワークベースのアプローチがピクセルレベルの注釈付きデータに大きく依存するという課題に取り組むことができる。
そこで本稿では,十分に訓練されたソースモデルとラベルなしのターゲットドメインデータセットのみを適用可能な,意味セグメンテーションのためのソースフリーなドメイン適応フレームワークsfdaを提案する。
論文 参考訳(メタデータ) (2021-03-30T14:14:29Z) - Universal Source-Free Domain Adaptation [57.37520645827318]
ドメイン適応のための新しい2段階学習プロセスを提案する。
Procurementの段階では、今後のカテゴリギャップやドメインシフトに関する事前知識を前提とせず、将来的なソースフリーデプロイメントのためのモデルの提供を目標としています。
Deploymentの段階では、幅広いカテゴリギャップをまたいで動作可能な統一適応アルゴリズムを設計することを目的としている。
論文 参考訳(メタデータ) (2020-04-09T07:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。