論文の概要: Active Learning for Domain Adaptation: An Energy-based Approach
- arxiv url: http://arxiv.org/abs/2112.01406v1
- Date: Thu, 2 Dec 2021 16:53:06 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-03 15:07:58.413080
- Title: Active Learning for Domain Adaptation: An Energy-based Approach
- Title(参考訳): ドメイン適応のためのアクティブラーニング:エネルギーベースアプローチ
- Authors: Binhui Xie, Longhui Yuan, Shuang Li, Chi Harold Liu, Xinjing Cheng,
and Guoren Wang
- Abstract要約: 対象領域における知識伝達を支援する,アクティブドメイン適応という,新たなアクティブな学習戦略を提案する。
我々のアルゴリズムであるEnergy-based Active Domain Adaptation (EADA)は、各選択ラウンドにドメイン特性とインスタンスの不確実性の両方を組み込んだタージデータのグループをクエリする。
- 参考スコア(独自算出の注目度): 23.941952424634685
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised domain adaptation has recently emerged as an effective paradigm
for generalizing deep neural networks to new target domains. However, there is
still enormous potential to be tapped to reach the fully supervised
performance. In this paper, we present a novel active learning strategy to
assist knowledge transfer in the target domain, dubbed active domain
adaptation. We start from an observation that energy-based models exhibit free
energy biases when training (source) and test (target) data come from different
distributions. Inspired by this inherent mechanism, we empirically reveal that
a simple yet efficient energy-based sampling strategy sheds light on selecting
the most valuable target samples than existing approaches requiring particular
architectures or computation of the distances. Our algorithm, Energy-based
Active Domain Adaptation (EADA), queries groups of targe data that incorporate
both domain characteristic and instance uncertainty into every selection round.
Meanwhile, by aligning the free energy of target data compact around the source
domain via a regularization term, domain gap can be implicitly diminished.
Through extensive experiments, we show that EADA surpasses state-of-the-art
methods on well-known challenging benchmarks with substantial improvements,
making it a useful option in the open world. Code is available at
https://github.com/BIT-DA/EADA.
- Abstract(参考訳): 教師なしドメイン適応は、ディープニューラルネットワークを新しいターゲットドメインに一般化するための効果的なパラダイムとして最近登場した。
しかし、完全に監督されたパフォーマンスに到達するためにタップされる可能性はまだ大きい。
本稿では,アクティブドメイン適応と呼ばれる,対象領域における知識伝達を支援する新しいアクティブな学習戦略を提案する。
トレーニング(ソース)とテスト(ターゲット)データが異なる分布から来る場合、エネルギーベースのモデルが自由エネルギーバイアスを示すという観察から始める。
この固有のメカニズムに触発されて、単純な効率的なエネルギーベースのサンプリング戦略が、特定のアーキテクチャや距離の計算を必要とする既存のアプローチよりも、最も価値のあるターゲットサンプルの選択に光を当てていることを実証的に明らかにした。
我々のアルゴリズムであるEnergy-based Active Domain Adaptation (EADA)は、各選択ラウンドにドメイン特性とインスタンスの不確実性の両方を組み込んだタージデータのグループをクエリする。
一方、正規化項を介してソースドメインの周りにコンパクトなターゲットデータの自由エネルギーを調整することにより、ドメインギャップを暗黙的に減少させることができる。
大規模な実験により、EADAは既知の挑戦的ベンチマークにおいて最先端の手法を超越し、大幅に改善され、オープンな世界で有用な選択肢となった。
コードはhttps://github.com/BIT-DA/EADAで入手できる。
関連論文リスト
- Learn from the Learnt: Source-Free Active Domain Adaptation via Contrastive Sampling and Visual Persistence [60.37934652213881]
ドメイン適応(DA)は、ソースドメインから関連するターゲットドメインへの知識伝達を容易にする。
本稿では、ソースデータフリーなアクティブドメイン適応(SFADA)という実用的なDAパラダイムについて検討する。
本稿では,学習者学習(LFTL)というSFADAの新たなパラダイムを紹介し,学習した学習知識を事前学習モデルから活用し,余分なオーバーヘッドを伴わずにモデルを積極的に反復する。
論文 参考訳(メタデータ) (2024-07-26T17:51:58Z) - Revisiting the Domain Shift and Sample Uncertainty in Multi-source
Active Domain Transfer [69.82229895838577]
Active Domain Adaptation (ADA)は、アノテートするターゲットデータの限られた数を選択することで、新しいターゲットドメインにおけるモデル適応を最大限に向上することを目的としている。
この設定は、複数のソースからトレーニングデータを収集するより実践的なシナリオを無視します。
これは、ADAを単一のソースドメインから複数のソースドメインに拡張する、新しい、挑戦的な知識転送の設定を目標にしています。
論文 参考訳(メタデータ) (2023-11-21T13:12:21Z) - Spectral Transfer Guided Active Domain Adaptation For Thermal Imagery [1.911678487931003]
本稿では,可視スペクトルと熱画像量を組み合わせた有効領域適応手法を提案する。
我々は、大規模可視スペクトルデータセットMS-COCOをソースドメインとして、熱データセットFLIR ADASをターゲットドメインとして使用した。
提案手法は最先端のアクティブドメイン適応法より優れている。
論文 参考訳(メタデータ) (2023-04-14T10:04:42Z) - Self-training through Classifier Disagreement for Cross-Domain Opinion
Target Extraction [62.41511766918932]
オピニオンターゲット抽出(OTE)またはアスペクト抽出(AE)は意見マイニングの基本的な課題である。
最近の研究は、現実世界のシナリオでよく見られるクロスドメインのOTEに焦点を当てている。
そこで本稿では,ドメイン固有の教師と学生のネットワークから出力されるモデルが未学習のターゲットデータと一致しない対象サンプルを選択するためのSSLアプローチを提案する。
論文 参考訳(メタデータ) (2023-02-28T16:31:17Z) - MADAv2: Advanced Multi-Anchor Based Active Domain Adaptation
Segmentation [98.09845149258972]
セマンティックセグメンテーションタスクに関するドメイン適応を支援するために,アクティブなサンプル選択を導入する。
これらのサンプルを手動でアノテートする作業量が少ないため、ターゲット領域分布の歪みを効果的に緩和することができる。
長期分布問題を緩和するために、強力な半教師付きドメイン適応戦略を提案する。
論文 参考訳(メタデータ) (2023-01-18T07:55:22Z) - Constraining Pseudo-label in Self-training Unsupervised Domain
Adaptation with Energy-based Model [26.074500538428364]
ラベル付きソースドメインの知識をラベル付きターゲットドメインに導入するために、unsupervised domain adaptation (UDA) が開発されている。
近年、深層自己学習は、ターゲットドメインを予測する反復的なプロセスを含む、UDAにとって強力な手段となる。
我々はエネルギーベースモデルを採用し,エネルギー関数最小化の目標とする未ラベル対象試料の訓練を制約する。
論文 参考訳(メタデータ) (2022-08-26T22:50:23Z) - Deep face recognition with clustering based domain adaptation [57.29464116557734]
そこで本研究では,ターゲットドメインとソースがクラスを共有しない顔認識タスクを対象とした,クラスタリングに基づく新しいドメイン適応手法を提案する。
本手法は,特徴領域をグローバルに整列させ,その一方で,対象クラスタを局所的に識別することで,識別対象特徴を効果的に学習する。
論文 参考訳(メタデータ) (2022-05-27T12:29:11Z) - Energy-constrained Self-training for Unsupervised Domain Adaptation [25.594991545790638]
Unsupervised Domain Adapt (UDA)は、ラベル付きソースドメインの知識を、ラベル付きターゲットドメインでうまく機能させることを目的としています。
近年、深層自己学習は、対象領域を予測し、自信のある予測をトレーニングの硬い擬似ラベルとして取り込む反復的なプロセスを含む。
本論文では, エネルギーに基づくモデルに頼り, エネルギー関数最小化目標を用いて, ラベルのない対象試料の訓練を制約する。
論文 参考訳(メタデータ) (2021-01-01T21:02:18Z) - A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。
多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。
限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
論文 参考訳(メタデータ) (2020-09-01T00:06:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。