論文の概要: Information-theoretic regularization for Multi-source Domain Adaptation
- arxiv url: http://arxiv.org/abs/2104.01568v1
- Date: Sun, 4 Apr 2021 09:11:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-07 07:26:16.446794
- Title: Information-theoretic regularization for Multi-source Domain Adaptation
- Title(参考訳): マルチソース領域適応のための情報理論正規化
- Authors: Geon Yeong Park, Sang Wan Lee
- Abstract要約: 敵対的学習戦略は、単一ソースドメイン適応(DA)問題に対処する上で顕著なパフォーマンスを示した。
最近ではMDA(Multi-source DA)問題にも適用されている。
本稿では,マルチドメイン識別器のmdaに対する潜在的悪影響を同定し解決するための情報理論的アプローチを採用する。
- 参考スコア(独自算出の注目度): 5.444459446244819
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Adversarial learning strategy has demonstrated remarkable performance in
dealing with single-source Domain Adaptation (DA) problems, and it has recently
been applied to Multi-source DA (MDA) problems. Although most existing MDA
strategies rely on a multiple domain discriminator setting, its effect on the
latent space representations has been poorly understood. Here we adopt an
information-theoretic approach to identify and resolve the potential adverse
effect of the multiple domain discriminators on MDA: disintegration of
domain-discriminative information, limited computational scalability, and a
large variance in the gradient of the loss during training. We examine the
above issues by situating adversarial DA in the context of information
regularization. This also provides a theoretical justification for using a
single and unified domain discriminator. Based on this idea, we implement a
novel neural architecture called a Multi-source Information-regularized
Adaptation Networks (MIAN). Large-scale experiments demonstrate that MIAN,
despite its structural simplicity, reliably and significantly outperforms other
state-of-the-art methods.
- Abstract(参考訳): 逆学習戦略は単一ソースドメイン適応(DA)問題に対処する上で顕著な性能を示しており、近年マルチソースDA(MDA)問題にも適用されている。
既存のMDA戦略の多くは複数のドメイン識別器の設定に依存しているが、その潜在空間表現への影響は理解されていない。
ここでは、MDAに対する複数のドメイン識別器の潜在的な悪影響を識別し、解決するための情報理論的アプローチ、すなわち、ドメイン識別情報の分解、限られた計算スケーラビリティ、訓練中の損失の勾配の大きなばらつきを採用する。
本稿では,情報正規化の文脈において,敵対的DAを配置することで,上記の課題を考察する。
これはまた、単一かつ統一されたドメイン識別器を使用する理論的正当化を提供する。
この考え方に基づき,多元情報正規化適応ネットワーク (mian) と呼ばれる新しいニューラルアーキテクチャを実装した。
大規模な実験では、MIANは構造的単純さにもかかわらず、他の最先端の手法よりも確実かつ著しく優れていることが示された。
関連論文リスト
- Weighted Joint Maximum Mean Discrepancy Enabled
Multi-Source-Multi-Target Unsupervised Domain Adaptation Fault Diagnosis [15.56929064706769]
We propose a weighted joint maximum mean discrepancy able multi-source-multi-target unsupervised domain adaptation (WJMMD-MDA)。
提案手法は,複数のラベル付きソースドメインから十分な情報を抽出し,ソースドメインとターゲットドメイン間のドメインアライメントを実現する。
提案手法の性能を3つのデータセットの総合的な比較実験で評価した。
論文 参考訳(メタデータ) (2023-10-20T16:53:31Z) - AVATAR: Adversarial self-superVised domain Adaptation network for TARget
domain [11.764601181046496]
本稿では,未ラベル対象領域データの予測のための教師なし領域適応(UDA)手法を提案する。
本稿では,AVATAR(Adversarial Self-superVised Domain Adaptation Network for the TARget domain)アルゴリズムを提案する。
提案手法は,3つのUDAベンチマークにおいて,最先端の手法を著しく上回っている。
論文 参考訳(メタデータ) (2023-04-28T20:31:56Z) - Learning Feature Decomposition for Domain Adaptive Monocular Depth
Estimation [51.15061013818216]
改良されたアプローチは、深層学習の進歩で大きな成功をもたらしたが、それらは大量の地底深度アノテーションに依存している。
教師なしドメイン適応(UDA)は、教師付き学習の制約を緩和するため、ラベル付きソースデータからラベルなしターゲットデータに知識を転送する。
本稿では,その特徴空間をコンテンツやスタイルコンポーネントに分解することを学ぶための,学習特徴分解 for Adaptation (LFDA) と呼ばれる新しいMDEのためのUDA手法を提案する。
論文 参考訳(メタデータ) (2022-07-30T08:05:35Z) - Label Distribution Learning for Generalizable Multi-source Person
Re-identification [48.77206888171507]
人物再識別(Re-ID)は,映像監視システムにおいて重要な技術である。
教師付きモデルを任意の未確認領域に直接適用することは困難である。
一般化可能な多ソース人物Re-IDタスクに対処する新しいラベル分散学習法(LDL)を提案する。
論文 参考訳(メタデータ) (2022-04-12T15:59:10Z) - A Novel Mix-normalization Method for Generalizable Multi-source Person
Re-identification [49.548815417844786]
人物再識別(Re-ID)は、監督されたシナリオにおいて大きな成功を収めた。
モデルがソースドメインに過度に適合するため、教師付きモデルを任意の未確認領域に直接転送することは困難である。
ドメイン・アウェア・ミックス正規化(DMN)とドメイン・ウェア・センター正規化(DCR)からなるMixNormを提案する。
論文 参考訳(メタデータ) (2022-01-24T18:09:38Z) - Improving Transferability of Domain Adaptation Networks Through Domain
Alignment Layers [1.3766148734487902]
マルチソースアン教師付きドメイン適応(MSDA)は、ソースモデルの袋から弱い知識を割り当てることで、ラベルのないドメインの予測子を学習することを目的としている。
我々は,DomaIn Alignment Layers (MS-DIAL) のマルチソースバージョンを予測器の異なるレベルに埋め込むことを提案する。
我々の手法は最先端のMSDA法を改善することができ、分類精度の相対利得は+30.64%に達する。
論文 参考訳(メタデータ) (2021-09-06T18:41:19Z) - Towards Fair Knowledge Transfer for Imbalanced Domain Adaptation [61.317911756566126]
本研究では,不均衡なドメイン間学習における公平性問題に対処するTowards Fair Knowledge Transferフレームワークを提案する。
具体的には、新規なクロスドメインミックスアップ生成を利用して、ターゲット情報でマイノリティソースセットを増強し、公正性を高める。
本モデルでは,2つのベンチマークで全体の精度を20%以上向上させる。
論文 参考訳(メタデータ) (2020-10-23T06:29:09Z) - Adaptively-Accumulated Knowledge Transfer for Partial Domain Adaptation [66.74638960925854]
部分ドメイン適応(PDA)は、ソースドメインラベル空間がターゲットドメインを置き換えるとき、現実的で困難な問題を扱う。
本稿では,2つの領域にまたがる関連カテゴリを整合させる適応的知識伝達フレームワーク(A$2KT)を提案する。
論文 参考訳(メタデータ) (2020-08-27T00:53:43Z) - Multi-source Domain Adaptation in the Deep Learning Era: A Systematic
Survey [53.656086832255944]
マルチソースドメイン適応(MDA)は、ラベル付きデータを複数のソースから収集できる強力な拡張である。
MDAは学術と産業の両方で注目を集めている。
論文 参考訳(メタデータ) (2020-02-26T08:07:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。