論文の概要: Continual Domain Adversarial Adaptation via Double-Head Discriminators

• arxiv url: http://arxiv.org/abs/2402.03588v1
• Date: Mon, 5 Feb 2024 23:46:03 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-07 17:22:54.508480
• Title: Continual Domain Adversarial Adaptation via Double-Head Discriminators
• Title（参考訳）: 二重頭部識別器による連続的領域適応
• Authors: Yan Shen and Zhanghexuan Ji and Chunwei Ma and Mingchen Gao
• Abstract要約: 連続的な設定でのドメインの逆順応は、以前のソースドメインデータにアクセスする制限のために大きな課題となる。 本稿では、ソースのみの領域判別器を導入し、二重頭部判別器アルゴリズムを提案する。 我々は、事前学習したソースのみのドメイン識別器を導入することにより、$gH$-divergence関連対数損失の実証的推定誤差が低減されることを証明した。
• 参考スコア（独自算出の注目度）: 9.27879320502565
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Domain adversarial adaptation in a continual setting poses a significant challenge due to the limitations on accessing previous source domain data. Despite extensive research in continual learning, the task of adversarial adaptation cannot be effectively accomplished using only a small number of stored source domain data, which is a standard setting in memory replay approaches. This limitation arises from the erroneous empirical estimation of $\gH$-divergence with few source domain samples. To tackle this problem, we propose a double-head discriminator algorithm, by introducing an addition source-only domain discriminator that are trained solely on source learning phase. We prove that with the introduction of a pre-trained source-only domain discriminator, the empirical estimation error of $\gH$-divergence related adversarial loss is reduced from the source domain side. Further experiments on existing domain adaptation benchmark show that our proposed algorithm achieves more than 2$\%$ improvement on all categories of target domain adaptation task while significantly mitigating the forgetting on source domain.
• Abstract（参考訳）: 連続的な設定でのドメインの逆順応は、以前のソースドメインデータにアクセスする制限のために大きな課題となる。 連続学習における広範な研究にもかかわらず、メモリ再生手法の標準設定である少数の記憶領域データのみを用いて、対向適応のタスクを効果的に行うことはできない。 この制限は、ソースドメインサンプルがほとんどない$\gH$-divergenceの誤った経験的推定から生じる。 そこで,本稿では,ソース学習段階のみに訓練された追加のソースのみのドメイン判別器を導入することにより,ダブルヘッド判別アルゴリズムを提案する。 事前学習したソースのみのドメイン識別器を導入することで、$$\gH$-divergence関連の逆数損失の実験的推定誤差がソースドメイン側から減少することを証明する。 既存領域適応ベンチマークのさらなる実験により,提案アルゴリズムは対象領域適応タスクのすべてのカテゴリにおいて2$$%以上の改善を達成し,ソース領域の忘れを著しく軽減することを示した。

関連論文リスト

• Contrastive Adversarial Training for Unsupervised Domain Adaptation [2.432037584128226]
  様々なドメイン適応タスクにおいて、ドメイン逆行訓練がうまく採用されている。 大規模なモデルでは、敵のトレーニングがソースドメインに偏りやすく、ターゲットドメインにはほとんど適応しない。 本稿では、ラベル付きソースドメインのサンプルを利用して、ターゲットドメインの機能生成を強化・調整するコントラッシブ・逆行訓練(CAT)手法を提案する。
  論文  参考訳（メタデータ） (2024-07-17T17:59:21Z)
• Bi-discriminator Domain Adversarial Neural Networks with Class-Level Gradient Alignment [87.8301166955305]
  そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。 BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。 さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
  論文  参考訳（メタデータ） (2023-10-21T09:53:17Z)
• IT-RUDA: Information Theory Assisted Robust Unsupervised Domain Adaptation [7.225445443960775]
  トレイン(ソース)とテスト(ターゲット)データセット間の分散シフトは、マシンラーニングアプリケーションで発生する一般的な問題である。 UDA技術はラベル豊富なソースドメインからラベルのないターゲットドメインへの知識伝達を行う。 ソースまたはターゲットデータセットのいずれかに存在するアウトリーチは、実際にUDAを使用する場合、さらなる課題をもたらす可能性がある。
  論文  参考訳（メタデータ） (2022-10-24T04:33:52Z)
• Adversarial Bi-Regressor Network for Domain Adaptive Regression [52.5168835502987]
  ドメインシフトを軽減するために、クロスドメインレグレッタを学ぶことが不可欠です。 本稿では、より効果的なドメイン間回帰モデルを求めるために、ABRNet(Adversarial Bi-Regressor Network)を提案する。
  論文  参考訳（メタデータ） (2022-09-20T18:38:28Z)
• Balancing Discriminability and Transferability for Source-Free Domain Adaptation [55.143687986324935]
  従来のドメイン適応(DA)技術は、ドメイン不変表現を学習することでドメイン転送性を改善することを目的としている。 ラベル付けされたソースとラベル付けされていないターゲットへの同時アクセス要件は、ソースフリーなDA設定に適さない。 そこで本研究では,原文と翻訳サンプルの混在が識別可能性と伝達可能性のトレードオフを促進することを示す新しい知見を導出する。
  論文  参考訳（メタデータ） (2022-06-16T09:06:22Z)
• Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
  ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。 近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。 本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
  論文  参考訳（メタデータ） (2022-04-24T12:22:19Z)
• Towards Fair Knowledge Transfer for Imbalanced Domain Adaptation [61.317911756566126]
  本研究では,不均衡なドメイン間学習における公平性問題に対処するTowards Fair Knowledge Transferフレームワークを提案する。 具体的には、新規なクロスドメインミックスアップ生成を利用して、ターゲット情報でマイノリティソースセットを増強し、公正性を高める。 本モデルでは,2つのベンチマークで全体の精度を20%以上向上させる。
  論文  参考訳（メタデータ） (2020-10-23T06:29:09Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• Discrepancy Minimization in Domain Generalization with Generative Nearest Neighbors [13.047289562445242]
  ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインでトレーニングされた機械学習モデルが、統計の異なるターゲットドメインでうまく一般化できないという、ドメインシフトの問題を扱う。 シフト対象領域の一般化を保証するのに失敗するソースドメイン全体にわたるドメイン不変表現を学習することにより、ドメイン一般化の問題を解決するために、複数のアプローチが提案されている。 本稿では,GNNDM(Generative Nearest Neighbor Based Discrepancy Minimization)法を提案する。
  論文  参考訳（メタデータ） (2020-07-28T14:54:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。