論文の概要: f-Domain-Adversarial Learning: Theory and Algorithms
- arxiv url: http://arxiv.org/abs/2106.11344v1
- Date: Mon, 21 Jun 2021 18:21:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-23 15:16:21.018375
- Title: f-Domain-Adversarial Learning: Theory and Algorithms
- Title（参考訳）: f-Domain-Adversarial Learning:理論とアルゴリズム
- Authors: David Acuna, Guojun Zhang, Marc T. Law, Sanja Fidler
- Abstract要約: 教師なしのドメイン適応は、トレーニング中、ターゲットドメイン内のラベルなしデータにアクセス可能な、多くの機械学習アプリケーションで使用されている。
領域適応のための新しい一般化法を導出し、f-発散体の変分的特徴に基づく分布間の相違性の新しい尺度を利用する。
- 参考スコア（独自算出の注目度）: 82.97698406515667
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised domain adaptation is used in many machine learning applications
where, during training, a model has access to unlabeled data in the target
domain, and a related labeled dataset. In this paper, we introduce a novel and
general domain-adversarial framework. Specifically, we derive a novel
generalization bound for domain adaptation that exploits a new measure of
discrepancy between distributions based on a variational characterization of
f-divergences. It recovers the theoretical results from Ben-David et al.
(2010a) as a special case and supports divergences used in practice. Based on
this bound, we derive a new algorithmic framework that introduces a key
correction in the original adversarial training method of Ganin et al. (2016).
We show that many regularizers and ad-hoc objectives introduced over the last
years in this framework are then not required to achieve performance comparable
to (if not better than) state-of-the-art domain-adversarial methods.
Experimental analysis conducted on real-world natural language and computer
vision datasets show that our framework outperforms existing baselines, and
obtains the best results for f-divergences that were not considered previously
in domain-adversarial learning.
- Abstract（参考訳）: 教師なしドメイン適応(unsupervised domain adaptation)は、トレーニング中にモデルが対象ドメイン内のラベルなしデータと関連するラベル付きデータセットにアクセスする多くの機械学習アプリケーションで使用される。
本稿では,新規かつ汎用的なドメイン・アドバイザリ・フレームワークを提案する。
具体的には、f-divergencesの変分的特徴に基づく分布間の不一致の新しい尺度を利用する領域適応のための新しい一般化を導出する。
これはベンダビッドらの理論結果から回復する。
(2010a)は、特殊な事例であり、実際に用いられる相違を支持する。
この境界に基づいて,ganinらによる元来の敵対的訓練法において,鍵補正を導入する新しいアルゴリズムフレームワークを導出する。
(2016).
このフレームワークで過去数年間に導入された多くのレギュラライザやアドホックな目的が、最先端のドメイン攻撃メソッドに匹敵するパフォーマンスを達成するために必要とされないことを示している。
実世界自然言語とコンピュータビジョンデータセットを用いた実験分析により,本フレームワークは既存のベースラインを上回っており,これまでドメイン・アドバーサル・ラーニングでは考慮されていなかったf-divergencesの最良の結果を得ることができた。
関連論文リスト
- Understanding the Cross-Domain Capabilities of Video-Based Few-Shot Action Recognition Models [3.072340427031969]
Few-shot Action Recognition (FSAR) は、ビデオ中の新しいアクションをわずかに例を使って識別できるモデルを学ぶことを目的としている。
メタトレーニング中に見られるベースデータセットと評価に使用される新しいデータセットは、異なるドメインから得ることができると仮定すると、クロスドメインの少数ショット学習によってデータ収集とアノテーションコストが軽減される。
我々は、新しいクロスドメインタスクに対して、既存の最先端の単一ドメイン、転送ベース、およびクロスドメインFSARメソッドを体系的に評価する。
論文 参考訳（メタデータ） (2024-06-03T07:48:18Z) - Non-stationary Domain Generalization: Theory and Algorithm [11.781050299571692]
本稿では,非定常環境における領域一般化について検討する。
まず,環境非定常性がモデル性能に及ぼす影響について検討する。
そこで我々は適応不変表現学習に基づく新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-05-10T21:32:43Z) - Federated Domain Generalization: A Survey [12.84261944926547]
機械学習では、データはさまざまなデバイス、組織、エッジノードに分散されることが多い。
この課題に応えて、連邦領域の一般化への関心が高まっている。
本稿では,この領域における最近の進歩に関する最初の調査について述べる。
論文 参考訳（メタデータ） (2023-06-02T07:55:42Z) - Meta-causal Learning for Single Domain Generalization [102.53303707563612]
単一ドメインの一般化は、単一のトレーニングドメイン(ソースドメイン)からモデルを学び、それを複数の未確認テストドメイン(ターゲットドメイン)に適用することを目的としている。
既存の方法は、ターゲットドメインをカバーするためのトレーニングドメインの配布拡大に重点を置いているが、ソースとターゲットドメイン間のドメインシフトを見積もることはできない。
そこで本研究では,まず,対象ドメインとして補助ドメインを構築することによってドメインシフトをシミュレートし,ドメインシフトの原因を解析し,最終的にモデル適応のためのドメインシフトを低減する,新たな学習パラダイムを提案する。
論文 参考訳（メタデータ） (2023-04-07T15:46:38Z) - Improving Domain Generalization with Domain Relations [77.63345406973097]
本稿では、モデルがトレーニングされたドメインと異なる新しいドメインに適用されたときに発生するドメインシフトに焦点を当てる。
ドメイン固有モデルを学習するためのD$3$Gという新しい手法を提案する。
以上の結果から,D$3$Gは最先端の手法より一貫して優れていた。
論文 参考訳（メタデータ） (2023-02-06T08:11:16Z) - Self-balanced Learning For Domain Generalization [64.99791119112503]
ドメインの一般化は、モデルが未知の統計を持つ対象のドメインに一般化できるように、マルチドメインのソースデータの予測モデルを学ぶことを目的としている。
既存のアプローチのほとんどは、ソースデータがドメインとクラスの両方の観点からバランスよく調整されているという前提の下で開発されている。
本稿では,多領域ソースデータの分布の違いによるバイアスを軽減するために,損失の重み付けを適応的に学習する自己均衡型領域一般化フレームワークを提案する。
論文 参考訳（メタデータ） (2021-08-31T03:17:54Z) - Model-Based Domain Generalization [96.84818110323518]
本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。
我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
論文 参考訳（メタデータ） (2021-02-23T00:59:02Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳（メタデータ） (2020-10-09T15:42:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。