論文の概要: Distributionally Robust Domain Adaptation
- arxiv url: http://arxiv.org/abs/2210.16894v1
- Date: Sun, 30 Oct 2022 17:29:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-01 15:58:55.011568
- Title: Distributionally Robust Domain Adaptation
- Title(参考訳): 分布的ロバストなドメイン適応
- Authors: Akram S. Awad, George K. Atia
- Abstract要約: ドメイン適応(DA: Domain Adaptation)は、ソースドメインとターゲットドメインをまたいだ学習モデルに適合する可能性から、最近大きな注目を集めている。
本稿では,分散ロバストな領域適応手法DRDAを提案する。
- 参考スコア(独自算出の注目度): 12.02023514105999
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Domain Adaptation (DA) has recently received significant attention due to its
potential to adapt a learning model across source and target domains with
mismatched distributions. Since DA methods rely exclusively on the given source
and target domain samples, they generally yield models that are vulnerable to
noise and unable to adapt to unseen samples from the target domain, which calls
for DA methods that guarantee the robustness and generalization of the learned
models. In this paper, we propose DRDA, a distributionally robust domain
adaptation method. DRDA leverages a distributionally robust optimization (DRO)
framework to learn a robust decision function that minimizes the worst-case
target domain risk and generalizes to any sample from the target domain by
transferring knowledge from a given labeled source domain sample. We utilize
the Maximum Mean Discrepancy (MMD) metric to construct an ambiguity set of
distributions that provably contains the source and target domain distributions
with high probability. Hence, the risk is shown to upper bound the
out-of-sample target domain loss. Our experimental results demonstrate that our
formulation outperforms existing robust learning approaches.
- Abstract(参考訳): ドメイン適応(DA: Domain Adaptation)は、ソースドメインとターゲットドメインをまたいだ学習モデルに適合する可能性から、最近大きな注目を集めている。
daメソッドは与えられたソースとターゲットドメインのサンプルのみに依存しているため、一般的にはノイズに弱いモデルと、学習モデルの堅牢性と一般化を保証するdaメソッドを呼び出すターゲットドメインの未検出サンプルに適応できないモデルを生成する。
本稿では,分布にロバストな領域適応法であるdrdaを提案する。
DRDAは、分布的に堅牢な最適化(DRO)フレームワークを利用して、最悪の対象ドメインリスクを最小限に抑える堅牢な決定関数を学習し、与えられたラベル付きソースドメインサンプルからの知識を転送することで、対象ドメインからの任意のサンプルに一般化する。
我々は、最大平均離散度(MMD)測定値を用いて、高い確率でソースとターゲット領域の分布を確実に含む分布のあいまいさの集合を構築する。
したがって、リスクは、サンプル外のターゲットドメイン損失を上限として示される。
実験の結果,既存のロバストな学習手法に勝ることがわかった。
関連論文リスト
- Revisiting the Domain Shift and Sample Uncertainty in Multi-source
Active Domain Transfer [69.82229895838577]
Active Domain Adaptation (ADA)は、アノテートするターゲットデータの限られた数を選択することで、新しいターゲットドメインにおけるモデル適応を最大限に向上することを目的としている。
この設定は、複数のソースからトレーニングデータを収集するより実践的なシナリオを無視します。
これは、ADAを単一のソースドメインから複数のソースドメインに拡張する、新しい、挑戦的な知識転送の設定を目標にしています。
論文 参考訳(メタデータ) (2023-11-21T13:12:21Z) - Unsupervised Domain Adaptation Based on the Predictive Uncertainty of
Models [1.6498361958317636]
非教師付きドメイン適応(UDA)は、ソースドメインからの分散シフトの下で、ターゲットドメインの予測性能を改善することを目的としている。
ドメインの発散を最小限に抑えるドメイン不変の特徴を学習する新しいUDA法を提案する。
論文 参考訳(メタデータ) (2022-11-16T12:23:32Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
まず、適応性ギャップを明示的に考慮した一般化境界を確立する。
本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。
もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
論文 参考訳(メタデータ) (2022-08-18T06:42:49Z) - Generalizing to Unseen Domains with Wasserstein Distributional Robustness under Limited Source Knowledge [22.285156929279207]
ドメインの一般化は、目に見えないターゲットドメインでうまく機能する普遍的なモデルを学ぶことを目的としている。
We propose a novel domain generalization framework called Wasserstein Distributionally Robust Domain Generalization (WDRDG)。
論文 参考訳(メタデータ) (2022-07-11T14:46:50Z) - Learning Unbiased Transferability for Domain Adaptation by Uncertainty
Modeling [107.24387363079629]
ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。
ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。
本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
論文 参考訳(メタデータ) (2022-06-02T21:58:54Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Robustified Domain Adaptation [13.14535125302501]
非教師付きドメイン適応(Unsupervised domain adapt, UDA)は、ラベル付きソースドメインからラベル付きターゲットドメインへの知識伝達に広く使用される。
UDAにおける避けられないドメイン分布の偏りは、ターゲットドメインの堅牢性をモデル化するための重要な障壁である。
頑健な UDA モデルをトレーニングするための新しいクラス一貫性のないunsupervised Domain Adaptation (CURDA) フレームワークを提案する。
論文 参考訳(メタデータ) (2020-11-18T22:21:54Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。