論文の概要: Barycentric-alignment and reconstruction loss minimization for domain
generalization
- arxiv url: http://arxiv.org/abs/2109.01902v6
- Date: Sun, 21 May 2023 21:44:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-24 06:32:19.663148
- Title: Barycentric-alignment and reconstruction loss minimization for domain
generalization
- Title（参考訳）: 領域一般化のためのバリセントリック・アリゲーションとレコンストラクション損失最小化
- Authors: Boyang Lyu, Thuan Nguyen, Prakash Ishwar, Matthias Scheutz, Shuchin
Aeron
- Abstract要約: 本稿では,機械学習におけるドメイン一般化(DG)の理論と実践を推し進める。
本稿では,WBAE (Wasserstein Barycenter Auto-Encoder) という新しいDGアルゴリズムを提案する。
数値計算により,提案手法は複数のデータセット上で現在最先端のDGアルゴリズムより優れていることが示された。
- 参考スコア（独自算出の注目度）: 30.459247038765568
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper advances the theory and practice of Domain Generalization (DG) in
machine learning. We consider the typical DG setting where the hypothesis is
composed of a representation mapping followed by a labeling function. Within
this setting, the majority of popular DG methods aim to jointly learn the
representation and the labeling functions by minimizing a well-known upper
bound for the classification risk in the unseen domain. In practice, however,
methods based on this theoretical upper bound ignore a term that cannot be
directly optimized due to its dual dependence on both the representation
mapping and the unknown optimal labeling function in the unseen domain. To
bridge this gap between theory and practice, we introduce a new upper bound
that is free of terms having such dual dependence, resulting in a fully
optimizable risk upper bound for the unseen domain. Our derivation leverages
classical and recent transport inequalities that link optimal transport metrics
with information-theoretic measures. Compared to previous bounds, our bound
introduces two new terms: (i) the Wasserstein-2 barycenter term that aligns
distributions between domains, and (ii) the reconstruction loss term that
assesses the quality of representation in reconstructing the original data.
Based on this new upper bound, we propose a novel DG algorithm named
Wasserstein Barycenter Auto-Encoder (WBAE) that simultaneously minimizes the
classification loss, the barycenter loss, and the reconstruction loss.
Numerical results demonstrate that the proposed method outperforms current
state-of-the-art DG algorithms on several datasets.
- Abstract（参考訳）: 本稿では,機械学習におけるドメイン一般化(DG)の理論と実践を推し進める。
仮説が表現写像とラベル付け関数からなる典型的なDG設定を考える。
この設定内では、一般的なDG手法の大半は、未知の領域の分類リスクに対するよく知られた上限を最小化することにより、表現とラベル関数を共同で学習することを目的としている。
しかし、実際には、この理論上の上限に基づく手法は、表現写像と未知のunseen領域における未知の最適ラベリング関数の両方の双対依存性により直接最適化できない項を無視している。
この理論と実践のギャップを埋めるために、そのような双対依存を持つ項のない新しい上限を導入し、その結果、目に見えない領域に対して完全に最適化可能なリスク上限をもたらす。
我々の導出は、最適輸送指標と情報理論測度を結びつける古典的および最近の輸送不等式を利用する。
以前の境界と比べて、我々の境界は2つの新しい項を導入する。
(i)ドメイン間の分布を整列するwasserstein-2用語、及び
(ii)原データの復元における表現の質を評価する復元損失項。
この新たな上限に基づいて,wasserstein barycenter auto-encoder (wbae) と呼ばれる新しいdgアルゴリズムを提案する。
数値計算により,提案手法は複数のデータセット上で現在最先端のDGアルゴリズムより優れていることが示された。
関連論文リスト
- Domain Adaptation via Rebalanced Sub-domain Alignment [22.68115322836635]
教師なしドメイン適応(Unsupervised domain adapt, UDA)は、ラベル付きソースドメインから関連するラベル付きターゲットドメインへ知識を転送する手法である。
過去に多くのUDA手法が成功したが、ソースとターゲットドメインは同一のクラスラベルの分布を持つ必要があると仮定することが多い。
本稿では、ソースとターゲットサブドメインを整列させて、ソース分類誤差を重み付けする新しい一般化法を提案する。
論文 参考訳（メタデータ） (2023-02-03T21:30:40Z) - Theoretical Guarantees for Domain Adaptation with Hierarchical Optimal
Transport [0.0]
ドメイン適応は統計学習理論において重要な問題として生じる。
近年の進歩は、領域適応アルゴリズムの成功は、ソースとターゲット領域の確率分布のばらつきを最小限に抑える能力に大きく依存していることを示している。
階層的最適輸送によるドメイン適応のための新しい理論的枠組みを提案する。
論文 参考訳（メタデータ） (2022-10-24T15:34:09Z) - Constrained Maximum Cross-Domain Likelihood for Domain Generalization [14.91361835243516]
ドメインの一般化は、複数のソースドメイン上で一般化可能なモデルを学ぶことを目的としている。
本稿では,異なる領域の後方分布間のKL偏差を最小限に抑える新しい領域一般化法を提案する。
Digits-DG、PACS、Office-Home、MiniDomainNetの4つの標準ベンチマークデータセットの実験は、我々のメソッドの優れたパフォーマンスを強調している。
論文 参考訳（メタデータ） (2022-10-09T03:41:02Z) - Relation Matters: Foreground-aware Graph-based Relational Reasoning for
Domain Adaptive Object Detection [81.07378219410182]
我々は、FGRR(Fearground-aware Graph-based Reasoning)というドメインDのための新しい汎用フレームワークを提案する。
FGRRはグラフ構造を検出パイプラインに組み込んで、ドメイン内およびドメイン間フォアグラウンドオブジェクト関係を明示的にモデル化する。
実験の結果、提案したFGRRは4つのDomainDベンチマークの最先端よりも優れていることが示された。
論文 参考訳（メタデータ） (2022-06-06T05:12:48Z) - Generalizable Representation Learning for Mixture Domain Face
Anti-Spoofing [53.82826073959756]
ドメイン一般化(DG)に基づく対スプーフィングアプローチは、予期せぬシナリオの堅牢性のために注目を集めています。
ドメインダイナミック調整メタラーニング(D2AM)についてドメインラベルを使わずに提案する。
この制限を克服するため,ドメインダイナミック調整メタラーニング(D2AM)を提案する。
論文 参考訳（メタデータ） (2021-05-06T06:04:59Z) - Model-Based Domain Generalization [96.84818110323518]
本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。
我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
論文 参考訳（メタデータ） (2021-02-23T00:59:02Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳（メタデータ） (2020-10-09T15:42:35Z) - Discrepancy Minimization in Domain Generalization with Generative
Nearest Neighbors [13.047289562445242]
ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインでトレーニングされた機械学習モデルが、統計の異なるターゲットドメインでうまく一般化できないという、ドメインシフトの問題を扱う。
シフト対象領域の一般化を保証するのに失敗するソースドメイン全体にわたるドメイン不変表現を学習することにより、ドメイン一般化の問題を解決するために、複数のアプローチが提案されている。
本稿では,GNNDM(Generative Nearest Neighbor Based Discrepancy Minimization)法を提案する。
論文 参考訳（メタデータ） (2020-07-28T14:54:25Z) - Maximum Density Divergence for Domain Adaptation [0.0]
教師なしドメイン適応は、十分にラベル付けされたソースドメインからラベル付けされていないターゲットドメインへ知識を転送する問題に対処する。
本稿では,敵対的学習とメートル法学習の両方の利点を享受するATM(Adversarial Tight Match)というドメイン適応手法を提案する。
論文 参考訳（メタデータ） (2020-04-27T07:35:06Z) - Log-Likelihood Ratio Minimizing Flows: Towards Robust and Quantifiable
Neural Distribution Alignment [52.02794488304448]
そこで本研究では,対数様比統計量と正規化フローに基づく新しい分布アライメント手法を提案する。
入力領域の局所構造を保存する領域アライメントにおいて,結果の最小化を実験的に検証する。
論文 参考訳（メタデータ） (2020-03-26T22:10:04Z) - Bi-Directional Generation for Unsupervised Domain Adaptation [61.73001005378002]
教師なしのドメイン適応は、確立されたソースドメイン情報に依存するラベルなしのターゲットドメインを促進する。
従来の手法では、潜在空間におけるドメインの不一致を強制的に低減することで、本質的なデータ構造が破壊される。
本稿では、2つの中間領域をブリッジソースとターゲットドメインに補間する一貫した分類器を用いた双方向生成ドメイン適応モデルを提案する。
論文 参考訳（メタデータ） (2020-02-12T09:45:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。