論文の概要: Cross Domain Generative Augmentation: Domain Generalization with Latent Diffusion Models

• arxiv url: http://arxiv.org/abs/2312.05387v1
• Date: Fri, 8 Dec 2023 21:52:00 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-12 21:09:05.214317
• Title: Cross Domain Generative Augmentation: Domain Generalization with Latent Diffusion Models
• Title（参考訳）: クロスドメイン生成拡張:潜在拡散モデルを用いたドメイン一般化
• Authors: Sobhan Hemati, Mahdi Beitollahi, Amir Hossein Estiri, Bassel Al Omari, Xi Chen, Guojun Zhang
• Abstract要約: Cross Domain Generative Augmentation (CDGA)は、すべてのドメイン間のギャップを埋めるために合成画像を生成する。 我々は,CDGAがDomainbedベンチマークでSOTA DG法より優れていることを示す。
• 参考スコア（独自算出の注目度）: 11.309433257851122
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Despite the huge effort in developing novel regularizers for Domain Generalization (DG), adding simple data augmentation to the vanilla ERM which is a practical implementation of the Vicinal Risk Minimization principle (VRM) \citep{chapelle2000vicinal} outperforms or stays competitive with many of the proposed regularizers. The VRM reduces the estimation error in ERM by replacing the point-wise kernel estimates with a more precise estimation of true data distribution that reduces the gap between data points \textbf{within each domain}. However, in the DG setting, the estimation error of true data distribution by ERM is mainly caused by the distribution shift \textbf{between domains} which cannot be fully addressed by simple data augmentation techniques within each domain. Inspired by this limitation of VRM, we propose a novel data augmentation named Cross Domain Generative Augmentation (CDGA) that replaces the pointwise kernel estimates in ERM with new density estimates in the \textbf{vicinity of domain pairs} so that the gap between domains is further reduced. To this end, CDGA, which is built upon latent diffusion models (LDM), generates synthetic images to fill the gap between all domains and as a result, reduces the non-iidness. We show that CDGA outperforms SOTA DG methods under the Domainbed benchmark. To explain the effectiveness of CDGA, we generate more than 5 Million synthetic images and perform extensive ablation studies including data scaling laws, distribution visualization, domain shift quantification, adversarial robustness, and loss landscape analysis.
• Abstract（参考訳）: ドメイン一般化のための新しい正則化器(DG)の開発に多大な努力を払っているにもかかわらず、ビシナルリスク最小化原理(VRM)の実践的な実装であるバニラERMに単純なデータ拡張を加え、提案された正則化器の多くと競争力を維持する。 vrmは、ポイントワイズカーネル推定をより正確な真のデータ分布の推定に置き換えることでermの推定誤差を低減し、データポイント \textbf{within each domain} 間のギャップを減少させる。 しかし、DG設定では、ERMによる真のデータ分布の推定誤差は主に分布シフト \textbf{between domain} によって引き起こされる。 VRMのこの制限に触発されて,ERMにおけるポイントワイドカーネル推定を,領域間のギャップをさらに小さくするために,新たな密度推定に置き換える,クロスドメイン生成拡張(CDGA)という新しいデータ拡張を提案する。 この目的のために、遅延拡散モデル(LDM)上に構築されたCDGAは、すべての領域間のギャップを埋める合成画像を生成し、その結果、非イディネスを低減する。 我々は,CDGAがDomainbedベンチマークでSOTA DG法より優れていることを示す。 cdgaの有効性を説明するために,500万以上の合成画像を生成し,データスケーリング則,分布可視化,ドメインシフト定量化,逆ロバスト性,ロスランドスケープ解析などの広範なアブレーション研究を行う。

関連論文リスト

• Gradually Vanishing Gap in Prototypical Network for Unsupervised Domain Adaptation [32.58201185195226]
  プロトタイプネットワーク(GVG-PN)におけるGradually Vanishing Gapという効率的なUDAフレームワークを提案する。 我々のモデルは,グローバルとローカルの両方の観点からの伝達学習を実現する。 いくつかのUDAベンチマークの実験では、提案されたGVG-PNがSOTAモデルより明らかに優れていることが検証された。
  論文  参考訳（メタデータ） (2024-05-28T03:03:32Z)
• Gradual Domain Adaptation: Theory and Algorithms [15.278170387810409]
  教師なしドメイン適応(Unsupervised domain adapt, UDA)は、ラベル付きソースドメインからラベルなしターゲットドメインへのモデルをワンオフで適応する。 本研究ではまず,GDAアルゴリズムである漸進的な自己学習を理論的に解析し,より優れた一般化バウンダリを提供する。 我々は、$textbfG$enerative Gradual D$textbfO$main $textbfA$daptation with Optimal $textbfT$ransport (GOAT)を提案する。
  論文  参考訳（メタデータ） (2023-10-20T23:02:08Z)
• Unsupervised Domain Adaptation via Domain-Adaptive Diffusion [31.802163238282343]
  非教師付きドメイン適応(UDA)は、ソースドメインとターゲットドメインの間に大きな分散不一致があるため、非常に難しい。 大規模なギャップをまたいでデータ分散を段階的に変換する能力を持つ拡散モデルに着想を得て,その課題に対処する拡散手法について検討する。 提案手法は, 広く使用されている3つのUDAデータセットに対して, 現在の最先端技術よりも大きなマージンを達成している。
  論文  参考訳（メタデータ） (2023-08-26T14:28:18Z)
• Domain Re-Modulation for Few-Shot Generative Domain Adaptation [71.47730150327818]
  生成ドメイン適応(Generative Domain Adaptation, GDA)は、トレーニング済みのジェネレータを、いくつかの参照イメージのみを使用して、ひとつのドメインから新しいドメインに転送する。 人間の脳が新しいドメインの知識を得る方法に触発されて、ドメイン再構成(DoRM)と呼ばれる革新的なジェネレータ構造を提示する。 DoRMは、高品質、大規模な合成の多様性、ドメイン間の整合性の基準を満たすだけでなく、メモリとドメインの関連も含んでいる。
  論文  参考訳（メタデータ） (2023-02-06T03:55:35Z)
• DAPDAG: Domain Adaptation via Perturbed DAG Reconstruction [78.76115370275733]
  本研究では,人口統計量の推定を行う自動エンコーダを学習し,有向非巡回グラフ(DAG)を補助的タスクとして再構築する。 基礎となるDAG構造は、条件分布が潜伏環境変数$E$によって導かれる領域間で変化することが許される観測変数の間で不変であると仮定される。 我々は、エンコーダとデコーダをエンドツーエンドで共同で訓練し、混合変数を用いた合成および実データセットの実験を行う。
  論文  参考訳（メタデータ） (2022-08-02T11:43:03Z)
• On Certifying and Improving Generalization to Unseen Domains [87.00662852876177]
  ドメインの一般化は、テスト時に遭遇した見知らぬドメインのパフォーマンスが高いモデルを学ぶことを目的としています。 いくつかのベンチマークデータセットを使用して、DGアルゴリズムを包括的に評価することは困難である。 我々は,任意のDG手法の最悪の性能を効率的に証明できる普遍的な認証フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-24T16:29:43Z)
• Unsupervised Domain Adaptation for Cardiac Segmentation: Towards Structure Mutual Information Maximization [0.8959391124399926]
  教師なし領域適応アプローチは、様々な医用画像分割タスクに成功している。 UDA-VAE++は、コンパクトな損失関数を下限とする心臓セグメンテーションのための教師なしドメイン適応フレームワークである。 我々のモデルは、過去の最先端の質的、定量的に優れている。
  論文  参考訳（メタデータ） (2022-04-20T09:10:18Z)
• META: Mimicking Embedding via oThers' Aggregation for Generalizable Person Re-identification [68.39849081353704]
  Domain Generalizable (DG) Person Re-identification (ReID)は、トレーニング時に対象のドメインデータにアクセスすることなく、見えないドメインをまたいでテストすることを目的としている。 本稿では,DG ReID のための OThers' Aggregation (META) を用いた Mimicking Embedding という新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-12-16T08:06:50Z)
• Adapt Everywhere: Unsupervised Adaptation of Point-Clouds and Entropy Minimisation for Multi-modal Cardiac Image Segmentation [10.417009344120917]
  マルチモーダル心臓画像分割のための新しいUDA法を提案する。 提案手法は、逆学習に基づいて、異なる空間におけるソースとターゲットドメイン間のネットワーク特徴を適応する。 本手法はannotated source domainからunannotated target domainへの適応により2つの心データセットで検証した。
  論文  参考訳（メタデータ） (2021-03-15T08:59:44Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• Supervised Domain Adaptation using Graph Embedding [86.3361797111839]
  領域適応法は、2つの領域間の分布がシフトし、それを認識しようとすると仮定する。 グラフ埋め込みに基づく汎用フレームワークを提案する。 提案手法が強力なドメイン適応フレームワークにつながることを示す。
  論文  参考訳（メタデータ） (2020-03-09T12:25:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。