論文の概要: Model-Based Domain Generalization
- arxiv url: http://arxiv.org/abs/2102.11436v1
- Date: Tue, 23 Feb 2021 00:59:02 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-24 14:12:59.185125
- Title: Model-Based Domain Generalization
- Title(参考訳): モデルベースドメイン一般化
- Authors: Alexander Robey and George J. Pappas and Hamed Hassani
- Abstract要約: 本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。
我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
- 参考スコア(独自算出の注目度): 96.84818110323518
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the problem of domain generalization, in which a predictor is
trained on data drawn from a family of related training domains and tested on a
distinct and unseen test domain. While a variety of approaches have been
proposed for this setting, it was recently shown that no existing algorithm can
consistently outperform empirical risk minimization (ERM) over the training
domains. To this end, in this paper we propose a novel approach for the domain
generalization problem called Model-Based Domain Generalization. In our
approach, we first use unlabeled data from the training domains to learn
multi-modal domain transformation models that map data from one training domain
to any other domain. Next, we propose a constrained optimization-based
formulation for domain generalization which enforces that a trained predictor
be invariant to distributional shifts under the underlying domain
transformation model. Finally, we propose a novel algorithmic framework for
efficiently solving this constrained optimization problem. In our experiments,
we show that this approach outperforms both ERM and domain generalization
algorithms on numerous well-known, challenging datasets, including WILDS, PACS,
and ImageNet. In particular, our algorithms beat the current state-of-the-art
methods on the very-recently-proposed WILDS benchmark by up to 20 percentage
points.
- Abstract(参考訳): 我々は、予測者が関連するトレーニングドメインのファミリーから引き出されたデータに基づいて訓練され、明確で見えないテストドメインでテストされるドメイン一般化の問題を検討する。
この設定には様々なアプローチが提案されているが、最近、既存のアルゴリズムがトレーニング領域よりも経験的リスク最小化(ERM)を一貫して上回ることはないことが示されている。
そこで本論文では,モデルベース領域一般化という領域一般化問題に対する新しいアプローチを提案する。
このアプローチでは、まずトレーニングドメインからのラベルなしデータを使用して、トレーニングドメインから他のドメインにデータをマッピングするマルチモーダルドメイン変換モデルを学びます。
次に,制約付き最適化に基づくドメイン一般化の定式化を提案し,基礎となるドメイン変換モデルの下での分散シフトに対して,トレーニングされた予測器が不変であることを強制する。
最後に,この制約付き最適化問題を効率的に解くための新しいアルゴリズムフレームワークを提案する。
実験では、このアプローチが、WILDS、PACS、ImageNetなど、多くのよく知られ、挑戦的なデータセットでERMとドメイン一般化アルゴリズムの両方よりも優れていることを示しています。
特に、我々のアルゴリズムは、現在提案されているWILDSベンチマークの最新の手法を最大20パーセントのポイントで破った。
関連論文リスト
- Constrained Maximum Cross-Domain Likelihood for Domain Generalization [14.91361835243516]
ドメインの一般化は、複数のソースドメイン上で一般化可能なモデルを学ぶことを目的としている。
本稿では,異なる領域の後方分布間のKL偏差を最小限に抑える新しい領域一般化法を提案する。
Digits-DG、PACS、Office-Home、MiniDomainNetの4つの標準ベンチマークデータセットの実験は、我々のメソッドの優れたパフォーマンスを強調している。
論文 参考訳(メタデータ) (2022-10-09T03:41:02Z) - Single-domain Generalization in Medical Image Segmentation via Test-time
Adaptation from Shape Dictionary [64.5632303184502]
ドメインの一般化は通常、モデル学習のために複数のソースドメインからのデータを必要とする。
本稿では,1つのソースドメインのみで最悪のシナリオ下でモデルを学習し,異なる未確認対象ドメインに直接一般化する,重要な単一ドメインの一般化問題について考察する。
本稿では,領域間で不変なセグメンテーションのセグメンテーション先情報を抽出し,統合する医用画像セグメンテーションにおいて,この問題に対処する新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-06-29T08:46:27Z) - A Novel Mix-normalization Method for Generalizable Multi-source Person
Re-identification [49.548815417844786]
人物再識別(Re-ID)は、監督されたシナリオにおいて大きな成功を収めた。
モデルがソースドメインに過度に適合するため、教師付きモデルを任意の未確認領域に直接転送することは困難である。
ドメイン・アウェア・ミックス正規化(DMN)とドメイン・ウェア・センター正規化(DCR)からなるMixNormを提案する。
論文 参考訳(メタデータ) (2022-01-24T18:09:38Z) - f-Domain-Adversarial Learning: Theory and Algorithms [82.97698406515667]
教師なしのドメイン適応は、トレーニング中、ターゲットドメイン内のラベルなしデータにアクセス可能な、多くの機械学習アプリケーションで使用されている。
領域適応のための新しい一般化法を導出し、f-発散体の変分的特徴に基づく分布間の相違性の新しい尺度を利用する。
論文 参考訳(メタデータ) (2021-06-21T18:21:09Z) - Adaptive Methods for Real-World Domain Generalization [32.030688845421594]
本研究では、未確認の試験サンプルからドメイン情報を活用できるかどうかを検討する。
a) 教師なしのトレーニング例から識別的ドメイン埋め込みを最初に学び、b) このドメイン埋め込みを補足的な情報として使ってドメイン適応モデルを構築する。
提案手法は,各種領域一般化ベンチマークにおける最先端性能を実現する。
論文 参考訳(メタデータ) (2021-03-29T17:44:35Z) - Domain Invariant Representation Learning with Domain Density
Transformations [30.29600757980369]
ドメインの一般化とは、ソースドメインの集合からデータに基づいてモデルをトレーニングし、対象ドメインの見えない領域にモデルを一般化できるようにする問題を指す。
本稿では,このようなドメイン変換を学習し,本手法を実際に実装する方法を示す。
論文 参考訳(メタデータ) (2021-02-09T19:25:32Z) - Hierarchical Variational Auto-Encoding for Unsupervised Domain
Generalization [4.670305538969914]
可変オートエンコーダの枠組みの中で生成的アプローチを選択し、監視なしで新しい領域に一般化できる監視されていないアルゴリズムを提案する。
本手法は複雑な設定でもクラスラベル特定情報からドメイン固有情報を分離する表現を学習することができる。
論文 参考訳(メタデータ) (2021-01-23T07:09:59Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Discrepancy Minimization in Domain Generalization with Generative
Nearest Neighbors [13.047289562445242]
ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインでトレーニングされた機械学習モデルが、統計の異なるターゲットドメインでうまく一般化できないという、ドメインシフトの問題を扱う。
シフト対象領域の一般化を保証するのに失敗するソースドメイン全体にわたるドメイン不変表現を学習することにより、ドメイン一般化の問題を解決するために、複数のアプローチが提案されている。
本稿では,GNNDM(Generative Nearest Neighbor Based Discrepancy Minimization)法を提案する。
論文 参考訳(メタデータ) (2020-07-28T14:54:25Z) - Learning to Learn with Variational Information Bottleneck for Domain
Generalization [128.90691697063616]
ドメイン一般化モデルは、これまで見つからなかった領域に一般化することを学ぶが、予測の不確実性とドメインシフトに悩まされる。
ドメイン一般化のための確率論的メタラーニングモデルを導入し、ドメイン間で共有されるパラメータを分布としてモデル化する。
ドメインシフトに対処するため、メタ変動情報ボトルネックという提案原則を用いてドメイン不変表現を学習し、メタVIBと呼ぶ。
論文 参考訳(メタデータ) (2020-07-15T12:05:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。