論文の概要: Improving Multi-Domain Generalization through Domain Re-labeling
- arxiv url: http://arxiv.org/abs/2112.09802v1
- Date: Fri, 17 Dec 2021 23:21:50 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-23 05:18:11.317547
- Title: Improving Multi-Domain Generalization through Domain Re-labeling
- Title（参考訳）: ドメイン再ラベルによるマルチドメイン一般化の改善
- Authors: Kowshik Thopalli, Sameeksha Katoch, Andreas Spanias, Pavan Turaga and
Jayaraman J. Thiagarajan
- Abstract要約: 本稿では,事前特定ドメインラベルと一般化性能の関連性について検討する。
マルチドメイン一般化のための一般的なアプローチであるMulDEnsを導入し,ERMをベースとした深層アンサンブルバックボーンを用いた。
我々は、MulDEnsがデータセット固有の拡張戦略やトレーニングプロセスの調整を必要としないことを示す。
- 参考スコア（独自算出の注目度）: 31.636953426159224
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Domain generalization (DG) methods aim to develop models that generalize to
settings where the test distribution is different from the training data. In
this paper, we focus on the challenging problem of multi-source zero-shot DG,
where labeled training data from multiple source domains is available but with
no access to data from the target domain. Though this problem has become an
important topic of research, surprisingly, the simple solution of pooling all
source data together and training a single classifier is highly competitive on
standard benchmarks. More importantly, even sophisticated approaches that
explicitly optimize for invariance across different domains do not necessarily
provide non-trivial gains over ERM. In this paper, for the first time, we study
the important link between pre-specified domain labels and the generalization
performance. Using a motivating case-study and a new variant of a
distributional robust optimization algorithm, GroupDRO++, we first demonstrate
how inferring custom domain groups can lead to consistent improvements over the
original domain labels that come with the dataset. Subsequently, we introduce a
general approach for multi-domain generalization, MulDEns, that uses an
ERM-based deep ensembling backbone and performs implicit domain re-labeling
through a meta-optimization algorithm. Using empirical studies on multiple
standard benchmarks, we show that MulDEns does not require tailoring the
augmentation strategy or the training process specific to a dataset,
consistently outperforms ERM by significant margins, and produces
state-of-the-art generalization performance, even when compared to existing
methods that exploit the domain labels.
- Abstract（参考訳）: ドメイン一般化(DG)手法は、テスト分布がトレーニングデータと異なる設定に一般化するモデルを開発することを目的としている。
本稿では,複数のソースドメインからのラベル付きトレーニングデータが利用可能だが,対象ドメインからのデータにアクセスできないマルチソースゼロショットDGの課題に焦点を当てる。
この問題は研究の重要なトピックとなっているが、驚くべきことに、すべてのソースデータをまとめ、単一の分類器を訓練する簡単なソリューションは、標準ベンチマークで非常に競争力がある。
さらに重要なことに、異なるドメイン間の不変性を明示的に最適化する洗練されたアプローチでさえ、ermに対する非自明な利益を提供するとは限らない。
本稿では,先述したドメインラベルと一般化性能の関連性について,初めて考察する。
分散ロバスト最適化アルゴリズムであるGroupDRO++の新たな変種であるモチベーションケーススタディを用いて、カスタムドメイングループを推論することで、データセットに付属する元のドメインラベルよりも一貫した改善がもたらされることを示す。
次に、EMMベースの深層アンサンブルバックボーンを用いてメタ最適化アルゴリズムにより暗黙的なドメイン再ラベルを行うマルチドメイン一般化の一般的なアプローチであるMulDEnsを提案する。
複数の標準ベンチマークに関する実証的な研究から、MulDEnsはデータセット固有の拡張戦略やトレーニングプロセスの調整を必要とせず、一貫したマージンでEMMを上回り、ドメインラベルを利用する既存手法と比較しても最先端の一般化性能を生み出すことを示した。
関連論文リスト
- On Certifying and Improving Generalization to Unseen Domains [87.00662852876177]
ドメインの一般化は、テスト時に遭遇した見知らぬドメインのパフォーマンスが高いモデルを学ぶことを目的としています。
いくつかのベンチマークデータセットを使用して、DGアルゴリズムを包括的に評価することは困難である。
我々は,任意のDG手法の最悪の性能を効率的に証明できる普遍的な認証フレームワークを提案する。
論文 参考訳（メタデータ） (2022-06-24T16:29:43Z) - Compound Domain Generalization via Meta-Knowledge Encoding [55.22920476224671]
マルチモーダル分布を再正規化するために,スタイル駆動型ドメイン固有正規化(SDNorm)を導入する。
組込み空間における関係モデリングを行うために,プロトタイプ表現,クラスセントロイドを利用する。
4つの標準ドメイン一般化ベンチマークの実験により、COMENはドメインの監督なしに最先端のパフォーマンスを上回ることが判明した。
論文 参考訳（メタデータ） (2022-03-24T11:54:59Z) - META: Mimicking Embedding via oThers' Aggregation for Generalizable
Person Re-identification [68.39849081353704]
Domain Generalizable (DG) Person Re-identification (ReID)は、トレーニング時に対象のドメインデータにアクセスすることなく、見えないドメインをまたいでテストすることを目的としている。
本稿では,DG ReID のための OThers' Aggregation (META) を用いた Mimicking Embedding という新しい手法を提案する。
論文 参考訳（メタデータ） (2021-12-16T08:06:50Z) - Adaptive Methods for Aggregated Domain Generalization [26.215904177457997]
多くの設定において、プライバシに関する懸念は、トレーニングデータサンプルのドメインラベルを取得することを禁止している。
本稿では,この問題に対するドメイン適応的アプローチを提案する。
提案手法は,ドメインラベルを使わずに,様々な領域一般化ベンチマークにおける最先端性能を実現する。
論文 参考訳（メタデータ） (2021-12-09T08:57:01Z) - Reappraising Domain Generalization in Neural Networks [8.06370138649329]
機械学習アルゴリズムのドメイン一般化(DG)は、複数のトレーニング分布からドメインに依存しない仮説を学習する能力として定義される。
経験的リスク最小化(ERM)ベースラインは,既存のDG手法を一貫して上回っていることがわかった。
そこで我々は,各クラスに対してランダムにドメインを選択して,それをテスト用として保持する,クラスワイズDGの定式化を提案する。
論文 参考訳（メタデータ） (2021-10-15T10:06:40Z) - Generalizable Person Re-identification with Relevance-aware Mixture of
Experts [45.13716166680772]
我々はRaMoE(Relevance-Aware Mixed of Expert)と呼ばれる新しい手法を提案する。
RaMoEは、効率的な投票に基づく混合メカニズムを使用して、モデル一般化を改善するために、ソースドメインの様々な特性を動的に活用する。
対象ドメインの学習時の視認性を考慮し,新たな学習学習アルゴリズムと関係アライメント損失を組み合わせることで,投票ネットワークを更新する手法を提案する。
論文 参考訳（メタデータ） (2021-05-19T14:19:34Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳（メタデータ） (2021-04-03T01:33:14Z) - Inferring Latent Domains for Unsupervised Deep Domain Adaptation [54.963823285456925]
Unsupervised Domain Adaptation (UDA)は、ラベル付きデータが利用できないターゲットドメインでモデルを学習する問題を指す。
本稿では,視覚データセット中の潜在ドメインを自動的に発見することにより,udaの問題に対処する新しい深層アーキテクチャを提案する。
提案手法を公開ベンチマークで評価し,最先端のドメイン適応手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2021-03-25T14:33:33Z) - Model-Based Domain Generalization [96.84818110323518]
本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。
我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
論文 参考訳（メタデータ） (2021-02-23T00:59:02Z) - Robust Domain-Free Domain Generalization with Class-aware Alignment [4.442096198968069]
ドメインフリードメイン一般化(DFDG)は、目に見えないテストドメインでより良い一般化性能を実現するモデル非依存の方法である。
DFDGは新しい戦略を用いてドメイン不変なクラス差別的特徴を学習する。
時系列センサと画像分類公開データセットの両方で競合性能を得る。
論文 参考訳（メタデータ） (2021-02-17T17:46:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。