論文の概要: NormAUG: Normalization-guided Augmentation for Domain Generalization
- arxiv url: http://arxiv.org/abs/2307.13492v2
- Date: Wed, 7 Feb 2024 02:37:04 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-08 20:24:38.696390
- Title: NormAUG: Normalization-guided Augmentation for Domain Generalization
- Title(参考訳): NormAUG:領域一般化のための正規化誘導拡張
- Authors: Lei Qi, Hongpeng Yang, Yinghuan Shi, Xin Geng
- Abstract要約: ディープラーニングのためのNormAUG(Normalization-guided Augmentation)と呼ばれるシンプルで効果的な手法を提案する。
本手法は特徴レベルで多様な情報を導入し,主経路の一般化を改善する。
テスト段階では、アンサンブル戦略を利用して、モデルの補助経路からの予測を組み合わせ、さらなる性能向上を図る。
- 参考スコア(独自算出の注目度): 60.159546669021346
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning has made significant advancements in supervised learning.
However, models trained in this setting often face challenges due to domain
shift between training and test sets, resulting in a significant drop in
performance during testing. To address this issue, several domain
generalization methods have been developed to learn robust and domain-invariant
features from multiple training domains that can generalize well to unseen test
domains. Data augmentation plays a crucial role in achieving this goal by
enhancing the diversity of the training data. In this paper, inspired by the
observation that normalizing an image with different statistics generated by
different batches with various domains can perturb its feature, we propose a
simple yet effective method called NormAUG (Normalization-guided Augmentation).
Our method includes two paths: the main path and the auxiliary (augmented)
path. During training, the auxiliary path includes multiple sub-paths, each
corresponding to batch normalization for a single domain or a random
combination of multiple domains. This introduces diverse information at the
feature level and improves the generalization of the main path. Moreover, our
NormAUG method effectively reduces the existing upper boundary for
generalization based on theoretical perspectives. During the test stage, we
leverage an ensemble strategy to combine the predictions from the auxiliary
path of our model, further boosting performance. Extensive experiments are
conducted on multiple benchmark datasets to validate the effectiveness of our
proposed method.
- Abstract(参考訳): 深層学習は教師あり学習において大きな進歩を遂げた。
しかしながら、この環境でトレーニングされたモデルは、トレーニングとテストセットの間のドメインシフトによってしばしば課題に直面し、テスト中のパフォーマンスが大幅に低下する。
この問題に対処するために、複数のトレーニングドメインから堅牢でドメイン不変な特徴を学習するために、いくつかのドメイン一般化手法が開発されている。
データ拡張は、トレーニングデータの多様性を高めることで、この目標を達成する上で重要な役割を果たす。
本稿では,各領域の異なるバッチによって生成される異なる統計量による画像の正規化が特徴を乱すことができるという観察に着想を得て,NormAUG(Normalization-guided Augmentation)と呼ばれるシンプルで効果的な手法を提案する。
本手法は,主経路と補助(拡張)経路の2つの経路を含む。
訓練中、補助経路は複数のサブパスを含み、それぞれが単一のドメインのバッチ正規化や複数のドメインのランダムな組み合わせに対応する。
これは機能レベルで多様な情報を導入し、メインパスの一般化を改善する。
さらに,NomAUG法は理論的な観点から,既存の上界の一般化を効果的に抑制する。
テスト段階では,モデルの補助経路からの予測を組み合わせるためにアンサンブル戦略を活用し,さらなる性能向上を図る。
提案手法の有効性を検証するために,複数のベンチマークデータセット上で広範な実験を行った。
関連論文リスト
- Advancing Open-Set Domain Generalization Using Evidential Bi-Level Hardest Domain Scheduler [45.71475375161575]
Open-Set Domain Generalizationでは、新しいデータ外観(ドメイン)とオープンセット条件の両方でモデルが公開される。
適応型ドメインスケジューラを実現するために,Evidential Bi-Level Hardest Domain Scheduler (EBiL-HaDS)を提案する。
論文 参考訳(メタデータ) (2024-09-26T05:57:35Z) - Enhancing Domain Adaptation through Prompt Gradient Alignment [16.618313165111793]
我々は、ドメイン不変性と特定の特徴の両方を学ぶために、素早い学習に基づく一連の作品を開発する。
我々は、UDAを、各目的がドメイン損失で表される多重目的最適化問題とみなした。
提案手法は,異なるUDAベンチマークにおいて,他のプロンプトベースベースラインをはるかに上回っている。
論文 参考訳(メタデータ) (2024-06-13T17:40:15Z) - A Novel Cross-Perturbation for Single Domain Generalization [54.612933105967606]
単一ドメインの一般化は、モデルが単一のソースドメインでトレーニングされたときに未知のドメインに一般化する能力を高めることを目的としている。
トレーニングデータの限られた多様性は、ドメイン不変の特徴の学習を妨げ、結果として一般化性能を損なう。
トレーニングデータの多様性を高めるために,CPerbを提案する。
論文 参考訳(メタデータ) (2023-08-02T03:16:12Z) - A Novel Mix-normalization Method for Generalizable Multi-source Person
Re-identification [49.548815417844786]
人物再識別(Re-ID)は、監督されたシナリオにおいて大きな成功を収めた。
モデルがソースドメインに過度に適合するため、教師付きモデルを任意の未確認領域に直接転送することは困難である。
ドメイン・アウェア・ミックス正規化(DMN)とドメイン・ウェア・センター正規化(DCR)からなるMixNormを提案する。
論文 参考訳(メタデータ) (2022-01-24T18:09:38Z) - Improving Multi-Domain Generalization through Domain Re-labeling [31.636953426159224]
本稿では,事前特定ドメインラベルと一般化性能の関連性について検討する。
マルチドメイン一般化のための一般的なアプローチであるMulDEnsを導入し,ERMをベースとした深層アンサンブルバックボーンを用いた。
我々は、MulDEnsがデータセット固有の拡張戦略やトレーニングプロセスの調整を必要としないことを示す。
論文 参考訳(メタデータ) (2021-12-17T23:21:50Z) - TAL: Two-stream Adaptive Learning for Generalizable Person
Re-identification [115.31432027711202]
我々は、ドメイン固有性とドメイン不変性の両方が、re-idモデルの一般化能力の向上に不可欠であると主張する。
これら2種類の情報を同時にモデル化するために,2ストリーム適応学習 (TAL) を命名した。
我々のフレームワークは、単一ソースとマルチソースの両方のドメイン一般化タスクに適用できる。
論文 参考訳(メタデータ) (2021-11-29T01:27:42Z) - Adaptive Methods for Real-World Domain Generalization [32.030688845421594]
本研究では、未確認の試験サンプルからドメイン情報を活用できるかどうかを検討する。
a) 教師なしのトレーニング例から識別的ドメイン埋め込みを最初に学び、b) このドメイン埋め込みを補足的な情報として使ってドメイン適応モデルを構築する。
提案手法は,各種領域一般化ベンチマークにおける最先端性能を実現する。
論文 参考訳(メタデータ) (2021-03-29T17:44:35Z) - Model-Based Domain Generalization [96.84818110323518]
本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。
我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
論文 参考訳(メタデータ) (2021-02-23T00:59:02Z) - A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。
多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。
限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
論文 参考訳(メタデータ) (2020-09-01T00:06:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。