論文の概要: Cross-Domain Ensemble Distillation for Domain Generalization
- arxiv url: http://arxiv.org/abs/2211.14058v1
- Date: Fri, 25 Nov 2022 12:32:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-28 14:30:10.080574
- Title: Cross-Domain Ensemble Distillation for Domain Generalization
- Title(参考訳): ドメイン一般化のためのクロスドメインアンサンブル蒸留
- Authors: Kyungmoon Lee, Sungyeon Kim, Suha Kwak
- Abstract要約: クロスドメイン・アンサンブル蒸留(XDED)という,シンプルで効果的な領域一般化法を提案する。
本手法は,同じラベルを持つトレーニングデータから,異なるドメインから出力ロジットのアンサンブルを生成し,そのアンサンブルとのミスマッチに対して各出力をペナルティ化する。
本手法で学習したモデルは, 敵攻撃や画像の破損に対して堅牢であることを示す。
- 参考スコア(独自算出の注目度): 17.575016642108253
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain generalization is the task of learning models that generalize to
unseen target domains. We propose a simple yet effective method for domain
generalization, named cross-domain ensemble distillation (XDED), that learns
domain-invariant features while encouraging the model to converge to flat
minima, which recently turned out to be a sufficient condition for domain
generalization. To this end, our method generates an ensemble of the output
logits from training data with the same label but from different domains and
then penalizes each output for the mismatch with the ensemble. Also, we present
a de-stylization technique that standardizes features to encourage the model to
produce style-consistent predictions even in an arbitrary target domain. Our
method greatly improves generalization capability in public benchmarks for
cross-domain image classification, cross-dataset person re-ID, and
cross-dataset semantic segmentation. Moreover, we show that models learned by
our method are robust against adversarial attacks and image corruptions.
- Abstract(参考訳): ドメインの一般化は、目に見えないターゲットドメインに一般化するモデルを学習するタスクである。
本稿では,モデルが平坦な極小に収束することを奨励しながら,ドメイン不変な特徴を学習し,最近はドメイン一般化の十分条件となった,ドメイン一般化のための単純かつ効果的な方法であるクロスドメインアンサンブル蒸留法(xded)を提案する。
そこで本手法では,同一ラベルのトレーニングデータから,異なるドメインから出力ロジットのアンサンブルを生成し,そのアンサンブルとのミスマッチに対して各出力をペナルティ化する。
また,任意の対象領域であっても,モデルがスタイル一貫性のある予測を生成するように,特徴を標準化するデスティル化手法を提案する。
本手法は,クロスドメイン画像分類,パーソンリid,セマンティクスセグメンテーションの一般化能力を大幅に向上させる。
さらに,本手法で学習したモデルは,敵攻撃や画像の破損に対して堅牢であることを示す。
関連論文リスト
- Boundless Across Domains: A New Paradigm of Adaptive Feature and Cross-Attention for Domain Generalization in Medical Image Segmentation [1.93061220186624]
ドメイン不変表現学習は、ドメイン一般化の強力な方法である。
従来のアプローチでは、高い計算要求、トレーニングの不安定性、高次元データによる限られた有効性といった課題に直面していた。
本研究では,分布空間を探索しながら分布外サンプルを生成する適応的特徴ブレンディング(AFB)手法を提案する。
論文 参考訳(メタデータ) (2024-11-22T12:06:24Z) - Generalize or Detect? Towards Robust Semantic Segmentation Under Multiple Distribution Shifts [56.57141696245328]
斬新なクラスとドメインの両方が存在するようなオープンワールドシナリオでは、理想的なセグメンテーションモデルは安全のために異常なクラスを検出する必要がある。
既存の方法はドメインレベルとセマンティックレベルの分散シフトを区別するのに苦労することが多い。
論文 参考訳(メタデータ) (2024-11-06T11:03:02Z) - Domain Generalization via Selective Consistency Regularization for Time
Series Classification [16.338176636365752]
ドメイン一般化手法は、限られた数のソースドメインからのデータで、ドメインシフトに頑健なモデルを学習することを目的としている。
本稿では,ソースドメイン間の予測一貫性を選択的に適用する表現学習手法を提案する。
論文 参考訳(メタデータ) (2022-06-16T01:57:35Z) - Context-Conditional Adaptation for Recognizing Unseen Classes in Unseen
Domains [48.17225008334873]
我々は,COCOA (COntext Conditional Adaptive) Batch-Normalization と統合された特徴生成フレームワークを提案する。
生成されたビジュアル機能は、基礎となるデータ分散をよりよくキャプチャすることで、テスト時に見つからないクラスやドメインに一般化できます。
確立した大規模ベンチマークであるDomainNetに対する我々のアプローチを徹底的に評価し、分析する。
論文 参考訳(メタデータ) (2021-07-15T17:51:16Z) - Adaptive Domain-Specific Normalization for Generalizable Person
Re-Identification [81.30327016286009]
一般化可能なRe-IDのための適応型ドメイン固有正規化手法(AdsNorm)を提案する。
本研究では,一般化可能人物 Re-ID に対する適応領域特異的正規化手法 (AdsNorm) を提案する。
論文 参考訳(メタデータ) (2021-05-07T02:54:55Z) - Generalizable Representation Learning for Mixture Domain Face
Anti-Spoofing [53.82826073959756]
ドメイン一般化(DG)に基づく対スプーフィングアプローチは、予期せぬシナリオの堅牢性のために注目を集めています。
ドメインダイナミック調整メタラーニング(D2AM)についてドメインラベルを使わずに提案する。
この制限を克服するため,ドメインダイナミック調整メタラーニング(D2AM)を提案する。
論文 参考訳(メタデータ) (2021-05-06T06:04:59Z) - Domain Invariant Representation Learning with Domain Density
Transformations [30.29600757980369]
ドメインの一般化とは、ソースドメインの集合からデータに基づいてモデルをトレーニングし、対象ドメインの見えない領域にモデルを一般化できるようにする問題を指す。
本稿では,このようなドメイン変換を学習し,本手法を実際に実装する方法を示す。
論文 参考訳(メタデータ) (2021-02-09T19:25:32Z) - Cluster, Split, Fuse, and Update: Meta-Learning for Open Compound Domain
Adaptive Semantic Segmentation [102.42638795864178]
セマンティックセグメンテーションのための原則的メタラーニングに基づくOCDAアプローチを提案する。
対象ドメインを複数のサブターゲットドメインに,教師なしの方法で抽出した画像スタイルでクラスタリングする。
その後、メタラーニングがデプロイされ、スタイルコードに条件付きでサブターゲットドメイン固有の予測を融合するように学習される。
モデルに依存しないメタラーニング(MAML)アルゴリズムにより,モデルをオンライン更新することを学び,一般化をさらに改善する。
論文 参考訳(メタデータ) (2020-12-15T13:21:54Z) - Batch Normalization Embeddings for Deep Domain Generalization [50.51405390150066]
ドメインの一般化は、異なるドメインと見えないドメインで堅牢に実行されるように機械学習モデルをトレーニングすることを目的としている。
一般的な領域一般化ベンチマークにおいて,最先端技術よりも分類精度が著しく向上したことを示す。
論文 参考訳(メタデータ) (2020-11-25T12:02:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。