論文の概要: CADG: A Model Based on Cross Attention for Domain Generalization
- arxiv url: http://arxiv.org/abs/2203.17067v1
- Date: Thu, 31 Mar 2022 14:35:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-01 15:48:02.117334
- Title: CADG: A Model Based on Cross Attention for Domain Generalization
- Title(参考訳): CADG:領域一般化のための交差注意に基づくモデル
- Authors: Cheng Dai, Fan Li, Xiyao Li and Donglin Xie
- Abstract要約: ドメイン一般化(DG)タスクでは、モデルは、ソースドメインからのトレーニングデータのみを使用して、目に見えないターゲットドメインの一般化を達成することで訓練される。
本稿では,分布シフト問題に対処するため,CADGというモデル(領域一般化のためのクロスアテンション)を設計する。
実験により,提案手法は様々な領域の一般化ベンチマークにおいて最先端の性能を実現することを示す。
- 参考スコア(独自算出の注目度): 6.136770353307872
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In Domain Generalization (DG) tasks, models are trained by using only
training data from the source domains to achieve generalization on an unseen
target domain, this will suffer from the distribution shift problem. So it's
important to learn a classifier to focus on the common representation which can
be used to classify on multi-domains, so that this classifier can achieve a
high performance on an unseen target domain as well. With the success of cross
attention in various cross-modal tasks, we find that cross attention is a
powerful mechanism to align the features come from different distributions. So
we design a model named CADG (cross attention for domain generalization),
wherein cross attention plays a important role, to address distribution shift
problem. Such design makes the classifier can be adopted on multi-domains, so
the classifier will generalize well on an unseen domain. Experiments show that
our proposed method achieves state-of-the-art performance on a variety of
domain generalization benchmarks compared with other single model and can even
achieve a better performance than some ensemble-based methods.
- Abstract(参考訳): ドメイン一般化(dg)タスクでは、モデルがソースドメインからのトレーニングデータのみを使用して訓練され、対象とするドメインの一般化を達成すると、分散シフト問題が発生する。
したがって、マルチドメインの分類に使用できる共通表現にフォーカスするために、分類器を学ぶことが重要であり、この分類器は目に見えないターゲットドメインでも高いパフォーマンスを達成することができる。
様々なクロスモーダルタスクにおけるクロス注意の成功により、クロス注意は異なるディストリビューションから来る機能を調整する強力なメカニズムであることが判明した。
そこで我々は分散シフト問題に対処するために,クロスアテンションが重要な役割を果たすcadg(cross attention for domain generalization)というモデルを設計する。
このような設計により、複数のドメインで分類器を適用できるため、分類器は見当たらないドメイン上でよく一般化される。
実験により,本手法は他の単一モデルと比較して,様々な領域一般化ベンチマークの最先端性能を達成でき,アンサンブルに基づく手法よりも優れた性能が得られることが示された。
関連論文リスト
- Generalize or Detect? Towards Robust Semantic Segmentation Under Multiple Distribution Shifts [56.57141696245328]
斬新なクラスとドメインの両方が存在するようなオープンワールドシナリオでは、理想的なセグメンテーションモデルは安全のために異常なクラスを検出する必要がある。
既存の方法はドメインレベルとセマンティックレベルの分散シフトを区別するのに苦労することが多い。
論文 参考訳(メタデータ) (2024-11-06T11:03:02Z) - DIGIC: Domain Generalizable Imitation Learning by Causal Discovery [69.13526582209165]
因果性は機械学習と組み合わせて、ドメインの一般化のための堅牢な表現を生成する。
我々は、実証データ分布を活用して、ドメインの一般化可能なポリシーの因果的特徴を発見するために、異なる試みを行っている。
DIGICと呼ばれる新しいフレームワークを設計し、実演データ分布から専門家行動の直接的な原因を見出すことにより因果的特徴を識別する。
論文 参考訳(メタデータ) (2024-02-29T07:09:01Z) - Domain Generalization for Domain-Linked Classes [8.738092015092207]
実世界では、クラスはドメインリンクされ、すなわち特定のドメインでのみ表現される。
本稿では,ドメインリンクDG,FONDのためのFair and cONtrastive feature-space regularizationアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-06-01T16:39:50Z) - Cross-Domain Ensemble Distillation for Domain Generalization [17.575016642108253]
クロスドメイン・アンサンブル蒸留(XDED)という,シンプルで効果的な領域一般化法を提案する。
本手法は,同じラベルを持つトレーニングデータから,異なるドメインから出力ロジットのアンサンブルを生成し,そのアンサンブルとのミスマッチに対して各出力をペナルティ化する。
本手法で学習したモデルは, 敵攻撃や画像の破損に対して堅牢であることを示す。
論文 参考訳(メタデータ) (2022-11-25T12:32:36Z) - From Big to Small: Adaptive Learning to Partial-Set Domains [94.92635970450578]
ドメイン適応は、分布シフト中のラベル付きソースドメインからラベルなしターゲットドメインへの知識獲得と普及を目標とする。
近年の進歩は、大規模の深層学習モデルにより、小規模の下流の多様な課題に取り組むための豊富な知識が得られていることを示している。
本稿では,学習パラダイムである部分領域適応(Partial Domain Adaptation, PDA)を紹介する。
論文 参考訳(メタデータ) (2022-03-14T07:02:45Z) - Context-Conditional Adaptation for Recognizing Unseen Classes in Unseen
Domains [48.17225008334873]
我々は,COCOA (COntext Conditional Adaptive) Batch-Normalization と統合された特徴生成フレームワークを提案する。
生成されたビジュアル機能は、基礎となるデータ分散をよりよくキャプチャすることで、テスト時に見つからないクラスやドメインに一般化できます。
確立した大規模ベンチマークであるDomainNetに対する我々のアプローチを徹底的に評価し、分析する。
論文 参考訳(メタデータ) (2021-07-15T17:51:16Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - Robust Domain-Free Domain Generalization with Class-aware Alignment [4.442096198968069]
ドメインフリードメイン一般化(DFDG)は、目に見えないテストドメインでより良い一般化性能を実現するモデル非依存の方法である。
DFDGは新しい戦略を用いてドメイン不変なクラス差別的特徴を学習する。
時系列センサと画像分類公開データセットの両方で競合性能を得る。
論文 参考訳(メタデータ) (2021-02-17T17:46:06Z) - Dual Distribution Alignment Network for Generalizable Person
Re-Identification [174.36157174951603]
ドメイン一般化(DG)は、人物再識別(Re-ID)を扱うための有望なソリューションとして機能する
本稿では、複数のソースドメインの分布を選択的に整列させることにより、この問題に対処するDual Distribution Alignment Network(DDAN)を提案する。
大規模なDomain Generalization Re-ID(DG Re-ID)ベンチマークでDDANを評価した。
論文 参考訳(メタデータ) (2020-07-27T00:08:07Z) - Towards Fair Cross-Domain Adaptation via Generative Learning [50.76694500782927]
ドメイン適応(DA)は、よくラベル付けされたソースドメイン上でトレーニングされたモデルを、異なる分散に横たわる未ラベルのターゲットドメインに適応することを目的としています。
本研究では,新規な生成的Few-shot Cross-Domain Adaptation (GFCA) アルゴリズムを開発した。
論文 参考訳(メタデータ) (2020-03-04T23:25:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。