論文の概要: Simulate, Refocus and Ensemble: An Attention-Refocusing Scheme for Domain Generalization
- arxiv url: http://arxiv.org/abs/2507.12851v1
- Date: Thu, 17 Jul 2025 07:20:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-18 20:10:24.383047
- Title: Simulate, Refocus and Ensemble: An Attention-Refocusing Scheme for Domain Generalization
- Title(参考訳): Simulate, Refocus and Ensemble: Antention-Refocusing Scheme for Domain Generalization
- Authors: Ziyi Wang, Zhi Gao, Jin Chen, Qingjie Zhao, Xinxiao Wu, Jiebo Luo,
- Abstract要約: 我々はSRE(Simulate, Refocus and Ensemble)と呼ばれる注意再焦点方式を提案する。
SREは、CLIPのアテンションマップをアテンション再フォーカスすることで、ドメインシフトを減らすことを学ぶ。
いくつかのデータセットの実験では、SREは一般的に最先端の手法よりも優れた結果が得られることが示されている。
- 参考スコア(独自算出の注目度): 71.40801206714382
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain generalization (DG) aims to learn a model from source domains and apply it to unseen target domains with out-of-distribution data. Owing to CLIP's strong ability to encode semantic concepts, it has attracted increasing interest in domain generalization. However, CLIP often struggles to focus on task-relevant regions across domains, i.e., domain-invariant regions, resulting in suboptimal performance on unseen target domains. To address this challenge, we propose an attention-refocusing scheme, called Simulate, Refocus and Ensemble (SRE), which learns to reduce the domain shift by aligning the attention maps in CLIP via attention refocusing. SRE first simulates domain shifts by performing augmentation on the source data to generate simulated target domains. SRE then learns to reduce the domain shifts by refocusing the attention in CLIP between the source and simulated target domains. Finally, SRE utilizes ensemble learning to enhance the ability to capture domain-invariant attention maps between the source data and the simulated target data. Extensive experimental results on several datasets demonstrate that SRE generally achieves better results than state-of-the-art methods. The code is available at: https://github.com/bitPrincy/SRE-DG.
- Abstract(参考訳): ドメイン一般化(Domain Generalization, DG)は、ソースドメインからモデルを学習し、アウト・オブ・ディストリビューション(out-of-distriion)データで未確認のターゲットドメインに適用することを目的としている。
CLIPのセマンティック概念をエンコードする強力な能力のため、ドメインの一般化への関心が高まっている。
しかし、CLIPはドメイン間のタスク関連領域、すなわちドメイン不変領域に焦点を合わせるのに苦労することが多く、その結果、未確認のターゲットドメインに対する準最適パフォーマンスをもたらす。
この課題に対処するため,CLIP内の注目マップをアライメント・リフォーカスすることで,ドメインシフトの低減を図る,SRE(Simulate, Refocus and Ensemble)と呼ばれるアテンション・リフォーカス方式を提案する。
SREはまず、ソースデータに拡張を行うことでドメインシフトをシミュレートし、シミュレートされたターゲットドメインを生成する。
次にSREは、ソースとシミュレートされたターゲットドメイン間のCLIPの注意を再焦点にすることで、ドメインシフトを減らすことを学ぶ。
最後に、SREはアンサンブル学習を利用して、ソースデータとシミュレーション対象データの間のドメイン不変の注意マップをキャプチャする機能を強化する。
いくつかのデータセットに対する大規模な実験結果から、SREは一般に最先端の手法よりも優れた結果が得られることが示されている。
コードはhttps://github.com/bitPrincy/SRE-DG.comで公開されている。
関連論文リスト
- MetaDefa: Meta-learning based on Domain Enhancement and Feature
Alignment for Single Domain Generalization [12.095382249996032]
モデル一般化性能を改善するために,ドメイン拡張と特徴アライメント(MetaDefa)に基づくメタラーニング手法を提案する。
本稿では、ソース領域と拡張領域の機能空間間の類似のターゲット領域に着目し、ドメイン不変性について検討する。
公開された2つのデータセットに対する大規模な実験により、MetaDefaは未知の複数のターゲットドメインにおいて、大きな一般化パフォーマンスのアドバンテージを持つことが示された。
論文 参考訳(メタデータ) (2023-11-27T15:13:02Z) - Domain Adaptive Few-Shot Open-Set Learning [36.39622440120531]
本稿では,DA-FSOS(Domain Adaptive Few-Shot Open Set Recognition)を提案する。
我々のトレーニングアプローチは、DAFOS-NETがターゲットドメインの新しいシナリオにうまく適応できるようにします。
本稿では,Office-Home,mini-ImageNet/CUB,DomainNetデータセットに基づくDA-FSOSの3つのベンチマークを示す。
論文 参考訳(メタデータ) (2023-09-22T12:04:47Z) - Meta-causal Learning for Single Domain Generalization [102.53303707563612]
単一ドメインの一般化は、単一のトレーニングドメイン(ソースドメイン)からモデルを学び、それを複数の未確認テストドメイン(ターゲットドメイン)に適用することを目的としている。
既存の方法は、ターゲットドメインをカバーするためのトレーニングドメインの配布拡大に重点を置いているが、ソースとターゲットドメイン間のドメインシフトを見積もることはできない。
そこで本研究では,まず,対象ドメインとして補助ドメインを構築することによってドメインシフトをシミュレートし,ドメインシフトの原因を解析し,最終的にモデル適応のためのドメインシフトを低減する,新たな学習パラダイムを提案する。
論文 参考訳(メタデータ) (2023-04-07T15:46:38Z) - Exploiting Domain-Specific Features to Enhance Domain Generalization [10.774902700296249]
ドメイン一般化(Domain Generalization, DG)は、観測されていないターゲットドメインで正常に動作するために、複数の観測されたソースドメインからモデルをトレーニングすることを目的としている。
以前のDGアプローチでは、ターゲットドメインを一般化するために、ソース間でのドメイン不変情報を抽出することに重点を置いていた。
本稿ではメタドメイン固有ドメイン不変量(mD)を提案する。
論文 参考訳(メタデータ) (2021-10-18T15:42:39Z) - Adaptive Domain-Specific Normalization for Generalizable Person
Re-Identification [81.30327016286009]
一般化可能なRe-IDのための適応型ドメイン固有正規化手法(AdsNorm)を提案する。
本研究では,一般化可能人物 Re-ID に対する適応領域特異的正規化手法 (AdsNorm) を提案する。
論文 参考訳(メタデータ) (2021-05-07T02:54:55Z) - Disentanglement-based Cross-Domain Feature Augmentation for Effective
Unsupervised Domain Adaptive Person Re-identification [87.72851934197936]
Unsupervised Domain Adaptive (UDA) Person Re-identification (ReID) は、ラベル付きソースドメインからラベル付きターゲットドメインへ知識を転送することを目的としている。
ひとつの課題は、トレーニング用に信頼できるラベルでターゲットドメインサンプルを生成する方法だ。
ディスタングルメントに基づくクロスドメイン機能拡張戦略を提案する。
論文 参考訳(メタデータ) (2021-03-25T15:28:41Z) - Generalized Domain Conditioned Adaptation Network [33.13337928537281]
ドメイン適応(DA)はラベル付きソースドメインで学んだ知識をラベル付けされていないが関連するターゲットドメインに転送しようとする。
DAの最近の進歩は、主にソースとターゲットの分布を調整することによって進みます。
汎用ドメイン条件適応ネットワーク(GDCAN)を開発し、各アテンションモジュールでドメインチャネルのアクティベーションが個別にモデル化されるべきかどうかを自動決定する。
論文 参考訳(メタデータ) (2021-03-23T06:24:26Z) - Cluster, Split, Fuse, and Update: Meta-Learning for Open Compound Domain
Adaptive Semantic Segmentation [102.42638795864178]
セマンティックセグメンテーションのための原則的メタラーニングに基づくOCDAアプローチを提案する。
対象ドメインを複数のサブターゲットドメインに,教師なしの方法で抽出した画像スタイルでクラスタリングする。
その後、メタラーニングがデプロイされ、スタイルコードに条件付きでサブターゲットドメイン固有の予測を融合するように学習される。
モデルに依存しないメタラーニング(MAML)アルゴリズムにより,モデルをオンライン更新することを学び,一般化をさらに改善する。
論文 参考訳(メタデータ) (2020-12-15T13:21:54Z) - Physically-Constrained Transfer Learning through Shared Abundance Space
for Hyperspectral Image Classification [14.840925517957258]
本稿では、ソースとターゲットドメイン間のギャップを埋める新しい転送学習手法を提案する。
提案手法は,共有空間を経由した物理制約付き移動学習と呼ばれる。
論文 参考訳(メタデータ) (2020-08-19T17:41:37Z) - Domain Conditioned Adaptation Network [90.63261870610211]
本稿では,ドメイン条件付きチャネルアテンション機構を用いて,異なる畳み込みチャネルを励起するドメイン条件適応ネットワーク(DCAN)を提案する。
これは、ディープDAネットワークのドメインワイドな畳み込みチャネルアクティベーションを探求する最初の試みである。
論文 参考訳(メタデータ) (2020-05-14T04:23:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。