論文の概要: Domain-Specificity Inducing Transformers for Source-Free Domain Adaptation

• arxiv url: http://arxiv.org/abs/2308.14023v1
• Date: Sun, 27 Aug 2023 07:04:51 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-29 17:24:20.099800
• Title: Domain-Specificity Inducing Transformers for Source-Free Domain Adaptation
• Title（参考訳）: ソースフリードメイン適応のためのドメイン特化変換器
• Authors: Sunandini Sanyal, Ashish Ramayee Asokan, Suvaansh Bhambri, Akshay Kulkarni, Jogendra Nath Kundu, R. Venkatesh Babu
• Abstract要約: ドメイン固有の要因とタスク固有の要因の歪曲と学習を支援するフレームワークを構築します。 私たちは、プライバシ指向のソースフリー設定で、視覚変換器をドメイン適応に利用した最初の人です。
• 参考スコア（独自算出の注目度）: 34.533493057674974
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Conventional Domain Adaptation (DA) methods aim to learn domain-invariant feature representations to improve the target adaptation performance. However, we motivate that domain-specificity is equally important since in-domain trained models hold crucial domain-specific properties that are beneficial for adaptation. Hence, we propose to build a framework that supports disentanglement and learning of domain-specific factors and task-specific factors in a unified model. Motivated by the success of vision transformers in several multi-modal vision problems, we find that queries could be leveraged to extract the domain-specific factors. Hence, we propose a novel Domain-specificity-inducing Transformer (DSiT) framework for disentangling and learning both domain-specific and task-specific factors. To achieve disentanglement, we propose to construct novel Domain-Representative Inputs (DRI) with domain-specific information to train a domain classifier with a novel domain token. We are the first to utilize vision transformers for domain adaptation in a privacy-oriented source-free setting, and our approach achieves state-of-the-art performance on single-source, multi-source, and multi-target benchmarks
• Abstract（参考訳）: 従来のドメイン適応(DA)手法は、ターゲット適応性能を改善するために、ドメイン不変の特徴表現を学習することを目的としている。 しかし、ドメイン内で訓練されたモデルは適応に有用な重要なドメイン固有の特性を持っているため、ドメイン特異性も同様に重要である。 そこで本研究では,ドメイン固有因子とタスク固有因子の分散学習を支援するフレームワークの構築を提案する。 複数のマルチモーダル視覚問題における視覚変換器の成功により、クエリはドメイン固有の要素を抽出するために利用できることがわかった。 そこで本研究では,ドメイン固有性とタスク固有性の両方を分離・学習するための新しいドメイン固有性誘導トランスフォーマ(DSiT)フレームワークを提案する。 本稿では,ドメイン固有情報を用いた新しいドメイン表現入力(DRI)を構築し,ドメイン分類器を新しいドメイントークンで訓練する。 プライバシ指向のソースフリーな環境では,視覚トランスフォーマーをドメイン適応に初めて活用し,シングルソース,マルチソース,マルチターゲットベンチマークで最先端のパフォーマンスを実現する。

関連論文リスト

• DomainVerse: A Benchmark Towards Real-World Distribution Shifts For Tuning-Free Adaptive Domain Generalization [27.099706316752254]
  我々はAdaptive Domain Generalization (ADG)のための新しいデータセットDomainVerseを確立する。 DomainVerseは、導入した階層的なドメインシフトの定義に相応しく、390のきめ細かい現実的なドメインから約0.5万の画像で構成されている。 チューニング不要適応型ドメイン一般化のためのDomain CLIPとDomain++ CLIPという2つの手法を提案する。
  論文  参考訳（メタデータ） (2024-03-05T07:10:25Z)
• Revisiting the Domain Shift and Sample Uncertainty in Multi-source Active Domain Transfer [69.82229895838577]
  Active Domain Adaptation (ADA)は、アノテートするターゲットデータの限られた数を選択することで、新しいターゲットドメインにおけるモデル適応を最大限に向上することを目的としている。 この設定は、複数のソースからトレーニングデータを収集するより実践的なシナリオを無視します。 これは、ADAを単一のソースドメインから複数のソースドメインに拡張する、新しい、挑戦的な知識転送の設定を目標にしています。
  論文  参考訳（メタデータ） (2023-11-21T13:12:21Z)
• Meta-causal Learning for Single Domain Generalization [102.53303707563612]
  単一ドメインの一般化は、単一のトレーニングドメイン(ソースドメイン)からモデルを学び、それを複数の未確認テストドメイン(ターゲットドメイン)に適用することを目的としている。 既存の方法は、ターゲットドメインをカバーするためのトレーニングドメインの配布拡大に重点を置いているが、ソースとターゲットドメイン間のドメインシフトを見積もることはできない。 そこで本研究では,まず,対象ドメインとして補助ドメインを構築することによってドメインシフトをシミュレートし,ドメインシフトの原因を解析し,最終的にモデル適応のためのドメインシフトを低減する,新たな学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-04-07T15:46:38Z)
• Exploiting Domain-Specific Features to Enhance Domain Generalization [10.774902700296249]
  ドメイン一般化(Domain Generalization, DG)は、観測されていないターゲットドメインで正常に動作するために、複数の観測されたソースドメインからモデルをトレーニングすることを目的としている。 以前のDGアプローチでは、ターゲットドメインを一般化するために、ソース間でのドメイン不変情報を抽出することに重点を置いていた。 本稿ではメタドメイン固有ドメイン不変量(mD)を提案する。
  論文  参考訳（メタデータ） (2021-10-18T15:42:39Z)
• Self-Adversarial Disentangling for Specific Domain Adaptation [52.1935168534351]
  ドメイン適応は、ソースとターゲットドメイン間のドメインシフトをブリッジすることを目的としています。 最近の手法では、特定の次元について明示的な事前知識を考慮しないのが一般的である。
  論文  参考訳（メタデータ） (2021-08-08T02:36:45Z)
• AFAN: Augmented Feature Alignment Network for Cross-Domain Object Detection [90.18752912204778]
  オブジェクト検出のための教師なしドメイン適応は、多くの現実世界のアプリケーションにおいて難しい問題である。 本稿では、中間領域画像生成とドメイン・アドバイザリー・トレーニングを統合した新しい機能アライメント・ネットワーク(AFAN)を提案する。 提案手法は、類似および異種ドメイン適応の双方において、標準ベンチマークにおける最先端の手法よりも大幅に優れている。
  論文  参考訳（メタデータ） (2021-06-10T05:01:20Z)
• Disentanglement-based Cross-Domain Feature Augmentation for Effective Unsupervised Domain Adaptive Person Re-identification [87.72851934197936]
  Unsupervised Domain Adaptive (UDA) Person Re-identification (ReID) は、ラベル付きソースドメインからラベル付きターゲットドメインへ知識を転送することを目的としている。 ひとつの課題は、トレーニング用に信頼できるラベルでターゲットドメインサンプルを生成する方法だ。 ディスタングルメントに基づくクロスドメイン機能拡張戦略を提案する。
  論文  参考訳（メタデータ） (2021-03-25T15:28:41Z)
• Domain Conditioned Adaptation Network [90.63261870610211]
  本稿では,ドメイン条件付きチャネルアテンション機構を用いて,異なる畳み込みチャネルを励起するドメイン条件適応ネットワーク(DCAN)を提案する。 これは、ディープDAネットワークのドメインワイドな畳み込みチャネルアクティベーションを探求する最初の試みである。
  論文  参考訳（メタデータ） (2020-05-14T04:23:24Z)
• Unsupervised Domain Adaptation with Progressive Domain Augmentation [34.887690018011675]
  本稿では,プログレッシブドメイン拡張に基づく新規な教師なしドメイン適応手法を提案する。 提案手法は、仮想中間ドメインをドメインを介して生成し、ソースドメインを徐々に拡張し、ソースターゲット領域の分岐をブリッジする。 本研究では,複数の領域適応タスクについて実験を行い,提案手法が最先端の性能を達成することを示す。
  論文  参考訳（メタデータ） (2020-04-03T18:45:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。