論文の概要: Domain Alignment Meets Fully Test-Time Adaptation

• arxiv url: http://arxiv.org/abs/2207.04185v1
• Date: Sat, 9 Jul 2022 03:17:19 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-13 11:52:27.708193
• Title: Domain Alignment Meets Fully Test-Time Adaptation
• Title（参考訳）: ドメインアライメントがテスト時間適応を完全に満たす
• Authors: Kowshik Thopalli, Pavan Turaga and Jayaraman J. Thiagarajan
• Abstract要約: デプロイされたMLモデルの基本的な要件は、トレーニングとは異なるテストディストリビューションから引き出されたデータに一般化することである。 本稿では,元のソースデータへのアクセスを制限した,この問題の難易度に焦点をあてる。 ソースデータ全体にアクセスする必要性を緩和し,UDAとFTTAを橋渡しする新しいアプローチCATTAnを提案する。
• 参考スコア（独自算出の注目度）: 24.546705919244936
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: A foundational requirement of a deployed ML model is to generalize to data drawn from a testing distribution that is different from training. A popular solution to this problem is to adapt a pre-trained model to novel domains using only unlabeled data. In this paper, we focus on a challenging variant of this problem, where access to the original source data is restricted. While fully test-time adaptation (FTTA) and unsupervised domain adaptation (UDA) are closely related, the advances in UDA are not readily applicable to TTA, since most UDA methods require access to the source data. Hence, we propose a new approach, CATTAn, that bridges UDA and FTTA, by relaxing the need to access entire source data, through a novel deep subspace alignment strategy. With a minimal overhead of storing the subspace basis set for the source data, CATTAn enables unsupervised alignment between source and target data during adaptation. Through extensive experimental evaluation on multiple 2D and 3D vision benchmarks (ImageNet-C, Office-31, OfficeHome, DomainNet, PointDA-10) and model architectures, we demonstrate significant gains in FTTA performance. Furthermore, we make a number of crucial findings on the utility of the alignment objective even with inherently robust models, pre-trained ViT representations and under low sample availability in the target domain.
• Abstract（参考訳）: デプロイされたMLモデルの基本的な要件は、トレーニングとは異なるテストディストリビューションから引き出されたデータに一般化することである。 この問題の一般的な解決策は、未ラベルのデータのみを使用して、事前訓練されたモデルを新しいドメインに適応させることである。 本稿では,元のソースデータへのアクセスを制限した,この問題の難易度に焦点をあてる。 完全テスト時間適応(FTTA)と教師なしドメイン適応(UDA)は密接に関連しているが、ほとんどのUDAメソッドはソースデータにアクセスする必要があるため、UDAの進歩はTTAに容易に適用できない。 そこで我々は,新しい深部空間アライメント戦略により,ソースデータ全体にアクセスする必要性を緩和し,UDAとFTTAを橋渡しする新しいアプローチCATTAnを提案する。 ソースデータのサブスペース基底を格納するオーバーヘッドが最小限であるため、CATTAnは適応中にソースデータとターゲットデータの教師なしアライメントを可能にする。 複数の2Dおよび3Dビジョンベンチマーク(ImageNet-C, Office-31, OfficeHome, DomainNet, PointDA-10)とモデルアーキテクチャの広範な実験により、FTTAの性能は大幅に向上した。 さらに,本質的にロバストなモデル,事前学習されたvit表現,および対象領域でのサンプル使用率の低いモデルにおいても,アライメント目標の有用性に関する重要な知見を多数提示する。

関連論文リスト

• Unveiling the Superior Paradigm: A Comparative Study of Source-Free Domain Adaptation and Unsupervised Domain Adaptation [52.36436121884317]
  Source-Free Domain Adaptation (SFDA) は、現実のシナリオにおいて、Unsupervised Domain Adaptation (UDA) よりも一般的に優れていることを示す。 SFDAは、時間効率、ストレージ要件、対象とする学習目標、負の移動リスクの低減、過度な適合に対する堅牢性の向上といった利点を提供している。 利用可能なソースデータをマルチSFDA手法に効果的に統合する新しい重み推定法を提案する。
  論文  参考訳（メタデータ） (2024-11-24T13:49:29Z)
• Transcending Domains through Text-to-Image Diffusion: A Source-Free Approach to Domain Adaptation [6.649910168731417]
  ドメイン適応(ドメイン適応、Domain Adaptation、DA)は、アノテートデータが不十分なターゲットドメインにおけるモデルの性能を高める方法である。 本研究では,対象領域のサンプルに基づいてトレーニングしたテキスト・ツー・イメージ拡散モデルを用いて,ソースデータを生成する新しいSFDAフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-02T23:38:17Z)
• Back to the Source: Diffusion-Driven Test-Time Adaptation [77.4229736436935]
  テスト時間適応はテスト入力を利用し、シフトしたターゲットデータ上でテストした場合、ソースデータに基づいてトレーニングされたモデルの精度を向上させる。 代わりに、生成拡散モデルを用いて、すべてのテスト入力をソース領域に向けて投影することで、ターゲットデータを更新する。
  論文  参考訳（メタデータ） (2022-07-07T17:14:10Z)
• CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
  テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。 本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
  論文  参考訳（メタデータ） (2022-06-01T03:02:07Z)
• Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
  ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。 近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。 本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
  論文  参考訳（メタデータ） (2022-04-24T12:22:19Z)
• Instance Relation Graph Guided Source-Free Domain Adaptive Object Detection [79.89082006155135]
  教師なしドメイン適応(Unsupervised Domain Adaptation, UDA)は、ドメインシフトの問題に取り組むための効果的なアプローチである。 UDAメソッドは、ターゲットドメインの一般化を改善するために、ソースとターゲット表現を整列させようとする。 Source-Free Adaptation Domain (SFDA)設定は、ソースデータへのアクセスを必要とせずに、ターゲットドメインに対してソーストレーニングされたモデルを適用することで、これらの懸念を軽減することを目的としている。
  論文  参考訳（メタデータ） (2022-03-29T17:50:43Z)
• Black-box Probe for Unsupervised Domain Adaptation without Model Transferring [30.55386853475974]
  非教師付きドメイン適応(UDA)メソッドは、ソースドメインからターゲットドメインにデータを転送することなく、有望なパフォーマンスを達成することができる。 多くのデータクリティカルなシナリオでは、モデル転送に基づくメソッドは、メンバシップ推論攻撃に悩まされ、プライベートデータを公開する。 我々は、サードパーティのデータセットを用いて、ソースモデルからの情報を探索・精査するためのクエリメカニズムを採用したブラックボックスプローブドメイン適応(BPDA)を提案する。
  論文  参考訳（メタデータ） (2021-07-21T16:00:51Z)
• Multi-Source Deep Domain Adaptation with Weak Supervision for Time-Series Sensor Data [31.43183992755392]
  時系列データ(CoDATS)のための新しい畳み込み深層ドメイン適応モデルを提案する。 第二に、ターゲットドメインラベル分布の形での弱監督を生かして、新しいドメイン適応型弱スーパービジョン(DA-WS)手法を提案する。 第3に、ドメイン適応と弱い監督手法の有効性を評価するために、多様な実世界のデータセットに関する包括的な実験を行う。
  論文  参考訳（メタデータ） (2020-05-22T04:16:58Z)
• Do We Really Need to Access the Source Data? Source Hypothesis Transfer for Unsupervised Domain Adaptation [102.67010690592011]
  Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。 従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。 この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
  論文  参考訳（メタデータ） (2020-02-20T03:13:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。