論文の概要: CNA-TTA: Clean and Noisy Region Aware Feature Learning within Clusters
for Online-Offline Test-Time Adaptation
- arxiv url: http://arxiv.org/abs/2401.14587v1
- Date: Fri, 26 Jan 2024 01:29:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-29 16:14:46.750655
- Title: CNA-TTA: Clean and Noisy Region Aware Feature Learning within Clusters
for Online-Offline Test-Time Adaptation
- Title(参考訳): cna-tta: オンラインオフラインテスト時間適応のためのクラスタ内でのクリーンでノイズの多い機能学習
- Authors: Hyeonwoo Cho, Chanmin Park, Jinyoung Kim, Won Hwa Kim
- Abstract要約: テスト時間適応(TTA)は、ソースドメインのトレーニングされたモデルをターゲットドメインに採用することを目的としている。
ターゲットドメインでの偽ラベルの扱いは、モデルのパフォーマンスに悪影響を及ぼすため、非常に重要です。
本稿では、ソースモデルにより定式化された対象領域におけるクラスタ構造(例えば、各クラスタ内のクリーン領域とノイズ領域)を活用することを提案する。
- 参考スコア(独自算出の注目度): 7.29266329298985
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A domain shift occurs when training (source) and test (target) data diverge
in their distribution. Test-time adaptation (TTA) addresses the domain shift
problem, aiming to adopt a trained model on the source domain to the target
domain in a scenario where only a well-trained source model and unlabeled
target data are available. In this scenario, handling false labels in the
target domain is crucial because they negatively impact the model performance.
To deal with this problem, we propose to utilize cluster structure (i.e.,
{`Clean'} and {`Noisy'} regions within each cluster) in the target domain
formulated by the source model. Given an initial clustering of target samples,
we first partition clusters into {`Clean'} and {`Noisy'} regions defined based
on cluster prototype (i.e., centroid of each cluster). As these regions have
totally different distributions of the true pseudo-labels, we adopt distinct
training strategies for the clean and noisy regions: we selectively train the
target with clean pseudo-labels in the clean region, whereas we introduce mixup
inputs representing intermediate features between clean and noisy regions to
increase the compactness of the cluster. We conducted extensive experiments on
multiple datasets in online/offline TTA settings, whose results demonstrate
that our method, {CNA-TTA}, achieves state-of-the-art for most cases.
- Abstract(参考訳): トレーニング(ソース)とテスト(ターゲット)データが分散で分散する場合、ドメインシフトが発生する。
テスト時間適応(TTA)は、十分に訓練されたソースモデルとラベルなしのターゲットデータのみが利用可能なシナリオにおいて、ソースドメイン上のトレーニングされたモデルをターゲットドメインに適用することを目的として、ドメインシフト問題に対処する。
このシナリオでは、モデル性能に悪影響を及ぼすため、ターゲットドメインにおける偽のラベルを扱うことが重要です。
この問題に対処するために、ソースモデルにより定式化された対象領域におけるクラスタ構造(例えば、各クラスタ内の {`Clean'} と {`Noisy'} の領域)を活用することを提案する。
ターゲットサンプルの初期クラスタリングが与えられると、まずクラスタのプロトタイプ(すなわち、各クラスタのcentroid)に基づいて定義された {`clean'} と {`noisy'} 領域にクラスタを分割します。
これらの領域は真偽ラベルの分布が全く異なるため、クリーン領域とノイズ領域の異なるトレーニング戦略を採用し、クリーン領域のクリーン擬似ラベルでターゲットを選択的に訓練する一方で、クリーン領域とノイズ領域の中間特徴を表すミックスアップ入力を導入し、クラスタのコンパクト性を高める。
オンライン/オフラインのtta設定において,複数のデータセットについて広範な実験を行い,その有効性を確認した。
関連論文リスト
- High-order Neighborhoods Know More: HyperGraph Learning Meets Source-free Unsupervised Domain Adaptation [34.08681468394247]
Source-free Unsupervised Domain Adaptationは、未学習のソースモデルと未学習のターゲットモデルにのみアクセスすることで、ターゲットサンプルを分類することを目的としている。
既存の手法は、通常、対象サンプル間のペアワイズ関係を利用して、これらのサンプルを意味的特徴に基づいてクラスタリングすることで、それらの相関関係を見つけようとする。
本研究では、高次近傍関係を利用して、ドメインシフト効果を明示的に考慮した新しいSFDA法を提案する。
論文 参考訳(メタデータ) (2024-05-11T05:07:43Z) - SIDE: Self-supervised Intermediate Domain Exploration for Source-free
Domain Adaptation [36.470026809824674]
ドメイン適応は、ソースドメインからターゲットドメインに学習した知識を転送する際に、ドメインシフトを軽減することを目的としています。
プライバシの問題により、ソースフリードメイン適応(SFDA)は、最近非常に要求される一方で難しいものになっている。
本稿では、ドメインギャップを効果的に中間ドメインにブリッジする自己教師付き中間ドメイン探索(SIDE)を提案する。
論文 参考訳(メタデータ) (2023-10-13T07:50:37Z) - Upcycling Models under Domain and Category Shift [95.22147885947732]
グローバルかつ局所的なクラスタリング学習技術(GLC)を導入する。
我々は、異なる対象クラス間での区別を実現するために、新しい1-vs-allグローバルクラスタリングアルゴリズムを設計する。
注目すべきは、最も困難なオープンパーティルセットDAシナリオにおいて、GLCは、VisDAベンチマークでUMADを14.8%上回っていることである。
論文 参考訳(メタデータ) (2023-03-13T13:44:04Z) - Generative Model Based Noise Robust Training for Unsupervised Domain
Adaptation [108.11783463263328]
本稿では, 生成モデルに基づくノイズ・ロバスト訓練法(GeNRT)を提案する。
ラベルノイズを緩和しながらドメインシフトを除去する。
Office-Home、PACS、Digit-Fiveの実験は、GeNRTが最先端のメソッドに匹敵するパフォーマンスを実現していることを示している。
論文 参考訳(メタデータ) (2023-03-10T06:43:55Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Polycentric Clustering and Structural Regularization for Source-free
Unsupervised Domain Adaptation [20.952542421577487]
Source-Free Domain Adaptation (SFDA)は、訓練済みのソースモデルから学習した知識を未確認のターゲットドメインに転送することで、ドメイン適応問題を解決することを目的としている。
既存のほとんどのメソッドは、機能プロトタイプを生成することによって、ターゲットデータに擬似ラベルを割り当てる。
本稿では,PCSRと命名された新しいフレームワークを,クラス内多中心クラスタリングおよび構造規則化戦略を通じてSFDAに取り組むために提案する。
論文 参考訳(メタデータ) (2022-10-14T02:20:48Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - Casting a BAIT for Offline and Online Source-free Domain Adaptation [51.161476418834766]
我々は、ソースフリードメイン適応(SFDA)問題に対処し、ターゲットドメインへの適応中にのみソースモデルが利用可能となる。
本稿では,多種多様な分類器に基づくドメイン適応法に着想を得て,第2の分類器を導入する。
ターゲットドメインに適合すると、ソースから追加の分類器が誤って分類された特徴を見つけることが期待される。
本手法は, オープンソースフリードメイン適応設定下において, SFDA法をはるかに上回っている。
論文 参考訳(メタデータ) (2020-10-23T14:18:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。