論文の概要: Dynamic Domains, Dynamic Solutions: DPCore for Continual Test-Time Adaptation
- arxiv url: http://arxiv.org/abs/2406.10737v2
- Date: Mon, 26 Aug 2024 06:37:24 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-27 23:07:37.722030
- Title: Dynamic Domains, Dynamic Solutions: DPCore for Continual Test-Time Adaptation
- Title(参考訳): 動的ドメイン、動的ソリューション: 連続的なテスト時間適応のためのDPCore
- Authors: Yunbei Zhang, Akshay Mehra, Jihun Hamm,
- Abstract要約: 連続テスト時間適応(CTTA)は、ソース事前訓練されたモデルを、継続的な変更、ラベルなしのターゲットドメインに適応させようとする。
オンラインK-Meansの原理に触発されて,視覚的プロンプトを通してCTTAに新しいアプローチを導入する。
- 参考スコア(独自算出の注目度): 8.425690424016986
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continual Test-Time Adaptation (CTTA) seeks to adapt a source pre-trained model to continually changing, unlabeled target domains. Existing TTA methods are typically designed for environments where domain changes occur sequentially and can struggle in more dynamic scenarios, as illustrated in Figure \ref{fig:settings}. Inspired by the principles of online K-Means, we introduce a novel approach to CTTA through visual prompting. We propose a \emph{Dynamic Prompt Coreset} that not only preserves knowledge from previously visited domains but also accommodates learning from new potential domains. This is complemented by a distance-based \emph{Weight Updating Mechanism} that ensures the coreset remains current and relevant. Our approach employs a fixed model architecture alongside the coreset and an innovative updating system to effectively mitigate challenges such as catastrophic forgetting and error accumulation. Extensive testing on four widely-used benchmarks demonstrates that our method consistently outperforms state-of-the-art alternatives in both classification and segmentation CTTA tasks across the structured and dynamic CTTA settings, with $99\%$ fewer trainable parameters.
- Abstract(参考訳): 連続テスト時間適応(CTTA)は、ソース事前訓練されたモデルを、継続的な変更、ラベルなしのターゲットドメインに適応させようとする。
既存のTTAメソッドは通常、ドメインの変更が順次発生する環境向けに設計されており、図1に示すように、より動的なシナリオで苦労する可能性がある。
オンラインK-Meansの原理に触発されて,視覚的プロンプトを通してCTTAに新しいアプローチを導入する。
我々は,これまで訪れたドメインから知識を保存するだけでなく,新たな潜在的ドメインからの学習も可能とする「emph{Dynamic Prompt Coreset」を提案する。
これは距離ベースの \emph{Weight Updating Mechanism {\displaystyle \emph{Weight Updating Mechanism} によって補完される。
提案手法では,コアセットに付随する固定モデルアーキテクチャと,破滅的な忘れ込みやエラー蓄積といった課題を効果的に軽減する革新的な更新システムを採用している。
広範に使用されている4つのベンチマークにおいて、我々の手法は構造化されたCTTA設定と動的CTTA設定の両方において最先端のCTTAタスクを一貫して上回り、99\%$トレーニング可能なパラメータを減らしていることを示す。
関連論文リスト
- Exploiting Aggregation and Segregation of Representations for Domain Adaptive Human Pose Estimation [50.31351006532924]
人間のポーズ推定(HPE)は最近、モーション分析、バーチャルリアリティー、ヘルスケア等に広く応用されているため、注目を集めている。
時間と労働集約的なアノテーションのために、ラベル付き現実世界のデータセットが不足している。
本稿では,ドメイン適応型人間のポーズ推定のための表現集約と分離を両立させる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-29T17:59:45Z) - Dynamic Prompt Allocation and Tuning for Continual Test-Time Adaptation [29.931721498877483]
連続的テスト時間適応(CTTA)は、最近、継続的に進行するターゲット分布に適応するために出現している。
既存の手法は通常、モデルパラメータの変動を制限するために明示的な正規化項を含む。
学習可能なドメイン固有のプロンプトを導入し、モデルが対応する対象ドメインに適応するように誘導する。
論文 参考訳(メタデータ) (2024-12-12T14:24:04Z) - Hybrid-TTA: Continual Test-time Adaptation via Dynamic Domain Shift Detection [14.382503104075917]
継続的テスト時間適応(CTTA)は、制御されたトレーニング環境と実世界のシナリオの間のドメインギャップを埋めるための重要なアプローチとして登場した。
本稿では,最適適応のためのインスタンスワイドチューニング手法を動的に選択する総合的手法であるHybrid-TTAを提案する。
提案手法は,Cityscapes-to-ACDCベンチマークデータセットにおけるmIoUの1.6%改善を実現する。
論文 参考訳(メタデータ) (2024-09-13T06:36:31Z) - BECoTTA: Input-dependent Online Blending of Experts for Continual Test-time Adaptation [59.1863462632777]
連続テスト時間適応(CTTA)は、学習済みの知識を維持しながら、継続的に見えない領域に効率的に適応するために必要である。
本稿では,CTTAの入力依存かつ効率的なモジュール化フレームワークであるBECoTTAを提案する。
提案手法は, トレーニング可能なパラメータを98%少なく抑えながら, 整合性や漸進性などの複数のCTTAシナリオに優れることを確認した。
論文 参考訳(メタデータ) (2024-02-13T18:37:53Z) - Long-Term Invariant Local Features via Implicit Cross-Domain
Correspondences [79.21515035128832]
我々は、様々なドメイン変更の下で、現在の最先端特徴抽出ネットワークの性能を徹底的に分析する。
我々は、新しいデータ中心方式、Implicit Cross-Domain Correspondences (iCDC)を提案する。
iCDCは複数のニューラル・ラジアンス・フィールドで同じ環境を表し、それぞれが個々の視覚領域の下にシーンを適合させる。
論文 参考訳(メタデータ) (2023-11-06T18:53:01Z) - Contrastive Domain Adaptation for Time-Series via Temporal Mixup [14.723714504015483]
時系列データのための新しい軽量コントラスト型ドメイン適応フレームワークであるCoTMixを提案する。
具体的には、ソースとターゲットドメインに対する2つの中間的な拡張ビューを生成するための、新しい時間混合戦略を提案する。
我々のアプローチは、最先端のUDAメソッドを著しく上回ります。
論文 参考訳(メタデータ) (2022-12-03T06:53:38Z) - Domain-incremental Cardiac Image Segmentation with Style-oriented Replay
and Domain-sensitive Feature Whitening [67.6394526631557]
M&Mは、各受信データセットから漸進的に学習し、時間が経つにつれて改善された機能で漸進的に更新する必要がある。
医学的シナリオでは、データのプライバシのため、過去のデータへのアクセスや保存が一般的に許可されないため、これは特に困難である。
本稿では,まず過去のドメイン入力を復元し,モデル最適化中に定期的に再生する新しいドメイン増分学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-09T13:07:36Z) - Multi-Prompt Alignment for Multi-Source Unsupervised Domain Adaptation [86.02485817444216]
マルチプロンプトアライメント(MPA: Multi-Prompt Alignment)は,マルチソースUDAのためのシンプルかつ効率的なフレームワークである。
MPAは、学習したプロンプトを自動エンコードプロセスで認知し、再構築されたプロンプトの合意を最大化することでそれらを調整する。
実験によると、MPAは3つの一般的なデータセットで最先端の結果を達成し、DomainNetの平均精度は54.1%である。
論文 参考訳(メタデータ) (2022-09-30T03:40:10Z) - Efficient Hierarchical Domain Adaptation for Pretrained Language Models [77.02962815423658]
生成言語モデルは、多種多様な一般的なドメインコーパスに基づいて訓練される。
計算効率のよいアダプタアプローチを用いて,ドメイン適応を多種多様なドメインに拡張する手法を提案する。
論文 参考訳(メタデータ) (2021-12-16T11:09:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。