論文の概要: Test-Time Adaptation via Dual Distillation for Videos Under Severe Distribution Shifts
- arxiv url: http://arxiv.org/abs/2607.24611v1
- Date: Mon, 27 Jul 2026 16:12:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.507572
- Title: Test-Time Adaptation via Dual Distillation for Videos Under Severe Distribution Shifts
- Title(参考訳): 重度分布シフト下におけるビデオのデュアル蒸留によるテスト時間適応
- Abstract要約: ディープラーニングモデルは、予期しない分散シフトによって現実のシナリオに適用された場合、深刻なパフォーマンス劣化を経験する。
テスト時間適応(TTA)は、ターゲットドメインからのラベルのないデータを使用して、推論時にテスト分布に動的に適応することで、この問題を解決する。
本稿では,ドメインギャップを埋めるために軽量なプロジェクションアダプタを利用するオンライン適応フレームワークであるTADD(Test-time Adaptation via Dual Distillation)を提案する。
- 参考スコア(独自算出の注目度): 1.5539424546888112
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning models have achieved state-of-the-art performance in several computer vision tasks. However, they experience severe performance degradation when applied to real-world scenarios due to unanticipated distribution shifts. Test-Time Adaptation (TTA) attempts to solve this problem by using unlabeled data from the target domain to dynamically adapt to the test distribution at inference time, without access to the source data. However, TTA remains a challenging problem when adapting to continuous, temporally correlated data, such as videos, and in scenarios where the target domain contains severe domain shifts. For this reason, few works in the literature explore TTA for videos under such extreme conditions. To overcome these limitations, we propose Test-time Adaptation via Dual Distillation (TADD), an online adaptation framework that relies on a lightweight projection adapter to bridge the domain gap. The adapter module is pre-trained on the source domain and then adapted to the target using our proposed complementary losses: (i) zero-shot distillation, which encourages alignment with the domain-agnostic features from a pre-trained vision-language model (VLM); and (ii) target distillation, which retains the source domain discriminative knowledge encoded in the pre-trained adapter. Built upon a frozen CLIP backbone, our method introduces this lightweight projection adapter as the sole updatable component during inference. We conducted extensive evaluations on three well-known video action recognition benchmarks: UCF-HMDB, Daily-DA, and Sports-DA. Our experiments in the closed-set scenario demonstrate that our method consistently outperforms state-of-the-art TTA baselines. Notably, our TTA approach improves upon previous methods by up to +3.81% on UCF-HMDB, +2.63% on Daily-DA, and +3.03% on Sports-DA.
- Abstract(参考訳): ディープラーニングモデルは、いくつかのコンピュータビジョンタスクで最先端のパフォーマンスを達成した。
しかし、予測外の分散シフトにより、現実のシナリオに適用すると、パフォーマンスが著しく低下する。
テスト時間適応(TTA)は、ソースデータにアクセスすることなく、ターゲットドメインからのラベルのないデータを使用して、推論時にテスト分布に動的に適応することで、この問題を解決する。
しかし、TTAは、ビデオのような連続的、時間的に相関したデータや、ターゲットドメインが厳しいドメインシフトを含むシナリオに適応する場合、依然として困難な問題である。
このため、このような極端な条件下でビデオのTTAを探究する文献は少ない。
これらの制限を克服するために、ドメインギャップを埋める軽量なプロジェクションアダプタに依存するオンライン適応フレームワークである、Dual Distillation (TADD) によるテスト時適応を提案する。
アダプタモジュールはソースドメイン上で事前トレーニングされ、提案した補完的な損失を使ってターゲットに適応します。
一 予め訓練した視覚言語モデル(VLM)からのドメインに依存しない特徴の整合を促すゼロショット蒸留及び
(ii) 予め訓練されたアダプタに符号化されたソースドメイン識別知識を保持するターゲット蒸留。
凍結したCLIPバックボーン上に構築された本手法では,この軽量プロジェクションアダプタを,推論中の唯一のアップダブルコンポーネントとして導入する。
我々は,UCF-HMDB,Daily-DA,Sports-DAの3つのよく知られたビデオ行動認識ベンチマークについて広範な評価を行った。
閉集合シナリオにおける我々の実験は、我々の手法が最先端のTTAベースラインを一貫して上回ることを示した。
特に,UCF-HMDBでは+3.81%,Daily-DAでは+2.63%,Sports-DAでは+3.03%である。
関連論文リスト
- TestMate: Test-Time Domain Adaptation Aided by Lightweight Vision Foundation Model [21.331953401986322]
Test-Time Domain Adaptation (TTDA)は、ストリーミングされた未ラベルのテストデータのみをリアルタイムで使用することで、Deep Neural Networksを分散シフトに適応させることを目的としている。
これらの問題を克服する新しい、リアルタイムかつバックプロパゲーションフリーなTTDAフレームワークであるTestMateを紹介します。
論文 参考訳(メタデータ) (2026-07-04T10:32:15Z) - Enhancing Test Time Adaptation with Few-shot Guidance [62.49199492255226]
深層ニューラルネットワークは、トレーニング(ソース)とテスト(ターゲット)データのドメインシフトに直面しながら、大きなパフォーマンス低下に直面することが多い。
TTA(Test Time Adaptation)法は,事前学習したソースモデルを用いて,配信外ストリーミングターゲットデータを処理する手法として提案されている。
本稿では,Few-Shot Test Time Adaptation (FS-TTA) を開発した。
論文 参考訳(メタデータ) (2024-09-02T15:50:48Z) - Learn from the Learnt: Source-Free Active Domain Adaptation via Contrastive Sampling and Visual Persistence [60.37934652213881]
ドメイン適応(DA)は、ソースドメインから関連するターゲットドメインへの知識伝達を容易にする。
本稿では、ソースデータフリーなアクティブドメイン適応(SFADA)という実用的なDAパラダイムについて検討する。
本稿では,学習者学習(LFTL)というSFADAの新たなパラダイムを紹介し,学習した学習知識を事前学習モデルから活用し,余分なオーバーヘッドを伴わずにモデルを積極的に反復する。
論文 参考訳(メタデータ) (2024-07-26T17:51:58Z) - Test-time adaptation for geospatial point cloud semantic segmentation with distinct domain shifts [6.80671668491958]
テスト時間適応(TTA)は、ソースデータへのアクセスや追加のトレーニングなしに、推論段階でラベル付けされていないデータに事前訓練されたモデルの直接適応を可能にする。
本稿では,3つの領域シフトパラダイムを提案する。光グラムから空気中LiDAR,空気中LiDAR,合成-移動レーザー走査である。
実験の結果,分類精度は最大20%mIoUに向上し,他の手法よりも優れていた。
論文 参考訳(メタデータ) (2024-07-08T15:40:28Z) - Spatio-Temporal Pixel-Level Contrastive Learning-based Source-Free
Domain Adaptation for Video Semantic Segmentation [117.39092621796753]
Source Domain Adaptation(SFDA)セットアップは、ソースデータにアクセスすることなく、ターゲットドメインにソーストレーニングされたモデルを適用することを目的としている。
情報源データの欠如に対処するために,時間情報の相関を最大限に活用する新しい手法を提案する。
実験によると、PixelLは現在のUDAやFDAのアプローチと比較して、ベンチマークの非最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2023-03-25T05:06:23Z) - Confidence Attention and Generalization Enhanced Distillation for
Continuous Video Domain Adaptation [62.458968086881555]
連続ビデオドメイン適応(CVDA、Continuous Video Domain Adaptation)は、ソースモデルが個々の変更対象ドメインに適応する必要があるシナリオである。
CVDAの課題に対処するため,遺伝子組み換え型自己知識解離(CART)を用いた信頼性保証ネットワークを提案する。
論文 参考訳(メタデータ) (2023-03-18T16:40:10Z) - Domain Alignment Meets Fully Test-Time Adaptation [24.546705919244936]
デプロイされたMLモデルの基本的な要件は、トレーニングとは異なるテストディストリビューションから引き出されたデータに一般化することである。
本稿では,元のソースデータへのアクセスを制限した,この問題の難易度に焦点をあてる。
ソースデータ全体にアクセスする必要性を緩和し,UDAとFTTAを橋渡しする新しいアプローチCATTAnを提案する。
論文 参考訳(メタデータ) (2022-07-09T03:17:19Z) - Back to the Source: Diffusion-Driven Test-Time Adaptation [77.4229736436935]
テスト時間適応はテスト入力を利用し、シフトしたターゲットデータ上でテストした場合、ソースデータに基づいてトレーニングされたモデルの精度を向上させる。
代わりに、生成拡散モデルを用いて、すべてのテスト入力をソース領域に向けて投影することで、ターゲットデータを更新する。
論文 参考訳(メタデータ) (2022-07-07T17:14:10Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。