論文の概要: Remembering by Reconstructing: Domain Incremental Learning With Test-Time Training on Video Streams
- arxiv url: http://arxiv.org/abs/2605.31108v1
- Date: Fri, 29 May 2026 10:17:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.533908
- Title: Remembering by Reconstructing: Domain Incremental Learning With Test-Time Training on Video Streams
- Title(参考訳): ビデオストリームによるテスト時間トレーニングによるドメインインクリメンタル学習
- Abstract要約: ドメインの漸進的な学習に新しいアプローチを導入し、時間をかけて非定常的なデータにモデルを適用する。
我々は破滅的な忘れ物を避けるのではなく、それを許して悪用しようと試みている。
提案手法は, 連続するサンプルが高い相関関係にあるビデオなど, 実世界のストリーミングデータに特に適している。
- 参考スコア(独自算出の注目度): 37.5115685757579
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this work we introduce a novel approach to domain incremental learning, adapting models over time to evolving, non-stationary data. In contrast to other works, we do not attempt to avoid catastrophic forgetting, but rather allow it and exploit it. Our model combines a main task head with a self-supervised masked autoencoder (MAE) head. We then learn domain-specific LoRA adapters during incremental training. Each adapter specializes to its domain, naturally inducing forgetting on other domains in both heads. At inference, we perform online test-time training on the self-supervised MAE head to identify which LoRAs best matches the current input, so the model can `remember' the domain again. Our scheme is especially well-suited to real-world streaming data, such as video, where consecutive samples are highly correlated and domain shifts are gradual. We demonstrate our method on domain-incremental action recognition and semantic segmentation tasks.
- Abstract(参考訳): この研究では、ドメインの漸進的な学習に新たなアプローチを導入し、時間をかけて、非定常的なデータにモデルを適応させます。
他の作品とは対照的に、我々は破滅的な忘れ物を避けるのではなく、それを許容して利用しようと試みている。
我々のモデルは、メインタスクヘッドと自己教師付きマスク付きオートエンコーダ(MAE)ヘッドを組み合わせる。
次に、インクリメンタルトレーニング中にドメイン固有のLoRAアダプタを学びます。
各アダプタはそのドメインに特化しており、両方の頭の中で他のドメインの忘れを自然に引き起こす。
推論では、自己監督型MAEヘッド上でオンラインテストタイムトレーニングを行い、どのLoRAが現在の入力に最も適しているかを特定し、モデルが再びドメインを記憶できる。
提案手法は, 連続的なサンプルの相関が強く, ドメインシフトが徐々に変化するビデオなど, 実世界のストリーミングデータに特に適している。
本稿ではドメイン・インクリメンタル・アクション認識とセマンティック・セグメンテーションのタスクについて述べる。
関連論文リスト
- Incremental Open-set Domain Adaptation [27.171935835686117]
破滅的な忘れは、視覚領域を連続的に学習する際にニューラルネットワークモデルを不安定にする。
我々は、画像分類のための忘れやすい漸進的学習戦略を開発する。
論文 参考訳(メタデータ) (2024-08-31T19:37:54Z) - Adapting to Distribution Shift by Visual Domain Prompt Generation [34.19066857066073]
いくつかのラベルのないデータを使って、テスト時にモデルを適応し、分散シフトに対処する。
ソースドメインから移行可能な知識を学ぶための知識銀行を構築します。
提案手法は,WILDSやDomainNetを含む5つの大規模ベンチマークにおいて,従来よりも優れている。
論文 参考訳(メタデータ) (2024-05-05T02:44:04Z) - CDFSL-V: Cross-Domain Few-Shot Learning for Videos [58.37446811360741]
ビデオのアクション認識は、いくつかのラベル付き例でのみ、新しいカテゴリを認識するための効果的なアプローチである。
既存のビデオアクション認識の方法は、同じドメインからの大きなラベル付きデータセットに依存している。
本稿では,自己教師付き学習とカリキュラム学習を活用した,クロスドメインな数ショットビデオ行動認識手法を提案する。
論文 参考訳(メタデータ) (2023-09-07T19:44:27Z) - Unsupervised Domain Adaptation for Anatomical Landmark Detection [5.070344284426738]
非教師なし領域適応(UDA)の設定下での解剖学的ランドマーク検出のための新しい枠組みを提案する。
このフレームワークは、自己学習とドメインの敵対的学習を活用して、適応中のドメインギャップに対処する。
脳波および肺のランドマーク検出実験は,領域間隙を広いマージンで低減し,他のUDA法より一貫して優れる手法の有効性を示した。
論文 参考訳(メタデータ) (2023-08-25T10:22:13Z) - Meta-DMoE: Adapting to Domain Shift by Meta-Distillation from
Mixture-of-Experts [33.21435044949033]
既存のほとんどのメソッドは、単一のモデルを使って複数のソースドメインでトレーニングを行います。
本稿では,知識蒸留プロセスとして定式化された非教師なし試験時間適応のための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-08T02:28:10Z) - Forget Less, Count Better: A Domain-Incremental Self-Distillation
Learning Benchmark for Lifelong Crowd Counting [51.44987756859706]
オフザシェルフ法は複数のドメインを扱うのにいくつかの欠点がある。
生涯クラウドカウンティングは、壊滅的な忘れを緩和し、一般化能力を改善することを目的としている。
論文 参考訳(メタデータ) (2022-05-06T15:37:56Z) - Unsupervised Lifelong Person Re-identification via Contrastive Rehearsal [7.983523975392535]
ReIDは、新しいドメインに対する教師なしドメイン適応を継続的に実施することに焦点を当てている。
古い知識に合った方法でモデル更新を正規化するために、古いモデルと新しいモデルの画像間類似性制約を設定しました。
提案手法は, 従来手法に比べて, 目に見える領域と目に見えない領域の両方で有意に優れていた, 高い一般化性を実現する。
論文 参考訳(メタデータ) (2022-03-12T15:44:08Z) - Robust wav2vec 2.0: Analyzing Domain Shift in Self-Supervised
Pre-Training [67.71228426496013]
事前トレーニング中にターゲットドメインデータを使用することで,さまざまなセットアップで大幅なパフォーマンス向上が期待できる。
複数のドメインで事前トレーニングを行うことで、トレーニング中に見られないドメインのパフォーマンスの一般化が向上します。
論文 参考訳(メタデータ) (2021-04-02T12:53:15Z) - Prototypical Cross-domain Self-supervised Learning for Few-shot
Unsupervised Domain Adaptation [91.58443042554903]
FUDA(Unsupervised Domain Adaptation)のためのPCS(Prototypical Cross-Domain Self-Supervised Learning)フレームワークを提案する。
PCSは、クロスドメインのローレベルな機能アライメントを行うだけでなく、ドメイン間の共有埋め込み空間におけるセマンティック構造をエンコードおよびアライメントする。
最新の手法と比較して、pcsは、fuda上の異なるドメインペアの平均分類精度を10.5%、office、office-home、visda-2017、domainnetで3.5%、9.0%、13.2%改善している。
論文 参考訳(メタデータ) (2021-03-31T02:07:42Z) - Batch Normalization Embeddings for Deep Domain Generalization [50.51405390150066]
ドメインの一般化は、異なるドメインと見えないドメインで堅牢に実行されるように機械学習モデルをトレーニングすることを目的としている。
一般的な領域一般化ベンチマークにおいて,最先端技術よりも分類精度が著しく向上したことを示す。
論文 参考訳(メタデータ) (2020-11-25T12:02:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。