論文の概要: Test-time Adaptation in the Dynamic World with Compound Domain Knowledge
Management
- arxiv url: http://arxiv.org/abs/2212.08356v3
- Date: Sat, 15 Apr 2023 04:03:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-18 21:29:53.758332
- Title: Test-time Adaptation in the Dynamic World with Compound Domain Knowledge
Management
- Title(参考訳): 複合ドメイン知識管理による動的世界のテスト時間適応
- Authors: Junha Song, Kwanyong Park, InKyu Shin, Sanghyun Woo, Chaoning Zhang,
and In So Kweon
- Abstract要約: テスト時間適応(TTA)により、モデルは新しい環境に適応し、テスト時間中にパフォーマンスを向上させることができる。
TTAのいくつかの研究は、継続的に変化する環境において、有望な適応性能を示している。
本稿ではまず,複合ドメイン知識管理を用いた堅牢なTTAフレームワークを提案する。
次に、ソースと現在のターゲットドメイン間のドメイン類似性を用いて適応率を変調する新しい正規化を考案する。
- 参考スコア(独自算出の注目度): 75.86903206636741
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Prior to the deployment of robotic systems, pre-training the deep-recognition
models on all potential visual cases is infeasible in practice. Hence,
test-time adaptation (TTA) allows the model to adapt itself to novel
environments and improve its performance during test time (i.e., lifelong
adaptation). Several works for TTA have shown promising adaptation performances
in continuously changing environments. However, our investigation reveals that
existing methods are vulnerable to dynamic distributional changes and often
lead to overfitting of TTA models. To address this problem, this paper first
presents a robust TTA framework with compound domain knowledge management. Our
framework helps the TTA model to harvest the knowledge of multiple
representative domains (i.e., compound domain) and conduct the TTA based on the
compound domain knowledge. In addition, to prevent overfitting of the TTA
model, we devise novel regularization which modulates the adaptation rates
using domain-similarity between the source and the current target domain. With
the synergy of the proposed framework and regularization, we achieve consistent
performance improvements in diverse TTA scenarios, especially on dynamic domain
shifts. We demonstrate the generality of proposals via extensive experiments
including image classification on ImageNet-C and semantic segmentation on GTA5,
C-driving, and corrupted Cityscapes datasets.
- Abstract(参考訳): ロボットシステムの導入に先立ち、すべての潜在的な視覚ケースでディープラーニングモデルを事前トレーニングすることは、実際には不可能である。
したがって、テスト時間適応(TTA)により、モデルは新しい環境に適応し、テスト時間(すなわち寿命適応)におけるパフォーマンスを向上させることができる。
TTAのいくつかの研究は、継続的に変化する環境において有望な適応性能を示している。
しかし,本研究では,既存の手法は動的分布変化に対して脆弱であり,TTAモデルの過度な適合につながることが判明した。
この問題に対処するために,本稿ではまず,複雑なドメイン知識管理を備えた堅牢なTTAフレームワークを提案する。
我々のフレームワークは、TTAモデルが複数の代表ドメイン(複合ドメイン)の知識を収集し、複合ドメインの知識に基づいてTTAを実行するのに役立ちます。
さらに,ttaモデルの過剰適合を防止するため,ソースと現在のターゲット領域のドメイン類似性を用いて適応率を変調する新しい正規化法を考案する。
提案するフレームワークと正規化の相乗効果により,様々なttaシナリオ,特に動的ドメインシフトにおいて一貫した性能改善を実現する。
我々は、ImageNet-Cの画像分類や、GTA5のセマンティックセマンティックセグメンテーション、Cドライブ、Cityscapesデータセットの破損など、幅広い実験を通じて提案の一般化を実証する。
関連論文リスト
- Analytic Continual Test-Time Adaptation for Multi-Modality Corruption [23.545997349882857]
テスト時間適応(TTA)は、トレーニング済みのモデルがソースとターゲットデータセット間のギャップを埋めることを支援することを目的としている。
本稿では,MM-CTTAタスクのためのMDAA(Multi-modality Dynamic Analytic Adapter)を提案する。
MDAAはMM-CTTA上での最先端性能を実現し,信頼性の高いモデル適応を実現する。
論文 参考訳(メタデータ) (2024-10-29T01:21:24Z) - Active Test-Time Adaptation: Theoretical Analyses and An Algorithm [51.84691955495693]
テスト時間適応(TTA)は、教師なし設定でストリーミングテストデータの分散シフトに対処する。
完全TTA設定内に能動学習を統合する能動テスト時間適応(ATTA)の新たな問題設定を提案する。
論文 参考訳(メタデータ) (2024-04-07T22:31:34Z) - BECoTTA: Input-dependent Online Blending of Experts for Continual Test-time Adaptation [59.1863462632777]
連続テスト時間適応(CTTA)は、学習済みの知識を維持しながら、継続的に見えない領域に効率的に適応するために必要である。
本稿では,CTTAの入力依存かつ効率的なモジュール化フレームワークであるBECoTTAを提案する。
提案手法は, トレーニング可能なパラメータを98%少なく抑えながら, 整合性や漸進性などの複数のCTTAシナリオに優れることを確認した。
論文 参考訳(メタデータ) (2024-02-13T18:37:53Z) - Persistent Test-time Adaptation in Recurring Testing Scenarios [12.024233973321756]
現在のテスト時間適応(TTA)アプローチは、継続的に変化する環境に機械学習モデルを適用することを目的としている。
しかし,TTA法が長期にわたって適応性を維持することができるかどうかは不明である。
本稿では,モデルが崩壊に向かって変動していることを検知し,適応戦略を調整する永続的TTA(PeTTA)を提案する。
論文 参考訳(メタデータ) (2023-11-30T02:24:44Z) - Adaptive Test-Time Personalization for Federated Learning [51.25437606915392]
テスト時パーソナライズド・フェデレーション・ラーニング(TTPFL)と呼ばれる新しい設定を導入する。
TTPFLでは、クライアントはテスト期間中にラベル付きデータに頼ることなく、教師なしの方法でグローバルモデルをローカルに適応する。
本稿では,ソースドメイン間の分散シフトから,モデル内の各モジュールの適応率を適応的に学習する ATP という新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-28T20:42:47Z) - AR-TTA: A Simple Method for Real-World Continual Test-Time Adaptation [1.4530711901349282]
本稿では,自律運転のためのデータセット,すなわちCLAD-CとShiFTを用いたテスト時間適応手法の検証を提案する。
現在のテスト時間適応手法は、ドメインシフトの様々な程度を効果的に扱うのに苦労している。
モデル安定性を高めるために、小さなメモリバッファを組み込むことで、確立された自己学習フレームワークを強化する。
論文 参考訳(メタデータ) (2023-09-18T19:34:23Z) - Benchmarking Test-Time Adaptation against Distribution Shifts in Image
Classification [77.0114672086012]
テスト時間適応(TTA)は、予測時にのみラベルのないサンプルを活用することにより、モデルの一般化性能を向上させる技術である。
本稿では,広く使用されている5つの画像分類データセット上で,13のTTA手法とその変種を体系的に評価するベンチマークを提案する。
論文 参考訳(メタデータ) (2023-07-06T16:59:53Z) - ViDA: Homeostatic Visual Domain Adapter for Continual Test Time Adaptation [48.039156140237615]
目標ドメインの継続的な変更に事前訓練されたモデルを適用するために、連続的なテスト時間適応タスクを提案する。
我々はCTTA用のVisual Domain Adapter (ViDA) を設計し、ドメイン固有知識とドメイン共有知識の両方を明示的に扱う。
提案手法は,CTTAタスクの分類とセグメント化の両方において,最先端の性能を実現する。
論文 参考訳(メタデータ) (2023-06-07T11:18:53Z) - Universal Test-time Adaptation through Weight Ensembling, Diversity
Weighting, and Prior Correction [3.5139431332194198]
テスト時適応(TTA)はデプロイ後もモデルを更新し続け、現在のテストデータを活用する。
我々は、自己学習ベースの手法が対処しなければならないいくつかの課題を特定し、強調する。
モデルがバイアスを受けるのを防ぐために、データセットとモデルに依存しない確実性と多様性の重み付けを利用する。
論文 参考訳(メタデータ) (2023-06-01T13:16:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。