論文の概要: Robust Continual Test-time Adaptation: Instance-aware BN and
Prediction-balanced Memory
- arxiv url: http://arxiv.org/abs/2208.05117v1
- Date: Wed, 10 Aug 2022 03:05:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-11 12:59:30.673549
- Title: Robust Continual Test-time Adaptation: Instance-aware BN and
Prediction-balanced Memory
- Title（参考訳）: ロバストな連続テスト時間適応: インスタンス対応BNと予測バランスメモリ
- Authors: Taesik Gong, Jongheon Jeong, Taewon Kim, Yewon Kim, Jinwoo Shin,
Sung-Ju Lee
- Abstract要約: テストデータストリーム以外のデータストリームに対して堅牢な新しいテスト時間適応方式を提案する。
a)分布外サンプルの正規化を修正するIABN(Instance-Aware Batch Normalization)と、(b)クラスバランスのない方法で非i.d.ストリームからのデータストリームをシミュレートするPBRS(Predict- Balanced Reservoir Sampling)である。
- 参考スコア（独自算出の注目度）: 58.72445309519892
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Test-time adaptation (TTA) is an emerging paradigm that addresses
distributional shifts between training and testing phases without additional
data acquisition or labeling cost; only unlabeled test data streams are used
for continual model adaptation. Previous TTA schemes assume that the test
samples are independent and identically distributed (i.i.d.), even though they
are often temporally correlated (non-i.i.d.) in application scenarios, e.g.,
autonomous driving. We discover that most existing TTA methods fail
dramatically under such scenarios. Motivated by this, we present a new
test-time adaptation scheme that is robust against non-i.i.d. test data
streams. Our novelty is mainly two-fold: (a) Instance-Aware Batch Normalization
(IABN) that corrects normalization for out-of-distribution samples, and (b)
Prediction-balanced Reservoir Sampling (PBRS) that simulates i.i.d. data stream
from non-i.i.d. stream in a class-balanced manner. Our evaluation with various
datasets, including real-world non-i.i.d. streams, demonstrates that the
proposed robust TTA not only outperforms state-of-the-art TTA algorithms in the
non-i.i.d. setting, but also achieves comparable performance to those
algorithms under the i.i.d. assumption.
- Abstract（参考訳）: テスト時間適応(TTA)は、追加のデータ取得やラベル付けのコストなしで、トレーニングとテストフェーズ間の分散シフトに対処する新興パラダイムである。
以前のTTAのスキームでは、テストサンプルは独立であり、自律運転のようなアプリケーションシナリオにおいて時間的に相関(非-i.d.)があるにもかかわらず、同一に分散していると仮定していた。
既存のほとんどのTTAメソッドはそのようなシナリオで劇的に失敗する。
そこで本研究では,非I.d.テストデータストリームに対して堅牢な新しいテスト時間適応方式を提案する。
私たちの新規性は主に2倍です。
(a)分布外サンプルの正規化を補正するインスタンス対応バッチ正規化(iabn)、及び
b) 予測均衡型貯水池サンプリング(PBRS)は,非i.d.ストリームからのデータストリームをクラスバランスでシミュレートする。
実世界の非i.d.ストリームを含む様々なデータセットによる評価は、提案された堅牢なTTAアルゴリズムが、非i.d.設定で最先端のTTAアルゴリズムを上回るだけでなく、i.i.d.仮定でそれらのアルゴリズムに匹敵する性能を達成することを示す。
関連論文リスト
- Distribution Alignment for Fully Test-Time Adaptation with Dynamic Online Data Streams [19.921480334048756]
TTA(Test-Time Adaptation)は、テストデータストリームの適応と推論を可能にする。
本稿では,TTAにおける新しい配電アライメント損失を提案する。
我々は、非i.d.シナリオにおける既存の手法を超越し、理想的なi.d.仮定の下で競争性能を維持する。
論文 参考訳（メタデータ） (2024-07-16T19:33:23Z) - Active Test-Time Adaptation: Theoretical Analyses and An Algorithm [51.84691955495693]
テスト時間適応(TTA)は、教師なし設定でストリーミングテストデータの分散シフトに対処する。
完全TTA設定内に能動学習を統合する能動テスト時間適応(ATTA)の新たな問題設定を提案する。
論文 参考訳（メタデータ） (2024-04-07T22:31:34Z) - Diversity-aware Buffer for Coping with Temporally Correlated Data
Streams in Online Test-time Adaptation [3.1265626879839923]
テストデータストリームは必ずしも独立であり、同じ分散(すなわちd)であるとは限らない。
非i.d.シナリオであっても、i.d.データストリームをシミュレートできるダイバーシティ対応およびカテゴリバランスバッファを提案する。
我々は、最も検討されたベンチマークで最先端の結果を得る。
論文 参考訳（メタデータ） (2024-01-02T01:56:25Z) - Persistent Test-time Adaptation in Recurring Testing Scenarios [12.024233973321756]
現在のテスト時間適応(TTA)アプローチは、継続的に変化する環境に機械学習モデルを適用することを目的としている。
しかし,TTA法が長期にわたって適応性を維持することができるかどうかは不明である。
本稿では,モデルが崩壊に向かって変動していることを検知し,適応戦略を調整する永続的TTA(PeTTA)を提案する。
論文 参考訳（メタデータ） (2023-11-30T02:24:44Z) - Generalized Robust Test-Time Adaptation in Continuous Dynamic Scenarios [18.527640606971563]
テスト時間適応(TTA)は、未ラベルのテストデータストリームのみを使用する推論フェーズにおいて、事前訓練されたモデルに分散をテストする。
本稿では,問題に効果的に対応する汎用ロバストテスト時間適応(GRoTTA)法を提案する。
論文 参考訳（メタデータ） (2023-10-07T07:13:49Z) - Robust Test-Time Adaptation in Dynamic Scenarios [9.475271284789969]
テスト時適応(TTA)は、未ラベルのテストデータストリームのみを用いて、事前訓練されたモデルを分散をテストすることを目的としている。
PTTAの複雑なデータストリームに対してロバストテスト時間適応法(RoTTA)を精査する。
私たちのメソッドは実装が簡単で、迅速なデプロイメントに適しています。
論文 参考訳（メタデータ） (2023-03-24T10:19:14Z) - DELTA: degradation-free fully test-time adaptation [59.74287982885375]
テスト時間バッチ正規化(BN)や自己学習といった,一般的な適応手法では,2つの好ましくない欠陥が隠されていることがわかった。
まず、テスト時間BNにおける正規化統計は、現在受信されているテストサンプルに完全に影響され、その結果、不正確な推定結果が得られることを明らかにする。
第二に、テスト時間適応中にパラメータ更新が支配的なクラスに偏っていることを示す。
論文 参考訳（メタデータ） (2023-01-30T15:54:00Z) - Sequential Kernelized Independence Testing [101.22966794822084]
我々は、カーネル化依存度にインスパイアされたシーケンシャルなカーネル化独立試験を設計する。
シミュレーションデータと実データの両方にアプローチのパワーを実証する。
論文 参考訳（メタデータ） (2022-12-14T18:08:42Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳（メタデータ） (2022-06-01T03:02:07Z) - Listen, Adapt, Better WER: Source-free Single-utterance Test-time
Adaptation for Automatic Speech Recognition [65.84978547406753]
Test-time Adaptationは、ソースドメインでトレーニングされたモデルに適応して、テストサンプルの予測を改善することを目的としている。
単一発話テスト時間適応 (SUTA) は音声領域における最初のTTA研究である。
論文 参考訳（メタデータ） (2022-03-27T06:38:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。