論文の概要: Diversity-aware Buffer for Coping with Temporally Correlated Data
Streams in Online Test-time Adaptation
- arxiv url: http://arxiv.org/abs/2401.00989v1
- Date: Tue, 2 Jan 2024 01:56:25 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-03 14:59:29.254659
- Title: Diversity-aware Buffer for Coping with Temporally Correlated Data
Streams in Online Test-time Adaptation
- Title(参考訳): オンラインテスト時間適応における時間相関データストリーム対応のためのダイバーシティアウェアバッファ
- Authors: Mario D\"obler, Florian Marencke, Robert A. Marsden, Bin Yang
- Abstract要約: テストデータストリームは必ずしも独立であり、同じ分散(すなわちd)であるとは限らない。
非i.d.シナリオであっても、i.d.データストリームをシミュレートできるダイバーシティ対応およびカテゴリバランスバッファを提案する。
我々は、最も検討されたベンチマークで最先端の結果を得る。
- 参考スコア(独自算出の注目度): 3.1265626879839923
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Since distribution shifts are likely to occur after a model's deployment and
can drastically decrease the model's performance, online test-time adaptation
(TTA) continues to update the model during test-time, leveraging the current
test data. In real-world scenarios, test data streams are not always
independent and identically distributed (i.i.d.). Instead, they are frequently
temporally correlated, making them non-i.i.d. Many existing methods struggle to
cope with this scenario. In response, we propose a diversity-aware and
category-balanced buffer that can simulate an i.i.d. data stream, even in
non-i.i.d. scenarios. Combined with a diversity and entropy-weighted entropy
loss, we show that a stable adaptation is possible on a wide range of
corruptions and natural domain shifts, based on ImageNet. We achieve
state-of-the-art results on most considered benchmarks.
- Abstract(参考訳): モデルのデプロイ後に分散シフトが発生し、モデルのパフォーマンスが劇的に低下する可能性があるため、オンラインテストタイムアダプション(tta)は、現在のテストデータを利用して、テスト時間中にモデルを更新する。
実世界のシナリオでは、テストデータストリームは必ずしも独立であり、同じ分散(すなわちd)であるとは限らない。
代わりに、それらはしばしば時間的に相関し、非i.i.d.となり、既存の多くの方法がこのシナリオに対処するのに苦労する。
そこで本研究では,非i.d.シナリオにおいても,i.d.データストリームをシミュレート可能なダイバーシティ対応・カテゴリバランスバッファを提案する。
多様性とエントロピー重み付きエントロピー損失を組み合わせることで,イメージネットに基づく広範囲の腐敗と自然領域シフトに対して安定した適応が可能となることを示す。
我々はほとんどのベンチマークで最先端の結果を得る。
関連論文リスト
- DOTA: Distributional Test-Time Adaptation of Vision-Language Models [52.98590762456236]
トレーニングフリーテスト時動的アダプタ(TDA)は、この問題に対処するための有望なアプローチである。
単体テスト時間適応法(Dota)の簡易かつ効果的な方法を提案する。
Dotaは継続的にテストサンプルの分布を推定し、モデルがデプロイメント環境に継続的に適応できるようにします。
論文 参考訳(メタデータ) (2024-09-28T15:03:28Z) - Distribution Alignment for Fully Test-Time Adaptation with Dynamic Online Data Streams [19.921480334048756]
TTA(Test-Time Adaptation)は、テストデータストリームの適応と推論を可能にする。
本稿では,TTAにおける新しい配電アライメント損失を提案する。
我々は、非i.d.シナリオにおける既存の手法を超越し、理想的なi.d.仮定の下で競争性能を維持する。
論文 参考訳(メタデータ) (2024-07-16T19:33:23Z) - Adaptive Test-Time Personalization for Federated Learning [51.25437606915392]
テスト時パーソナライズド・フェデレーション・ラーニング(TTPFL)と呼ばれる新しい設定を導入する。
TTPFLでは、クライアントはテスト期間中にラベル付きデータに頼ることなく、教師なしの方法でグローバルモデルをローカルに適応する。
本稿では,ソースドメイン間の分散シフトから,モデル内の各モジュールの適応率を適応的に学習する ATP という新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-28T20:42:47Z) - Generalized Robust Test-Time Adaptation in Continuous Dynamic Scenarios [18.527640606971563]
テスト時間適応(TTA)は、未ラベルのテストデータストリームのみを使用する推論フェーズにおいて、事前訓練されたモデルに分散をテストする。
本稿では,問題に効果的に対応する汎用ロバストテスト時間適応(GRoTTA)法を提案する。
論文 参考訳(メタデータ) (2023-10-07T07:13:49Z) - AR-TTA: A Simple Method for Real-World Continual Test-Time Adaptation [1.4530711901349282]
本稿では,自律運転のためのデータセット,すなわちCLAD-CとShiFTを用いたテスト時間適応手法の検証を提案する。
現在のテスト時間適応手法は、ドメインシフトの様々な程度を効果的に扱うのに苦労している。
モデル安定性を高めるために、小さなメモリバッファを組み込むことで、確立された自己学習フレームワークを強化する。
論文 参考訳(メタデータ) (2023-09-18T19:34:23Z) - Robust Test-Time Adaptation in Dynamic Scenarios [9.475271284789969]
テスト時適応(TTA)は、未ラベルのテストデータストリームのみを用いて、事前訓練されたモデルを分散をテストすることを目的としている。
PTTAの複雑なデータストリームに対してロバストテスト時間適応法(RoTTA)を精査する。
私たちのメソッドは実装が簡単で、迅速なデプロイメントに適しています。
論文 参考訳(メタデータ) (2023-03-24T10:19:14Z) - DELTA: degradation-free fully test-time adaptation [59.74287982885375]
テスト時間バッチ正規化(BN)や自己学習といった,一般的な適応手法では,2つの好ましくない欠陥が隠されていることがわかった。
まず、テスト時間BNにおける正規化統計は、現在受信されているテストサンプルに完全に影響され、その結果、不正確な推定結果が得られることを明らかにする。
第二に、テスト時間適応中にパラメータ更新が支配的なクラスに偏っていることを示す。
論文 参考訳(メタデータ) (2023-01-30T15:54:00Z) - Robust Continual Test-time Adaptation: Instance-aware BN and
Prediction-balanced Memory [58.72445309519892]
テストデータストリーム以外のデータストリームに対して堅牢な新しいテスト時間適応方式を提案する。
a)分布外サンプルの正規化を修正するIABN(Instance-Aware Batch Normalization)と、(b)クラスバランスのない方法で非i.d.ストリームからのデータストリームをシミュレートするPBRS(Predict- Balanced Reservoir Sampling)である。
論文 参考訳(メタデータ) (2022-08-10T03:05:46Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。
また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
論文 参考訳(メタデータ) (2022-04-06T06:39:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。