論文の概要: RDumb++: Drift-Aware Continual Test-Time Adaptation
- arxiv url: http://arxiv.org/abs/2601.15544v1
- Date: Thu, 22 Jan 2026 00:20:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-23 21:37:20.452229
- Title: RDumb++: Drift-Aware Continual Test-Time Adaptation
- Title(参考訳): RDumb++: 継続的なテスト時間適応を意識したドリフト
- Authors: Himanshu Mishra,
- Abstract要約: 継続的テスト時間適応(Continuous Test-Time Adaptation)は、入ってくる未ラベルのデータストリームのみを使用して、デプロイ中に事前トレーニングされたモデルを更新する。
本稿では,RDumbの原理的拡張であるRDumb++を提案する。
RDumb++はRDumbを一貫して上回り、絶対精度は3%向上した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Continual Test-Time Adaptation (CTTA) seeks to update a pretrained model during deployment using only the incoming, unlabeled data stream. Although prior approaches such as Tent, EATA etc. provide meaningful improvements under short evolving shifts, they struggle when the test distribution changes rapidly or over extremely long horizons. This challenge is exemplified by the CCC benchmark, where models operate over streams of 7.5M samples with continually changing corruption types and severities. We propose RDumb++, a principled extension of RDumb that introduces two drift-detection mechanisms i.e entropy-based drift scoring and KL-divergence drift scoring, together with adaptive reset strategies. These mechanisms allow the model to detect when accumulated adaptation becomes harmful and to recover before prediction collapse occurs. Across CCC-medium with three speeds and three seeds (nine runs, each containing one million samples), RDumb++ consistently surpasses RDumb, yielding approx 3% absolute accuracy gains while maintaining stable adaptation throughout the entire stream. Ablation experiments on drift thresholds and reset strengths further show that drift-aware resetting is essential for preventing collapse and achieving reliable long-horizon CTTA.
- Abstract(参考訳): 継続的テスト時間適応(CTTA)は、入ってくる未ラベルのデータストリームのみを使用して、デプロイ中に事前トレーニングされたモデルを更新することを目指している。
TentやEATAといった以前のアプローチは、短い進化のシフトの下で有意義な改善を提供するが、テスト分布が急速に変化するか、非常に長い地平線を越えると、それらは苦労する。
CCCベンチマークでは、モデルが7.5Mサンプルのストリーム上で動作し、汚職タイプや深刻度が継続的に変化する。
本稿では,RDumbの原理的拡張であるRDumb++を提案し,適応的リセット戦略とともに,エントロピーに基づくドリフトスコアとKL分割ドリフトスコアという2つのドリフト検出機構を導入する。
これらのメカニズムにより、蓄積した適応が有害になるとモデルが検出でき、予測崩壊が起こる前に回復することができる。
RDumb++は3つの速度と3つの種(それぞれ100万のサンプルを含む9つの実行)を持つCCC-medium全体にわたって、RDumbを一貫して上回り、ストリーム全体にわたって安定した適応を維持しながら、絶対的な精度を3%向上させる。
ドリフトしきい値とリセット強度のアブレーション実験により、ドリフト認識リセットは崩壊を防ぎ、信頼性の高い長距離CTTAを実現するのに不可欠であることが示された。
関連論文リスト
- Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
現実の時系列では欠落値が一般的である。
現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。
このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。
本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
論文 参考訳(メタデータ) (2025-09-27T20:57:48Z) - Drift-Adapter: A Practical Approach to Near Zero-Downtime Embedding Model Upgrades in Vector Databases [0.0]
本稿では,モデルバージョン間の埋め込み空間をブリッジする軽量で学習可能な変換層であるDrift-Adapterを提案する。
新しいクエリをレガシな埋め込みスペースにマッピングすることで、Drift-Adapterは既存のANNインデックスの継続的な使用を可能にする。
フルインデクシングやデュアルインデクシングサービスといった運用戦略と比較して、Drift-Adapterは再計算コストを100倍以上削減し、ほぼゼロの運用中断によるアップグレードを容易にする。
論文 参考訳(メタデータ) (2025-09-27T19:47:19Z) - Improving Real-Time Concept Drift Detection using a Hybrid Transformer-Autoencoder Framework [0.0]
応用機械学習では、概念ドリフトはモデルの性能を著しく低下させる。
本研究では,複雑な時間力学をモデル化するためのトランスフォーマーとオートエンコーダを組み合わせたハイブリッドフレームワークを提案する。
以上の結果から,トランスフォーメーション・オートエンコーダは,文献で一般的に用いられるオートエンコーダよりも早く,より感度の高いドリフトを検出した。
論文 参考訳(メタデータ) (2025-08-09T19:39:33Z) - Enhancing Test Time Adaptation with Few-shot Guidance [62.49199492255226]
深層ニューラルネットワークは、トレーニング(ソース)とテスト(ターゲット)データのドメインシフトに直面しながら、大きなパフォーマンス低下に直面することが多い。
TTA(Test Time Adaptation)法は,事前学習したソースモデルを用いて,配信外ストリーミングターゲットデータを処理する手法として提案されている。
本稿では,Few-Shot Test Time Adaptation (FS-TTA) を開発した。
論文 参考訳(メタデータ) (2024-09-02T15:50:48Z) - Unsupervised Concept Drift Detection from Deep Learning Representations in Real-time [5.999777817331315]
概念ドリフトは、基礎となるデータ分布と対象領域の統計的性質が時間とともに変化する現象である。
textscDriftLensはリアルタイムなコンセプトドリフトの検出とキャラクタリゼーションのための教師なしフレームワークである。
論文 参考訳(メタデータ) (2024-06-24T23:41:46Z) - Addressing Concept Shift in Online Time Series Forecasting: Detect-then-Adapt [37.98336090671441]
概念 textbfDrift textbfDetection antextbfD textbfAdaptation (D3A)
まずドリフトの概念を検知し、次に急激な適応の検出の後、現在のモデルをドリフトされた概念に積極的に適応する。
これは、トレイン-テストのパフォーマンスの不整合に寄与する重要な要因であるデータ分散ギャップを軽減するのに役立ちます。
論文 参考訳(メタデータ) (2024-03-22T04:44:43Z) - Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。
また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
論文 参考訳(メタデータ) (2022-04-06T06:39:40Z) - Detecting Concept Drift With Neural Network Model Uncertainty [0.0]
不確実ドリフト検出(UDD)は、真のラベルにアクセスすることなくドリフトを検出することができる。
入力データに基づくドリフト検出とは対照的に,現在の入力データが予測モデルの特性に与える影響を考察する。
UDDは2つの合成および10の実世界のデータセットにおいて、回帰処理と分類処理の両方において、他の最先端戦略よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-07-05T08:56:36Z) - Consistency Guided Scene Flow Estimation [159.24395181068218]
CGSFは立体映像からの3次元シーン構造と動きの同時再構成のための自己教師型フレームワークである。
提案モデルでは,課題の画像の相違やシーンフローを確実に予測できることを示す。
最先端技術よりも優れた一般化を実現し、目に見えない領域に迅速かつ堅牢に適応する。
論文 参考訳(メタデータ) (2020-06-19T17:28:07Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。