論文の概要: Hidden Trajectories Don't Lie: Correcting Corruption Drift for Test-Time Adaptation
- arxiv url: http://arxiv.org/abs/2610.24220v1
- Date: Fri, 16 Oct 2026 20:43:27 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 11:47:03.590689
- Title: Hidden Trajectories Don't Lie: Correcting Corruption Drift for Test-Time Adaptation
- Title(参考訳): 隠れた軌道は嘘をつかない: テスト時間適応のための破壊ドリフトの修正
- Abstract要約: テスト時間適応(TTA)は、デプロイ中に発生する分散シフトに事前訓練されたモデルを適用する。
本研究では,ディープニューラルネットワーク上で生成される中間表現の順序列である隠れ軌跡について検討する。
冷凍バックボーンにゼロランクアダプタを付加したDrift-TTAを導入する。
- 参考スコア(独自算出の注目度): 0.254890465057467
- License:
- Abstract: Test-time adaptation (TTA) adapts pretrained models to distribution shifts encountered during deployment. However, most existing methods rely on the weight representations of the final layer or signals derived from the model's output probability distribution. We study hidden trajectories: the ordered sequence of intermediate representations produced across a deep neural network. We observe that clean and corrupted trajectories become more separable as corruption severity increases. We introduce Drift-TTA, which adds zero-initialized low-rank adapters to a frozen backbone and trains them to align corrupted hidden trajectories with those from cleaner inputs. The approach supports two variants: a source-dependent version trained with clean targets, and a source-free setting that learns from corrupted images at different severities. We develop an online TTA approach that freezes the backbone and adapters while updating a scalar gate to control adaptation strength. We further cast trajectory alignment as MAP inference under a Gaussian observation model and derive a KL-based transfer bound characterizing test-time trajectory misalignment in terms of offline residual error, residual dimensionality, and distribution shift between offline and test corruptions. We evaluate Drift-TTA on CIFAR-10-C, CIFAR-100-C, and ImageNet-C using supervised ViTs and CLIP models. On CIFAR-100-C at severity 5, our source-free online approach improves accuracy over no TTA by 13.3 percentage points with ViT-B/16 and 11.6 percentage points with CLIP ViT-B/16, reaching 74.9% and 47.4%, respectively. Under the same setting, prior TTA baselines yield ECEs of 18.00% for ViT and 14.70% for CLIP, while our approach reduces them to 9.53% and 5.77%, respectively. These results demonstrate that hidden trajectory alignment provides an effective signal for both offline correction and lightweight online test-time adaptation.
- Abstract(参考訳): テスト時間適応(TTA)は、デプロイ中に発生する分散シフトに事前訓練されたモデルを適用する。
しかし、既存のほとんどの手法は、モデルの出力確率分布から導かれる最終層や信号の重み表現に依存している。
本研究では,ディープニューラルネットワーク上で生成される中間表現の順序列である隠れ軌跡について検討する。
汚職の深刻度が高まるにつれて、清潔で腐敗した軌道がより分離可能であることを観察する。
冷凍バックボーンにゼロ初期化低ランクアダプタを付加したDrift-TTAを導入する。
このアプローチは、クリーンターゲットでトレーニングされたソース依存バージョンと、さまざまな重大さで破損したイメージから学ぶソースフリー設定の2つのバリエーションをサポートする。
我々は,適応強度を制御するスカラーゲートを更新しながら,背骨とアダプタを凍結するオンラインTTAアプローチを開発した。
我々はさらに、ガウス観測モデルの下でMAP推論として軌道アライメントをキャストし、オフライン残差誤差、残留次元、オフラインとテストの汚損間の分布シフトの観点から、テスト時間軌道の不一致を特徴付けるKLベースの転送境界を導出した。
CIFAR-10-C, CIFAR-100-C, ImageNet-CにおけるDrift-TTAを, 教師付きViTとCLIPモデルを用いて評価した。
重度5でのCIFAR-100-Cでは、VT-B/16で13.3%、CLIP ViT-B/16で11.6ポイント、それぞれ74.9%、47.4%の精度向上を実現した。
同じ条件下では、以前のTTAベースラインは、ViTが18.00%、CLIPが14.70%、CLIPが9.53%、CLIが5.77%である。
これらの結果から,隠れ軌道アライメントはオフライン修正と軽量オンラインテスト時間適応の両方に有効な信号を提供することが示された。
関連論文リスト
- Pairwise AUC Optimization Needs Corrective Power: A Unified View [91.5488253165522]
ペアワイドのミニバッチ更新が、より厳格なランキングエラーに対して、より強く信頼性の高い改善をもたらすかどうかを検討する。
我々の主な観察では、直接的なペアワイズトレーニングは、深刻なエラーが相変わらずありふれた領域に入ることができるが、もはや有用な修正動作は生じない。
論文 参考訳(メタデータ) (2026-10-15T12:02:54Z) - ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。
SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。
モデル自身の失敗から両方を得るReDraftを紹介します。
論文 参考訳(メタデータ) (2026-09-15T04:59:03Z) - Continual Test-Time Adaptation via Entropy Sensitivity-Guidance in Strict Online Setting [4.775158008378889]
汚職スタイルのストリームに対する厳密なオンライン連続TTA(CTTA)手法であるSEGA(Sensitivity-Guided Erasing Adaptation)を紹介する。
SEGAは、情報の除去に伴う予測エントロピーの変化を調査するために、少数の構造化された消去を使用する。
ImageNet-C、CIFAR10/100-C、および制御された汚職スタイルのプロキシとして処理された汚職生成水養殖ストリームの実験において、SEGAは一貫性のある堅牢性と安定性を得る。
論文 参考訳(メタデータ) (2026-08-30T17:30:51Z) - When Test-Time Adaptation Helps, Harms, or Becomes Inactive: A Condition-Level Study on CIFAR-10-C [0.0]
テスト時間適応(TTA)は、未ラベルのテストデータを用いてソースモデルを適用することにより、分散シフト下でのモデルロバスト性を改善することを目的としている。
本稿では,BatchNorm-statistics Adapt(BN-Adapt),Entropy-minimization Adapt(TENT),Reliability-statistics Adapt(EATA)の3つのTTA戦略の比較を行った。
3つの手法はすべて、ソースモデルの平均精度を12.2-13.3ポイント向上させる(Wilcoxon sign-rank $p 10-12$)。
論文 参考訳(メタデータ) (2026-08-23T06:06:38Z) - BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。
両課題に対処する統合フレームワークであるBadCLIP++を提案する。
ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。
持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
論文 参考訳(メタデータ) (2026-02-19T08:31:16Z) - A3-TTA: Adaptive Anchor Alignment Test-Time Adaptation for Image Segmentation [17.122762119608144]
テスト時間適応(TTA)は、ドメインシフト下でイメージセグメンテーションモデルをデプロイするための実用的なソリューションを提供する。
我々は,アンカーガイドによる監視を通じて信頼性の高い擬似ラベルを構築するフレームワークである textbfA3-TTA を提案する。
A3-TTAはソースモデルと比較して平均Diceスコアを10.40から17.68ポイント改善する。
論文 参考訳(メタデータ) (2026-02-03T09:18:11Z) - Ultra-Light Test-Time Adaptation for Vision--Language Models [0.6816905600359814]
CLIPのような視覚言語モデル(VLM)は、画像埋め込みとテキスト由来のクラスプロトタイプを比較することで、強力なゼロショット認識を実現する。
ドメインシフトでは、特徴の漂流、クラスプライアミスマッチ、深刻な誤診に悩まされる。
バックボーンを凍結し,ロジットレベルのパラメータのみを適応させる,完全トレーニングフリーでバックプロップフリーなフレームワークであるUltra-Light Test-Time Adaptation (UL-TTA)を提案する。
論文 参考訳(メタデータ) (2025-11-12T08:19:57Z) - Test-Time Adaptation Induces Stronger Accuracy and Agreement-on-the-Line [65.14099135546594]
最近のテスト時間適応 (TTA) 法は, モデルに非常に弱い相関関係を示すシフトであっても, ACL と AGL の傾向を大幅に強化する。
この結果から,TTAとAGLに基づく推定手法を組み合わせることで,より広い分布シフトの集合に対する高精度なモデルOOD性能を推定できることが示唆された。
論文 参考訳(メタデータ) (2023-10-07T23:21:25Z) - Bridging Precision and Confidence: A Train-Time Loss for Calibrating
Object Detection [58.789823426981044]
本稿では,境界ボックスのクラス信頼度を予測精度に合わせることを目的とした,新たな補助損失定式化を提案する。
その結果,列車の走行時間損失はキャリブレーション基準を超過し,キャリブレーション誤差を低減させることがわかった。
論文 参考訳(メタデータ) (2023-03-25T08:56:21Z) - DC4L: Distribution Shift Recovery via Data-Driven Control for Deep Learning Models [4.374569172244273]
学習したモデルに対する制御を用いて、オンライン配信のシフトから回復することを提案する。
提案手法では, 学習セットにシフトしたデータを近づけるために, セマンティック保存変換のシーケンスを適用した。
本稿では,ImageNet-Cベンチマークからのシフトの合成に一般化し,平均精度を最大9.81%向上することを示す。
論文 参考訳(メタデータ) (2023-02-20T22:06:26Z) - Cascaded Regression Tracking: Towards Online Hard Distractor
Discrimination [202.2562153608092]
本稿では,2段階の逐次回帰トラッカーを提案する。
第1段階では, 容易に同定可能な負の候補を抽出する。
第2段階では、残留するあいまいな硬質試料をダブルチェックするために、離散サンプリングに基づくリッジ回帰を設計する。
論文 参考訳(メタデータ) (2020-06-18T07:48:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。