論文の概要: On the Learnability of Test-Time Adaptation: A Recovery Complexity Perspective
- arxiv url: http://arxiv.org/abs/2605.28057v1
- Date: Wed, 27 May 2026 07:04:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:55.83188
- Title: On the Learnability of Test-Time Adaptation: A Recovery Complexity Perspective
- Title(参考訳): テスト時間適応の学習可能性について:回復複雑性の観点から
- Authors: Zhi Zhou, Ming Yang, Shi-Yu Tian, Kun-Yang Yu, Lan-Zhe Guo, Yu-Feng Li,
- Abstract要約: テスト時適応(TTA)は、ラベル付きデータを必要とせずに、非定常テストストリーム上で信頼性の高いパフォーマンスを維持するためにモデルを適応することを目的としている。
実証的な成功にもかかわらず、非定常ストリーム下でのTTAの学習性は未解明のままである。
本稿では、TTAの学習可能性を研究するための最初の理論的枠組みを提案し、$(,)$-Recovery Complexityと$(,)$-TTA Learnabilityを導入する。
- 参考スコア(独自算出の注目度): 25.09429306908567
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Test-time adaptation (TTA) aims to adapt models to maintain reliable performance on non-stationary test streams without requiring labeled data. Despite its empirical success, the learnability of TTA under non-stationary streams remains unexplored. A key challenge is the lack of a principled theoretical framework that simultaneously aligns with the TTA objective and captures both continuously evolving distribution shifts and intrinsic information constraints. To address this gap, we propose the first theoretical framework for studying the learnability of TTA and introduce $(ε,δ)$-Recovery Complexity and $(ε,ρ)$-TTA Learnability. Recovery complexity measures the post-shift time needed to maintain excess risk below a target level with high probability, and is further extended to TTA learnability, which measures the long-term reliability of TTA. Within this framework, we introduce a novel discrete surrogate for non-stationary test streams, enabling a unified and tractable analysis of both gradual and abrupt shifts. We derive order-wise matching lower and upper bounds on recovery complexity, revealing fundamental limits of TTA and an intrinsic adaptivity-information trade-off. These results provide unified learnability guarantees for TTA that complement regret-based analyses.
- Abstract(参考訳): テスト時適応(TTA)は、ラベル付きデータを必要とせずに、非定常テストストリーム上で信頼性の高いパフォーマンスを維持するためにモデルを適応することを目的としている。
実証的な成功にもかかわらず、非定常ストリーム下でのTTAの学習性は未解明のままである。
鍵となる課題は、TTAの目標と同時に一致し、継続的な分散シフトと本質的な情報制約の両方をキャプチャする原則的な理論フレームワークの欠如である。
このギャップに対処するために、TTAの学習可能性を研究するための最初の理論的枠組みを提案し、$(ε,δ)$-Recovery Complexityと$(ε,ρ)$-TTA Learnabilityを導入する。
回復複雑性は、ターゲットレベル以下で過剰なリスクを維持するのに必要なポストシフト時間を測定するとともに、TTAの長期的な信頼性を測定するTTA学習性にまで拡張される。
本フレームワークでは,非定常テストストリームに対する離散サロゲートを導入し,段階的および突発的なシフトの統一的かつトラクタブルな解析を可能にする。
我々は、TTAの基本的限界と本質的な適応性-情報トレードオフを明らかにする。
これらの結果は、後悔に基づく分析を補完するTTAに対して、統一的な学習可能性保証を提供する。
関連論文リスト
- Test-Time Adaptation for Tactile-Vision-Language Models [6.918033886034668]
触覚ビジョン言語(TVL)モデルは、現実のロボットやマルチモーダルな知覚タスクにますます多くデプロイされている。
既存のテスト時間適応法は、一様条件下でのフィルタリングを提供するが、モーダルシフトの下でのモダリティの信頼性の明示的な扱いは欠如している。
本稿では,予測の不確実性と摂動に基づく応答からモダリティ毎の信頼性を推定する信頼性認識フレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-31T02:26:01Z) - Neutralizing Token Aggregation via Information Augmentation for Efficient Test-Time Adaptation [59.1067331268383]
TTA(Test-Time Adaptation)は、視覚変換器(ViT)を追加のトレーニングデータなしで分散シフトに適応するための有効なソリューションとして登場した。
推論コストを削減するために、プラグイン・アンド・プレイのトークン・アグリゲーション手法はViTに冗長なトークンをマージし、全処理されたトークンを減らす。
我々はこの問題をETTA(Efficient Test-Time Adaptation)として定式化し、推論遅延を低減しつつTTAの適応性を維持する。
論文 参考訳(メタデータ) (2025-08-05T12:40:55Z) - The Illusion of Progress? A Critical Look at Test-Time Adaptation for Vision-Language Models [86.9724209223541]
視覚言語モデル(VLM)上でのTTA手法評価のための総合ベンチマークであるTTA-VLMを紹介する。
本ベンチマークでは,8つのエピソードなTTAメソッドと7つのオンラインTTAメソッドを,統一的かつ再現可能なフレームワーク内に実装し,広く使用されている15のデータセットで評価する。
1)既存のTTA手法は,従来の先駆的手法と比較して限られた利得が得られること,2)現在のTTA手法は訓練時の微調整手法との連携が不十分であること,3)モデルの信頼性を低下させるコストがしばしば発生すること,などが判明した。
論文 参考訳(メタデータ) (2025-06-30T16:05:55Z) - ConCISE: Confidence-guided Compression in Step-by-step Efficient Reasoning [64.93140713419561]
大型推論モデル (LRM) は、Chain-of-Thought (CoT) による複雑な推論タスクで強く機能するが、しばしば冗長な出力に悩まされる。
既存の微調整ベースの圧縮手法は、ポストホックプルーニングを動作させるか、コヒーレンスを推論する破壊を危険にさらすか、サンプリングベースの選択に依存するかのいずれかである。
ConCISEは、簡潔な推論連鎖を生成するために設計されたフレームワークであり、信頼注入を統合して推論の信頼性を高める。
論文 参考訳(メタデータ) (2025-05-08T01:40:40Z) - Global Convergence of Continual Learning on Non-IID Data [51.99584235667152]
回帰モデルの連続学習のための総合的・包括的理論的解析を行う。
一般データ条件下で連続学習のほぼ確実に収束する結果を初めて確立する。
論文 参考訳(メタデータ) (2025-03-24T10:06:07Z) - Persistent Test-time Adaptation in Recurring Testing Scenarios [12.024233973321756]
現在のテスト時間適応(TTA)アプローチは、継続的に変化する環境に機械学習モデルを適用することを目的としている。
しかし,TTA法が長期にわたって適応性を維持することができるかどうかは不明である。
本稿では,モデルが崩壊に向かって変動していることを検知し,適応戦略を調整する永続的TTA(PeTTA)を提案する。
論文 参考訳(メタデータ) (2023-11-30T02:24:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。