論文の概要: Multi-Hypothesis Test-Time Adaptation to Mitigate Underspecification
- arxiv url: http://arxiv.org/abs/2607.00259v1
- Date: Tue, 30 Jun 2026 23:12:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.659535
- Title: Multi-Hypothesis Test-Time Adaptation to Mitigate Underspecification
- Title(参考訳): 非特異性を緩和する多相テスト時間適応
- Abstract要約: テスト時間適応(TTA)は、未ラベルのターゲットデータを用いてパラメータを適応させることにより、分散シフト下でのモデルロバスト性を改善することを目指している。
複数の異なるパラメータの更新は同様に低いエントロピーを達成し、決定境界を劇的に異なるものにする。
エントロピー最小化によって誘導される後部インスパイアされたレンズを通してTTAを再解釈し,低エントロピー解がパラメータ上の擬似類似性を定義する。
- 参考スコア(独自算出の注目度): 36.471308624288035
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Test-Time Adaptation (TTA) seeks to improve model robustness under distribution shifts by adapting parameters using unlabeled target data. However, in the absence of supervision, entropy-based adaptation is fundamentally underconstrained: multiple distinct parameter updates can achieve similarly low entropy while inducing drastically different decision boundaries. This phenomenon, known as underspecification, renders standard TTA brittle and prone to collapse into spurious modes. In this work, we reinterpret TTA through a posterior-inspired lens induced by entropy minimization, where low-entropy solutions define a pseudo-likelihood over parameters. Instead of committing to a single point estimate, we introduce a particle-based diversification framework that explores multiple plausible adaptation trajectories simultaneously. Our method can be viewed as a structured exploration of multiple plausible adaptation solutions, implemented through multi-level diversification at the output, parameter, optimizer, and input levels. Crucially, the framework acts as a plug-and-play wrapper compatible with existing TTA methods. Extensive experiments on challenging benchmarks demonstrate consistent gains in stability and robustness, achieving improvements of 3-4% under mixed shifts, 2-3% with batch size one, and 1-2.5% under label shifts, outperforming state-of-the-art baselines. Our results suggest that treating TTA as a multi-hypothesis inference problem, rather than a single-point optimization task, is key to mitigating underspecification and enabling reliable real-world deployment.
- Abstract(参考訳): テスト時間適応(TTA)は、未ラベルのターゲットデータを用いてパラメータを適応させることにより、分散シフト下でのモデルロバスト性を改善することを目指している。
しかし、監督の欠如により、エントロピーに基づく適応は基本的に過小評価され、複数の異なるパラメータの更新は同様に低いエントロピーを達成し、決定境界を劇的に異なるものにする。
この現象は不特定化と呼ばれ、標準的なTTAの脆さを生じさせ、急激なモードに崩壊する。
本研究では,低エントロピー解がパラメータ上の擬似類似性を定義する場合,エントロピー最小化によって誘導される後部インスパイアレンズを用いてTTAを再解釈する。
単一点推定にコミットする代わりに、複数の可算適応軌道を同時に探索する粒子ベースの分散化フレームワークを導入する。
提案手法は,出力,パラメータ,オプティマイザ,入力レベルにおける多段階の多様化を通じて実装された,複数の可算適応解の構造化探索であると見なすことができる。
重要なのは、このフレームワークは既存のTTAメソッドと互換性のあるプラグアンドプレイラッパーとして機能する。
挑戦的なベンチマークに関する大規模な実験では、安定性と堅牢性が一貫した向上を示し、混合シフトでは3.4%、バッチサイズでは2-3%、ラベルシフトでは1-2.5%、最先端のベースラインでは1-2.5%が達成された。
以上の結果から,TTAを単一点最適化タスクではなく多仮説推論問題として扱うことは,不特定性を緩和し,信頼性の高い実世界展開を実現する上で重要であることが示唆された。
関連論文リスト
- Dual Strategies for Test-Time Adaptation [37.36806938657306]
従来のテスト時間適応アプローチは、ごく少数のテストサンプルを使用してモデルを適応させるのが一般的である。
本稿では,より大規模で多様なテストサンプルを活用することで,分散シフトによる性能向上を実現する新しいフレームワークであるDualTTAを紹介する。
論文 参考訳(メタデータ) (2026-04-19T17:04:36Z) - Rethinking Test-Time Training: Tilting The Latent Distribution For Few-Shot Source-Free Adaptation [3.5808917363708743]
完全に凍結したモデル体制下で, 数ショット分類のための基礎モデルの試験時間適応について検討した。
本稿では,エンコーダによって誘導される潜伏埋め込み分布に対して,測定値の変更を行うことにより,新しいタスクに予測を適応させる,最初のトレーニング不要推論手法を提案する。
論文 参考訳(メタデータ) (2026-02-02T18:17:29Z) - MoETTA: Test-Time Adaptation Under Mixed Distribution Shifts with MoE-LayerNorm [13.63833424954647]
テスト時間適応(TTA)は、単一領域の分散シフト下での性能低下を軽減するのに有効であることが証明されている。
我々は,Mixture-of-Expertsアーキテクチャを統合した,新しいエントロピーベースのTTAフレームワークであるMoETTAを提案する。
論文 参考訳(メタデータ) (2025-11-14T10:24:06Z) - Adapt in the Wild: Test-Time Entropy Minimization with Sharpness and Feature Regularization [85.50560211492898]
テスト時適応(TTA)は、テストデータが分散シフトが混在している場合、モデルの性能を改善または損なう可能性がある。
これはしばしば、既存のTTAメソッドが現実世界にデプロイされるのを防ぐ重要な障害である。
両面からTTAを安定化させるため,SARと呼ばれる鋭く信頼性の高いエントロピー最小化手法を提案する。
論文 参考訳(メタデータ) (2025-09-05T10:03:00Z) - Advancing Reliable Test-Time Adaptation of Vision-Language Models under Visual Variations [67.35596444651037]
視覚言語モデル(VLM)は、素晴らしいゼロショット機能を示すが、ラベル付きデータが利用できない場合、下流タスクの分散シフトに苦慮する。
本稿では,信頼性を両面から高めるReliable Test-Time Adaptation (ReTA)法を提案する。
論文 参考訳(メタデータ) (2025-07-13T05:37:33Z) - ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。
巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
論文 参考訳(メタデータ) (2024-12-11T12:31:30Z) - ETAGE: Enhanced Test Time Adaptation with Integrated Entropy and Gradient Norms for Robust Model Performance [18.055032898349438]
テスト時間適応(TTA)は、トレーニング分布から逸脱した未確認のテストデータを扱うために、ディープラーニングモデルを備えている。
本稿では,エントロピー最小化と勾配ノルム,PLPDを統合した改良TTA手法ETAGEを紹介する。
提案手法は,高エントロピーと高勾配ノルムを適応から組み合わせることで,不安定を生じにくいサンプルを優先する。
論文 参考訳(メタデータ) (2024-09-14T01:25:52Z) - Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [65.21599711087538]
テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。
本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
論文 参考訳(メタデータ) (2024-03-18T05:49:45Z) - Persistent Test-time Adaptation in Recurring Testing Scenarios [12.024233973321756]
現在のテスト時間適応(TTA)アプローチは、継続的に変化する環境に機械学習モデルを適用することを目的としている。
しかし,TTA法が長期にわたって適応性を維持することができるかどうかは不明である。
本稿では,モデルが崩壊に向かって変動していることを検知し,適応戦略を調整する永続的TTA(PeTTA)を提案する。
論文 参考訳(メタデータ) (2023-11-30T02:24:44Z) - On Pitfalls of Test-Time Adaptation [82.8392232222119]
TTA(Test-Time Adaptation)は、分散シフトの下で堅牢性に取り組むための有望なアプローチとして登場した。
TTABは,10の最先端アルゴリズム,多種多様な分散シフト,および2つの評価プロトコルを含むテスト時間適応ベンチマークである。
論文 参考訳(メタデータ) (2023-06-06T09:35:29Z) - Towards Stable Test-Time Adaptation in Dynamic Wild World [60.98073673220025]
テスト時間適応(TTA)は、与えられたモデルをテストサンプルに適応させることで、トレーニングとテストデータの分散シフトに取り組むのに有効であることが示されている。
TTAのオンラインモデル更新は不安定であり、これはしばしば既存のTTAメソッドが現実世界にデプロイされるのを防ぐ重要な障害である。
論文 参考訳(メタデータ) (2023-02-24T02:03:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。