論文の概要: Test Time Adaptation Using Adaptive Quantile Recalibration
- arxiv url: http://arxiv.org/abs/2511.03148v1
- Date: Wed, 05 Nov 2025 03:12:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-06 18:19:32.310344
- Title: Test Time Adaptation Using Adaptive Quantile Recalibration
- Title(参考訳): Adaptive Quantile Recalibration を用いたテスト時間適応
- Authors: Paria Mehrbod, Pedro Vianna, Geraldin Nanfack, Guy Wolf, Eugene Belilovsky,
- Abstract要約: ドメイン適応は、現実世界のシナリオにおけるディープラーニングモデルの一般化性を高めるための重要な戦略である。
バッチ正規化統計更新に基づく最近のテスト時間適応手法は、教師なし適応を可能にする。
本稿では、チャネルワイズで量子を整列させることにより、事前アクティベーション分布を変更するテスト時間適応手法であるAdaptive Quantile Recalibration (AQR)を提案する。
- 参考スコア(独自算出の注目度): 19.97106215064574
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Domain adaptation is a key strategy for enhancing the generalizability of deep learning models in real-world scenarios, where test distributions often diverge significantly from the training domain. However, conventional approaches typically rely on prior knowledge of the target domain or require model retraining, limiting their practicality in dynamic or resource-constrained environments. Recent test-time adaptation methods based on batch normalization statistic updates allow for unsupervised adaptation, but they often fail to capture complex activation distributions and are constrained to specific normalization layers. We propose Adaptive Quantile Recalibration (AQR), a test-time adaptation technique that modifies pre-activation distributions by aligning quantiles on a channel-wise basis. AQR captures the full shape of activation distributions and generalizes across architectures employing BatchNorm, GroupNorm, or LayerNorm. To address the challenge of estimating distribution tails under varying batch sizes, AQR incorporates a robust tail calibration strategy that improves stability and precision. Our method leverages source-domain statistics computed at training time, enabling unsupervised adaptation without retraining models. Experiments on CIFAR-10-C, CIFAR-100-C, and ImageNet-C across multiple architectures demonstrate that AQR achieves robust adaptation across diverse settings, outperforming existing test-time adaptation baselines. These results highlight AQR's potential for deployment in real-world scenarios with dynamic and unpredictable data distributions.
- Abstract(参考訳): ドメイン適応は、実世界のシナリオにおけるディープラーニングモデルの一般化性を高めるための重要な戦略である。
しかし、従来のアプローチは、通常、対象ドメインの事前の知識に依存するか、あるいはモデルの再訓練を必要とし、動的またはリソース制約のある環境での実用性を制限する。
バッチ正規化統計更新に基づく最近のテスト時間適応手法は、教師なし適応を可能にするが、複雑な活性化分布を捕捉できず、特定の正規化層に制約されることが多い。
本稿では、チャネルワイズで量子を整列させることにより、事前アクティベーション分布を変更するテスト時間適応手法であるAdaptive Quantile Recalibration (AQR)を提案する。
AQRはアクティベーション分布の完全な形状をキャプチャし、BatchNorm、GroupNorm、LayerNormを使用したアーキテクチャを一般化する。
様々なバッチサイズで分布尾を推定する課題に対処するため、AQRは安定性と精度を向上させる堅牢なテール校正戦略を取り入れている。
本手法は,トレーニング時に計算したソース領域統計を利用して,モデルの再学習なしに教師なし適応を可能にする。
CIFAR-10-C、CIFAR-100-C、ImageNet-Cを複数のアーキテクチャで実験した結果、AQRはさまざまな設定にまたがって堅牢な適応を実現し、既存のテスト時間適応ベースラインを上回っている。
これらの結果は、動的で予測不可能なデータ分散を伴う実世界のシナリオにAQRが展開する可能性を強調している。
関連論文リスト
- ReservoirTTA: Prolonged Test-time Adaptation for Evolving and Recurring Domains [25.075869018443925]
ReservoirTTAは、長期間のテスト時間適応のために設計された新しいプラグインフレームワークである。
中心となるReservoirTTAはドメイン特化モデルの貯水池を維持している。
理論的解析により,パラメータの分散を束縛し,モデル崩壊を防ぐ重要な要素が明らかになった。
論文 参考訳(メタデータ) (2025-05-20T15:39:20Z) - IT$^3$: Idempotent Test-Time Training [95.78053599609044]
ディープラーニングモデルは、トレーニングデータとテストデータの間の分散シフトのために、現実世界の環境にデプロイする際に苦労することが多い。
Idempotent Test-Time Training (IT$3$) は、現在のテストインスタンスのみを使用して、分散シフトへのオンザフライ適応を可能にする新しいアプローチである。
この結果から,イデオポテンスはドメインやアーキテクチャをまたいで一般化するテスト時間適応の普遍的原理を提供すると考えられる。
論文 参考訳(メタデータ) (2024-10-05T15:39:51Z) - Enhancing Test Time Adaptation with Few-shot Guidance [62.49199492255226]
深層ニューラルネットワークは、トレーニング(ソース)とテスト(ターゲット)データのドメインシフトに直面しながら、大きなパフォーマンス低下に直面することが多い。
TTA(Test Time Adaptation)法は,事前学習したソースモデルを用いて,配信外ストリーミングターゲットデータを処理する手法として提案されている。
本稿では,Few-Shot Test Time Adaptation (FS-TTA) を開発した。
論文 参考訳(メタデータ) (2024-09-02T15:50:48Z) - AR-TTA: A Simple Method for Real-World Continual Test-Time Adaptation [1.4530711901349282]
本稿では,自律運転のためのデータセット,すなわちCLAD-CとShiFTを用いたテスト時間適応手法の検証を提案する。
現在のテスト時間適応手法は、ドメインシフトの様々な程度を効果的に扱うのに苦労している。
モデル安定性を高めるために、小さなメモリバッファを組み込むことで、確立された自己学習フレームワークを強化する。
論文 参考訳(メタデータ) (2023-09-18T19:34:23Z) - Consistency Regularization for Generalizable Source-free Domain
Adaptation [62.654883736925456]
ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。
既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。
より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-03T07:45:53Z) - Semantic Self-adaptation: Enhancing Generalization with a Single Sample [45.111358665370524]
セマンティックセグメンテーションのための自己適応型アプローチを提案する。
整合正則化を用いて畳み込み層のパラメータを入力画像に微調整する。
実験により, 自己適応は訓練時のモデル正規化の確立した実践を補完する可能性が示唆された。
論文 参考訳(メタデータ) (2022-08-10T12:29:01Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Adaptive Risk Minimization: Learning to Adapt to Domain Shift [109.87561509436016]
ほとんどの機械学習アルゴリズムの基本的な前提は、トレーニングとテストデータは、同じ基礎となる分布から引き出されることである。
本研究では,学習データをドメインに構造化し,複数のテスト時間シフトが存在する場合の領域一般化の問題点について考察する。
本稿では、適応リスク最小化(ARM)の枠組みを紹介し、モデルがトレーニング領域に適応することを学ぶことで、効果的な適応のために直接最適化される。
論文 参考訳(メタデータ) (2020-07-06T17:59:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。