論文の概要: Adaptive Debiasing Tsallis Entropy for Test-Time Adaptation

• arxiv url: http://arxiv.org/abs/2602.11743v1
• Date: Thu, 12 Feb 2026 09:12:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-13 21:07:25.740806
• Title: Adaptive Debiasing Tsallis Entropy for Test-Time Adaptation
• Title（参考訳）: テスト時間適応のための適応的デバイアス・タリスエントロピー
• Authors: Xiangyu Wu, Dongming Jiang, Feng Yu, Yueying Tian, Jiaqi Tang, Qing-Guo Chen, Yang Yang, Jianfeng Lu,
• Abstract要約: Tsallis Entropy (TE) は偏り分布の特徴付けに自然に適していることを示す。 TEを適応的デバイアス(adaptive Debiasing Tsallis Entropy, ADTE)に一般化した。 TEとADTEはいずれも,TTAにおけるSEの直接的,先進的な代替手段として機能することを明らかにする。
• 参考スコア（独自算出の注目度）: 15.036799109555966
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Mainstream Test-Time Adaptation (TTA) methods for adapting vision-language models, e.g., CLIP, typically rely on Shannon Entropy (SE) at test time to measure prediction uncertainty and inconsistency. However, since CLIP has a built-in bias from pretraining on highly imbalanced web-crawled data, SE inevitably results in producing biased estimates of uncertainty entropy. To address this issue, we notably find and demonstrate that Tsallis Entropy (TE), a generalized form of SE, is naturally suited for characterizing biased distributions by introducing a non-extensive parameter q, with the performance of SE serving as a lower bound for TE. Building upon this, we generalize TE into Adaptive Debiasing Tsallis Entropy (ADTE) for TTA, customizing a class-specific parameter q^l derived by normalizing the estimated label bias from continuously incoming test instances, for each category. This adaptive approach allows ADTE to accurately select high-confidence views and seamlessly integrate with a label adjustment strategy to enhance adaptation, without introducing distribution-specific hyperparameter tuning. Besides, our investigation reveals that both TE and ADTE can serve as direct, advanced alternatives to SE in TTA, without any other modifications. Experimental results show that ADTE outperforms state-of-the-art methods on ImageNet and its five variants, and achieves the highest average performance on 10 cross-domain benchmarks, regardless of the model architecture or text prompts used. Our code is available at https://github.com/Jinx630/ADTE.
• Abstract（参考訳）: メインストリームテスト時間適応(TTA)メソッドは、一般的に、予測の不確実性と矛盾性を測定するために、テスト時にシャノンエントロピー(SE)に依存する。 しかし、CLIPは、高度に不均衡なWebcrawledデータに対する事前トレーニングのバイアスが組み込まれているため、SEは必然的に不確実性エントロピーのバイアス付き推定を生成する。 この問題に対処するために、SE の一般化形式である Tsallis Entropy (TE) が、非指数パラメータ q を導入して偏り分布を特徴づけるのに自然に適しており、SE は TE の下位境界として機能することを示した。 これに基づいて、TEをTTAの適応的デバイアス(adaptive Debiasing Tsallis Entropy)に一般化し、各カテゴリに対して、推定されたラベルバイアスを連続するテストインスタンスから正規化するクラス固有のパラメータ q^l をカスタマイズする。 この適応的アプローチにより、ADTEは、分布固有のハイパーパラメータチューニングを導入することなく、信頼性の高いビューを正確に選択し、ラベル調整戦略とシームレスに統合し、適応性を高めることができる。 さらに, TEおよびADTEはTTAにおけるSEの直接的, 先進的な代替手段として機能し, その他の変更を加えることなく機能することを明らかにした。 実験の結果,ADTEはImageNetとその5つの変種において最先端の手法よりも優れており,モデルアーキテクチャやテキストプロンプトに関わらず,10のクロスドメインベンチマーク上で最高の平均性能を達成していることがわかった。 私たちのコードはhttps://github.com/Jinx630/ADTE.comで公開されています。

関連論文リスト

• ETAGE: Enhanced Test Time Adaptation with Integrated Entropy and Gradient Norms for Robust Model Performance [18.055032898349438]
  テスト時間適応(TTA)は、トレーニング分布から逸脱した未確認のテストデータを扱うために、ディープラーニングモデルを備えている。 本稿では,エントロピー最小化と勾配ノルム,PLPDを統合した改良TTA手法ETAGEを紹介する。 提案手法は,高エントロピーと高勾配ノルムを適応から組み合わせることで,不安定を生じにくいサンプルを優先する。
  論文  参考訳（メタデータ） (2024-09-14T01:25:52Z)
• Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [65.21599711087538]
  テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。 本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:49:45Z)
• Diverse Data Augmentation with Diffusions for Effective Test-time Prompt Tuning [73.75282761503581]
  DiffTPTを提案する。DiffTPTは,事前学習した拡散モデルを用いて,多種多様な情報データを生成する。 DiffTPTがゼロショット精度を平均5.13%向上することを示す。
  論文  参考訳（メタデータ） (2023-08-11T09:36:31Z)
• On Pitfalls of Test-Time Adaptation [82.8392232222119]
  TTA(Test-Time Adaptation)は、分散シフトの下で堅牢性に取り組むための有望なアプローチとして登場した。 TTABは,10の最先端アルゴリズム,多種多様な分散シフト,および2つの評価プロトコルを含むテスト時間適応ベンチマークである。
  論文  参考訳（メタデータ） (2023-06-06T09:35:29Z)
• DELTA: degradation-free fully test-time adaptation [59.74287982885375]
  テスト時間バッチ正規化(BN)や自己学習といった,一般的な適応手法では,2つの好ましくない欠陥が隠されていることがわかった。 まず、テスト時間BNにおける正規化統計は、現在受信されているテストサンプルに完全に影響され、その結果、不正確な推定結果が得られることを明らかにする。 第二に、テスト時間適応中にパラメータ更新が支配的なクラスに偏っていることを示す。
  論文  参考訳（メタデータ） (2023-01-30T15:54:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。