論文の概要: MIRA: Mutual Information guided calibration for Reliable Test-Time Adaptation
- arxiv url: http://arxiv.org/abs/2611.02003v1
- Date: Sun, 01 Nov 2026 15:43:52 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:37:56.016578
- Title: MIRA: Mutual Information guided calibration for Reliable Test-Time Adaptation
- Title(参考訳): MIRA:信頼性試験時間適応のための相互情報誘導校正
- Abstract要約: テスト時間適応(TTA)は、ラベルのないデータのみを使用してデプロイされたモデルを更新する。
信頼性試験時間適応のためのMIRA, Mutual Information Guided calibrationを提案する。
- 参考スコア(独自算出の注目度): 5.221459351553398
- License:
- Abstract: Test-time adaptation (TTA) updates a deployed model using only unlabeled target data, but standard entropy-based methods often rely on deterministic confidence and can reinforce overconfident errors under distribution shift. We propose MIRA, Mutual Information guided calibration for Reliable Test-Time Adaptation, a source-free online adaptation method that uses lightweight last-layer Gaussian perturbations to probe prediction reliability. For each target batch, MIRA reuses a single feature extraction pass and samples perturbed classifiers around the source classifier, forming an efficient local predictive distribution. Rather than fitting a Bayesian posterior, MIRA treats the perturbation scale as a local probing radius and selects a batch-specific scale using mutual information (MI) and prediction agreement. The resulting perturbation-sensitivity signal identifies predictions that are confident and locally stable under classifier perturbations, while suppressing brittle predictions with high stochastic disagreement. MIRA then performs adaptation with an MI-confidence weighted entropy loss, which down-weights perturbation-sensitive or low-confidence samples before they drive entropy minimization. This weighted loss reduces the influence of brittle predictions that can otherwise cause harmful adaptation under distribution shift. The method requires no source data, retraining, model ensembles, or offline posterior fitting, and can be applied as a plug-and-play modification to entropy-minimization TTA. Experiments on distribution-shift benchmarks show improvements in accuracy, calibration, and negative log-likelihood, suggesting that mutual-information-guided perturbation probing and weighted adaptation yield more robust online TTA than deterministic confidence.
- Abstract(参考訳): テスト時間適応(TTA)は、ラベルのないターゲットデータのみを使用してデプロイされたモデルを更新するが、標準的なエントロピーベースの手法は、しばしば決定論的信頼性に依存し、分散シフト下での過信エラーを補強することができる。
MIRA, Mutual Information guided calibration for Reliable Test-Time Adaptation, a source-free online adapt method that using light last-layer Gaussian perturbations to probe prediction reliability。
ターゲットのバッチ毎に、MIRAはソース分類器の周りの単一特徴抽出パスとサンプル摂動分類器を再利用し、効率的な局所予測分布を形成する。
ベイズの後部を合わせるのではなく、MIRAは摂動スケールを局所的な探査半径として扱い、相互情報(MI)と予測合意を用いてバッチ固有のスケールを選択する。
得られた摂動感度信号は、高い確率的不一致を伴う脆性予測を抑えながら、分類器摂動の下で自信があり局所的に安定な予測を識別する。
MIRAはMI信頼度重み付きエントロピー損失に適応し、エントロピーを最小化する前に摂動感度または低信頼度サンプルを減量する。
この重み付き損失は、分散シフトの下で有害な適応を引き起こす可能性のある脆性予測の影響を減少させる。
この方法は、ソースデータ、リトレーニング、モデルアンサンブル、オフライン後部フィッティングを必要とせず、エントロピー最小化TTAへのプラグアンドプレイ修正として適用することができる。
分布シフトベンチマークの実験では、精度、校正、負の対数類似性の改善が示され、相互情報誘導摂動探索と重み付け適応により、決定論的信頼性よりも堅牢なオンラインTTAが得られることが示唆された。
関連論文リスト
- Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [65.21599711087538]
テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。
本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
論文 参考訳(メタデータ) (2024-03-18T05:49:45Z) - Domain-adaptive and Subgroup-specific Cascaded Temperature Regression
for Out-of-distribution Calibration [16.930766717110053]
本稿では, メタセットをベースとした新しい温度回帰法を提案し, ポストホックキャリブレーション法を提案する。
予測されたカテゴリと信頼度に基づいて,各メタセットをサブグループに分割し,多様な不確実性を捉える。
回帰ネットワークは、カテゴリ特化および信頼レベル特化スケーリングを導出し、メタセット間のキャリブレーションを達成するように訓練される。
論文 参考訳(メタデータ) (2024-02-14T14:35:57Z) - Towards Open-Set Test-Time Adaptation Utilizing the Wisdom of Crowds in
Entropy Minimization [47.61333493671805]
テスト時間適応(TTA)メソッドは、未ラベルのターゲットドメインにソース事前学習モデルを適用するために、モデルの予測に依存する。
本稿では, 以下の重要な経験的発見から着想を得た, 単純かつ効果的なサンプル選択法を提案する。
論文 参考訳(メタデータ) (2023-08-14T01:24:18Z) - Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。
分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。
本手法は精度と不確実性の両方を向上することを示す。
論文 参考訳(メタデータ) (2021-09-27T01:09:08Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。