論文の概要: Respect Your Zero-Shot Uncertainty: Conservative Calibration for Test-Time-Adapted Vision-Language Models
- arxiv url: http://arxiv.org/abs/2608.05945v1
- Date: Thu, 06 Aug 2026 12:11:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.899667
- Title: Respect Your Zero-Shot Uncertainty: Conservative Calibration for Test-Time-Adapted Vision-Language Models
- Title（参考訳）: ゼロショットの不確かさを尊重する:テスト時間適応型視覚言語モデルの保守的校正
- Abstract要約: TTAは,トップ1の予測と正しさが変わらない場合でも,信頼性を高め,エントロピーを低減することができることを示す。
ゼロショットアンコールドエントロピー(ZAEC)は,ゼロショットエントロピーをサンプル固有の不確実性基準として用いたラベルフリーポストホック法である。
- 参考スコア（独自算出の注目度）: 5.63022899921334
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Test-time adaptation (TTA) can improve the recognition accuracy of vision-language models under distribution shift, but often degrades calibration, making predictive confidence unreliable for downstream decision-making. Many existing label-free calibration approaches are either coupled to prompt optimization or rely on logit-range statistics that provide only a coarse characterization of the predictive distribution. We show that TTA can increase confidence and reduce entropy even when the top-1 prediction and its correctness remain unchanged, a failure mode we term prediction-preserving sharpening. Across diverse TTA methods and benchmarks, larger entropy reductions relative to paired zero-shot predictions are associated with greater increases in Expected Calibration Error (ECE). On entropy-reduced samples, confidence gains also tend to exceed accuracy gains. Based on these findings, we propose Zero-Shot-Anchored Entropy Calibration (ZAEC), a label-free post-hoc method that uses zero-shot entropy as a sample-specific uncertainty reference. ZAEC selectively restores the zero-shot entropy of sharpened predictions through minimal temperature scaling while leaving all other predictions unchanged. It requires no labeled calibration data or learned parameters and preserves class rankings and classification accuracy. Across five TTA methods and 15 datasets, ZAEC achieves the lowest post-hoc macro-average ECE on ViT-B/16, with consistent gains on RN50.
- Abstract（参考訳）: テスト時適応(TTA)は、分布シフト中の視覚言語モデルの認識精度を向上させることができるが、しばしば校正を低下させ、下流の意思決定において予測的自信を信頼できないようにする。
多くの既存のラベルフリーキャリブレーション手法は、最適化を早めるために結合されるか、予測分布の粗い特性のみを提供するロジトレンジ統計に依存する。
我々は,トップ1予測とその正しさが変化しない場合でも,TTAは信頼性を高め,エントロピーを低減することができることを示す。
様々なTTA手法とベンチマークにより、ペア化されたゼロショット予測に対するエントロピーの減少は、期待される校正誤差(ECE)の増大と関連している。
エントロピー還元サンプルでは、信頼性ゲインも精度ゲインを超える傾向にある。
これらの知見に基づき,ゼロショットアンコールエントロピー校正法 (ZAEC) を提案する。
ZAECは、他の全ての予測を変更せずに、最小温度のスケーリングによって、シャープな予測のゼロショットエントロピーを選択的に復元する。
ラベル付きキャリブレーションデータや学習パラメータは必要とせず、クラスランキングと分類精度を保持する。
5つのTTAメソッドと15のデータセットにまたがって、ZAECは、ViT-B/16上でのホット後のマクロ平均ECEが最も低く、RN50では一貫して上昇している。
関連論文リスト
- Bridging the Confidence Gap: Temperature Scaling for Calibrating Test-Time Prompt Tuning [33.52650319991838]
テストタイムプロンプトチューニング(TPT)は、単一のテストインスタンスへの適応を可能にし、精度は向上するが、キャリブレーション性能を犠牲にすることが多い。
既存のキャリブレーション手法の多くは、テキスト埋め込み間の分散を促進するために、追加の正規化用語を導入している。
精度を保った簡単なポストホックキャリブレーション法であるCoTSを提案する。
論文 参考訳（メタデータ） (2026-09-15T16:25:48Z) - Rethinking the Test-Time Prompt Tuning Objective from the Perspective of Calibration [14.593876228926185]
テスト時間プロンプトチューニング(TPT)は強力なパラダイムとして登場し、複数の拡張ビュー上でエントロピー最小化(EM)を介して各テストサンプルに対してプロンプトを精製する。
本稿では,従来のEM損失の代替として,クロスエントロピーによる拡張ビューから導出される目標分布と,オリジナルビュー予測を一致させることを提案する。
我々は,信頼度に応じて各拡張ビュー予測に信頼性を考慮した温度スケーリングを適用し,不確かさを和らげつつ,信頼度予測を鋭くする。
論文 参考訳（メタデータ） (2026-08-31T04:33:05Z) - Robust Fine-tuning of Zero-shot Models via Variance Reduction [56.360865951192324]
微調整ゼロショットモデルの場合、このデシドラトゥムは細調整モデルで、分布内(ID)と分布外(OOD)の両方で優れる。
トレードオフを伴わずに最適なIDとOODの精度を同時に達成できるサンプルワイズアンサンブル手法を提案する。
論文 参考訳（メタデータ） (2024-11-11T13:13:39Z) - Calibrating Language Models with Adaptive Temperature Scaling [58.056023173579625]
本稿では,各トークンの温度スケーリングパラメータを予測するポストホックキャリブレーション法であるAdaptive Temperature Scaling (ATS)を紹介する。
ATSは、以前のキャリブレーション法と比較して、3つの下流自然言語評価ベンチマークで10-50%以上のキャリブレーションを改善する。
論文 参考訳（メタデータ） (2024-09-29T22:54:31Z) - A Confidence Interval for the $\ell_2$ Expected Calibration Error [35.88784957918326]
我々は信頼区間を$ell$ expected the Error (ECE) で開発する。
信頼性キャリブレーションの一般的な概念とキャリブレーションの両方を含む,トップ1からk$のキャリブレーションを考える。
ECEのデバイアスド推定器では、正規性を示すが、校正モデルとミスドモデルに対する収束率と分散は異なる。
論文 参考訳（メタデータ） (2024-08-16T20:00:08Z) - Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [65.21599711087538]
テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。
本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
論文 参考訳（メタデータ） (2024-03-18T05:49:45Z) - Does confidence calibration improve conformal prediction? [10.340903334800787]
適応型共形予測において、電流信頼度校正法がより大きな予測セットをもたらすことを示す。
温度値の役割を調べることにより,高信頼度予測が適応型等角予測の効率を高めることが確認された。
本稿では,予測セットの効率を向上させるために,新しい損失関数を備えた温度スケーリングの変種である Conformal Temperature Scaling (ConfTS) を提案する。
論文 参考訳（メタデータ） (2024-02-06T19:27:48Z) - Sample-dependent Adaptive Temperature Scaling for Improved Calibration [95.7477042886242]
ニューラルネットワークの誤りを補うポストホックアプローチは、温度スケーリングを実行することだ。
入力毎に異なる温度値を予測し、信頼度と精度のミスマッチを調整することを提案する。
CIFAR10/100およびTiny-ImageNetデータセットを用いて,ResNet50およびWideResNet28-10アーキテクチャ上で本手法をテストする。
論文 参考訳（メタデータ） (2022-07-13T14:13:49Z) - Revisiting Calibration for Question Answering [16.54743762235555]
従来のキャリブレーション評価はモデル信頼性の有用性を反映していないと論じる。
モデルが誤った予測に低信頼を割り当て、正しい予測に高信頼を割り当てているかどうかをよりよく把握する新しい校正基準であるMacroCEを提案する。
論文 参考訳（メタデータ） (2022-05-25T05:49:56Z) - Taming Overconfident Prediction on Unlabeled Data from Hindsight [50.9088560433925]
ラベルのないデータに対する予測の不確実性を最小化することは、半教師付き学習において優れた性能を達成するための鍵となる要素である。
本稿では,アダプティブシャーニング(Adaptive Sharpening, ADS)と呼ばれる2つのメカニズムを提案する。
ADSは、プラグインにすることで最先端のSSLメソッドを大幅に改善する。
論文 参考訳（メタデータ） (2021-12-15T15:17:02Z) - Parameterized Temperature Scaling for Boosting the Expressive Power in
Post-Hoc Uncertainty Calibration [57.568461777747515]
我々は新しいキャリブレーション手法であるパラメタライズド温度スケーリング(PTS)を導入する。
最新のポストホックキャリブレータの精度保持性能は、その本質的な表現力によって制限されることを実証します。
当社の新しい精度保存手法が,多数のモデルアーキテクチャやデータセット,メトリクスにおいて,既存のアルゴリズムを一貫して上回っていることを示す。
論文 参考訳（メタデータ） (2021-02-24T10:18:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。