論文の概要: Bridging the Confidence Gap: Temperature Scaling for Calibrating Test-Time Prompt Tuning
- arxiv url: http://arxiv.org/abs/2609.17386v1
- Date: Tue, 15 Sep 2026 16:25:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.61658
- Title: Bridging the Confidence Gap: Temperature Scaling for Calibrating Test-Time Prompt Tuning
- Title（参考訳）: 信頼性ギャップのブリッジ:テスト時間プロンプトチューニングのキャリブレーションのための温度スケーリング
- Abstract要約: テストタイムプロンプトチューニング(TPT)は、単一のテストインスタンスへの適応を可能にし、精度は向上するが、キャリブレーション性能を犠牲にすることが多い。
既存のキャリブレーション手法の多くは、テキスト埋め込み間の分散を促進するために、追加の正規化用語を導入している。
精度を保った簡単なポストホックキャリブレーション法であるCoTSを提案する。
- 参考スコア（独自算出の注目度）: 33.52650319991838
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Test-time prompt tuning (TPT) enables adaptation on a single test instance, achieving improved accuracy but often sacrificing calibration performance. Most existing calibration methods introduce additional regularization terms to promote dispersion across text embeddings and reduce calibration error, yet these methods often suffer from a drop in accuracy. Motivated by the well-calibrated nature of zero-shot predictions, we propose CoTS, a simple yet effective post-hoc calibration method that preserves accuracy. Specifically, CoTS applies temperature scaling to minimize the confidence gap between adapted and zero-shot predictions. To fully exploit the potential of multiple augmentations during adaptation, we introduce a weak-strong ensemble strategy that further boosts accuracy. We then apply CoTS to this ensemble, termed E-CoTS, to maintain its well-calibrated property. Extensive experiments on diverse datasets and backbones show that our approaches effectively mitigate miscalibration without compromising primary accuracy. For instance, E-CoTS reduces the average expected calibration error of TPT from 11.90% to 5.38% on ImageNet variants, while even increasing accuracy from 60.74% to 62.95%. Moreover, when integrated with existing calibration methods, E-CoTS usually enhances both accuracy and calibration simultaneously.
- Abstract（参考訳）: テストタイムプロンプトチューニング(TPT)は、単一のテストインスタンスへの適応を可能にし、精度は向上するが、キャリブレーション性能を犠牲にすることが多い。
既存のキャリブレーション手法の多くは、テキスト埋め込み間の分散を促進し、キャリブレーション誤差を低減するために追加の正規化用語を導入しているが、これらの手法は精度の低下に悩まされることが多い。
ゼロショット予測のキャリブレーション特性に感化されて,精度を保った簡易かつ効果的なポストホックキャリブレーション法であるCoTSを提案する。
特に、CoTSは、適応とゼロショット予測の信頼性ギャップを最小限に抑えるために、温度スケーリングを適用している。
適応中に複数の拡張の可能性をフル活用するために,より精度を高める弱いアンサンブル戦略を導入する。
次に、よく校正された特性を維持するために、このアンサンブルにCoTSを適用し、E-CoTSと呼ぶ。
多様なデータセットやバックボーンに関する大規模な実験は、我々のアプローチが一次精度を損なうことなく、効果的に誤校正を緩和していることを示している。
例えば、E-CoTSは、画像ネットの変種において、TPTの平均キャリブレーション誤差を11.90%から5.38%に削減し、精度を60.74%から62.95%に引き上げている。
さらに、既存のキャリブレーション手法と統合した場合、E-CoTSは通常、精度とキャリブレーションの両方を同時に強化する。
関連論文リスト
- Respect Your Zero-Shot Uncertainty: Conservative Calibration for Test-Time-Adapted Vision-Language Models [5.63022899921334]
TTAは,トップ1の予測と正しさが変わらない場合でも,信頼性を高め,エントロピーを低減することができることを示す。
ゼロショットアンコールドエントロピー(ZAEC)は,ゼロショットエントロピーをサンプル固有の不確実性基準として用いたラベルフリーポストホック法である。
論文 参考訳（メタデータ） (2026-08-06T12:11:53Z) - Too Sharp, Too Sure: When Calibration Follows Curvature [39.687359662779826]
実験的に、期待誤差(ECE)は最適化全体を通して曲率に基づくシャープネスを密に追跡する。
ECE と Gauss-Newton の曲率も,問題固有定数まで制御可能であることを示す。
我々は,頑健な雄の尾と局所的な滑らかさを明確に目標とする辺縁認識トレーニングの目標を導入する。
論文 参考訳（メタデータ） (2026-04-22T14:28:52Z) - Rethinking Early Stopping: Refine, Then Calibrate [49.966899634962374]
キャリブレーション・リファインメント分解の新規な変分定式化について述べる。
我々は,校正誤差と精錬誤差が訓練中に同時に最小化されないという理論的,実証的な証拠を提供する。
論文 参考訳（メタデータ） (2025-01-31T15:03:54Z) - Feature Clipping for Uncertainty Calibration [24.465567005078135]
現代のディープニューラルネットワーク(DNN)は、しばしば過剰な自信に悩まされ、誤校正につながる。
この問題に対処するために,特徴クリッピング(FC)と呼ばれるポストホックキャリブレーション手法を提案する。
FCは特定の閾値に特徴値をクリップし、高い校正誤差サンプルのエントロピーを効果的に増加させる。
論文 参考訳（メタデータ） (2024-10-16T06:44:35Z) - A Confidence Interval for the $\ell_2$ Expected Calibration Error [35.88784957918326]
我々は信頼区間を$ell$ expected the Error (ECE) で開発する。
信頼性キャリブレーションの一般的な概念とキャリブレーションの両方を含む,トップ1からk$のキャリブレーションを考える。
ECEのデバイアスド推定器では、正規性を示すが、校正モデルとミスドモデルに対する収束率と分散は異なる。
論文 参考訳（メタデータ） (2024-08-16T20:00:08Z) - C-TPT: Calibrated Test-Time Prompt Tuning for Vision-Language Models via Text Feature Dispersion [54.81141583427542]
深層学習において,ラベル付きデータを必要としない微調整手法としてテスト時間適応が注目されている。
本稿では,CLIPの固有特性を利用したテスト時プロンプトチューニング時の校正について検討する。
そこで本研究では,C-TPT(Calibrated Test-time Prompt Tuning)という,キャリブレーションの強化によるテスト時間中のプロンプトの最適化手法を提案する。
論文 参考訳（メタデータ） (2024-03-21T04:08:29Z) - Calibration by Distribution Matching: Trainable Kernel Calibration
Metrics [56.629245030893685]
カーネルベースのキャリブレーションメトリクスを導入し、分類と回帰の両方で一般的なキャリブレーションの形式を統一・一般化する。
これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。
決定タスクにキャリブレーションメトリクスを調整し、正確な損失推定を行ない、後悔しない決定を行うための直感的なメカニズムを提供する。
論文 参考訳（メタデータ） (2023-10-31T06:19:40Z) - Sample-dependent Adaptive Temperature Scaling for Improved Calibration [95.7477042886242]
ニューラルネットワークの誤りを補うポストホックアプローチは、温度スケーリングを実行することだ。
入力毎に異なる温度値を予測し、信頼度と精度のミスマッチを調整することを提案する。
CIFAR10/100およびTiny-ImageNetデータセットを用いて,ResNet50およびWideResNet28-10アーキテクチャ上で本手法をテストする。
論文 参考訳（メタデータ） (2022-07-13T14:13:49Z) - Soft Calibration Objectives for Neural Networks [40.03050811956859]
そこで本研究では,一般的なキャリブレーションエラー推定器のソフト(連続)バージョンに基づくキャリブレーション改善のための差別化可能な損失を提案する。
トレーニングに組み込むと、これらのソフトキャリブレーション損失は、1%未満の精度で、複数のデータセットにまたがる最先端の単一モデルECEを実現する。
論文 参考訳（メタデータ） (2021-07-30T23:30:20Z) - Parameterized Temperature Scaling for Boosting the Expressive Power in
Post-Hoc Uncertainty Calibration [57.568461777747515]
我々は新しいキャリブレーション手法であるパラメタライズド温度スケーリング(PTS)を導入する。
最新のポストホックキャリブレータの精度保持性能は、その本質的な表現力によって制限されることを実証します。
当社の新しい精度保存手法が,多数のモデルアーキテクチャやデータセット,メトリクスにおいて,既存のアルゴリズムを一貫して上回っていることを示す。
論文 参考訳（メタデータ） (2021-02-24T10:18:30Z) - Localized Calibration: Metrics and Recalibration [133.07044916594361]
完全大域キャリブレーションと完全個別化キャリブレーションのギャップにまたがる細粒度キャリブレーション指標を提案する。
次に,局所再校正法であるLoReを導入し,既存の校正法よりもLCEを改善する。
論文 参考訳（メタデータ） (2021-02-22T07:22:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。