論文の概要: Invertible Logits Transformation for Accuracy-Preserving Post-Hoc Uncertainty Calibration
- arxiv url: http://arxiv.org/abs/2608.10372v1
- Date: Tue, 11 Aug 2026 02:08:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:45.863132
- Title: Invertible Logits Transformation for Accuracy-Preserving Post-Hoc Uncertainty Calibration
- Title（参考訳）: 精度保存型ポストホック不確実性校正のための可逆ロジット変換
- Abstract要約: 理想的な校正器は、非線形の誤校正を補正し、大きなラベル空間に優雅にスケールし、元の予測を保存する必要がある。
InvLTは、標準キャリブレーション基準の幅広いポストホックベースラインを一貫して上回っている。
- 参考スコア（独自算出の注目度）: 10.333478793903724
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Post-hoc calibration aligns a classifier's predicted confidences with its empirical accuracy without retraining. An ideal calibrator should correct nonlinear miscalibration, scale gracefully to large label spaces, and preserve the original predictions; existing methods typically violate at least one of these properties---temperature scaling lacks expressivity, more flexible parametric alternatives introduce parameters that grow with the number of classes $C$, and other expressive methods do not preserve the rank ordering of class scores and may alter the predicted class. We propose \textbf{Invertible Logits Transformation (InvLT)}, which applies a learned scalar MLP $f:\mathbb{R}\to\mathbb{R}$ element-wise to the pre-softmax logits. Sharing $f$ across all logit dimensions makes the parameter count independent of $C$. Monotonicity of $f$---and hence preservation of the argmax prediction---is softly encouraged via a paired inverse network rather than enforced through the numerical integration required by prior monotone calibrators; this avoids their computational overhead while empirically preserving the original classification accuracy in every setting we evaluate. Across standard image classification benchmarks and a range of architectures, InvLT consistently outperforms a broad set of post-hoc baselines on standard calibration metrics.
- Abstract（参考訳）: ポストホック校正は、分類器の予測された信頼度を、再訓練せずに経験的精度と整合させる。
理想的な校正器は、非線形の誤校正を正し、大きなラベル空間に優雅にスケールし、元の予測を保たなければならない; 既存の手法は通常、これらの特性の少なくとも1つに違反する - 温度スケーリングは表現性に欠け、より柔軟なパラメトリックな代替手段は、クラス数$C$で成長するパラメータを導入し、他の表現的手法はクラススコアの順序を保たず、予測されたクラスを変更する。
学習したスカラーMLP $f:\mathbb{R}\to\mathbb{R}$ element-wise to the pre-softmax logits。
すべてのロジット次元で$f$を共有すると、パラメータカウントは$C$とは独立になる。
モノトニック性は$f$-であり、したがってargmax予測の保存は、従来のモノトーンキャリブレータが必要とする数値積分によって強制されるのではなく、ペア化された逆ネットワークを介してソフトに促進される。
標準画像分類ベンチマークと様々なアーキテクチャで、InvLTは標準キャリブレーションメトリクスの幅広いポストホックベースラインを一貫して上回っている。
関連論文リスト
- Rethinking Post-Hoc Calibration in Semantic Segmentation [2.8002121919083685]
ポストホックキャリブレーションは、セグメンテーションモデルを再訓練することなく、信頼度推定を補正する実用的な方法を提供する。
まず、全てのロジットに定数を加えるとソフトマックス確率は変わらないが、いくつかの標準校正器はこの任意のオフセットに依存することができる。
第二に、ポストホックキャリブレーションは通常、可能性に基づく目的を最小化することで適合するが、セグメンテーションモデルはDiceのようなタスク固有のメトリクスで訓練される。
論文 参考訳（メタデータ） (2026-07-02T09:01:21Z) - CaliDist: Calibrating Large Language Models via Behavioral Robustness to Distraction [51.56484100374058]
既存のLLM(Large Language Models)のキャリブレーション手法は、しばしば信頼性の重要な次元、すなわちモデルの振舞いの堅牢性を見落としている。
我々は,モデルが注意をそらす可能性を直接測定し,罰する,新しいポストホックキャリブレーション手法であるtextscCaliDistを紹介した。
textscCaliDistは、強いベースラインと比較して、期待の低いエラー(ECE)とBrier Scoreを一貫して達成します。
論文 参考訳（メタデータ） (2026-06-04T07:27:53Z) - Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。
鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。
我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
論文 参考訳（メタデータ） (2026-05-21T08:57:38Z) - Scalable Utility-Aware Multiclass Calibration [53.28176049547449]
ユーティリティキャリブレーション(英: Utility calibration)は、特定のユーティリティ関数に対するキャリブレーション誤差を測定する一般的なフレームワークである。
我々は、このフレームワークが既存のキャリブレーションメトリクスを統一し、再解釈する方法を実証する。
論文 参考訳（メタデータ） (2025-10-29T12:32:14Z) - Post-Hoc Split-Point Self-Consistency Verification for Efficient, Unified Quantification of Aleatoric and Epistemic Uncertainty in Deep Learning [5.996056764788456]
不確実性定量化(UQ)は、信頼できる深層学習には不可欠であるが、既存の手法は計算集約的であるか、タスク固有の部分的な見積もりのみを提供する。
本研究では,事前訓練したモデルの変更や再訓練を伴わずに,アレタリックおよびてんかんの不確実性を共同でキャプチャするポストホック・シングルフォワード・パス・フレームワークを提案する。
提案手法は,EmphSplit-Point Analysis (SPA) を用いて,予測残差を上下サブセットに分解し,各側でEmphMean Absolute Residuals (MAR) を演算する。
論文 参考訳（メタデータ） (2025-09-16T17:16:01Z) - Instance-Wise Monotonic Calibration by Constrained Transformation [7.331937231993605]
キャリブレーションの一般的なアプローチは、未確認のバリデーションデータにポストホックキャリブレーションマップを適合させることである。
既存のポストホックキャリブレーション法では、モノトニック性は保証されていない。
本稿では,新しいモノトニックポストホックキャリブレーション法を提案する。
論文 参考訳（メタデータ） (2025-07-09T03:32:49Z) - OrthoGrad Improves Neural Calibration [0.0]
$perp$Gradは、過信に対処するために降下方向を制約する。
$perp$Gradは、最適化のための幾何学的な修正である。
論文 参考訳（メタデータ） (2025-06-04T22:12:46Z) - Orthogonal Causal Calibration [55.28164682911196]
我々は、因果校正作業を標準(非因果予測モデル)の校正作業に還元する一般的なアルゴリズムを開発する。
以上の結果から,既存のキャリブレーションアルゴリズムを因果的設定に応用できることが示唆された。
論文 参考訳（メタデータ） (2024-06-04T03:35:25Z) - On Computationally Efficient Multi-Class Calibration [9.032290717007065]
プロジェクトのキャリブレーションは、下流の意思決定者全員に強い保証を与えます。
これは、ラベルに割り当てられた確率を$T$にまとめることで予測される確率が、完全に校正されたバイナリ予測器に近いことを保証している。
論文 参考訳（メタデータ） (2024-02-12T17:25:23Z) - Transformers as Support Vector Machines [54.642793677472724]
自己アテンションの最適化幾何と厳密なSVM問題との間には,形式的等価性を確立する。
勾配降下に最適化された1層変圧器の暗黙バイアスを特徴付ける。
これらの発見は、最適なトークンを分離し選択するSVMの階層としてのトランスフォーマーの解釈を刺激していると信じている。
論文 参考訳（メタデータ） (2023-08-31T17:57:50Z) - A Consistent and Differentiable Lp Canonical Calibration Error Estimator [21.67616079217758]
ディープニューラルネットワークは校正が不十分で、自信過剰な予測を出力する傾向がある。
ディリクレ核密度推定に基づく低バイアス・トレーニング可能な校正誤差推定器を提案する。
提案手法はカーネルの自然な選択であり,他の量の一貫した推定値を生成するのに利用できる。
論文 参考訳（メタデータ） (2022-10-13T15:11:11Z) - Localized Calibration: Metrics and Recalibration [133.07044916594361]
完全大域キャリブレーションと完全個別化キャリブレーションのギャップにまたがる細粒度キャリブレーション指標を提案する。
次に,局所再校正法であるLoReを導入し,既存の校正法よりもLCEを改善する。
論文 参考訳（メタデータ） (2021-02-22T07:22:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。