論文の概要: Bandwidth Selection in Kernel Density Estimation for Model Calibration
- arxiv url: http://arxiv.org/abs/2606.29925v1
- Date: Mon, 29 Jun 2026 08:02:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.119887
- Title: Bandwidth Selection in Kernel Density Estimation for Model Calibration
- Title（参考訳）: モデル校正のためのカーネル密度推定における帯域幅選択
- Authors: Han Zhou, Teodora Popordanoska, Matthew Blaschko,
- Abstract要約: カーネル密度推定(KDE)は、誤校正の定量化のための従来のビンニングのスムーズで連続的な代替手段として登場した。
MLE(Maximum Likelihood Estimation)のような標準選択手法は、キャリブレーションタスクに最適な帯域幅を生成できないことが多い。
- 参考スコア（独自算出の注目度）: 12.364530559109033
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: As deep learning models are increasingly deployed in high-stakes applications, providing well-calibrated uncertainty estimates has become as critical as achieving high predictive accuracy. While Kernel Density Estimation (KDE) has emerged as a smooth and continuous alternative to traditional binning for quantifying miscalibration, its reliability is heavily dependent on the choice of the kernel bandwidth. Standard selection techniques, such as Maximum Likelihood Estimation (MLE), often fail to produce optimal bandwidths for calibration tasks. In this work, we introduce Risk Alignment (RA), a novel optimization framework that determines the optimal bandwidth by aligning KDE-reconstructed risk with empirical risk. We theoretically demonstrate that this alignment minimizes calibration estimation bias across the data distribution, establishing a principled bandwidth selection criterion applicable to various metrics, including the challenging case of canonical calibration error. Extensive experiments across multiple architectures and datasets show that RA consistently outperforms standard bandwidth selection methods, yielding more reliable calibration assessments.
- Abstract（参考訳）: ディープラーニングモデルがハイテイクなアプリケーションにますます導入されるにつれて、高い予測精度を達成するのと同じくらい、よく校正された不確実性推定を提供することが重要になっている。
カーネル密度推定(KDE)は、誤校正の定量化のための従来のビンニングのスムーズで連続的な代替として登場したが、その信頼性はカーネル帯域幅の選択に大きく依存している。
MLE(Maximum Likelihood Estimation)のような標準選択手法は、キャリブレーションタスクに最適な帯域幅を生成できないことが多い。
本稿では、KDE再構成リスクと経験的リスクを整合させることにより最適な帯域幅を決定する新しい最適化フレームワークであるリスクアライメント(RA)を紹介する。
このアライメントは、データ分布全体のキャリブレーション推定バイアスを最小限に抑え、カノニカルなキャリブレーション誤差を含む様々な指標に適用可能な帯域幅選択基準を確立することを理論的に実証する。
複数のアーキテクチャやデータセットにわたる大規模な実験により、RAは標準帯域選択法より一貫して優れており、より信頼性の高い校正評価が得られている。
関連論文リスト
- Revisiting Reweighted Risk for Calibration: AURC, Focal, and Inverse Focal Loss [24.141034387131267]
深層学習で一般的に用いられる重み付きリスク関数のクラスを再検討し,キャリブレーション誤差と選択分類の原則的関連性を確立する。
キャリブレーション誤差の最小化は選択的分類パラダイムと密接に関連していることを示し、低信頼領域における選択的リスクの最適化が自然にキャリブレーションの改善につながることを示した。
論文 参考訳（メタデータ） (2025-05-29T14:12:12Z) - Adaptive Set-Mass Calibration with Conformal Prediction [60.47079469141295]
提案手法は,まず共形予測から始まり,所望のカバレッジを与えるラベルの集合を得る。
次に、共形制約に合わせて、質量正規化と温度スケーリングに基づくルールの2つの簡単なポストホックキャリブレータをインスタンス化する。
論文 参考訳（メタデータ） (2025-05-21T12:18:15Z) - Optimizing Estimators of Squared Calibration Errors in Classification [2.3020018305241337]
本稿では,2乗キャリブレーション誤差の推定器の比較と最適化を可能にする平均二乗誤差に基づくリスクを提案する。
キャリブレーション誤差を推定する際のトレーニングバリデーションテストパイプラインを提案する。
論文 参考訳（メタデータ） (2024-10-09T15:58:06Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳（メタデータ） (2023-11-08T00:10:21Z) - Calibration by Distribution Matching: Trainable Kernel Calibration
Metrics [56.629245030893685]
カーネルベースのキャリブレーションメトリクスを導入し、分類と回帰の両方で一般的なキャリブレーションの形式を統一・一般化する。
これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。
決定タスクにキャリブレーションメトリクスを調整し、正確な損失推定を行ない、後悔しない決定を行うための直感的なメカニズムを提供する。
論文 参考訳（メタデータ） (2023-10-31T06:19:40Z) - Calibration-Aware Bayesian Learning [37.82259435084825]
本稿では、キャリブレーション対応ベイズニューラルネットワーク(CA-BNN)と呼ばれる統合フレームワークを提案する。
ベイズ学習のように変分分布を最適化しながら、データ依存あるいはデータ非依存の正則化をそれぞれ適用する。
予測キャリブレーション誤差(ECE)と信頼性図を用いて,提案手法の利点を検証した。
論文 参考訳（メタデータ） (2023-05-12T14:19:15Z) - Sharp Calibrated Gaussian Processes [58.94710279601622]
キャリブレーションされたモデルを設計するための最先端のアプローチは、ガウス過程の後方分散を膨らませることに依存している。
本稿では,バニラガウス過程の後方分散にインスパイアされた計算を用いて,予測量子化を生成するキャリブレーション手法を提案する。
我々のアプローチは合理的な仮定の下で校正されたモデルが得られることを示す。
論文 参考訳（メタデータ） (2023-02-23T12:17:36Z) - Calibration of Neural Networks using Splines [51.42640515410253]
キャリブレーション誤差の測定は、2つの経験的分布を比較します。
古典的コルモゴロフ・スミルノフ統計テスト(KS)にインスパイアされたビンニングフリーキャリブレーション尺度を導入する。
提案手法は,KS誤差に対する既存の手法と,他の一般的なキャリブレーション手法とを一貫して比較する。
論文 参考訳（メタデータ） (2020-06-23T07:18:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。