論文の概要: Calibration by Distribution Matching: Trainable Kernel Calibration
Metrics
- arxiv url: http://arxiv.org/abs/2310.20211v1
- Date: Tue, 31 Oct 2023 06:19:40 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-01 16:24:39.190514
- Title: Calibration by Distribution Matching: Trainable Kernel Calibration
Metrics
- Title(参考訳): 分散マッチングによる校正:訓練可能なカーネル校正メトリクス
- Authors: Charles Marx, Sofian Zalouk, Stefano Ermon
- Abstract要約: カーネルベースのキャリブレーションメトリクスを導入し、分類と回帰の両方で一般的なキャリブレーションの形式を統一・一般化する。
これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。
決定タスクにキャリブレーションメトリクスを調整し、正確な損失推定を行ない、後悔しない決定を行うための直感的なメカニズムを提供する。
- 参考スコア(独自算出の注目度): 56.629245030893685
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Calibration ensures that probabilistic forecasts meaningfully capture
uncertainty by requiring that predicted probabilities align with empirical
frequencies. However, many existing calibration methods are specialized for
post-hoc recalibration, which can worsen the sharpness of forecasts. Drawing on
the insight that calibration can be viewed as a distribution matching task, we
introduce kernel-based calibration metrics that unify and generalize popular
forms of calibration for both classification and regression. These metrics
admit differentiable sample estimates, making it easy to incorporate a
calibration objective into empirical risk minimization. Furthermore, we provide
intuitive mechanisms to tailor calibration metrics to a decision task, and
enforce accurate loss estimation and no regret decisions. Our empirical
evaluation demonstrates that employing these metrics as regularizers enhances
calibration, sharpness, and decision-making across a range of regression and
classification tasks, outperforming methods relying solely on post-hoc
recalibration.
- Abstract(参考訳): キャリブレーションは、予測される確率が経験的頻度に合致するように要求することで、確率的予測が有意義に不確実性を捉えることを保証する。
しかし、既存の多くのキャリブレーション手法はポストホックな再調整に特化しており、予測の鋭さを悪化させる可能性がある。
本稿では,キャリブレーションを分散マッチングタスクと見なすことができるという考察から,分類と回帰の両方において一般的なキャリブレーションを統一し,一般化するカーネルベースのキャリブレーションメトリクスを提案する。
これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。
さらに,キャリブレーション指標を決定タスクに合わせるための直感的なメカニズムを提供し,正確な損失推定と後悔的な決定を強制する。
我々は,これらの指標をレギュラライザとして用いることで,回帰・分類タスク全体のキャリブレーション,シャープネス,意思決定が向上することを示す。
関連論文リスト
- Optimizing Estimators of Squared Calibration Errors in Classification [2.3020018305241337]
本稿では,2乗キャリブレーション誤差の推定器の比較と最適化を可能にする平均二乗誤差に基づくリスクを提案する。
キャリブレーション誤差を推定する際のトレーニングバリデーションテストパイプラインを提案する。
論文 参考訳(メタデータ) (2024-10-09T15:58:06Z) - Towards Certification of Uncertainty Calibration under Adversarial Attacks [96.48317453951418]
攻撃はキャリブレーションを著しく損なう可能性を示し, 対向的摂動下でのキャリブレーションにおける最悪のキャリブレーション境界として認定キャリブレーションを提案する。
我々は,新しいキャリブレーション攻撃を提案し,テクスタディバーショナルキャリブレーショントレーニングによりモデルキャリブレーションを改善する方法を示す。
論文 参考訳(メタデータ) (2024-05-22T18:52:09Z) - From Uncertainty to Precision: Enhancing Binary Classifier Performance
through Calibration [0.3495246564946556]
モデル予測スコアはイベント確率として一般的に見なされるので、キャリブレーションは正確な解釈に不可欠である。
歪み評価のための様々なキャリブレーション尺度の感度を解析し,改良された指標であるローカルスコアを導入する。
これらの知見をランダムフォレスト分類器と回帰器を用いて実世界のシナリオに適用し、キャリブレーションを同時に測定しながら信用デフォルトを予測する。
論文 参考訳(メタデータ) (2024-02-12T16:55:19Z) - Calibration of Neural Networks [77.34726150561087]
本稿では,ニューラルネットワークの文脈における信頼性校正問題について調査する。
我々は,問題文,キャリブレーション定義,評価に対する異なるアプローチについて分析する。
実験実験では、様々なデータセットとモデルをカバーし、異なる基準に従って校正方法を比較する。
論文 参考訳(メタデータ) (2023-03-19T20:27:51Z) - Better Uncertainty Calibration via Proper Scores for Classification and
Beyond [15.981380319863527]
各校正誤差を適切なスコアに関連付ける適切な校正誤差の枠組みを導入する。
この関係は、モデルのキャリブレーションの改善を確実に定量化するために利用することができる。
論文 参考訳(メタデータ) (2022-03-15T12:46:08Z) - Localized Calibration: Metrics and Recalibration [133.07044916594361]
完全大域キャリブレーションと完全個別化キャリブレーションのギャップにまたがる細粒度キャリブレーション指標を提案する。
次に,局所再校正法であるLoReを導入し,既存の校正法よりもLCEを改善する。
論文 参考訳(メタデータ) (2021-02-22T07:22:12Z) - Unsupervised Calibration under Covariate Shift [92.02278658443166]
ドメインシフト下でのキャリブレーションの問題を導入し、それに対処するための重要サンプリングに基づくアプローチを提案する。
実世界のデータセットと合成データセットの両方において,本手法の有効性を評価し検討した。
論文 参考訳(メタデータ) (2020-06-29T21:50:07Z) - Calibration of Neural Networks using Splines [51.42640515410253]
キャリブレーション誤差の測定は、2つの経験的分布を比較します。
古典的コルモゴロフ・スミルノフ統計テスト(KS)にインスパイアされたビンニングフリーキャリブレーション尺度を導入する。
提案手法は,KS誤差に対する既存の手法と,他の一般的なキャリブレーション手法とを一貫して比較する。
論文 参考訳(メタデータ) (2020-06-23T07:18:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。