論文の概要: Parametric $ρ$-Norm Scaling Calibration
- arxiv url: http://arxiv.org/abs/2412.15301v1
- Date: Thu, 19 Dec 2024 10:42:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-23 16:21:23.263285
- Title: Parametric $ρ$-Norm Scaling Calibration
- Title（参考訳）: パラメトリック$ρ$-Normスケーリング校正
- Authors: Siyuan Zhang, Linbo Xie,
- Abstract要約: 出力の不確実性は、確率的特性がモデル出力の客観的特性を反映しているかどうかを示す。
本稿では,処理後パラメトリックキャリブレーション法である$rho$-Norm Scalingを導入し,キャリブレータ表現を拡張し,過度な振幅による過信を緩和する。
- 参考スコア（独自算出の注目度）: 8.583311125489942
- License:
- Abstract: Output uncertainty indicates whether the probabilistic properties reflect objective characteristics of the model output. Unlike most loss functions and metrics in machine learning, uncertainty pertains to individual samples, but validating it on individual samples is unfeasible. When validated collectively, it cannot fully represent individual sample properties, posing a challenge in calibrating model confidence in a limited data set. Hence, it is crucial to consider confidence calibration characteristics. To counter the adverse effects of the gradual amplification of the classifier output amplitude in supervised learning, we introduce a post-processing parametric calibration method, $\rho$-Norm Scaling, which expands the calibrator expression and mitigates overconfidence due to excessive amplitude while preserving accuracy. Moreover, bin-level objective-based calibrator optimization often results in the loss of significant instance-level information. Therefore, we include probability distribution regularization, which incorporates specific priori information that the instance-level uncertainty distribution after calibration should resemble the distribution before calibration. Experimental results demonstrate the substantial enhancement in the post-processing calibrator for uncertainty calibration with our proposed method.
- Abstract（参考訳）: 出力の不確実性は、確率的特性がモデル出力の客観的特性を反映しているかどうかを示す。
機械学習におけるほとんどの損失関数やメトリクスとは異なり、不確実性は個々のサンプルに関連するが、個々のサンプルでそれを検証することは不可能である。
集合的に検証すると、個々のサンプル特性を完全に表現することはできず、限られたデータセットでモデルの信頼性を校正する上での課題となる。
したがって、信頼性校正特性を考慮することが重要である。
教師あり学習における分類器出力振幅の漸進的増幅による悪影響に対処するため, 精度を保ちながらキャリブレータ表現を拡張し, 過度の振幅による過信を緩和する, 後処理パラメトリックキャリブレーション法である$\rho$-Norm Scalingを導入する。
さらに、ビンレベルの客観的なキャリブレータ最適化は、しばしば重要なインスタンスレベルの情報を失う。
したがって,キャリブレーション後のインスタンスレベルの不確実性分布は,キャリブレーション前の分布に類似すべきという,特定の事前情報を含む確率分布正則化を含む。
提案手法を用いて, 不確実性校正のための後処理校正器の大幅な向上を実証した。
関連論文リスト
- Improving reliability of uncertainty-aware gaze estimation with probability calibration [13.564919425738163]
現在のディープラーニングによる外見に基づく不確実性認識による視線推定モデルは、一貫性のない信頼できない不確実性推定を生成する。
本稿では,いくつかのポストホックサンプルを用いた確率校正による不確実性推定の精度向上のためのワークフローを提案する。
論文 参考訳（メタデータ） (2025-01-24T19:33:55Z) - Combining Priors with Experience: Confidence Calibration Based on Binomial Process Modeling [3.4580564656984736]
既存の信頼性校正法は主に統計手法を用いてデータから校正曲線を推定する。
推定キャリブレーション曲線を利用して真のキャリブレーション誤差(TCE)を推定する新しいキャリブレーション計量(TCE_bpm$)を設計する。
実世界およびシミュレーションデータにおいて,キャリブレーション手法と測定値の有効性を検証した。
論文 参考訳（メタデータ） (2024-12-14T03:04:05Z) - Calibrating Deep Neural Network using Euclidean Distance [5.675312975435121]
機械学習では、Focal Lossは、サンプルの分類が難しいことを強調することで、誤分類率を減らすために一般的に使用される。
高校正誤差は予測確率と実際の結果との相違を示し、モデルの信頼性に影響を及ぼす。
本研究では,FCL (Focal Loss) と呼ばれる新しい損失関数を導入する。
論文 参考訳（メタデータ） (2024-10-23T23:06:50Z) - Towards Certification of Uncertainty Calibration under Adversarial Attacks [96.48317453951418]
攻撃はキャリブレーションを著しく損なう可能性を示し, 対向的摂動下でのキャリブレーションにおける最悪のキャリブレーション境界として認定キャリブレーションを提案する。
我々は,新しいキャリブレーション攻撃を提案し,テクスタディバーショナルキャリブレーショントレーニングによりモデルキャリブレーションを改善する方法を示す。
論文 参考訳（メタデータ） (2024-05-22T18:52:09Z) - Calibration by Distribution Matching: Trainable Kernel Calibration
Metrics [56.629245030893685]
カーネルベースのキャリブレーションメトリクスを導入し、分類と回帰の両方で一般的なキャリブレーションの形式を統一・一般化する。
これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。
決定タスクにキャリブレーションメトリクスを調整し、正確な損失推定を行ない、後悔しない決定を行うための直感的なメカニズムを提供する。
論文 参考訳（メタデータ） (2023-10-31T06:19:40Z) - Sharp Calibrated Gaussian Processes [58.94710279601622]
キャリブレーションされたモデルを設計するための最先端のアプローチは、ガウス過程の後方分散を膨らませることに依存している。
本稿では,バニラガウス過程の後方分散にインスパイアされた計算を用いて,予測量子化を生成するキャリブレーション手法を提案する。
我々のアプローチは合理的な仮定の下で校正されたモデルが得られることを示す。
論文 参考訳（メタデータ） (2023-02-23T12:17:36Z) - Variable-Based Calibration for Machine Learning Classifiers [11.9995808096481]
モデルのキャリブレーション特性を特徴付けるために,変数ベースのキャリブレーションの概念を導入する。
ほぼ完全なキャリブレーション誤差を持つモデルでは,データの特徴の関数としてかなりの誤校正が期待できることがわかった。
論文 参考訳（メタデータ） (2022-09-30T00:49:31Z) - Localized Calibration: Metrics and Recalibration [133.07044916594361]
完全大域キャリブレーションと完全個別化キャリブレーションのギャップにまたがる細粒度キャリブレーション指標を提案する。
次に,局所再校正法であるLoReを導入し,既存の校正法よりもLCEを改善する。
論文 参考訳（メタデータ） (2021-02-22T07:22:12Z) - Unsupervised Calibration under Covariate Shift [92.02278658443166]
ドメインシフト下でのキャリブレーションの問題を導入し、それに対処するための重要サンプリングに基づくアプローチを提案する。
実世界のデータセットと合成データセットの両方において,本手法の有効性を評価し検討した。
論文 参考訳（メタデータ） (2020-06-29T21:50:07Z) - Individual Calibration with Randomized Forecasting [116.2086707626651]
予測値がランダムに設定された場合,各サンプルのキャリブレーションは回帰設定で可能であることを示す。
我々は、個別の校正を強制する訓練目標を設計し、それをランダム化された回帰関数の訓練に使用する。
論文 参考訳（メタデータ） (2020-06-18T05:53:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。