論文の概要: Enhancing Deep Neural Network Reliability with Refinement and Calibration
- arxiv url: http://arxiv.org/abs/2605.23249v1
- Date: Fri, 22 May 2026 05:43:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 17:29:20.212429
- Title: Enhancing Deep Neural Network Reliability with Refinement and Calibration
- Title（参考訳）: 微細化と校正によるディープニューラルネットワークの信頼性向上
- Authors: Ramya Hebbalaguppe, Ajay Shastry, Soumya Suvra Ghosal, Chetan Arora,
- Abstract要約: ディープニューラルネットワーク(DNN)は高い予測精度を達成するが、信頼度推定はしばしば信頼できない。
これはキャリブレーションモデルの研究を動機付けており、キャリブレーションはモデルの予測された信頼度がいかに正確性を示すかを測定する。
本稿では,改良を明示的に促進し,教師付きコントラスト学習によって最適化できる新しい損失関数を提案する。
- 参考スコア（独自算出の注目度）: 13.95050907050228
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Although deep neural networks (DNNs) achieve high predictive accuracy, their confidence estimates are often unreliable, potentially compromising user trust in their decisions. This has motivated research on calibrated models, where calibration measures how well a model's predicted confidence aligns with the empirical probability of correctness. However, calibration metrics can often be improved through post-processing techniques that merely mimic training-time uncertainty without genuinely improving the model's understanding. For this reason, statisticians recommend that models be not only calibrated but also refined. Intuitively, a model is considered more refined if it assigns significantly different confidence scores to correct and incorrect predictions, a property also referred to as sharpness. We observe that many existing calibration methods improve calibration at the cost of reduced refinement. To address this limitation, we propose: (1) a novel loss function that explicitly promotes refinement and can be optimized through supervised contrastive learning; and (2) a unified training framework, RefCal, that jointly optimizes calibration, refinement, and accuracy to improve DNN reliability. On the CIFAR-100-LT dataset with 10 percent class imbalance, RefCal achieves (accuracy, refinement, ECE) of (58.81, 95.67, 0.08), substantially outperforming the widely used Correctness Ranking Loss, which achieves (46.27, 93.7, 0.22).
- Abstract（参考訳）: ディープニューラルネットワーク(DNN)は高い予測精度を達成するが、その信頼性評価はしばしば信頼できないものであり、決定に対するユーザの信頼を損なう可能性がある。
これはキャリブレーションモデルの研究を動機付けており、キャリブレーションはモデルの予測された信頼度がいかに正確性を示すかを測定する。
しかし、キャリブレーションメトリクスは、トレーニング時間の不確実性を模倣するだけで、モデルの理解を真に改善することなく、後処理技術によって改善されることが多い。
このため、統計学者はモデルが校正されるだけでなく、洗練されることを推奨している。
直観的には、モデルがかなり異なる信頼スコアを正当で誤った予測に割り当てると、より洗練されたものと見なされる。
既存のキャリブレーション法では, 改良コストの低減によりキャリブレーションの改善が期待できる。
この制限に対処するため,(1)改良を明示的に促進し,教師付きコントラスト学習により最適化できる新しい損失関数,(2)キャリブレーション,リファインメント,精度を共同で最適化してDNN信頼性を向上させる統合トレーニングフレームワークRefCalを提案する。
10%の不均衡のCIFAR-100-LTデータセットでは、RefCalは58.81, 95.67, 0.08の精度(精度、精細化、ECE)を達成し、広く使われている正確性ランキング損失(46.27, 93.7, 0.22)を大幅に上回っている。
関連論文リスト
- Process Supervision of Confidence Margin for Calibrated LLM Reasoning [52.373121066425455]
強化学習(RL)によるテスト時間計算のスケーリングは,大規模言語モデル(LLM)推論能力を向上させるための信頼性の高い経路として登場した。
しかし、結果に基づく報酬は、しばしばモデルに過信感を与え、幻覚、信頼できない信頼ベースの制御、不要な計算割り当てをもたらす。
本稿では,信頼性と信頼性を両立させるキャリブレーションを意識したRLフレームワークであるReinforcement Learning with Confidence Margin(textbfRLCM)を紹介する。
論文 参考訳（メタデータ） (2026-04-25T14:40:13Z) - Decoupling Reasoning and Confidence: Resurrecting Calibration in Reinforcement Learning from Verifiable Rewards [71.19033708090389]
Reinforcement Learning from Verifiable Rewards (RLVR) は、大きな言語モデル(LLM)推論を著しく強化するが、校正劣化に苦しむ。
推論と校正の目的を体系的に分離するフレームワークであるDCPOを提案する。
論文 参考訳（メタデータ） (2026-03-10T02:47:59Z) - Beyond Binary Rewards: Training LMs to Reason About Their Uncertainty [59.97939500426759]
本稿ではRLCRについて述べる。RLCRは精度と信頼性を共同で向上する推論モデルを訓練する手法である。
多様なデータセット間で、RLCRは精度を損なうことなくキャリブレーションを大幅に改善することを示す。
また,言語的信頼度をテスト時に活用し,精度とキャリブレーションを向上させることも実証した。
論文 参考訳（メタデータ） (2025-07-22T17:56:01Z) - Feature Clipping for Uncertainty Calibration [24.465567005078135]
現代のディープニューラルネットワーク(DNN)は、しばしば過剰な自信に悩まされ、誤校正につながる。
この問題に対処するために,特徴クリッピング(FC)と呼ばれるポストホックキャリブレーション手法を提案する。
FCは特定の閾値に特徴値をクリップし、高い校正誤差サンプルのエントロピーを効果的に増加させる。
論文 参考訳（メタデータ） (2024-10-16T06:44:35Z) - A Confidence Interval for the $\ell_2$ Expected Calibration Error [35.88784957918326]
我々は信頼区間を$ell$ expected the Error (ECE) で開発する。
信頼性キャリブレーションの一般的な概念とキャリブレーションの両方を含む,トップ1からk$のキャリブレーションを考える。
ECEのデバイアスド推定器では、正規性を示すが、校正モデルとミスドモデルに対する収束率と分散は異なる。
論文 参考訳（メタデータ） (2024-08-16T20:00:08Z) - Calibration by Distribution Matching: Trainable Kernel Calibration
Metrics [56.629245030893685]
カーネルベースのキャリブレーションメトリクスを導入し、分類と回帰の両方で一般的なキャリブレーションの形式を統一・一般化する。
これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。
決定タスクにキャリブレーションメトリクスを調整し、正確な損失推定を行ない、後悔しない決定を行うための直感的なメカニズムを提供する。
論文 参考訳（メタデータ） (2023-10-31T06:19:40Z) - Calibration of Neural Networks [77.34726150561087]
本稿では,ニューラルネットワークの文脈における信頼性校正問題について調査する。
我々は,問題文,キャリブレーション定義,評価に対する異なるアプローチについて分析する。
実験実験では、様々なデータセットとモデルをカバーし、異なる基準に従って校正方法を比較する。
論文 参考訳（メタデータ） (2023-03-19T20:27:51Z) - Better Uncertainty Calibration via Proper Scores for Classification and
Beyond [15.981380319863527]
各校正誤差を適切なスコアに関連付ける適切な校正誤差の枠組みを導入する。
この関係は、モデルのキャリブレーションの改善を確実に定量化するために利用することができる。
論文 参考訳（メタデータ） (2022-03-15T12:46:08Z) - Calibrated and Sharp Uncertainties in Deep Learning via Density Estimation [10.209143402485406]
本稿では, キャリブレーションが重要であり, 維持が容易であることを論じる。
校正されたモデルを生成する再校正に基づく簡単なトレーニング手順を導入し、全体的な性能を犠牲にしない。
論文 参考訳（メタデータ） (2021-12-14T06:19:05Z) - On the Dark Side of Calibration for Modern Neural Networks [65.83956184145477]
予測キャリブレーション誤差(ECE)を予測信頼度と改善度に分解する。
正規化に基づくキャリブレーションは、モデルの信頼性を損なうことのみに焦点を当てる。
ラベルの平滑化やミキサアップなど,多くのキャリブレーション手法により,DNNの精度を低下させることで,DNNの有用性を低下させることがわかった。
論文 参考訳（メタデータ） (2021-06-17T11:04:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。