論文の概要: Socrates Loss: Unifying Confidence Calibration and Classification by Leveraging the Unknown
- arxiv url: http://arxiv.org/abs/2604.12245v1
- Date: Tue, 14 Apr 2026 03:43:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-15 19:11:32.219227
- Title: Socrates Loss: Unifying Confidence Calibration and Classification by Leveraging the Unknown
- Title(参考訳): ソクラテスの損失:未知の知識の活用による信頼性の校正と分類の統一
- Authors: Sandra Gómez-Gálvez, Tobias Olenyi, Gillian Dobbie, Katerina Taškova,
- Abstract要約: ディープニューラルネットワークは、高い精度にもかかわらず、しばしば信頼性のキャリブレーションが低く、高い精度のアプリケーションでの信頼性を制限している。
現在のアドホック信頼度校正法は、トレーニング中にこれを修正しようとするが、基本的なトレードオフに直面している。
本稿では、この安定性と性能のトレードオフに対処し緩和する。
補助的未知のクラスを組み込むことにより、不確実性を明確に活用する、新規で統一された損失関数であるSocrates Lossを提案する。
- 参考スコア(独自算出の注目度): 4.503897051444244
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural networks, despite their high accuracy, often exhibit poor confidence calibration, limiting their reliability in high-stakes applications. Current ad-hoc confidence calibration methods attempt to fix this during training but face a fundamental trade-off: two-phase training methods achieve strong classification performance at the cost of training instability and poorer confidence calibration, while single-loss methods are stable but underperform in classification. This paper addresses and mitigates this stability-performance trade-off. We propose Socrates Loss, a novel, unified loss function that explicitly leverages uncertainty by incorporating an auxiliary unknown class, whose predictions directly influence the loss function and a dynamic uncertainty penalty. This unified objective allows the model to be optimized for both classification and confidence calibration simultaneously, without the instability of complex, scheduled losses. We provide theoretical guarantees that our method regularizes the model to prevent miscalibration and overfitting. Across four benchmark datasets and multiple architectures, our comprehensive experiments demonstrate that Socrates Loss consistently improves training stability while achieving more favorable accuracy-calibration trade-off, often converging faster than existing methods.
- Abstract(参考訳): ディープニューラルネットワークは、高い精度にもかかわらず、しばしば信頼性のキャリブレーションが低く、高い精度のアプリケーションでの信頼性を制限している。
現在のアドホック信頼度校正法は、トレーニング中にこれを修正しようとするが、基本的なトレードオフに直面している。二相訓練法は、トレーニング不安定性と信頼性校正の低さを犠牲にして、強力な分類性能を達成する一方、シングルロス法は安定したが、分類では不十分である。
本稿では、この安定性と性能のトレードオフに対処し緩和する。
本稿では,損失関数と動的不確実性ペナルティに直接影響する補助的未知のクラスを組み込むことにより,不確実性を明確に活用する新規な統一的損失関数であるソクラテス・ロスを提案する。
この統合された目的により、複雑なスケジュールされた損失の不安定さなしに、モデルの分類と信頼性のキャリブレーションを同時に最適化することができる。
提案手法は,誤校正や過度な適合を防ぐためにモデルを正規化することを理論的に保証する。
4つのベンチマークデータセットと複数のアーキテクチャの総合的な実験により、Socrates Lossはトレーニングの安定性を継続的に改善し、より良好な精度と校正のトレードオフを実現し、多くの場合、既存の方法よりも高速に収束することを示した。
関連論文リスト
- QuAIL: Quality-Aware Inertial Learning for Robust Training under Data Corruption [7.630511612007769]
品質インフォームドトレーニング機構QuAILを学習プロセスに直接組み込む。
QuAILは、ランダムと値依存の両方の汚損の下で、ニューラルベースラインよりも平均性能を一貫して向上することを示す。
論文 参考訳(メタデータ) (2026-02-03T16:06:30Z) - Balancing Classification and Calibration Performance in Decision-Making LLMs via Calibration Aware Reinforcement Learning [10.123352394689134]
よく校正された信頼性により、下流のシステムは、いつモデルを信頼するか、いつフォールバックメカニズムを延期するかを決定できる。
RLVRはタスク性能を向上するが、極めて自信過剰なモデルを生成する。
本稿では,意思決定確率を直接調整するキャリブレーション対応強化学習の定式化を提案する。
論文 参考訳(メタデータ) (2026-01-19T18:31:31Z) - Open-World Deepfake Attribution via Confidence-Aware Asymmetric Learning [78.92934995292113]
本稿では,既知の偽造と新規な偽造の信頼のバランスをとる,信頼を意識した非対称学習(CAL)フレームワークを提案する。
CALは従来手法を一貫して上回り、既知の偽造と新しい偽造の両方で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-12-14T12:31:28Z) - Uncertainty-Aware Post-Hoc Calibration: Mitigating Confidently Incorrect Predictions Beyond Calibration Metrics [6.9681910774977815]
本稿では、校正品質と不確実性を考慮した意思決定を向上させるためのポストホック校正フレームワークを提案する。
校正基準,不確実性認識性能測定,実証的コンフォメーションカバレッジを用いて総合評価を行った。
実験により,提案手法はイソトニックおよび焦点損失ベースラインと比較して,信頼性の低い予測精度と競合予測誤差を実現することが示された。
論文 参考訳(メタデータ) (2025-10-19T23:55:36Z) - Deep Neural Network Calibration by Reducing Classifier Shift with Stochastic Masking [24.347895497146876]
ディープニューラルネットワーク(DNN)は、特に自律運転やヘルスケアといった安全上重要なシナリオにおいて、キャリブレーションの低下に悩まされることが多い。
そこで本稿では,マスクを用いたキャリブレーション手法であるMaC-Calを提案する。
MaC-Calはデータ破損時のキャリブレーション性能とロバスト性に優れる。
論文 参考訳(メタデータ) (2025-08-12T17:50:23Z) - CLUE: Neural Networks Calibration via Learning Uncertainty-Error alignment [7.702016079410588]
CLUE(Calibration via Learning Uncertainty-Error Alignment)は,学習中の予測不確かさを観測誤差と整合させる新しい手法である。
CLUEは,最先端のアプローチに対して,キャリブレーション品質と競争予測性能に優れることを示す。
論文 参考訳(メタデータ) (2025-05-28T19:23:47Z) - Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。
トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
論文 参考訳(メタデータ) (2024-02-13T11:25:20Z) - Binary Classification with Confidence Difference [100.08818204756093]
本稿では,信頼性差分法 (ConfDiff) という,弱教師付き二項分類問題について考察する。
本稿では,この問題に対処するためのリスク一貫性のあるアプローチを提案し,推定誤差が最適収束率と一致することを示す。
また,整合性や収束率も証明されたオーバーフィッティング問題を緩和するためのリスク補正手法も導入する。
論文 参考訳(メタデータ) (2023-10-09T11:44:50Z) - Adversarial Robustness on In- and Out-Distribution Improves
Explainability [109.68938066821246]
RATIOは、Adversarial Training on In- and Out-distriionを通じて、堅牢性のためのトレーニング手順である。
RATIOはCIFAR10で最先端の$l$-adrialを実現し、よりクリーンな精度を維持している。
論文 参考訳(メタデータ) (2020-03-20T18:57:52Z) - Binary Classification from Positive Data with Skewed Confidence [85.18941440826309]
肯定的信頼度(Pconf)分類は、有望な弱教師付き学習法である。
実際には、信頼はアノテーションプロセスで生じるバイアスによって歪められることがある。
本稿では、スキュード信頼度のパラメータ化モデルを導入し、ハイパーパラメータを選択する方法を提案する。
論文 参考訳(メタデータ) (2020-01-29T00:04:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。