論文の概要: Towards Accurate and Calibrated Classification: Regularizing Cross-Entropy From A Generative Perspective

• arxiv url: http://arxiv.org/abs/2604.06689v1
• Date: Wed, 08 Apr 2026 05:11:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.348135
• Title: Towards Accurate and Calibrated Classification: Regularizing Cross-Entropy From A Generative Perspective
• Title（参考訳）: 正確な分類と校正に向けて:生成的観点からのクロスエントロピーの正規化
• Authors: Qipeng Zhan, Zhuoping Zhou, Li Shen,
• Abstract要約: 生成的クロスエントロピー (Generative Cross-Entropy, GCE) は、クラスレベルの信頼正規化器で強化されたクロスエントロピーと等価である。 GCEは精度を犠牲にすることなく、フォーカスロスの変種と競合するキャリブレーションを実現する。
• 参考スコア（独自算出の注目度）: 11.480485886662327
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Accurate classification requires not only high predictive accuracy but also well-calibrated confidence estimates. Yet, modern deep neural networks (DNNs) are often overconfident, primarily due to overfitting on the negative log-likelihood (NLL). While focal loss variants alleviate this issue, they typically reduce accuracy, revealing a persistent trade-off between calibration and predictive performance. Motivated by the complementary strengths of generative and discriminative classifiers, we propose Generative Cross-Entropy (GCE), which maximizes $p(x|y)$ and is equivalent to cross-entropy augmented with a class-level confidence regularizer. Under mild conditions, GCE is strictly proper. Across CIFAR-10/100, Tiny-ImageNet, and a medical imaging benchmark, GCE improves both accuracy and calibration over cross-entropy, especially in the long-tailed scenario. Combined with adaptive piecewise temperature scaling (ATS), GCE attains calibration competitive with focal-loss variants without sacrificing accuracy.
• Abstract（参考訳）: 正確な分類には高い予測精度だけでなく、よく校正された信頼推定が必要である。 しかし、現代のディープニューラルネットワーク(DNN)は、主に負のログ類似度(NLL)に過度に適合するため、しばしば過信される。 焦点損失の変種はこの問題を緩和するが、通常は精度を低下させ、キャリブレーションと予測性能の間の永続的なトレードオフを明らかにする。 生成的および識別的分類器の相補的強みによって動機づけられた生成的クロスエントロピー(GCE)を提案し、これは$p(x|y)$を最大化し、クラスレベルの信頼正則化器で強化されたクロスエントロピーと同値である。 穏やかな条件下では、GCEは厳密に適している。 CIFAR-10/100、Tiny-ImageNet、および医療画像ベンチマーク全体において、GCEは、特に長い尾のシナリオにおいて、クロスエントロピーの精度とキャリブレーションの両方を改善している。 適応的なピースワイド温度スケーリング(ATS)と組み合わせることで、GCEは精度を犠牲にすることなく焦点空間の変動と競合するキャリブレーションを実現する。

関連論文リスト

• Margin and Consistency Supervision for Calibrated and Robust Vision Models [1.0152838128195467]
  Margin and Consistency Supervision (MaCS)は、アーキテクチャに依存しないシンプルな正規化フレームワークである。 MACSはロジト空間分離と局所予測安定性を共同で実施する。 我々は,リプシッツ型安定性プロキシにより定式化された局所感度を低下させながら,分類マージンを増大させることにより,一般化の保証が向上することを示した。
  論文  参考訳（メタデータ） (2026-03-06T01:54:28Z)
• Towards Calibrated Deep Clustering Network [60.71776081164377]
  ディープクラスタリングでは、特定のクラスタに属するサンプルに対する推定信頼度はその実際の予測精度を大きく上回る。 推定された信頼度と実際の精度を効果的にキャリブレーションできる新しいデュアルヘッド(キャリブレーションヘッドとクラスタリングヘッド)深層クラスタリングモデルを提案する。 提案したキャリブレーション深層クラスタリングモデルでは, キャリブレーション誤差の予測値において, 最先端の深部クラスタリング手法を平均5倍に越えるだけでなく, クラスタリング精度も大幅に向上する。
  論文  参考訳（メタデータ） (2024-03-04T11:23:40Z)
• How to Fix a Broken Confidence Estimator: Evaluating Post-hoc Methods for Selective Classification with Deep Neural Networks [1.4502611532302039]
  我々は,ロジットの単純な$p$-norm正規化を行い,次に最大ロジットを信頼度推定器とすることで,選択的分類性能が著しく向上することを示した。 我々の結果は、分布シフトの下で一貫していることが示されている。
  論文  参考訳（メタデータ） (2023-05-24T18:56:55Z)
• Bridging Precision and Confidence: A Train-Time Loss for Calibrating Object Detection [58.789823426981044]
  本稿では,境界ボックスのクラス信頼度を予測精度に合わせることを目的とした,新たな補助損失定式化を提案する。 その結果,列車の走行時間損失はキャリブレーション基準を超過し,キャリブレーション誤差を低減させることがわかった。
  論文  参考訳（メタデータ） (2023-03-25T08:56:21Z)
• AdaFocal: Calibration-aware Adaptive Focal Loss [8.998525155518836]
  焦点損失のあるトレーニングは、クロスエントロピーよりもキャリブレーションが優れている。 AdaFocal と呼ばれる適応型焦点損失を校正する手法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T20:19:24Z)
• Beyond calibration: estimating the grouping loss of modern neural networks [68.8204255655161]
  適切なスコアリングルール理論は、キャリブレーション損失が与えられた場合、個々のエラーを特徴づける欠片がグループ化損失であることを示している。 視覚およびNLPにおける現代のニューラルネットワークアーキテクチャは、特に分散シフト設定においてグループ化損失を示す。
  論文  参考訳（メタデータ） (2022-10-28T07:04:20Z)
• Sample-dependent Adaptive Temperature Scaling for Improved Calibration [95.7477042886242]
  ニューラルネットワークの誤りを補うポストホックアプローチは、温度スケーリングを実行することだ。 入力毎に異なる温度値を予測し、信頼度と精度のミスマッチを調整することを提案する。 CIFAR10/100およびTiny-ImageNetデータセットを用いて,ResNet50およびWideResNet28-10アーキテクチャ上で本手法をテストする。
  論文  参考訳（メタデータ） (2022-07-13T14:13:49Z)
• Calibrating Deep Neural Networks using Focal Loss [77.92765139898906]
  ミススキャリブレーション(Miscalibration)は、モデルの信頼性と正しさのミスマッチである。 焦点損失は、既に十分に校正されたモデルを学ぶことができることを示す。 ほぼすべてのケースにおいて精度を損なうことなく,最先端のキャリブレーションを達成できることを示す。
  論文  参考訳（メタデータ） (2020-02-21T17:35:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。